AI có thực sự cứu rỗi nhân loại?

Sự ảo tưởng rằng công nghệ cứu rỗi nhân loại Những người thiếu quan tâm

Sự ảo tưởng rằng công nghệ cứu rỗi nhân loại=Adam Becker, dịch bởi Park Joo-yong, Đông Á.

Tác giả, một nhà vật lý thiên văn và nhà báo khoa học, đã chú ý đến tư tưởng thống trị ở Silicon Valley rằng "cần phát triển công nghệ mới càng sớm càng tốt cho nhân loại". Ông đặt câu hỏi liệu tương lai do công nghệ dẫn dắt có thực sự dựa trên cơ sở khoa học hay chỉ là cách để duy trì sự giàu có và quyền lực của một số tỷ phú ở Silicon Valley.

Cuốn sách tập trung vào các cuộc phỏng vấn với những nhà tư tưởng chủ chốt ở Silicon Valley và Oxford như Eliezer Yudkowsky và Anders Sandberg, những người cho rằng sự xuất hiện của AGI (trí tuệ nhân tạo tổng quát) là điều không thể tránh khỏi. Tác giả theo dõi cách mà thế giới quan "cứu rỗi qua công nghệ (techno-salvation)" hình thành dựa trên các cuộc phỏng vấn này, sự kiểm chứng khoa học các tài liệu gốc và các cuộc điều tra thực địa rộng lớn. Đồng thời, ông cũng chỉ ra những mâu thuẫn trong hệ tư tưởng này.

Cuốn sách xem xét cách mà chủ nghĩa vị tha hiệu quả, điểm kỳ dị, vấn đề căn chỉnh AI, và chủ nghĩa tăng tốc công nghệ đã trở thành tư tưởng chủ đạo, và phê phán từng vấn đề một. Đặc biệt, tác giả phân tích quá trình mà chủ nghĩa vị tha hiệu quả đã coi việc xây dựng thuộc địa không gian trong tương lai là vấn đề cấp bách hơn so với các vấn đề hiện tại như nghèo đói, khủng hoảng khí hậu và chiến tranh. Ông cũng chỉ ra rằng cảnh báo apocalyptic của Yudkowsky rằng "khi AGI xuất hiện, nhân loại có khả năng đối mặt với ngày tận thế" đã khiến mọi người chuyển sự chú ý khỏi các vấn đề thực tiễn như thiên lệch do AI, thay thế lao động và tiêu thụ năng lượng, đồng thời cung cấp lý do cho ngành công nghệ để tránh các quy định.

Tác giả cảnh báo rằng các tầm nhìn chính không chỉ thiếu cơ sở khoa học mà còn có thể trở thành thảm họa cho nhân loại ngay cả khi chúng được thực hiện. Ông cũng nhấn mạnh rằng sự độc quyền công nghệ tập trung vào một số ít có thể trở thành công cụ đàn áp nhân loại.

Cuốn sách nhấn mạnh rằng nỗi sợ hãi mà Silicon Valley nói đến không phải là điều mới mẻ, và khuyến khích mọi người suy nghĩ về việc liệu câu chuyện cứu rỗi mà công nghệ hứa hẹn có thực sự dành cho toàn nhân loại hay không. "Nỗi sợ hãi về ngày tận thế, nỗi sợ hãi về cái chết. Nhưng đây là những điều mà nhân loại đã quen thuộc. Sợ chết là điều tự nhiên, và sự bất tử là ảo tưởng lâu đời nhất của nhân loại."

“Lịch sử nhân loại - đặc biệt là lịch sử thế kỷ 20 - đầy rẫy những ví dụ về các phong trào utopia đã biến thành bạo lực. Năm 1990, triết gia người Anh Isaiah Berlin đã hỏi, 'Nếu có thể làm cho nhân loại mãi mãi công bằng, hạnh phúc, sáng tạo và hòa hợp, thì có điều gì mà chúng ta không thể hy sinh?' Ông nói rằng, 'Nếu có một cái omelet như vậy, thì chúng ta phải đập tất cả những quả trứng có sẵn để làm ra nó. Đây chính là niềm tin của Lenin, Trotsky và Mao Trạch Đông.' Từ việc Yudkowsky khuyên các nhà lãnh đạo thế giới không ngần ngại trong việc gây ra chiến tranh hạt nhân để đạt được mục tiêu, có thể thấy rằng tư tưởng utopia cực đoan này đã ăn sâu vào giữa những người lý trí.” (trang 287)

Những người thiếu quan tâm=Sarah Winfield, dịch bởi An Jin-hwan, Diplo.

Tác giả chia sẻ những trải nghiệm của mình trong 7 năm làm Giám đốc Chính sách công tại Facebook (hiện là Meta) gần gũi với người sáng lập Mark Zuckerberg. Khi gia nhập công ty trong thời kỳ Facebook phát triển thành mạng xã hội toàn cầu, ông tin rằng công nghệ của Facebook sẽ cứu rỗi thế giới. Tuy nhiên, sau đó, ông đã phải làm chứng trước Ủy ban Tư pháp Thượng viện Mỹ vào năm 2025 về mối quan hệ giữa Meta và Trung Quốc, vấn đề bảo vệ thông tin người dùng, các nỗ lực trả thù và bịt miệng bên trong.

Cuốn sách chứa đựng những trải nghiệm và chứng kiến của tác giả về khai thác lao động, quấy rối tại nơi làm việc, quấy rối tình dục, can thiệp bầu cử qua nền tảng, thao túng thuật toán nhằm vào thanh thiếu niên, và những sai lầm ngoại giao lặp đi lặp lại. Ông chỉ trích rằng mặc dù Facebook đưa ra khẩu hiệu đầy hy vọng rằng 'chúng tôi làm cho thế giới trở nên cởi mở và kết nối hơn', nhưng thực tế lại phá hủy lòng tin trong cộng đồng và đe dọa nền dân chủ. Thay vì thay đổi theo hướng tích cực, những thay đổi này chủ yếu mang tính tiêu cực.

Tác giả đặc biệt chỉ trích sự lãnh đạo độc tài của Mark Zuckerberg. Ông vận hành công ty theo chế độ độc quyền thực tế. Văn hóa tổ chức cũng là một vấn đề. Tác giả, một người mẹ làm việc, bị yêu cầu không được nói về con cái của mình, bị ép buộc phải xóa bỏ 'vai trò của người mẹ'.

Ngoài ra, tác giả cho rằng Facebook đã bỏ mặc sự lan truyền của tin giả và nội dung thù hận, phân biệt chủng tộc, và không có hành động tích cực mặc dù nền tảng này đã bị lạm dụng như một công cụ kích động bạo lực của các lực lượng cực đoan. Trong bối cảnh Donald Trump đã lừa dối cử tri bằng tin giả trên Facebook trong quá trình bầu cử, ban lãnh đạo Facebook không coi trọng điều này vì lý do Trump đã chi nhiều tiền quảng cáo hơn Hillary Clinton.

Nhà văn Chang Kang-myung đã viết: "Nếu sức mạnh lớn không chịu trách nhiệm lớn, thì sẽ dẫn đến sự suy thoái bên trong và phá hủy thế giới bên ngoài. Cuốn sách này là một lời tố cáo sống động về cách mà sức mạnh khổng lồ của thời đại chúng ta đã hành động vô trách nhiệm và đã mục nát bên trong như thế nào."

“Giống như cuốn Sohongshu (tên chính thức là Những lời của Chủ tịch Mao) của Mao Trạch Đông, cuốn sách nhỏ đỏ của Facebook cũng đầy những lời nói, hình ảnh và nguyên tắc cốt lõi của nhà lãnh đạo tối cao. Dĩ nhiên, trong trường hợp này, nhà lãnh đạo không phải là Mao mà là Mark. Một 'MZ' khác đã phát tán đam mê Mao chủ nghĩa theo cách riêng của mình. Ở trang đầu tiên, có ghi: 'Facebook được tạo ra để thực hiện sứ mệnh xã hội. Để làm cho thế giới trở nên cởi mở và kết nối hơn.'" (trang 75)

* Bài viết này được dịch tự động bằng AI.

Yoon Juhye jujusun@ajunews.com