Sóng thần công nghệ
Tên gốc: The Coming Wave
Mustafa Suleyman, một trong những người đồng sáng lập công ty trí tuệ nhân tạo (AI) DeepMind, lập luận rằng một làn sóng sắp tới gồm trí tuệ nhân tạo và sinh học tổng hợp sẽ mang lại cả lợi ích khổng lồ lẫn những mối nguy nghiêm trọng, và việc kiềm chế các công nghệ này tuy trông như bất khả thi nhưng vẫn phải bằng cách nào đó làm cho khả thi.
Giới thiệu
The Coming Wave: Technology, Power, and the Twenty-First Century’s Greatest Dilemma xuất bản năm 2023, do Mustafa Suleyman viết cùng nhà văn Michael Bhaskar. Suleyman đồng sáng lập DeepMind vào năm 2010 (sau đó công ty được Google mua lại) rồi lập công ty Inflection AI. Ông cho biết mình đã dành phần lớn sự nghiệp để xây dựng AI, và lập luận rằng hai công nghệ, AI tiên tiến và sinh học tổng hợp, là hạt nhân của một “làn sóng sắp tới” sẽ định hình lại xã hội, còn robot, máy tính lượng tử và những công nghệ khác phát triển xung quanh chúng. Cuốn sách mô tả làn sóng ấy, “bài toán kiềm chế” (containment problem) mà nó đặt ra, và mười bước ông hy vọng có thể giúp việc kiềm chế trở nên khả thi. Sách vừa có chất hồi ký, vừa có lịch sử, vừa là một bài luận chứng.
Tóm tắt đầy đủ
1. Một làn sóng, một thế tiến thoái lưỡng nan và một điểm mù
Ý chính: Suleyman mở đầu bằng nhận định rằng thế giới của con người dựa trên hai thứ là trí tuệ và sự sống, và một làn sóng công nghệ mới đang trao cho chúng ta khả năng can thiệp vào cả hai. Ông cho rằng làn sóng này sẽ tạo ra của cải với quy mô chưa từng thấy, nhưng việc nó lan nhanh cũng tiếp sức cho những kẻ xấu và đe dọa gây bất ổn, thậm chí thảm họa. Ông kể chuyện mình cùng Demis Hassabis và Shane Legg đồng sáng lập DeepMind năm 2010 với mục tiêu tái tạo trí tuệ con người, và nỗi lo của ông tăng dần theo đà tiến bộ của công nghệ. Ông gọi vấn đề trung tâm là thế tiến thoái lưỡng nan: cả việc phát triển lẫn việc từ chối phát triển những công nghệ này đều có nguy cơ dẫn đến thảm họa hoặc một xã hội bị giám sát đến nghẹt thở. Ông cũng mô tả “tâm lý né tránh điều bi quan” (pessimism aversion), tức thói quen cảm xúc, nhất là ở những người có quyền lực, là quay mặt đi trước những bằng chứng đáng sợ. Ông nhớ lại lần trình bày những lời cảnh báo trước một phòng toàn lãnh đạo ngành công nghệ và bị họ gạt đi, cùng một buổi hội thảo về tổng hợp DNA giá rẻ mà khán giả không chịu chấp nhận rủi ro. Lời mở đầu ngắn của sách, như văn bản cho biết, do một AI viết.
Trong cuộc sống: Hoãn một xét nghiệm y tế đáng lo vì sợ kết quả đáng sợ là kiểu né tránh mà ai cũng quen thuộc.
2. Sự lan rộng và bài toán kiềm chế
Ý chính: Phần I lập luận rằng công nghệ đến theo từng làn sóng, mỗi làn sóng xoay quanh một công nghệ đa dụng như động cơ hơi nước, điện, động cơ đốt trong hay máy tính. Một khi công nghệ đã hoạt động được, nó trở nên rẻ hơn và lan rộng ra. Ông minh họa bằng chiếc ô tô: sau mẫu xe Model T của Henry Ford và dây chuyền lắp ráp, tỷ lệ người Mỹ có ô tô tăng từ khoảng 10 phần trăm năm 1915 lên 59 phần trăm năm 1930. Tiếp đó ông bàn đến bài toán kiềm chế, tức khả năng theo dõi, hạn chế, kiểm soát và thậm chí ngừng hẳn một công nghệ. Các nhà phát minh nhanh chóng mất quyền kiểm soát việc phát minh của mình sẽ trở thành gì: máy hát của Edison, thuốc nổ của Nobel và máy in của Gutenberg đều đi theo những hướng mà người tạo ra chúng không lường trước. Các xã hội thường cố nói “không”, và Đế quốc Ottoman đã trì hoãn máy in trong một thời gian dài, nhưng sự phản kháng cuối cùng cũng mòn dần. Vũ khí hạt nhân là ngoại lệ một phần, được kìm giữ nhờ chi phí, các hiệp ước, nỗi sợ và may mắn, và ngay cả khi ấy câu chuyện vẫn có tai nạn và những lần suýt xảy ra thảm họa.
Trong cuộc sống: Khi điện thoại đã rẻ, gần như ai cũng có thể mua được.
3. Làn sóng mới: trí tuệ, sự sống và hơn thế nữa
Ý chính: Phần II mô tả chính làn sóng này. Về AI, ông kể về chương trình DQN học chơi một trò chơi Atari năm 2012, ván đấu của AlphaGo với Lee Sedol năm 2016, học sâu (deep learning) và sự trỗi dậy của các mô hình ngôn ngữ lớn như ChatGPT. Ông đề xuất khái niệm “trí tuệ nhân tạo có năng lực” (artificial capable intelligence), thời điểm AI có thể đạt được những mục tiêu phức tạp với rất ít sự giám sát của con người, và cho rằng cột mốc gần này quan trọng hơn các cuộc tranh luận về siêu trí tuệ. Về sinh học, ông mô tả việc hiện nay ta có thể đọc, chỉnh sửa và viết DNA nhờ giải trình tự bộ gen, chỉnh sửa gen CRISPR và tổng hợp DNA, cũng như cách AlphaFold của DeepMind cho thấy AI và sinh học thúc đẩy lẫn nhau. Xung quanh hai lĩnh vực này còn có robot, máy tính lượng tử, công nghệ nano và các nguồn năng lượng mới. Những lợi ích ông kỳ vọng gồm thuốc mới, năng lượng sạch hơn và sự trợ giúp của chuyên gia mà gần như ai cũng có thể tiếp cận.
Trong cuộc sống: Một công cụ giúp các nhà khoa học thiết kế phân tử mới có thể đẩy nhanh việc làm ra thuốc, nhưng cũng làm tăng rủi ro.
4. Bốn đặc điểm làm nên sự khác biệt
Ý chính: Suleyman cho rằng bốn đặc điểm khiến làn sóng này khó kiềm chế hơn các làn sóng trước. Tính bất đối xứng (asymmetry) nghĩa là những bên nhỏ cũng có thể gây tác động rất lớn; ông nêu ví dụ một đơn vị máy bay không người lái nhỏ của Ukraine đã góp phần làm chậm một đoàn xe Nga gần Kyiv năm 2022. Tiến hóa siêu tốc (hyper-evolution) nghĩa là đổi mới đang tăng tốc, và thế giới vật chất bắt đầu chuyển động với tốc độ của thế giới số. Tính đa dụng (omni-use) nghĩa là một công nghệ có thể phục vụ nhiều mục đích; một AI được tạo ra để tìm thuốc, khi được yêu cầu tìm chất độc, đã gợi ý được hàng chục nghìn phân tử độc chỉ trong vài giờ. Tính tự chủ (autonomy) nghĩa là các hệ thống ngày càng tự hành động và tự tìm ra chiến lược mà không cần con người phê duyệt, và cách chúng vận hành bên trong thường khó giải thích. Ông nhắc đến “bài toán con khỉ đột” của Stuart Russell, mối lo rằng một thực thể thông minh hơn có thể rốt cuộc lại là bên kiềm chế chúng ta.
Trong cuộc sống: Một công cụ ai cũng dùng được vào việc tốt thì cũng có thể bị một số ít người dùng sai mục đích.
5. Những động lực không thể ngăn
Ý chính: Vì sao không đơn giản là dừng lại? Suleyman liệt kê những lực đẩy làn sóng tiến lên: sự cạnh tranh giữa các quốc gia (ông kể rằng chiến thắng của AlphaGo được nhìn nhận ở Trung Quốc như một “khoảnh khắc Sputnik” của AI), một văn hóa nghiên cứu khuyến khích sự cởi mở và công bố, những phần thưởng tài chính khổng lồ, những nhu cầu cấp bách của toàn cầu như lương thực và khí hậu, và cái tôi của con người. Các lực này củng cố lẫn nhau, nên việc chậm lại đi ngược lợi ích của nhà nước, doanh nghiệp và nhà nghiên cứu như nhau.
Trong cuộc sống: Khi mọi đội trong một cuộc đua đều sợ bị bỏ lại phía sau, sẽ không ai muốn là người đầu tiên giảm tốc.
6. Nhà nước dưới áp lực
Ý chính: Phần III xem xét nhà nước quốc gia, mà ông coi là chủ thể chính có thể kiềm chế công nghệ, nhưng vốn đang đối mặt với lòng tin suy giảm và bất bình đẳng gia tăng. Làn sóng sẽ khuếch đại những điểm yếu ấy. Vụ tấn công WannaCry năm 2017, dựa trên một công cụ bị đánh cắp từ một cơ quan tình báo Mỹ, là ví dụ của ông về tính bất đối xứng không được kiềm chế. Ông cảnh báo về vũ khí và các cuộc tấn công mạng rẻ hơn, về deepfake (video, âm thanh giả do AI tạo ra) và thông tin sai lệch, về những vụ rò rỉ ngoài ý muốn từ phòng thí nghiệm và về tình trạng mất việc làm quy mô lớn. Quyền lực có thể vừa tập trung lại, làm tăng kiểm soát độc đoán và sinh ra những công ty khổng lồ mới, vừa phân tán ra, trao cho các nhóm khả năng sống bên ngoài những cấu trúc truyền thống.
Trong cuộc sống: Một thị trấn có lực lượng cứu hỏa yếu sẽ gặp nguy hiểm lớn hơn khi xuất hiện những hiểm họa mới.
7. Thảm họa hay xã hội phản địa đàng
Ý chính: Chương 12 nêu thế tiến thoái lưỡng nan một cách thẳng thắn. Nếu làn sóng không được kiềm chế, kẻ xấu có thể dùng nó gây ra những thảm họa như một đại dịch do con người chế tạo, và ông dùng các vụ tấn công những năm 1990 của giáo phái Aum Shinrikyo để cho thấy một nhóm quyết tâm có thể gây hại ngay cả với phương tiện hạn chế. Nhưng giải pháp tưởng như an toàn nhất, giám sát và kiểm soát toàn diện, lại dẫn đến một xã hội phản địa đàng (dystopia). Dừng hẳn công nghệ cũng không phải lối thoát, vì sự trì trệ sẽ mang đến sự sụp đổ của riêng nó. Ông nói nhân loại phải bước đi trên một con đường hẹp giữa hai cực ấy.
Trong cuộc sống: Quá nhiều tự do có thể để những kẻ có hại hành động, còn quá nhiều kiểm soát có thể chấm dứt tự do.
8. Mười bước hướng tới việc kiềm chế
Ý chính: Phần IV lập luận rằng riêng quy định pháp lý là chưa đủ, và trong thế giới hiện nay việc kiềm chế là không thể. Ông đưa ra mười bước, sắp xếp thành các vòng tròn đồng tâm, để thay đổi những điều kiện đó: nghiên cứu an toàn kỹ thuật, với một chương trình theo kiểu Apollo; kiểm toán; các điểm nghẽn làm chậm quá trình phát triển, chẳng hạn kiểm soát xuất khẩu chip tiên tiến; những người làm ra công nghệ, kể cả những người phê bình cũng nên tự tay xây dựng; doanh nghiệp biết cân bằng giữa lợi nhuận và mục đích; chính phủ tự xây dựng chuyên môn và ban hành quy định; các liên minh và hiệp ước; một văn hóa cởi mở học hỏi từ thất bại, như ngành hàng không; các phong trào quần chúng; và bước thứ mười là chính con đường hẹp, tức sự thống nhất giữa mọi biện pháp. Không bước nào tự nó là đủ, và ông gọi việc kiềm chế là một nỗ lực không bao giờ kết thúc. Ông nói thời điểm bắt đầu là ngay bây giờ.
Trong cuộc sống: Nhiều lớp bảo vệ thì vững hơn một lớp.
Vì sao tác phẩm đáng đọc
Sóng thần công nghệ xuất bản năm 2023, ngay sau khi ChatGPT và GPT-4 đưa AI tạo sinh (generative AI) trở thành chủ đề của công chúng, và nó đến từ một người đã góp phần xây dựng lĩnh vực này. Những cảnh báo về việc lạm dụng, cùng quan điểm khăng khăng rằng quy định pháp lý là cần thiết nhưng chưa đủ, đã góp thêm tiếng nói vào cuộc tranh luận về cách quản trị AI và công nghệ sinh học. Khái niệm “bài toán kiềm chế” đã đặt tên cho thách thức kiểm soát những công nghệ mạnh. Cuốn sách chạm đến cuộc tranh luận về siêu trí tuệ, có dẫn Stuart Russell, nhưng cho rằng những khả năng gần hơn cùng các câu hỏi chính trị và xã hội đáng được chú ý nhiều hơn. Sách cũng nêu câu hỏi liệu việc kiềm chế có khả thi hay không, và doanh nghiệp cùng chính phủ nên đóng vai trò gì.
Những ý chính
- Công nghệ lan rộng. Lịch sử cho thấy các công nghệ hữu ích đều lan rộng và khó bị cầm lại.
- Một làn sóng mới đang đến. AI và sinh học tổng hợp, cùng robot và các lĩnh vực khác quanh chúng, có thể làm thay đổi cuộc sống.
- Lợi ích rất lớn. Y học, năng lượng và sự trợ giúp của chuyên gia có thể tốt lên.
- Bốn đặc điểm làm tăng rủi ro. Tính bất đối xứng, tiến hóa siêu tốc, tính đa dụng và tính tự chủ khiến làn sóng này khó kiềm chế hơn.
- Né tránh điều bi quan là một cái bẫy. Quay mặt đi trước bằng chứng đáng báo động sẽ cản trở hành động.
- Kiềm chế cần nhiều biện pháp. Mười bước, từ an toàn kỹ thuật đến hiệp ước và sức ép của công chúng, phải phối hợp với nhau.
Bài học có thể rút ra
Bạn có thể dùng cuốn sách để suy nghĩ về cách các công nghệ mạnh nên được phát triển và quản lý, cũng như vai trò mà công dân bình thường có thể đảm nhận. Hãy tìm hiểu về AI và công nghệ sinh học, và theo dõi các cuộc tranh luận về quy định pháp lý. Hãy ủng hộ sự minh bạch và an toàn trong các công ty. Nếu quan tâm, bạn có thể cân nhắc những nghề trong lĩnh vực an toàn và chính sách. Hãy thận trọng với cả sự thổi phồng lẫn nỗi sợ, và tìm những nguồn thông tin cân bằng. Và hãy nhớ rằng tương lai của công nghệ phụ thuộc vào quyết định của nhiều người, và sức ép của công chúng có thể góp phần định hình những quyết định ấy.
Phê bình và góc nhìn khác
Chính tác giả cũng dự đoán rằng một số độc giả sẽ thấy cuốn sách phóng đại, và ông thừa nhận mình có thiên kiến vì là người trong ngành AI. Những người hoài nghi có thể cho rằng bức tranh về sự lan rộng gần như không thể tránh và về thảm họa trong sách là báo động quá mức, và sách chưa coi trọng đủ khả năng của xã hội trong việc điều tiết công nghệ, như đã phần nào làm được với vũ khí hạt nhân, mà chính cuốn sách gọi là ngoại lệ một phần. Những người khác có thể cho rằng, khi lời kêu gọi ban hành quy định đến từ một người sáng lập các công ty AI, nó có thể có lợi cho các hãng đã có vị thế, và chính cuốn sách cũng ghi nhận rằng những người chỉ trích Đạo luật AI của Liên minh châu Âu nói các hãng công nghệ lớn đã giúp soạn thảo và làm nhẹ đạo luật ấy. Các kịch bản về sinh học tổng hợp, theo lời tác giả, là sự suy ra từ các xu hướng, và các chuyên gia có thể không đồng ý về việc tạo ra một mầm bệnh nguy hiểm dễ đến mức nào. Mười bước là những bước rộng, và Suleyman gọi chúng là nền tảng cần thiết, không phải bản đồ đầy đủ hay câu trả lời cuối cùng. Nhiều độc giả có tiếng được trích ở phần đầu sách khen đây là một hồi chuông thức tỉnh nghiêm túc.
Ai nên đọc cuốn sách này?
Cuốn sách dành cho độc giả phổ thông muốn hiểu cuộc tranh luận về AI, công nghệ sinh học và việc quản trị chúng, kể cả thanh thiếu niên lớn tuổi. Sách viết rõ ràng, hướng tới người không chuyên. Ai muốn có chi tiết kỹ thuật hoặc một góc nhìn hoài nghi hơn nên đọc thêm những tác phẩm khác về chủ đề này.
Bản tóm tắt này được dịch từ tiếng Anh với sự hỗ trợ của AI.
Muốn đọc cả cuốn sách?
Bản tóm tắt chỉ là món khai vị, không phải bữa chính. Đây là nơi tìm cuốn sách đầy đủ.
Bạn đã đọc đến cuối 🎉
Tuyệt vời. Hãy đánh dấu cuốn này là đã đọc, chúng tôi sẽ gợi ý cuốn tiếp theo.
Nên đọc tiếp
Siêu trí tuệ
Nick Bostrom
Nhà triết học Nick Bostrom lập luận rằng nếu máy móc trở nên thông minh hơn con người rất nhiều, chúng có thể trở nên cực kỳ quyền lực, và trừ khi chúng ta giải được bài toán đặt cho chúng những mục tiêu an toàn với nhân loại, hậu quả có thể là thảm họa.
💡 Công nghệTương thích với con người
Stuart Russell
Người tiên phong về AI Stuart Russell lập luận rằng cách xây dựng trí tuệ nhân tạo theo lối chuẩn, tức giao cho máy những mục tiêu cố định, là sai lầm và nguy hiểm, và đề xuất rằng chúng ta nên thiết kế những cỗ máy không chắc chắn về sở thích của con người và học chúng bằng cách quan sát chúng ta.
💡 Công nghệSự sống 3.0
Max Tegmark
Nhà vật lý Max Tegmark tìm hiểu điều gì sẽ xảy ra khi trí tuệ nhân tạo ngang bằng rồi vượt qua trí tuệ con người, vạch ra một loạt tương lai có thể xảy ra, và lập luận rằng ngay từ bây giờ chúng ta nên suy nghĩ cẩn thận xem mình muốn tương lai nào.
🔬 Khoa họcNexus
Yuval Noah Harari
Yuval Noah Harari kể lại lịch sử cách con người chia sẻ thông tin, từ những câu chuyện và chữ viết đến in ấn và thuật toán, và cảnh báo rằng trí tuệ nhân tạo là một loại mạng lưới mới có thể định hình lại quyền lực, thậm chí đe dọa nền dân chủ.
🏛️ Lịch sửĐồng trí tuệ
Ethan Mollick
Giáo sư Ethan Mollick của Wharton đưa ra một hướng dẫn thực tế về việc làm việc cùng AI tạo sinh như một dạng "trí tuệ cộng tác" (co-intelligence), giải thích nó làm tốt và làm dở điều gì, và nêu bốn quy tắc để dùng nó hiệu quả và có trách nhiệm trong công việc, học tập và đời sống.
💡 Công nghệNhững nhà đổi mới
Walter Isaacson
Walter Isaacson kể lại lịch sử cuộc cách mạng số qua những con người đã phát minh ra máy tính, internet và World Wide Web, và lập luận rằng đổi mới chủ yếu là kết quả của sự hợp tác, chứ không phải công của những thiên tài đơn độc.
💡 Công nghệMuốn thứ gì khác?
Chọn một chủ đề khác, chúng tôi sẽ gợi ý ba cuốn để bắt đầu.