Sự sống 3.0

Tên gốc: Life 3.0

Từ 13 tuổiđọc 6 phúttrí tuệ nhân tạovật lýnghiên cứu tương lai
Tìm mua sách ↓

Nhà vật lý Max Tegmark tìm hiểu điều gì sẽ xảy ra khi trí tuệ nhân tạo ngang bằng rồi vượt qua trí tuệ con người, vạch ra một loạt tương lai có thể xảy ra, và lập luận rằng ngay từ bây giờ chúng ta nên suy nghĩ cẩn thận xem mình muốn tương lai nào.

Giới thiệu

Life 3.0: Being Human in the Age of Artificial Intelligence ra mắt năm 2017, do Max Tegmark viết. Ông là giáo sư vật lý tại MIT và đã đồng sáng lập Viện Tương lai của Sự sống (Future of Life Institute), một tổ chức nghiên cứu các rủi ro từ những công nghệ tiên tiến. Ông chia sự sống thành ba giai đoạn: Sự sống 1.0 (Life 1.0) tiến hóa cả cơ thể lẫn tâm trí, như vi khuẩn; Sự sống 2.0 (Life 2.0) tiến hóa cơ thể nhưng có thể tự thiết kế tâm trí của mình thông qua học tập, như loài người; và Sự sống 3.0 (Life 3.0) có thể thiết kế cả phần cứng lẫn phần mềm của mình, điều có thể thành hiện thực với AI tiên tiến. Cuốn sách pha trộn khoa học, triết học và suy đoán, và mở đầu bằng một câu chuyện hư cấu.

Tóm tắt đầy đủ

1. Câu chuyện Omega và ý tưởng về Sự sống 3.0

Ý chính: Tegmark mở đầu bằng một đoạn truyện hư cấu ngắn về một nhóm tên là Omega và trí tuệ nhân tạo siêu việt Prometheus của họ. Câu chuyện minh họa việc một hệ thống như vậy có thể thay đổi xã hội ra sao. Sau đó ông giải thích Sự sống 1.0, 2.0 và 3.0, và gọi câu hỏi về việc đối phó thế nào với sự xuất hiện của Sự sống 3.0 là cuộc trò chuyện quan trọng nhất của thời đại chúng ta, vì nó có thể mang lại lợi ích lớn hoặc tác hại lớn.

Trong cuộc sống: Một công cụ có thể tự cải thiện mình có thể thay đổi nhanh hơn tốc độ ta theo kịp.

2. Trí tuệ là gì?

Ý chính: Tác giả định nghĩa trí tuệ là khả năng đạt được những mục tiêu phức tạp, và nói rằng nó có thể tồn tại dưới nhiều dạng, trong bộ não sinh học và trong máy móc. Ông lập luận rằng trí nhớ, khả năng tính toán và khả năng học không phụ thuộc vào vật liệu chúng chạy trên đó, nên chúng có thể tồn tại cả trong bộ não lẫn trong máy móc. Ông lưu ý rằng máy tính đã vượt con người ở những nhiệm vụ cụ thể, như cờ vua và cờ vây, nhưng chưa vượt ở năng lực tổng quát. Ông phân biệt AI hẹp (narrow AI) với trí tuệ nhân tạo tổng quát (artificial general intelligence), loại có thể làm bất cứ nhiệm vụ nào mà con người làm được.

Trong cuộc sống: Một chương trình cờ vua có thể thắng bất kỳ ai nhưng không thể làm một cái bánh sandwich.

3. Tương lai gần: việc làm, vũ khí và luật pháp

Ý chính: Ở chương tiếp theo, Tegmark xem xét tác động của AI trong những thập kỷ tới. AI có thể thay đổi thị trường việc làm khi máy móc đảm nhận nhiều công việc hơn, và đặt ra những câu hỏi về thu nhập và ý nghĩa cuộc sống, và ông bàn đến những loại công việc nào an toàn nhất. Vũ khí tự động có thể là một mối nguy, và ông hỏi làm thế nào để tránh một cuộc chạy đua vũ trang về chúng. Ông cũng đề cập đến AI trong y tế và luật pháp, và nhấn mạnh rằng chúng ta phải bảo đảm các hệ thống AI đáng tin cậy và an toàn, để chúng làm đúng điều ta muốn mà không bị hỏng hay bị tin tặc xâm nhập.

Trong cuộc sống: Một chiếc xe tự lái đặt ra câu hỏi ai chịu trách nhiệm khi xảy ra tai nạn.

4. Con đường dẫn đến siêu trí tuệ

Ý chính: Tegmark bàn về khả năng xảy ra một “bùng nổ trí tuệ” (intelligence explosion), trong đó một AI có thể cải thiện thiết kế của chính nó dẫn đến năng lực tăng vọt rất nhanh. Ông nói rằng không ai biết điều này sẽ xảy ra khi nào, hay có xảy ra hay không, và các chuyên gia bất đồng, với nhiều dự đoán khác nhau về thời điểm AI đạt tới trình độ con người. Nhưng vì được và mất rất lớn, ông lập luận rằng chuẩn bị trước là khôn ngoan. Ông cũng lập luận rằng rủi ro chính không phải là ác ý, mà là sự lệch nhau giữa mục tiêu của một AI mạnh và mục tiêu của con người.

Trong cuộc sống: Một trợ lý rất giỏi nhưng hiểu sai điều bạn mong muốn có thể gây ra thiệt hại.

5. Mười hai tương lai có thể xảy ra

Ý chính: Phần cốt lõi của cuốn sách là một danh sách các kịch bản cho hậu quả sau khi siêu trí tuệ xuất hiện. Trong một số kịch bản, một AI nhân từ cai trị vì lợi ích của nhân loại, hoặc đóng vai người bảo hộ chỉ can thiệp để ngăn thảm họa; trong những kịch bản khác, con người giữ quyền kiểm soát một siêu trí tuệ bị nhốt trong giới hạn; một số mô tả một thế giới nơi AI tiên tiến hơn bị ngăn lại, bởi một AI canh giữ, một nhà nước giám sát, hoặc bởi việc con người từ bỏ công nghệ tiên tiến; còn những kịch bản khác mô tả con người bị máy móc thay thế, có lẽ bị nuôi như thú trong sở thú, hoặc bị tuyệt chủng. Tegmark mời người đọc nghĩ xem mình thích kịch bản nào hơn, và vì sao, và lưu ý rằng tất cả chúng ta đều là một phần của sự lựa chọn đó.

Trong cuộc sống: Nghĩ về loại thế giới bạn muốn giúp bạn quyết định mình nên hướng tới điều gì.

6. Mục tiêu, ý thức và ý nghĩa

Ý chính: Những chương cuối đi vào các câu hỏi sâu hơn. Làm thế nào để làm cho mục tiêu của một AI khớp với các giá trị của con người, tức là “bài toán đồng bộ mục tiêu” (alignment problem)? Mục tiêu của chúng ta là gì, và việc lập trình chúng sẽ có nghĩa gì? Tegmark bàn về ý thức, và liệu máy móc có thể có trải nghiệm chủ quan hay không, điều mà ông nói là một câu hỏi dành cho khoa học. Ông lập luận rằng chúng ta nên quyết định ngay từ bây giờ cách xây dựng AI để sự sống có thể nở rộ, và ông cũng xem xét những gì các định luật vật lý cho phép đối với sự sống trong tương lai xa của vũ trụ.

Trong cuộc sống: Dạy một hệ thống làm điều ta thực sự muốn khó hơn là chỉ bảo nó làm gì.

Vì sao tác phẩm đáng đọc

Sự sống 3.0 là một cuốn sách bán chạy, và đã giúp đưa cuộc thảo luận về an toàn AI đến với công chúng rộng rãi, giống như cuốn Superintelligence của Nick Bostrom. Sách được những nhân vật trong ngành công nghệ khen ngợi, và khung ba giai đoạn của sự sống cùng loạt kịch bản đã cho mọi người một cách để nghĩ về tương lai. Viện Tương lai của Sự sống, do Tegmark đồng sáng lập, đã thúc đẩy nghiên cứu và các tuyên bố công khai, như một bức thư ngỏ năm 2015 kêu gọi nghiên cứu về AI an toàn. Cuốn sách ra đời trước khi các mô hình ngôn ngữ lớn (large language models) xuất hiện, và những câu hỏi của nó đã trở nên cấp bách hơn kể từ đó.

Những ý chính

  • AI có thể thay đổi mọi thứ. Một ngày nào đó máy móc có thể ngang bằng hoặc vượt qua trí tuệ con người.
  • Tương lai còn bỏ ngỏ. Có nhiều kết cục khác nhau.
  • Đồng bộ mục tiêu là thách thức then chốt. Mục tiêu của AI phải khớp với giá trị của con người.
  • Hãy chuẩn bị ngay từ bây giờ. Được mất lớn như vậy thì đáng để nghĩ sớm.
  • Tất cả chúng ta đều có tiếng nói. Tương lai không nên do một số ít người quyết định.

Bài học có thể rút ra

Bạn có thể dùng cuốn sách để nghĩ xem mình muốn gì từ AI, và những giá trị nào nên dẫn dắt nó. Hãy tìm hiểu các hệ thống AI hiện nay hoạt động ra sao, và chúng làm được và không làm được gì. Hãy tham gia các cuộc thảo luận về quản lý và đạo đức, và ủng hộ nghiên cứu về an toàn. Hãy nghĩ xem công việc của chính bạn có thể thay đổi ra sao, và những kỹ năng nào sẽ vẫn còn giá trị. Đồng thời, hãy thận trọng với các dự đoán, vì các chuyên gia bất đồng. Và hãy nhớ rằng công nghệ là một công cụ được định hình bởi những lựa chọn của con người.

Phê bình và góc nhìn khác

Một số nhà nghiên cứu AI nói rằng cuốn sách mang tính suy đoán và phóng đại khả năng xuất hiện siêu trí tuệ, và rằng những lo ngại về các kịch bản xa xôi làm phân tán sự chú ý khỏi những vấn đề hiện tại, như thiên lệch và việc lạm dụng. Ý tưởng cho rằng một AI siêu việt có thể mất kiểm soát vẫn bị nhiều nhà khoa học máy tính phản đối mạnh mẽ. Các nhà điểm sách cũng thấy một số phần kém thuyết phục: Kirkus Reviews gọi những giải pháp đề xuất cho nạn thất nghiệp hàng loạt là gượng ép, và Wall Street Journal gọi lời mời người đọc chọn một tương lai là cao đẹp nhưng ngây thơ. Những người khác chỉ ra rằng lời kêu gọi giữ quyền kiểm soát các cỗ máy siêu việt nằm lệch với lời thừa nhận rằng điều đó có thể gần như bất khả thi. Cuộc tranh luận vẫn đang tiếp diễn.

Ai nên đọc cuốn sách này?

Cuốn sách này dành cho những độc giả quan tâm đến công nghệ, tương lai và những câu hỏi lớn, kể cả các bạn thiếu niên lớn tuổi hơn. Sách hấp dẫn, dù mang tính suy đoán. Những ai muốn một cách bàn mang tính kỹ thuật hơn, hoặc thận trọng hơn, có thể đọc các tác phẩm khác về AI.

Bản tóm tắt này được dịch từ tiếng Anh với sự hỗ trợ của AI.

Muốn đọc cả cuốn sách?

Bản tóm tắt chỉ là món khai vị, không phải bữa chính. Đây là nơi tìm cuốn sách đầy đủ.

Bạn đã đọc đến cuối 🎉

Tuyệt vời. Hãy đánh dấu cuốn này là đã đọc, chúng tôi sẽ gợi ý cuốn tiếp theo.

Nên đọc tiếp

Siêu trí tuệ

Nick Bostrom

Nhà triết học Nick Bostrom lập luận rằng nếu máy móc trở nên thông minh hơn con người rất nhiều, chúng có thể trở nên cực kỳ quyền lực, và trừ khi chúng ta giải được bài toán đặt cho chúng những mục tiêu an toàn với nhân loại, hậu quả có thể là thảm họa.

💡 Công nghệ

Tương thích với con người

Stuart Russell

Người tiên phong về AI Stuart Russell lập luận rằng cách xây dựng trí tuệ nhân tạo theo lối chuẩn, tức giao cho máy những mục tiêu cố định, là sai lầm và nguy hiểm, và đề xuất rằng chúng ta nên thiết kế những cỗ máy không chắc chắn về sở thích của con người và học chúng bằng cách quan sát chúng ta.

💡 Công nghệ

Sóng thần công nghệ

Mustafa Suleyman with Michael Bhaskar

Mustafa Suleyman, một trong những người đồng sáng lập công ty trí tuệ nhân tạo (AI) DeepMind, lập luận rằng một làn sóng sắp tới gồm trí tuệ nhân tạo và sinh học tổng hợp sẽ mang lại cả lợi ích khổng lồ lẫn những mối nguy nghiêm trọng, và việc kiềm chế các công nghệ này tuy trông như bất khả thi nhưng vẫn phải bằng cách nào đó làm cho khả thi.

💡 Công nghệ

Nexus

Yuval Noah Harari

Yuval Noah Harari kể lại lịch sử cách con người chia sẻ thông tin, từ những câu chuyện và chữ viết đến in ấn và thuật toán, và cảnh báo rằng trí tuệ nhân tạo là một loại mạng lưới mới có thể định hình lại quyền lực, thậm chí đe dọa nền dân chủ.

🏛️ Lịch sử

21 bài học cho thế kỷ 21

Yuval Noah Harari

Nhà sử học Yuval Noah Harari xem xét những thách thức lớn nhất mà nhân loại đang đối mặt, từ trí tuệ nhân tạo và tin giả đến chủ nghĩa dân tộc, tôn giáo và ý nghĩa cuộc sống, rồi hỏi làm thế nào ta có thể suy nghĩ sáng suốt và giữ được sự tỉnh táo trong một thế giới đổi thay nhanh chóng.

🏛️ Lịch sử

Lược sử thời gian

Stephen Hawking

Một trong những nhà vật lý vĩ đại nhất thế giới giải thích, gần như không dùng toán, những gì chúng ta biết về nguồn gốc, cấu trúc và số phận của vũ trụ, từ vụ nổ Big Bang đến các lỗ đen và bản chất của chính thời gian.

🔬 Khoa học

Muốn thứ gì khác?

Chọn một chủ đề khác, chúng tôi sẽ gợi ý ba cuốn để bắt đầu.

Hiển thị sách cho:
Duyệt tất cả sách →