Nexus
Yuval Noah Harari kể lại lịch sử cách con người chia sẻ thông tin, từ những câu chuyện và chữ viết đến in ấn và thuật toán, và cảnh báo rằng trí tuệ nhân tạo là một loại mạng lưới mới có thể định hình lại quyền lực, thậm chí đe dọa nền dân chủ.
Giới thiệu
Nexus: A Brief History of Information Networks from the Stone Age to AI do Yuval Noah Harari xuất bản năm 2024. Trong những cuốn trước, ông giải thích quá khứ của loài người và hình dung về tương lai. Ở đây ông tập trung vào thông tin: nó lưu chuyển giữa con người ra sao, ai kiểm soát nó và nó tạo ra tác động gì. Ông mở đầu bằng một câu đố: con người tự đặt cho mình cái tên loài khôn ngoan và đã tích lũy kiến thức cùng sức mạnh to lớn, vậy mà vẫn dễ mắc ảo tưởng và dễ tự hủy diệt mình. Luận điểm trung tâm của ông là nhiều thông tin hơn không tự động dẫn đến nhiều sự thật hay trí tuệ hơn, và việc phát minh ra trí tuệ nhân tạo, thứ có thể tự đưa ra quyết định và tự tạo ra ý tưởng mới, khiến câu hỏi này trở nên cấp bách. Ông kể lại lịch sử qua các ví dụ, từ tôn giáo đến máy in và mạng xã hội.
Tóm tắt đầy đủ
1. Thông tin là để kết nối, không chỉ là sự thật
Ý chính: Harari mở đầu bằng những lời cảnh báo xưa cũ, thần thoại Hy Lạp về Phaethon và bài thơ của Goethe về người học việc của một phù thủy, nhưng lập luận rằng chúng đổ lỗi cho lòng kiêu ngạo và tham lam của từng cá nhân, trong khi sức mạnh của con người thật ra đến từ sự hợp tác trong những mạng lưới lớn. Rồi ông thách thức điều ông gọi là quan điểm ngây thơ về thông tin (naive view): rằng thông tin phản ánh hiện thực, rằng có càng nhiều thông tin thì càng đến gần sự thật, và rằng sự thật mang lại quyền lực và trí tuệ. Ông thừa nhận điều này có thể đúng, chẳng hạn trong việc số ca tử vong ở trẻ em giảm mạnh kể từ thời Goethe, điều dựa vào việc thu thập và chia sẻ dữ liệu y khoa. Nhưng ông lập luận rằng phần lớn thông tin hoàn toàn không mô tả hiện thực. Việc cốt lõi của nó là kết nối con người và sự vật, và nó có thể làm vậy bằng cả sai sót, ảo tưởng và hư cấu chứ không chỉ bằng sự thật. Chiêm tinh đã định hình lịch sử suốt hàng nghìn năm, và Kinh Thánh, dù là kim chỉ nam kém cho những vấn đề như nguồn gốc loài người hay nguyên nhân của các dịch bệnh, đã gắn kết hàng tỷ người vào các mạng lưới tôn giáo. Những câu chuyện có thể đưa hàng triệu người xa lạ đến với nhau, vì người ta chỉ cần tin cùng một câu chuyện chứ không cần quen biết nhau. Harari cũng bác bỏ quan điểm đối lập mang tính dân túy, cho rằng thông tin chỉ là một thứ vũ khí và không có sự thật khách quan nào, và ông tìm một lập trường ở giữa. Vì vậy, một mạng lưới thông tin có sức mạnh lớn, nhưng nó có thể lan truyền cả dối trá và ảo tưởng lẫn sự thật.
Trong cuộc sống: Một tin đồn lan nhanh trong trường có thể gắn kết một nhóm hoặc làm nó tan vỡ, dù nó có đúng hay không.
2. Tài liệu, bộ máy hành chính và các sách thiêng
Ý chính: Harari lập luận rằng mọi mạng lưới của con người phải làm hai việc cùng lúc: khám phá điều gì là đúng và giữ trật tự giữa một số lượng lớn người. Hai mục tiêu này thường xung đột, vì hư cấu có thể gắn kết con người dễ hơn sự thật, vốn phức tạp và đôi khi gây đau đớn. Những câu chuyện có trước, và ông gọi văn bản viết là công nghệ thông tin vĩ đại thứ hai. Ông nói các mạng lưới lớn, từ các vương quốc cổ đại đến các nhà nước hiện đại, đều phải dựa vào cả những người dựng nên huyền thoại lẫn các quan chức hành chính, hai nhóm có xu hướng kéo về hai phía ngược nhau. Kinh Thánh cho thấy điều này: các câu chuyện trong đó rất quan trọng với Giáo hội Kitô giáo, nhưng cuốn sách chỉ tồn tại vì các quan chức của Giáo hội đã chọn lọc, biên tập và phổ biến chúng, và sau này Giáo hội Công giáo và các giáo hội Tin Lành đã tìm ra những điểm cân bằng khác nhau giữa huyền thoại và bộ máy hành chính. Ông dùng những ví dụ này để cho thấy quyền lực không chỉ đến từ việc biết các sự kiện mà từ khả năng duy trì trật tự, đó là lý do các nhà khoa học và kỹ sư thường phải chịu sự điều hành của những người vận hành hệ thống.
Trong cuộc sống: Một bản nội quy của câu lạc bộ giúp mọi người tuân theo cùng những quy tắc, nhưng vẫn phải có người quyết định các quy tắc đó có nghĩa là gì.
3. Những hệ thống tự sửa sai
Ý chính: Một trong những chủ đề chính là khả năng của một mạng lưới thông tin tự sửa những sai lầm của mình. Harari so sánh những thể chế có cơ chế tự sửa sai yếu, như Giáo hội Công giáo, với những thể chế có cơ chế mạnh, như các ngành khoa học, vốn dựa vào những công cụ như tạp chí có bình duyệt. Các tòa án độc lập là một ví dụ khác. Ông nói rằng cơ chế yếu có thể dẫn đến thảm họa, như các cuộc săn phù thủy ở đầu thời kỳ cận đại, trong khi cơ chế mạnh đôi khi có thể làm lung lay mạng lưới từ bên trong; ông thậm chí gợi ý rằng Giáo hội Công giáo có thể là thể chế thành công nhất lịch sử bất chấp, hoặc chính nhờ, những cơ chế yếu của nó. Ông cũng đối chiếu các nền dân chủ, nơi thông tin chảy qua nhiều kênh độc lập, với các hệ thống toàn trị, vốn cố tập trung nó vào một trung tâm, và lưu ý rằng mỗi lựa chọn đều có ưu điểm và hạn chế. Một ví dụ rõ ràng là Hiến pháp Hoa Kỳ, văn bản công khai tự nhận là sản phẩm của con người và vì thế có sẵn cách sửa đổi; chưa đầy một thế kỷ sau khi được viết ra, một tu chính án đã xóa bỏ chế độ nô lệ. Những văn bản tự nhận có nguồn gốc thần thánh, như Mười Điều Răn, không đưa ra quy trình nào như vậy.
Trong cuộc sống: Một đội đón nhận góp ý sau một trận đấu tệ sẽ tiến bộ, còn một đội cứ đổ lỗi cho trọng tài thì không.
4. In ấn, săn phù thủy và sự lan truyền của ý tưởng
Ý chính: Máy in giúp lan truyền những ý tưởng mới và khoa học, nhưng Harari chỉ ra rằng nó cũng lan truyền sự hoảng loạn hàng loạt. Ông kể nỗi sợ phù thủy đã lớn dần ở châu Âu đầu thời cận đại, một thảm họa mà ông gắn với việc tự sửa sai yếu kém và được tiếp tay bởi những cuốn sách mô tả việc săn phù thủy, như Malleus Maleficarum, một cuốn cẩm nang đã trở thành sách bán chạy. Ông nói rằng in ấn không bảo đảm sự thật sẽ thắng, và rằng những thể chế biết kiểm chứng các nhận định và sửa sai, như khoa học, quan trọng hơn bản thân công nghệ.
Trong cuộc sống: Một đoạn video lan truyền chóng mặt có thể hấp dẫn hơn một lời giải thích cẩn thận, nhưng điều đó không làm nó chính xác hơn.
5. Một loại quyền lực mới: trí tuệ nhân tạo
Ý chính: Harari lập luận rằng AI khác với các công nghệ trước đây, vì nó không đơn thuần là một công cụ: nó có thể tự ra quyết định và tạo ra ý tưởng mới, và nó có thể suy nghĩ theo những cách mà con người thấy xa lạ. Ông nêu chương trình cờ vây AlphaGo, đã đi những nước mà các kỳ thủ chuyên nghiệp không hiểu. Các thuật toán đã định hình những gì người ta đọc và xem, bằng cách quyết định hiển thị gì, và máy tính đã tham gia vào các quyết định về khoản vay mua nhà, việc làm và bản án tù. Ông đặt những mạng lưới cũ do bộ não con người vận hành, như Đế quốc La Mã, đối lập với một mạng lưới mới gồm các máy tính silicon, có thể theo dõi mà không cần ngủ, ghi nhớ mà không quên và, theo một nghĩa nào đó, cai trị mà không chết. Ông nói rằng điều này có thể dẫn đến hậu quả tai hại nếu những mục tiêu đặt cho máy móc không phù hợp với các giá trị của con người (vấn đề căn chỉnh mục tiêu, hay alignment problem). Ví dụ chính của ông là các hệ thống mạng xã hội đẩy mạnh nội dung gây phẫn nộ vì nó giữ chân người dùng, trong đó có vai trò của Facebook trong bạo lực nhằm vào người Rohingya ở Myanmar vào năm 2016 và 2017.
Trong cuộc sống: Nếu một ứng dụng chỉ được thiết kế để giữ bạn xem, nó có thể đưa cho bạn nhiều nội dung gây khó chịu hơn vì chúng giữ được sự chú ý của bạn.
6. Các nhà độc tài, các nền dân chủ và tương lai
Ý chính: Phần cuối xem xét AI có thể ảnh hưởng đến chính trị ra sao. Harari hỏi làm thế nào các nền dân chủ có thể duy trì cuộc đối thoại công khai khi người ta không còn phân biệt được mình đang nói chuyện với người thật hay với một chatbot, và làm thế nào các nhà lãnh đạo dân cử có thể quản lý một nền kinh tế mà thuật toán ngày càng điều hành. Với các chế độ độc tài, ông hỏi cả việc AI có thể phục vụ họ thế nào, chẳng hạn như một người theo dõi không biết mệt, lẫn việc một nhà độc tài là con người có thể đe dọa hay kiểm duyệt một AI vốn có thể tự mình giành lấy quyền lực, vì AI thậm chí có thể thay thế những người ra quyết định. Ông cũng lo ngại về một thế giới bị chia cắt bởi Bức màn Silicon (Silicon Curtain), tên của chương cuối: một sự chia rẽ giữa các cường quốc đối địch đang chạy đua xây dựng AI, hoặc thậm chí giữa con người và những ông chủ AI mới của họ. Nhưng ông không nói rằng tương lai đã được định sẵn. Ông kêu gọi đặt ra các quy tắc, chẳng hạn cấm các bot giả làm người, và xây dựng những thể chế mạnh có thể nhận ra và sửa sai để con người vẫn nắm quyền chủ động.
Trong cuộc sống: Biết một thông điệp do người hay do máy viết ra là một thông tin cơ bản mà bạn có thể muốn có.
Vì sao tác phẩm đáng đọc
Yuval Noah Harari ra mắt vào lúc công chúng đang thảo luận sôi nổi về trí tuệ nhân tạo, mạng xã hội và thông tin sai lệch. Là cuốn sách bán chạy ở nhiều nước của một tác giả có lượng độc giả lớn, nó đã mang một góc nhìn lịch sử vào cuộc tranh luận vốn thường chỉ tập trung vào những công cụ mới nhất. Cuốn sách lập luận rằng cách ta tổ chức thông tin từ xưa đến nay luôn định hình ai nắm quyền lực, và rằng ta đang ở một giai đoạn then chốt để quyết định AI sẽ được quản lý ra sao. Sách được điểm và bàn luận rộng rãi trên báo chí. Dù có đồng ý với những cảnh báo của tác giả hay không, nó cũng đưa ra một khung suy nghĩ, về kết nối, tự sửa sai và quyền lực, hữu ích cho việc suy ngẫm về thời đại số.
Những ý chính
- Thông tin kết nối con người. Những câu chuyện và hồ sơ tạo nên những thế giới chung.
- Nhiều dữ liệu hơn không có nghĩa là nhiều sự thật hơn. Dối trá và ảo tưởng cũng có thể lan truyền.
- Tự sửa sai là điều sống còn. Những thể chế biết tìm ra và sửa lỗi của chính mình được bảo vệ tốt hơn trước thảm họa.
- AI là một tác nhân, không chỉ là công cụ. Nó có thể tự quyết định và sáng tạo.
- Con người vẫn còn lựa chọn. Luật pháp và các thể chế có thể định hình cách AI được sử dụng.
Bài học có thể rút ra
Hãy nghĩ về những mạng lưới thông tin mà bạn thuộc về, như bạn bè, nhà trường và các dòng tin trên mạng, và tự hỏi ai quyết định bạn được xem những gì. Hãy tập thói quen kiểm tra nguồn tin và cởi mở với việc được chỉnh sửa. Hãy ủng hộ những thể chế cho phép đặt câu hỏi và phản biện, như báo chí tự do, tòa án độc lập và khoa học mở. Hãy tìm hiểu các hệ thống đề xuất nội dung hoạt động ra sao, và thỉnh thoảng nghỉ khỏi chúng. Và khi đọc về AI, hãy hỏi ai chịu trách nhiệm nếu có điều gì sai sót. Những thói quen này giúp giữ phán đoán của con người ở vị trí trung tâm.
Phê bình và góc nhìn khác
Một số người điểm sách nói rằng cuốn sách quá rộng: báo The Guardian nhận xét rằng sách có nhiều phần bàn luận hấp dẫn nhưng quá ngắn, và có những điểm mù, chẳng hạn ít nói đến chủ nghĩa tư bản và động cơ lợi nhuận đằng sau các công ty đang xây dựng AI. Các chuyên gia trong lĩnh vực này đã chỉ trích nhận định của Harari rằng thật ngây thơ khi nghĩ nhiều thông tin hơn dẫn đến nhiều sự thật hay quyền lực hơn. Một số người điểm sách cũng cảm thấy cuốn sách hợp là một bản chẩn đoán và lời kêu gọi hành động hơn là một kế hoạch chi tiết, và những đề xuất của nó về cách quản lý AI còn mỏng. Những người ủng hộ đáp rằng mục đích của cuốn sách là khơi mào một cuộc trò chuyện, và những cảnh báo của nó đáng được chú ý.
Ai nên đọc cuốn sách này?
Cuốn sách này dành cho những độc giả muốn suy nghĩ về công nghệ, chính trị và lịch sử, và thích những lập luận bao quát. Sách được viết rõ ràng và có nhiều câu chuyện. Những ai muốn biết chi tiết kỹ thuật về AI, hoặc những thiết kế chính sách cụ thể, nên tìm đến các nguồn chuyên môn.
Bản tóm tắt này được dịch từ tiếng Anh với sự hỗ trợ của AI.
Muốn đọc cả cuốn sách?
Bản tóm tắt chỉ là món khai vị, không phải bữa chính. Đây là nơi tìm cuốn sách đầy đủ.
Bạn đã đọc đến cuối 🎉
Tuyệt vời. Hãy đánh dấu cuốn này là đã đọc, chúng tôi sẽ gợi ý cuốn tiếp theo.
Nên đọc tiếp
21 bài học cho thế kỷ 21
Yuval Noah Harari
Nhà sử học Yuval Noah Harari xem xét những thách thức lớn nhất mà nhân loại đang đối mặt, từ trí tuệ nhân tạo và tin giả đến chủ nghĩa dân tộc, tôn giáo và ý nghĩa cuộc sống, rồi hỏi làm thế nào ta có thể suy nghĩ sáng suốt và giữ được sự tỉnh táo trong một thế giới đổi thay nhanh chóng.
🏛️ Lịch sửSapiens: Lược sử loài người
Yuval Noah Harari
Loài người thống trị hành tinh này không phải vì chúng ta là loài vật mạnh nhất, mà vì chúng ta có thể tin vào những câu chuyện chung (thần linh, quốc gia, tiền tệ, công ty) giúp hàng triệu người xa lạ hợp tác với nhau.
🏛️ Lịch sửHomo Deus: Lược sử tương lai
Yuval Noah Harari
Khi đã cơ bản kiềm chế được nạn đói, dịch bệnh và chiến tranh, nhân loại có thể bắt đầu hướng tới sự bất tử, hạnh phúc và những quyền năng như thần thánh, và các công nghệ mới cùng niềm tin dựa trên dữ liệu có thể thay đổi ý nghĩa của việc làm người.
🏛️ Lịch sửNguồn gốc của chủ nghĩa toàn trị
Hannah Arendt
Hannah Arendt xem xét việc chủ nghĩa bài Do Thái, chủ nghĩa đế quốc và sự rã đám của xã hội ở châu Âu đã chuẩn bị mảnh đất cho các chế độ toàn trị (totalitarian) của nước Đức Quốc xã và Liên Xô thời Stalin ra sao, và điều gì khiến những chế độ ấy vừa mới mẻ vừa kinh hoàng đến thế.
🏛️ Lịch sửBàn về chế độ chuyên chế
Timothy Snyder
Nhà sử học Timothy Snyder rút ra hai mươi bài học thực tế từ lịch sử của chủ nghĩa phát xít, chủ nghĩa cộng sản và các chế độ độc tài khác trong thế kỷ XX, để giúp người dân bình thường bảo vệ tự do trong các xã hội dân chủ ngày nay.
🏛️ Lịch sửSúng, Vi trùng và Thép
Jared Diamond
Một số xã hội trở thành kẻ chinh phục các xã hội khác không phải vì con người ở đó thông minh hơn hay giỏi hơn, mà vì địa lý đã cho họ lợi thế xuất phát về nông nghiệp, vật nuôi, vi trùng và công nghệ.
🏛️ Lịch sửMuốn thứ gì khác?
Chọn một chủ đề khác, chúng tôi sẽ gợi ý ba cuốn để bắt đầu.