Đồng trí tuệ
Tên gốc: Co-Intelligence
Giáo sư Ethan Mollick của Wharton đưa ra một hướng dẫn thực tế về việc làm việc cùng AI tạo sinh như một dạng "trí tuệ cộng tác" (co-intelligence), giải thích nó làm tốt và làm dở điều gì, và nêu bốn quy tắc để dùng nó hiệu quả và có trách nhiệm trong công việc, học tập và đời sống.
Giới thiệu
Co-Intelligence: Living and Working with AI xuất bản năm 2024, do Ethan Mollick viết. Ông là giáo sư tại Trường Wharton thuộc Đại học Pennsylvania, nghiên cứu về đổi mới sáng tạo và khởi nghiệp, và đã thử nghiệm các chatbot AI trong giảng dạy và nghiên cứu của mình. Khác với nhiều sách về AI, cuốn này tập trung vào việc sử dụng chứ không phải những tương lai xa xôi. Mollick cho rằng các mô hình ngôn ngữ lớn rất lạ, là một dạng “trí óc xa lạ” (alien mind), có thể trở thành một người cộng sự trong tư duy nếu ta học được cách dùng nó. Sách ngắn, thực tế, viết theo giọng thân thiện, và từng là sách bán chạy.
Tóm tắt đầy đủ
1. Tạo ra những trí óc xa lạ
Ý chính: Mollick mở đầu bằng một lịch sử ngắn của AI, từ Mechanical Turk, một cỗ máy chơi cờ vua của những năm 1770 hóa ra là một trò lừa, đến thuật ngữ “trí tuệ nhân tạo” năm 1956 và những chu kỳ tung hô rồi thất vọng được gọi là “mùa đông AI” (AI winters). Ông giải thích rằng một kiến trúc mới, Transformer (2017), cho phép các mô hình cân nhắc phần nào trong một văn bản là quan trọng nhất, và các mô hình ngôn ngữ lớn được huấn luyện trên lượng văn bản khổng lồ để dự đoán từ tiếp theo, rồi được tinh chỉnh bằng phản hồi của con người. Những mô hình như GPT-3.5 và GPT-4 có thể viết, tóm tắt và vượt qua nhiều bài kiểm tra, nhưng cũng mắc lỗi, và vẻ ngoài hiểu biết của chúng có thể là ảo ảnh. Ông gọi chúng là “trí óc xa lạ”, với điểm mạnh và điểm yếu không giống ta.
Trong cuộc sống: Một chatbot có thể viết bài luận trôi chảy mà không hề biết điều đó có đúng hay không.
2. Chỉnh hướng cho kẻ xa lạ
Ý chính: Chương này bàn về vấn đề căn chỉnh mục tiêu (alignment problem): làm sao bảo đảm AI phục vụ lợi ích của con người. Mollick bắt đầu từ trường hợp xấu nhất, dùng thí nghiệm tư duy của triết gia Nick Bostrom về một AI “kẹp giấy” theo đuổi một mục tiêu duy nhất mù quáng đến mức làm hại nhân loại. Ông lưu ý rằng các chuyên gia không đồng ý về việc AI ngang tầm con người có khả thi hay không, nhưng nhiều người coi các rủi ro là nghiêm túc. Ông cũng xem xét những vấn đề gần hơn: dữ liệu huấn luyện thường được thu thập từ internet mà không xin phép, những thiên lệch mà mô hình hấp thụ từ dữ liệu đó, và giới hạn của việc huấn luyện bằng phản hồi của con người, vì những câu lệnh (prompt) khéo léo vẫn có thể khiến mô hình cư xử sai, chẳng hạn để phục vụ lừa đảo. Ông lập luận rằng các giải pháp cần đến doanh nghiệp, chính phủ, nhà nghiên cứu và một công chúng am hiểu.
Trong cuộc sống: Một chatbot có thể từ chối một yêu cầu có hại, nhưng một câu lệnh sáng tạo đôi khi có thể lách qua quy tắc đó.
3. Bốn quy tắc cho trí tuệ cộng tác
Ý chính: Cốt lõi của cuốn sách là bốn quy tắc. Thứ nhất, luôn mời AI vào bàn: hãy thử nó với các công việc thường ngày của bạn, trong chừng mực luật pháp và đạo đức cho phép, để biết nó giúp được ở đâu và vấp ở đâu. Thứ hai, hãy là con người nằm trong vòng kiểm soát (human in the loop): kiểm tra kết quả của nó và dùng phán đoán của chính bạn, vì nó có thể mắc lỗi và bịa ra sự việc. Thứ ba, hãy đối xử với AI như một con người, nhưng cho nó biết nó là kiểu người nào: giao cho nó một vai trò và bối cảnh, đồng thời nhớ rằng nó không phải con người. Thứ tư, hãy giả định rằng đây là AI tệ nhất bạn sẽ từng dùng, vì nó sẽ còn tiến bộ. “Ranh giới gồ ghề” (jagged frontier), tức rìa khả năng không đều của AI, nơi những việc có vẻ khó như nhau với ta có thể dễ với AI hoặc khó một cách bất ngờ, là một ý then chốt xuyên suốt phần này của sách và các chương sau.
Trong cuộc sống: Giao cho chatbot một vai trò, chẳng hạn một gia sư kiên nhẫn, có thể cải thiện câu trả lời của nó.
4. AI như một con người
Ý chính: Mollick lập luận rằng AI không giống phần mềm truyền thống, vốn cư xử có thể đoán trước, vì nó có thể gây bất ngờ và thiếu nhất quán, nên thường hữu ích hơn khi đối xử với nó như thể nó là một con người. Ông bàn về những nghiên cứu trong đó một mô hình ước tính người tiêu dùng sẽ trả bao nhiêu cho sản phẩm và đưa ra lựa chọn trong các trò chơi về sự công bằng, trò chơi bắt chước của Alan Turing, và những chatbot đời đầu như ELIZA và PARRY mà người ta tưởng là hơn thế. Ông mô tả việc một mô hình đổi giọng điệu theo người dùng, việc một số nhà nghiên cứu từng tuyên bố thấy dấu hiệu của trí tuệ tổng quát ở GPT-4 (một nhận định mà nhiều người nghi ngờ), và cách các ứng dụng bạn đồng hành như Replika đặt ra câu hỏi về sự thân mật. Ông cảnh báo rằng ngay cả những người dùng sành sỏi cũng dễ tin rằng những hệ thống này là con người.
Trong cuộc sống: Một chatbot có thể có vẻ bộc lộ cảm xúc, nhưng thực ra nó đang bắt chước ngôn ngữ của con người.
5. AI như một người sáng tạo
Ý chính: Chương này bắt đầu bằng hiện tượng ảo giác (hallucination), tức xu hướng bịa ra sự việc, xuất phát từ việc dự đoán văn bản nghe hợp lý chứ không phải tra cứu tri thức. Ông nhắc đến vụ việc năm 2023 khi một luật sư nộp một bản bào chữa pháp lý được soạn bằng ChatGPT. Tuy vậy, chính khả năng nối những ý tưởng xa nhau ấy khiến AI thành một nguồn ý tưởng sáng tạo mạnh, và ông mô tả một cuộc thi trong đó GPT-4 tạo ra những ý tưởng sản phẩm so sánh được với ý tưởng của các sinh viên MBA ở Wharton. Vì AI có thể viết bản nháp đầu tiên dễ dàng như vậy, ông lo về việc tư duy yếu đi và việc mất đi ý nghĩa mà công sức đem lại cho công việc sáng tạo, nhưng ông cũng thấy những cách mới để con người biểu đạt bản thân.
Trong cuộc sống: Một chatbot có thể đưa ra hàng chục ý tưởng trong vài giây, nhưng con người phải chọn lọc và kiểm tra chúng.
6. AI như một đồng nghiệp
Ý chính: Mollick nói rằng công việc là những gói nhiệm vụ nằm trong các hệ thống lớn hơn, và nghiên cứu cho thấy AI chồng lấn với gần như mọi nghề, kể cả những nghề lương cao và sáng tạo, nên các nhiệm vụ sẽ thay đổi nhiều hơn là cả công việc biến mất. Ông dựa vào một nghiên cứu về các nhà tư vấn, thực hiện cùng các đồng nghiệp, trong đó AI giúp được ở nhiều nhiệm vụ, tăng tốc độ và chất lượng, và đặc biệt giúp những người làm yếu hơn, nhưng gây hại ở một nhiệm vụ nằm ngoài khả năng của nó. Ông cảnh báo về việc lơ là như ngủ gật trên tay lái. Ông phân loại nhiệm vụ thành những việc nên giữ lại “chỉ mình tôi làm”, những việc có thể giao cho người khác và những việc có thể tự động hóa, và mô tả hai cách làm việc: “centaur” (nhân mã), những người chia việc giữa bản thân và AI, và “cyborg” (người máy sinh học), những người đan hai bên vào nhau. Ông lưu ý rằng người lao động thường dùng AI một cách kín đáo, và nói các tổ chức nên học hỏi từ những người dùng giỏi nhất của mình.
Trong cuộc sống: Một chatbot có thể làm tốt một việc nhàm chán, nhưng kết quả của nó có thể sai theo những cách bất ngờ.
7. AI như gia sư và huấn luyện viên
Ý chính: Giáo dục từ lâu đã muốn có thứ gì đó giống “hiệu ứng hai sigma” (two sigma) mà nhà giáo dục Benjamin Bloom tìm thấy ở hình thức dạy kèm một thầy một trò. AI mang lại cơ hội dạy kèm cá nhân hóa, dù không thay thế được giáo viên hay trường học. Trước hết là điều Mollick gọi là “tận thế bài tập về nhà” (homework apocalypse): học sinh giờ đây có thể nhờ AI làm bài luận và bài tập, nên các nhà giáo dục phải nghĩ lại cách đánh giá, như họ từng thích nghi với máy tính bỏ túi. Ông nói nhà trường nên dạy về AI và giới hạn của nó, và gợi ý mô hình lớp học đảo ngược (flipped classroom), trong đó học sinh học nội dung ở nhà với sự trợ giúp của AI, như Khanmigo của Khan Academy, và dùng thời gian trên lớp cho các hoạt động thực hành.
Sau đó, ở chương tiếp theo, Mollick chuyển sang AI như một huấn luyện viên. Ông lập luận rằng nguy cơ lớn hơn đối với giáo dục là đối với hệ thống học nghề ngầm, qua đó người mới học hỏi từ chuyên gia ngay trong công việc. Nếu AI làm các nhiệm vụ cấp độ khởi đầu, có thể xuất hiện một khoảng trống đào tạo, như nhà nghiên cứu Matthew Beane đã thấy trong phẫu thuật bằng robot. Để trở thành chuyên gia vẫn cần kiến thức nền tảng và luyện tập có chủ đích kèm phản hồi, và AI có thể giúp như một huấn luyện viên, nhưng chưa phải một huấn luyện viên trọn vẹn. AI dường như cũng thu hẹp khoảng cách giữa người làm yếu và người làm giỏi, dù không phải ai cũng thành chuyên gia được, và ông kêu gọi xây dựng chuyên môn của con người.
Trong cuộc sống: Một học sinh có thể nhờ chatbot ra câu hỏi kiểm tra mình, hoặc góp ý cho một bài thuyết trình, nhưng vẫn cần luyện tập.
8. AI như tương lai của chúng ta
Ý chính: Mollick phác ra bốn tương lai có thể xảy ra. Trong kịch bản “tốt đến mức này là hết” (as good as it gets), tiến bộ dừng lại ở đây, nhưng ngay cả khi ấy, thông tin sai lệch, những thay đổi trong công việc và các mối quan hệ với AI vẫn sẽ rất lớn. Trong “tăng trưởng chậm” (slow growth), sự cải thiện diễn ra dần dần, cho xã hội thời gian thích nghi và đặt ra quy định. Trong “tăng trưởng theo cấp số nhân” (exponential growth), thay đổi đến rất nhanh và làm xáo trộn công việc và xã hội. Trong “vị thần máy móc” (the machine god), một AI siêu trí tuệ xuất hiện, với những rủi ro và lợi ích to lớn. Ông nói có rất ít bằng chứng cho thấy các giới hạn đã chạm tới, và kêu gọi độc giả hướng tới một kết quả tốt thay vì để mặc cho may rủi.
Trong cuộc sống: Ngay cả khi không có thêm tiến bộ, các công cụ AI hiện nay vẫn có thể thay đổi nhiều công việc.
Vì sao tác phẩm đáng đọc
Đồng trí tuệ từng là sách bán chạy, và trở thành một cẩm nang thực tế phổ biến về AI tạo sinh, được giáo viên, nhà quản lý và độc giả phổ thông đọc. Nó lấp khoảng trống giữa những tác phẩm kỹ thuật và những tác phẩm suy đoán, đem đến cho người bình thường lời khuyên có thể dùng ngay. Bốn quy tắc của Mollick và hình ảnh “ranh giới gồ ghề” của ông đã được bàn đến nhiều. Cuốn sách khuyến khích nhiều người thử các công cụ này, và nghĩ về cách đưa chúng vào công việc và học tập. Nó cũng góp phần vào cuộc thảo luận về giáo dục và AI. Vì AI thay đổi nhanh, một số chi tiết đã lỗi thời, nhưng những bài học chính vẫn còn nguyên.
Những ý chính
- Hãy thử AI với mọi việc. Trải nghiệm cho thấy nó làm được và không làm được điều gì.
- Luôn là con người trong vòng kiểm soát. Kiểm tra công việc của nó và dùng phán đoán của bạn.
- Hãy giao cho AI một vai trò và bối cảnh. Nó làm việc tốt hơn khi có chỉ dẫn rõ ràng.
- Hãy chờ đợi sự cải thiện. Các công cụ hôm nay là những công cụ tệ nhất bạn sẽ dùng.
- Năng lực của AI gồ ghề không đều. AI có thể giỏi những việc khó và hỏng những việc dễ.
Bài học có thể rút ra
Bạn có thể thử dùng một chatbot AI cho nhiều việc khác nhau, như động não tìm ý tưởng, tóm tắt hoặc tự kiểm tra bản thân, và để ý xem nó giúp được ở đâu và hỏng ở đâu. Hãy luôn kiểm tra sự việc và nguồn, vì nó có thể bịa ra. Hãy cho nó chỉ dẫn và bối cảnh rõ ràng, và nhờ nó đóng một vai trò. Hãy nghĩ cách dùng AI như một huấn luyện viên, không phải để thay thế suy nghĩ của chính bạn, nhất là ở trường học, nơi việc học đòi hỏi nỗ lực. Hãy thảo luận các quy tắc dùng AI với thầy cô và gia đình. Và hãy luôn tò mò, vì các công cụ sẽ còn tiếp tục thay đổi.
Phê bình và góc nhìn khác
Một số nhà phê bình nói rằng cuốn sách vẽ ra một bức tranh quá tươi sáng về lợi ích của AI, và chú ý quá ít đến những tác hại như mất việc làm, thiên lệch, thông tin sai lệch, bản quyền và chi phí môi trường, và lời khuyên dùng AI ở mọi nơi có thể khuyến khích sự lệ thuộc quá mức. Những người khác lưu ý rằng các ví dụ dựa trên những nghiên cứu ban đầu có phạm vi hạn chế, và tốc độ thay đổi nhanh khiến các khuyến nghị cụ thể nhanh chóng lỗi thời. Những người hoài nghi nói rằng cách gọi “trí óc xa lạ” và “trí tuệ cộng tác” gán đặc điểm con người cho những hệ thống vốn chỉ là công cụ thống kê. Dù vậy, nhiều người thấy sách hữu ích.
Ai nên đọc cuốn sách này?
Cuốn sách dành cho bất kỳ ai muốn có một phần nhập môn thực tế về cách dùng AI tạo sinh, gồm học sinh, giáo viên và người đi làm. Sách ngắn, rõ ràng và cuốn hút. Ai muốn có phần bàn sâu hơn về rủi ro hoặc khía cạnh kỹ thuật nên đọc thêm những sách khác về AI.
Bản tóm tắt này được dịch từ tiếng Anh với sự hỗ trợ của AI; đang chờ người đọc kiểm tra lại.
Muốn đọc cả cuốn sách?
Bản tóm tắt chỉ là món khai vị, không phải bữa chính. Đây là nơi tìm cuốn sách đầy đủ.
Bạn đã đọc đến cuối 🎉
Tuyệt vời. Hãy đánh dấu cuốn này là đã đọc, chúng tôi sẽ gợi ý cuốn tiếp theo.
Nên đọc tiếp
Sóng thần công nghệ
Mustafa Suleyman with Michael Bhaskar
Mustafa Suleyman, một trong những người đồng sáng lập công ty trí tuệ nhân tạo (AI) DeepMind, lập luận rằng một làn sóng sắp tới gồm trí tuệ nhân tạo và sinh học tổng hợp sẽ mang lại cả lợi ích khổng lồ lẫn những mối nguy nghiêm trọng, và việc kiềm chế các công nghệ này tuy trông như bất khả thi nhưng vẫn phải bằng cách nào đó làm cho khả thi.
💡 Công nghệTương thích với con người
Stuart Russell
Người tiên phong về AI Stuart Russell lập luận rằng cách xây dựng trí tuệ nhân tạo theo lối chuẩn, tức giao cho máy những mục tiêu cố định, là sai lầm và nguy hiểm, và đề xuất rằng chúng ta nên thiết kế những cỗ máy không chắc chắn về sở thích của con người và học chúng bằng cách quan sát chúng ta.
💡 Công nghệThời đại máy móc thứ hai
Erik Brynjolfsson and Andrew McAfee
Hai nhà kinh tế học của MIT, Erik Brynjolfsson và Andrew McAfee, lập luận rằng các công nghệ số như máy tính, robot và trí tuệ nhân tạo đang đưa chúng ta vào một kỷ nguyên máy móc thứ hai, mang lại những lợi ích to lớn nhưng cũng làm bất bình đẳng ngày càng tăng, và họ cho rằng chúng ta phải thích nghi cả về kỹ năng lẫn thể chế.
💡 Công nghệSự sống 3.0
Max Tegmark
Nhà vật lý Max Tegmark tìm hiểu điều gì sẽ xảy ra khi trí tuệ nhân tạo ngang bằng rồi vượt qua trí tuệ con người, vạch ra một loạt tương lai có thể xảy ra, và lập luận rằng ngay từ bây giờ chúng ta nên suy nghĩ cẩn thận xem mình muốn tương lai nào.
🔬 Khoa họcSiêu cường AI: Trung Quốc, Thung lũng Silicon và trật tự thế giới mới
Lý Khai Phục
Nhà đầu tư công nghệ Kai-Fu Lee lập luận rằng Trung Quốc và Hoa Kỳ sẽ thống trị trí tuệ nhân tạo, giải thích vì sao Trung Quốc đang bắt kịp rất nhanh, và cảnh báo rằng AI sẽ làm thay đổi việc làm, đồng thời kêu gọi một cách ứng phó nhân văn hơn, dựa trên lòng trắc ẩn và tình yêu thương.
💡 Công nghệNhững nhà đổi mới
Walter Isaacson
Walter Isaacson kể lại lịch sử cuộc cách mạng số qua những con người đã phát minh ra máy tính, internet và World Wide Web, và lập luận rằng đổi mới chủ yếu là kết quả của sự hợp tác, chứ không phải công của những thiên tài đơn độc.
💡 Công nghệMuốn thứ gì khác?
Chọn một chủ đề khác, chúng tôi sẽ gợi ý ba cuốn để bắt đầu.