Tương thích với con người

Tên gốc: Human Compatible

Từ 13 tuổiđọc 6 phúttrí tuệ nhân tạođạo đức họckhoa học máy tính
Tìm mua sách ↓

Người tiên phong về AI Stuart Russell lập luận rằng cách xây dựng trí tuệ nhân tạo theo lối chuẩn, tức giao cho máy những mục tiêu cố định, là sai lầm và nguy hiểm, và đề xuất rằng chúng ta nên thiết kế những cỗ máy không chắc chắn về sở thích của con người và học chúng bằng cách quan sát chúng ta.

Giới thiệu

Human Compatible: Artificial Intelligence and the Problem of Control ra mắt năm 2019, do Stuart Russell, giáo sư khoa học máy tính tại Đại học California, Berkeley, đồng tác giả của giáo trình hàng đầu về trí tuệ nhân tạo, viết. Không như nhiều người viết về chủ đề này, ông là một người làm nghề thực sự, đã dành nhiều thập kỷ để xây dựng AI. Sách dành cho độc giả đại chúng. Trong sách, Russell điểm lại tiến bộ và triển vọng của AI, giải thích vì sao nó có thể đi sai hướng, và đưa ra một cách tiếp cận mới mà ông nghĩ có thể làm cho AI trở nên có lợi. Giọng văn rõ ràng, điềm tĩnh và đôi chỗ hóm hỉnh.

Tóm tắt đầy đủ

1. Triển vọng và tiến bộ của AI

Ý chính: Russell bắt đầu với lịch sử của AI và những thành tựu gần đây, như xe tự lái và phần mềm trợ lý cá nhân. Ông giải thích rằng mục tiêu của lĩnh vực này là tạo ra những cỗ máy có thể đạt được mục tiêu của chúng, và thành công sẽ vô cùng giá trị, vì trí tuệ là nền tảng của văn minh, và một AI ngang tầm con người có thể đáng giá nhiều nghìn tỷ đô la và có thể đẩy nhanh khoa học. Nhưng ông cảnh báo rằng chính thành công ấy cũng mang theo rủi ro, vì một cỗ máy có năng lực hơn chúng ta có thể khó kiểm soát.

Trong cuộc sống: Dịch thuật tốt hơn và các công cụ y tế là những lợi ích đầu tiên của AI.

2. Bài toán con khỉ đột

Ý chính: Russell dùng “bài toán con khỉ đột” (gorilla problem) để minh họa mối nguy: khỉ đột khỏe hơn con người, nhưng số phận của chúng lại phụ thuộc vào chúng ta, vì chúng ta thông minh hơn. Nếu chúng ta tạo ra những cỗ máy thông minh hơn chính mình, chúng ta có thể rơi vào vị trí của loài khỉ đột. Ông nói rằng chúng ta nên tự hỏi liệu điều đó có khôn ngoan không, và cần chắc chắn rằng mình giữ được quyền kiểm soát. Ông bác bỏ quan điểm cho rằng rủi ro là không thể xảy ra, hoặc rằng ta có thể đơn giản tắt máy nếu nó hoạt động sai, và ông lập luận rằng nhiều lý do thường được đưa ra để gạt bỏ rủi ro này không đứng vững.

Trong cuộc sống: Nhóm kém thông minh hơn thường phụ thuộc vào thiện chí của nhóm thông minh hơn.

3. Lỗ hổng của mô hình chuẩn

Ý chính: Trọng tâm của cuốn sách là lời phê bình “mô hình chuẩn” (standard model) của AI, trong đó chúng ta xác định một mục tiêu cố định và cỗ máy tối ưu hóa nó. Nếu mục tiêu sai hoặc thiếu sót, một cỗ máy rất có năng lực sẽ theo đuổi nó không ngừng, với những kết quả không mong muốn. Ông đưa ra một ví dụ từ các thuật toán mạng xã hội, được thiết kế để tối đa hóa số lượt nhấp chuột, và lập luận rằng một cách để hệ thống như vậy làm được điều đó là thay đổi sở thích của người dùng, khiến họ cực đoan và dễ đoán hơn. Xác định đúng mục tiêu là rất khó, và chúng ta hiếm khi làm được hoàn hảo.

Trong cuộc sống: Một hệ thống được thưởng theo số lượt nhấp chuột có thể đưa cho bạn những nội dung khiến bạn tức giận, vì điều đó giữ chân bạn xem tiếp.

4. Một cách tiếp cận mới: ba nguyên tắc

Ý chính: Russell đề xuất rằng máy móc nên được thiết kế dựa trên ba nguyên tắc. Thứ nhất, mục tiêu duy nhất của máy là tối đa hóa việc hiện thực hóa các sở thích của con người. Thứ hai, ban đầu máy không chắc chắn về những sở thích đó là gì. Thứ ba, nguồn thông tin cuối cùng về sở thích của con người là hành vi của con người. Một cỗ máy được xây dựng như vậy sẽ nhường quyền cho con người, xin phép trước khi làm, và để mình bị tắt, vì nó biết rằng mình có thể sai về điều chúng ta muốn. Sự không chắc chắn khiến nó khiêm tốn.

Trong cuộc sống: Một người trợ lý tận tâm, khi chưa chắc ý bạn, sẽ hỏi trước khi làm.

5. Học sở thích và công tắc tắt

Ý chính: Tác giả mô tả những ý tưởng kỹ thuật để đưa các nguyên tắc vào thực tế, như “học tăng cường nghịch đảo” (inverse reinforcement learning), trong đó máy suy ra điều con người muốn bằng cách quan sát điều họ làm, và “trò chơi công tắc tắt” (off-switch game), một phân tích toán học cho thấy một cỗ máy không chắc chắn về sở thích của con người sẽ để mình bị tắt, vì lựa chọn của con người cung cấp thông tin cho nó. Ông cũng bàn về những vấn đề nảy sinh: con người không nhất quán, thiếu lý trí và có những sở thích khác nhau, mâu thuẫn nhau, khiến máy khó học được nên làm gì.

Trong cuộc sống: Người ta thường nói một đằng làm một nẹo, khiến khó biết họ thật sự muốn gì.

6. Lạm dụng, việc làm và quản trị

Ý chính: Russell cũng bàn về những vấn đề trước mắt hơn, mà ông trình bày sớm hơn phần đề xuất của mình trong sách: giám sát và thao túng, vũ khí tự động gây chết người, thứ mà ông phản đối và muốn cấm, và việc mất việc làm vì tự động hóa. Ông cũng cảnh báo về việc quá lệ thuộc vào máy móc, có thể dẫn đến mất đi tri thức và kỹ năng của con người. Gần cuối sách, ông kêu gọi quản trị AI chặt chẽ hơn, nói rằng các xã hội phải hợp tác về luật lệ và tiêu chuẩn, và rằng các nhà nghiên cứu AI có trách nhiệm nghĩ về an toàn, như các kỹ sư ở những ngành khác. Ông gợi ý rằng chúng ta cần thay đổi văn hóa của lĩnh vực này.

Trong cuộc sống: Đã có những quy tắc về thiết kế an toàn cho cầu, và cần có những quy tắc tương tự cho AI.

Vì sao tác phẩm đáng đọc

Tương thích với con người được ca ngợi rộng rãi và trở thành một trong những tuyên bố hàng đầu về sự cần thiết của an toàn AI, đến từ chính bên trong lĩnh vực AI. Vì Russell là một nhà khoa học máy tính được kính trọng, quan điểm của ông có trọng lượng với những nhà nghiên cứu vốn hoài nghi trước những mối lo mà các triết gia nêu ra. Ba nguyên tắc, và khái niệm về những cỗ máy không chắc chắn về sở thích của chúng ta, đã đưa ra một cách tiếp cận độc đáo cho bài toán căn chỉnh (alignment problem), và ảnh hưởng đến nghiên cứu. Cuốn sách cũng đến được với các nhà hoạch định chính sách và công chúng, vào thời điểm AI tiến bộ nhanh chóng, và góp thêm vào những lời kêu gọi điều chỉnh bằng pháp luật, kể cả việc hạn chế vũ khí tự động.

Những ý chính

  • Mục tiêu cố định là nguy hiểm. Một cỗ máy có năng lực sẽ theo đuổi chúng theo nghĩa đen.
  • Máy nên không chắc chắn về mục tiêu của chúng ta. Sự khiêm tốn khiến chúng an toàn hơn.
  • Hãy học từ hành vi của con người. Máy nên suy ra sở thích của chúng ta.
  • Cho phép công tắc tắt. Sự không chắc chắn nghĩa là máy sẽ chấp nhận sự điều chỉnh.
  • Cũng hãy hành động về những rủi ro trước mắt. Vũ khí, giám sát và việc làm cần được chú ý.

Bài học có thể rút ra

Bạn có thể dùng cuốn sách để suy nghĩ về những mục tiêu được cài vào công nghệ bạn đang dùng, và ai là người quyết định chúng. Hãy hỏi xem một hệ thống đang tối ưu cho thứ nó đo được hay cho điều bạn muốn. Hãy ủng hộ các quy tắc và cuộc tranh luận công khai về AI, kể cả việc hạn chế vũ khí tự động. Hãy tìm hiểu những điều cơ bản về cách học máy hoạt động. Hãy dè chừng cả sự thổi phồng lẫn sự gạt bỏ. Và hãy nhớ rằng những người làm công nghệ, như Russell, đang suy nghĩ về cách làm cho AI trở nên có lợi, và rằng ý kiến của công chúng cũng quan trọng.

Phê bình và góc nhìn khác

Một số nhà phê bình cho rằng đề xuất để máy học sở thích của con người đối mặt với những khó khăn to lớn, vì giá trị của con người đa dạng, mâu thuẫn và thay đổi, và không rõ sở thích của ai được tính. Những người khác nghi ngờ rằng một cỗ máy thực sự thông minh sẽ hành xử như những thí nghiệm tưởng tượng của sách gợi ý, vì trí tuệ tổng quát sẽ đi kèm với lẽ thường và khả năng phán đoán xã hội. Một số người nói rằng Russell tập trung vào những rủi ro dài hạn, trong khi những người khác nghĩ những tác hại hiện tại đáng được chú ý hơn. Những người hoài nghi đặt câu hỏi liệu siêu trí tuệ có gần kề hay không. Một nhà điểm sách thấy phần kỹ thuật quá khó còn phần triết học quá dễ. Dù vậy, nhiều người coi cuốn sách là có giá trị.

Ai nên đọc cuốn sách này?

Cuốn sách này dành cho độc giả đại chúng muốn có một bản trình bày rõ ràng, có thẩm quyền về rủi ro của AI do một chuyên gia viết, kể cả các bạn thiếu niên lớn tuổi. Sách dễ tiếp cận, với một số phần kỹ thuật được giải thích đơn giản. Những ai muốn tìm hiểu sâu hơn các lập luận triết học có thể đọc Superintelligence của Bostrom.

Bản tóm tắt này được dịch từ tiếng Anh với sự hỗ trợ của AI; đang chờ người đọc kiểm tra lại.

Muốn đọc cả cuốn sách?

Bản tóm tắt chỉ là món khai vị, không phải bữa chính. Đây là nơi tìm cuốn sách đầy đủ.

Bạn đã đọc đến cuối 🎉

Tuyệt vời. Hãy đánh dấu cuốn này là đã đọc, chúng tôi sẽ gợi ý cuốn tiếp theo.

Nên đọc tiếp

Siêu trí tuệ

Nick Bostrom

Nhà triết học Nick Bostrom lập luận rằng nếu máy móc trở nên thông minh hơn con người rất nhiều, chúng có thể trở nên cực kỳ quyền lực, và trừ khi chúng ta giải được bài toán đặt cho chúng những mục tiêu an toàn với nhân loại, hậu quả có thể là thảm họa.

💡 Công nghệ

Sự sống 3.0

Max Tegmark

Nhà vật lý Max Tegmark tìm hiểu điều gì sẽ xảy ra khi trí tuệ nhân tạo ngang bằng rồi vượt qua trí tuệ con người, vạch ra một loạt tương lai có thể xảy ra, và lập luận rằng ngay từ bây giờ chúng ta nên suy nghĩ cẩn thận xem mình muốn tương lai nào.

🔬 Khoa học

Sóng thần công nghệ

Mustafa Suleyman with Michael Bhaskar

Mustafa Suleyman, một trong những người đồng sáng lập công ty trí tuệ nhân tạo (AI) DeepMind, lập luận rằng một làn sóng sắp tới gồm trí tuệ nhân tạo và sinh học tổng hợp sẽ mang lại cả lợi ích khổng lồ lẫn những mối nguy nghiêm trọng, và việc kiềm chế các công nghệ này tuy trông như bất khả thi nhưng vẫn phải bằng cách nào đó làm cho khả thi.

💡 Công nghệ

Vũ khí hủy diệt toán học

Cathy O'Neil

Nhà toán học, từng là chuyên viên phân tích của một quỹ phòng hộ, Cathy O'Neil cho thấy những thuật toán bí mật, không ai chịu trách nhiệm đang được dùng trong trường học, nơi làm việc, công tác cảnh sát, tín dụng và bảo hiểm có thể lặng lẽ củng cố sự bất công trong khi trông có vẻ khách quan, và bà gọi chúng là "vũ khí hủy diệt bằng toán học" (weapons of math destruction).

💡 Công nghệ

Đồng trí tuệ

Ethan Mollick

Giáo sư Ethan Mollick của Wharton đưa ra một hướng dẫn thực tế về việc làm việc cùng AI tạo sinh như một dạng "trí tuệ cộng tác" (co-intelligence), giải thích nó làm tốt và làm dở điều gì, và nêu bốn quy tắc để dùng nó hiệu quả và có trách nhiệm trong công việc, học tập và đời sống.

💡 Công nghệ

Những nhà đổi mới

Walter Isaacson

Walter Isaacson kể lại lịch sử cuộc cách mạng số qua những con người đã phát minh ra máy tính, internet và World Wide Web, và lập luận rằng đổi mới chủ yếu là kết quả của sự hợp tác, chứ không phải công của những thiên tài đơn độc.

💡 Công nghệ

Muốn thứ gì khác?

Chọn một chủ đề khác, chúng tôi sẽ gợi ý ba cuốn để bắt đầu.

Hiển thị sách cho:
Duyệt tất cả sách →