Thời đại của chủ nghĩa tư bản giám sát
Tên gốc: The Age of Surveillance Capitalism
Giáo sư Harvard Shoshana Zuboff lập luận rằng các công ty công nghệ lớn đã tạo ra một kiểu chủ nghĩa tư bản mới, thu thập khối lượng khổng lồ dữ liệu cá nhân, biến nó thành những dự đoán về hành vi của chúng ta rồi đem bán, đe dọa quyền riêng tư, quyền tự chủ và nền dân chủ.
Giới thiệu
The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power ra mắt năm 2019, do Shoshana Zuboff, một học giả từng viết về tác động của máy tính đối với công việc, viết. Cuốn sách dài, và xây dựng một lý thuyết mà bà đặt tên là chủ nghĩa tư bản giám sát (surveillance capitalism). Sách lần theo cách logic kinh tế này xuất hiện ở Google vào đầu những năm 2000, lan sang Facebook và các công ty khác, rồi sang nhiều ngành. Sách có một chương mở đầu, ba phần và một phần kết, tất cả mười tám chương: Phần I nói về nền tảng, với Google là người tiên phong, Phần II về việc logic mới này tiến vào thế giới rộng lớn hơn, và Phần III về loại quyền lực mà nó tạo ra. Bà dùng những thuật ngữ mới để mô tả nó, và dùng những so sánh lịch sử, chẳng hạn với Ford và General Motors và với chế độ toàn trị thế kỷ hai mươi, để giải thích vì sao đây là một hình thức quyền lực mới, một hình thức mà theo bà đáng bị chống lại.
Tóm tắt đầy đủ
1. Phần dữ liệu hành vi dư ra
Ý chính: Zuboff giải thích rằng trong những năm đầu, Google chỉ dùng dữ liệu mà người ta để lại khi tìm kiếm để cải thiện dịch vụ của mình. Sau khi bong bóng dot-com vỡ vào năm 2000, các nhà đầu tư thúc ép công ty còn non trẻ này phải kiếm tiền, và những người sáng lập quay sang quảng cáo. Google bắt đầu dùng phần dữ liệu còn dư ra, mà bà gọi là phần dữ liệu hành vi dư ra (behavioral surplus), để nhắm trúng quảng cáo và dự đoán người ta sẽ bấm vào quảng cáo nào. Bà xem năm 2002 là năm cách làm này bén rễ. Điều đó biến dữ liệu từ một sản phẩm phụ thành nguyên liệu thô chính. Theo bà, người dùng không phải khách hàng cũng không phải sản phẩm, mà là nguồn cung cấp nguyên liệu thô, còn các nhà quảng cáo trở thành khách hàng mua những kết quả đó.
Trong cuộc sống: Một ứng dụng miễn phí kiếm tiền từ dữ liệu của bạn không bán một sản phẩm cho bạn, mà bán thông tin về bạn cho người khác.
2. Sản phẩm dự đoán và thị trường hành vi tương lai
Ý chính: Dữ liệu được trí tuệ máy móc xử lý thành những sản phẩm dự đoán (prediction products), vốn đoán trước một người sẽ làm gì ngay lúc này, sắp tới hay về sau. Chúng được bán trên cái mà bà gọi là thị trường mua bán hành vi tương lai (behavioral futures markets), lúc đầu chủ yếu cho các nhà quảng cáo, về sau cho bất kỳ doanh nghiệp nào muốn biết hoặc tác động đến việc người ta sẽ làm. Công ty càng thu thập nhiều dữ liệu thì dự đoán càng chính xác, nên có một sức ép đòi ngày càng nhiều thông tin hơn về ngày càng nhiều mặt của cuộc sống.
Trong cuộc sống: Một công ty biết thói quen của bạn có thể đoán được khi nào bạn có khả năng mua một món đồ.
3. Từ dự đoán đến tác động
Ý chính: Zuboff nói rằng để dự đoán chắc chắn hơn, các công ty không chỉ tìm cách biết mà còn tìm cách định hình hành vi, bằng cách thúc nhẹ, tinh chỉnh và dồn dắt con người về những kết quả phục vụ mục tiêu thương mại của họ. Bà mô tả hai thí nghiệm của Facebook, một thí nghiệm khuyến khích đi bỏ phiếu trong cuộc bầu cử ở Hoa Kỳ năm 2010 và một thí nghiệm thay đổi sắc thái cảm xúc của những gì người dùng thấy trên bảng tin, cùng trò chơi di động Pokemon Go, trong đó các doanh nghiệp trả tiền để trở thành “địa điểm được tài trợ” (sponsored locations) kéo người chơi đến với mình. Bà nói quyền lực này phần lớn vô hình đối với những người bị nó tác động.
Trong cuộc sống: Một bảng tin được thiết kế để bạn cứ lướt mãi sẽ định hình việc bạn làm mà không hề báo trước.
4. Sự trỗi dậy của quyền lực công cụ hóa hành vi
Ý chính: Tác giả đặt ra thuật ngữ quyền lực công cụ hóa hành vi (instrumentarianism) cho một hình thức quyền lực biết và định hình hành vi con người nhằm phục vụ mục đích của kẻ khác, khác với quyền lực toàn trị vốn dùng bạo lực và tìm cách kiểm soát cả tâm hồn. Bà gọi bộ máy số kết nối mạng mà quyền lực này vận hành qua đó là Big Other (tạm hiểu là “Kẻ Khác” khổng lồ). Nó được cài vào các thiết bị, đồ vật và dịch vụ trực tuyến hằng ngày. Bà lần theo cách nhìn đứng sau nó đến tư tưởng của nhà tâm lý học B. F. Skinner, người coi con người là những sinh vật mà hành vi có thể được quan sát và định hình, và bà mô tả quyền lực này là hoàn toàn đối lập với Anh Cả (Big Brother) trong tiểu thuyết 1984 của Orwell, vì nó không quan tâm người ta nghĩ hay cảm thấy gì, mà chỉ quan tâm họ làm gì.
Trong cuộc sống: Một thiết bị học được thói quen của bạn cũng có thể bị dùng để tác động đến việc bạn mua gì.
5. Sự mất đi các quyền và quyền tự chủ
Ý chính: Zuboff lập luận rằng chủ nghĩa tư bản giám sát coi trải nghiệm của con người là nguyên liệu thô miễn phí, mà không hỏi ý ai. Trong Phần II, bà nói rằng những phương pháp tác động ngấm ngầm của nó thách thức cái mà bà gọi là quyền có thì tương lai (right to the future tense), tức khả năng hình dung, dự định, hứa hẹn và xây dựng một tương lai của riêng mình mà không bị những thế lực ta không nhìn thấy lái đi. Trong Phần III, bà nói rằng một thế giới nơi Big Other vươn vào tận trong nhà và đời sống xã hội, không có lối thoát, đe dọa quyền có nơi ẩn náu (right to sanctuary), tức một không gian để trú ngụ. Bà nói rằng các luật hiện có, vốn xoay quanh quyền riêng tư và cạnh tranh, chưa đủ để ngăn chặn logic này, rằng người dùng thực sự có rất ít cách để rời đi hay phản đối, và rằng cần những kiểu ứng phó mới.
Trong cuộc sống: Bấm “tôi đồng ý” trên một văn bản dài không có nghĩa là bạn hiểu mình đang trao đi điều gì.
6. Sự phản kháng và cuộc chiến vì một tương lai của con người
Ý chính: Ở các chương cuối và phần kết, bà kêu gọi hành động dân chủ. Bà nói rằng cần có những đạo luật bác bỏ tính chính đáng của chủ nghĩa tư bản giám sát và chặn đứng các hoạt động cốt lõi của nó, như lấy trải nghiệm của con người làm nguyên liệu thô và buôn bán hành vi tương lai, và rằng sẽ cần những hình thức hành động tập thể mới và các thiết chế dân chủ mới để biến những đạo luật ấy thành hiện thực. Bà cảnh báo rằng thứ bị đặt cược gồm quyền kiểm soát cuộc đời mình, nền dân chủ và một tương lai của con người. Bà nói người ta phải từ chối chấp nhận rằng điều này là không thể tránh khỏi, và phải là “lực ma sát” (the friction) chống lại nó, và bà khẳng định rằng tương lai số phải phục vụ nhân loại.
Trong cuộc sống: Những quy định như luật bảo vệ dữ liệu là một cách để đặt giới hạn cho các công ty.
Vì sao tác phẩm đáng đọc
Thời đại của chủ nghĩa tư bản giám sát trở thành một cuốn sách được bàn luận rộng rãi, và cho người đọc một vốn từ để mô tả một mô thức trong nền kinh tế số. Sách ảnh hưởng đến các cuộc tranh luận về quyền riêng tư, quản lý nhà nước và quyền lực của các hãng công nghệ lớn, được khen ngợi rộng rãi, và được The New Yorker xếp vào những cuốn sách phi hư cấu hàng đầu năm 2019 và được Barack Obama chọn vào số những cuốn sách yêu thích trong năm. Cụm từ “chủ nghĩa tư bản giám sát” đã trở nên phổ biến trong các cuộc thảo luận công khai. Cuốn sách là một phần của làn sóng các tác phẩm đặt câu hỏi về văn hóa thu thập dữ liệu. Luận điểm của sách rằng việc thu thập dữ liệu không đơn thuần là chuyện kỹ thuật mà là chuyện quyền lực và quyền con người đã khiến người ta suy nghĩ về sự đánh đổi mà mình thực hiện khi dùng các dịch vụ số miễn phí.
Những ý chính
- Dữ liệu của bạn đã trở thành nguyên liệu thô. Các công ty kiếm lời từ thông tin về hành vi.
- Dự đoán chính là sản phẩm. Người khác trả tiền để đoán trước và tác động đến việc bạn làm.
- Sự tác động có thể bị che giấu. Thiết kế có thể lái lựa chọn mà bạn không hề hay biết.
- Sự đồng ý thường rất yếu ớt. Người dùng có rất ít lựa chọn thay thế thực sự.
- Giới hạn dân chủ là có thể. Luật pháp và sức ép của công chúng có thể định hình thế giới số.
Bài học có thể rút ra
Bạn có thể bắt đầu bằng việc xem các cài đặt quyền riêng tư của những ứng dụng mình dùng, và hỏi xem chúng thu thập gì và vì sao. Hãy hạn chế các quyền bạn cấp, và cân nhắc những lựa chọn thay thế thu thập ít hơn. Hãy để ý cách các bảng tin và thông báo được thiết kế để giữ sự chú ý của bạn. Hãy trò chuyện với gia đình và bạn bè về những dữ liệu họ chia sẻ. Hãy ủng hộ những quy định bảo vệ quyền riêng tư và trao cho người dùng quyền kiểm soát. Và hãy nhớ rằng công nghệ không trung lập, và những lựa chọn về thiết kế và luật pháp thuộc về công chúng.
Phê bình và góc nhìn khác
Một số nhà phê bình cho rằng Zuboff phóng đại sức mạnh của việc dự đoán và thao túng hành vi, và rằng con người vẫn giữ được rất nhiều quyền tự chủ. Những người khác lập luận rằng vốn từ mới của bà và sự đối chiếu với chế độ toàn trị là quá đà, và một người điểm sách cho rằng bà xem nhẹ việc sự giám sát có thể phục vụ các chính quyền độc đoán, như ở Trung Quốc. Một số người chỉ ra rằng những công cụ dựa trên dữ liệu, như thiết bị theo dõi sức khỏe, cũng có thể cho người dùng nhiều quyền kiểm soát hơn đối với cuộc sống của mình. Một bình luận viên trên blog của Trường Kinh tế London (London School of Economics) lo ngại rằng cuốn sách có thể gây ra sự tê liệt thay vì hành động. Sách cũng rất dài, với hơn 500 trang nội dung chính chưa tính phần chú thích. Dù vậy, nhiều người coi đây là một đóng góp quan trọng.
Ai nên đọc cuốn sách này?
Cuốn sách này dành cho những ai quan tâm đến công nghệ, quyền riêng tư, kinh tế và chính trị, và sẵn lòng đọc một tác phẩm dài, đòi hỏi nhiều công sức. Ai thích một phần giới thiệu ngắn hơn có thể bắt đầu bằng các bài báo hoặc những cuốn sách ngắn hơn về dữ liệu và quyền riêng tư, rồi đọc từng phần của cuốn sách này.
Bản tóm tắt này được dịch từ tiếng Anh với sự hỗ trợ của AI.
Muốn đọc cả cuốn sách?
Bản tóm tắt chỉ là món khai vị, không phải bữa chính. Đây là nơi tìm cuốn sách đầy đủ.
Bạn đã đọc đến cuối 🎉
Tuyệt vời. Hãy đánh dấu cuốn này là đã đọc, chúng tôi sẽ gợi ý cuốn tiếp theo.
Nên đọc tiếp
Nexus
Yuval Noah Harari
Yuval Noah Harari kể lại lịch sử cách con người chia sẻ thông tin, từ những câu chuyện và chữ viết đến in ấn và thuật toán, và cảnh báo rằng trí tuệ nhân tạo là một loại mạng lưới mới có thể định hình lại quyền lực, thậm chí đe dọa nền dân chủ.
🏛️ Lịch sửSự đồng thuận được sản xuất
Edward S. Herman and Noam Chomsky
Edward Herman và Noam Chomsky lập luận rằng báo chí đại chúng ở Hoa Kỳ, dù không bị chính phủ kiểm soát, vẫn phục vụ lợi ích của các giới quyền lực một cách có hệ thống, thông qua một "mô hình tuyên truyền" (propaganda model) gồm năm bộ lọc quyết định tin nào được đưa và đưa theo cách nào.
⚖️ Chính trị & xã hộiNguồn gốc của chủ nghĩa toàn trị
Hannah Arendt
Hannah Arendt xem xét việc chủ nghĩa bài Do Thái, chủ nghĩa đế quốc và sự rã đám của xã hội ở châu Âu đã chuẩn bị mảnh đất cho các chế độ toàn trị (totalitarian) của nước Đức Quốc xã và Liên Xô thời Stalin ra sao, và điều gì khiến những chế độ ấy vừa mới mẻ vừa kinh hoàng đến thế.
🏛️ Lịch sửSự tập trung bị đánh cắp
Johann Hari
Johann Hari lập luận rằng khả năng tập trung chú ý của cả xã hội đang bị bào mòn, không chỉ vì sự yếu đuối của từng người mà còn vì mười hai lực tác động trong đời sống hiện đại, trong đó có công nghệ được thiết kế để giữ chân ta, và rằng ta phải thay đổi cả thói quen lẫn những hệ thống xung quanh mình.
🧩 Tâm trí & tâm lý học21 bài học cho thế kỷ 21
Yuval Noah Harari
Nhà sử học Yuval Noah Harari xem xét những thách thức lớn nhất mà nhân loại đang đối mặt, từ trí tuệ nhân tạo và tin giả đến chủ nghĩa dân tộc, tôn giáo và ý nghĩa cuộc sống, rồi hỏi làm thế nào ta có thể suy nghĩ sáng suốt và giữ được sự tỉnh táo trong một thế giới đổi thay nhanh chóng.
🏛️ Lịch sửQuân Vương
Niccolo Machiavelli
Một nhà ngoại giao thời Phục hưng khuyên các nhà cai trị hãy đánh giá hành động của mình bằng kết quả chứ không phải bằng đạo đức, và cho rằng một nhà lãnh đạo thành công đôi khi phải mưu mẹo và tàn nhẫn để giành và giữ quyền lực.
⚖️ Chính trị & xã hộiMuốn thứ gì khác?
Chọn một chủ đề khác, chúng tôi sẽ gợi ý ba cuốn để bắt đầu.