Ảo tưởng về rủi ro tận thế của AI
10/09/26
 |
| Ảnh: Jorge Cuadal Calle |
Kịch bản trí tuệ nhân tạo siêu thông minh trỗi dậy và đe dọa tuyệt chủng loài người vốn quen thuộc với Hollywood. Từ khi ChatGPT và các công cụ AI được phát hành rộng rãi, nỗi lo ấy càng bùng lên. Ngày 30/5/2023, Trung tâm An toàn AI ở San Francisco công bố tuyên bố ngắn được nhiều chuyên gia hàng đầu ký tên, kêu gọi coi nguy cơ tuyệt chủng do AI là ưu tiên toàn cầu ngang với đại dịch và chiến tranh hạt nhân.
Tuy nhiên, đặt trọng tâm vào viễn cảnh siêu trí tuệ nổi loạn có thể khiến xã hội sao nhãng rủi ro cấp bách hơn: giám sát hàng loạt, thông tin sai lệch, thao túng xã hội, lạm dụng AI trong quân sự, và sự bất cập của mô hình kinh tế khi AI giữ vai trò quan trọng.
AI hoàn toàn có thể gây chết người ở quy mô lớn, nhưng điều đó không nhất thiết cần đến siêu trí tuệ. Nếu AI được đưa vào hệ thống tấn công hạt nhân tự động, hành vi ngoài dự kiến có thể dẫn đến thảm họa. Song rủi ro ấy nhiều khả năng đến từ hệ thống AI khiếm khuyết, chưa đủ thông minh, thay vì AI siêu việt. Vì vậy, trọng tâm cần chú ý phải là nguy cơ đã hiện hữu và có thể kiểm soát bằng nghiên cứu, quy chuẩn hay giám sát triển khai.
Rủi ro thật nằm ở hiện tại
Ngày nay, tác hại của AI đã đủ nghiêm trọng. Công nghệ nhận diện khuôn mặt theo dõi cá nhân và hạn chế tự do cơ bản. Công nghệ tạo hình ảnh, video xây dựng các sự kiện chưa từng xảy ra. Những lời kêu gọi như Tuyên bố Montreal về trí tuệ nhân tạo có trách nhiệm hay Khuyến nghị Presidio của Diễn đàn Kinh tế Thế giới về AI tạo sinh đều xuất phát từ các rủi ro cụ thể.
Dự báo ngắn hạn về AI rất cần thiết, nhưng càng nhìn xa vào lĩnh vực thay đổi quá nhanh, mức độ bất định càng tăng theo cấp số nhân. Do đó, thay vì đẩy tranh luận công chúng về phía các kịch bản tận thế giả định, cần tập trung vào thách thức thật và các giải pháp có thể kiểm nghiệm.
Điều này không phủ nhận khả năng AI gây hại lớn, cũng như không xem tuyệt chủng do AI là bất khả thi. Tuy nhiên để biến kịch bản ấy thành ưu tiên toàn cầu, phải chấp nhận nhiều giả định gây tranh cãi: siêu trí tuệ có thể xuất hiện trí tuệ đo lường bằng năng lực hoàn thành nhiệm vụ, và hệ thống vượt qua hàng loạt giới hạn vật lý, kinh tế cùng hạ tầng để hành động độc lập với con người.
Hiện tại, AI chưa phải siêu trí tuệ. Chatbot vượt con người ở nhiều nhiệm vụ và có thể tiếp tục tiến xa, nhưng vẫn dễ bị đánh lừa, bịa thông tin và thất bại trong suy luận logic quan trọng (điển hình như suy luận nhân quả).
AI chưa thể tự nuôi sống bản thân
Cách hiểu phổ biến nhận định loài thông minh hơn thường khiến loài kém thông minh tuyệt chủng. Nhưng tiến hóa không vận hành như chiếc thang có “đỉnh” và “đáy”. Trong lịch sử Trái đất, tuyệt chủng thường đến từ thay đổi môi trường, cạnh tranh tài nguyên, săn bắt quá mức hoặc phá hủy hốc sinh thái. Quan hệ giữa các loài tương tự mạng lưới phụ thuộc lẫn nhau hơn là cuộc chiến thống trị một chiều.
Với AI hiện nay, ba con đường tuyệt chủng trên đều chưa phù hợp. AI không cạnh tranh tài nguyên với con người; ngược lại, con người cung cấp năng lượng, vật liệu, chip, trung tâm dữ liệu và hạ tầng mạng cho AI. Chỉ khi toàn bộ khai khoáng, vận tải, sản xuất chip, xây dựng nhà máy điện, dựng trung tâm dữ liệu và rải cáp internet được tự động hóa hoàn toàn, AI siêu thông minh mới có thể coi con người là thừa. Trong tương lai gần, nền kinh tế như vậy chưa tồn tại và khó xuất hiện.
Đồng thời, AI cũng không thể “săn” con người nếu không kiểm soát vũ khí. Dù có hay không có siêu trí tuệ, nếu các chính phủ xây hệ thống vũ khí tự động có năng lực hủy diệt hàng loạt, điều này chắc chắn là báo động đỏ cần ngăn chặn.
Về khí hậu, dấu chân carbon của AI rất đáng quan tâm, nhưng hiện vẫn nhỏ so với toàn ngành điện toán, cũng như hai ngành xây dựng và giao thông hiện chiếm hơn 1/3 phát thải toàn cầu. Hạ tầng AI có thể mở rộng mạnh, nhưng trung tâm dữ liệu không thể tự thành lập. Mỗi bước mở rộng đều là quy trình con người có thể can thiệp.
Cái bẫy của suy đoán tận thế
Cách nghĩ “dù xác suất nhỏ, hậu quả tuyệt chủng là vô hạn nên phải ưu tiên” giống phiên bản AI của phép cược Pascal. Trong đời thực, con người luôn cân nhắc cả xác suất lẫn hậu quả. Thiên thạch lớn từng gây tuyệt chủng và có thể lặp lại, tuy nhiên nhân loại không dành phần lớn nguồn lực cho công nghệ bẻ hướng thiên thạch, vì còn rất nhiều vấn đề cấp bách hơn cần giải quyết.
Tương tự, nếu coi tuyệt chủng do AI là ưu tiên toàn cầu, nguồn lực và sự chú ý có thể bị kéo khỏi các rủi ro đang diễn ra: tác động tới lao động, an ninh mạng, quyền riêng tư, hệ thống ra quyết định thiên lệch, lạm dụng bởi chính quyền độc đoán, tập trung quyền lực và tài sản, hoặc thao túng xã hội bằng AI. Một số nghiên cứu dài hạn vẫn có ích, như nghiên cứu đạo đức cho AI hoặc cách phát hiện hành vi thao túng tự phát, nhưng không cần viện tới lý do tuyệt chủng để biện minh.
Cần nối lại hai phe an toàn và đạo đức
Tranh luận AI hiện chia thành hai phe: “an toàn AI” nhấn mạnh rủi ro dài hạn, và “đạo đức AI”, tập trung vào tác hại hiện tại. Sự phân cực này khiến cuộc thảo luận trở nên nhàm chán, dù cả hai bên đều muốn giảm rủi ro và bảo đảm AI có lợi cho nhân loại.
Cách tiếp cận cần thiết là đặt trọng tâm vào những rủi ro đã rõ: giám sát đại chúng, tự động hóa gây xáo trộn kinh tế, tập trung quyền lực, mô hình thiên lệch, triển khai AI kém thiết kế trong vai trò trọng yếu, và việc con người dùng AI để thao túng tâm lý. Giải quyết tốt các vấn đề có thật hôm nay cũng là cách thực tế nhất giúp giảm xác suất rủi ro lớn trong tương lai.
shared via noema,
