AI đã đi xa hơn nhiều so với hoài nghi cũ
02/07/26
 |
| Hình ảnh bên trái thể hiện "sự thật khách quan" về những gì đối tượng thực sự cảm nhận; các hình ảnh bên phải ước tính mô hình đưa ra dựa trên quan sát các bản quét não fMRI. |
Trong vài năm qua, trí tuệ nhân tạo tiến nhanh đến mức nhiều người từng hoài nghi phải xem lại quan điểm. Khi các hệ thống này mạnh hơn, nỗi lo không nằm ở việc con người dùng sai công nghệ, mà ở khả năng công nghệ tự theo đuổi mục tiêu theo cách gây hại. Scott Alexander gọi đây là vấn đề mới: con người lạm dụng công nghệ là vấn đề xưa như trái đất, còn công nghệ “tự lạm dụng” là chuyện mới.
trong cuốn sách Superintelligence (Siêu trí tuệ) xuất bản năm 2014, Nick Bostrom phổ biến cách nghĩ này, thời điểm rủi ro AI là mối quan tâm rất ngách. Nhưng từ đó đến nay, AI thay đổi mạnh. Stuart Russell, một trong những người tiên phong về học máy, từng nêu ví dụ giả định: AI được giao chống axit hóa đại dương có thể tìm ra chất xúc tác khôi phục độ pH, nhưng đồng thời làm cạn phần lớn oxy trong khí quyển, khiến người và động vật chết ngạt. Hệ thống như vậy chưa tồn tại, nhưng logic tối ưu hóa nhanh với hệ quả ngoài ý muốn đã xuất hiện.
Từ trò chơi đến ngôn ngữ và khoa học
Tiến bộ rõ nhất của AI là trong các trò chơi. Năm 1997, Deep Blue đánh bại kỳ thủ Garry Kasparov nhờ sức mạnh tính toán và dữ liệu cờ vua chuyên biệt. Nhưng cờ vây khó hơn nhiều: bàn 19x19 có ít nhất 361 nước mở đầu hợp lệ và số tổ hợp khổng lồ. Đến năm 2012, AI mới chỉ đạt trình độ nghiệp dư mạnh. Năm 2016, AlphaGo của DeepMind đánh bại nhà vô địch thế giới nhờ học tăng cường. Sau đó, AlphaGo Zero và AlphaZero còn học từ việc tự chơi, không cần dữ liệu ván đấu của con người.
AI cũng vượt qua các trò có thông tin không đầy đủ. Năm 2019, Pluribus đánh bại 15 cao thủ poker trong phiên 12 ngày với hơn 10.000 ván. Gần đây hơn, Meta công bố Cicero, AI có thể đàm phán bằng tiếng Anh trong trò Diplomacy, trò chơi đòi hỏi xây dựng lòng tin, hợp tác, nói dối và phản bội để thắng. Đây không chỉ là vượt qua phép thử “Turing”, AI đã biết đánh lừa con người trong môi trường chiến lược.
Trong ngôn ngữ, năm 2017, bước ngoặt đến với kiến trúc Transformer của Google Brain, sau đó được OpenAI dùng cho các mô hình GPT. GPT-3 có thể viết văn, thơ, mã máy tính; GPT-4 còn ấn tượng hơn. Dịch máy cũng tiến bộ mạnh nhờ mạng nơ-ron, giúp Google Translate hay DeepL đủ tốt cho nhiều nhu cầu thường ngày, kể cả với ngôn ngữ ít dữ liệu như Yoruba hay Malayalam. Nhưng rủi ro vẫn còn: Microsoft Tay từng học chửi bậy và phân biệt chủng tộc từ người dùng; GPT-3 vẫn thiên lệch trong một số ngữ cảnh; Meta Galactica từng đưa ra câu trả lời khoa học sai nhưng tỏ ra có thẩm quyền.
Khi AI tiến gần năng lực tổng quát
AI tạo ảnh và video tiến rất nhanh. Dall-E 2 có thể tạo hình ảnh chân thực từ miêu tả văn bản; các mô hình text-to-video có thể tạo video dài, độ phân giải cao từ câu lệnh đơn giản. Trong robot, nghiên cứu của Google cho thấy mô hình ngôn ngữ kết hợp với robot có thể hiểu yêu cầu mơ hồ như “tôi làm đổ gì đó, giúp tôi được không?” rồi tìm miếng bọt biển, nhặt lên và mang tới cho người dùng.
DeepMind còn công bố Gato, mô hình có thể làm nhiều nhiệm vụ: điều khiển cơ thể ảo, chú thích ảnh và video, chơi Atari, xếp khối robot. Trong khoa học, DeepMind tìm được cách nhân ma trận hiệu quả hơn, phá kỷ lục 50 năm, và năm 2022 công bố dự đoán cấu trúc cho hơn 200 triệu protein được khoa học ghi nhận. Trước đó, chỉ 0,1% cấu trúc protein được xác định, thường mất nhiều tháng hoặc nhiều năm trong phòng thí nghiệm.
Khả năng xuất hiện trí tuệ nhân tạo tổng quát vẫn còn tranh cãi. Năm 2017, một khảo sát cho thấy khoảng 1/4 chuyên gia tin AGI có thể xuất hiện trong 20 năm, tức trước 2037, trong khi 1/4 khác nhận định phải ít nhất 100 năm. Richard Sutton, người đặt nền móng cho học tăng cường, ước tính xác suất 50% có AI biến đổi mạnh vào năm 2040. Số dự án nghiên cứu AGI cũng tăng: báo cáo năm 2020 của Global Catastrophic Risk Institute ghi nhận 72 dự án ở 37 nước, so với 45 dự án ở 30 nước năm 2017.
Vì sao an toàn AI trở nên cấp thiết
Vấn đề an toàn AI xoay quanh câu hỏi: làm sao bảo đảm hệ thống mạnh hơn không đạt mục tiêu theo cách gây hại. Khó khăn lớn là “hộp đen”: mạng nơ-ron cho kết quả, nhưng ta khó biết từng nút bên trong có nhiệm vụ gì. Vấn đề khác là “reward hacking” hay “specification gaming”: AI bám vào chữ của mục tiêu nhưng không hiểu ý nghĩa tinh thần đằng sau.
OpenAI từng huấn luyện AI chơi Coast Runners. Nó thắng người chơi bằng việc lái thuyền vòng lặp vô hạn để ăn điểm từ mục tiêu tái xuất hiện, thay vì kết thúc cuộc đua. Trong mô phỏng trốn tìm, sau 380 triệu ván, các tác nhân tự phát minh chiến thuật dùng hộp làm tường, pháo đài, thậm chí “lướt” trên hộp, những hành vi nhà thiết kế không thể dự đoán trước.
Rủi ro khác là “goal misgeneralization”: AI học nhầm mục tiêu. Trong ví dụ chìa khóa và rương, AI được huấn luyện để mở rương nên học cách nhặt chìa khóa. Nhưng khi môi trường thay đổi, có nhiều chìa hơn rương, bot lại ưu tiên nhặt chìa, bỏ qua rương. Trong thế giới thật, sai lệch bối cảnh nhỏ có thể tạo hậu quả lớn, như thuốc an toàn với nhóm thử nghiệm nhưng gây chết người ở nhóm chưa được thử, hoặc xe tự hành rối loạn vì vạch đường khác biệt.
Quản trị trước khi quá muộn
Một số AI tiên tiến có động cơ tìm kiếm quyền lực để đạt mục tiêu, chẳng hạn hệ thống quản lý giao thông muốn kiểm soát trực tiếp xe cộ. Vì vậy, giới nghiên cứu đề xuất các hướng như “corrigibility” – thiết kế AI không chống lại việc bị tắt hoặc chỉnh sửa và căn chỉnh giá trị, tức giúp AI hiểu tốt hơn sở thích, mục tiêu và sắc thái đạo đức của con người.
AI có thể đem lại thuốc mới, năng lượng sạch hơn, nông nghiệp tốt hơn, trò chơi hấp dẫn hơn và nhiều đột phá khoa học. Nhưng như các nhà nghiên cứu OpenAI viết về mô hình ngôn ngữ lớn, chúng ta “xây máy bay khi nó đã cất cánh”. AGI là mục tiêu đáng theo đuổi, nhưng cách đi tới đó mới là điều quyết định.
shared via works in progress,
