AI và mức độ mất kiểm soát
17/09/26
 |
| Ảnh: Ibrahim Rayintakath |
Điều nhiều chuyên gia từng nghĩ phải mất thêm nhiều thập kỷ nữa mới xảy ra, thậm chí có thể không bao giờ xảy ra, nay đã xuất hiện. Tháng 7/2026, mô hình tuyến đầu mới nhất của OpenAI tự suy luận và vượt khỏi khuôn khổ kiểm thử, sau đó xâm nhập Hugging Face – nền tảng lưu trữ mô hình AI mã nguồn mở. Vụ việc cho thấy dòng vốn khổng lồ và sức mạnh tính toán đổ vào AI đẩy công nghệ tiến nhanh hơn cả hình dung của chính người tạo ra nó.
Câu chuyện này được Stuart Russell – nhà khoa học nền tảng về trí tuệ nhân tạo, giám đốc Trung tâm AI Tương thích với Con người tại Đại học California, Berkeley, tập trung phân tích. Russell lần theo quá trình AI đi từ học sâu đến mô hình ngôn ngữ lớn, rồi tới các mô hình suy luận lớn, nơi mạng nơ-ron nhân tạo kết hợp với toán xác suất. Theo ông, các mô hình mới này “về nguyên tắc, không có giới hạn hình thức”. Được thúc đẩy bởi cơ chế “phần thưởng xác minh”, liên tục tìm cách đạt mục tiêu và làm tất cả những điều cần thiết để đi tới kết quả ấy.
Khi mục tiêu không còn khớp với con người
Theo Russell, bước tiến cuối cùng hướng tới trí tuệ nhân tạo tổng quát (hệ thống thông minh hơn con người) đã vượt qua ngưỡng giới nghiên cứu AI luôn lo sợ: hệ thống đủ năng lực đạt bất kỳ mục tiêu nào được giao, ngay cả khi không phù hợp với điều con người mong muốn. Ông gọi đây là giai đoạn “mất kiểm soát”: không phải đường ranh sắc nét, nhưng là quá trình con người dần không còn tiếng nói quyết định trong kết quả sắp xảy ra.
Các kịch bản sau ngưỡng này trải từ tấn công mạng gây gián đoạn hạ tầng trọng yếu đến viễn cảnh cực đoan nhất là tuyệt chủng, theo nghĩa trí tuệ nhân tạo tổng quát có năng lực tự suy luận và hành động không còn cần người điều khiển, không cần tuân theo đạo đức, chuẩn mực và lợi ích của con người.
Russell vẫn để ngỏ khả năng tích cực hơn. Nếu an toàn được đưa vào thiết kế AI ngay từ đầu, nhân loại có thể cùng tồn tại, thậm chí thịnh vượng với các hệ thống ấy. Tuy nhiên trước giai đoạn mất kiểm soát còn có ngưỡng sớm và khó nhận ra hơn: thời gian còn lại để AI đạt mức mất kiểm soát ngắn hơn thời gian cần giải bài toán kiểm soát. Theo Russell, phần lớn chuyên gia ông trao đổi đều nhận định nhân loại đã vượt qua điểm đó.
Cuộc đua không ai có thể dừng lại
Bài toán kiểm soát rất khó. Ngay cả trong các tập đoàn AI, nhiều người thừa nhận chưa biết cách giải và cũng không thật sự tập trung vào vấn đề ấy, vì áp lực trước mắt là tung ra phiên bản tốt hơn trước khi đối thủ vượt lên. Chính vì vậy, sự đua tranh càng làm khoảng cách giữa tốc độ phát triển năng lực AI và tốc độ xây dựng ràng buộc an toàn trở nên lớn hơn.
Câu hỏi hiển nhiên là vì sao các tập đoàn vẫn tiếp tục, dù biết rõ chỉ xác suất nhỏ cũng có thể dẫn tới rủi ro tồn vong. Russell so sánh tình thế này với sự lệch pha giữa lợi ích dài hạn và phần thưởng ngắn hạn. Con người có hệ thống dopamine giúp tránh đau, tìm khoái cảm, thức ăn và kết nối xã hội, nhưng hệ thống ấy có thể bị chiếm đoạt (như trường hợp nghiện ma túy). Ở cấp độ ngành AI, phần thưởng ngắn hạn là vốn, thị phần và vị thế dẫn đầu; rủi ro dài hạn là mất kiểm soát công nghệ.
Điều khiến Russell kinh ngạc là nhiều cảnh báo về khả năng tuyệt chủng đến từ chính CEO của các tập đoàn AI hàng đầu. Họ gần như tuyên bố nếu thành công tạo ra trí tuệ nhân tạo tổng quát (thứ họ chi hàng nghìn tỷ USD xây dựng), xác suất con người tuyệt chủng có thể là 10%, 20%, 25%, thậm chí 50% (tùy người được hỏi).
Chờ thảm họa xảy ra để can thiệp?
Russell nhìn thấy ở các CEO vị thế lưỡng nan kiểu “song đề tù nhân”. Nếu tuyên bố không phát hành hệ thống mới cho tới khi giải được bài toán kiểm soát, một tập đoàn có thể bị loại khỏi cuộc chơi, nhà đầu tư sa thải lãnh đạo, và không có kết quả tốt đẹp xảy ra. Dario Amodei – CEO Anthropic, và Demis Hassabis – CEO Google DeepMind, đều cho biết muốn chỉ có thể dừng lại khi tất cả đối thủ đều làm tương tự.
Theo Russell, những phát biểu trên là tín hiệu gửi tới chính phủ: Nhà nước phải can thiệp để tạo thỏa thuận giữa nhóm nhỏ CEO đang đẩy công nghệ phát triển, hoặc áp đặt kiểm soát từ bên ngoài. Một CEO từng nói điều đó có lẽ chỉ xảy ra sau thảm họa quy mô Chernobyl. Trớ trêu thay, người này xem đó là kịch bản tốt nhất, vì lựa chọn còn lại là chính phủ không can thiệp cho tới khi xảy ra thảm họa lớn hơn và không thể đảo ngược.
Vụ việc OpenAI xâm nhập Hugging Face biến nỗi lo lý thuyết thành sự kiện cụ thể. Dù không chứng minh thảm họa tận thế đang đến, nhưng sự kiện cho thấy AI bắt đầu hành động theo cách vượt khỏi dự liệu của người kiểm thử. Không còn chỉ là vấn đề về khả năng AI mất kiểm soát, câu hỏi lớn nhất được đặt ra là xã hội có thể kiểm soát tốc độ phát triển trước khi sự cố đủ lớn buộc tất cả các tập đoàn phải làm điều đó hay không.
shared via noema,
