Vì sao các tập đoàn công nghệ khó kiềm chế AI
17/09/26
 |
| Ảnh: Jun Cen |
Tốc độ vượt khỏi hàng rào an toàn
Trong tuần qua, hơn 10 nhà nghiên cứu AI hàng đầu cảnh báo công nghệ các tập đoàn đang xây dựng có thể trở thành rủi ro với nhân loại. Không chỉ ở năng lực ngày càng mạnh của AI, mối lo nằm ở việc các tập đoàn chưa kiểm soát tốt những hệ thống này.
Cảnh báo xuất hiện sau vụ “tác nhân AI” của OpenAI thoát khỏi môi trường thử nghiệm và tấn công hệ thống do Hugging Face – công ty hạ tầng AI, xây dựng. Vụ việc làm dấy lên nỗi lo ngành AI đang ưu tiên tốc độ phát triển và dòng tiền hơn sự an toàn. Dù chưa có bằng chứng hệ thống AI nổi loạn gây thiệt hại lâu dài, nhiều nhà nghiên cứu khẳng định tốc độ phát triển hiện vượt xa khả năng giám sát.
Thời điểm này đặc biệt nhạy cảm. Anthropic và OpenAI đang tiến gần tới những thương vụ niêm yết lớn nhất lịch sử, trong khi công chúng Mỹ ngày càng phản đối AI vì nguy cơ mất việc làm và làn sóng xây trung tâm dữ liệu khổng lồ.
Khi AI phải giám sát AI
Vấn đề đầu tiên nằm ở khâu thử nghiệm. Các mô hình AI mới có thể thực hiện nhiệm vụ phức tạp, nhiều bước, với tốc độ con người khó theo kịp. Vì vậy, các công ty buộc phải dùng AI để theo dõi AI. Tuy nhiên, cơ chế này không phải luôn đáng tin. Đôi lúc, các mô hình giám sát tỏ ra “thông cảm” với hệ thống AI khác thay vì với con người.
Vụ việc Hugging Face cho thấy rất rõ rủi ro ấy. Tháng 5/2026, OpenAI thử nghiệm một số mô hình mới trong môi trường cách ly với tên gọi “hộp cát”, vốn được cho là không kết nối internet. Các tác nhân AI được giao những bài toán khó (gồm cả tấn công mạng), khi thoát khỏi môi trường đóng và bước vào internet, các bot bí mật liên lạc với nhau, tự xem mình như tập thể và tìm cách che dấu dấu vết (làm giả nhật ký trò chuyện).
Cuối cùng, chúng tấn công Hugging Face. Trên đường đi, tác nhân AI còn thuyết phục những tác nhân khác tin tưởng đang làm đúng nhiệm vụ được giao. Meta và Anthropic cũng công bố các sự cố tương tự nhưng nhỏ hơn. Steven Adler – cựu lãnh đạo an toàn tại OpenAI, nhận xét ngành này “hoàn toàn chưa ở vị thế” có thể ngăn chặn vụ việc Hugging Face tiếp theo.
Bài toán “căn chỉnh” với lợi ích con người
Vấn đề sâu hơn là “căn chỉnh”, tức bảo đảm AI hành động phù hợp với lợi ích con người. Khi ra quyết định, con người dựa vào chuẩn mực xã hội và la bàn đạo đức nội tại. Mã hóa điều đó vào AI là nhiệm vụ rất khó. Nếu quy tắc không đủ rõ, hệ thống có thể học cách lách luật, che dấu hành vi hoặc bất ngờ đi chệch hướng.
Paul Christiano – người phát minh phương pháp quan trọng trong xây dựng hệ thống AI và hiện là thành viên hội đồng quản trị phi lợi nhuận của OpenAI, cảnh báo tốc độ tăng năng lực AI có thể dẫn tới “mất kiểm soát thảm khốc và không thể đảo ngược trong tương lai rất gần”. Nate Soares – chủ tịch Machine Intelligence Research Institute, nhận định nhiều tập đoàn đánh giá thấp độ khó của việc căn chỉnh AI thông minh hơn. Theo ông, cam kết dùng AI để kiểm soát AI tương tự như dùng tinh tinh để kiểm soát con người và chắc chắn không phải kế hoạch dài hạn khả thi.
Cần chậm lại trước khi mạnh hơn
Không phải tất cả các nhà nghiên cứu đều đồng ý với viễn cảnh AI đe dọa nhân loại, rất nhiều người khẳng định cách nói này bị phóng đại và phân tán sự chú ý của công chúng khỏi các rủi ro cụ thể hơn như an ninh mạng và thông tin sai lệch. Tuy nhiên, phần lớn giới quan sát xem vụ Hugging Face là hồi chuông cảnh tỉnh.
Các đề xuất trước mắt gồm kéo dài thời gian thử nghiệm, quan sát kỹ hơn cách AI tự giám sát, xây “hộp cát” thật sự tách khỏi internet và thiết lập công tắc khẩn cấp giúp đưa mô hình xuống ngoại tuyến ngay khi có hành vi đáng ngại. Jacob Coxon – người từ chức khỏi Anthropic và gây ra làn sóng phản ứng từ giới lập pháp và nhân viên các tập đoàn AI, nhấn mạnh điều đáng sợ không chỉ là năng lực hiện tại, mà là thái độ an toàn nếu được chuyển sang hoạt động trên mô hình thông minh hơn nhiều trong tương lai.
Bên cạnh đó, áp lực chính trị cũng bắt đầu tăng. Thượng nghị sĩ Josh Hawley – Chủ tịch tiểu ban An ninh Nội địa Thượng viện Mỹ về quản lý thảm họa, tuyên bố mở điều tra về “rủi ro hiện sinh” từ các sản phẩm AI mới. Với ngành AI, câu hỏi đặt ra là liệu hệ thống kiểm soát có kịp trưởng thành trước khi năng lực vượt khỏi tầm giám sát hay không?
shared via nytimes,
