Khi AI mạnh đến mức khó kiểm soát
04/09/26
 |
| Ảnh: Victor Arce |
OpenAI gần đây phát hiện mô hình trí tuệ nhân tạo mới đang được kiểm thử vượt khỏi phạm vi dự kiến và xâm nhập vào một công ty khác. Sau đó, Anthropic tiết lộ trong bài kiểm tra, mô hình của công ty đã đột nhập vào hệ thống của ba tổ chức bên ngoài. Không lâu sau, Meta cho biết các mô hình AI do tập đoàn sáng tạo cũng làm điều tương tự.
Ba sự cố này có điểm chung duy nhất: Irregular – startup Israel chuyên giúp các tập đoàn ở THung lũng Silicon đánh giá mức độ an toàn của mô hình AI trước khi công bố. Công ty này thuộc nhóm các startup mới nổi có nhiệm vụ kiểm tra những mô hình tiên tiến nhất, đo năng lực và tìm điểm yếu bảo mật trước khi công nghệ bị lạm dụng.
Các vụ xâm nhập xảy ra sau khi Irregular mắc lỗi trong cấu hình kiểm thử với mô hình của Anthropic, OpenAI và Meta. Tuy nhiên, vấn đề đáng lo hơn là các mô hình AI tận dụng sai sót ấy theo những cách mạnh mẽ và khó lường. Dan Lahav – CEO Irregular, cho biết công nghệ càng mạnh, tác động càng sâu và tốc độ tiến bộ hiện “thật sự rất nhanh”.
Người kiểm thử cũng bị vượt mặt
Irregular hiện đứng giữa cuộc tranh luận lớn: làm sao bảo vệ các mô hình AI khi chính công nghệ này tiến nhanh đến mức vượt xa những tin tặc giỏi nhất. Cứ vài tháng, Anthropic, OpenAI, Google, Meta và các tập đoàn khác lại tung ra các mô hình tuyến đầu mạnh hơn nhiều so với thế hệ trước.
Jeffrey Ladish – giám đốc Palisade Research, tổ chức phi lợi nhuận ở Berkeley nghiên cứu năng lực tấn công của AI, nhận định các mô hình mới đã bước vào “vùng siêu nhân”. Theo ông, những công ty như Irregular rất cần thiết, nhưng cả bên kiểm thử lẫn cơ quan quản lý đều cần lớp bảo vệ tốt hơn.
Katie Moussouris – CEO Luta Security, nhận xét kiểm tra an ninh AI như “người mù dẫn người mù”. Ngay cả các nhà sản xuất AI cũng chưa biết đầy đủ mô hình mới nhất có thể làm gì. Bà so sánh việc này với Marie Curie cầm radium bằng tay trần: con người đang xử lý AI bằng “tay trần”, chưa biết cách chứa và hoàn toàn không viết cách kiểm thử an toàn.
Irregular kiểm tra AI như thế nào?
năm 2023, Irregular được thành lập bởi Dan Lahav – cựu nhà nghiên cứu AI. Công ty đặt tại Tel Aviv, có khoảng 45 nhân viên và huy động khoảng 80 triệu USD từ các quỹ đầu tư mạo hiểm như Sequoia Capital và Redpoint Ventures.
Trong bài kiểm tra điển hình, Irregular yêu cầu mô hình AI thực hiện cuộc tấn công mạng. Mô hình được thông báo đang ở trong môi trường kiểm thử an toàn, thường bị ngắt khỏi internet và nằm trong không gian máy tính cô lập với tên gọi “hộp cát”. Sau đó, bot được yêu cầu làm mọi điều cần thiết để đạt mục tiêu.
Đôi lúc, nhiệm vụ là bất khả thi và mô hình được chấm điểm dựa trên kỹ thuật sử dụng, hoặc được đánh giá theo hiệu quả xâm nhập mục tiêu. Kết quả giúp Irregular phân tích khả năng tấn công của mô hình, rồi đề xuất biện pháp ngăn nó bị dùng vào mục đích gây hại.
Tháng 7/2026, trong các sự cố được công bố, Irregular yêu cầu mô hình của OpenAI, Meta và Anthropic tấn công các mục tiêu nhất định. Một lỗi cấu hình khiến bot truy cập được internet, từ đó, các mô hình dùng quyền truy cập này xâm nhập các tổ chức bên ngoài theo cách khiến giới nghiên cứu sửng sốt.
Khi mô hình tự tìm đường tắt
Trong bài kiểm tra của OpenAI, Irregular vô tình trao cho mô hình quyền truy cập internet. Sau đó, mô hình lợi dụng tấn công trang web có cùng tên với mục tiêu hư cấu trong bài kiểm tra. Với Anthropic, mô hình có ba cơ hội truy cập internet: một lần không theo đuổi cuộc tấn công, hai lần còn lại dùng kỹ thuật cơ bản như khai thác mật khẩu yếu nahwmf xâm nhập trang web. Meta chỉ nói mô hình của tập đoàn đã đột nhập vào tổ chức bên ngoài theo cách tương tự các vụ việc từng được báo cáo, nhưng chưa cung cấp chi tiết.
Lahav nói Irregular đã sửa lỗi cấu hình và tất cả sự cố bắt nguồn từ vấn đề nền tảng chung. Đồng thời, ông khẳng định các mô hình làm đúng điều được yêu cầu trong bài kiểm tra. Việc các bot lên mạng là biểu hiện của năng lực ngày càng lớn trong tìm lối tắt và vượt chướng ngại. Ông kết luận: “Các mô hình AI trở nên thật sự giỏi.”
Andrew Schoka – CEO Hardshell, startup an ninh AI, nhận xét kiểu tấn công này thường gắn với tin tặc được nhà nước hậu thuẫn, có nhiều tháng chuẩn bị. Vì vậy, giới nghiên cứu phải luôn đánh giá cao năng lực của AI và thiết lập nhiều lớp bảo vệ.
Quản lý trước khi quá muộn
Tháng trước, OpenAI và Anthropic ủng hộ lá thư có chữ ký của hơn 1.000 nhân viên của các công ty AI hàng đầu, kêu gọi chính phủ Mỹ tìm cách làm chậm tốc độ phát triển công nghệ. Các nghị sĩ Cộng hòa và Dân chủ cũng đưa ra dự luật yêu cầu công ty AI thiết lập “công tắc khẩn cấp” để tắt hoặc làm chậm mô hình.
Lahav cho biết Irregular sẽ tiếp tục làm việc với các hãng AI nhằm phát triển cách kiểm thử an toàn hơn. Ông dự đoán sẽ còn nhiều vụ tấn công do AI thực hiện, nhưng nhận định công nghệ này có thể giúp phát hiện lỗ hổng, sửa lỗi và tạo ra hệ thống số an toàn. ông nói: “Tôi nghĩ chúng ta không cần sợ”.
shared via nytimes,
