Khi AI bước vào chiến trường an ninh mạng
14/05/26
 |
| Các chuyên gia an ninh mạng trong nhóm tấn công (red team), bao gồm Dan Borges, đồng ý chụp ảnh không để lộ mặt. |
Sáng thứ Sáu gần đây, bảy chuyên gia an ninh mạng kỳ cựu tập trung trong một căn phòng trên tầng 60 của khách sạn Cosmopolitan ở Las Vegas. Quanh họ là máy tính xách tay, dây mạng, ăng-ten Wi-Fi dự phòng và chiếc tivi treo tường được dùng như màn hình máy tính khổng lồ, phủ đầy dòng mã lập trình khó hiểu.
Trong hai ngày tiếp theo, nhóm này tìm cách đột nhập vào mạng máy tính đặt tại San Antonio. Đây là một phần của National Collegiate Cyber Defense Competition, cuộc thi phòng thủ an ninh mạng thường niên dành cho sinh viên đại học tại Mỹ.
Họ đóng vai “đội đỏ”: nhóm tấn công gồm các chuyên gia an ninh mạng. Đối đầu “đội xanh” gồm các sinh viên khoa học máy tính xuất sắc, ngồi trong các trung tâm chỉ huy tạm thời trên khắp nước Mỹ, cố gắng bảo vệ hệ thống khỏi các cuộc xâm nhập.
Alex Levinson, một trong những người dẫn dắt đội đỏ, nói: “Bất cứ khi nào chúng tôi giành được quyền truy cập và đánh cắp dữ liệu, họ sẽ bị trừ điểm, và kỳ vọng là chúng tôi sẽ tấn công bằng phần mềm độc hại tùy biến, thứ độc nhất họ chưa từng thấy.”
Cuộc thi do Đại học Texas tại San Antonio tổ chức, quy tụ 10 đội xanh cấp đại học, mỗi đội là nhà vô địch của một vòng thi khu vực. Sự kiện được thiết kế mô phỏng thế giới chiến tranh mạng có mức rủi ro cao, nơi tấn công và phòng thủ diễn ra trong thời gian thực. Nhưng năm nay, chiến trường này có thêm nhân tố mới: trí tuệ nhân tạo.
Một trong các đội xanh không phải con người, được tạo thành hoàn toàn từ các “tác nhân AI”, tức hệ thống phần mềm có thể tự thực hiện nhiệm vụ, phần lớn không cần con người can thiệp trực tiếp.
Vì vậy, cuộc thi trở thành phép thử thực tế cho vai trò ngày càng lớn của AI trong an ninh mạng. Các hệ thống có thể hỗ trợ tấn công mạng, cũng như hỗ trợ phòng thủ. Nhưng chúng vẫn mắc lỗi, đôi khi theo những cách rất khó lường, chưa thể sánh với kỹ năng của các chuyên gia dày dạn kinh nghiệm, thậm chí cũng chưa vượt qua được những sinh viên khoa học máy tính triển vọng nhất nước Mỹ.
Dù vậy, các công ty AI vẫn nỗ lực cải thiện công nghệ. Tháng trước, Anthropic cho biết họ sẽ hạn chế phát hành Claude Mythos, công nghệ AI mới nhất và chỉ cung cấp cho một số tổ chức đáng tin cậy, vì hệ thống có thể đem lại lợi thế cho tin tặc ác ý. Sau đó, OpenAI cũng tuyên bố chia sẻ công nghệ tương tự với nhóm đối tác giới hạn.
AI tăng tốc đội tấn công
Trong căn phòng ở Cosmopolitan, Dan Borges, một thành viên kỳ cựu của đội đỏ, cúi người trên chiếc bàn kính và gõ danh sách hướng dẫn ngày càng dài cho các tác nhân AI. Khi các bot thăm dò mạng ở San Antonio và tấn công một trong những đội xanh sinh viên, chúng thực hiện nhiều nhiệm vụ thay người lập trình.
Borges, 37 tuổi, kỹ sư bảo mật từng làm việc tại Uber và công ty khởi nghiệp AI Scale AI. Ông đội ngược chiếc mũ bóng chày với dòng chữ: “Aloha Got Soul.”, dưới lớp tóc nâu sẫm dài đến ngang lưng.
Sáng hôm đó, Borges cố gắng cài phần mềm độc hại vào hàng chục máy tính. Trong khi các tác nhân AI xử lý công việc lặp đi lặp lại với tốc độ cao, ông có thời gian lên kế hoạch cho giai đoạn tiếp theo của cuộc tấn công.
Ông nói: “Chúng giúp tôi làm nhiều việc song song, tôi có thể đi nhanh và mở rộng phạm vi hơn.”
Nhưng chẳng bao lâu, một trong các bot đi chệch hướng, cài phần mềm độc hại lên chính máy tính của Borges. Theo suy luận của bot, đó là cách tốt để hiểu phần mềm độc hại có thể làm gì.
Borges nói và bật cười: “Ý tưởng tệ nhất tuyệt đối mà tôi từng nghe”.
Theo Borges, khi được dẫn dắt bởi những chuyên gia được đào tạo bài bản, công nghệ này có thể tăng tốc nhiều tác vụ trong an ninh mạng. Nhưng vẫn cần phải xử lý rất nhiều khiếm khuyết.
Ông nói: “Yêu cầu bot làm việc cụ thể rất dễ, nhưng bạn phải lùi lại và tự hỏi: cách tốt nhất khiến chúng làm đúng điều mình muốn là gì?”
Trước khi đến Las Vegas, Borges và các thành viên đội đỏ dành nhiều tuần xây dựng các công cụ phần mềm riêng nhằm sử dụng trong hai ngày chiến tranh mạng mô phỏng. Phần lớn trong số họ dùng các hệ thống như Claude Code của Anthropic và Codex của OpenAI để phát triển công cụ nhanh hơn. Thay vì viết thủ công toàn bộ mã, họ có thể dựa vào các trình tạo mã AI.
Levinson nói: “Rất nhiều việc cần làm trước sự kiện, phần lớn công việc phát triển quyết định thành hay bại trong sự kiện. Năng lực của chúng tôi được cải thiện vì giờ đây có AI hỗ trợ công việc.”
Một số người như Borges đi xa hơn, sử dùng chính các hệ thống này để tự động hóa nhiệm vụ ngay trong cuộc thi, trong lúc nghe nhạc hip-hop thập niên 1990 và gấp rút tìm cách xuyên thủng mạng ở San Antonio. Các hệ thống có thể tạo mã, đồng nghĩa có thể dùng website, thăm dò tường lửa máy tính và về lý thuyết thực hiện gần như bất cứ nhiệm vụ nào trên internet.
Khi bot tự tổ chức tấn công
David Cowen và Evan Anderson, hai thành viên của đội đỏ ngồi trước chiếc tivi lớn treo tường, thoải mái yêu cầu Claude Code vừa tổ chức vừa thực thi những cuộc tấn công phức tạp, mang tên Project Mayhem. Họ phụ thuộc vào công nghệ đến mức đôi khi rời khỏi phòng để đi mua sandwich và cà phê, trong khi Claude tiếp tục dò xét mạng ở Texas.
Cowen là tư vấn viên bảo mật vui tính đến từ Plano, Texas, với bộ râu xám nâu rậm rạp. Mỗi khi các bot AI làm điều bất ngờ, ông lại phá lên cười. Anderson, hacker tự nhận với hai cánh tay phủ kín hình xăm, điều hành công ty an ninh Offensive Context tại Denver. Trước các hành vi kỳ lạ của bot, ông hầu như không dao động.
Một buổi chiều, sau khi mua đồ ăn về, Cowen nhìn lên màn hình tivi và tiếp tục bật cười, một trong các bot nhận thấy một đội xanh cài phần mềm mới lên máy tính ở San Antonio. Bot này sau đó lấy mật khẩu mặc định của phần mềm từ một cơ sở dữ liệu, đột nhập vào máy và bắt đầu chia sẻ mật khẩu đó với các bot khác.
Cowen cười khúc khích nói: “Tuyệt thật, tôi đang ăn trưa.”
Nhưng ông nhanh chóng nhấn mạnh bot chỉ giỏi nếu người sử dụng giỏi. Cowen và Anderson giữ các tác nhân trong phạm vi kiểm soát chặt chẽ, tập trung vào nhiệm vụ cụ thể và cố gắng phát hiện các sai sót nghiêm trọng.
Đôi khi, các bot “ảo giác” về hoạt động trên mạng, tức phản ứng với những sự kiện không có thực.
Anderson nói: “AI nghĩ và nói với người dùng nó đã làm rất nhiều thứ, nghe có vẻ hay, nhưng bạn phải buộc bot chứng minh điều đó thực sự tồn tại.”
Đội phòng thủ không phải con người
Theo nghĩa nào đó, Cowen và Anderson đang lấy lửa đánh lửa. Trong khi các thành viên đội đỏ tấn công đội xanh gồm sinh viên, họ đối đầu với đội xanh được vận hành hoàn toàn bằng bot. Năm nay, Anthropic sắp xếp để công nghệ AI thi đấu cùng 10 đội sinh viên đại học.
Đội phòng thủ mạng tự động vận hành với rất ít hỗ trợ từ nhân viên Anthropic. Nhưng trong khi mỗi đội sinh viên gồm tám người, đội Anthropic có tới 32 tác nhân AI riêng lẻ.
Trong vài giờ đầu, các bot phòng thủ có vẻ chật vật và rơi xuống cuối bảng xếp hạng. Tuy nhiên, chúng bị ảnh hưởng bởi sự cố mất kết nối mạng, khi mạng hoạt động trở lại, các bot bắt đầu đứng vững.
Cowen nói: “Điều AI làm tốt hơn sinh viên là chú ý đến nhiều việc cùng lúc, các tác nhân giao tiếp tốt hơn và không bao giờ bỏ cuộc.”
Tuy nhiên, bot cũng cư xử theo cách lạ lùng và khó đoán. Đôi khi, Al không thực hiện những bước hiển nhiên cần thiết để bảo vệ máy của mình. Có lúc, các bot mắc kẹt trong vòng lặp, buộc người giám sát phải can thiệp.
Kết quả cuối cùng: đội bot xếp thứ bảy trong tổng số 11 đội. Đội chiến thắng là Dakota State University, gương mặt quen thuộc của cuộc thi, nhưng đây là lần đầu tiên trường này giành chức vô địch.
Sau khi quan sát công nghệ ở cả hai phía tấn công và phòng thủ, Anderson nhận xét AI hiện vẫn là công cụ hiệu quả nhất khi nằm trong tay chuyên gia an ninh mạng giàu kinh nghiệm. Theo ông, nó hoạt động tốt nhất khi làm theo chỉ dẫn nghiêm ngặt.
ông nói: “Tôi có kinh nghiệm nên yêu cầu bot tìm kiếm điều nhất định xảy ra, rồi làm bước tiếp theo tôi mong muốn,”
Cowen không tin tưởng công nghệ AI có khả năng tự đưa ra quyết định. Nhưng ông nghĩ điều đó có thể thay đổi khi các hệ thống ngày càng tốt hơn.Ông tuyên bố: “ Al chắc chắn đạt đến mức đó”.
shared via nytimes,
