AI và tham vọng dự báo rủi ro chính trị
02/06/26
 |
| Công ty Trung Quốc đang nghiên cứu các sản phẩm sử dụng trí tuệ nhân tạo (AI) để phân tích dữ liệu vị trí và việc sử dụng internet nhằm dự đoán ai có thể làm hoặc nói điều gì đó chỉ trích chính phủ. Ảnh: Lam Yik Fei |
Từ kiểm duyệt sang dự báo
Nhiều năm qua, Trung Quốc xây dựng hệ thống kiểm duyệt và giám sát internet tinh vi bậc nhất thế giới. “Vạn lý tường lửa” chặn các nền tảng nước ngoài, kiểm soát luồng thông tin và phát hiện những người tìm cách vượt qua kiểm duyệt. Tuy nhiên, thế hệ công nghệ mới có thể đi xa hơn: không chỉ biết ai đang nói gì, mà còn dự đoán ai có thể nói điều gì gây bất lợi cho chính quyền.
Tâm điểm của câu chuyện là Geedge Networks, công ty Trung Quốc bán phiên bản thương mại của hệ thống kiểm duyệt tương tự Vạn lý tường lửa. Theo các tài liệu nội bộ bị rò rỉ và được nhóm nghiên cứu tại Đại học Vanderbilt phân tích, Geedge cùng MESA Lab, nhánh nghiên cứu được chính phủ hậu thuẫn, đang phát triển công cụ dùng AI để phân tích dữ liệu vị trí, viễn thông, mạng xã hội và hành vi trực tuyến của công dân. Mục tiêu được nêu trong tài liệu là lập hồ sơ con người, phân hành vi và phát hiện “thông tin có hại” – cụm từ thường được Bắc Kinh dùng cho nội dung bất đồng chính kiến hoặc những thông tin nhà nước muốn dập tắt. Nếu công nghệ thành hình, công dân có thể bị đánh dấu không phải vì biểu tình, viết bài hay tổ chức phản kháng, mà vì thuật toán cho rằng người này có khả năng làm vậy.
“Khi giám sát đại trà gặp AI”
Brett J. Goldstein, giám đốc Wicked Problems Lab thuộc Viện An ninh Quốc gia Vanderbilt, gọi đây là điều xảy ra khi giám sát đại trà gặp trí tuệ nhân tạo. Không có cơ chế kiểm soát và cân bằng, những gì Trung Quốc làm với công dân có thể trở thành hình mẫu đáng sợ cho bất kỳ nơi nào các công cụ này được triển khai mà thiếu giám sát.
Trong tài liệu đầu năm 2024, nhóm nghiên cứu của Geedge thảo luận việc xây dựng hồ sơ hành vi dựa trên dữ liệu viễn thông, mạng xã hội và vị trí. Biên bản họp ngày 5/2/2024 đề cập đến mục tiêu “xác định ý định” và “phát hiện thông tin có hại”. Theo các nhà nghiên cứu Vanderbilt, Geedge không chỉ muốn ghi lại những gì người dân làm; công ty dường như muốn dự báo họ sẽ làm gì tiếp theo, sẽ liên hệ với ai và có thể trở thành người chỉ trích chính quyền hay không. Đây là bước chuyển căn bản. Giám sát truyền thống phản ứng với hành vi đã xảy ra. Giám sát dự báo biến khả năng xảy ra hành vi thành căn cứ để nghi ngờ. Khi quyền lực nhà nước gắn với dữ liệu khổng lồ và AI, ranh giới giữa phòng ngừa an ninh và đàn áp chính trị trở nên cực kỳ mong manh.
Đời sống thường nhật thành dữ liệu nghi ngờ
Theo nhóm Vanderbilt, các tài liệu cho thấy Geedge muốn liên kết chuyển động vật lý của người dân với hoạt động trực tuyến, bao gồm cả phim họ xem và sách họ đọc. Những chi tiết tưởng như vụn vặt của đời sống hằng ngày có thể trở thành nguyên liệu cho hệ thống đánh giá ý định chính trị.
Geedge chưa phản hồi yêu cầu bình luận. Các quan chức Mỹ nói chưa có bằng chứng công nghệ dự báo này đã hoàn thiện hoặc triển khai trong những tháng gần đây. Tuy nhiên, họ thừa nhận các công ty giám sát Trung Quốc đang tiến về hướng này, nhằm tinh chỉnh bộ máy kiểm soát xã hội.
Chip AI và phanh hãm từ Washington
Chi tiết quan trọng trong câu chuyện là tham vọng của Geedge dường như bị chậm lại bởi các biện pháp kiểm soát xuất khẩu thời Tổng thống Joe Biden với chip tiên tiến do Mỹ thiết kế. Các GPU – loại chip chuyên dùng để huấn luyện và vận hành mô hình AI – là nền tảng của những hệ thống như vậy.
Năm 2024, khi các hạn chế của Mỹ còn chặt chẽ, Geedge và phòng thí nghiệm gặp khó vì thiếu năng lực tính toán. Công ty phải dùng các mô hình AI và chip cũ, kém mạnh hơn. Điều này cho thấy kiểm soát xuất khẩu có thể làm chậm một phần quá trình phát triển công nghệ giám sát thế hệ mới của Trung Quốc.
Tuy nhiên, tác dụng không chắc kéo dài. Giới chức Mỹ cho rằng Geedge hiện có đủ GPU cho các sản phẩm hiện tại. Chỉ các phiên bản tham vọng như tích hợp cuộc gọi bị chặn hoặc video giám sát để dự báo đe dọa an ninh, mới có thể vấp phải giới hạn lớn hơn về sức mạnh tính toán. Trong khi Trung Quốc đang nỗ lực giảm phụ thuộc vào chip Mỹ. Một khi các công ty Trung Quốc tự chủ hơn về phần cứng AI, hàng rào kiểm soát xuất khẩu của Washington sẽ kém hiệu quả hơn.
Công nghệ giám sát có thể thành hàng xuất khẩu
Geedge không chỉ là câu chuyện nội địa Trung Quốc. Các tài liệu trước đó cho thấy công ty xuất khẩu phần mềm an ninh mạng sang Ethiopia, Kazakhstan, Myanmar và Pakistan, giúp các chính phủ tiến hành giám sát đại trà trên mạng di động. Điều này tạo nguy cơ vượt khỏi biên giới Trung Quốc.
Công nghệ dự báo bất đồng chính kiến được đóng gói thành sản phẩm thương mại có thể trở thành món hàng hấp dẫn với các chính quyền độc đoán. Công cụ được phát triển để bảo vệ quyền lực ở Bắc Kinh có thể được dùng để bóp nghẹt xã hội dân sự ở nhiều nơi khác. Đây là lý do cuộc tranh luận về AI không thể chỉ xoay quanh chatbot, năng suất hay cạnh tranh doanh nghiệp. AI cũng là công cụ quyền lực. Cùng năng lực phát hiện mẫu và dự báo hành vi có thể giúp bác sĩ chẩn đoán bệnh, nhà máy giảm lãng phí, hoặc cảnh sát chính trị nhận diện người cần bị theo dõi.
Khi im lặng cũng có thể bị diễn giải
Bài học từ Geedge là công nghệ không trung lập khi được đặt trong hệ thống thiếu kiểm soát quyền lực. Mô hình AI tự nó chỉ là phần mềm; nhưng khi được nối với dữ liệu viễn thông, vị trí, mạng xã hội, camera và quyền lực cảnh sát, nó có thể trở thành công cụ dự báo rồi triệt tiêu bất đồng.
Nỗi sợ lớn nhất không phải AI thật sự đọc được suy nghĩ; nỗi sợ là nhà nước hành động như thể AI làm được điều đó. Lúc này, công dân không còn bị trừng phạt vì điều họ nói, mà vì điều hệ thống cho rằng họ có thể nói. Trong kỷ nguyên AI, tự do ngôn luận không chỉ bị đe dọa bởi kiểm duyệt mà còn bị đe dọa bởi khả năng biến im lặng, thói quen đọc, lộ trình di chuyển và các mối quan hệ xã hội thành bằng chứng của tội danh chưa xảy ra. Đây là viễn cảnh khiến công nghệ dự báo chính trị trở thành một trong những ứng dụng đáng sợ nhất của trí tuệ nhân tạo.
shared via nytimes,
