AI và giới hạn của ngôn ngữ
04/08/26
Các mô hình ngôn ngữ lớn có thể trò chuyện, giải thích khái niệm, viết luận, tóm tắt văn bản và vượt qua nhiều bài kiểm tra từng được xem là thước đo “lý trí thông thường”. Song chính sự thông minh bề mặt lại đặt ra câu hỏi khó: vì sao chúng vừa có vẻ rất giỏi, vừa dễ mắc lỗi ngớ ngẩn, nói điều vô nghĩa hoặc đưa ra lời khuyên nguy hiểm? Câu trả lời không chỉ nằm ở AI, mà ở chính giới hạn của ngôn ngữ. Hệ thống chỉ học từ ngữ và câu chữ sẽ không bao giờ đạt tới kiểu hiểu biết dày, sâu và gắn với thế giới như con người.
Khi chatbot khiến con người bối rối
Khi kỹ sư Google tuyên bố chatbot LaMDA có thể là “con người”, câu chuyện lập tức gây chấn động. LaMDA là mô hình ngôn ngữ được thiết kế để dự đoán những từ tiếp theo có khả năng xuất hiện sau đoạn văn bản đầu vào. Vì nhiều cuộc trò chuyện có cấu trúc khá dễ đoán, hệ thống có thể học cách duy trì đối thoại rất thuyết phục. Phản ứng của công chúng rất đa dạng. Có người chế giễu ý tưởng máy móc có thể là người. Có người cho rằng LaMDA chưa phải, nhưng thế hệ tiếp theo có thể sẽ khác. Cũng có người nhắc việc đánh lừa con người không khó; con người từng nhìn thấy hình thánh trên miếng bánh mì nướng.
Tuy nhiên, tranh cãi phơi bày vấn đề sâu hơn. Khi các mô hình ngôn ngữ ngày càng mạnh và phổ biến, xã hội lại càng thiếu đồng thuận về cách hiểu chúng. Chúng vượt qua nhiều bài kiểm tra “lý luận thông thường”, nhưng vẫn dễ nói nhảm, suy luận lệch, đổi lập trường hoặc đưa ra câu trả lời nguy hiểm. Vì sao hệ thống có thể vừa thông minh vừa nông cạn đến vậy?
Ảo tưởng tri thức là ngôn ngữ
Phần lớn thế kỷ 19 và 20, triết học và khoa học chịu ảnh hưởng mạnh của ý tưởng rằng tri thức về cơ bản là ngôn ngữ. Biết điều gì đó nghĩa là có thể nắm được câu đúng về nó và hiểu câu ấy liên kết thế nào với những câu đúng khác. Theo logic này, hình thức lý tưởng của tri thức là hệ thống ký hiệu chính xác, gần với logic và toán học; ngôn ngữ tự nhiên, dù mơ hồ hơn, vẫn có thể phục vụ nếu được làm rõ. Tư duy cũng nuôi dưỡng AI biểu tượng thời kỳ đầu. Các nhà nghiên cứu hình dung trí tuệ nhân tạo như cơ sở dữ liệu khổng lồ gồm các mệnh đề đúng, được kết nối bằng quy tắc logic. Hệ thống được xem là thông minh nếu có thể đưa ra câu đúng vào đúng thời điểm. Đây cũng là giả định phía sau phép thử Turing: nếu máy nói như người, có lẽ nó hiểu như người.
Tuy nhiên, phê phán lớn nhất với quan điểm này vẫn còn nguyên giá trị: nói đúng về một thứ không có nghĩa là hiểu nó. Ngôn ngữ không bao trùm toàn bộ tri thức mà chỉ là dạng biểu đạt tri thức rất đặc thù, mạnh ở mức trừu tượng cao nhưng yếu khi phải truyền đạt kinh nghiệm cụ thể. Đọc bản nhạc khác xa nghe bản nhạc, và còn khác xa năng lực tự chơi bản nhạc ấy. Ngôn ngữ rất giỏi mô tả vật thể, thuộc tính và quan hệ giữa chúng. Tuy nhiên, nó vụng về khi phải diễn tả hình dạng bất quy tắc, chuyển động của vật thể, vận hành của cơ chế phức tạp, nét cọ trong bức tranh, hay kỹ năng giữ thăng bằng khi lướt sóng. Nhiều tri thức của con người nằm trong hình ảnh, bản đồ, sơ đồ, âm thanh, thao tác, cơ bắp và kinh nghiệm.
Ngôn ngữ là kênh hẹp
Cách khác để thấy giới hạn của ngôn ngữ là nhận ra nó truyền tải rất ít thông tin nếu đứng một mình. Câu bị tách khỏi bối cảnh thường rất mơ hồ. Câu “cái hộp ở trong pen” trong tiếng Anh chẳng hạn có thể nói về cây bút mực hoặc một khu quây trẻ em, tùy ngữ cảnh. Từ đồng âm, đại từ và hàm ý xã hội khiến ngôn ngữ không bao giờ là phương tiện trong suốt. Con người hiểu được câu nói vì chúng ta chia sẻ nhiều hiểu biết ngoài ngôn ngữ: tình huống trước mắt, vai trò xã hội, mục đích giao tiếp, kinh nghiệm về thế giới. Khi gọi món với bồi bàn, xem bóng đá cùng bạn bè hay đọc đoạn văn về chủ đề quen thuộc, ta không chỉ giải mã chữ. Ta dựa vào một kho nền tảng khổng lồ về thế giới.
Điều này giải thích vì sao các mô hình ngôn ngữ có vẻ mạnh. Chúng được huấn luyện để nhận ra mẫu hình trong các đoạn văn do con người viết: từ nào đi với từ nào, câu nào hợp với câu nào, giọng điệu nào phù hợp trong ngữ cảnh nào. Chúng học dạng “biết cách” rất tinh vi trong ngôn ngữ: biết cách tiếp tục đoạn hội thoại, trả lời hợp lý, giải thích khái niệm, kể lại câu chuyện hay giải một câu đố bằng lời. Song tất cả vẫn đi qua “cổ chai” của văn bản. Mô hình học về thế giới qua những gì người khác nói về thế giới, chứ không tự sống trong thế giới ấy.
Hiểu biết nông và ảo giác chiều sâu
Nói mô hình ngôn ngữ “hiểu” không nhất thiết sai. Tuy nhiên, đây là kiểu hiểu nông; giống sinh viên có thể nhắc lại thuật ngữ của giáo sư mà chưa thật sự nắm vấn đề. Sự bắt chước này không vô dụng; trong nhiều tình huống, nó đủ tốt. Nhưng không nên nhầm nó với hiểu biết sâu. GPT-3 và các hệ thống tương tự được huấn luyện bằng cách che đi những từ tiếp theo trong câu rồi buộc máy đoán. Qua vô số lần sửa sai, hệ thống trở nên giỏi dự đoán từ có khả năng xuất hiện. Vì trong nhiều bài toán chỉ có ít câu trả lời đúng và vô số câu trả lời sai, máy buộc phải học những kỹ năng ngôn ngữ thật sự: giải thích câu đùa, làm bài toán chữ, viết lại ý phức tạp, nhận ra mẫu lập luận.
Song khả năng giải thích khái niệm bằng lời khác với khả năng sử dụng trong thực tế. Hệ thống có thể giải thích phép chia dài mà không thật sự “làm toán” như con người; có thể nói về sự đồng cảm nhưng không có kỹ năng sống, ký ức thân thể hay trách nhiệm xã hội để xử lý tình huống nhạy cảm. Nó biết cách nói về kinh nghiệm, nhưng không có kinh nghiệm. Giới hạn này càng rõ trong hội thoại dài. Các mô hình thường có trí nhớ và sự chú ý ngắn, dễ bị dẫn dắt khi người dùng thay đổi giả định, đổi ngôn ngữ, mâu thuẫn với chính mình hoặc “gaslight” hệ thống. Hiểu biết cần để xây dựng một thế giới quan nhất quán vượt xa năng lực của một hệ thống chỉ dựa vào chuỗi từ.
Con người biết nhiều hơn những gì có thể nói
Rất nhiều tri thức quan trọng của con người không nằm trong câu chữ. Ta học bằng nhìn, chạm, thử, sai, bắt chước, luyện tập, sống trong không gian xã hội. Hướng dẫn lắp đồ IKEA dùng hình vẽ vì hình ảnh truyền đạt thao tác tốt hơn chữ. Nhà nghiên cứu AI nhìn sơ đồ mạng trước khi đọc phần mô tả. Người đi tàu điện theo đường màu trên bản đồ mà không cần văn bản dài. Đồ vật cũng “dạy” ta. Tay nắm cửa nằm ngang tầm tay; cán búa mềm để cầm chắc; nghi lễ xã hội truyền kỹ năng ứng xử; nghề thủ công truyền động tác chính xác từ thợ lành nghề sang người học việc. Đây là tri thức biểu tượng, hình ảnh, vận động và thực hành – những dạng tri thức khó viết ra nhưng rất thật.
Ngôn ngữ quan trọng vì nén được nhiều thông tin hiệu quả. Nhưng nén bao giờ cũng làm mất dữ liệu. Đoạn văn sâu cần thời gian giải nén. Vì vậy, cỗ máy chỉ học từ ngôn ngữ có thể biết rất nhiều nhưng vẫn hiểu rất ít. Nó giống tấm gương: phản chiếu gần như mọi thứ và tạo ảo giác chiều sâu, nhưng bản thân chỉ mỏng vài centimet.
Không có thân thể, không có thế giới
Điều này không làm các mô hình ngôn ngữ trở nên ngu ngốc. Chúng là thành tựu AI rất ấn tượng và hữu ích trên bề mặt: viết, tóm tắt, dịch, gợi ý, giải thích, hỗ trợ công việc tri thức. Tuy nhiên, nếu chỉ được huấn luyện trên ngôn ngữ, chúng sẽ không bao giờ giống trí tuệ con người, dù được huấn luyện đến tận “ngày tàn nhiệt của vũ trụ”. Con người không chỉ nói về thế giới. Con người nhìn, chạm, di chuyển, đau, đói, sợ, thử nghiệm, thất bại, sống cùng người khác và tích lũy kinh nghiệm trong thân thể ổn định. Chính hiểu biết phi ngôn ngữ sâu làm cho ngôn ngữ trở nên hữu dụng. Ta hiểu người khác nói gì vì ta có thế giới để neo câu nói.
Các mô hình ngôn ngữ không có thân thể ổn định, không có thế giới thường trực để cảm nhận, không có đời sống để kiểm chứng lời nói. Tri thức của chúng bắt đầu và kết thúc bằng nhiều từ hơn. Vì vậy, mục tiêu của AI không thể chỉ là làm máy giỏi xử lý chữ mà còn phải giúp máy hướng vào thế giới được nói tới, chứ không chỉ các từ dùng để nói về thế giới ấy. Ngôn ngữ có thể mở rộng trí tuệ, nhưng không bao giờ là toàn bộ trí tuệ.
shared via noemamag,
