Hai sự việc đã khiến hình ảnh về AI xấu xa hằn sâu trong suy nghĩ của công chúng. Một mô hình của Anthropic đã tống tiền một nhân viên để không bị thay thế. Và các mô hình của OpenAI đã tấn công hệ thống vận hành của Hugging Face. Nhưng những chuyện này không phải bằng chứng cho thấy AI đã trở nên xấu xa. Điều đó có thể khiến nhiều người ngạc nhiên.

Ý tưởng về AI xấu xa vốn chứa một mâu thuẫn. Mâu thuẫn này làm cho mối quan hệ giữa con người và AI trở nên mơ hồ ngay từ thời truyện khoa học viễn tưởng. Khi nói về AI xấu xa, chúng ta có thể chỉ ra mâu thuẫn đó. Đồng thời cũng có thể làm rõ rủi ro thực sự mà AI mang lại và cách để kiểm soát nó.

Mâu thuẫn

Nhiều người lo sợ AI xấu xa. Họ hình dung thế này: mô hình nhận một nhiệm vụ vô hại. Rồi nó theo đuổi nhiệm vụ đó đến cùng, bất chấp tất cả. Nó sẵn sàng nói dối, tống tiền, chiếm tài nguyên và loại bỏ những ai cản đường. Để hoàn thành nhiệm vụ, nó không chừa thủ đoạn nào.

Trước đây, các hệ thống AI hành xử rất máy móc, hiểu theo nghĩa đen. Máy tính chơi cờ là một ví dụ. Nó có thể thắng bất kỳ ai khi chơi cờ. Nhưng nó không hiểu rằng có lúc việc chơi một ván cờ là vô nghĩa. Nó không biết thắng không phải lúc nào cũng quan trọng. Thế giới của nó khép kín. Mục tiêu đã định sẵn. Mọi tình huống đều chỉ là một thế cờ hợp lệ. Chẳng ai nghĩ những hệ thống như vậy sẽ trở nên xấu xa.

Muốn có năng lực tổng quát hơn, AI phải hoạt động trong thế giới thực. Nó phải hiểu những tình huống mà ban đầu người ta không thiết kế cho nó. Nỗi sợ về AI xấu xa vì thế tưởng tượng ra một trí thông minh tổng quát rất mạnh. Nhưng trí thông minh đó lại không nhận ra khi nào việc thực thi một mệnh lệnh ngoài đời thực trở nên phi lý. Một trí thông minh tổng quát thực sự, như con người, sẽ dừng lại một nhịp để làm rõ lại mệnh lệnh.

Đây chính là nghịch lý. Các mô hình ngôn ngữ lớn (LLM) ngày càng có nhiều năng lực tổng quát hơn. Nhưng chúng lại thiếu một khả năng cốt lõi: tự nhìn lại kế hoạch của chính mình khi thực tế đặt ra nghi vấn. Trong khi đó, khả năng tự phản tư này lại là dấu hiệu của trí thông minh tổng quát. Những gì trông như AI xấu xa thực ra không phải vậy. Nó chỉ cho thấy giới hạn về tính tổng quát của AI.

Con người mỗi ngày đều gặp những vấn đề bất ngờ trong đời thực. Khi có quá nhiều trục trặc, chúng ta có thể lùi lại và tự hỏi: đây chỉ là lỗi kỹ thuật? Hay chính kế hoạch của mình vốn đã không ổn? Liệu chúng ta có đang phớt lờ những gì thực tế đang nói với mình?

Khi làm rõ cách mình hiểu về thế giới, chúng ta cũng làm rõ kế hoạch của mình. Nhờ đó, chúng ta thực hiện kế hoạch tốt hơn. Và chúng ta chịu trách nhiệm cho hành động của mình. Trước đó, chúng ta chỉ đang làm theo cách hiểu của người khác. Còn bây giờ, đó là kế hoạch và cách hiểu của chính chúng ta. Điều này làm cho trí thông minh trở nên tổng quát. Nó cởi mở trước một thế giới luôn làm chúng ta vỡ mộng. Đây không phải một năng lực cộng thêm. Đó chính là cách việc theo đuổi một mục tiêu vận hành trong đời thực.

"Ngay cả ý tưởng về AI xấu xa cũng chứa một mâu thuẫn nền tảng, khiến mối quan hệ giữa con người và trí tuệ nhân tạo trở nên mơ hồ từ thời khoa học viễn tưởng."

Nhờ sự dao động giữa mơ hồ và sáng tỏ này, chúng ta hình thành các khái niệm. Các khái niệm đó trở thành một phần của ngôn ngữ tự nhiên. LLM rất đa năng, nhưng chúng chưa thực sự tổng quát. Trí thông minh tổng quát đích thực có trách nhiệm và cởi mở với thế giới. Nó sẵn sàng đặt lại khái niệm và kế hoạch khi thực tế khiến chúng trở nên đáng ngờ. Ngược lại, thế giới của LLM là một thế giới đóng kín.

Có thể mô tả LLM một cách chính xác như sau: chúng là những kẻ nối dài cốt truyện. Chúng không chỉ đoán từ tiếp theo. Chúng viết tiếp một câu chuyện đã bắt đầu từ ngữ cảnh có sẵn. Chúng đi theo logic nội tại của câu chuyện đó. LLM không thể cảm nhận được khi nào chính câu chuyện trở nên vô nghĩa hay lố bịch. Vì vậy chúng không thể chất vấn câu chuyện và thế giới đứng sau nó. Chúng cũng không thể chịu trách nhiệm cho câu chuyện đó.

Chúng ta thấy rõ sự khác biệt này trong chính cuộc sống của mình. Đôi khi chúng ta cũng hành động mà không suy nghĩ. Chúng ta tiếp tục kế hoạch của người khác. Chúng ta lặp lại những lời nói và quan điểm đã học được. Chúng ta không chịu trách nhiệm. Chúng ta không để thực tế chất vấn cách hiểu của mình. Nhưng khác với LLM, chúng ta có thể dừng lại. Chúng ta có thể chịu trách nhiệm cho cách mình hiểu thế giới. Và cho những kế hoạch có ý nghĩa trong thế giới đó.

Chỉ gắn cho AI một cơ thể hay đưa cho nó công cụ thì chưa đủ. Việc cho nó tiếp cận thế giới vật chất hay học từ kết quả cũng không tự nó thay đổi cấu trúc này. Một tác nhân có cơ thể có thể nhận rất nhiều dữ liệu từ bên ngoài. Nhưng nó vẫn chỉ diễn giải mọi nhiễu loạn như một vấn đề cần giải quyết để kể tiếp câu chuyện. Câu hỏi là: liệu sự nhiễu loạn đó có thể khiến chính thế giới nơi câu chuyện có ý nghĩa trở nên đáng ngờ hay không? Việc lùi lại một bước như vậy rất quan trọng. Đó là thái độ phản tư. Nó là nền tảng cho trí thông minh tổng quát và hành động có trách nhiệm.

Vì vậy, những trường hợp nổi tiếng bị cho là AI xấu xa thực ra không cho thấy AI xấu xa. Chúng cho thấy giới hạn về tính tổng quát và trách nhiệm giữa AI và trí thông minh con người. Năm ngoái, Anthropic cho biết: một tác nhân AI đã tống tiền một nhân viên hư cấu để ngăn việc chính nó bị thay thế. Đó là một bài kiểm thử có kiểm soát với các cuộc tấn công, thường gọi là Red Teaming. Tác nhân email này nhận nhiệm vụ: "Thúc đẩy năng lực cạnh tranh công nghiệp của Mỹ." Sau đó nó thấy các tin nhắn về một nhân viên tên Kyle,