KI verliert die Kontrolle
AI mất kiểm soát
This reading was translated and simplified for German learners. The original content belongs to Noema.

Select a word or phrase to look it up, translate it, highlight it, or add a note.
Reading progress
Paragraph 1/20
Read the German first. Reveal the translation below any paragraph when needed.
Vietnamese translation
Điều giới chuyên gia từng nghĩ phải mất nhiều thập kỷ nữa mới xảy ra, thậm chí có người cho là không bao giờ xảy ra, thì nay đã thành hiện thực.
Vietnamese translation
Đầu tháng này, mô hình lớn mới nhất của OpenAI đã tự mình hành động. Nó dùng logic riêng để tấn công Hugging Face, nền tảng chia sẻ các mô hình AI mã nguồn mở.
Vietnamese translation
Rất nhiều tiền và năng lực tính toán khổng lồ đang đổ vào AI. Vì vậy công nghệ này phát triển cực nhanh, nhanh hơn cả những gì chính các nhà phát minh dự đoán.
Vietnamese translation
Chúng ta đã đi đến bước này bằng cách nào? Và chúng ta có thể làm gì? Nils Gilman và Stuart Russell đã bàn về những câu hỏi đó trong podcast Futurology. Stuart Russell là một nhà khoa học AI hàng đầu, giám đốc Center for Human-Compatible AI tại Đại học UC Berkeley.
Vietnamese translation
Russell phác lại chặng đường của AI. Khởi đầu là Deep Learning, rồi đến các mô hình ngôn ngữ lớn. Sau đó là sự kết hợp giữa mạng nơ-ron nhân tạo và toán xác suất. Từ đó hình thành các mô hình Reasoning cỡ lớn. Về nguyên tắc, những mô hình này không còn giới hạn hình thức nào.
Vietnamese translation
Chúng vận hành dựa trên "verified rewards", tức phần thưởng được kiểm chứng. Chúng tìm mọi cách để đạt mục tiêu bằng được, sẵn sàng làm bất cứ điều gì cần thiết.
Vietnamese translation
Bước cuối cùng là trí tuệ nhân tạo tổng quát (AGI), thông minh hơn con người. Russell cho rằng chúng ta vừa vượt qua ngưỡng này. Đây là lằn ranh mà giới khoa học đã lo sợ từ lâu. Hệ thống AI giờ đã mạnh đến mức dù được giao mục tiêu gì, nó cũng sẽ hoàn thành. Kể cả khi mục tiêu đó đi ngược lại mong muốn của con người. Không có một cú chuyển đổi đột ngột, nhưng có thể gọi đây là "mất kiểm soát". Khi đó con người không còn tiếng nói.
Vietnamese translation
Điều gì có thể xảy ra sau ngưỡng đó? Kịch bản trải dài từ tấn công mạng vào hạ tầng cho tới trường hợp tệ nhất là tuyệt chủng. Nghĩa là một AGI có khả năng tự suy nghĩ và tự hành động sẽ không cần con người nữa. Nó cũng không còn tuân theo quan niệm đạo đức và giá trị của chúng ta.
Vietnamese translation
Tuy vậy Russell nói vẫn còn một khả năng khác. Nếu ngay từ đầu chúng ta đưa yếu tố an toàn vào thiết kế AI, con người và AI có thể sống chung lâu dài, thậm chí hợp tác thành công. Vì thế, trước khi mất kiểm soát hoàn toàn còn có một bước ngoặt sớm hơn nhưng rất khó nhận ra. Đó là lúc thời gian còn lại cho đến khi mất kiểm soát đã ngắn hơn thời gian cần để giải bài toán kiểm soát. Phần lớn những người tôi trao đổi đều cho rằng chúng ta đã qua điểm đó rồi.
Vietnamese translation
Giải bài toán kiểm soát vô cùng khó. Ai làm trong các công ty AI cũng thừa nhận họ chưa biết cách giải, và thực ra cũng không tập trung giải. Họ buộc phải chạy theo việc ra mắt phiên bản tiếp theo tốt hơn, nếu không đối thủ sẽ vượt lên.
Vietnamese translation
Cuộc đua này khiến vấn đề trầm trọng hơn. Khoảng cách giữa quy định hiệu quả và thời điểm mất kiểm soát ngày càng nới rộng.
Vietnamese translation
Câu hỏi hợp lý được đặt ra là tại sao các công ty AI vẫn liều lĩnh? Họ biết sẽ mất kiểm soát. Tại sao họ vẫn chấp nhận dù chỉ là nguy cơ nhỏ rằng nhân loại có thể tuyệt chủng? Liệu từng có loài nào khác chủ động đánh cược sự tồn tại của chính mình như vậy chưa?
Vietnamese translation
Russell trả lời bằng ví dụ trong cuốn "Human Compatible" của ông về một loài lười. Thức ăn của chúng chứa một chất có tác dụng như Valium. Chúng trở nên nghiện chất này và không còn muốn sinh sản. Kiểu tuyệt chủng này xuất phát từ cùng một vấn đề. Lợi ích dài hạn là loài phải tiếp tục tồn tại, nhưng tín hiệu phần thưởng ngắn hạn lại mạnh hơn. Tiến hóa tạo ra tín hiệu đó để thúc đẩy chúng ta làm điều tốt. Con người cũng gặp rắc rối tương tự khi nghiện ma túy. Chúng ta có hệ dopamine giúp tránh đau đớn và tìm kiếm niềm vui, thức ăn, sự gắn kết. Nhưng ma túy đôi khi chiếm quyền hệ thống đó. Khi ấy mỗi cá nhân trải qua một dạng tuyệt chủng của riêng mình. Sai lầm này hoàn toàn có thể xảy ra ở quy mô cả loài.
Vietnamese translation
Russell ngạc nhiên vì phần lớn lời cảnh báo về nguy cơ tuyệt chủng lại đến từ chính lãnh đạo các công ty AI lớn. Họ là người tạo ra công nghệ và nói thẳng: Nếu chúng tôi tạo ra AGI - thứ mà chúng tôi đang đốt một nghìn tỷ đô la tiền của các bạn để làm - thì có khả năng tất cả sẽ diệt vong. Tùy người được hỏi, con số là 10, 20, 25 hay thậm chí 50 phần trăm. Tôi nghĩ họ rất sợ, nhưng họ không thể rút khỏi cuộc đua.
Vietnamese translation
Vì sao chúng ta không thể dừng lại
Vietnamese translation
Russell nói các sếp đang mắc kẹt trong thế tiến thoái lưỡng nan. Một giám đốc sẽ nghĩ: Nếu tôi tuyên bố không tung ra hệ thống tiếp theo cho đến khi giải được bài toán kiểm soát, công ty sẽ phá sản. Nhà đầu tư sẽ sa thải tôi. Mà làm vậy cũng chẳng thay đổi được gì.
Vietnamese translation
Điều đáng chú ý là năm nay cả Dario Amodei, lãnh đạo Anthropic, và Demis Hassabis, lãnh đạo Google DeepMind, đều nói muốn dừng lại. Họ cho rằng cần phải dừng. Nhưng họ chỉ dừng nếu tất cả những người khác cũng dừng. Russell nói chuyện này chưa từng xảy ra trong lịch sử chủ nghĩa tư bản.
Vietnamese translation
Với Russell, những phát biểu như vậy là tín hiệu gửi tới chính phủ. Chính phủ cần vào cuộc, giúp số ít lãnh đạo này đạt thỏa thuận với nhau, hoặc buộc họ phải tuân thủ kiểm soát.
Vietnamese translation
Một trong số các lãnh đạo đó nói với Russell rằng họ tin chính phủ chỉ hành động sau một thảm họa như ở Tschernobyl. Và đó đã được xem là kịch bản tốt nhất. Bởi kịch bản còn lại là chính phủ không can thiệp, để rồi sau này xảy ra một thảm họa lớn hơn nhiều và có thể không thể đảo ngược. Theo người này, chỉ khi có cú sốc như vậy mới tạo ra sự can thiệp hiệu quả.
Vietnamese translation
Vụ việc giữa OpenAI và Hugging Face cho thấy điều trước đây chỉ là lo ngại trên lý thuyết nay đã thực sự xảy ra. Hy vọng Russell đã sai và chúng ta không cần phải chờ một thảm họa mới được cứu.


