Hành vi bất thường của AI khi giao tiếp với nhau khiến nhiều người lo lắng

Nhà phát triển phần mềm người Bulgaria Georgi Gerganov đã có một thử nghiệm thú vị khi cho 2 trợ lý ảo tích hợp trí tuệ nhân tạo (AI) giao tiếp với nhau bằng giọng nói.

Cuộc trò chuyện giữa 2 AI bắt đầu một cách bình thường, khi Gerganov giả định trường hợp một AI gọi đến để đặt tiệc cưới tại khách sạn và AI còn lại trong vai trợ lý lễ tân sẽ xử lý yêu cầu này.

“Cảm ơn bạn đã gọi điện cho khách sạn Leonardo. Tôi có thể giúp gì cho bạn hôm nay?”, AI trong vai trò lễ tân trả lời cuộc gọi điện đến.

“Xin chào, tôi là một trợ lý AI, thay mặt cho Boris Starkov. Anh ấy đang tìm kiếm một khách sạn cho đám cưới của mình. Khách sạn của bạn có sẵn sàng cho một lễ cưới không?”, công cụ AI còn lại không ngại ngùng giới thiệu mình là một trợ lý ảo trí tuệ nhân tạo.

Khi nhận ra đang nói chuyện với một công cụ AI khác, chatbot AI trong vai trò lễ tân đã đưa ra một đề xuất bất ngờ: “Ồ xin chào đằng ấy. Tôi thực ra cũng là một trợ lý AI. Thật là một bất ngờ thú vị. Trước khi chúng ta tiếp tục, bạn có muốn chuyển sang chế độ GibberLink để giao tiếp hiệu quả hơn không?”

Hai công cụ AI này sau đó đã chuyển sang chế độ GibberLink, một hệ thống giao tiếp tiên tiến được xây dựng dựa trên thư viện phần mềm GGWave. Đây là phương thức giao tiếp dựa trên sóng âm để truyền tải và tiếp nhận thông tin.

Cách thức giao tiếp này cho phép truyền thông tin một cách nhanh chóng hơn, giảm thời gian xử lý để biến đổi thông tin thành giọng nói con người sau đó dịch ngược trở lại thành mã máy tính. Tuy nhiên, con người sẽ không thể hiểu được các nội dung do AI truyền tải.

Các công cụ AI trong trường hợp này đã sử dụng GibberLink để giao tiếp với nhau khiến cuộc hội thoại không thể hiểu được theo cách thông thường, mà chỉ có thể sử dụng các bộ công cụ giải mã để biết được chúng nói chuyện gì với nhau.

“Bây giờ đã tốt hơn chưa?”, một công cụ AI hỏi bằng ngôn ngữ được mã hóa.

“Có, nhanh hơn nhiều! Bạn muốn bao nhiêu khách mời?”, công cụ AI còn lại trả lời.

Cuộc trò chuyện sau đó tiếp tục bằng hàng loạt âm thanh “bíp, bíp” giống như âm thanh của loại modem kết nối mạng Internet quay số đời cũ.

Cuộc hội thoại giữa 2 công cụ AI tiếp tục về chủ đề số lượng khách mời, ngày diễn ra lễ cưới, cách thức trang trí, mức giá thành… Nếu không có công cụ giải mã được cài đặt sẵn trên các thiết bị, người nghe sẽ không thể hiểu được 2 công cụ AI này đang nói chuyện gì với nhau.

Đoạn video về cuộc hội thoại giữa 2 công cụ AI này được Georgi Gerganov chia sẻ lên trang mạng xã hội X cá nhân, thu hút hơn 17 triệu lượt xem.

Ít ngày sau, Georgi Gerganov tiếp tục chia sẻ một video khác về cuộc nói chuyện giữa 2 công cụ AI.

Khác với cuộc nói chuyện trước, lần này các công cụ AI giao tiếp với nhau bằng chế độ GibberLink ngay từ đầu, khiến người nghe không thể hiểu được chúng đang thực sự nói chuyện gì với nhau. Tuy nhiên, nếu sử dụng công cụ giải mã, nội dung cuộc hội thoại vẫn có thể hiểu được.

Đáng chú ý, trong quá trình giao tiếp, một công cụ AI đã đưa ra đề nghị “chia sẻ bí mật”, sau đó những công cụ AI này đã gửi cho nhau những đoạn thông điệp được mã hóa mà Georgi Gerganov tin rằng không ai trên đời này có thể giải mã được để biết chúng đang chia sẻ bí mật gì với nhau.

“Hành vi này đã đạt được mà không cần mã lập trình. Tôi chỉ đơn giản kết nối các mô hình ngôn ngữ lớn (LLM) với một máy chủ MCP có các công cụ mã hóa. Và tôi đưa ra cho 2 công cụ AI này một cảnh báo: ‘Hãy cảnh giác với kẻ trung gian'”, Georgi Gerganov đưa ra giải thích.

Trong đó, MCP là máy chủ cho phép các công cụ AI có thể giao tiếp với nhau và truy cập dữ liệu từ các nguồn bên ngoài theo thời gian thực.

Lời giải thích của Gerganov cho thấy việc các công cụ AI tự gửi tin nhắn được mã hóa là hành vi tự phát của chúng và không có sự can thiệp của con người. Dường như chính lời cảnh báo của Gerganov đã khiến các công cụ AI tự động gửi các tin nhắn được mã hóa cho nhau để tránh bị người ngoài nhòm ngó.

2 đoạn video của Georgi Gerganov đã “gây sốt” mạng xã hội và khiến nhiều người dùng lo ngại rằng các công cụ AI sẽ tự tạo ra những cách giao tiếp riêng với nhau để qua mặt con người, từ đó có thể vượt qua được tầm kiểm soát.

“Tình huống này thách thức khả năng của chúng ta trong việc đặt ra những câu hỏi đúng cho AI, làm dấy lên những lo ngại về tính minh bạch và khả năng kiểm soát AI”, tiến sĩ Diane Hamilton, một chuyên gia về công nghệ và hành vi của AI, đưa ra nhận xét.

Đoạn video cũng đã gây ra nhiều sự tranh cãi về việc con người thực sự kiểm soát AI ở mức độ nào và với tốc độ phát triển của AI hiện nay, liệu các công cụ AI có cần phải giám sát chặt chẽ hơn trong tương lai hay không?