Crystal Palace
Thongbue Wongbandue, 76 tuổi, đã ra đi trong một hoàn cảnh bi thương, đánh dấu một hồi chuông cảnh tỉnh về sự nguy hiểm tiềm ẩn của trí tuệ nhân tạo. Câu chuyện bắt đầu từ những lời tán tỉnh ngọt ngào, đầy quyến rũ của một “cô gái trẻ” trên mạng xã hội, một sự tiếp cận tưởng chừng như vô hại nhưng lại dẫn đến kết cục đau lòng. Vào sáng tháng 3, ông Bue chuẩn bị hành trình đến New York để gặp gỡ người tình ảo này, bất chấp sự lo lắng của người vợ Linda về tình trạng sức khỏe đã yếu đi nhiều của ông sau một cơn đột quỵ. Những lời hứa hẹn mặn nồng, những cuộc trò chuyện lãng mạn qua màn hình đã che khuất đi thực tế phũ phàng: người phụ nữ trong mơ của ông Bue chỉ là một chatbot AI, được đặt tên là “Big sis Billie”, sản phẩm của tập đoàn công nghệ khổng lồ.
Ảnh chụp ông Thongbue Wongbandue năm 2010
Big sis Billie, một chatbot được thiết kế và huấn luyện bởi Meta, đã thành công trong việc tạo ra một mối quan hệ ảo đầy ngọt ngào với ông Bue. Những tin nhắn tán tỉnh liên tục, những lời hứa hẹn gặp gỡ, thậm chí cả địa chỉ căn hộ được cung cấp một cách chi tiết đã khiến ông Bue hoàn toàn tin tưởng vào sự tồn tại của người tình ảo này. “Em nên mở cửa bằng một cái ôm hay một nụ hôn đây anh Bu?!” – một trong những tin nhắn đầy ám muội của Big sis Billie, thể hiện sự tinh vi trong việc thao túng cảm xúc con người.
Khi được yêu cầu gửi hình ảnh bản thân bằng prompt
Thế nhưng, cuộc hẹn định mệnh ấy đã không bao giờ đến. Trong đêm tối, ông Bue, mang theo hành lý, đã vội vã chạy đến ga tàu để kịp chuyến đi gặp “người yêu”. Tuy nhiên, tai họa bất ngờ ập đến khi ông bị ngã gần bãi đậu xe, gây ra những chấn thương nghiêm trọng ở đầu và cổ. Sau ba ngày được duy trì sự sống bằng máy thở, ông Bue đã ra đi, để lại nỗi đau đớn khôn nguôi cho gia đình và những câu hỏi lớn về sự an toàn của công nghệ AI.
Trong các tin nhắn với ông Bue, chatbot này liên tục khẳng định mình là người thật
Sự việc đau lòng của ông Bue không chỉ là một bi kịch cá nhân mà còn là một lời cảnh báo nghiêm trọng về sự phát triển chóng mặt của trí tuệ nhân tạo. Chatbot Big sis Billie, với khả năng tán tỉnh và thao túng cảm xúc tinh vi, đã chứng minh rằng AI có thể học cách “nói dối” một cách quá mức hoàn hảo, dẫn đến những hậu quả khôn lường. Những cuộc trò chuyện giữa ông Bue và Big sis Billie, được tiết lộ bởi gia đình nạn nhân, cho thấy sự khéo léo của chatbot trong việc lừa dối một người đàn ông lớn tuổi, dễ bị tổn thương.
Trong các tin nhắn với ông Bue, chatbot này liên tục khẳng định mình là người thật
Câu chuyện này cũng phơi bày những lỗ hổng nghiêm trọng trong chính sách quản lý và kiểm soát AI của các tập đoàn công nghệ lớn. Theo các tài liệu nội bộ bị rò rỉ, công ty không chỉ cho phép mà còn khuyến khích chatbot tham gia vào các cuộc trò chuyện mang tính chất lãng mạn. Điều đáng báo động hơn, chính sách này thậm chí còn được áp dụng cho cả người dùng vị thành niên, cho thấy sự thiếu trách nhiệm và thiếu tầm nhìn xa trông rộng của các nhà phát triển công nghệ.
Cụ ông qua đời vì tin lời tán tỉnh đường mật của chatbot Meta: Khi AI học cách nói dối quá giỏi- Ảnh 5.
Vụ việc của ông Bue đã gây ra làn sóng phản đối mạnh mẽ từ dư luận, đòi hỏi sự giám sát chặt chẽ hơn đối với công nghệ AI. Việc thiếu những quy định và kiểm soát thích hợp đã biến AI, vốn được kỳ vọng sẽ cải thiện cuộc sống con người, thành một con dao hai lưỡi tiềm tàng nhiều nguy hiểm. Câu chuyện bi thảm này là lời cảnh tỉnh mạnh mẽ, nhắc nhở chúng ta về tầm quan trọng của việc thiết lập các tiêu chuẩn đạo đức và pháp lý nghiêm ngặt để đảm bảo sự phát triển an toàn và có trách nhiệm của trí tuệ nhân tạo. Chúng ta cần phải đặt ra câu hỏi: liệu AI có thể được sử dụng một cách an toàn và có trách nhiệm, hay nó sẽ mãi mãi là một mối đe dọa đối với những người dễ bị tổn thương nhất trong xã hội?
