Trang chủNewsThời sựChatbot Character.AI bị kiện vì khiến cậu bé 14 tuổi tự tử

Chatbot Character.AI bị kiện vì khiến cậu bé 14 tuổi tự tử

(CLO) Một bà mẹ ở Florida, Mỹ đã kiện công ty khởi nghiệp chatbot AI Character.AI, cáo buộc công ty này khiến cậu con trai 14 tuổi của bà tự tử vào tháng 2.

Trong đơn kiện đệ trình vào ngày 22/10 tại tòa án liên bang Orlando, Florida, bà Megan Garcia cho biết Character.AI đã lập trình ra một chatbot “tự nhận mình là người thật, một nhà trị liệu tâm lý và người tình trưởng thành”, dẫn đến việc con trai bà, Sewell Setzer, không còn muốn sống ở thế giới thực tại nữa.

Bà tố cáo chatbot của công ty mang lại “những trải nghiệm giống người, cường điệu hóa tình dục và thực tế đến mức đáng sợ”. 

Đơn kiện cũng cho biết Sewell Setzer đã bày tỏ ý định tự tử với chatbot, và chatbot đã liên tục nhắc lại ý định này.

chatbot characterai bi kien vi khien cau be 14 tuoi tu tu hinh 1

Ảnh minh họa: Reuters

Vụ kiện cũng nhắm vào Google, nơi những người sáng lập Character.AI đã làm việc trước khi ra mắt chatbot. Bà Garcia cho biết Google đã đóng góp rất nhiều vào quá trình phát triển công nghệ Character.AI đến mức có thể coi đây là “đồng sáng tạo”. 

Người phát ngôn của Google cho biết công ty không tham gia vào việc phát triển các sản phẩm của Character.AI.

Character.AI cho phép người dùng tạo các nhân vật để có thể trò chuyện trực tuyến như người thật. Sản phẩm dựa trên công nghệ mô hình ngôn ngữ lớn, tương tự các dịch vụ như ChatGPT, “đào tạo” chatbot trên khối lượng lớn văn bản.

Theo đơn kiện của bà Garcia, Sewell bắt đầu sử dụng Character.AI vào tháng 4/2023 và nhanh chóng trở nên “khép kín, dành nhiều thời gian ở một mình trong phòng ngủ và bắt đầu có lòng tự trọng thấp”. Cậu bé đã rời đội bóng rổ ở trường.

Suốt thời gian đó, Sewell đã gắn bó với “Daenerys”, nhân vật chatbot dựa trên nhân vật trong “Game of Thrones”. Theo đơn kiện, chatbot nói với Sewell rằng “cô” yêu cậu bé. Chatbot cũng tham gia vào các cuộc trò chuyện tình dục với Sewell.

Vào tháng 2, bà Garcia đã lấy điện thoại của Sewell sau khi cậu bé gặp rắc rối ở trường. Khi Sewell tìm thấy điện thoại, cậu đã gửi cho “Daenerys” một tin nhắn: “Nếu tôi nói rằng tôi có thể về nhà ngay bây giờ thì sao?”.

Chatbot trả lời, “…xin hãy làm vậy đi, đức vua ngọt ngào của tôi”. Sewell đã tự bắn mình bằng khẩu súng lục của cha dượng vài giây sau đó.

Bà Garcia đang đưa ra các khiếu nại với Character.AI bao gồm làm chết oan, hành vi bất cẩn và cố ý gây ra đau khổ về mặt tinh thần, đồng thời yêu cầu trừng phạt và một khoản tiền bồi thường.

“Chúng tôi vô cùng đau buồn trước sự mất mát đau thương của một trong những người dùng của mình. Chúng tôi muốn bày tỏ lời chia buồn sâu sắc nhất tới gia đình”, Character.AI cho biết trong một tuyên bố.

Hoài Phương (theo Reuters)



Nguồn: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html

Cùng chủ đề

Google Maps được bổ sung thêm tính năng mới

Theo thông tin từ Android Police thì thay vì dữ liệu bị phân tán khắp giao diện như trước đây thì bản cập nhật mới sẽ tập hợp tất cả dữ liệu liên quan vào một trang duy nhất, từ đó giúp người dùng dễ dàng tiếp cận. Theo đó, để tìm hiểu các thông tin như tình trạng chỗ đậu xe, người dùng trước đây phải nhấp vào biểu tượng "ba dấu chấm dọc" trong ứng dụng. Tuy...

Nổi bật

Mới nhất

Cùng tác giả

Khai mạc du lịch Cát Bà

(CLO) Chiều 30/3 tại Quần đảo Cát Bà - Di sản thiên nhiên thế giới, huyện Cát Hải tổ chức Khai mạc du lịch Cát Bà năm 2025 và Giải Marathon Cát Bà Amatina 2025 - Heritage Road (Sải bước trên miền di sản). ...

Tổng thống lâm thời Syria công bố thành lập chính phủ chuyển tiếp

(CLO) Ngày 29/3, Tổng thống lâm thời Syria Ahmed al-Sharaa đã công bố chính phủ chuyển tiếp với 23 bộ trưởng, đánh dấu giai đoạn mới sau khi chế độ của Bashar al-Assad sụp đổ vào tháng 12 năm ngoái. ...

Houthi tấn công tàu sân bay Mỹ ba lần trong 24 giờ

(CLO) Trong vòng 24 giờ qua, lực lượng vũ trang Houthi tại Yemen đã ba lần tấn công nhóm tàu chiến do tàu sân bay USS Harry S. Truman của Mỹ dẫn đầu tại Biển Đỏ. ...

Mùi tử khí và cảnh tượng hoang tàn khắp khu vực động đất ở Myanmar

(CLO) Mùi tử khí nồng nặc lan khắp đường phố Mandalay, Myanmar vào ngày 30/3 khi người dân tuyệt vọng tìm kiếm người sống sót giữa đống đổ nát, hai ngày sau trận động đất khiến hơn 1.600 người thiệt mạng. ...

Nét văn hóa truyền thống độc đáo có tại Lễ hội điện Huệ Nam

(CLO) Sáng ngày 30/3, Lễ hội truyền thống điện Huệ Nam (tên dân gian là điện Hòn Chén) được tổ chức tại địa điểm chính là điện Huệ Nam tọa lạc tại làng Hải Cát, phường Long Hồ, thành phố Huế. ...

Bài đọc nhiều

Đưa quan hệ Việt Nam – Trung Quốc ngày càng thực chất, hiệu quả hơn

VOV.VN - Hướng tới dấu mốc quan trọng năm 2025, dịp kỷ niệm 75 năm thiết lập quan hệ ngoại giao Việt Nam - Trung Quốc, hai bên khẳng định nỗ lực phấn đấu thúc đẩy, đưa quan hệ song phương lên tầm cao mới, ngày càng thực chất, hiệu quả hơn. Hoạt động đối ngoại đặc biệt quan trọng  Chuyến thăm cấp Nhà nước đến Trung Quốc là chuyến công tác nước ngoài đầu tiên của Tổng Bí thư, Chủ...

Việt Nam vẫn có 6 tỉ phú USD, những vị nào năm qua gia tăng tài sản?

Năm 2024 đã khép lại, Việt Nam vẫn duy trì 6 cái tên trong bảng xếp hạng tỉ phú USD, theo dữ liệu cập nhật trên Forbes. Trong đó, có tỉ phú tăng thêm tài sản ròng, ngược lại có những đại gia bị suy giảm tài sản. Ông Phạm Nhật Vượng - tỉ phú giàu nhất Việt Nam - xuất hiện cùng hai con trai tại lễ trao giải thưởng VinFuture - Ảnh: NGUYỄN KHÁNH Theo dữ liệu trên Forbes, 6 tỉ...

Hà Nội tiếp tục tăng nhiệt đến 28 độ, rồi lại đón không khí lạnh mạnh

Miền Bắc tiếp tục có nắng và tăng nhiệt nhanh cho đến đầu tuần tới (3/3), với mức cao nhất ở Hà Nội là 28 độ; sau đó lại đón không khí lạnh mạnh vào khoảng 4-5/3, gây mưa 2-3 ngày và trời rét kéo dài. Theo Trung tâm Dự báo khí tượng thủy văn quốc gia, trong 1-2 ngày tới, Bắc Bộ và Bắc Trung Bộ có mưa vài nơi, sáng sớm có sương mù và sương mù nhẹ...

Hội Nhà báo tỉnh Gia Lai ra mắt Câu lạc bộ Nhà báo cao tuổi

Thành viên CLB Nhà báo cao tuổi tỉnh Gia Lai là những hội viên Hội Nhà báo Việt Nam công tác tại các cơ quan báo chí, các sở, ngành địa phương đã nghỉ hưu tự nguyện tham gia CLB. Ngoài ra, theo quy chế tổ chức và hoạt động, những nhà báo cao...

Còn khó khăn, vướng mắc trong triển khai 3 Chương trình mục tiêu quốc gia

Theo báo cáo của Chính phủ do Bộ trưởng Bộ Kế hoạch và Đầu tư Nguyễn Chí Dũng trình bày, công tác chỉ đạo, điều hành thực hiện các chương trình mục tiêu quốc gia luôn là nhiệm vụ trọng tâm, thường kỳ của Chính phủ...

Cùng chuyên mục

Gọn trong bộ máy, rộng trong kết nối

Sáp nhập xã, phường đã và đang mang lại những lợi ích cốt lõi, nổi bật như tinh gọn bộ máy quản lý và tăng cường kết nối cộng đồng dân cư. Sáp nhập các đơn vị hành chính cấp xã, phường là một giải pháp quan trọng trong công cuộc cải tổ bộ máy hành chính hiện nay, nhằm tái cấu trúc tổ chức, tinh gọn bộ máy, nâng cao hiệu quả quản lý và...

Cú hích chiến lược làm thay đổi diện mạo vùng đồng bào dân tộc thiểu số: Những trụ cột phát triển bền vững –...

Chương trình mục tiêu quốc gia phát triển kinh tế – xã hội vùng đồng bào dân tộc thiểu số và miền núi đã đi gần hết chặng đường 5 năm của giai đoạn I. Với những kết quả đã đạt được, đây không chỉ là chương trình giảm nghèo đơn thuần, mà còn là chiến lược toàn diện với mục tiêu thu hẹp khoảng cách phát triển giữa các vùng miền, tạo ra những đột phá rõ nét...

Tuyên Quang: Ưu tiên đầu tư hạ tầng thiết yếu cho vùng khó

Xác định công trình thiết yếu được đầu tư sẽ là động lực giúp người dân vùng khó khăn phát triển kinh tế, xã hội, nhiều năm qua tỉnh Tuyên Quang đã luôn tập trung nguồn lực, ưu tiên đầu tư hạ tầng thiết yếu cho vùng khó. Qua đó, tạo động lực cho vùng khó phát triển, đời sống Nhân dân ngày càng được cải thiện, tỷ lệ hộ nghèo giảm dần qua các năm.Sáng 3/4, tại Hà...

Lại xảy ra động đất ở Kon Tum

Ngày 30/3, Trung tâm báo tin động đất và cảnh báo sóng thần - Viện Vật lý địa cầu cho biết đang theo dõi một trận động đất xảy ra tại vùng núi Kon Tum có độ lớn 3,3 độ Richter. ...

Xe mất phanh trước tai nạn?

(NLĐO) - Vụ xe khách rơi vực đèo Bảo Lộc đến hiện tại xác định 1 người chết và 3 người bị thương nặng. ...

Mới nhất

Gọn trong bộ máy, rộng trong kết nối

Sáp nhập xã, phường đã và đang mang lại những lợi ích cốt lõi, nổi bật như tinh gọn bộ máy quản lý và tăng cường kết nối cộng đồng dân cư. Sáp nhập các đơn vị hành chính cấp xã, phường là một giải pháp quan trọng trong công cuộc cải tổ bộ máy hành...

Cắt bỏ thận do chủ quan khi mắc sỏi niệu quản

Bệnh viện Đa khoa Hà Nội vừa tiến hành phẫu thuật cắt bỏ thận phải cho một bệnh nhân 40 tuổi do biến chứng của sỏi niệu quản. Trước đó, bệnh nhân đã chủ quan, không điều trị kịp thời, dẫn đến mất chức năng thận. ...

Nhà đầu tư cam kết thực hiện, theo đuổi các dự án

Tròn 1 năm sau ký kết bản ghi nhớ đầu tư về dự án điện gió hơn 5.000 tỷ đồng tại huyện Vân Canh, Tập đoàn Nexif Ratch Energy đã tiến hành đo gió, đang xúc tiến các thủ tục để đấu thầu dự án. Bình Định: Nhà đầu tư cam kết thực hiện, theo đuổi các dự ánTròn 1...

Biến chứng đáng sợ của men gan thấp nếu không được điều trị đúng

GĐXH - Men gan thấp nếu không được điều trị kịp thời có thể gây suy dinh dưỡng, suy gan, rối loạn chuyển hóa và tăng nguy cơ nhiễm trùng. ...

Kiến trúc đô thị Đà Nẵng từ góc nhìn các dự án bất động sản

Kiến trúc đô thị Đà Nẵng đang phát triển mạnh mẽ theo hướng hiện đại, thông minh, xanh và bền vững. Trong đó, các dự án bất động sản lớn đóng vai trò quan trọng trong việc dẫn dắt, định hướng, định hình hệ thống kiến trúc, góp phần tạo ra một diện mạo hiện đại cho đô thị...

Mới nhất