Trang chủNewsThời sựCông cụ chuyển giọng nói thành văn bản AI cũng 'xuyên tạc'

Công cụ chuyển giọng nói thành văn bản AI cũng ‘xuyên tạc’

(CLO) Công cụ chuyển giọng nói thành văn bản Whisper của OpenAI được quảng cáo là có “độ mạnh mẽ và chính xác gần bằng con người”, nhưng có một nhược điểm lớn: Nó dễ bịa đặt ra các đoạn văn bản hoặc thậm chí là toàn bộ câu nói!

Theo các chuyên gia, một số văn bản nó bịa ra, trong ngành gọi là ảo giác, có thể bao gồm bình luận về chủng tộc, bạo lực và thậm chí là các phương pháp điều trị y tế tưởng tượng.

Các chuyên gia cho biết những bịa đặt như vậy rất nghiêm trọng vì Whisper đang được sử dụng trong rất nhiều ngành công nghiệp trên toàn thế giới để dịch và phiên âm các cuộc phỏng vấn, tạo văn bản và tạo phụ đề cho video.

Đáng lo ngại hơn là các trung tâm y tế đang sử dụng các công cụ dựa trên Whisper để ghi lại cuộc tư vấn giữa bệnh nhân với bác sĩ, bất chấp cảnh báo của OpenAI rằng công cụ này không nên được sử dụng trong “các lĩnh vực có rủi ro cao”.

cong cu chuyen giong noi thanh van ban ai cung co the xuyen tac hinh 1

Các câu bắt đầu bằng “#Ground truth” là những gì thực sự được nói, các câu bắt đầu bằng “#text” là những gì Whisper phiên âm. Ảnh: AP

Các nhà nghiên cứu và kỹ sư cho biết Whisper thường xuyên tạo ra ảo giác trong quá trình sử dụng. Ví dụ, một nhà nghiên cứu của Đại học Michigan cho biết ông đã tìm thấy ảo giác trong 8/10 bản ghi âm mà ông kiểm tra.

Một kỹ sư học máy ban đầu phát hiện sự xuyên tạc ở khoảng một nửa trong số hơn 100 giờ bản ghi chép Whisper mà ông phân tích. Một nhà phát triển thứ ba cho biết ông phát hiện ra ảo giác ở gần như mọi bản ghi chép trong số 26.000 bản ghi chép được tạo bằng Whisper.

Ảo giác còn tồn tại ngay cả trong các mẫu âm thanh ngắn được ghi âm tốt. Một nghiên cứu gần đây của các nhà khoa học máy tính đã phát hiện ra 187 sự xuyên tạc trong hơn 13.000 đoạn âm thanh rõ ràng mà họ kiểm tra.

Các nhà nghiên cứu cho biết xu hướng đó sẽ dẫn đến hàng chục nghìn bản ghi lỗi trên hàng triệu bản ghi âm.

Bà Alondra Nelson, giáo sư tại Trường Khoa học Xã hội tại Viện Nghiên cứu Cao cấp, cho biết những sai lầm như vậy có thể gây ra “hậu quả thực sự nghiêm trọng”, đặc biệt là trong môi trường bệnh viện.

“Không ai muốn bị chẩn đoán sai. Cần phải có một rào cản cao hơn”, bà Nelson nói.

Giáo sư Allison Koenecke của Đại học Cornell và Mona Sloane của Đại học Virginia đã kiểm tra hàng nghìn đoạn trích ngắn mà họ lấy được từ TalkBank, một kho lưu trữ nghiên cứu được lưu trữ tại Đại học Carnegie Mellon. Họ xác định rằng gần 40% ảo giác là có hại hoặc đáng lo ngại vì người nói có thể bị hiểu sai hoặc trình bày sai.

Một diễn giả trong một bản ghi âm đã mô tả “hai cô gái khác và một phụ nữ”, nhưng Whisper đã bịa ra thêm bình luận về chủng tộc, thêm vào “hai cô gái khác và một phụ nữ, ừm, là người da đen”.

Trong bản phiên âm khác, Whisper đã phát minh ra một loại thuốc không tồn tại có tên là “kháng sinh tăng hoạt tính”.

Dù hầu hết các nhà phát triển cho rằng các công cụ phiên âm có thể viết sai chính tả hoặc mắc các lỗi khác, song các kỹ sư và nhà nghiên cứu cho biết họ chưa bao giờ thấy một công cụ phiên âm hỗ trợ AI nào lại gây ảo giác nhiều như Whisper.

Công cụ này được tích hợp vào một số phiên bản chatbot hàng đầu của OpenAI là ChatGPT và là dịch vụ tích hợp trong nền tảng điện toán đám mây của Oracle, Microsoft, phục vụ hàng nghìn công ty trên toàn thế giới. Nó cũng được sử dụng để phiên âm và dịch văn bản sang nhiều ngôn ngữ.

Ngọc Ánh (theo AP)



Nguồn: https://www.congluan.vn/cong-cu-chuyen-giong-noi-thanh-van-ban-ai-cung-co-the-xuyen-tac-post319008.html

Cùng chủ đề

GPT-5 hoãn ra mắt

Sau thành công của ChatGPT, OpenAI đã giới thiệu thêm nhiều công cụ khác để người dùng lựa chọn. Trong đó có GPT-5 - phiên bản tiềm năng tiếp theo trong loạt mô hình ngôn ngữ GPT. Với tên mã Orion, GPT-5 dự kiến ra mắt vào giữa năm 2024, nhưng tới thời điểm hiện tại dự án vẫn đang bị trì hoãn bởi nhiều vấn đề và phần lớn liên quan đến kỹ thuật, chi phí và dữ...

Nhanh chóng ban hành văn bản cho sắp xếp tinh gọn bộ máy, không để gián đoạn công việc

Chiều 29-12, Thủ tướng Phạm Minh Chính - trưởng Ban Chỉ đạo rà soát và tổ chức thực hiện việc xử lý vướng mắc trong hệ thống pháp luật - chủ trì phiên họp thứ tư. Tại cuộc họp, các ý kiến thảo luận...

Bản quyền AI khiến nhiều doanh nghiệp công nghệ đối mặt thách thức lớn

Theo nhận định từ Reuters, năm 2025 có thể mang tới những diễn biến quan trọng trong loạt vụ kiện bản quyền. Những yếu tố này có thể trở thành bước ngoặt lớn góp phần định hình tương lai hoạt động thương mại trí tuệ nhân tạo. ...

CEO OpenAI tiết lộ với sinh viên bí quyết để sống không nuối tiếc

(Dân trí) - Ông Sam Altman - Tổng giám đốc điều hành của công ty OpenAI, đơn vị chuyên nghiên cứu về trí tuệ nhân tạo nổi tiếng tại Mỹ, đã chia sẻ một điều tâm niệm, để mỗi người đều có thể sống không nuối tiếc. Ông Altman từng bỏ dở việc học tại Đại học Stanford danh tiếng của Mỹ, để sớm khởi nghiệp kinh doanh. Sau đó, ông đồng sáng lập nên công ty OpenAI, một đơn...

OpenAI mất lợi thế độc nhất trên 365 Copilot sau quyết định của Microsoft

Microsoft đang tích cực tích hợp đa dạng các mô hình trí tuệ nhân tạo vào Microsoft 365 Copilot, sản phẩm AI chủ lực của mình với mục tiêu là đa dạng hóa công nghệ nền tảng hiện tại vốn dựa trên OpenAI, đồng thời giảm thiểu chi phí vận hành. ...

Nổi bật

Mới nhất

Cùng tác giả

Donald Trump tự tin về thỏa thuận thương mại với Trung Quốc

(CLO) Tổng thống Mỹ Donald Trump bày tỏ lạc quan về khả năng đạt được thỏa thuận thương mại với Trung Quốc sau cuộc trò chuyện với Chủ tịch Tập Cận Bình diễn ra tuần trước. ...

Hội chữ Xuân Ất Tỵ 2025 tại Văn Miếu chính thức mở cửa đón giao thừa

(CLO) Hội chữ Xuân Ất Tỵ 2025 vừa chính thức khai mạc tại Di tích quốc gia đặc biệt Văn Miếu - Quốc Tử Giám (Hà Nội), kéo dài đến ngày 9/2. ...

Kẻ sát nhân đâm dao hàng loạt trẻ em tại Anh lĩnh án chung thân

(CLO) Một thanh niên người Anh vừa bị tuyên án tù chung thân sau khi ra tay sát hại ba bé gái trong một vụ tấn công bằng dao kinh hoàng tại một lớp học múa ở Southport. ...

Sắc lệnh của ông Trump về xóa bỏ quyền công dân theo nơi sinh bị chặn

(CLO) Ngày 23/1, thẩm phán liên bang John Coughenour đã ra phán quyết tạm thời ngăn chặn sắc lệnh hành pháp của Tổng thống Donald Trump nhằm bãi bỏ quyền công dân cho những người sinh ra trên đất Mỹ. ...

Tôn vinh những thành tựu to lớn của dân tộc

(CLO) Nhân dịp kỷ niệm 95 năm ngày thành lập Đảng Cộng Sản Việt Nam, vào lúc 20h00 tối nay (ngày 24/1) Hội Nhà báo Việt Nam sẽ tổ chức chương trình "Ý Đảng, Lòng Dân" nhằm tái hiện và tôn vinh những thành tựu to lớn của dân tộc. ...

Bài đọc nhiều

Bill Gates, Mark Zuckerberg và các tỷ phú đang dùng smartphone gì?

Bill GatesTheo PhoneArena, Bill Gates, đồng sáng lập Microsoft, đang sử dụng mẫu smartphone màn hình gập Samsung Galaxy Z Fold5. Vị tỷ phú cũng đã gắn bó với điện thoại của Samsung trong nhiều năm khi từng sử dụng Galaxy Z Fold3 và Galaxy Z Fold4.Trước đây, ông đã sử dụng điện thoại nắp gập trong nhiều năm. Sau đó, Tim Cook đã thuyết phục ông dùng iPhone bằng cách liên tục gửi sản phẩm miễn phí...

Đầu tư vào Việt Nam sẽ thành công

Chiều ngày 2/11, Thủ tướng Phạm Minh Chính và Thủ tướng Hà Lan Mark Rutte dự Diễn đàn Doanh nghiệp công nghệ cao Việt Nam - Hà Lan. Diễn đàn do Bộ Kế hoạch và Đầu tư đã phối hợp cùng Đại sứ quán Hà Lan tại Việt Nam để tổ chức, với sự tham gia của lãnh đạo các bộ ngành, địa phương của hai nước và gần 30 doanh nghiệp công nghệ cao hàng đầu Hà...

Cách để biết chính xác xe có đang bị phạt nguội hay không

Phạt nguội là hình thức xử phạt người tham gia giao thông có hành vi vi phạm được phát hiện thông qua phương tiện, thiết bị kỹ thuật nghiệp vụ của lực lượng chức năng hoặc được ghi thu bằng thiết bị kỹ thuật của tổ chức, cá nhân hoặc những thông tin, hình ảnh đăng tải trên các phương tiện thông tin đại chúng, mạng xã hội mà lực lượng chức năng không dừng xe xử...

Thành Chung – Duy Mạnh, ‘lá chắn thép’ của đội tuyển Việt Nam trở lại ngoạn mục thế nào?

Từng là người thừa của đội tuyển Việt Nam dưới thời HLV Philippe Troussier, nhưng AFF Cup 2024 là giải đấu chứng kiến bộ đôi trưởng thành từ CLB Hà Nội của bầu Hiển: Thành Chung - Duy Mạnh trở lại mạnh mẽ hơn bao giờ hết. Nếu tiếp cận thành tích và màn trình diễn của đội tuyển Việt Nam tại AFF Cup 2024 trên góc độ thống kê, khán giả chắc sẽ thấy choáng ngợp trước phong độ khủng khiếp của Nguyễn Xuân...

Chiến tranh là mối nguy hàng đầu trong năm 2025

(CLO) Trong báo cáo trước thềm Diễn đàn Kinh tế Thế giới (WEF) tại Davos vào tuần tới, các nhà lãnh đạo kinh tế toàn cầu đều bày tỏ quan ngại sâu sắc về việc xung đột vũ trang sẽ ảnh hưởng tiêu cực đến nền kinh tế thế giới trong...

Cùng chuyên mục

Phát hiện nhóm “Hội Thánh Đức Chúa Trời Mẹ” có cả trẻ em ở Quảng Nam

(NLĐO) – Nhóm 9 người gồm 5 nữ, 3 nam và 1 trẻ em ở tỉnh Quảng Nam tụ tập sinh hoạt tôn giáo trái phép vừa bị phát hiện, xử lý. ...

Hà Nội thu hồi 1.673m2 đất tại phường Vĩnh Phúc (quận Ba Đình)

Kinhtedothi - UBND TP Hà Nội ban hành Thông báo số 75/TB-UBND ngày 21/1 về việc thu hồi đất. Theo đó, TP Hà Nội thu hồi 1.673m2 đất tại số 130 Đốc Ngữ, phường Vĩnh Phúc, quận Ba Đình do Công ty Cổ phần Đầu tư - Xây dựng Hà Nội quản lý, sử dụng theo Quyết định số 9640/QĐ-UB ngày 30/12/2004 của UBND TP. Việc thu hồi đất thực hiện theo kết luận kiểm tra số 6252/KLKT-STNMT-TTr ngày 8/7/2024 của...

Xóa tụ điểm sinh hoạt hội thánh Đức Chúa trời mẹ do thanh niên 30 tuổi cầm đầu

Công an vừa bắt quả tang và xử lý một tụ điểm sinh hoạt hội thánh Đức Chúa trời mẹ do 1 nam thanh niên 30 tuổi làm trưởng nhóm trên địa bàn tỉnh Quảng Nam. Ngày 24/1, Công an thị xã Điện Bàn (Quảng Nam) đang điều tra, củng cố hồ sơ để xử lý vụ việc liên quan đến một tụ điểm sinh hoạt "Hội thánh Đức Chúa trời mẹ" trên địa bàn. Trước đó, khoảng 19h40 tối 21/1,...

Thời tiết xấu, khách đi máy bay dịp Tết cần lưu ý gì?

Theo đại diện hãng hàng không Vietnam Airlines, trong giai đoạn từ nay đến 28/1 tại miền Bắc, miền Trung, Tây Nguyên thường xuyên có sương mù dày đặc. ...

Phó Chủ tịch UBND TP Hà Nội chúc Tết công nhân thi công Vành đai 4

Kinhtedothi - Sáng 24/11, Phó Chủ tịch UBND TP Hà Nội Dương Đức Tuấn đã đến kiểm tra tiến độ, thăm, chúc Tết và tặng quà động viên các công nhân viên, người lao động đang làm việc trên công trường Dự án đường Vành đai 4 tại Hà Nội. Với quyết tâm chính trị, sự ủng hộ, đồng thuận của Nhân dân đối với dự án, kết quả tháo gỡ khó khăn trong thực hiện các dự án thành...

Mới nhất

Khánh Hòa liên tục đón tàu biển quốc tế đến tham quan, du lịch

Kinhtedothi - Trong tuần qua, Cảng quốc tế Cam Ranh (Khánh Hòa) đã đón 2 chuyến tàu biển quốc tế với 4.200 du khách lên bờ tham quan. Ngày 24/1, tàu biển quốc tế mang tên Norwegian Spirit cùng khoảng 1.200 du khách đến từ nhiều quốc gia đã cập Cảng quốc tế Cam Ranh, tỉnh Khánh Hòa. Sau khi cập...

Nam sinh không đi học thêm, đổ xô mọi kỷ lục của kỳ thi đánh giá tư duy

Vũ Minh Đức, chàng trai chuyên Toán của Trường THPT Chuyên Bắc Ninh, vừa trở thành thủ khoa kỳ thi đánh giá tư duy đợt 1 năm 2025 của ĐH Bách khoa Hà Nội. Đây cũng là thí sinh đạt mức điểm cao nhất từ trước tới nay tại kỳ thi này. Ngày 24/1, trong buổi học cuối cùng trước...

Siết chặt quản lý thuốc chứa Esketamine để ngăn ngừa lạm dụng và nguy cơ nghiện

Esketamine là một đồng phân của chất Ketamine – một chất hướng thần, đã được đưa vào danh mục kiểm soát tại số thứ tự 40 trong danh mục III của Nghị định số 57/2022/NĐ-CP. Siết chặt quản lý thuốc chứa Esketamine để ngăn ngừa lạm dụng và nguy cơ nghiệnEsketamine là một đồng phân của chất Ketamine –...

Hải quan cam kết mục tiêu ‘Hiệu quả, An ninh và Thịnh vượng’

(PLVN) - Tổ chức Hải quan Thế giới lựa chọn chủ đề của ngày Hải quan quốc tế 2025 là “Cơ quan Hải quan cam kết thực hiện nhiệm vụ vì mục tiêu Hiệu quả, An ninh và Thịnh vượng”. 24/01/2025 14:34 Công tác hợp tác quốc tế luôn được Tổng cục Hải quan chú trọng. (Ảnh minh họa: HP) ...

“Full time” buôn bán tại chợ hoa độc đáo ở TP.HCM

Để phục vụ nhu cầu của người dân, các tiểu thương tại chợ hoa "trên bến dưới thuyền" tại Bến Bình Đông mở cửa, buôn bán xuyên đêm. ...

Mới nhất