DNVN – Khi AI ngày càng hiện diện sâu sắc trong cuộc sống hiện đại, công cụ Whisper từ OpenAI đã thu hút sự chú ý nhờ khả năng ghi chép tự động với độ chính xác gần như đạt mức “chuẩn mực con người”.
Tuy vậy, giữa những lời khen ngợi, Whisper cũng đối diện với
các chỉ trích gay gắt do một hạn chế lớn: khả năng tự tạo ra thông tin, tức là
có thể sản sinh ra những đoạn văn bản hoặc phát ngôn mà chưa từng có ai thực sự
đưa ra.
Theo các nhà phát triển phần mềm và chuyên gia nghiên cứu,
các chi tiết không có thực này không chỉ gây nhầm lẫn mà còn có thể chứa nội
dung phân biệt chủng tộc, ngôn ngữ bạo lực và những lời khuyên y tế không chính
xác. Mặc dù OpenAI đã khuyến cáo không nên dùng Whisper trong các “lĩnh vực
có nguy cơ cao”, nhưng nhiều tổ chức y tế vẫn sử dụng nó để ghi lại các buổi
tư vấn giữa bác sĩ và bệnh nhân.
Nghiên cứu mới đây chỉ ra rằng có đến 80% bản ghi âm trong một
khảo sát các cuộc họp công khai đều có chứa những chi tiết hư cấu. Một kỹ sư học
máy cũng chỉ ra rằng kết quả phân tích từ hơn 100 giờ ghi chép của Whisper cho
thấy khoảng 50% trong số đó chứa sai sót nghiêm trọng, gây ra các mối lo ngại về
độ tin cậy của công nghệ này.
Chuyên gia nhận định các lỗi này có thể dẫn tới “hệ lụy thực
sự nghiêm trọng”, nhất là trong y tế. Bà Alondra Nelson – nguyên Giám đốc Văn
phòng Chính sách Khoa học và Công nghệ Nhà Trắng – nhấn mạnh rằng không ai muốn
gặp phải một chẩn đoán sai, đồng thời cho rằng cần đặt ra các tiêu chuẩn cao
hơn khi ứng dụng công nghệ này.
Việc Whisper được sử dụng để tạo phụ đề cho người khiếm
thính cũng gặp nhiều trở ngại, bởi họ khó có thể phát hiện được những sai lệch
tiềm ẩn trong hàng triệu từ ngữ được tạo ra.
Sự gia tăng của các đoạn văn bản hư cấu đã khiến nhiều
chuyên gia, nhà hoạt động và cựu nhân viên của OpenAI kêu gọi chính phủ liên
bang nghiên cứu quy định chặt chẽ hơn đối với AI. Kỹ sư nghiên cứu William
Saunders tại San Francisco tin tưởng rằng vấn đề này có thể khắc phục nếu
OpenAI chú trọng hơn vào việc xử lý các lỗi hư cấu.
OpenAI thừa nhận rằng họ vẫn đang nỗ lực cải thiện để giảm
thiểu những sai sót và đánh giá cao những ý kiến phản hồi từ cộng đồng nghiên cứu.
Dẫu vậy, nhiều kỹ sư cho rằng chưa từng có công cụ AI nào với mức độ hư cấu cao
như Whisper.
Cao Thông (t/h)
Nguồn: https://doanhnghiepvn.vn/cong-nghe/cong-cu-ghi-chep-tu-dong-whisper-cua-openai-va-mat-trai-tiem-an/20241029081421481
