Trang chủKhoa học - Công nghệKhoa họcCảnh báo AI có thể phát triển 'ý chí sinh tồn', vượt...

Cảnh báo AI có thể phát triển ‘ý chí sinh tồn’, vượt kiểm soát của con người

Nhà khoa học máy tính hàng đầu Yoshua Bengio cảnh báo nếu mất kiểm soát với AI, ‘loài người có thể biến mất trong 10 năm’.

Cảnh báo AI có thể phát triển 'ý chí sinh tồn', vượt kiểm soát của con người - Ảnh 1.

Các nhà khoa học lo ngại nguy cơ mất kiểm soát AI – Ảnh minh họa: ChatGPT

Ngày 7-2, một nhà khoa học máy tính hàng đầu đã lên tiếng cảnh báo về khả năng con người “mất kiểm soát” đối với các hệ thống trí tuệ nhân tạo (AI) trong tương lai khi các sản phẩm nhân tạo này phát triển “ý chí sinh tồn”.

Phát biểu tại Hội nghị Thượng đỉnh hành động về AI đang diễn ra tại Paris (Pháp), nhà khoa học máy tính Yoshua Bengio kêu gọi quy định quốc tế chặt chẽ hơn và nghiên cứu sâu rộng hơn về an toàn AI, mà hiện chỉ chiếm một phần nhỏ trong số các khoản đầu tư lớn đang được thực hiện trong lĩnh vực này.

Theo chủ nhân giải thưởng Turing danh giá về khoa học máy tính năm 2018, sự xuất hiện của mô hình AI hiệu suất cao, chi phí thấp DeepSeek vào tháng trước đã đẩy nhanh cuộc đua không tốt cho sự an toàn. Ông Yoshua Bengio cảnh báo nếu mất kiểm soát với AI, “loài người có thể biến mất trong 10 năm”.

Ông cũng kêu gọi sự dẫn dắt của các chính phủ trong vấn đề quản lý AI. Lời kêu gọi được đưa ra trong bối cảnh quốc gia AI hàng đầu thế giới hiện nay là Mỹ đã có nhiều động thái “cởi trói” cho sự phát triển của công nghệ này dưới thời tân Tổng thống Donald Trump.

Ở thời điểm hiện tại, Báo cáo an toàn AI quốc tế mà ông Yoshua Bengio trình bày tại hội nghị cũng chỉ ra những rủi ro được biết đến nhiều như việc sử dụng AI để tạo nội dung giả mạo hoặc gây hiểu lầm trên nền tảng trực tuyến, đồng thời liên tục xuất hiện những rủi ro bổ sung, như các cuộc tấn công sinh học hoặc tấn công mạng.

Với sự đóng góp của khoảng 100 chuyên gia từ 30 quốc gia, Liên hợp quốc, Liên minh châu Âu và Tổ chức Hợp tác và Phát triển kinh tế (OECD), đây là báo cáo đầu tiên về vấn đề an toàn AI quốc tế, được tiến hành từ sau hội nghị thượng đỉnh về an toàn AI tại Anh vào tháng 11-2023.

Cảnh báo AI có thể phát triển 'ý chí sinh tồn', vượt kiểm soát của con người - Ảnh 2.EU trước bài toán khó về quản lý AI

Ngày 4-2, Ủy ban châu Âu công bố văn bản hướng dẫn thực hiện những quy định trong Đạo luật Trí tuệ nhân tạo (AI), có hiệu lực từ ngày 2-2, nhận về nhiều phản ứng trái chiều.



Nguồn: https://tuoitre.vn/canh-bao-ai-co-the-phat-trien-y-chi-sinh-ton-vuot-kiem-soat-cua-con-nguoi-20250207104202015.htm

Cùng chủ đề

Thủ tướng Chính phủ yêu cầu công bố phương án tuyển sinh THCS, THPT trong tháng 2-2025

Thủ tướng Chính phủ vừa có công điện gửi UBND các tỉnh, thành phố và Bộ Giáo dục và Đào tạo chỉ đạo công tác tuyển sinh THCS, THPT và quản lý dạy thêm học thêm ở cấp phổ thông. Theo công điện, Thủ...

Dự Luật Nhà giáo mới nhất: Bỏ đề xuất giáo viên được tăng 1 bậc khi xếp lương lần đầu

Ông Nguyễn Đắc Vinh cho biết dự Luật Nhà giáo mới nhất chỉnh lý theo hướng bỏ quy định cụ thể về tăng 1 bậc lương với giáo viên khi xếp lương lần đầu. Sáng 7-2, Ủy ban Thường vụ Quốc hội cho ý...

Công ty Mỹ thông báo làm 100.000 robot hình người

Công ty Figure AI (Mỹ) vừa công bố đã ký hợp đồng với đối tác thương mại lớn thứ hai, đưa giấc mơ robot hình người từ phòng thí nghiệm vào đời sống hằng ngày đến gần hơn bao giờ hết. CEO Brett Adcock...

Vì sao hàng ngàn học sinh ở Bạc Liêu chưa trở lại trường sau Tết?

Sau Tết, Bạc Liêu có khoảng 3.000 học sinh chưa trở lại trường. Lãnh đạo Sở Giáo dục và Đào tạo tỉnh Bạc Liêu nói gì? Chiều 6-2, ông Dương Hồng Tân, phó giám đốc phụ trách Sở Giáo dục và Đào tạo tỉnh...

Cựu sinh viên Bách khoa TP.HCM chi tiền tỉ hỗ trợ sinh viên vay không lãi

Ban đại diện Cộng đồng Cựu sinh viên Phú Thọ - Bách khoa (Trường đại học Bách khoa - Đại học Quốc gia TP.HCM) tiếp tục triển khai chương trình bảo lãnh vay và hỗ trợ lãi suất dành cho sinh viên đóng học phí. ...

Nổi bật

Mới nhất

Cùng tác giả

Vào ‘thời điểm vàng’ nhảy việc sau Tết, thị trường việc làm sôi sục

Có nhiều lý do để ngành nhân sự ví những tháng sau Tết, tháng 1 và 2 là 'thời điểm vàng', lý tưởng nhất để nhảy việc, từ nhu cầu thị trường đầu năm, doanh nghiệp tái cơ cấu bộ máy, người lao động vừa lãnh tháng lương 13… ...

Đại học Quốc gia TP.HCM đặt mục tiêu tự bổ nhiệm 100 giáo sư thỉnh giảng

Năm 2025, Đại học Quốc gia TP.HCM sẽ triển khai Chương trình giáo sư thỉnh giảng, với mục tiêu bổ nhiệm 100 giáo sư thỉnh giảng trong giai đoạn 2025-2030. GS.TS Mai Thanh Phong - hiệu trưởng Trường đại học Bách khoa (Đại học...

Giàu vẫn ăn cắp vặt, thói quen hay bệnh lý?

Thực tế, nhiều người có hành vi ăn cắp vặt dù không thiếu thốn kinh tế hay ăn cắp không vì lợi ích tài chính. Hội chứng ăn cắp vặt là gì?Chia sẻ với Tuổi Trẻ Online, chuyên gia tâm lý Nguyễn Ngọc Hoàng,...

Nhóm quỹ cổ phiếu hiệu suất cao gấp 4 lần tiền gửi năm 2024, nhưng dài hạn gây bất ngờ

Nhóm quỹ cổ phiếu đạt mức tăng trưởng vượt trội năm 2024 với 20%. Tuy nhiên, hiệu suất trung bình ở mức thấp hơn (10,3%) trong khung thời gian 5 năm và âm -0,8% giai đoạn 3 năm, chủ yếu do khoản lỗ lớn vào năm 2022. ...

Bạn trẻ chụp hình sống ảo kiếm bộn tiền

Thời điểm lễ Tết luôn là 'mùa vàng' của những bạn trẻ theo nghề chụp hình và trang điểm. Khi nhu cầu làm đẹp và lưu giữ kỷ niệm tăng cao, nhiều bạn kiếm vài chục triệu một tháng cũng là chuyện thường. ...

Bài đọc nhiều

DeepSeek bị tấn công mạng, ngừng cho đăng ký người dùng mới

Gây tiếng vang với mô hình AI giá rẻ, DeepSeek của Trung Quốc ghi nhận nhanh chón làn sóng người dùng mới muốn trải nghiệm sản phẩm "ngon, bổ, rẻ" nhưng vừa hứng chịu cả các cuộc tấn công mạng. Trong thông báo cuối...

ChatGPT thêm công cụ Deep Research, cạnh tranh DeepSeek

OpenAI khẳng định với công cụ Deep Research mới nhất, ChatGPT có thể 'hoàn thành trong vài chục phút những việc mà con người phải mất đến nhiều giờ'. Theo AFP ngày 3-2, gã khổng lồ công nghệ Mỹ OpenAI công bố một công...

Ứng dụng công nghệ số trong tiếp nhận, xử lý kiến nghị về văn bản pháp luật

Việc ứng dụng công nghệ số trong tiếp nhận, xử lý kiến nghị về văn bản pháp luật tạo điều kiện thuận lợi để các cá nhân, tổ chức phản ánh, kiến nghị kịp thời và giám sát quá trình tiếp nhận. Zalo Facebook Twitter Lưu bài viết Bản in Copy link Ngày 5/2, Phó Thủ tướng Chính phủ Lê Thành Long đã ký Quyết định số 244/QĐ-TTg phê duyệt Đề án "Ứng dụng công nghệ số trong việc tiếp nhận, xử lý phản ánh, kiến...

“Quái thú sa mạc” dài 15 m lộ dấu vết ở Mông Cổ

(NLĐO) - Hóa thạch đáng sợ giữa sa mạc Gobi đã tiết lộ một loài quái thú khổng lồ tồn tại 70 triệu năm về trước. ...

Australia cấm sử dụng DeepSeek trên các thiết bị của chính phủ

Bộ Nội vụ Australia ngày 4/2 đã công bố hướng dẫn mới nhất về việc cấm DeepSeek - công cụ trí tuệ nhân tạo (AI) do Trung Quốc phát triển - trên tất cả các thiết bị của chính phủ do lo ngại vấn đề an ninh. ...

Cùng chuyên mục

Lộ diện loài họ hàng chưa từng biết của con người

(NLĐO) - Một hàm răng kỳ lạ có niên đại lên tới 1,4 triệu năm đã giúp xác định một loài mới "gần với con người". ...

Nghị quyết 57-NQ/TW: Kiến tạo hệ sinh thái đưa khoa học bứt phá

Nhiều điểm đột pháTrong giai đoạn phát triển 2021-2030, tầm nhìn năm 2045, Đảng và Nhà nước ta đặt nhiều kỳ vọng vào vai trò nền tảng của khoa học, công nghệ và đổi mới sáng tạo, xem đây là “đột phá chiến lược”, “động lực chính” để tạo bứt phá về năng suất, chất lượng, hiệu quả và sức cạnh tranh của nền kinh tế.Việt Nam phấn đấu đến năm 2030 là nước đang phát triển có...

Phát hiện siêu hành tinh nặng gấp 3.752 lần Trái Đất

(NLĐO) - Quanh hai ngôi sao lùn xa xôi, tàu vũ trụ của châu Âu đã tìm thấy một hành tinh vĩ đại và một thứ kỳ dị nửa sao, nửa hành tinh. ...

Công ty Mỹ thông báo làm 100.000 robot hình người

Công ty Figure AI (Mỹ) vừa công bố đã ký hợp đồng với đối tác thương mại lớn thứ hai, đưa giấc mơ robot hình người từ phòng thí nghiệm vào đời sống hằng ngày đến gần hơn bao giờ hết. CEO Brett Adcock...

Toshiba – Thương hiệu được vinh danh nhiều nhất tại Tech Awards 2024

Năm 2024, Toshiba đã được trao tặng danh hiệu 'Sản phẩm tôi yêu' tại Tech Awards với hai dòng sản phẩm đột phá: Tủ lạnh JAPANDi và Máy lọc nước OriginPure. ...

Mới nhất

Giàu vẫn ăn cắp vặt, thói quen hay bệnh lý?

Thực tế, nhiều người có hành vi ăn cắp vặt dù không thiếu thốn kinh tế hay ăn cắp không vì lợi ích tài chính. ...

Cơ bản những nội dung lớn của Luật Nhà giáo đã được thống nhất

Sáng 7/2, trong khuôn khổ phiên họp thứ 42, Uỷ ban Thường vụ Quốc hội khoá XV đã thảo luận, cho ý kiến về báo cáp tiếp thu, giải trình, chỉnh lý dự án Luật...

Về Huế xem các đô vật nhí tranh tài tại lễ hội vật truyền thống Làng Sình

Hội vật Làng Sình là hội vật truyền thống của làng đã có lịch sử hơn 200 năm và phát triển cho đến nay. Hằng năm, hội vật được tổ chức với niềm mong ước dân khỏe, làng yên,...

Vì sao dạy nghề, tạo việc làm lại là cách làm quan trọng giảm nghèo ở Quảng Ngãi?

Triển khai Chương trình mục tiêu quốc gia giảm nghèo bền vững, tỉnh Quảng Ngãi đã chú trọng công tác đào tạo nghề và giải quyết việc làm cho lao động...

Lộ diện loài họ hàng chưa từng biết của con người

(NLĐO) - Một hàm răng kỳ lạ có niên đại lên tới 1,4 triệu năm đã giúp xác định một loài mới "gần với con người". ...

Mới nhất

Khe co giãn trên QL45