Trang chủKhoa học - Công nghệCông nghệ sốNguy cơ AI vượt tầm kiểm soát

Nguy cơ AI vượt tầm kiểm soát



Sự phát triển của AI mang lại cả tính tích cực lẫn tiêu cực. Và với sự xuất hiện của Sora, công nghệ sẽ trở nên nóng hơn bao giờ hết.

Sora – “bầu trời mới” của OpenAI

Soralà một bước tiến lớn củaOpenAIkhi cho phép chuyển thể từ văn bản thành hình ảnh với chất lượng đáng kinh ngạc.

Trong tiếng Nhật, “Sora” có nghĩa là bầu trời. Nhóm nghiên cứu đứng sau công nghệ này chọn tên Sora bởi nó gợi lên ý tưởng về tiềm năng sáng tạo không giới hạn.

Nguy cơ AI vượt tầm kiểm soát - Ảnh 1.

Sora có khả năng sáng tạo hoạt cảnh gồm nhiều nhân vật, chuyển động với bối cảnh chi tiết. Công cụ này không chỉ hiểu những gợi ý trong câu lệnh mà cả cách nó biểu hiện trong thực tế. Theo đánh giá, Sora có khả năng làm tăng tốc độ làm việc của các nhà làm phim, đồng thời thay thế hoàn toàn những kỹ sư đồ họa ít kinh nghiệm.

Sora không phải chương trình AI duy nhất chuyển thể thành công từ văn bản thành hình ảnh. Trong suốt 1 năm qua, đã có khá nhiều các phần mềm khác cũng chung một chức năng. Các sản phẩm do công nghệ AI tạo ra ngày càng hoàn thiện và giống như thật.

Công nghệ vượt trội đứng sau Sora

Để sản xuất ra các video trông như thật, Sora phải có khả năng hiểu được ngôn từ, các yêu cầu, mệnh lệnh của người dùng. Nhưng không chỉ dừng ở đó, Sora còn phải hiểu được quy tắc vật lý, mọi vật chuyển động như thế nào, ánh sáng, bóng tối sẽ thay đổi ra sao khi nhân vật đi lại, chuyển động.

 

Ví dụ, mệnh lệnh đặt ra là một cô gái đi giữa đường phố đêm ở Tokyo. Và sản phẩm mà Sora tạo ra khá hoàn hảo. Nếu không tinh mắt, ta sẽ không thể soi ra được những khuyết điểm nho nhỏ của video.

Video giống thực tế tới 99% với độ sinh động của những ánh đèn đường hắt bóng qua những vũng nước mưa dưới đất. Đây là những thứ không có trong mệnh lệnh mà tự AI hiểu được quy tắc vật lý của thế giới thực và tự vẽ ra.

Theo trang AI news, công nghệ phía sau Sora có một phần là GPT-4. Đây là một mô hình đa phương thức lớn có thể xử lý đầu vào văn bản và hình ảnh. GPT-4 cập nhật mô hình ngôn ngữ lớn của OpenAI, được đào tạo trên lượng lớn dữ liệu trực tuyến để tạo phản hồi phức tạp cho các truy vấn của người dùng.

Nguy cơ AI vượt tầm kiểm soát - Ảnh 2.

Phần còn lại của Sora là là mô hình khuếch tán, biến nhiễu tĩnh thành một video mạch lạc bằng cách giảm dần độ nhiễu đó qua nhiều bước. Sora cũng sử dụng công nghệ tương tự như Dalle-3: Biến văn bản thành hình ảnh, ở đây là những video giống thật đến khó tin.

 

AI sẽ tác động thế nào tới lĩnh vực sáng tạo?

Những người làm về mặt hình ảnh, quay phim, thiết kế đồ hoạ rất quan tâm tới sự phát triển của AI. Tại Hollywood, kinh đô điện ảnh thế giới, các chuyên gia đã đo đạc được tác động của AI.

Theo báo cáo, 21,4 % các nhà làm phim, truyền hình và hoạt hình tại Hollywood dự đoán sẽ bị thay thế bởi AI vào năm 2026.

Hè năm ngoái, Netflix đã bắt đầu tuyển dụng cho vị trí quản lý sản phẩm AI với mức lương ngất ngưởng, từ 300.000 – 900.000 USD, cao gấp hàng chục lần lương của một diễn viên bình thường không nổi tiếng.

Lo ngại về sự phát triển vượt tầm kiểm soát của AI

 

Xu hướngtrí tuệ nhân tạođược ví như một cơn sóng lớn. Nếu bạn học cách lướt sóng để luôn luôn đứng trên đầu ngọn sóng, khả năng cao là bạn và công việc, vị trí của bạn sẽ an toàn, thậm chí còn thăng hoa hơn.

Tuy nhiên, đi kèm với thời cơ luôn luôn có cả những nguy cơ. Những chương trình trí tuệ nhân tạo siêu việt này cũng gây ra những rủi ro. Và với sự phát triển vượt sức tưởng tượng của AI, những rủi ro này lại càng đáng quan ngại hơn.

Nguy cơ AI vượt tầm kiểm soát - Ảnh 3.

Theo Tiến sĩ Trần Văn Cảnh, nhà hoa khoc dữ liệu thuộc Khoa Công nghệ thông tin, trường Đại học Heidelberg, Đức, dù mô hình Sora hiện tại còn nhiều thiếu sót như nhầm lẫn bên trái và bên phải hoặc không duy trì được hình ảnh liên tục trong suốt thời lượng của video, tuy nhiên, nguy cơ Sora tạo ra thông tin sai lệch là hoàn toàn có thể, khiến việc xác định đâu là sự thật trên Internet càng trở nên khó khăn hơn.

 

“Với ứng dụng Sora, việc phân biệt tin thật giả là rất khó khăn vì các video do Sora tạo ra có tính chân thực rất cao. Bản thân OpenAI đang tìm ra các giải pháp hạn chế, tuy nhiên, chúng ta phải chấp nhận rằng, không có giải pháp nào triệt để cả. Sắp tới, ứng dụng sẽ cho phép người sử dụng cung cấp hình ảnh, văn bản để từ đó tạo ra video mới, như vậy các phát biểu của các nhân vật có ảnh hưởng trên thế giới có thể bị làm giả rất dễ dàng, gây ra hệ lụy lớn với công chúng” – Tiến sĩ Trần Văn Cảnh nhận định.

Trước Sora, OpenAI đã phát hành 2 sản phẩm, bao gồm ChatGPT có thể tạo văn bản giống như con người và công nghệ DALL-E tạo nên “Deepfake” – kỹ thuật sử dụng AI để tạo ra âm thanh, hình ảnh và video giả mạo. Rất nhiều người đã bị biến thành nạn nhân của Deepfake, từ Giáo hoàng, cựu Tổng thống Mỹ Donald Trump hay mới đây là vụ việc ngôi sao nhạc pop Taylor Swift bị ghép mặt để tạo ra hình ảnh khiêu dâm giả mạo.

“Trên thực tế, OpenAI là một công ty đi tiên phong trong công nghệ GenAI. Họ có một đội ngũ nhà khoa học rất xuất sắc. Kinh phí mà họ đầu tư vào cho các mô hình AI và nhân sự con người cũng như học máy là rất lớn nên các sản phẩm OpenAI tạo ra có độ chân thực rất cao” – Tiến sĩ Trần Văn Cảnh cho biết.

Điều này cho thấy, sự phát triển của AI mang lại cả tính tích cực lẫn tiêu cực trong dòng chảy không ngừng của Internet. Và với sự xuất hiện của Sora, dự báo cuộc đua công nghệ sẽ trở nên nóng hơn bao giờ hết. Hiện tại, các công ty công nghệ lớn như Meta, Google và Runway AI cũng đang nghiên cứu và phát triển công nghệ AI tạo video từ văn bản và đã công bố một số mô hình tương tự.


Theo VTV





Nguồn

Cùng chủ đề

Dự báo giá tiêu ngày mai 10/2/2025, trong nước tăng nhẹ

Dự báo giá tiêu ngày mai 10/2/2025, giá tiêu trực tuyến, giá tiêu Đắk Lắk, giá tiêu Đắk Nông, giá tiêu Bình Phước, giá tiêu Gia Lai, giá tiêu ngày 10/2. Dự báo giá tiêu ngày mai ​​​​​Dự báo giá tiêu trong nước ngày mai 10/2/2025 duy trì mức ổn định, tăng nhẹ và neo ở mức cao. Giá tiêu hôm nay được cập nhật chiều ngày 9/2/2025 như sau,...

Sẽ có 221 khu công nghiệp quy hoạch phát triển mới đến năm 2030

Theo quy hoạch đã được phê duyệt của 63 địa phương, Việt Nam đến năm 2030 sẽ có 221 khu công nghiệp (KCN) quy hoạch phát triển mới, 76 KCN phát triển mở rộng và 22 khu công nghiệp điều chỉnh quy hoạch.

Kiến nghị đầu tư 68 km cao tốc Dinh Bà

Tuyến cao tốc Dinh Bà - Cao Lãnh là một trong những phân đoạn của cao tốc Hồng Ngự - Trà Vinh là một trong ba tuyến cao tốc trục ngang trong khu vực Đồng bằng sông Cửu Long. Kiến nghị đầu tư 68 km cao tốc Dinh Bà - Cao Lãnh trị giá 22.000 tỷ đồngTuyến cao tốc Dinh Bà - Cao Lãnh là một trong những phân đoạn của cao tốc Hồng Ngự - Trà Vinh là một...

Dù trời giá rét, lễ khai hội Tây Yên Tử tỉnh Bắc Giang vẫn thu hút hàng chục nghìn người

Sáng 9/2, dù thời tiết Bắc Giang rất lạnh, hàng chục nghìn người dân và du khách vẫn có mặt tại quảng trường trung tâm dự lễ khai hội.

Thủ tướng phê bình 30 bộ ngành, địa phương chưa báo cáo tháo gỡ các dự án tồn đọng kéo dài

Thủ tướng phê bình, yêu cầu các bộ và 30 địa phương chưa gửi báo cáo kiểm điểm xác định rõ trách nhiệm cá nhân báo cáo Thủ tướng Chính phủ trước ngày 17-2. Thủ tướng Phạm Minh Chính vừa ký công điện...

Nổi bật

Mới nhất

Cùng tác giả

Trung tâm tài chính quốc tế: Cơ hội ‘thử sức’ để doanh nghiệp Việt lớn hơn

DNVN - Khi trung tâm tài chính khu vực và quốc tế TP Hồ Chí Minh được xây dựng thành công, các doanh nghiệp trong nước sẽ được hưởng lợi lớn từ việc tiếp cận nguồn vốn đa dạng hơn. Đây là cơ hội “thử sức” để doanh nghiệp Việt Nam lớn hơn. ...

Mua căn hộ Hà Nội cần thu nhập từ 45–210 triệu đồng/tháng

Dữ liệu nghiên cứu của Hội Môi giới bất động sản Việt Nam (VARS) cho thấy, mức thu nhập tối thiểu được khuyến nghị để mua một ngôi nhà có giá trung bình tại Hà Nội cao hơn khoảng 2,3 đến 10 lần so với thu nhập trung bình của hộ gia đình tại Hà Nội.Cụ thể, theo số liệu từ Tổng cục Thống kê, thu nhập bình quân tháng của lao động tại Hà Nội trong quý...

Rêu sa mạc có thể mở đường cho sự sống trên Sao Hỏa

Một nhóm nhà khoa học Trung Quốc vừa giải mã thành công cơ chế chịu lạnh của Syntrichia caninervis - một loài rêu sa mạc có khả năng sống sót trong điều kiện khắc nghiệt và thậm chí có thể đóng vai trò quan trọng trong công cuộc “cải tạo Sao Hỏa” trong tương...

Xuất khẩu thuỷ sản: Khởi sắc đầu năm nay nhưng đối diện nhiều thách thức

DNVN - Tổng kim ngạch xuất khẩu thuỷ sản trong tháng 1/2025 đạt hơn 774 triệu USD được coi là kết quả khả quan, song theo VASEP xuất khẩu thủy sản Việt Nam đối diện với nhiều thách thức khi các thị trường lớn sụt giảm như cầu tiêu thụ. ...

Số hoá dịch vụ công, tạo thuận lợi nhất cho người dân và doanh nghiệp

DNVN - Bộ Y tế ứng dụng công nghệ số trong việc tăng cường triển khai các dịch vụ công trực tuyến, giảm bớt các thủ tục giấy tờ không cần thiết, tạo thuận lợi tối đa cho người dân và doanh nghiệp trong quá trình thực hiện các thủ tục hành chính. ...

Bài đọc nhiều

Phát huy vai trò của chuyển đổi số trong kỷ nguyên vươn mình của dân tộc

Thế giới, bao gồm cả Việt Nam đang đứng trước nhiều thách thức và cơ hội trong kỷ nguyên số. Đâu là giải pháp để Việt Nam phát huy vai trò tích cực của chuyển đổi số trong kỷ nguyên mới?

Những bộ, ngành nào dẫn đầu bảng xếp hạng về chuyển đổi số?

DNVN - Ở nhóm 17 bộ, ngành có dịch vụ công, Bộ Kế hoạch và Đầu tư đứng ở vị trí số 1, Bộ Tài chính đứng ở vị trí số 2 ở tất cả các chỉ số chính, đây cũng là thứ tự xếp hạng giữ nguyên như năm 2022. Ngân hàng Nhà...

Cùng chuyên mục

Quá khứ “bất hảo” của nhân viên được Elon Musk trọng dụng

Edward Coristine từng khoe khoang về việc giữ quyền truy cập máy chủ của công ty cũ. Nay, với tư cách nhân viên dưới trướng Elon Musk, cậu được tiếp cận thông tin nhạy cảm của chính phủ Mỹ.

Đà Nẵng lần thứ tư liên tiếp đứng đầu cả nước về chuyển đổi số

Bộ Thông tin và Truyền thông vừa công bố "Báo cáo chỉ số đánh giá chuyển đổi số của các bộ, cơ quan ngang bộ, cơ quan thuộc Chính phủ và tỉnh, thành phố trực thuộc Trung ương - DTI cấp bộ, cấp tỉnh năm 2023".

Mới nhất

Khai hội đền thờ Vua Lê Lợi tại Lai Châu

(CLO) Lễ hội Đền thờ vua Lê Lợi nhằm tri ân công ơn đức độ của vua Lê Thái Tổ - người đã thân chinh cầm quân dẹp loạn vùng Tây...

Hàng Việt trước nguy cơ gia tăng phòng vệ thương mại từ Mỹ

Hàng Việt xuất khẩu sang Mỹ trong năm 2025 cần cẩn trọng hơn trước chính sách thương mại mới của nước này, cùng với đó là rủi ro gia tăng từ các vụ việc phòng vệ thương mại.

65 doanh nghiệp Việt Nam góp mặt tại “sân chơi” của các thương hiệu mạnh

Từ 7-11/2, tại thành phố Frankfurt, bang Hessen của Đức diễn ra Ambiente 2025 - Hội chợ hàng đầu thế giới về hàng tiêu dùng, thủ công mỹ nghệ và trang trí nội thất. Hội chợ thu hút 4.660 doanh nghiệp từ gần 170 quốc gia và vùng lãnh thổ tham gia. Năm nay, Việt Nam có 65 doanh nghiệp trưng bày sản phẩm tại "sân chơi" lớn dành cho các thương hiệu mạnh này.

Xử lý tài xế xe tải cố tình chạy “rùa bò”, ép xe phía sau

(NLĐO) – Tài xế cho xe chạy rùa bò là để "trả thù" người điều kiện xe tải trước đó không cho xe của mình vượt lên. ...

Dự báo giá cà phê ngày mai 10/2/2025: Trong nước ổn định

Dự báo giá cà phê ngày mai 10/2/2025, cà phê Tây Nguyên, cà phê Lâm Đồng, cà phê Gia Lai, cà phê Đắk Lắk, cà phê Robusta, cà phê Arabica 10/2/2025. Cập nhật giá cà phê thế giới Trên sàn London, vào lúc 16 giờ 00 phút ngày 9/2/2025 giá cà phê...

Mới nhất