Trang chủKhoa học - Công nghệCông nghệ sốNguy cơ AI vượt tầm kiểm soát

Nguy cơ AI vượt tầm kiểm soát



Sự phát triển của AI mang lại cả tính tích cực lẫn tiêu cực. Và với sự xuất hiện của Sora, công nghệ sẽ trở nên nóng hơn bao giờ hết.

Sora – “bầu trời mới” của OpenAI

Soralà một bước tiến lớn củaOpenAIkhi cho phép chuyển thể từ văn bản thành hình ảnh với chất lượng đáng kinh ngạc.

Trong tiếng Nhật, “Sora” có nghĩa là bầu trời. Nhóm nghiên cứu đứng sau công nghệ này chọn tên Sora bởi nó gợi lên ý tưởng về tiềm năng sáng tạo không giới hạn.

Nguy cơ AI vượt tầm kiểm soát - Ảnh 1.

Sora có khả năng sáng tạo hoạt cảnh gồm nhiều nhân vật, chuyển động với bối cảnh chi tiết. Công cụ này không chỉ hiểu những gợi ý trong câu lệnh mà cả cách nó biểu hiện trong thực tế. Theo đánh giá, Sora có khả năng làm tăng tốc độ làm việc của các nhà làm phim, đồng thời thay thế hoàn toàn những kỹ sư đồ họa ít kinh nghiệm.

Sora không phải chương trình AI duy nhất chuyển thể thành công từ văn bản thành hình ảnh. Trong suốt 1 năm qua, đã có khá nhiều các phần mềm khác cũng chung một chức năng. Các sản phẩm do công nghệ AI tạo ra ngày càng hoàn thiện và giống như thật.

Công nghệ vượt trội đứng sau Sora

Để sản xuất ra các video trông như thật, Sora phải có khả năng hiểu được ngôn từ, các yêu cầu, mệnh lệnh của người dùng. Nhưng không chỉ dừng ở đó, Sora còn phải hiểu được quy tắc vật lý, mọi vật chuyển động như thế nào, ánh sáng, bóng tối sẽ thay đổi ra sao khi nhân vật đi lại, chuyển động.

 

Ví dụ, mệnh lệnh đặt ra là một cô gái đi giữa đường phố đêm ở Tokyo. Và sản phẩm mà Sora tạo ra khá hoàn hảo. Nếu không tinh mắt, ta sẽ không thể soi ra được những khuyết điểm nho nhỏ của video.

Video giống thực tế tới 99% với độ sinh động của những ánh đèn đường hắt bóng qua những vũng nước mưa dưới đất. Đây là những thứ không có trong mệnh lệnh mà tự AI hiểu được quy tắc vật lý của thế giới thực và tự vẽ ra.

Theo trang AI news, công nghệ phía sau Sora có một phần là GPT-4. Đây là một mô hình đa phương thức lớn có thể xử lý đầu vào văn bản và hình ảnh. GPT-4 cập nhật mô hình ngôn ngữ lớn của OpenAI, được đào tạo trên lượng lớn dữ liệu trực tuyến để tạo phản hồi phức tạp cho các truy vấn của người dùng.

Nguy cơ AI vượt tầm kiểm soát - Ảnh 2.

Phần còn lại của Sora là là mô hình khuếch tán, biến nhiễu tĩnh thành một video mạch lạc bằng cách giảm dần độ nhiễu đó qua nhiều bước. Sora cũng sử dụng công nghệ tương tự như Dalle-3: Biến văn bản thành hình ảnh, ở đây là những video giống thật đến khó tin.

 

AI sẽ tác động thế nào tới lĩnh vực sáng tạo?

Những người làm về mặt hình ảnh, quay phim, thiết kế đồ hoạ rất quan tâm tới sự phát triển của AI. Tại Hollywood, kinh đô điện ảnh thế giới, các chuyên gia đã đo đạc được tác động của AI.

Theo báo cáo, 21,4 % các nhà làm phim, truyền hình và hoạt hình tại Hollywood dự đoán sẽ bị thay thế bởi AI vào năm 2026.

Hè năm ngoái, Netflix đã bắt đầu tuyển dụng cho vị trí quản lý sản phẩm AI với mức lương ngất ngưởng, từ 300.000 – 900.000 USD, cao gấp hàng chục lần lương của một diễn viên bình thường không nổi tiếng.

Lo ngại về sự phát triển vượt tầm kiểm soát của AI

 

Xu hướngtrí tuệ nhân tạođược ví như một cơn sóng lớn. Nếu bạn học cách lướt sóng để luôn luôn đứng trên đầu ngọn sóng, khả năng cao là bạn và công việc, vị trí của bạn sẽ an toàn, thậm chí còn thăng hoa hơn.

Tuy nhiên, đi kèm với thời cơ luôn luôn có cả những nguy cơ. Những chương trình trí tuệ nhân tạo siêu việt này cũng gây ra những rủi ro. Và với sự phát triển vượt sức tưởng tượng của AI, những rủi ro này lại càng đáng quan ngại hơn.

Nguy cơ AI vượt tầm kiểm soát - Ảnh 3.

Theo Tiến sĩ Trần Văn Cảnh, nhà hoa khoc dữ liệu thuộc Khoa Công nghệ thông tin, trường Đại học Heidelberg, Đức, dù mô hình Sora hiện tại còn nhiều thiếu sót như nhầm lẫn bên trái và bên phải hoặc không duy trì được hình ảnh liên tục trong suốt thời lượng của video, tuy nhiên, nguy cơ Sora tạo ra thông tin sai lệch là hoàn toàn có thể, khiến việc xác định đâu là sự thật trên Internet càng trở nên khó khăn hơn.

 

“Với ứng dụng Sora, việc phân biệt tin thật giả là rất khó khăn vì các video do Sora tạo ra có tính chân thực rất cao. Bản thân OpenAI đang tìm ra các giải pháp hạn chế, tuy nhiên, chúng ta phải chấp nhận rằng, không có giải pháp nào triệt để cả. Sắp tới, ứng dụng sẽ cho phép người sử dụng cung cấp hình ảnh, văn bản để từ đó tạo ra video mới, như vậy các phát biểu của các nhân vật có ảnh hưởng trên thế giới có thể bị làm giả rất dễ dàng, gây ra hệ lụy lớn với công chúng” – Tiến sĩ Trần Văn Cảnh nhận định.

Trước Sora, OpenAI đã phát hành 2 sản phẩm, bao gồm ChatGPT có thể tạo văn bản giống như con người và công nghệ DALL-E tạo nên “Deepfake” – kỹ thuật sử dụng AI để tạo ra âm thanh, hình ảnh và video giả mạo. Rất nhiều người đã bị biến thành nạn nhân của Deepfake, từ Giáo hoàng, cựu Tổng thống Mỹ Donald Trump hay mới đây là vụ việc ngôi sao nhạc pop Taylor Swift bị ghép mặt để tạo ra hình ảnh khiêu dâm giả mạo.

“Trên thực tế, OpenAI là một công ty đi tiên phong trong công nghệ GenAI. Họ có một đội ngũ nhà khoa học rất xuất sắc. Kinh phí mà họ đầu tư vào cho các mô hình AI và nhân sự con người cũng như học máy là rất lớn nên các sản phẩm OpenAI tạo ra có độ chân thực rất cao” – Tiến sĩ Trần Văn Cảnh cho biết.

Điều này cho thấy, sự phát triển của AI mang lại cả tính tích cực lẫn tiêu cực trong dòng chảy không ngừng của Internet. Và với sự xuất hiện của Sora, dự báo cuộc đua công nghệ sẽ trở nên nóng hơn bao giờ hết. Hiện tại, các công ty công nghệ lớn như Meta, Google và Runway AI cũng đang nghiên cứu và phát triển công nghệ AI tạo video từ văn bản và đã công bố một số mô hình tương tự.


Theo VTV





Nguồn

Cùng chủ đề

Bộ Công Thương họp Ban soạn thảo Luật Sử dụng năng lượng tiết kiệm và hiệu quả (sửa đổi)

Chiều nay 10/2, Bộ Công Thương tổ chức phiên họp lần thứ nhất Ban soạn thảo Luật sửa đổi, bổ sung một số điều của Luật Sử dụng năng lượng tiết kiệm và hiệu quả. Theo chương trình dự kiến, Bộ trưởng Nguyễn Hồng Diên chủ trì phiên họp. Cùng tham dự có Thứ trưởng Nguyễn Hoàng Long cùng các thành viên Ban soạn thảo đến từ các Bộ, cơ quan ngang Bộ: Bộ Công Thương,...

Giá vàng miếng và vàng nhẫn hôm nay (10/02): Khởi sắc

Giá vàng miếng và vàng nhẫn hôm nay (10/02): Giá vàng nhẫn trong nước tiếp tục ghi nhận xu hướng tăng, với mức điều chỉnh phổ biến khoảng nửa triệu đồng/lượng. Địa chỉ tham khảo các cửa hàng vàng được yêu thích tại Hà Nội: 1. Bảo Tín Minh Châu - 15 - 29 Trần Nhân Tông, Bùi Thị Xuân, Hai Bà Trưng, Hà Nội 2. Công ty vàng bạc đá quý...

Chuyến đi xuyên Tết chở ‘lộc biển’ về bờ

TPO - Những ngày này, các cảng cá ở Cà Mau trở nên tấp nập, nhộn nhịp hơn, khi các tàu đánh bắt xuyên Tết đã cập bến, chở theo ‘lộc biển’ về bờ với nhiều khoang tàu đầy ắp cá, mực. Nhờ thời tiết thuận lợi, hầu hết các phương tiện khai thác trong chuyến biển này đều trúng đậm. 10/02/2025 | 06:30 ...

Thaco sẽ làm đường sắt đô thị, Hòa Phát đầu tư nhà máy ray 10.000 tỷ đồng

Lãnh đạo Tập đoàn Thaco Trường Hải cho biết sẽ tập trung tham gia vào làm đường sắt đô thị, đặc biệt là các toa tàu, các cấu kiện thép, trong khi lãnh đạo Tập đoàn Hòa Phát nói có thể đầu tư nhà máy sản xuất ray, khoảng 10.000 tỷ đồng. "Ông lớn" liên kết, dìu dắt DN nhỏ Đáp lại lời mời gọi "doanh nghiệp có thể đăng ký làm và đề xuất cơ chế chính sách để thực...

“Thị trường trái phiếu doanh nghiệp đang trở lại đúng hướng”

VIS Rating cho rằng, sau một loạt các cải cách quy định và triển khai luật chứng khoán mới, thị trường trái phiếu doanh nghiệp đang trở lại đúng hướng. “Thị trường trái phiếu doanh nghiệp đang trở lại đúng hướng”VIS Rating cho rằng, sau một loạt các cải cách quy định và triển khai luật chứng khoán mới, thị trường trái phiếu doanh nghiệp đang trở lại đúng hướng. ...

Nổi bật

Mới nhất

Cùng tác giả

Biến động trái ngược về lãi suất tại nhiều ngân hàng sau Tết

Cụ thể, Ngân hàng TMCP Xuất nhập khẩu Việt Nam (Eximbank) vừa có động thái điều chỉnh lãi suất huy động theo hai chiều hướng trái ngược. Cụ thể, ngân hàng này tăng lãi suất cho các khoản tiền gửi kỳ hạn 1 - 12 tháng nhưng lại hạ lãi suất đối với các kỳ hạn dài từ 15 - 36 tháng.Theo cập nhật mới nhất, lãi suất tiền gửi kỳ hạn 9 tháng được điều chỉnh tăng...

Doanh nghiệp lớn cần phát huy vai trò dẫn đầu

DNVN - Các doanh nghiệp lớn cần phát huy mạnh mẽ hơn vai trò tiên phong trong những việc lớn, việc khó, việc mới. Đồng thời, chủ động nhận nhiệm vụ giải quyết những bài toán ở tầm quốc gia để tạo lực cho phát triển kinh tế; phát huy vai trò "doanh nghiệp...

Bộ Tài chính đề xuất 2 phương án miễn, giảm lệ phí trước bạ đối với ô tô điện

Bộ Tài chính đang xin ý kiến các bộ, ngành liên quan về dự thảo công văn gửi Thủ tướng Chính phủ các phương án miễn, giảm lệ phí trước bạ đối với ô tô điện để thúc đẩy chuyển đổi xanh. ...

Trung tâm tài chính quốc tế: Cơ hội ‘thử sức’ để doanh nghiệp Việt lớn hơn

DNVN - Khi trung tâm tài chính khu vực và quốc tế TP Hồ Chí Minh được xây dựng thành công, các doanh nghiệp trong nước sẽ được hưởng lợi lớn từ việc tiếp cận nguồn vốn đa dạng hơn. Đây là cơ hội “thử sức” để doanh nghiệp Việt Nam lớn hơn. ...

Mua căn hộ Hà Nội cần thu nhập từ 45–210 triệu đồng/tháng

Dữ liệu nghiên cứu của Hội Môi giới bất động sản Việt Nam (VARS) cho thấy, mức thu nhập tối thiểu được khuyến nghị để mua một ngôi nhà có giá trung bình tại Hà Nội cao hơn khoảng 2,3 đến 10 lần so với thu nhập trung bình của hộ gia đình tại Hà Nội.Cụ thể, theo số liệu từ Tổng cục Thống kê, thu nhập bình quân tháng của lao động tại Hà Nội trong quý...

Bài đọc nhiều

Những bộ, ngành nào dẫn đầu bảng xếp hạng về chuyển đổi số?

DNVN - Ở nhóm 17 bộ, ngành có dịch vụ công, Bộ Kế hoạch và Đầu tư đứng ở vị trí số 1, Bộ Tài chính đứng ở vị trí số 2 ở tất cả các chỉ số chính, đây cũng là thứ tự xếp hạng giữ nguyên như năm 2022. Ngân hàng Nhà...

Người dùng Android tại Mỹ có thể tải Tiktok qua website

Trong nỗ lực vượt qua những hạn chế ngày càng gay gắt tại Mỹ, TikTok ngày 7/2 thông báo người dùng Android tại Mỹ giờ đây có thể tải và kết nối với ứng dụng chia sẻ video ngắn này qua các bộ kit được cung cấp trực tiếp trên website của công ty.

Cùng chuyên mục

Google phát hành Gemini 2.0, cạnh tranh với AI Trung Quốc

Google phát hành Gemini 2.0, chatbot trí tuệ nhân tạo thế hệ mới với nhiều phiên bản và cập nhật tạo sự cạnh tranh mạnh mẽ với các đối thủ AI trên thị trường.

Apple chính thức chặn người dùng iPhone hạ cấp về iOS 18.2.1

Apple vừa chính thức khóa sign iOS 18.2.1, qua đó chặn người dùng iPhone chạy iOS 18.3 hạ cấp về phiên bản iOS cũ này.

Tỷ phú Elon Musk không mặn mà mua lại TikTok

Bất chấp những thông tin đồn thổi về khả năng mua lại TikTok của ByteDance, tỷ phú giàu nhất thế giới Elon Musk vừa nói rằng ông không hứng thú với ứng dụng đến từ Trung Quốc. ...

Mới nhất

Hai giám đốc sở ở Đà Nẵng xin nghỉ hưu trước tuổi là ai?

Giám đốc Sở Tài Chính, Giám đốc Sở TT&TT và Phó giám đốc Sở GTVT TP Đà Nẵng vừa có đơn xin nghỉ hưu trước tuổi. ...

Ông Phùng Phú Phong làm Bí thư Quận ủy Sơn Trà

Giám đốc Sở Xây dựng Đà Nẵng Phùng Phú Phong được Ban Thường vụ Thành ủy Đà Nẵng điều động, chỉ định giữ chức Bí thư Quận ủy Sơn Trà nhiệm kỳ 2020-2025. ...

Du lịch nông nghiệp, cần một cái tên

Nông nghiệp là ngành kinh tế chủ đạo của Việt Nam, đóng góp quan trọng vào sự phát triển kinh tế và đảm bảo an sinh xã hội. Trong thời gian gần đây, du lịch nông nghiệp, đặc biệt là mô hình "trải nghiệm làm nông" đang ngày càng được quan tâm, bởi đây là cơ hội để nông...

Quảng Nam phân bổ kinh phí xây dựng 100 nhà Đại đoàn kết do Đà Nẵng hỗ trợ

Đây là nguồn ngân sách Thành phố Đà Nẵng hỗ trợ cho tỉnh Quảng Nam 6 tỷ đồng để xây dựng 100 nhà Đại đoàn kết cho hộ gia đình có công cách mạng, hoàn cảnh khó khăn, hộ nghèo, cận nghèo, hộ có hoàn cảnh đặc biệt khó khăn trong vùng căn cứ cách mạng của Quảng...

Cầu Tăng Long tăng tốc

(NLĐO) - Dự án cầu Tăng Long đang được đẩy nhanh tiến độ, dự kiến thông xe một nhánh vào cuối tháng 2, giúp cải thiện giao...

Mới nhất

Cầu Tăng Long tăng tốc