Tái tạo được công nghệ cốt lõi của DeepSeek chỉ với 30 USD

Theo BGR, một nhóm nghiên cứu sinh tại Đại học California, Berkeley (Mỹ) vừa khiến giới công nghệ ‘choáng váng’ khi công bố tái tạo thành công công nghệ cốt lõi của DeepSeek – mô hình AI đang gây sốt – với chi phí chỉ 30 USD.

Công nghệ cốt lõi của DeepSeek được tái tạo với phí ‘rẻ bèo’

Thông tin này được công bố bởi Jiayi Pan, nghiên cứu sinh tiến sĩ dẫn đầu nhóm nghiên cứu, trên nền tảng Nitter. Theo đó, nhóm đã sử dụng mô hình ngôn ngữ nhỏ, chỉ 3 tỉ tham số, để sao chép khả năng học hỏi tăng cường của DeepSeek R1-Zero. Điều đáng nói là mô hình này vẫn thể hiện được khả năng tự xác minh và tìm kiếm – những tính năng then chốt giúp DeepSeek tinh chỉnh phản hồi của mình.

ẢNH: CHỤP MÀN HÌNH CNBC

Để thử nghiệm, nhóm nghiên cứu đã cho mô hình ‘chơi’ trò chơi Countdown – một dạng câu đố số học. Ban đầu, mô hình đưa ra các đáp án ngẫu nhiên, nhưng sau quá trình học tăng cường, nó đã tự điều chỉnh và đưa ra đáp án chính xác. Thậm chí, khi đối mặt với phép nhân phức tạp, mô hình còn tự phân tích và giải quyết theo cách tương tự như con người.

Điều khiến giới công nghệ bất ngờ là chi phí tái tạo DeepSeek rất rẻ – chỉ 30 USD. Con số này quá nhỏ so với hàng tỉ USD mà các ‘ông lớn’ như OpenAI, Google hay Microsoft đang chi cho việc phát triển AI. Nghiên cứu này cho thấy rằng, việc phát triển các mô hình AI mạnh mẽ không nhất thiết phải đi kèm với ngân sách khổng lồ.

Tuy nhiên, cũng có những ý kiến hoài nghi về tính xác thực của các tuyên bố từ DeepSeek, đặc biệt là về chi phí huấn luyện mô hình. Nhà nghiên cứu AI Nathan Lambert đặt câu hỏi về việc liệu con số 5 triệu USD mà DeepSeek công bố có thực sự phản ánh đầy đủ chi phí hay không, đồng thời chỉ ra những lo ngại về việc DeepSeek chuyển dữ liệu về Trung Quốc.

Dù còn nhiều tranh cãi, nghiên cứu của nhóm Berkeley đã chứng minh rằng, việc học tăng cường tiên tiến có thể đạt được mà không cần đến những khoản đầu tư khổng lồ. Điều này có thể sẽ tạo ra một cuộc cách mạng trong lĩnh vực AI, giúp các công ty nhỏ và các nhà nghiên cứu độc lập có thể tham gia vào cuộc đua công nghệ này.