Khi các công ty công nghệ gấp rút tích hợp AI vào phần mềm và dịch vụ của họ, họ phải đối mặt với chi phí điện toán cao hơn đáng kể. Tuy nhiên, chạy AI tổng quát trên thiết bị di động, thay vì thông qua đám mây trên các máy chủ do các tập đoàn công nghệ lớn vận hành, có thể là câu trả lời một trong những câu hỏi kinh tế lớn nhất mà công nghệ này đặt ra.

Tuần trước, Google cho biết họ đã chạy một phiên bản PaLM 2, mô hình ngôn ngữ lớn mới nhất của họ, trên một chiếc điện thoại Samsung Galaxy.

Mặc dù họ không trình diễn công khai mô hình thu nhỏ được gọi là Gecko, nhưng động thái này là dấu hiệu mới nhất cho thấy một dạng AI yêu cầu tài nguyên ít hơn đang nhanh chóng phát triển.

Sự thay đổi này có thể làm cho các dịch vụ như chatbot trở nên rẻ hơn rất nhiều và mở đường cho nhiều ứng dụng biến đổi hơn bằng cách sử dụng AI.

“Bạn cần tạo ra AI kết hợp, chạy cả trong trung tâm dữ liệu và cục bộ, nếu không chúng sẽ cực kỳ tốn kém", ông Cristiano Amon, CEO của công ty chip di động Qualcomm, nói. "Khai thác bộ nhớ vi xử lý chưa được tận dụng trên thiết bị cầm tay di động là cách tốt nhất để phân bổ chi phí".

Khi ChatGPT ra mắt vào cuối năm ngoái, triển vọng đưa nó lên thiết bị cầm tay dường như còn xa vời. Các thiết bị cầm tay thiếu bộ nhớ để chứa các mô hình lớn như ChatGPT, cũng như thiếu bộ nhớ cần thiết để chạy chúng.

Việc tạo phản hồi cho một truy vấn trên thiết bị, thay vì đợi trung tâm dữ liệu từ xa đưa ra kết quả, cũng có thể giảm độ trễ khi sử dụng ứng dụng. Khi dữ liệu cá nhân của người dùng được sử dụng để tinh chỉnh các phản hồi chung, việc giữ tất cả quá trình xử lý trên thiết bị cầm tay cũng có thể nâng cao quyền riêng tư.

Hơn bất cứ điều gì, AI có thể giúp thực hiện các hoạt động thông thường trên điện thoại thông minh dễ dàng hơn, chẳng hạn như sản xuất văn bản. “Bạn có thể nhúng AI vào mọi ứng dụng văn phòng. Bạn nhận được email, nó sẽ gợi ý phản hồi. AI cần có khả năng chạy trên cả thiết bị cũng như trên trung tâm dữ liệu", ông Amon cho biết.

Những tiến bộ nhanh chóng trong một số mô hình cơ bản đã thay đổi cán cân. Đáng chú ý nhất là PaLM 2 của Google và GPT-4 của OpenAI. Nhưng sự bùng nổ của các mô hình nhỏ hơn và khiến việc sử dụng AI dễ dàng hơn mới có thể mang ý nghĩa cách mạng.

Hoàng Tôn (theo FT)