Theo dõi báo trên:
Khi các công ty công nghệ gấp rút tích hợp AI vào phần mềm và dịch vụ của họ, họ phải đối mặt với chi phí điện toán cao hơn đáng kể. Tuy nhiên, chạy AI tổng quát trên thiết bị di động, thay vì thông qua đám mây trên các máy chủ do các tập đoàn công nghệ lớn vận hành, có thể là câu trả lời một trong những câu hỏi kinh tế lớn nhất mà công nghệ này đặt ra.
Ảnh: Algoworks
Tuần trước, Google cho biết họ đã chạy một phiên bản PaLM 2, mô hình ngôn ngữ lớn mới nhất của họ, trên một chiếc điện thoại Samsung Galaxy.
Mặc dù họ không trình diễn công khai mô hình thu nhỏ được gọi là Gecko, nhưng động thái này là dấu hiệu mới nhất cho thấy một dạng AI yêu cầu tài nguyên ít hơn đang nhanh chóng phát triển.
Sự thay đổi này có thể làm cho các dịch vụ như chatbot trở nên rẻ hơn rất nhiều và mở đường cho nhiều ứng dụng biến đổi hơn bằng cách sử dụng AI.
“Bạn cần tạo ra AI kết hợp, chạy cả trong trung tâm dữ liệu và cục bộ, nếu không chúng sẽ cực kỳ tốn kém", ông Cristiano Amon, CEO của công ty chip di động Qualcomm, nói. "Khai thác bộ nhớ vi xử lý chưa được tận dụng trên thiết bị cầm tay di động là cách tốt nhất để phân bổ chi phí".
Khi ChatGPT ra mắt vào cuối năm ngoái, triển vọng đưa nó lên thiết bị cầm tay dường như còn xa vời. Các thiết bị cầm tay thiếu bộ nhớ để chứa các mô hình lớn như ChatGPT, cũng như thiếu bộ nhớ cần thiết để chạy chúng.
Việc tạo phản hồi cho một truy vấn trên thiết bị, thay vì đợi trung tâm dữ liệu từ xa đưa ra kết quả, cũng có thể giảm độ trễ khi sử dụng ứng dụng. Khi dữ liệu cá nhân của người dùng được sử dụng để tinh chỉnh các phản hồi chung, việc giữ tất cả quá trình xử lý trên thiết bị cầm tay cũng có thể nâng cao quyền riêng tư.
Hơn bất cứ điều gì, AI có thể giúp thực hiện các hoạt động thông thường trên điện thoại thông minh dễ dàng hơn, chẳng hạn như sản xuất văn bản. “Bạn có thể nhúng AI vào mọi ứng dụng văn phòng. Bạn nhận được email, nó sẽ gợi ý phản hồi. AI cần có khả năng chạy trên cả thiết bị cũng như trên trung tâm dữ liệu", ông Amon cho biết.
Những tiến bộ nhanh chóng trong một số mô hình cơ bản đã thay đổi cán cân. Đáng chú ý nhất là PaLM 2 của Google và GPT-4 của OpenAI. Nhưng sự bùng nổ của các mô hình nhỏ hơn và khiến việc sử dụng AI dễ dàng hơn mới có thể mang ý nghĩa cách mạng.
Hoàng Tôn (theo FT)
Thích
(CLO) Meta hôm thứ Năm (18/4) đã phát hành các phiên bản đầu tiên của mô hình ngôn ngữ lớn mới nhất Llama 3 và một trình tạo hình ảnh cập nhật hình ảnh theo thời gian thực dựa theo truy vấn của người dùng.
(CLO) Google đang sa thải một số lượng nhân viên không xác định. Đây là đợt cắt giảm mới nhất của gã khổng lồ công nghệ trong nỗ lực cắt giảm chi phí.
(CLO) Google của Alphabet đã bắt đầu xóa tin tức của các tổ chức truyền thông và báo chí California (Mỹ), để phản đối đạo luật đang chờ xử lý được gọi là Đạo luật Bảo tồn Báo chí California (CJPA).
(CLO) Nhà tâm lý học Jonathan Haidt cho rằng trẻ em nên ít hoặc không được tiếp cận với điện thoại thông minh (smartphone) và mạng xã hội cho đến khi 16 tuổi, vì chúng có thể gây nguy hiểm cho sức khỏe tâm thần của các em vô thời hạn.
(CLO) Ban giám sát của Meta đang xem xét xử lý vấn nạn hình ảnh khiêu dâm do AI tạo ra về những người nổi tiếng trên Facebook và Instagram, theo công ty này cho biết vào thứ Ba (16/4)
