Trong hai bài đăng trên blog được xuất bản hôm thứ Tư, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết, các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các mô hình ngôn ngữ lớn (LLM).

Các công cụ hỗ trợ AI đang sớm được sử dụng dưới dạng chatbot. NCSC cho biết điều đó có thể mang lại rủi ro, đặc biệt nếu những mô hình như vậy được đưa vào quy trình kinh doanh của các bộ phận khác của tổ chức.

Các nhà nghiên cứu đã nhiều lần tìm ra cách qua mặt các chatbot bằng cách đưa cho chúng những lệnh lừa đảo hoặc đánh lừa chúng phá vỡ các rào chắn bảo vệ tích hợp sẵn của chính chúng. Ví dụ: Một chatbot hỗ trợ AI do ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép.

NCSC cho biết trong một bài đăng trên blog của mình: “Các tổ chức xây dựng dịch vụ sử dụng LLM cần phải cẩn thận, giống như khi họ đang sử dụng một sản phẩm hoặc thư viện mã hóa đang ở giai đoạn thử nghiệm”.

Các nhà chức trách trên toàn thế giới đang vật lộn với sự gia tăng của LLM, chẳng hạn như ChatGPT mà các doanh nghiệp đang kết hợp vào một loạt dịch vụ, bao gồm cả bán hàng và chăm sóc khách hàng.

Vấn đề bảo mật của AI cũng vẫn đang được chú trọng, khi các nhà chức trách ở Mỹ và Canada cho biết họ thấy rằng các nhóm ​​tin tặc đang nắm bắt và tận dụng công nghệ này để thực hiện các hoạt động phi pháp.

Mai Vân (theo Reuters)