AI bị các nhà nghiên cứu đánh lừa chỉ bằng giấy bút

Thứ năm, 11/03/2021 10:22 AM - 0 Trả lời

(CLO) Khi các nhà nghiên cứu dán mẩu giấy có chữ iPod lên quả táo, trí tuệ nhân tạo (AI) nhận nhầm là chiếc máy nghe nhạc nổi tiếng trong thập niên 2000.

Một mẫu giấy viết tay dán trên quả táo dễ dàng đánh lừa Clip . Ảnh: Guardian.

Một mẫu giấy viết tay dán trên quả táo dễ dàng đánh lừa Clip . Ảnh: Guardian.

Trí tuệ nhân tạo luôn được xem là bộ máy thông minh. Trong nhiều trường hợp, nó có khả năng phân tích vấn đề rất chính xác. Khi quan sát một quả táo, AI mang tên Clip dễ dàng nhận ra loại trái cây quen thuộc này, thậm chí cung cấp thông tin chủng loại và phân biệt được giống cây.

Nhưng ngay cả những AI thông minh nhất cũng có thể bị đánh lừa bởi cách thức đơn giản. Các nhà nghiên cứu viết chữ iPod vào mẩu giấy và dán lên quả táo, Clip nhận đối tượng này là máy nghe nhạc nổi tiếng của Apple. Trong thử nghiệm khác, họ thêm ký hiệu $ vào ảnh một chú chó, AI tiếp tục hiểu nhầm là heo đất.

Nếu dán chữ iPod lên quả táo, Clip cho rằng có tới 99,7% khả năng đây là iPod. Ảnh: OpenAI.

Nếu dán chữ iPod lên quả táo, Clip cho rằng có tới 99,7% khả năng đây là iPod. Ảnh: OpenAI.

OpenAI, tổ chức nghiên cứu máy học đã tạo ra Clip, gọi điểm yếu này là cuộc tấn công kiểu chữ (typographic attack). Bằng cách khai thác khả năng đọc văn bản mạnh mẽ của AI, ngay cả những bức ảnh chụp ký tự viết tay cũng có thể đánh lừa. Cuộc tấn công này diễn ra một cách tự nhiên, chỉ cần bút và giấy, không đòi hỏi thêm gì về mặt công nghệ.

Giống như GPT-3, hệ thống AI này được tạo ra từ phòng thí nghiệm phục vụ cho mục đích nghiên cứu. Clip giống một mô hình hơn là sản phẩm thương mại. Nhưng cả 2 đều đã đạt được những khả năng ấn tượng trong lĩnh vực của mình, GPT-3 đã viết một bài bình luận cho Guardian vào năm ngoái, trong khi Clip có khả năng nhận biết thế giới thực tốt hơn hầu hết AI hiện nay.

PV

Tin khác

Xiaomi ra mắt màn hình 27 inch giá 2,6 triệu đồng

Xiaomi ra mắt màn hình 27 inch giá 2,6 triệu đồng

(CLO) Xiaomi mới đây đã ra mắt màn hình 27 inch, có tên gọi Redmi A27Q, tại thị trường Trung Quốc. Màn hình sở hữu độ phân giải 2K, tần số quét 100Hz, giá chỉ 2,6 triệu đồng.

Sức sống số
OPPO K12 trình làng với giá từ 6,5 triệu đồng

OPPO K12 trình làng với giá từ 6,5 triệu đồng

(CLO) OPPO K12 mới đây đã chính thức trình làng tại thị trường Trung Quốc, máy được trang bị con chip Snapdragon 7 Gen 3, màn hình 120Hz, sạc nhanh 100W, giá từ 6,5 triệu đồng.

Sức sống số
Phổ cập blockchain và AI cho 1 triệu lượt người đến năm 2030

Phổ cập blockchain và AI cho 1 triệu lượt người đến năm 2030

(CLO) Viện Công nghệ Blockchain và Trí tuệ Nhân tạo ABAII, trực thuộc Hiệp hội Blockchain Việt Nam, đặt mục tiêu đào tạo, phổ cập blockchain và AI cho 1 triệu lượt người đến năm 2030, trong đó bao gồm 100.000 sinh viên tại 30 trường Đại học trên cả nước.

Sức sống số
Đánh giá bộ sạc nhanh 50W của Samsung sắp ra mắt

Đánh giá bộ sạc nhanh 50W của Samsung sắp ra mắt

(CLO) Samsung, một trong những nhà sản xuất hàng đầu trong lĩnh vực điện thoại di động, đang chuẩn bị ra mắt một sản phẩm mới - bộ sạc nhanh 50W.

Sức sống số
Từng bước hoàn thiện hành lang pháp lý quản lý tài sản ảo theo tiêu chuẩn VASP

Từng bước hoàn thiện hành lang pháp lý quản lý tài sản ảo theo tiêu chuẩn VASP

(CLO) Trong khuôn khổ Lễ kỷ niệm 2 năm thành lập và Diễn đàn thường niên “Blockchain và AI: Cuộc cách mạng tương lai”, ngày 24/4, tại Hà Nội, Hiệp hội Blockchain Việt Nam đã tổ chức buổi tọa đàm khoa học lần thứ 4 nhằm góp ý xây dựng hoàn thiện khung pháp lý VA-VASP.

Sức sống số