Các hệ thống AI này, trong đó ChatGPT, hiện được biết đến nhiều nhất. Chúng có thể viết luận, viết code, sáng tác nhạc và các tác phẩm nghệ thuật cũng như có khả năng trò chuyện. Nhưng điều gì sẽ xảy ra khi chúng được sử dụng cho các mục đích bất hợp pháp?

Tuần trước, cộng đồng phát trực tuyến đã bị rung chuyển bởi một sự kiện liên quan đến việc lạm dụng AI tổng quát. Streamer Twitch nổi tiếng Atrioc đã bị bắt quả tang đang xem nội dung khiêu dâm sử dụng công nghệ deepfake, khi chèn khuôn mặt của các streamer nữ nổi tiếng khác vào trong các video gợi dục.

Công nghệ “deepfake”, có khả năng ghép mặt của một người nổi tiếng vào cơ thể của một diễn viên khiêu dâm, đã xuất hiện được một thời gian. Tuy nhiên, những tiến bộ gần đây đã khiến việc phát hiện trở nên khó khăn hơn nhiều.

Và đó là phần nổi của tảng băng chìm. Trong tay kẻ xấu, AI sáng tạo có thể gây ra những thiệt hại không thể kể xiết. Chúng ta có thể mất rất nhiều thứ nếu luật pháp không theo kịp.

Từ tranh chấp đến tội ác

Tháng trước, ứng dụng AI tổng hợp Lensa đã bị chỉ trích vì cho phép hệ thống của mình tạo ra những hình ảnh hoàn toàn khỏa thân và siêu khiêu dâm từ ảnh chụp selfie của người dùng. Ngoài ra, nó cũng làm phụ nữ da màu trông trắng hơn và làm cho các đường nét trên khuôn mặt trông "châu Âu hơn".

Ngoài các chỉ trích, điều bị bỏ qua là khả năng to lớn của việc sử dụng AI sáng tạo nghệ thuật để lừa đảo. Ngoài ra, có những báo cáo về việc những công cụ này có thể giả mạo dấu vân tay và quét khuôn mặt.

Tội phạm đang nhanh chóng tìm ra những cách mới để sử dụng AI tổng quát nhằm hỗ trợ các hành vi gian lận. Sự hấp dẫn của AI tổng quát đối với giới tội phạm là đến từ khả năng tìm ra các mẫu từ một lượng lớn dữ liệu.

An ninh mạng đã chứng kiến sự gia tăng của hàng loạt “bot xấu”: Các chương trình tự động độc hại bắt chước hành vi của con người để thực hiện tội phạm. AI sáng tạo sẽ làm cho những thứ này thậm chí còn tinh vi hơn và khó phát hiện hơn.

Chắc hẳn chúng ta đã không con xa lạ về những tin nhắn hay cuộc gọi lừa đảo về tiền điện hay lệnh bắt giữ từ công an, viện kiểm sát.

Trong những trò gian lận như vậy, AI tổng quát có thể được sử dụng để cải thiện chất lượng của văn bản hoặc email, khiến chúng trở nên đáng tin cậy hơn nhiều. Ví dụ: trong những năm gần đây, chúng ta đã thấy các hệ thống AI được sử dụng để giả dạng giọng nói của các nhân vật quan trọng.

Sau đó, có những vụ lừa tình online, trong đó bọn tội phạm yêu cầu tiền của mục tiêu để giúp họ thoát khỏi tình trạng khó khăn về tài chính. Những trò gian lận này đã trở nên phổ biến. Đào tạo AI về các tin nhắn thực tế giữa những người yêu nhau có thể giúp tạo ra một chatbot lừa đảo tinh vi đến mức chúng ta không thể phân biệt.

Trí tuệ nhân tạo AI cũng có thể cho phép tội phạm mạng nhắm mục tiêu có chọn lọc hơn vào những người dễ bị tổn thương. Ví dụ: chúng có thể đào tạo một hệ thống từ thông tin bị đánh cắp từ các công ty lớn, chẳng hạn như trong vụ hack Optus hoặc Medibank năm ngoái, nhắm mục tiêu vào người già, người khuyết tật hoặc người gặp khó khăn về tài chính.

Hơn nữa, các hệ thống này có thể được sử dụng để cải thiện mã máy tính, điều mà một số chuyên gia an ninh mạng cho rằng sẽ làm cho virus và phần mềm độc hại dễ tạo hơn và khó bị phát hiện hơn.

Chúng ta vẫn chưa sẵn sàng

Chính phủ Úc và New Zealand đã công bố các khuôn khổ liên quan đến AI, nhưng chúng không phải là các quy tắc ràng buộc. Luật pháp của cả hai quốc gia liên quan đến quyền riêng tư, tính minh bạch và không bị phân biệt đối xử đều không phù hợp với nhiệm vụ liên quan đến tác động của AI.

Mỹ đã có Sáng kiến Trí tuệ Nhân tạo Quốc gia được luật hóa từ năm 2021. Và kể từ năm 2019, việc một bot tương tác với người dùng vì mục đích thương mại hoặc bầu cử mà không tiết lộ thông tin rằng chúng là chatbot là hành vi bất hợp pháp ở California.

Liên minh châu Âu cũng đang trên đà ban hành luật AI đầu tiên trên thế giới. Đạo luật AI cấm một số loại chương trình AI gây ra “rủi ro không thể chấp nhận được” và áp đặt các hạn chế bắt buộc đối với các hệ thống “rủi ro cao”.

Thực tế là hiện vẫn chưa có yêu cầu bắt buộc nào đối với việc phải lập trình “quy tắc đạo đức” cho các hệ thống AI như ChatGPT.

Các chính phủ cần hợp tác chặt chẽ với ngành an ninh mạng để điều chỉnh AI tổng quát mà không cản trở sự đổi mới, chẳng hạn như bằng cách yêu cầu cân nhắc về đạo đức đối với các chương trình AI.

Con người có khả năng phát hiện lừa đảo?

Khi bọn tội phạm được bổ sung các công cụ AI tổng quát, việc phát hiện các vụ lừa đảo sẽ trở nên phức tạp hơn. Ngoài việc sử dụng các mẹo thông thường, chúng ta cũng có thể học được nhiều điều từ việc đánh giá những thiếu sót của các công cụ này.

Trí tuệ nhân tạo không giỏi lập luận phê bình và truyền đạt cảm xúc. Nó thậm chí có thể bị lừa đưa ra câu trả lời sai. Bằng cách biết được những điểm yếu này, chúng ta có thể giúp phát triển các phương pháp hiệu quả để truy bắt tội phạm mạng sử dụng AI để tống tiền.

Ngoài ra còn có các công cụ đang được phát triển để phát hiện các "sản phẩm" do các công cụ như ChatGPT tạo ra. Những điều này có thể giúp ích rất nhiều trong việc ngăn chặn tội phạm mạng dựa trên AI.

Hoàng Tôn (theo AJ)