Từ chiều Chủ nhật, khi nhập từ khóa "Taylor Swift" vào hộp tìm kiếm của mạng xã hội X (trước đây là Twitter), người dùng nhận được thông báo "Rất tiếc, đã xảy ra lỗi".

Ông Joe Benarroch, người đứng đầu hoạt động kinh doanh tại X, cho biết: "Đây là một hành động tạm thời được thực hiện hết sức thận trọng vì chúng tôi ưu tiên sự an toàn trong vấn đề này".

Trước đó hôm 25/1, mạng xã hội X xuất hiện những hình ảnh deepfake AI khiêu dâm của Taylor Swift. Theo báo cáo của New York Times, những hình ảnh được tạo bởi trí tuệ nhân tạo (AI) có tới 47 triệu lượt xem trước khi tài khoản này bị khóa vào ngày hôm sau.

X tiếp tục vô hiệu hóa một số tài khoản khác chia sẻ hình ảnh giả mạo, nhưng những hình ảnh này đã sớm lan truyền sang các nền tảng mạng xã hội khác. "Protect Taylor Swift" (bảo vệ Taylor Swift) nhanh chóng trở thành cụm từ xu hướng trên X.

Vụ bê bối cũng khiến Nhà Trắng bày tỏ lo ngại, kêu gọi ban hành luật để bảo vệ nạn nhân bị quấy rối trực tuyến. Thư ký Báo chí Nhà Trắng Karine Jean-Pierre hôm thứ Sáu (26/1) gọi những hình ảnh giả mạo là vấn đề "đáng báo động", đồng thời cho biết các công ty truyền thông xã hội cần có trách nhiệm ngăn chặn sự lan truyền của những thông tin sai lệch như vậy.

Hiệp hội Diễn viên Màn ảnh Mỹ (SAG-AFTRA) cũng đưa ra một tuyên bố về vấn đề này, viết: "Việc tạo ra và lan truyền những hình ảnh giả mạo, đặc biệt là những hình ảnh có tính chất khiêu dâm, mà không có sự đồng ý của ai đó phải bị coi là bất hợp pháp. Là một xã hội, chúng ta có quyền kiểm soát những công nghệ này, nhưng chúng ta phải hành động ngay trước khi quá muộn".

Từ lâu, vấn nạn hình ảnh khiêu dâm giả mạo của người nổi tiếng trên Internet vốn đã xuất hiện khi các phần mềm photoshop ra đời. Nhưng phải đến thời kỳ AI bùng nổ, mối lo ngại mới thực sự gia tăng do khả năng đáng kinh ngạc của công nghệ này trong việc tạo ra những hình ảnh giả mạo chân thực thuyết phục.

Tại Mỹ, chỉ có 9 tiểu bang hiện có luật chống lại việc tạo hoặc chia sẻ loại ảnh deepfake mà chưa được cho phép, vốn là những hình ảnh tổng hợp được tạo ra để bắt chước chân dung của một người, chủ yếu liên quan đến nội dung khiêu dâm và bầu cử. Tuy nhiên chưa có quy định rõ ràng về tác động của AI. 

Hoài Phương (theo CNN, Reuters, Billboard)