Deepfake là các video và hình ảnh được tạo ra hoặc thay đổi kỹ thuật số bằng trí tuệ nhân tạo (AI) hoặc học máy (ML). Nội dung khiêu dâm được tạo bằng công nghệ lần đầu tiên bắt đầu lan truyền trên internet vài năm trước khi một người dùng Reddit chia sẻ các clip khiêu dâm giả với gương mặt của những người nổi tiếng.

Ai cũng có thể trở thành nạn nhân

Kể từ đó, những người tạo deepfake đã liên tục đăng tải các video và hình ảnh tương tự nhắm mục tiêu đến những người có ảnh hưởng trực tuyến, nhà báo và những người khác có hồ sơ công khai. Hàng ngàn video như vậy tồn tại trên rất nhiều trang web.

Với việc các công nghệ AI ngày càng dễ tiếp cận, điều này cho phép người dùng biến bất kỳ ai họ muốn thành những "ngôi sao phim kiêu dâm" mà không cần sự đồng ý của họ, hoặc nguy hiểm hơn là sử dụng công nghệ này để bôi nhọ hoặc tống tiền người khác.

Các chuyên gia cho biết vấn đề có thể trở nên tồi tệ hơn với sự phát triển của các công cụ AI tổng quát được đào tạo dựa trên hàng tỷ hình ảnh từ internet và tạo ra nội dung mới bằng cách sử dụng dữ liệu hiện có.

“Thực tế là công nghệ sẽ tiếp tục sinh sôi nảy nở, sẽ tiếp tục phát triển và sẽ tiếp tục trở nên dễ dàng và dễ tiếp cận hơn", Adam Dodge, người sáng lập EndTAB, một nhóm cung cấp các khóa đào tạo về lạm dụng công nghệ cho biết.  “Và chừng nào điều đó còn xảy ra, chắc chắn mọi người sẽ ... tiếp tục lạm dụng công nghệ đó để gây hại cho người khác, chủ yếu thông qua bạo lực tình dục trực tuyến, nội dung khiêu dâm deepfake và hình ảnh khỏa thân giả".

Cô Noelle Martin ở Perth, Australia, đã trải qua thực tế đó. Cô gái 28 tuổi này đã tìm thấy deepfake khiêu dâm của chính mình 10 năm trước khi một ngày nọ, vì tò mò, cô đã sử dụng Google để tìm kiếm hình ảnh của chính mình. Cho đến ngày nay, Martin nói rằng cô không biết ai đã tạo ra những hình ảnh hoặc video khiêu dâm giả mạo này. Cô nghi ngờ ai đó đã sử dụng các hình ảnh trên mạng xã hội của mình để tạo các video khiêu dâm.

Dù Martin đã cố gắng liên hệ với các trang web để loại bỏ các video này, nhưng nỗ lực là vô vọng. Một số không trả lời. Một số khác có gỡ xuống nhưng lại nhanh chóng đăng tải trở lại. “Bạn không thể thắng”, cô Martin nói. “Điều đó sẽ mãi mãi tồn tại trên Internet và có thể hủy hoại đời bạn".

Nỗ lực khắc phục của các công ty công nghệ

Một số mô hình AI cho biết họ đã hạn chế quyền truy cập vào các hình ảnh khiêu dâm.

OpenAI cho biết họ đã xóa nội dung khiêu dâm khỏi dữ liệu được sử dụng để đào tạo công cụ tạo hình ảnh DALL-E, điều sẽ hạn chế khả năng chúng bị sử dụng sai mục đích. Công ty cũng lọc các yêu cầu và cho biết họ chặn người dùng tạo hình ảnh AI của những người nổi tiếng và chính trị gia nổi tiếng. Midjourney, một mô hình khác, cũng chặn việc sử dụng một số từ khóa nhất định và khuyến khích người dùng gắn cờ các hình ảnh có vấn đề cho người kiểm duyệt.

Trong khi đó, Stability AI cũng đã tung ra một bản cập nhật ngăn người dùng tạo ra các hình ảnh nhạy cảm. Những thay đổi này xuất hiện sau các báo cáo rằng một số người dùng đang tạo ra những bức ảnh khỏa thân lấy cảm hứng từ người nổi tiếng bằng công nghệ này.

Người phát ngôn của Stability AI, Motez Bishara, cho biết bộ lọc sử dụng kết hợp các từ khóa và các kỹ thuật khác như nhận dạng hình ảnh để phát hiện ảnh khoả thân. Nhưng người dùng có thể thao tác phần mềm và tạo ra những gì họ muốn vì công ty đã phát hành mã mở cho ứng dụng này. 

Một số công ty truyền thông xã hội cũng đã thắt chặt các quy tắc để bảo vệ nền tảng của họ tốt hơn trước các tài liệu có hại.

Tháng trước, TikTok cho biết tất cả các nội dung deepfake hoặc bị thao túng phải được gắn nhãn để cho biết chúng là giả mạo hoặc bị thay đổi theo một cách nào đó. 

Nền tảng trò chơi Twitch gần đây cũng đã cập nhật các chính sách của mình về các hình ảnh deepfake sau khi một người phát trực tiếp nổi tiếng tên là Atrioc bị phát hiện mở một trang web khiêu dâm deepfake trên trình duyệt của mình trong một buổi phát trực tiếp vào cuối tháng 1.

Apple và Google cho biết gần đây họ đã xóa một ứng dụng khỏi các cửa hàng ứng dụng của mình vì chạy các video deepfake gợi dục để tiếp thị sản phẩm.

Từ ca sỹ phương Tây đến thần tượng K-pop.

Nghiên cứu về deepfake khiêu dâm không phổ biến, nhưng một báo cáo do công ty AI DeepTrace Labs công bố vào năm 2019 cho thấy nó gần như hoàn toàn được vũ khí hóa để chống lại phụ nữ. Các đối tượng bị nhắm mục tiêu nhiều nhất là các nữ diễn viên phương Tây, tiếp theo là các ca sĩ K-pop.

Người phát ngôn của Meta, Dani Lever, cho biết trong một tuyên bố rằng chính sách của công ty hạn chế cả nội dung người lớn do AI và không phải AI tạo ra, đồng thời hạn chế trang của ứng dụng tạo deepfake quảng cáo trên nền tảng của mình.

Vào tháng 2, Meta, cũng như các trang web dành cho người lớn như Only**** và Porn***, bắt đầu tham gia vào một công cụ trực tuyến có tên là Take It Down, cho phép thanh thiếu niên báo cáo các hình ảnh và video khiêu dâm của chính họ từ internet. Trang web này hỗ trợ xử lý cả các video quay lén cũng như các video do AI tạo ra.

Hoàng Tôn (theo AP)