“Đúng, đó là giả", Tiến sĩ Huberman đã viết trên Twitter sau khi xem quảng cáo, trong đó ông có vẻ ca ngợi tiềm năng tăng cường testosterone của cà phê, mặc dù ông chưa bao giờ làm vậy.

Đoạn quảng cáo trên TikTok được cho là do AI thực hiện.

Deepfake - Công nghệ giả dạng khuôn mặt

Quảng cáo này là một trong số ngày càng nhiều video giả mạo trên mạng xã hội được thực hiện bằng công nghệ deepfake. Các chuyên gia cho biết giọng nói của ông Rogan dường như đã được tổng hợp bằng AI thông qua các công cụ bắt chước giọng nói của người nổi tiếng.

Trước đây, deepfake từng yêu cầu các phần mềm phức tạp để ghép khuôn mặt của người này vào người khác. Nhưng giờ đây, với AI và nhiều công cụ tương tự có sẵn, thì ngày cả những người bình thường cũng có thể thực hiện được sự giả mạo tinh vi này với chỉ một chiếc điện thoại thông minh và thường không tốn nhiều tiền.

Các video deepfake cho đến nay đã lan truyền chóng mặt trên các trang mạng xã hội như TikTok và Twitter. Nội dung mà họ sản xuất, đôi khi được các nhà nghiên cứu gọi là hàng nhái rẻ tiền, hoạt động bằng cách sao chép giọng nói của người nổi tiếng, thay đổi cử động miệng để phù hợp với âm thanh thay thế và lồng ghép nội dung.

Các nhà nghiên cứu có bằng chứng để lo lắng về sự nguy hiểm của các AI và đã làm dấy lên những lo ngại mới về việc liệu các công ty truyền thông xã hội có sẵn sàng kiểm duyệt các nội dung deepfake hay không.

Các cơ quan giám sát thông tin sai lệch cũng đang chuẩn bị sẵn sàng cho làn sóng giả mạo kỹ thuật số có thể đánh lừa người xem hoặc khiến việc nhận biết điều gì là đúng hay sai trên mạng trở nên khó khăn hơn.

“Điều khác biệt là bây giờ mọi người đều có thể làm được các video deepfake này", bà Britt Paris, giáo sư khoa học thông tin tại Đại học Rutgers, cho biết. “Chỉ với vài đô la, một người dùng bình thường đã có thể lồng ghép mặt của bất kỳ ai vào bất kỳ video nào ngay trên điện thoại di động".

Hàng loạt nội dung bị thao túng đã lan truyền trên TikTok và các nơi khác trong nhiều năm, thường sử dụng nhiều thủ thuật đơn giản hơn như chỉnh sửa biên tập hoặc hoán đổi clip âm thanh. Trong một video trên TikTok, Phó Tổng thống Kamala Harris dường như nói rằng tất cả những người nhập viện vì COVID-19 đều đã được tiêm phòng. Trên thực tế, bà đã nói rằng các bệnh nhân chưa được tiêm phòng.

Thậm chí vào tháng trước, một video giả mạo được lan truyền cho thấy Tổng thống Mỹ Joe Biden tuyên bố một dự thảo quốc gia cho cuộc chiến giữa Nga và Ukraine.

Tuy nhiên, trong một phân đoạn giải thích về video, Jack Posobiec, một người nổi tiếng với việc truyền bá thuyết âm mưu, cho biết nhóm “Human Events Daily” của anh ta đã tạo ra video kể trên bằng công nghệ AI!

Mạng xã hội nào cũng có

Nhiều video clip có giọng nói tổng hợp dường như sử dụng công nghệ từ ElevenLabs, một công ty khởi nghiệp của Mỹ do một cựu kỹ sư của Google đồng sáng lập. Vào tháng 11, công ty đã ra mắt một công cụ sao chép giọng nói có thể được huấn luyện để tái tạo giọng nói trong vài giây.

ElevenLabs đã thu hút sự chú ý vào tháng trước sau khi 4chan, một bảng tin nổi tiếng với nội dung phân biệt chủng tộc và thuyết âm mưu, đã sử dụng công cụ này để chia sẻ các thông điệp thù địch. Trong một ví dụ, người dùng 4chan đã tạo bản ghi âm của văn bản bài Do Thái bằng giọng nói do máy tính tạo ra bắt chước diễn viên Emma Watson. 

ElevenLabs cho biết trên Twitter rằng họ sẽ giới thiệu các biện pháp bảo vệ mới, chẳng hạn như hạn chế sao chép giọng nói đối với các tài khoản trả phí và cung cấp công cụ phát hiện AI. Nhưng người dùng 4chan cho biết họ sẽ tạo phiên bản công nghệ nhân bản giọng nói của riêng mình bằng cách sử dụng mã nguồn mở.

Trong một email, người phát ngôn của ElevenLabs cho biết công ty đang tìm cách hợp tác với các công ty AI khác để tạo ra một hệ thống phát hiện phổ quát có thể được áp dụng trong toàn ngành.

Chính sách của TikTok nghiêm cấm hành vi giả mạo kỹ thuật số “khiến người dùng hiểu lầm bằng cách bóp méo sự thật về các sự kiện và gây tổn hại đáng kể cho chủ thể của video, người khác hoặc xã hội”. Một số video đã bị xóa sau khi bị báo cáo. Twitter cũng đã xóa một số video.

Người phát ngôn của TikTok cho biết công ty đã sử dụng “sự kết hợp giữa công nghệ và sự kiểm duyệt của con người để phát hiện và xóa” các video bị thao túng, nhưng từ chối giải thích chi tiết về các phương pháp của họ.

Nhiều công ty truyền thông xã hội, bao gồm Meta và Twitch, đã cấm deepfake và các video thao túng đánh lừa người dùng. Meta, công ty sở hữu Facebook và Instagram, đã tổ chức một cuộc thi vào năm 2021 để phát triển các chương trình có khả năng xác định deepfake, dẫn đến một công cụ có thể phát hiện ra chúng với độ chính xác khoảng 83%.

Thậm chí, một luật liên bang của Mỹ từ năm 2019 còn đã yêu cầu báo cáo về việc vũ khí hóa deepfake từ bên ngoài, yêu cầu các cơ quan chính phủ thông báo cho Quốc hội Mỹ nếu deepfake nhắm mục tiêu vào các cuộc bầu cử Mỹ, đồng thời tạo ra một giải thưởng để khuyến khích phát triển các công cụ phát hiện deepfake.

Hoàng Tôn (theo NYT)