Deepfake đang làm gia tăng vấn nạn video và quảng cáo giả tạo

(CLO) Ngày càng có nhiều deepfake cũng như các định dạng thông tin khác do trí tuệ nhân tạo (AI) tạo ra đang lan truyền trực tuyến. Hiện, những kẻ lừa đảo đã nhanh chóng ứng dụng các công cụ mới để tạo ra các chiêu trò lừa đảo tinh vi hơn.

Hiện đang có sự gia tăng nhanh chóng của các video lừa đảo quảng cáo các cơ hội đầu tư trên toàn thế giới. Những kẻ lừa đảo thường sử dụng các quảng cáo lồng ghép giả tạo hình ảnh của những người nổi tiếng để hút sự chú ý, nhằm phục vụ cho các ý đồ xấu.

deepfake dang lam gia tang van nan video va quang cao gia tao hinh 1

Một video deepfake giả mạo cuộc phỏng vấn với Elon Musk. Ảnh: CNA

Bài liên quan

Chủ tịch Microsoft: 'Deepfake' là mối quan tâm lớn nhất của AI

Deepfake khiêu dâm, vấn nạn trong cuộc đua AI

TikTok cấm deepfake do những nguyên tắc mới

Các nhà báo cần hiểu về deepfake và cách chống lại chúng

Trong một bài báo gần đây, hãng tin CNA của Singapore cho thấy những kẻ lừa đảo đã làm giả một video về việc phát thanh viên Loke Wei Sue của hãng tin này "phỏng vấn" với CEO Elon Musk của Tesla. Các hình ảnh của phóng viên và ông Musk hoàn toàn giả tạo, khi đều bị cắt ghép và lồng tiếng.

Video deepfake đang được chạy dưới dạng quảng cáo trên YouTube. Khi được hỏi về video giả tạo về "cuộc phỏng vấn" này, một phát ngôn viên của YouTube cho biết nền tảng này có các nguyên tắc cộng đồng, nêu rõ các loại nội dung không được phép, bao gồm các chính sách rõ ràng về thông tin sai lệch và spam, các hành vi lừa đảo và lừa đảo.

“Chúng tôi hiện đang xem xét vấn đề và sẽ hành động đối với nội dung vi phạm các chính sách này”, người phát ngôn nói thêm.

Chất lượng của các video deepfake có xu hướng kém hơn bình thường để che dấu các dấu hiệu thao túng. Giám đốc của Trend Micro tại Singapore, ông David Ng nói rằng người xem nên chú ý đến những điểm bất thường trong hình ảnh và âm thanh. Điều này có thể bao gồm các cử động khuôn mặt không điển hình hoặc các kiểu chớp mắt và các chỉnh sửa đáng chú ý xung quanh khuôn mặt.

Người xem cũng nên nhìn kỹ để xem âm thanh có khớp với chuyển động của môi hay không. Phó giáo sư Terence Sim của Đại học Quốc gia Singapore (NUS) nhấn mạnh âm thanh không nhất quán là dấu hiệu nhận biết video bị thao túng, đồng thời lưu ý đến sự thay đổi giọng nói đối với âm thanh.

PGS Sim cho biết các dấu hiệu nhận biết video deepfake thường thuộc ba loại: Các dấu hiệu vật lý, đặc điểm ngôn ngữ và nội dung.

Ông cho biết, các dấu hiệu vật lý có thể bao gồm các khiếm khuyết về hình ảnh hoặc trục trặc trong video. Đối với các đặc điểm ngôn ngữ, ông trích dẫn ví dụ về việc trong video nêu trên, tỷ phú Musk rời mắt khỏi máy quay và có biểu hiện liệt kê thông tin thay vì nghĩ về một câu trả lời như người bình thường sẽ làm.

Ngoài ra, một đặc điểm khác là ngôn từ của ông Musk. Tại một thời điểm trong video, ông Musk nói mình "đang làm việc cho công ty này". PGS Sim lưu ý “bạn không nói điều này nếu bạn là chủ sở hữu” của doanh nghiệp.

Vậy bạn nên làm gì khi gặp một video deepfake hoặc đáng ngờ? Bạn nên báo cáo nó với nền tảng đó.

YouTube cho biết họ dựa vào sự kết hợp giữa con người và công nghệ để thực thi các nguyên tắc cộng đồng của mình. “Cộng đồng YouTube đóng một vai trò quan trọng trong việc gắn cờ nội dung mà họ cho là không phù hợp", tuyên bố nói.

Hoàng Tôn (theo CNA)

Xem thêm

Google lại bị phạt 1 tỷ USD vì độc quyền

Google lại bị phạt 1 tỷ USD vì độc quyền

(CLO) Ủy ban châu Âu ngày 23/7 thông báo phạt Google 890 triệu euro (khoảng 1 tỷ USD) vì vi phạm Đạo luật Thị trường Kỹ thuật số (DMA), cáo buộc hãng công nghệ Mỹ lạm dụng vị thế thống lĩnh để ưu tiên các dịch vụ của mình và gây bất lợi cho đối thủ.

Google Cloud tăng trưởng bùng nổ nhờ AI

Google Cloud tăng trưởng bùng nổ nhờ AI

(CLO) Alphabet, công ty mẹ của Google, vừa công bố báo cáo thu nhập mới nhất cho thấy sự tăng trưởng mạnh mẽ, phần nào giải tỏa nỗi lo của các nhà đầu tư về việc liệu những khoản chi tiêu khổng lồ cho trí tuệ nhân tạo (AI) có thực sự mang lại lợi ích hay không.

Doanh nghiệp Việt muốn bứt phá phải biết dùng AI, không thể mãi cạnh tranh bằng giá

Doanh nghiệp Việt muốn bứt phá phải biết dùng AI, không thể mãi cạnh tranh bằng giá

(CLO) Trong kỷ nguyên AI, lợi thế của doanh nghiệp không còn nằm ở quy mô hay giá bán mà ở khả năng đổi mới sáng tạo, tạo ra giá trị khác biệt và thấu hiểu khách hàng. Đây là nhận định được các chuyên gia đưa ra tại Diễn đàn Chiến lược Kinh doanh "The Future of Business" diễn ra tại TP.HCM chiều 22/7.

Trung Quốc phát triển AI 'đọc' dark web, phát hiện nội dung phạm pháp

Trung Quốc phát triển AI 'đọc' dark web, phát hiện nội dung phạm pháp

(CLO) Các nhà nghiên cứu thuộc Đại học Cảnh sát Điều tra Hình sự Trung Quốc đã phát triển một hệ thống trí tuệ nhân tạo (AI) có khả năng thu thập và phân tích nội dung trên dark web bằng tiếng Trung, nhằm hỗ trợ phát hiện các hoạt động phạm pháp trên không gian mạng.

Meta hầu tòa vì cáo buộc Instagram gây nghiện

Meta hầu tòa vì cáo buộc Instagram gây nghiện

(CLO) Meta Platforms sẽ phải hầu tòa tại bang Tennessee (Mỹ) vào ngày 20/7 để đối mặt với cáo buộc Instagram được thiết kế theo cách "gây nghiện" cho thanh thiếu niên, làm trầm trọng thêm cuộc khủng hoảng sức khỏe tâm thần ở giới trẻ.

Google thua kiện vụ quảng cáo cờ bạc trên YouTube

Google thua kiện vụ quảng cáo cờ bạc trên YouTube

(CLO) Google đã thất bại trong nỗ lực hủy khoản phạt 750.000 euro liên quan đến các video quảng cáo cờ bạc trên nền tảng YouTube, sau khi Tòa án Công lý Liên minh châu Âu (CJEU) ra phán quyết có lợi cho cơ quan quản lý truyền thông của Ý.

Mạng xã hội X điều chỉnh thuật toán, giúp 'bạn bè' gắn kết hơn

Mạng xã hội X điều chỉnh thuật toán, giúp 'bạn bè' gắn kết hơn

(CLO) Giám đốc sản phẩm của mạng xã hội X, Nikita Bier, ngày 13/7 đã thông báo về một sự thay đổi quan trọng trong cách hiển thị nội dung trên nền tảng này nhằm mục đích tăng khả năng hiển thị các bài đăng từ những người dùng có mối quan hệ hai chiều, tức những tài khoản theo dõi lẫn nhau.

Apple kiện OpenAI với cáo buộc đánh cắp bí mật thương mại

Apple kiện OpenAI với cáo buộc đánh cắp bí mật thương mại

(CLO) Ngày 10/7, Apple đã đệ đơn kiện OpenAI cùng một số cựu nhân viên lên Tòa án Quận Bắc California (Mỹ), cáo buộc công ty này tiến hành một chiến dịch có hệ thống nhằm chiếm đoạt bí mật thương mại về phần cứng để phục vụ tham vọng phát triển thiết bị tiêu dùng.

OpenAI chính thức phát hành mô hình GPT-5.6 mới

OpenAI chính thức phát hành mô hình GPT-5.6 mới

(CLO) Ngày 9/7, OpenAI chính thức phát hành dòng mô hình GPT-5.6 gồm ba phiên bản Sol, Terra và Luna. Đây là lần đầu tiên công ty từ bỏ cách đặt tên bằng số để chuyển sang các tên gọi mới nhằm giúp người dùng dễ phân biệt cấp độ hiệu năng và chi phí giữa các mô hình.

Cỡ chữ bài viết: