Phát hiện hàng trăm trang web dùng AI để sản xuất tin tức sai lệch

Nội dung AI gây hiểu lầm bao gồm các sự kiện bịa đặt, lời khuyên y tế và trò lừa bịp về cái chết của người nổi tiếng, làm dấy lên mối lo ngại mới rằng công nghệ này có thể làm xấu hơn vấn nạn thông tin sai lệch trực tuyến.

phat hien hang tram trang web dung ai de san xuat tin tuc sai lech hinh 1

Mối lo ngại về việc các trang web trôi nổi sử dụng AI để đưa tin giả đã trở thành hiện thực. Ảnh minh họa: GI

Hai báo cáo được phát hành riêng biệt bởi NewsGuard, một công ty theo dõi thông tin sai lệch trực tuyến và ShadowDragon, một công ty cung cấp tài nguyên và đào tạo cho các cuộc điều tra kỹ thuật số.

Steven Brill, CEO của NewsGuard, cho biết trong một tuyên bố: “Độc giả ngày càng ít tin tưởng vào các nguồn tin tức một phần là do không phân biệt được đâu là nguồn tin đáng tin cậy và ngược lại. Làn sóng mới của các trang web do AI tạo ra này sẽ chỉ khiến độc giả khó biết ai đang cung cấp tin tức cho họ hơn, làm giảm thêm lòng tin” .

NewsGuard đã xác định được 125 trang web, từ loại hình tin tức đến thông tin lối sống và được xuất bản bằng 10 ngôn ngữ, với nội dung được viết hoàn toàn hoặc chủ yếu bằng các công cụ AI.

Các trang web bao gồm một cổng thông tin y tế mà NewsGuard cho biết đã xuất bản hơn 50 bài báo do AI tạo ra để đưa ra lời khuyên y tế.

NewsGuard cho biết các trang web thường tràn ngập quảng cáo, cho thấy nội dung không trung thực được tạo ra để "câu view" lấy quảng cáo cho chủ sở hữu trang web, những người thường hoàn toàn giấu mặt.

Nội dung không xác thực cũng được ShadowDragon tìm thấy trên các trang web và mạng xã hội, bao gồm cả trên Instagram và trong các bài đánh giá của Amazon. Công ty cũng chỉ ra một số tài khoản Instagram dường như sử dụng ChatGPT hoặc các công cụ AI khác để viết mô tả dưới hình ảnh và video.

Để tìm các ví dụ, các nhà nghiên cứu đã tìm ra các thông tin sai lệch rõ ràng và các câu trả lời soạn sẵn thường do các công cụ AI tạo ra. Một số trang web thậm chí vẫn còn quên chưa xóa thông tin do AI cảnh báo nội dung của nó đưa ra sau khi được yêu cầu viết bài chứa thông tin sai lệch hoặc độc hại.

ShadowDragon đã tìm thấy những tin nhắn như vậy trên mạng xã hội việc làm LinkedIn, trong các bài đăng trên Twitter và nhiều mạng xã hội khác. Một số bài đăng trên Twitter đã được xuất bản bởi các bot, chẳng hạn như ReplyGPT, để tự động trả lời các bình luận của người dùng.

Hoàng Hải (theo NewsGuard, NYT)

Xem thêm

Nguy cơ ảo tưởng hiểu biết khi dùng AI

Nguy cơ ảo tưởng hiểu biết khi dùng AI

(CLO) Giáo sư Trung Quốc Yi Mou cảnh báo AI có thể khiến người dùng ảo tưởng về hiểu biết của bản thân nếu thiếu kỹ năng kiểm chứng thông tin và tư duy độc lập.

FBI bắt kỹ sư OpenAI bị cáo buộc nghe lén lãnh đạo

FBI bắt kỹ sư OpenAI bị cáo buộc nghe lén lãnh đạo

(CLO) Ngày 9/10, FBI đã bắt Abdulrahman Alfozan, 35 tuổi, kỹ sư người Ả Rập Xê Út làm việc tại OpenAI ở San Francisco (Mỹ) với cáo buộc cài thiết bị ghi âm trái phép trong phòng họp điều hành của công ty.

CEO Microsoft đề xuất cơ chế 'phanh khẩn cấp' cho các mô hình AI

CEO Microsoft đề xuất cơ chế 'phanh khẩn cấp' cho các mô hình AI

(CLO) CEO Microsoft Satya Nadella cho rằng các hệ thống trí tuệ nhân tạo (AI) cần có cơ chế cho phép con người tạm dừng hoặc tắt mô hình ngay giữa quá trình thực hiện nhiệm vụ, trong bối cảnh các công ty công nghệ ngày càng ghi nhận sự cố mất kiểm soát AI.

Ý điều tra công ty âm nhạc AI Suno

Ý điều tra công ty âm nhạc AI Suno

(CLO) Cơ quan chống độc quyền của Ý đã mở cuộc điều tra đối với Suno, công ty phát triển nền tảng tạo nhạc bằng AI, do nghi ngờ một số điều khoản dịch vụ có thể gây bất lợi cho người tiêu dùng.

Na Uy đề xuất cấm tạm thời kính AI tại nơi công cộng

Na Uy đề xuất cấm tạm thời kính AI tại nơi công cộng

(CLO) Chính phủ Na Uy ngày 5/10 cho biết đang lên kế hoạch đề xuất lệnh cấm tạm thời sử dụng một số loại kính thông minh có camera và AI tại những nơi công cộng. Động thái này xuất phát từ lo ngại công nghệ mới có thể xâm phạm quyền riêng tư của người dân.

Cựu kỹ sư OpenAI cảnh báo các công ty AI chưa đủ an toàn

Cựu kỹ sư OpenAI cảnh báo các công ty AI chưa đủ an toàn

(CLO) Một cựu kỹ sư an toàn của OpenAI cảnh báo các công ty trí tuệ nhân tạo (AI) đang phát triển công nghệ quá nhanh và chưa áp dụng các biện pháp an toàn cần thiết, chỉ vài ngày sau khi Tổng thống Mỹ Donald Trump công bố thỏa thuận tự nguyện với 6 công ty AI lớn.

Cỡ chữ bài viết: