Theo NewsGuard, tổ chức ở New York chuyên theo dõi thông tin sai lệch, AI đang đưa việc sản xuất và lan truyền tin giả lên cấp độ mới, khi có thể tạo nội dung sai lệch về bầu cử, chiến tranh, thiên tai với tốc độ nhanh và khó phân biệt với thông tin thật. Kể từ tháng 5, các website chứa bài viết sai sự thật do AI tạo đã tăng hơn 1.000%, từ 49 trang lên hơn 600 trang.
Trước đây, nội dung rác hoặc sai lệch thường được tạo bởi cá nhân hoặc tổ chức cho mục đích nhất định. Tuy nhiên, chỉ cần nhập một vài yêu cầu đơn giản lên các mô hình AI tạo sinh như ChatGPT, giờ đây ai cũng có thể tạo ra các nội dung mà người dùng phổ thông sẽ khó phân biệt với tin tức thực tế.
Người dùng có thể phát hiện nội dung AI thông qua cách hành văn, nhất là phần “ngữ pháp kỳ quặc” hoặc lỗi về cấu trúc câu. Tuy nhiên, công cụ hiệu quả nhất là nâng cao hiểu biết và có thói quen kiểm tra thêm thông tin từ nguồn chính thống thay vì chỉ tin vào một nguồn duy nhất.
