Nội dung rác từ AI không chỉ làm bảng tin trên các mạng xã hội rối loạn mà còn đang là vấn đề đau đầu với đội ngũ quản lý chất lượng thị trường tại TikTok Shop và nhiều nền tảng thương mại điện tử khác.
Theo Nicolas Waldmann, trưởng nhóm quản trị và quan hệ đối ngoại của TikTok Shop, nhiều người bán hàng gian lận đang dùng công cụ AI tạo sinh để tạo thương hiệu hoặc sản phẩm giả, khiến người dùng trả tiền cho những hàng hóa không thực sự tồn tại.
Về cơ bản, họ tìm cách đăng bán, nhưng dĩ nhiên không bao giờ giao hàng, sau đó ôm tiền bỏ trốn. Hình thức gian lận thương mại điện tử này đã tồn tại nhiều năm, nhưng AI tạo sinh khiến thủ đoạn của kẻ xấu trở nên tinh vi hơn, khó bị đội ngũ kiểm duyệt trên các nền tảng như TikTok Shop hay Amazon phát hiện.
Trong báo cáo mới công bố tuần này, TikTok thông báo đã từ chối 70 triệu sản phẩm và loại 700.000 người bán vì nhiều vi phạm chính sách khác nhau trong 6 tháng đầu năm 2025.

Kẻ lừa đảo dùng công cụ AI tạo sinh để tạo thương hiệu và sản phẩm giả, khiến TikTok phải tăng cường kiểm duyệt bằng cả AI lẫn con người.