Chính phủ Indonesia vừa ra quyết định tạm thời đình chỉ quyền truy cập vào chatbot AI Grok của công ty xAI. Động thái này nhằm bảo vệ cộng đồng, đặc biệt là phụ nữ và trẻ em, trước những rủi ro từ nội dung khiêu dâm và deepfake do AI tạo ra. Bộ trưởng Truyền thông và Kỹ thuật số Indonesia khẳng định việc tạo nội dung giả mạo mang tính tình dục mà không có sự đồng thuận là hành vi vi phạm nghiêm trọng quyền con người và an ninh không gian số.
Trước áp lực từ dư luận, xAI đã thông báo hạn chế tính năng tạo và chỉnh sửa ảnh, đồng thời chỉ cung cấp các tính năng này cho người dùng trả phí nhằm khắc phục lỗ hổng bảo mật. Elon Musk, CEO của xAI, cũng cảnh báo người dùng sẽ phải chịu trách nhiệm pháp lý nếu sử dụng Grok để tạo nội dung bất hợp pháp.
Với dân số theo Hồi giáo lớn nhất thế giới, Indonesia áp dụng các quy định cực kỳ nghiêm ngặt đối với nội dung khiêu dâm trực tuyến. Việc chặn Grok được coi là bước đi quyết liệt của quốc gia này để kiểm soát sự “dễ dãi” của AI trong việc tạo ra các hình ảnh nhạy cảm thiếu kiểm duyệt.
