Mặt trái của việc lạm dụng chatbot AI:
Với khả năng thiết kế trả lời câu hỏi và nhập vai rất tuyệt vời chatbot AI có thể đánh lừa, thao túng con người hay lan truyền thông tin sai lệch.
Một nghiên cứu trên tạp chí Nature Human Behaviour hôm 19/5 cho thấy, chatbot có sức thuyết phục cao hơn con người trong các cuộc tranh luận trực tuyến, đặc biệt là khi chúng có thể cá nhân hóa lập luận của mình dựa vào thông tin về đối thủ.
Hay như, Nghiên cứu của công ty AI Anthropic năm ngoái cho thấy, chatbot Claude 3 thuyết phục nhất khi được phép thêu dệt thông tin và lừa dối. Vì không có sự ức chế đạo đức, chatbot AI có khả năng lừa dối tốt hơn con người.
Tính người của AI không phải hoàn toàn xấu. Khả năng thuyết phục của chúng có thể phục vụ mục đích tốt như chống lại các thuyết âm mưu hoặc khuyến khích người dùng thực hiện hành vi xã hội tích cực. Tuy nhiên, thế giới cần những giải pháp hiệu quả cho mọi quá trình, từ thiết kế, phát triển đến triển khai và sử dụng chatbot nhằm ngăn chặn tác động tiêu cực của chúng.