Mới đây, Google đã phải xóa bỏ hàng loạt bản tóm tắt sức khỏe trên tính năng AI Overviews sau khi bị tờ Guardian cáo buộc cung cấp thông tin sai lệch nghiêm trọng. Cuộc điều tra cho thấy công cụ này đã đưa ra những lời khuyên y tế nguy hiểm, chẳng hạn như hướng dẫn bệnh nhân ung thư tuyến tụy tránh thực phẩm béo – điều hoàn toàn trái ngược với khuyến nghị chuyên môn và có thể làm tăng nguy cơ tử vong do suy dinh dưỡng.
Ngoài ra, AI của Google còn gây nhầm lẫn khi cung cấp các chỉ số xét nghiệm máu và chức năng gan thiếu ngữ cảnh về độ tuổi, giới tính hay chủng tộc. Điều này khiến người bệnh nghiêm trọng lầm tưởng mình khỏe mạnh và bỏ lỡ thời điểm điều trị vàng. Dù Google khẳng định có đội ngũ chuyên gia kiểm chứng, nhưng giới y khoa quốc tế vẫn bày tỏ lo ngại sâu sắc về tính chính xác của các thuật toán Gemini.
Trong bối cảnh 80% người trưởng thành có thói quen tra cứu triệu chứng trực tuyến, các chuyên gia cảnh báo người dùng không nên tin tưởng tuyệt đối vào trí tuệ nhân tạo.
