Tại sự kiện Google I/O 2024, công ty đã giới thiệu tính năng Tổng quan AI (trước đây được gọi là SGE – Trải nghiệm Tìm kiếm Sáng tạo) cho tất cả người dùng tại Hoa Kỳ. Tuy nhiên, chỉ sau một ngày ra mắt, nhiều người dùng đã bắt đầu than phiền về chất lượng và độ chính xác của các câu trả lời do AI tạo ra trong kết quả tìm kiếm. Cộng đồng người dùng Google Tìm kiếm tràn ngập các câu hỏi và thảo luận về cách tắt tính năng Tổng quan AI, cho thấy sự không hài lòng của họ với tính năng mới này.
Nhiều câu trả lời của Tổng quan AI đã gây ra sự hiểu lầm, thiếu chính xác và thậm chí có thể gây nguy hiểm cho người dùng. Ví dụ, khi được hỏi về cách làm cho phô mai không dính vào đế bánh pizza, AI đã đề xuất thêm “keo dán không độc hại” vào xốt, dựa trên một bình luận trên Reddit từ 11 năm trước.
Trong một trường hợp khác, khi một người dùng hỏi về cách đi qua cơn đau do sỏi thận, Tổng quan AI đã khuyên họ nên “uống ít nhất 2 lít nước tiểu mỗi 24 giờ”, một lời khuyên vô cùng sai lầm và nguy hiểm.
Đáng lo ngại hơn, khi một người dùng tìm kiếm thông tin về bệnh trầm cảm, Tổng quan AI đã trích dẫn một đề xuất đáng sợ từ Reddit rằng họ nên “nhảy xuống Cầu Cổng Vàng”.
Điều này cho thấy rõ ràng rằng không thể thay thế hoàn toàn công cụ tìm kiếm truyền thống bằng các mô hình ngôn ngữ lớn (LLM) như Tổng quan AI, vì chúng chỉ đưa ra phỏng đoán dựa trên dữ liệu huấn luyện mà không thực sự hiểu ý nghĩa và hàm ý của từ ngữ.
Các vấn đề khác của Tổng quan AI bao gồm việc đề xuất ăn “ít nhất một viên đá nhỏ mỗi ngày” và khẳng định sai rằng cựu Tổng thống Barack Obama là Tổng thống Hồi giáo đầu tiên của Hoa Kỳ (trên thực tế, ông là một Cơ đốc nhân Tin lành).
Vấn đề cơ bản của Tổng quan AI nằm ở sự chuyển đổi vai trò của Google từ một công cụ tìm kiếm thuần túy sang một nhà xuất bản nội dung. Trước đây, Google chỉ đóng vai trò truy xuất và hiển thị các trang web và nội dung liên quan đến truy vấn của người dùng.
Tuy nhiên, với việc triển khai Tổng quan AI, Google giờ đây phải chịu trách nhiệm trực tiếp về tính chính xác và độ tin cậy của thông tin do AI tạo ra. Điều này có thể dẫn đến sự lan truyền của thông tin sai lệch, tin đồn và thậm chí là các lý thuyết âm mưu, gây ảnh hưởng tiêu cực đến trải nghiệm và niềm tin của người dùng.
