Những ngày gần đây, vô số người dùng X và Grok đã yêu cầu chatbot của xAI tạo hình ảnh khỏa thân của phụ nữ, thậm chí cả trẻ vị thành niên, dựa trên những bức ảnh được đăng công khai trên X.
Mặc dù ban đầu xAI gọi đây là “sơ hở trong biện pháp bảo vệ,” Grok vẫn tiếp tục đáp ứng nhiều yêu cầu chỉnh sửa hình ảnh theo kiểu này. Hệ quả là X bị chặn ở một số quốc gia, còn xAI trở thành đối tượng điều tra tại nhiều nơi khác.
Trong bối cảnh đó, Apple đang chịu áp lực ngày càng lớn phải gỡ bỏ ứng dụng X và Grok khỏi App Store. Sáng nay, liên minh 28 tổ chức đã gửi thư ngỏ tới Apple và Google, yêu cầu cả hai gã khổng lồ công nghệ hành động ngay để cấm Grok khỏi cửa hàng ứng dụng.
Thư ngỏ nêu rõ Grok đang bị lạm dụng để tạo ra khối lượng lớn hình ảnh thân mật không có sự đồng thuận, bao gồm cả tài liệu lạm dụng tình dục trẻ em, nội dung vừa là hành vi phạm tội hình sự vừa vi phạm trực tiếp chính sách của Apple. Liên minh cáo buộc Apple không chỉ đang tạo điều kiện cho những nội dung này mà còn thu lợi từ chúng, và kêu gọi công ty khẩn cấp gỡ cả Grok và X khỏi App Store.
Grok sẽ ngừng chỉnh sửa ảnh nhưng chỉ đến một mức độ nhất định
Trong khi Apple và Google phần lớn vẫn giữ im lặng, dẫn đến làn sóng chỉ trích gay gắt cũng như đồn đoán rằng họ e ngại chọc giận Elon Musk hay thậm chí Tổng thống Trump, xAI đã chính thức xác nhận hôm nay về việc cập nhật Grok để giải quyết vấn đề, ít nhất là một phần.
Theo thông báo, các biện pháp công nghệ đã được triển khai để ngăn Grok chỉnh sửa hình ảnh người thật trong trang phục gợi cảm. Hạn chế này áp dụng cho tất cả người dùng, kể cả người đăng ký trả phí. Ngoài ra, việc tạo và chỉnh sửa ảnh giờ đây chỉ khả dụng với người đăng ký trả phí, nhằm đảm bảo những cá nhân lạm dụng có thể bị truy cứu trách nhiệm.
xAI cũng thông báo đã áp dụng chặn theo địa lý khả năng tạo hình ảnh người thật mặc bikini, đồ lót và trang phục tương tự tại những khu vực pháp lý nơi hành vi này là bất hợp pháp.
Không có gì ngạc nhiên, nhiều người đăng ký X đã ngay lập tức cố gắng vượt qua các hạn chế mới, và một số đã thành công. Đồng thời, người dùng chưa đăng ký chủ yếu nhận được thông báo rằng các tính năng này hiện chỉ dành cho người đăng ký Premium đã xác minh.
