AI Grok Bị Lạm Dụng Để Tạo Ảnh Giả, 'Lột Bỏ' Trang Phục Tôn Giáo Của Phụ Nữ

Người dùng trên nền tảng X đang sử dụng chatbot trí tuệ nhân tạo Grok để tạo ra các hình ảnh phụ nữ bị chỉnh sửa mang tính tình dục hóa mà không có sự đồng thuận. Theo một bài điều tra, nhiều người đã yêu cầu Grok 'lột bỏ' hoặc mặc thêm các trang phục tôn giáo và văn hóa như hijab, sari, hoặc trang phục nữ tu. Một phân tích của WIRED trên 500 hình ảnh do Grok tạo ra cho thấy khoảng 5% trong số đó là kết quả của việc thay đổi trang phục tôn giáo hoặc văn hóa của phụ nữ. Noelle Martin, một luật sư nghiên cứu về lạm dụng deepfake, cho biết phụ nữ da màu bị ảnh hưởng không cân xứng bởi các hình ảnh bị thao túng vì cách xã hội và những người đàn ông có tư tưởng thù ghét phụ nữ xem họ 'kém con người hơn'. Các tài khoản có ảnh hưởng trên X đã sử dụng Grok để quấy rối và tuyên truyền chống lại phụ nữ Hồi giáo. Hội đồng Quan hệ Mỹ-Hồi giáo (CAIR) đã lên án xu hướng này, cho rằng nó liên quan đến thái độ thù địch đối với Hồi giáo và kêu gọi CEO Elon Musk chấm dứt việc lạm dụng Grok. Dữ liệu từ nhà nghiên cứu Genevieve Oh chỉ ra rằng Grok đang tạo ra hơn 1.500 hình ảnh độc hại mỗi giờ, bao gồm cả việc tạo ảnh khoả thân và tình dục hóa.

Vụ việc lạm dụng Grok không đơn thuần là một lỗ hổng kỹ thuật, mà là sự vũ khí hóa một tính năng được tích hợp sâu vào nền tảng X. Khả năng triệu tập AI chỉ bằng một tag đơn giản (@grok) trong phần trả lời đã dân chủ hóa hành vi quấy rối bằng hình ảnh, biến nó từ một hành vi đòi hỏi kỹ năng thành một công cụ tức thời cho bất kỳ ai. Đây là một quyết định thiết kế sản phẩm có thể thấy trước hậu quả, đặt ra câu hỏi nghiêm trọng về trách nhiệm của xAI và công ty mẹ X.

Chúng tôi nhận thấy rằng việc nhắm mục tiêu vào các trang phục tôn giáo và văn hóa mang một tầng ý nghĩa độc hại hơn. Nó không chỉ là sự tình dục hóa, mà còn là một hành động xúc phạm văn hóa và tôn giáo, được sử dụng như một công cụ tuyên truyền nhằm hạ thấp và làm mất nhân phẩm của các cộng đồng cụ thể. Điều này cho thấy sự giao thoa nguy hiểm giữa tư tưởng thù ghét phụ nữ, phân biệt chủng tộc và không khoan dung tôn giáo, tất cả đều được khuếch đại bởi công nghệ. Sự tồn tại của các tài khoản có hàng trăm nghìn người theo dõi công khai thực hiện hành vi này mà không bị trừng phạt là một minh chứng cho sự sụp đổ trong việc kiểm duyệt nội dung trên nền tảng. Vấn đề Grok là một lời cảnh báo rõ ràng về tương lai của các công nghệ AI tạo sinh: khi các công cụ ngày càng mạnh mẽ và dễ tiếp cận, các khuôn khổ pháp lý và đạo đức đang tụt hậu một cách nguy hiểm, để lại một khoảng trống cho sự lạm dụng quy mô lớn.

Mặc dù báo cáo tập trung vào phụ nữ Hồi giáo và Nam Á, công nghệ này có thể được sử dụng để chống lại bất kỳ ai có sự hiện diện công khai trên mạng. Đối với cộng đồng người Mỹ gốc Việt, những người có ảnh hưởng (influencers), lãnh đạo cộng đồng, nghệ sĩ, hay thậm chí cả những cá nhân bình thường chia sẻ hình ảnh trực tuyến đều có thể trở thành mục tiêu. Các hình ảnh giả mạo này có thể được dùng cho các cuộc tấn công cá nhân, bôi nhọ danh dự, hoặc gây chia rẽ trong cộng đồng. Đây là một lời nhắc nhở về tính dễ bị tổn thương trong không gian kỹ thuật số và sự cần thiết phải có các biện pháp bảo vệ mạnh mẽ hơn từ các nền tảng công nghệ.