ICE Dùng AI Của Palantir Để Phân Tích Tố Giác Di Trú

Cơ quan Thực thi Di trú và Hải quan Hoa Kỳ (ICE) đang sử dụng công cụ AI (trí tuệ nhân tạo) thế hệ của Palantir để sàng lọc và tóm tắt các tố giác về thực thi di trú. Thông tin này được công bố hôm thứ Tư trong một báo cáo của Bộ An ninh Nội địa (DHS) về các trường hợp sử dụng AI trong năm 2025.

Dịch vụ có tên "Xử lý Tố giác ICE Tăng cường bằng AI" nhằm giúp các điều tra viên nhanh chóng xác định các trường hợp khẩn cấp, dịch các tố giác không phải bằng tiếng Anh, và cung cấp một bản tóm tắt cấp cao được gọi là "BLUF". Hệ thống này đi vào hoạt động từ ngày 2 tháng 5 năm 2025.

DHS cho biết phần mềm này giúp giảm bớt "công sức thủ công tốn thời gian". Báo cáo lưu ý rằng ICE sử dụng các mô hình ngôn ngữ lớn thương mại được huấn luyện trên dữ liệu công khai, và không được huấn luyện thêm bằng dữ liệu của cơ quan. Palantir đã là một nhà thầu lớn của ICE từ năm 2011, cung cấp các công cụ phân tích cho cơ quan này. Một người phát ngôn của DHS tuyên bố công nghệ này giúp bắt giữ tội phạm trong khi tôn trọng quyền tự do dân sự.

Việc ICE triển khai AI của Palantir để xử lý tố giác đánh dấu một bước leo thang đáng kể trong việc tự động hóa hoạt động thực thi pháp luật và giám sát tại Hoa Kỳ. Về mặt chính sách, điều này cho thấy một sự thay đổi theo hướng ưu tiên hiệu quả và quy mô hơn là sự giám sát cẩn trọng của con người ở giai đoạn đầu của một cuộc điều tra. Việc sử dụng thuật ngữ quân sự "BLUF" (bottom line up front) do AI tạo ra để tóm tắt các tố giác tiềm ẩn nhiều rủi ro. AI có thể diễn giải sai thông tin, loại bỏ các sắc thái quan trọng, hoặc khuếch đại các thành kiến có sẵn trong dữ liệu huấn luyện, dẫn đến việc nhắm mục tiêu sai lầm vào các cá nhân vô tội.

Mặc dù DHS tuyên bố các mô hình AI không được huấn luyện trên dữ liệu của cơ quan, nhưng việc chúng được huấn luyện trên "dữ liệu công khai" không loại bỏ được khả năng thiên vị. Sự thiếu minh bạch về các mô hình ngôn ngữ lớn cụ thể được sử dụng là một mối lo ngại lớn, khiến việc đánh giá độc lập về tính công bằng của chúng gần như là không thể. Động thái này không chỉ đơn thuần là một nâng cấp công nghệ; nó là một sự mở rộng năng lực giám sát của nhà nước. Bằng cách tự động hóa việc sàng lọc, ICE có thể xử lý một khối lượng tố giác lớn hơn nhiều, làm tăng nguy cơ về một "nhà nước giám sát" dựa trên tố cáo của công chúng. Lời trấn an của DHS rằng công cụ này nhằm vào tội phạm nghiêm trọng có vẻ mâu thuẫn với bản chất rộng lớn của các tố giác về "hoạt động bất hợp pháp bị nghi ngờ", vốn có thể bao gồm các vi phạm dân sự nhỏ.

Đối với cộng đồng người Mỹ gốc Việt và các cộng đồng di dân khác, công cụ AI này mang lại những rủi ro cụ thể. Việc tự động dịch thuật và tóm tắt các tố giác có thể dẫn đến những hiểu lầm nghiêm trọng, đặc biệt khi các tố giác được viết bằng ngôn ngữ không phải tiếng Anh hoặc sử dụng các từ ngữ địa phương. Một bản dịch sai của AI có thể biến một tình huống vô hại thành một mối nghi ngờ cần điều tra.

Hệ thống này có khả năng làm gia tăng các cuộc điều tra nhắm vào các doanh nghiệp nhỏ, như tiệm nail hoặc nhà hàng, dựa trên những tố cáo nặc danh hoặc ác ý từ đối thủ cạnh tranh hoặc mâu thuẫn cá nhân. AI có thể không phân biệt được bối cảnh, khiến các doanh nghiệp hợp pháp dễ bị tổn thương. Hơn nữa, việc tăng tốc quá trình xử lý có nghĩa là một cá nhân có thể bị đưa vào hệ thống điều tra của ICE nhanh hơn, với ít sự xem xét của con người ở giai đoạn đầu. Điều này tạo ra một môi trường lo sợ, nơi các thành viên cộng đồng có thể ngần ngại tương tác với chính quyền hoặc thậm chí là với hàng xóm của mình vì sợ bị tố cáo và bị AI diễn giải sai.