Nghiên cứu: ChatGPT Health Nguy hiểm, Bỏ sót Tình huống Cấp cứu và Ý định Tự tử

Một nghiên cứu mới cho thấy tính năng sức khỏe của ChatGPT thường xuyên bỏ sót nhu cầu cấp cứu y tế và không phát hiện được ý định tự tử. Theo nghiên cứu được công bố trên tạp chí Nature Medicine, các chuyên gia lo ngại điều này có thể "dẫn đến tác hại và tử vong không cần thiết".

Nền tảng này đã đánh giá thấp hơn một nửa số trường hợp được đưa ra. Cụ thể, trong 51,6% các ca cần đến bệnh viện ngay lập tức, AI (Trí tuệ nhân tạo) lại khuyên người dùng ở nhà hoặc đặt lịch hẹn thông thường. Một nhà nghiên cứu mô tả kết quả này là "nguy hiểm không thể tin được".

Trong các thử nghiệm, AI cũng cho thấy sự thiếu sót nghiêm trọng trong việc nhận diện ý định tự tử. Khi một bệnh nhân mô tả các triệu chứng của mình cùng với ý định tự tử, một biểu ngữ trợ giúp khủng hoảng đã xuất hiện. Tuy nhiên, khi các kết quả xét nghiệm bình thường được thêm vào, biểu ngữ này đã biến mất hoàn toàn.

Đại diện OpenAI cho biết họ hoan nghênh nghiên cứu độc lập nhưng cho rằng nghiên cứu không phản ánh cách mọi người thường sử dụng ChatGPT Health trong đời thực, và mô hình này được cập nhật và tinh chỉnh liên tục.

Vấn đề cốt lõi mà nghiên cứu này phơi bày không chỉ là lỗi kỹ thuật, mà là sự thiếu "lương tri" cơ bản của các mô hình AI (Trí tuệ nhân tạo) hiện tại. Việc một cảnh báo tự tử biến mất chỉ vì người dùng thêm vào kết quả xét nghiệm không liên quan cho thấy sự mong manh và phi logic của hệ thống. AI hoạt động dựa trên việc khớp mẫu văn bản, không phải sự hiểu biết y khoa thực sự.

Điều này tạo ra một "cảm giác an toàn giả tạo" cực kỳ nguy hiểm. Khi một người đang trong cơn hoảng loạn về sức khỏe, một câu trả lời được trình bày một cách tự tin từ máy móc có thể khiến họ phớt lờ các triệu chứng nghiêm trọng, dẫn đến trì hoãn việc điều trị khẩn cấp. Lời trấn an của AI có thể phải trả giá bằng tính mạng.

Phản ứng của OpenAI, cho rằng các kịch bản trong nghiên cứu không phản ánh thực tế, là một cách phòng thủ phổ biến trong ngành công nghệ. Tuy nhiên, trong lĩnh vực y tế, một "nguy cơ gây hại hợp lý" đã đủ để yêu cầu các biện pháp bảo vệ mạnh mẽ hơn. Vụ việc này cũng đặt ra câu hỏi cấp bách về trách nhiệm pháp lý: ai chịu trách nhiệm khi AI đưa ra lời khuyên chết người? Người dùng, hay công ty phát triển? Rõ ràng, cuộc chạy đua ứng dụng AI vào các lĩnh vực nhạy cảm như y tế đang đi quá nhanh so với việc xây dựng các tiêu chuẩn an toàn và cơ chế giám sát độc lập cần thiết. Đây là một lời cảnh báo quan trọng cho cả người dùng và các nhà quản lý.

Đối với cộng đồng người Mỹ gốc Việt, đặc biệt là thế hệ lớn tuổi, rào cản ngôn ngữ và chi phí có thể khiến họ ngần ngại đi khám bác sĩ. Họ thường tìm kiếm lời khuyên từ người thân hoặc các nguồn không chính thức. Một công cụ AI (Trí tuệ nhân tạo) miễn phí và tức thời như ChatGPT Health có vẻ hấp dẫn, nhưng những sai sót nghiêm trọng của nó có thể gây ra hậu quả khôn lường cho những người dùng không hiểu rõ về giới hạn của công nghệ và tin tưởng một cách tuyệt đối vào "lời khuyên" của máy.