Google quyết định dừng sử dụng AI tóm tắt tìm kiếm liên quan đến bệnh vì có thể gây nguy hiểm

Nhiều người đã từng rơi vào tình huống tìm kiếm thông tin y tế trên Google khi cảm thấy không khỏe nhằm nhận các giải thích trong việc điều trị.

Tuy nhiên, Google gần đây đã quyết định tạm dừng việc sử dụng AI để tóm tắt kết quả tìm kiếm liên quan đến sức khỏe sau khi phát hiện rằng những thông tin này có thể gây nguy hiểm.

Báo cáo đến từ The Guardian chỉ ra rằng, công cụ Tổng quan AI – những hộp thông tin xuất hiện ở đầu kết quả tìm kiếm của Google – đã cung cấp dữ liệu không đầy đủ và đôi khi sai lệch. Một ví dụ điển hình là khi người dùng tìm kiếm thông tin về “phạm vi bình thường” của xét nghiệm máu gan, AI chỉ đưa ra một danh sách các con số mà không xem xét các yếu tố như giới tính, độ tuổi, dân tộc hay tiền sử bệnh tật của người dùng. Điều này có thể dẫn đến những hiểu lầm nghiêm trọng, đặc biệt đối với những người mắc bệnh gan.

Các chuyên gia y tế đã cảnh báo rằng việc dựa vào thông tin từ AI có thể rất nguy hiểm. Một người mắc bệnh gan giai đoạn đầu có thể thấy chỉ số xét nghiệm của mình nằm trong “phạm vi bình thường”, từ đó bỏ qua việc tái khám, trong khi thực tế, chỉ số này có thể là dấu hiệu cảnh báo đối với người lớn tuổi hơn.

Trong phản hồi của Google, công ty cho biết đã xóa các truy vấn cụ thể bị gắn cờ, đồng thời khẳng định rằng hệ thống của họ thường hữu ích. Tuy nhiên, các tổ chức y tế như British Liver Trust đã chỉ ra rằng nếu người dùng thay đổi một chút câu hỏi, thông tin sai lệch vẫn xuất hiện.

Điều đó có nghĩa một vấn đề lớn về độ tin cậy của thông tin mà AI cung cấp có thể làm hại người dùng. Vấn đề cốt lõi ở đây là lòng tin. Những tóm tắt do AI tạo ra thường nằm ở vị trí nổi bật trên trang tìm kiếm, khiến người dùng dễ dàng tin tưởng vào chúng. Tuy nhiên, đây chỉ là một công cụ dự đoán, không phải là nguồn thông tin chính xác.

Rõ ràng, đây là một thông tin quan trọng mà người dùng cần cảnh tỉnh. Mặc dù AI có thể hữu ích trong nhiều lĩnh vực khác, nhưng khi liên quan đến sức khỏe, nó thực sự vẫn chưa đủ độ chính xác. Cho đến khi các hệ thống này có thể hiểu ngữ cảnh tốt hơn hoặc Google áp dụng các biện pháp kiểm soát chặt chẽ hơn, người dùng nên ưu tiên tìm kiếm thông tin từ các nguồn đáng tin cậy, như bác sĩ thực sự. Tốc độ tìm kiếm thông tin là quan trọng, nhưng độ chính xác mới là điều cần thiết khi liên quan đến sức khỏe của mỗi người.