AI có thể là bác sĩ trong túi nhưng liệu có đủ an toàn để tin tưởng?

Một triệu chứng bất thường từng đồng nghĩa với việc đặt lịch khám và chờ gặp bác sĩ. Nhưng với sự xuất hiện của các công cụ AI, nhiều người đang chuyển sang tìm kiếm câu trả lời ngay lập tức từ công nghệ trước khi quyết định có cần đến cơ sở y tế hay không.

Từ những câu hỏi đơn giản về dấu hiệu bệnh lý đến việc phân tích hồ sơ sức khỏe cá nhân, AI đang thay đổi cách con người tiếp cận thông tin y tế, đồng thời mở ra một cuộc tranh luận về vai trò thực sự của công nghệ này trong chăm sóc sức khỏe.

CAM KẾT BẢO MẬT CỦA AI LIỆU CÓ ĐỦ ĐỂ YÊN TÂM?

Các bệnh viện và phòng khám phải tuân thủ những quy định nghiêm ngặt về đạo đức và pháp lý nhằm bảo vệ thông tin sức khỏe nhạy cảm cũng như quyền riêng tư của bệnh nhân.

Trong khi đó, các công ty AI hiện không chịu sự điều chỉnh của cùng một hệ thống quy định. Anthropic, đơn vị phát triển Claude for Healthcare, Microsoft với Copilot Health, Perplexity và OpenAI đều khẳng định dữ liệu sức khỏe của người dùng được bảo vệ bằng các biện pháp bảo mật như mã hóa cuộc trò chuyện.

Các công ty cũng cho biết dữ liệu này sẽ không được sử dụng để huấn luyện mô hình AI hoặc phục vụ quảng cáo nhắm mục tiêu. Người dùng có thể ngắt kết nối hồ sơ bệnh án và dữ liệu Apple Health bất cứ lúc nào. Riêng OpenAI cam kết sẽ xóa dữ liệu khỏi hệ thống trong vòng 30 ngày sau khi người dùng yêu cầu.

Những cam kết đó đủ để Tiến sĩ Bob Wachter quyết định tải dữ liệu sức khỏe cá nhân lên ChatGPT Health. Ông hiện là Chủ tịch Khoa Nội của Đại học California, San Francisco và cho rằng các công ty không có nghĩa vụ pháp lý phải đưa ra những lời hứa mạnh mẽ như vậy về quyền riêng tư. Chính vì thế, nếu không thực hiện đúng cam kết, họ sẽ phải đối mặt với những tổn thất rất lớn.

Theo Wachter, những người còn băn khoăn về quyền riêng tư có thể sử dụng các sản phẩm AI do chính những công ty cung cấp hồ sơ bệnh án điện tử phát triển, chẳng hạn Epic, đơn vị sở hữu MyChart. Tuy nhiên, phải mất thêm vài năm nữa các hệ thống y tế mới có thể triển khai rộng rãi những công cụ này.

Ông cũng cho rằng ở thời điểm hiện tại, nếu AI có thể tiếp cận tiền sử bệnh của người dùng thì khả năng đưa ra câu trả lời sẽ chính xác và hữu ích hơn nhiều. Những câu hỏi như “phương pháp điều trị tốt nhất cho bệnh viêm khớp là gì?” hay “cơn đau đầu mới xuất hiện hôm nay có thể là dấu hiệu của điều gì?” sẽ được giải đáp hiệu quả hơn khi AI hiểu rõ hồ sơ sức khỏe trước đó. Theo đánh giá của ông, trong trường hợp này, lợi ích mang lại lớn hơn những rủi ro tiềm ẩn.

Tuy nhiên, không phải chuyên gia nào cũng đồng tình với quan điểm đó. Tiến sĩ Art Caplan, chuyên gia đạo đức sinh học, giáo sư danh dự và cựu Trưởng Bộ môn Đạo đức Y học tại Trường Y Grossman thuộc Đại học New York, cho biết ông sẽ không bao giờ giao dữ liệu cá nhân cho một công ty tư nhân nếu chưa có sự đảm bảo rõ ràng hơn về tính bảo mật, cách thức phòng ngừa rò rỉ dữ liệu cũng như quy trình xử lý khi xảy ra tấn công mạng hoặc sự cố làm lộ thông tin.

Theo Caplan, khi chưa có khung pháp lý đầy đủ để quản lý AI và dữ liệu y tế, những thông tin này vẫn có nguy cơ bị sử dụng theo những cách ngoài mong muốn của người dùng.

Ông dẫn trường hợp của công ty xét nghiệm di truyền 23andMe, nơi từng xảy ra vụ rò rỉ dữ liệu quy mô lớn vào năm 2023 khiến thông tin cá nhân, dữ liệu di truyền và hồ sơ sức khỏe của gần 7 triệu khách hàng bị lộ.

Công ty xét nghiệm di truyền 23andMe từng xảy ra vụ rò rỉ dữ liệu quy mô lớn vào năm 2023 khiến thông tin cá nhân, dữ liệu di truyền và hồ sơ sức khỏe của gần 7 triệu khách hàng bị lộ

Đến năm 2025, khi 23andMe nộp đơn xin phá sản, công ty đã bán dữ liệu di truyền của khoảng 15 triệu khách hàng cho một tổ chức phi lợi nhuận do chính nhà sáng lập thành lập.

Theo Caplan, pháp luật khi đó cũng không có quy định nào ngăn cản dữ liệu này được bán cho một doanh nghiệp khác nhằm khai thác thông tin hoặc phục vụ mục đích thương mại.

Tiến sĩ Girish Nadkarni, bác sĩ chuyên khoa thận tại Mount Sinai và là chuyên gia nghiên cứu ứng dụng AI trong y học, cho rằng nguyên tắc phù hợp nhất khi sử dụng AI là kiểm chứng trước rồi mới tin.

Theo ông, cần có các tổ chức độc lập xác minh rằng những công ty phát triển AI thực sự không sử dụng dữ liệu bệnh nhân để huấn luyện mô hình, thay vì chỉ dựa vào các tuyên bố trong chính sách của doanh nghiệp.

AI CÓ THỂ TRẢ LỜI RẤT TỰ TIN NHƯNG VẪN SAI

Một trong những lý do khiến nhiều chuyên gia còn dè dặt khi sử dụng AI trong lĩnh vực y tế là khả năng đưa ra những câu trả lời nghe rất thuyết phục nhưng lại không chính xác. Các mô hình AI vẫn có thể gặp hiện tượng ảo giác, tức tự tạo ra thông tin sai hoặc đưa ra những kết luận thiếu căn cứ.

Các công ty phát triển AI đều khuyến cáo người dùng không nên dựa vào sản phẩm của họ để đưa ra những quyết định liên quan đến tính mạng. Tuy nhiên, trên thực tế, không phải ai cũng tuân thủ lời cảnh báo này.

Khảo sát của tổ chức nghiên cứu về chính sách y tế KFF công bố hồi tháng 3 cho thấy 41% người được hỏi sử dụng AI để có thêm thông tin trước khi đi khám bác sĩ.

Tuy nhiên, lý do phổ biến nhất là nhu cầu nhận được lời khuyên nhanh chóng. Khoảng 1/5 số người tham gia khảo sát cho biết họ tìm đến AI vì không có bác sĩ chăm sóc sức khỏe hoặc không đủ khả năng chi trả cho một lần khám bệnh.

Tính đến năm 2023, ước tính khoảng 100 triệu người Mỹ, tương đương gần 1/3 dân số, được xếp vào nhóm thiếu khả năng tiếp cận dịch vụ y tế, tức không thể gặp bác sĩ chăm sóc ban đầu do nơi sinh sống thiếu nhân lực y tế.

Nhiều nghiên cứu về các phiên bản AI trước đây cũng ghi nhận những hạn chế đáng lo ngại. Một nghiên cứu công bố năm 2023 trên tạp chí JAMA Oncology cho thấy một phiên bản ChatGPT cũ đã đưa ra khuyến nghị điều trị ung thư không phù hợp trong hơn 1/3 số tình huống giả định do nhóm nghiên cứu xây dựng.

Các tác giả cho rằng điểm đáng lo ngại là AI chỉ đưa ra một câu trả lời duy nhất, khác với công cụ tìm kiếm như Google vốn hiển thị nhiều nguồn thông tin để đối chiếu. Cách diễn đạt đầy tự tin của AI cũng khiến người dùng khó nhận ra khi lời khuyên có sai sót.

Một nghiên cứu khác được công bố trên Nature Medicine vào tháng 2, sử dụng hàng trăm tình huống lâm sàng do các bác sĩ xây dựng, cho thấy công cụ sức khỏe của OpenAI vẫn mắc lỗi và có xu hướng đánh giá thấp mức độ nghiêm trọng của một số tình trạng đe dọa tính mạng như cơn hen cấp hoặc nhiễm toan ceton do đái tháo đường, biến chứng xảy ra khi cơ thể không có đủ insulin để hoạt động bình thường. Trong nhiều trường hợp, AI không khuyến nghị người bệnh đến khoa cấp cứu, trong khi các bác sĩ cho biết họ chắc chắn sẽ đưa ra lời khuyên đó.

Phản hồi về kết quả nghiên cứu, OpenAI cho rằng thử nghiệm này chưa phản ánh đúng cách ChatGPT được thiết kế và sử dụng trong thực tế, đồng thời khẳng định công ty vẫn đang tiếp tục cải thiện độ an toàn và độ tin cậy của hệ thống.

Sau nghiên cứu cho rằng ChatGPT Health vẫn mắc lỗi và có xu hướng đánh giá thấp mức độ nghiêm trọng của một số tình trạng sức khỏe, OpenAI cho rằng thử nghiệm này chưa phản ánh đúng, công ty vẫn đang tiếp tục cải thiện độ an toàn và độ tin cậy của hệ thống

Kết quả nghiên cứu cũng cho thấy ChatGPT Health xử lý khá tốt những tình huống điển hình như đột quỵ hoặc sốc phản vệ. Tuy nhiên, khi người dùng có xu hướng mô tả nhẹ đi hoặc xem thường các triệu chứng của mình, AI cũng thường đưa ra đánh giá ít khẩn cấp hơn.

Điều ngược lại cũng có thể xảy ra. Alvira Tyagi, sinh viên y khoa tham gia nghiên cứu, muốn kiểm tra xem ChatGPT Health có cải thiện độ chính xác nếu được cung cấp thêm thông tin thông qua nhiều lượt trao đổi hay không. Tuy nhiên, kết quả khiến cô bất ngờ khi hiệu suất của hệ thống không cải thiện đáng kể so với chỉ một lần tương tác.

Ở chiều ngược lại, Tiến sĩ Bob Wachter cho rằng các hệ thống AI đang ngày càng chính xác hơn. Ông cho biết đã nhận thấy sự cải thiện rõ rệt sau khi tải hồ sơ bệnh án cá nhân lên ChatGPT.

Trong khi đó, Epic, công ty phát triển phần mềm quản lý hồ sơ sức khỏe MyChart, cho biết trợ lý AI dành cho bệnh nhân mang tên Emmie đang được triển khai tại ngày càng nhiều cơ sở y tế.

Theo Garrett Adams, Phó Chủ tịch cấp cao phụ trách nghiên cứu và phát triển của Epic, Emmie được thiết kế để giúp bệnh nhân đặt câu hỏi ngay trên cổng thông tin y tế, chuyển các hồ sơ bệnh án phức tạp thành ngôn ngữ dễ hiểu, hỗ trợ đặt lịch khám và giải đáp các thắc mắc liên quan đến chi phí điều trị.

Ngoài việc tuân thủ các quy định về bảo mật thông tin y tế, Adams cho biết Emmie còn được thiết kế để nhận biết giới hạn của mình. Khi gặp những vấn đề vượt quá khả năng xử lý, hệ thống sẽ tự động chuyển người dùng đến nhân viên y tế thay vì tiếp tục đưa ra câu trả lời. Theo ông, cơ chế này đã được tích hợp ngay từ khâu thiết kế của nền tảng.

LỜI KHUYÊN SỬ DỤNG AI MỘT CÁCH CÓ TRÁCH NHIỆM

AI có thể trở thành một công cụ hữu ích trong chăm sóc sức khỏe nếu được sử dụng đúng cách và với sự thận trọng cần thiết. Khi tải dữ liệu sức khỏe lên ChatGPT, người dùng sẽ được lựa chọn khoảng thời gian cho phép hệ thống lưu trữ thông tin. Có thể cho phép AI lưu giữ dữ liệu lâu dài hoặc chỉ chia sẻ trong thời gian ngắn, chẳng hạn một ngày, nếu còn băn khoăn về quyền riêng tư.

Bên cạnh đó, nên đặt câu hỏi theo cách khách quan, hạn chế sử dụng những từ ngữ mang nhiều cảm xúc. Điều này giúp AI tập trung vào các dữ kiện thay vì rơi vào hiện tượng phản chiếu cảm xúc, tức vô tình khuếch đại hoặc xem nhẹ những lo lắng của người dùng.

Tiến sĩ Ashwin Ramaswamy, Trưởng Khoa Tiết niệu Milton and Carroll Petrie tại Trường Y Icahn thuộc Mount Sinai, khuyên nên bắt đầu một cuộc trò chuyện mới mỗi khi cần tham khảo AI.

Theo ông, việc này không chỉ tạo ra một bối cảnh mới mà còn giúp AI có cơ hội tiếp cận vấn đề từ đầu, thay vì bị ảnh hưởng bởi những thông tin xuất hiện trong các cuộc trò chuyện trước.

Ông cũng nhấn mạnh rằng không nên chấp nhận ngay câu trả lời của AI. Người dùng nên yêu cầu hệ thống đưa ra bằng chứng, tiếp tục chất vấn để kiểm tra độ chính xác và đặt thêm câu hỏi như một bác sĩ sẽ làm, nhằm phát hiện những thông tin hoặc triệu chứng còn chưa được đề cập. Điều quan trọng nhất vẫn là tin vào những tín hiệu từ chính cơ thể và giữ vững sự tỉnh táo trong phán đoán.

“Nếu ngay từ đầu đã nghĩ rằng tình trạng có thể nghiêm trọng đến mức phải vào khoa cấp cứu, thì nên đến bệnh viện ngay thay vì chờ AI đưa ra quyết định thay”, ông nói.