Những rủi ro thường gặp và vấn đề đạo đức khi triển khai AI trong y tế

Phân tích các rủi ro và vấn đề đạo đức khi triển khai AI trong y tế, qua đó có được khả năng quản trị và sử dụng AI một cách cụ thể và có trách nhiệm.

AI đang cải thiện hiệu quả vận hành trong y tế, từ hỗ trợ chẩn đoán hình ảnh, dự báo nguy cơ cho đến tự động hóa khối lượng lớn công việc hành chính. Tuy nhiên, song song với lợi ích, việc ứng dụng AI trong y tế cũng làm lộ rõ nhiều rủi ro về thiên lệch, quyền riêng tư dữ liệu và trách nhiệm lâm sàng.
Khác với các lĩnh vực công nghệ khác, y tế là môi trường mà sai sót có thể gây tổn hại trực tiếp đến sức khỏe và tính mạng con người. Vì vậy, câu hỏi đặt ra không chỉ là AI có thể làm được gì, mà là hệ thống y tế đã sẵn sàng để kiểm soát rủi ro của AI hay chưa?
Giá trị của AI trong y tế không đến từ thuật toán mạnh hơn, mà từ cách hệ thống được thiết kế, quản trị và giám sát trong thực tế lâm sàng.

Rủi ro 1 – Quyền sở hữu và kiểm soát dữ liệu bệnh nhân

AI trong y tế phụ thuộc mạnh vào dữ liệu bệnh nhân, bao gồm hồ sơ bệnh án điện tử, hình ảnh chẩn đoán, kết quả xét nghiệm và ngày càng nhiều dữ liệu di truyền. Tuy nhiên, phần lớn bệnh nhân không nhận thức đầy đủ về việc dữ liệu của họ được tái sử dụng như thế nào khi đã đi vào hệ thống số.
Cơ chế xin chấp thuận hiện nay thường mang tính thủ tục hơn là trao quyền kiểm soát thực sự cho bệnh nhân. Việc ẩn danh dữ liệu thường được xem như một biện pháp bảo vệ, nhưng trên thực tế, các tập dữ liệu lớn hoàn toàn có thể bị tái định danh khi kết hợp với các nguồn dữ liệu khác.
Bên cạnh đó, bệnh viện và hệ thống y tế đang trở thành mục tiêu hấp dẫn của các cuộc tấn công mạng, khiến dữ liệu sức khỏe trở thành tài sản có rủi ro cao. Vấn đề quyền sở hữu dữ liệu vì vậy vẫn chưa có lời giải rõ ràng: bệnh nhân có còn quyền đối với dữ liệu dùng để huấn luyện các hệ thống AI thương mại hay không, hay quyền kiểm soát thuộc về tổ chức y tế và nhà phát triển công nghệ.
Việc thiếu khung pháp lý và quản trị dữ liệu rõ ràng có thể làm xói mòn niềm tin của xã hội đối với y tế số.

Rủi ro 2 – Tính minh bạch và khả năng giải thích trong quyết định lâm sàng

Nhiều hệ thống AI tiên tiến hoạt động như các mô hình “hộp đen”, tạo ra dự đoán mà không cung cấp được lời giải thích rõ ràng. Điều này đặc biệt gây bất cập trong y tế, nơi bác sĩ phải chịu trách nhiệm giải trình cho các quyết định điều trị.
Khi mô hình AI cho kết quả tốt hơn về mặt thống kê nhưng không thể giải thích, quyền kiểm soát dần có nguy cơ dịch chuyển từ chuyên gia y tế sang hệ thống máy móc. Điều này làm xói mòn vai trò chuyên môn và tạo áp lực đạo đức lên đội ngũ lâm sàng.
Với bệnh nhân, vấn đề còn nghiêm trọng hơn. Khái niệm “đồng thuận dựa trên hiểu biết” mất ý nghĩa khi cả bác sĩ lẫn bệnh nhân đều không hiểu vì sao một quyết định được đưa ra. Niềm tin trong y tế chỉ được xây dựng thông qua minh bạch, điều mà nhiều hệ thống AI hiện nay chưa đáp ứng được.

Rủi ro 3 – Trách nhiệm thuộc về ai khi AI gây sai sót?

Khi một chẩn đoán có hỗ trợ AI dẫn đến tổn hại cho bệnh nhân, câu hỏi trách nhiệm trở nên mơ hồ. Bác sĩ có chịu trách nhiệm vì đã dựa vào hệ thống hay không? Bệnh viện có lỗi vì đã triển khai AI? Hay trách nhiệm thuộc về đơn vị phát triển thuật toán?
Khung pháp lý hiện tại được xây dựng cho các quyết định thuần con người, nên gần như không có hướng dẫn rõ ràng cho trách nhiệm chia sẻ giữa con người và hệ thống AI. Vùng xám pháp lý này vừa làm gia tăng rủi ro cho bệnh nhân, vừa khiến bác sĩ e ngại trong việc sử dụng AI.
Một khi các tiêu chuẩn trách nhiệm và an toàn chưa được thiết lập rõ ràng, AI trong y tế vẫn sẽ tồn tại trong trạng thái nửa tin cậy, nửa rủi ro.

Yếu tố quyết định thành bại của AI trong y tế

Tương lai của y tế không phụ thuộc vào việc AI có được áp dụng hay không mà phụ thuộc vào cách AI được triển khai và kiểm soát trong hệ thống. AI có thể trở thành công cụ hỗ trợ mạnh mẽ cho bác sĩ khi được sử dụng đúng cách nhưng cũng có thể gây ra hậu quả nghiêm trọng nếu bị triển khai thiếu kiểm soát.
Thành công của AI trong y tế không đến từ mô hình phức tạp hơn, mà từ khung quản trị AI rõ ràng, minh bạch trong ra quyết định, cơ chế giám sát của con người và cam kết lấy bệnh nhân làm trung tâm.

Những hệ thống y tế đầu tư nghiêm túc vào quản trị, đạo đức và trách nhiệm sẽ là những tổ chức có khả năng khai thác AI một cách bền vững. Ngược lại, việc chạy theo công nghệ mà bỏ qua các yếu tố này có thể làm suy giảm niềm tin xã hội và gây tổn hại lâu dài cho chính hệ thống y tế.

Nguồn tổng hợp: analyticsinsight.net