A. Vụ kiện tập thể về việc từ chối yêu cầu bồi thường bảo hiểm

(1) Estate of Lokken kiện UnitedHealth Group: Thuật toán nH Predict

Ngày 5 tháng 5 năm 2022, ông Gene B. Lokken, 91 tuổi, sống tại bang Wisconsin, đã bị ngã tại nhà riêng. Ông bị gãy chân và mắt cá chân. Xe cứu thương đã đưa ông đến Bệnh viện Aspirus Tomahawk.

Sau khi nhập viện, tình trạng của ông bắt đầu trở nên tồi tệ hơn. Bác sĩ phụ trách đã đề nghị chăm sóc giảm nhẹ (hospice care). Vào ngày 11 tháng 5, Loken đã được chuyển đến một cơ sở chăm sóc chuyên dụng của Tomahawk Health Services. Tại đó, ông đã bắt đầu được điều trị phục hồi chức năng.

Ngày 24 tháng 6, bác sĩ chỉnh hình đã kiểm tra chân bị gãy của anh ấy. Nẹp đã được tháo ra và thay bằng một chiếc nẹp bảo vệ cổ chân dạng tháo lắp. Bác sĩ đã chỉ thị cho các chuyên viên vật lý trị liệu rằng hãy bắt đầu các bài tập di chuyển và đi bộ chịu trọng lực trong khi vẫn đeo nẹp bảo vệ. Các chuyên viên vật lý trị liệu báo cáo rằng mặc dù Loken đang dần hồi phục sức mạnh và khả năng vận động một cách chậm chạp, nhưng việc trị liệu vật lý chuyên sâu vẫn là cần thiết về mặt y tế.

Từ ngày 1 tháng 7 đến ngày 20 tháng 7, UnitedHealthcare đã chi trả chi phí cho cơ sở chăm sóc dưỡng lão của Loken. Thế rồi vào ngày 20 tháng 7, việc chi trả đột ngột bị dừng lại. Trong thông báo mà UnitedHealthcare gửi đến có viết rằng: "Số ngày nhập viện bổ sung tại cơ sở chăm sóc chuyên dụng là không cần thiết về mặt y tế."

Bác sĩ phụ trách của Loken nói rằng cần phải tiếp tục vật lý trị liệu. Tuy nhiên, thuật toán của UnitedHealthcare lại nói rằng không cần thiết. Phán đoán của ai mới là đúng?

Để trả lời câu hỏi này, bạn cần phải biết tên gọi là nH Predict.

nH Predict là một chương trình AI được phát triển bởi naviHealth, một công ty con của UnitedHealth Group. Thuật toán này so sánh một bệnh nhân cụ thể với các bệnh nhân có đặc điểm tương tự để dự đoán thời gian điều trị cần thiết sau giai đoạn cấp tính. Nói một cách đơn giản, nó đưa ra thông báo rằng: "Những người giống như bạn trung bình đã được điều trị trong khoảng thời gian này, vì vậy mức độ đó cũng là đủ cho bạn."

Vấn đề là các bệnh nhân không hề giống nhau. Một cụ già 91 tuổi không thể hồi phục với tốc độ như một người trưởng thành 40 tuổi. Quá trình chữa lành của bệnh nhân bị tiểu đường cũng khác với người không bị tiểu đường. Tuy nhiên, thuật toán vẫn thực hiện các phép tính riêng của nó, bất kể bác sĩ điều trị của từng bệnh nhân đưa ra khuyến nghị gì.

Vào ngày 14 tháng 11 năm 2023, gia quyến của Loken và gia quyến của một nạn nhân khác là Dale Henry Tetzloff đã đệ đơn kiện tập thể lên Tòa án Liên bang Minnesota. Các bị đơn bao gồm UnitedHealth Group, UnitedHealthcare và NaviHealth.

Nội dung trong bản cáo trạng chứa đựng những cáo buộc gây sốc.

UnitedHealthcare đã biết về sự thiếu chính xác của nH Predict.

Bởi vì hơn 90% các quyết định từ chối đã được đảo ngược trong quá trình kháng cáo.

Hơn 80% các trường hợp bị từ chối phê duyệt trước cũng tương tự như vậy.

Công ty dù biết rõ sự thật này nhưng vẫn tiếp tục sử dụng thuật toán.

Các nguyên đơn đã đưa ra bảy căn cứ khởi kiện: vi phạm hợp đồng, vi phạm nghĩa vụ trung thực và thiện chí, làm giàu bất chính, gian lận bảo hiểm, vô ý làm chết người tại Oregon, hành vi bảo hiểm không công bằng tại Minnesota, và vi phạm luật cạnh tranh không lành mạnh tại California.

Phản bác của UnitedHealthcare là điều có thể dự đoán trước. Chúng tôi không sử dụng nH Predict vào việc đưa ra quyết định bảo hiểm. Công cụ này chỉ được sử dụng để cung cấp hướng dẫn cho các nhà cung cấp dịch vụ y tế, gia đình và người chăm sóc về những hỗ trợ và điều trị mà bệnh nhân có thể cần. Chúng tôi tiếp tục đưa ra các quyết định bảo hiểm dựa trên các tiêu chuẩn bảo hiểm Medicare và các điều khoản bảo hiểm.

Tại đây, thuật ngữ Medicare xuất hiện. Đây chính là yếu tố then chốt khiến vụ kiện này trở nên phức tạp. Medicare là chương trình bảo hiểm y tế liên bang dành cho người Mỹ từ 65 tuổi trở lên. Medicare Advantage là chương trình mà các công ty bảo hiểm tư nhân thay mặt cung cấp các quyền lợi của Medicare. UnitedHealthcare là nhà cung cấp Medicare Advantage lớn nhất tại Hoa Kỳ, cung cấp bảo hiểm y tế cho 52,9 triệu người Mỹ.

Vấn đề nằm ở chỗ Đạo luật Medicare là luật liên bang. Luật liên bang thường có ưu tiên cao hơn luật tiểu bang. Điều này được gọi là 'sự chiếm ưu thế của luật liên bang' (federal preemption). Các luật sư của UnitedHealthcare đã dựa trên nguyên tắc này để yêu cầu bác bỏ vụ kiện. Họ lập luận rằng tất cả các cáo buộc theo luật tiểu bang của nguyên đơn đều bị đạo luật Medicare chiếm ưu thế, do đó tòa án không có thẩm quyền xét xử.

Cũng có một rào cản khác. Đó là yêu cầu về việc cạn kiệt các biện pháp cứu trợ hành chính (exhaustion of administrative remedies). Nếu người tham gia Medicare Advantage không hài lòng với việc từ chối quyền lợi bảo hiểm, trước tiên họ phải trải qua quy trình kháng cáo hành chính gồm 4 bước. Họ phải 'cạn kiệt' toàn bộ quy trình này trước khi có thể khởi kiện lên tòa án liên bang. Các nguyên đơn đã không đáp ứng được yêu cầu này.

Ngày 13 tháng 2 năm 2025, Thẩm phán John R. Tundheim đã đưa ra phán quyết. Trước mặt vị thẩm phán liên bang được Tổng thống Clinton bổ nhiệm này là hai rào cản pháp lý. Đó chính là tuyến phòng thủ được thiết lập bởi các luật sư phía UnitedHealthcare.

Rào cản đầu tiên. "Những người này vẫn chưa có tư cách để đến tòa án."

Nếu là một người làm luật tại Hàn Quốc, chắc hẳn sẽ thấy quen thuộc với logic này. Đó là nguyên tắc tiền kiểm tra hành chính. Đây là nguyên tắc yêu cầu phải trải qua tất cả các thủ tục khiếu nại nội bộ tại cơ quan hành chính trước khi tìm đến cửa tòa án. Khái niệm này cũng có trong Luật Tố tụng Hành chính Hàn Quốc.

Phải làm gì khi công ty bảo hiểm từ chối chi trả chi phí điều trị? Trước tiên, bạn phải thực hiện khiếu nại nội bộ với công ty bảo hiểm. Nếu bị bác bỏ, bạn phải tiến hành thẩm định hành chính Medicare. Chỉ khi thực hiện đầy đủ tất cả các bước này, bạn mới có thể khởi kiện ra tòa. Nếu bỏ qua dù chỉ một bước, đơn kiện sẽ bị bác bỏ do không đủ điều kiện tố tụng.

Vấn đề nằm ở thời gian. Việc thực hiện đầy đủ các quy trình này có thể mất tới 2 năm. Đối với một bệnh nhân sa sút trí tuệ vừa bị đuổi khỏi viện dưỡng lão, 2 năm dài tựa như vô tận. Thẩm phán Thunheim đã chấp nhận một ngoại lệ. Đó là lập luận dựa trên Khoản 2 Điều 18 của Luật Tố tụng Hành chính Hàn Quốc. Nhu cầu cấp bách cần phải ngăn chặn những thiệt hại nghiêm trọng. Các nguyên đơn đã phải từ bỏ những phương pháp điều trị thiết yếu. Đã có những mối đe dọa không thể cứu vãn đối với tính mạng và thân thể.

Cũng có một lý do thứ hai. Sự vô nghĩa. Ngay cả khi có đơn kháng cáo, UnitedHealthcare vẫn đưa ra quyết định từ chối một lần nữa bằng thuật toán nH Predict. Đó là sự lặp đi lặp lại của việc bác bỏ một cách máy móc. Bản thân việc thực hiện các quy trình xét xử toàn diện chỉ còn là hình thức. Sự rỗng tuếch của quy trình. Thẩm phán đã thừa nhận điểm này.

Các bản thảo đã vượt qua rào cản đầu tiên.

Rào cản thứ hai phức tạp hơn. Chiếm hữu liên bang.

Hàn Quốc có hệ thống pháp luật thống nhất. Luật pháp được Quốc hội ban hành và áp dụng giống nhau trên toàn quốc. Hoa Kỳ thì khác. 50 tiểu bang tự ban hành luật riêng. Chính phủ liên bang cũng ban hành luật. Vậy điều gì sẽ xảy ra nếu hai hệ thống này xung đột?

Nguyên tắc rất đơn giản. Luật cấp cao hơn được ưu tiên. Luật liên bang sẽ thắng. Nhưng vấn đề là nó thắng đến mức độ nào. Khi luật liên bang bắt đầu điều chỉnh một lĩnh vực cụ thể, liệu luật tiểu bang có hoàn toàn bị đẩy lùi khỏi lĩnh vực đó hay không. Hay là ở những phần mà luật liên bang không đề cập đến, luật tiểu bang vẫn có thể tiếp tục có hiệu lực.

Lập luận của các luật sư phía UnitedHealthcare là như thế này: Luật Medicare quy định tất cả mọi thứ về bảo hiểm y tế cho người cao tuổi. Việc điều trị nào được bảo hiểm, cách thức kháng cáo các quyết định từ chối, tất cả đều do luật liên bang quyết định. Những khiếu nại mà các nguyên đơn đưa ra dựa trên luật tiểu bang đang xâm phạm vào phạm vi thẩm quyền độc quyền của luật liên bang. Do đó, vụ kiện cần phải bị bác bỏ.

Điều đó phần lớn là đúng.

Thẩm phán Thunheim đã chia nguyên nhân khiếu nại thành hai phần như một nhát dao. Sự hợp lý của mức lương và tính chính đáng của quy trình.

Yêu cầu hoàn trả lợi ích bất chính đã bị bác bỏ. Lập luận rằng "đáng lẽ phải chi trả thêm tiền bảo hiểm" là vấn đề liên quan đến tiêu chuẩn trợ cấp được quy định bởi Luật Medicare. Đây là phạm vi thuộc thẩm quyền của luật liên bang. Các yêu cầu dựa trên luật tiểu bang Oregon, luật tiểu bang Minnesota và luật tiểu bang California cũng bị bác bỏ vì cùng một lý do. Luật tiểu bang không thể xâm phạm phạm vi thẩm quyền của luật liên bang.

Tuy nhiên, yêu cầu bồi thường vi phạm hợp đồng vẫn được duy trì. Lập luận của thẩm phán là thế này: Luật Medicare quy định "những gì được bảo hiểm". Nhưng Luật Medicare không quy định việc UnitedHealthcare đã hứa hẹn điều gì với khách hàng của mình. Điều đó nằm trong hợp đồng bảo hiểm.

Trong bản hợp đồng đó đã có những điều khoản rõ ràng. Việc xem xét y tế phải do bác sĩ chủ trì. Quyết định phải dựa trên việc cân nhắc tình trạng của từng bệnh nhân cụ thể. Lập luận của các nguyên đơn rất đơn giản. Các người đã vi phạm những cam kết đã viết trong hợp đồng. Không phải bác sĩ, mà là thuật toán đã đưa ra quyết định. Các người đã từ chối dựa trên mức trung bình thống kê mà không xem xét đến từng trường hợp cụ thể.

Đây không phải là vấn đề về mức lương hợp lý. Đây là vấn đề về việc thực hiện hợp đồng, thuộc phạm vi tự chủ tư nhân. Đây là hành vi vi phạm nghĩa vụ thanh toán. Nó nằm ngoài phạm vi điều chỉnh của Luật Medicare.

Bản hợp đồng do chính UnitedHealthcare soạn thảo. Các quy trình mà chính họ đã cam kết. Việc liệu họ có tuân thủ những điều đó hay không là một lĩnh vực mà luật liên bang chưa bao quát tới.

Các nguyên đơn đã vượt qua được rào cản thứ hai. Đó là một cánh cửa hẹp, nhưng nó đã mở ra. Giờ đây, chúng ta đã có thể tranh tụng tại tòa án về chính cách thức mà AI quyết định vận mệnh của con người.

Ý nghĩa của phán quyết này là rất lớn. Một con đường pháp lý đã được mở ra để những người tham gia Medicare Advantage có thể khiếu nại về việc từ chối bảo hiểm dựa trên AI. Việc sử dụng "lá chắn" quyền ưu tiên của liên bang đã được chứng minh là không hoàn toàn tuyệt đối. Nếu công ty bảo hiểm đã cam kết trong hợp đồng về việc xem xét bởi bác sĩ, họ phải thực hiện đúng cam kết đó.

Vụ kiện vẫn chưa bước vào giai đoạn xét xử nội dung. Quy trình tiết lộ chứng cứ (discovery) về việc UnitedHealthcare thực sự đã sử dụng nH Predict như thế nào sẽ được tiến hành. Sẽ cần thêm thời gian để sự thật được phơi bày.

Còn một câu hỏi còn bỏ ngỏ. Nếu 90% các trường hợp bị từ chối được lật ngược quyết định trong quá trình kháng cáo, thì tại sao các công ty bảo hiểm vẫn tiếp tục từ chối? Câu trả lời rất đơn giản. Đó là vì hầu hết bệnh nhân đều không kháng cáo. Theo dữ liệu năm 2022, tỷ lệ bệnh nhân thực sự thực hiện kháng cáo sau khi bị từ chối chỉ vỏn vẹn 0,2%. Cứ 999 người thì có 998 người bỏ cuộc. Đây chính là kinh tế học của thuật toán. Nếu từ chối, một số ít sẽ kháng cáo và thắng kiện, nhưng đại đa số sẽ bỏ cuộc. Tiết kiệm được chi phí điều trị của những người bỏ cuộc chính là lợi nhuận. Tổng lợi nhuận của các công ty bảo hiểm sức khỏe vì lợi nhuận vào năm 2023 là 70,7 tỷ đô la.

Trong khi vụ án Loken đang diễn ra, tại California, một vụ kiện khác cũng đang đặt ra những câu hỏi tương tự.

(2) Kisting-Leung v. Cigna: Từ chối tự động trong 1.2 giây

Tháng 7 năm 2023, một người phụ nữ tên là Suzanne Kisting-Leung đã nộp đơn kiện lên Tòa án Liên bang California.

Bị đơn là Cigna.

Câu chuyện của cô ấy là thế này. Cô ấy đã thực hiện hai lần siêu âm để kiểm tra ung thư buồng trứng. Một nang u đã được phát hiện ở buồng trứng bên trái. Chi phí kiểm tra là 723 đô la. Cigna đã từ chối thanh toán.

Theo chính sách bảo hiểm y tế của Signa, siêu âm qua đường âm đạo để tầm soát hoặc theo dõi đối với phụ nữ có nguy cơ cao mắc ung thư buồng trứng hoặc ung thư nội mạc tử cung được coi là "cần thiết về mặt y tế". Cô ấy chính xác thuộc vào nhóm này. Vậy tại sao yêu cầu lại bị từ chối?

Câu trả lời nằm trong phóng sự điều tra của ProPublica, một tổ chức báo chí phi lợi nhuận.

Tháng 3 năm 2023, ProPublica đã công bố một bài báo gây sốc dựa trên các tài liệu nội bộ của Signa và các cuộc phỏng vấn với các cựu nhân viên.

Signa đang sử dụng một hệ thống có tên là PxDx. Hệ thống này cho phép các bác sĩ tự động từ chối yêu cầu thanh toán mà không cần phải mở hồ sơ bệnh nhân.

Hãy cùng nhìn vào các con số. Trong vòng hai tháng của năm 2022, các bác sĩ tại Signa đã từ chối hơn 300.000 yêu cầu thanh toán bằng cách sử dụng PxDx. Thời gian kiểm tra trung bình cho mỗi yêu cầu là 1,2 giây.

1.2 giây. Đó là khoảng thời gian không hề đủ để đọc hồ sơ y tế của bệnh nhân. Thực tế, thậm chí còn không có đủ thời gian để mở tệp hồ sơ của họ ra xem.

Một cựu bác sĩ của Cigna đã nói với ProPublica như sau: "Chúng tôi thực sự chỉ việc nhấp chuột và gửi đi. Chỉ mất 10 giây để xử lý 50 hồ sơ cùng một lúc." Một bác sĩ khác, Tiến sĩ Cheryl Dopke, đã xử lý 60.000 yêu cầu thanh toán trong vòng một tháng vào năm 2022. Tiến sĩ Alan Muney, người đã phát triển PxDx, từng là Giám đốc Y tế của Cigna. Ông đã xác nhận với ProPublica rằng: "Các trường hợp liên quan đến PxDx không có bác sĩ, y tá hay bất kỳ ai kiểm tra lại cả. Điều này chắc chắn đã giúp tiết kiệm hàng tỷ đô la."

Hàng tỷ đô la. Đây chính là mấu chốt.

Kisting-Lund và các nguyên đơn khác ban đầu đã đưa ra bốn cáo buộc về hành vi sai trái: vi phạm nghĩa vụ trung thực, vi phạm Luật Cạnh tranh Không lành mạnh của California, gây cản trở quan hệ hợp đồng và làm giàu bất chính.

Tuy nhiên, một năm sau đó vào tháng 6 năm 2024, chiến lược pháp lý của họ đã thay đổi. Trong đơn kiện sửa đổi lần thứ ba, họ đã chuyển sang các khiếu nại theo ERISA (Đạo luật Bảo mật Thu nhập Hưu trí của Nhân viên). ERISA là một luật liên bang quy định các kế hoạch bảo hiểm y tế do người sử dụng lao động cung cấp.

Tại sao chiến lược lại thay đổi? Bởi vì ERISA là một con dao hai lưỡi. Một mặt, ERISA chiếm ưu thế trong các khiếu nại theo luật tiểu bang, từ đó làm giảm bớt các lựa chọn của nguyên đơn. Mặt khác, ERISA cung cấp một khái niệm mạnh mẽ mang tên nghĩa vụ ủy thác (fiduciary duty). Các công ty bảo hiểm có nghĩa vụ ủy thác là phải hành động vì lợi ích của người tham gia bảo hiểm. Liệu việc sử dụng thuật toán để từ chối yêu cầu bồi thường mà thậm chí không xem xét hồ sơ bệnh nhân có phù hợp với nghĩa vụ ủy thác hay không?

Vào ngày 31 tháng 3 năm 2025, Thẩm phán Dale Drozd đã đưa ra phán quyết về đơn yêu cầu bác bỏ của Signa. Kết quả là một chiến thắng một phần.

Trước hết, đã có vấn đề về tư cách khởi kiện (standing) của nguyên đơn.

Signa khẳng định rằng ba nguyên đơn, Kissing-Lung, Thornhill và Bredlow thực sự không bị từ chối thông qua PxDx. Signa đã nộp bản tuyên thệ của Tiến sĩ Julie B. Kessel. Bà từng là Giám đốc Y tế của bộ phận Chất lượng và Tuân thủ Lâm sàng tại Signa. Theo lời khai của bà, các yêu cầu của ba nguyên đơn này đã không được xử lý thông qua PxDx.

Có một điểm thú vị ở đây. Signa đã khẳng định rằng mỗi khi sử dụng PxDx, họ đều gửi thông báo công khai cho bác sĩ và bệnh nhân. Ba nguyên đơn này đã không nhận được bất kỳ thông báo nào như vậy. Do đó, các yêu cầu bồi thường của họ đã không được xử lý thông qua PxDx. Thẩm phán đã chấp nhận lập luận này. Phán quyết cho thấy Keating-Lund, Sonhill và Bradlow không có tư cách nguyên đơn đối với các yêu cầu bồi thường liên quan đến PxDx. Tuy nhiên, tòa vẫn cho phép họ tiến hành các khiếu nại về việc từ chối thanh toán bảo hiểm không hợp lý một cách thông thường.

Điều quan trọng hơn là cáo buộc vi phạm nghĩa vụ ủy thác theo ERISA vẫn được duy trì. Thẩm phán đã bác bỏ lập luận của Cigna. Cigna cho rằng họ có quyền tùy nghi trong việc giải thích các điều khoản bảo hiểm. Họ cũng khẳng định việc sử dụng thuật toán nằm trong phạm vi quyền tùy nghi đó. Tuy nhiên, thẩm phán đã phán quyết rằng đây là sự lạm dụng quyền tùy nghi.

Lập luận cốt lõi là như thế này. Trong các điều khoản bảo hiểm có quy định rõ rằng việc quyết định sự cần thiết về mặt y tế sẽ được thực hiện bởi 'giám đốc y tế' (medical director). Các nguyên đơn lập luận rằng việc ủy quyền quyết định sự cần thiết về mặt y tế cho hệ thống PxDx là vi phạm điều khoản này. Thẩm phán đã phán quyết rằng các nguyên đơn đã đưa ra đủ các tình tiết để hỗ trợ cho lập luận này.

Phản ứng của Cigna cũng đáng được chú ý. Người phát ngôn của Cigna khẳng định rằng PxDx không sử dụng AI. Họ cho biết điều này tương tự như phần mềm mà các công ty bảo hiểm y tế khác và Trung tâm Dịch vụ Medicare & Medicaid (CMS) đã sử dụng trong nhiều năm qua. Ngoài ra, PxDx cũng nhấn mạnh rằng công nghệ này chỉ được sử dụng cho khoảng 50 loại "xét nghiệm và thủ thuật chi phí thấp", việc xem xét được thực hiện sau khi điều trị, và thông báo sẽ được gửi đến cả bác sĩ lẫn bệnh nhân.

Các luật sư của Signa đã chỉ trích bài báo của ProPublica là "gây hiểu lầm và mang tính kích động". Tuy nhiên, thẩm phán cho biết không cần thiết phải phán xét tính chính xác của các báo cáo truyền thông ở giai đoạn này. Sự thật sẽ được làm sáng tỏ thông qua quá trình tiết lộ chứng cứ.

Ngày 9 tháng 6 năm 2025, một cuộc họp lịch trình sơ bộ đã được tổ chức tại Tòa án Liên bang Sacramento. Mọi việc diễn ra đúng như dự kiến.

Sau phán quyết tháng 3 của Thẩm phán Drews, phía nguyên đơn đã đứng trước một ngã rẽ. Hoặc là nộp bản sửa đổi đơn kiện lần thứ 4 trong vòng 21 ngày, hoặc là tuyên bố sẽ chiến đấu chỉ với những cáo buộc còn lại. Họ đã chọn vế sau. Sẽ không sửa đổi đơn kiện thêm nữa. Sẽ chiến đấu chỉ với những vũ khí còn sót lại. Hai vũ khí còn lại là: Vi phạm nghĩa vụ của người ủy thác theo luật ERISA, và vi phạm Luật Cạnh tranh Không lành mạnh của California. Cả hai đều hướng tới cùng một câu hỏi: Liệu việc Cigna thay thế "sự kiểm duyệt của giám đốc y tế" như đã cam kết trong hợp đồng bằng thuật toán PxDx có phải là sự lạm dụng quyền hạn hay không.

Mùa hè đã qua và mùa thu đã đến. Ngày 2 tháng 9 năm 2025, Thẩm phán Chi Su Kim đã phê duyệt 'Lệnh bảo vệ thỏa thuận đã được sửa đổi'.

Trong các vụ kiện tại Mỹ, có một giai đoạn mà cả hai bên phải phơi bày các quân bài của mình trước khi xét xử. Quy trình này được gọi là 'tiết lộ chứng cứ' (discovery). Vấn đề nằm ở chỗ, trong quá trình này, các thông tin nhạy cảm như bí mật kinh doanh, email nội bộ và tài liệu kỹ thuật của công ty khó tránh khỏi việc bị lộ ra ngoài.

Lệnh bảo vệ là một biện pháp an toàn dành cho những tình huống như thế này. Nói một cách đơn giản, đây là quy tắc "có thể cho xem bí mật, nhưng không được tùy tiện lan truyền". Các tài liệu được chỉ định là mật chỉ những người có liên quan đến vụ kiện mới được phép xem, và không được sao chép hoặc làm rò rỉ ra bên ngoài tòa án. Sau khi phiên tòa kết thúc, các tài liệu này phải được hoàn trả hoặc tiêu hủy.

Việc có thêm cụm từ 'thỏa thuận' có nghĩa là nguyên đơn và bị đơn đã cùng đồng ý với quy tắc này, còn 'được sửa đổi' có nghĩa là quy tắc được thiết lập ban đầu đã được thay đổi sau đó.

Tiết lộ chứng cứ (Discovery). Đây là giai đoạn tốn kém nhất và cũng là giai đoạn làm lộ ra nhiều điều nhất trong một vụ kiện tại Mỹ.

Các luật sư bên nguyên nay đã có thể yêu cầu các tài liệu nội bộ của Signa. Cách thức PxDx vận hành. Những tiêu chí nào được dùng để quyết định từ chối. Các bác sĩ thực sự nhìn thấy gì và không nhìn thấy gì. Điều gì đã xảy ra trong vòng 1.2 giây đó.

Cigna vẫn đang tiếp tục lặp lại cùng một lập luận. PxDx không phải là AI. Đó là một phần mềm tiêu chuẩn của ngành. Trung tâm Dịch vụ Medicare & Medicaid (CMS) cũng đã sử dụng một hệ thống tương tự trong nhiều năm qua. Nó chỉ được áp dụng cho khoảng 50 loại xét nghiệm và thủ thuật chi phí thấp. Việc xem xét được thực hiện sau khi điều trị. Thông báo cũng sẽ được gửi đến bác sĩ và bệnh nhân.

Tuy nhiên, vấn đề gây tranh cãi tại tòa án không phải là liệu PxDx có phải là AI hay không. Vấn đề nằm ở chỗ liệu Signa có thực hiện đúng những gì đã cam kết với khách hàng hay không. Trong hợp đồng bảo hiểm có ghi rõ: 'Người chịu trách nhiệm y tế sẽ quyết định nhu cầu y tế'. Không hề có dòng nào ghi rằng thuật toán có thể thay thế vai trò đó. Vụ kiện hiện đã bước vào giai đoạn tẻ nhạt nhất nhưng cũng là quan trọng nhất.

Quá trình các luật sư yêu cầu tài liệu, phía đối phương kháng cự và thẩm phán đứng ra hòa giải sẽ kéo dài trong nhiều tháng. Các lời khai dưới lời thề của nhân chứng sẽ bắt đầu. Cựu Giám đốc Y tế Alan Money, người đã phát triển PxDx, có thể sẽ phải ra điều trần. Tiến sĩ Julie B. Kessel cũng vậy.

Các luật sư của Signa, những người từng chỉ trích bài báo của ProPublica là "gây hiểu lầm và mang tính kích động", giờ đây có thể sẽ phải nộp dữ liệu gốc làm căn cứ cho bài báo đó. Đó là dữ liệu về việc đã từ chối hơn 300.000 yêu cầu bồi thường trong vòng hai tháng vào năm 2022.

Có một sự mỉa mai ở đây. Cigna đã khẳng định rằng họ luôn gửi thông báo công khai cho bác sĩ và bệnh nhân mỗi khi sử dụng PxDx. Lập luận này đã giúp họ ngăn chặn thành công các khiếu nại liên quan đến PxDx của ba nguyên đơn. Logic của họ là: vì không nhận được thông báo nên họ không bị từ chối bởi PxDx. Thế nhưng, chính logic tương tự đó hiện đang thắt chặt vòng vây quanh Cigna.

Nếu có hệ thống thông báo, điều đó có nghĩa là chúng ta có thể biết chính xác ai đã bị từ chối bởi PxDx. Điều đó có nghĩa là có hồ sơ lưu lại. Những hồ sơ đó sẽ được tiết lộ trong quá trình khám phá chứng cứ.

Mặt khác, tại Minnesota, vụ việc Loken cũng đang diễn ra theo một lộ trình tương tự. nH Predict của UnitedHealthcare và PxDx của Cigna. Cả hai vụ kiện đều đang đặt ra cùng một câu hỏi: Liệu thuật toán có thể thay thế bác sĩ con người để đưa ra các quyết định bảo hiểm hay không?

Vụ việc Loken liên quan đến kế hoạch Medicare Advantage, còn vụ việc Kissing-Lunge liên quan đến bảo hiểm y tế do người sử dụng lao động cung cấp. Vụ việc trước chịu sự điều chỉnh của Luật Medicare, và vụ việc sau chịu sự điều chỉnh của ERISA. Luật pháp tuy khác nhau nhưng bản chất là như nhau. Khi công ty bảo hiểm thay thế 'sự phán đoán của con người' như đã cam kết bằng các tính toán của máy móc, liệu đó có phải là vi phạm hợp đồng hay không.

Câu trả lời vẫn chưa có. Tuy nhiên, câu hỏi đã được đưa ra trước tòa. Có một sự khác biệt quan trọng giữa vụ Loken và vụ Keating-Lang. Vụ Loken liên quan đến các chương trình Medicare Advantage, trong khi vụ Keating-Lang liên quan đến bảo hiểm y tế do người sử dụng lao động cung cấp. Vụ thứ nhất chịu sự điều chỉnh của Luật Medicare, và vụ thứ hai chịu sự điều chỉnh của ERISA. Tuy nhiên, cả hai vụ việc đều đặt ra cùng một câu hỏi: Liệu thuật toán có thể thay thế bác sĩ con người để đưa ra các quyết định về bảo hiểm hay không?

(3) Thống kê tỷ lệ từ chối AI tăng (từ 10.9% lên 22.7%)

Con số không biết nói dối.

Tháng 10 năm 2024, Ủy ban Điều tra Thượng viện Hoa Kỳ đã công bố một bản báo cáo gây sốc. Đó là kết quả cuộc điều tra về tỷ lệ từ chối phê duyệt trước (prior authorization) của ba công ty bảo hiểm lớn: UnitedHealthcare, Humana và CVS.

Vào năm 2020, tỷ lệ từ chối phê duyệt trước trung bình của ba công ty này là 10,9%. Đến năm 2023, con số này đã tăng hơn gấp đôi lên mức 22,7%. Như vậy, tỷ lệ từ chối đã tăng gấp đôi chỉ trong vòng 3 năm.

Điều gì đã thay đổi? Có phải các bệnh nhân đột nhiên bắt đầu yêu cầu nhiều phương pháp điều trị không cần thiết hơn không? Khả năng đó là rất thấp. Thứ đã thay đổi chính là cách thức đưa ra quyết định. AI và các thuật toán đã được đưa vào áp dụng.

Hãy cùng suy ngẫm về ý nghĩa của những con số này. Phê duyệt trước (prior authorization) là một hệ thống mà trong đó công ty bảo hiểm phải phê duyệt một phương pháp điều trị hoặc thủ thuật cụ thể thì bệnh nhân mới có thể nhận được sự điều trị đó. Ngay cả khi bác sĩ quyết định rằng cần phải chụp MRI, nhưng nếu công ty bảo hiểm không phê duyệt, bệnh nhân sẽ phải tự chi trả toàn bộ chi phí hoặc phải từ bỏ việc điều trị.

Việc tỷ lệ từ chối tăng từ 10,9% lên 22,7% có nghĩa là một phần đáng kể các phương pháp điều trị từng được phê duyệt trước đây hiện đang bị từ chối. Xét nghiệm ung thư, vật lý trị liệu, kiểm tra trước phẫu thuật, thăm khám chuyên khoa. Những thứ này đang bị từ chối.

Theo khảo sát của Gallup vào tháng 11 năm 2024, chỉ có 44% người Mỹ đánh giá chất lượng y tế của Hoa Kỳ ở mức 'xuất sắc' hoặc 'tốt'. Đây là mức thấp nhất kể từ năm 2001. Trong cùng một cuộc khảo sát, 36% người trưởng thành cho biết họ đã từng bị từ chối yêu cầu bảo hiểm. Trong số đó, 60% đã bị từ chối nhiều lần. Dữ liệu về việc khiếu nại cũng rất đáng chú ý. Tỷ lệ bệnh nhân thực sự thực hiện khiếu nại sau khi bị từ chối chỉ vỏn vẹn 0,2%. Tuy nhiên, hơn 80% những người thực hiện khiếu nại đã giành chiến thắng. Điều này cho thấy một phần lớn các quyết định từ chối ban đầu là không chính đáng.

Tại sao các bệnh nhân không kháng cáo? Đó là vì quy trình này rất phức tạp và mất nhiều thời gian. Đối với Medicare Advantage, có một quy trình kháng cáo hành chính gồm 4 bước. Mỗi bước đều yêu cầu giấy tờ, phải chờ đợi, và nếu bị từ chối, họ lại phải chuyển sang bước tiếp theo. Thật khó để một bệnh nhân đang đau ốm có thể đương đầu với quá trình này.

Các công ty bảo hiểm biết rõ điều này. Đây chính là mô hình kinh doanh của họ. Đầu tiên là từ chối, và chỉ chi trả cho một số ít những người kháng cáo. Đa số sẽ bỏ cuộc.

Tháng 12 năm 2024, Brian Thompson, CEO của UnitedHealthcare, đã bị bắn chết tại Manhattan, New York. Sự việc bi kịch này đã làm bùng nổ làn sóng phẫn nộ đối với ngành bảo hiểm y tế trên khắp nước Mỹ. Trên các mạng xã hội, những câu chuyện về những người phải chịu đựng sự đau đớn do bị từ chối bảo hiểm đã tràn lan khắp nơi.

Bạo lực không thể được biện minh trong bất kỳ hoàn cảnh nào. Tuy nhiên, sự việc này đã cho thấy người Mỹ đang cảm thấy tuyệt vọng sâu sắc đến mức nào đối với hệ thống bảo hiểm y tế.

AI đã làm cho hệ thống này trở nên hiệu quả hơn. Vấn đề là sự hiệu quả đó dành cho ai. Đối với các công ty bảo hiểm, AI là một công cụ để cắt giảm chi phí. Đối với bệnh nhân, AI lại là thêm một rào cản nữa.

Vụ kiện Loken và vụ kiện Kissing-Lung là những nỗ lực đầu tiên nhằm thách thức hệ thống này. Dù tòa án đưa ra phán quyết như thế nào, những vụ kiện này đã đưa ra một câu hỏi quan trọng trước công luận: Khi thuật toán đưa ra các quyết định liên quan đến sức khỏe con người, ai sẽ là người chịu trách nhiệm?

Trong phần tiếp theo, chúng ta sẽ xem xét một khía cạnh khác của câu hỏi này. Khi AI mắc sai lầm trong chẩn đoán hoặc điều trị, ai sẽ là người chịu trách nhiệm về sai sót y tế?

II. Chẩn đoán sai của AI, trách nhiệm thuộc về ai?

(1) Lỗi chẩn đoán của AI và việc có công nhận trách nhiệm pháp lý hay không

Năm 2024, cứ 5 bác sĩ tại Mỹ thì có 3 người đang sử dụng AI trong quá trình khám chữa bệnh. Đây là kết quả cuộc khảo sát của Hiệp hội Y khoa Hoa Kỳ (AMA).

Con số này thật đáng kinh ngạc. Chỉ mới vài năm trước, AI vẫn còn là một chủ đề nghiên cứu trong phòng thí nghiệm. Giờ đây, nó đang đối mặt với bệnh nhân ngay tại phòng khám. Nó đọc kết quả X-quang, phân tích các tổn thương da và phát hiện ung thư.

Tôi có một câu hỏi. Chuyện gì sẽ xảy ra nếu AI trả lời sai?

Theo dữ liệu năm 2024, các khiếu nại liên quan đến sai sót y tế do công cụ AI gây ra đã tăng 14% so với năm 2022. Phần lớn các trường hợp xảy ra trong lĩnh vực chẩn đoán hình ảnh, tim mạch và ung thư học. Việc bỏ lỡ chẩn đoán ung thư là loại hình phổ biến nhất.

Khái niệm cốt lõi của luật sai sót y tế là "tiêu chuẩn chăm sóc (standard of care)". Nói một cách dễ hiểu, đó là "một bác sĩ hợp lý sẽ làm gì trong cùng một tình huống như vậy". Nếu bác sĩ không đáp ứng được tiêu chuẩn này và dẫn đến hậu quả bệnh nhân bị tổn thương, thì sai sót sẽ được công nhận.

Vấn đề là mọi thứ sẽ trở nên phức tạp hơn khi AI tham gia vào phương trình này.

Hãy cùng xem xét kịch bản 1. Bác sĩ đã mù quáng làm theo đề xuất của hệ thống AI, AI đã sai, và bệnh nhân đã phải chịu thiệt hại. Lỗi thuộc về ai?

Đây là kịch bản 2. Bác sĩ đã phớt lờ đề xuất của hệ thống AI, nhưng AI lại đúng, và bệnh nhân đã phải chịu thiệt hại. Lỗi thuộc về ai?

Đây là kịch bản 3. Bác sĩ hoàn toàn không sử dụng hệ thống AI, và nếu có sử dụng AI thì đã có thể tránh được sai sót, nhưng bệnh nhân đã phải chịu thiệt hại. Lỗi thuộc về ai?

Trong khuôn khổ pháp lý hiện tại, câu trả lời cho mọi trường hợp đều là 'bác sĩ'. Vào tháng 4 năm 2024, Liên đoàn các Hội đồng Y khoa Tiểu bang (Federation of State Medical Boards, FSMB) đã đưa ra một bản khuyến nghị. Hội đồng y khoa của mỗi tiểu bang là cơ quan quản lý và kỷ luật giấy phép hành nghề y. Khuyến nghị của FSMB rất rõ ràng: Nếu công nghệ AI gây ra sai sót y tế, người phải chịu trách nhiệm là bác sĩ lâm sàng chứ không phải nhà sản xuất AI.

Lập luận của họ là thế này: "Giống như các công cụ khác được sử dụng trong chẩn đoán hoặc điều trị và các chẩn đoán phân biệt, các chuyên gia y tế có trách nhiệm đảm bảo tính chính xác và tính xác thực của các kết luận dựa trên bằng chứng."

Nói cách khác, AI chỉ là một công cụ giống như ống nghe hay máy chụp MRI. Ngay cả khi công cụ cung cấp thông tin sai lệch, người diễn giải và đưa ra quyết định vẫn là bác sĩ. Do đó, trách nhiệm cuối cùng cũng thuộc về bác sĩ.

Tuy nhiên, logic này có một vấn đề. Ống nghe không tự đưa ra phán đoán. Máy MRI không nói rằng "Đây là ung thư". AI thì có nói. AI đưa ra các đề xuất. Đôi khi, những đề xuất đó cực kỳ cụ thể và đầy sự tự tin.

Có một hiện tượng gọi là 'định kiến tự động hóa (automation bias)'. Con người có xu hướng tiếp nhận thông tin do máy tính cung cấp một cách thiếu phê phán. Điều này đặc biệt xảy ra khi họ nghĩ rằng máy tính có khả năng xử lý nhiều dữ liệu hơn và sẽ chính xác hơn chính mình. Ngay cả các bác sĩ cũng không phải là ngoại lệ.

Có một nghiên cứu được thực hiện bởi đội ngũ nghiên cứu tại Johns Hopkins. Các bác sĩ có khả năng sẽ tham vấn AI trong những trường hợp đơn giản, nhưng có xu hướng né tránh AI trong các kịch bản phức tạp với kết quả ít có thể dự đoán trước hơn. Lý do là vì những lo ngại về sai sót y tế.

Điều này tạo ra một tình huống nghịch lý. Nếu các bác sĩ không sử dụng AI trong những trường hợp phức tạp - nơi AI có thể hỗ trợ nhiều nhất, mà chỉ sử dụng AI trong những trường hợp đơn giản - nơi AI ít cần thiết hơn, thì giá trị tiềm năng của AI sẽ không được hiện thực hóa.

Hiện vẫn chưa có phán quyết quan trọng nào liên quan đến sai sót y tế do AI gây ra. Các vụ việc mới chỉ bắt đầu được đưa ra tòa án. Tuy nhiên, các luật gia đang đưa ra nhiều lý thuyết về trách nhiệm pháp lý khác nhau.

Thứ nhất, sai sót y tế (physician negligence). Việc bác sĩ mù quáng tuân theo các đề xuất của AI, hoặc không sử dụng AI đã được kiểm chứng mặc dù tiêu chuẩn về nghĩa vụ chú ý yêu cầu, có thể bị coi là sai sót.

Thứ hai, trách nhiệm của bệnh viện/tổ chức (institutional liability). Điều này bao gồm trách nhiệm liên đới (respondeat superior), sai sót trong việc thẩm định năng lực (negligent credentialing), và việc thất bại trong việc kiểm chứng/huấn luyện/cập nhật hệ thống AI.

Thứ ba, trách nhiệm sản phẩm của nhà phát triển (developer product liability). Các trường hợp có thể bao gồm thiết kế lỗi, thiếu cảnh báo, dữ liệu huấn luyện không phù hợp, v.v.

Hầu hết các điều khoản sử dụng của thiết bị y tế AI đều bao gồm các điều khoản miễn trừ trách nhiệm. "Trách nhiệm cuối cùng thuộc về bác sĩ." Đây là một cơ chế để nhà sản xuất né tránh trách nhiệm.

Tuy nhiên, vẫn chưa rõ liệu tòa án sẽ công nhận điều khoản miễn trừ trách nhiệm này đến mức độ nào.

Có một ngoại lệ. Một công ty có tên là Digital Diagnostics đã phát triển một hệ thống chẩn đoán bệnh võng mạc tiểu đường mang tên IDx-DR.

Công ty này trực tiếp tham gia bảo hiểm sai sót y tế và chịu trách nhiệm đối với các thương tích do hệ thống của mình gây ra. Đây là một trường hợp hiếm thấy trong ngành.

Bản thân các tiêu chuẩn về nghĩa vụ cẩn trọng cũng đang thay đổi.

Vào tháng 5 năm 2024, Viện Luật Hoa Kỳ (American Law Institute) đã phê duyệt bản Tái lập (Restatement) đầu tiên về luật sai sót y tế. Tài liệu này phản ánh sự chuyển dịch từ việc phụ thuộc nghiêm ngặt vào các thông lệ truyền thống sang khái niệm 'sự cẩn trọng hợp lý' lấy bệnh nhân làm trung tâm hơn. Giờ đây, tòa án có thể xem xét các hướng dẫn dựa trên bằng chứng và các tiêu chuẩn hiện đại. Điều này có ý nghĩa quan trọng đối với AI. Khi các thiết bị hoặc quy trình làm việc dựa trên AI trở nên phổ biến và chứng minh được tính hữu dụng, những gì được kỳ vọng ở một 'bác sĩ hợp lý' cũng sẽ thay đổi tương ứng. Việc không sử dụng AI bản thân nó có thể bị coi là một hành vi sai sót.

Ngành bảo hiểm sai sót y tế cũng đang dần thích nghi. Một số công ty bảo hiểm đã đưa vào các điều khoản loại trừ liên quan đến AI. Các công ty bảo hiểm khác lại yêu cầu bác sĩ phải được đào tạo về AI để duy trì quyền lợi bảo hiểm.

Jared Kaplan, CEO của Indigo, cho biết AI là "hoàn toàn tích cực" và "sẽ làm giảm tỷ lệ sai sót y tế trong dài hạn". Tuy nhiên, ông cũng thừa nhận rằng AI đang tạo ra một "mối đe dọa mới" về mặt pháp lý, và "không có câu trả lời rõ ràng trắng đen" về việc ai là người phải chịu trách nhiệm cho những sai sót đó.

(2) AI hộp đen và nghĩa vụ giải thích của bác sĩ

Khi hệ thống AI nói rằng "Đây là một khối u ác tính", bác sĩ nên giải thích điều gì với bệnh nhân?

Theo truyền thống, bác sĩ phải giải thích về các chẩn đoán và phương án điều trị cho bệnh nhân và nhận được sự đồng ý của họ. Điều này được gọi là 'sự đồng ý dựa trên sự hiểu biết đầy đủ (informed consent)'. Bác sĩ phải giải thích về các rủi ro và lợi ích để bệnh nhân có thể đưa ra quyết định dựa trên đầy đủ thông tin.

Khi AI tham gia vào quá trình chẩn đoán, những câu hỏi mới sẽ nảy sinh. Liệu bác sĩ có nên thông báo cho bệnh nhân về việc AI đã được sử dụng hay không? Liệu có cần phải giải thích cách thức mà AI đã đi đến kết luận đó không?

Vấn đề là nhiều hệ thống AI giống như một 'hộp đen'. Dữ liệu đầu vào được đưa vào và kết quả đầu ra được tạo ra, nhưng rất khó để biết chính xác điều gì đang xảy ra ở giữa quá trình đó. Các thuật toán học sâu (deep learning) nhận diện các quy luật bằng cách điều chỉnh hàng triệu tham số. Do đó, rất khó để giải thích tại sao chúng lại đi đến một kết luận cụ thể nào đó.

Ngay cả chính bác sĩ cũng có thể không hiểu rõ cách thức hoạt động của AI. Trong tình huống này, họ có thể giải thích được gì cho bệnh nhân?

Một nhóm nghiên cứu do Phó Giáo sư Sara Gerke từ Đại học Illinois Urbana-Champaign dẫn đầu đã thực hiện một nghiên cứu nhóm tập trung (focus group) với sự tham gia của 18 bác sĩ phẫu thuật từ Hoa Kỳ và EU. Kết quả đã được công bố trên tạp chí 《Annals of Surgery Open》.

Các bác sĩ phẫu thuật thường chấp nhận rằng ngay cả khi sử dụng AI, trách nhiệm cuối cùng vẫn thuộc về chính họ. Họ xem AI hiện chưa phải là một phần của tiêu chuẩn nghĩa vụ chăm sóc, nhưng dự đoán rằng trong tương lai điều đó sẽ trở thành hiện thực. Hầu hết đều hoài nghi về việc nhà sản xuất sẽ phải chịu trách nhiệm đáng kể trừ khi có những lỗi rõ ràng. Một số người yêu cầu chia sẻ trách nhiệm trong trường hợp bác sĩ phẫu thuật đã tuân thủ đúng các chỉ dẫn của AI.

Sự đồng ý của bệnh nhân lại trở thành một chủ đề khác được đưa ra thảo luận. Các bác sĩ phẫu thuật cảm thấy rằng khi AI được sử dụng, đặc biệt là khi việc tuân theo hoặc từ chối các đề xuất của AI có thể thay đổi kết quả điều trị, thì bệnh nhân cần phải được thông báo. California đã bắt đầu tiến hành lập pháp theo hướng này. Dự luật AB 3030 yêu cầu các nhà cung cấp dịch vụ y tế phải công khai khi sử dụng AI tạo sinh để gửi các thông tin lâm sàng cho bệnh nhân, bắt đầu từ ngày 1 tháng 1 năm 2025. Các thông báo này phải bao gồm một tuyên bố miễn trừ trách nhiệm rằng nội dung được tạo bởi AI, cùng với hướng dẫn rõ ràng về cách thức để bệnh nhân có thể liên lạc với nhà cung cấp dịch vụ y tế mà không cần thông qua phản hồi của AI.

Tuy nhiên, điều này liên quan đến vấn đề giao tiếp. Nghĩa vụ công khai về việc sử dụng AI trong các quyết định chẩn đoán hoặc điều trị vẫn chưa được làm rõ.

Các giải pháp kỹ thuật cho vấn đề "hộp đen" cũng đang được tìm kiếm. Có một lĩnh vực được gọi là 'AI có thể giải thích được (Explainable AI, XAI)'. Đây là công nghệ giúp AI có thể giải thích lý do tại sao nó đưa ra quyết định như vậy. Ví dụ, nếu AI phát hiện viêm phổi từ hình ảnh X-quang ngực, nó có thể hiển thị trực quan vùng nào đã góp phần dẫn đến kết luận đó.

Tuy nhiên, AI có thể giải thích được (XAI) cũng có những hạn chế. Việc giải thích hoàn toàn quá trình ra quyết định của các mô hình học sâu phức tạp vẫn còn là một thách thức. Và ngay cả khi có thể giải thích được, việc liệu những lời giải thích đó có ý nghĩa về mặt y khoa hay không lại là một vấn đề khác.

Hướng dẫn tháng 1 năm 2025 của FDA nhấn mạnh vào tính minh bạch. Các nhà sản xuất phải lập tài liệu về cách thức hoạt động của AI, dữ liệu nào đã được sử dụng để huấn luyện và những hạn chế đã biết là gì. Tuy nhiên, việc thông tin này có thực sự được truyền đạt đến bệnh nhân hay không lại phụ thuộc vào quyết định của các nhà cung cấp dịch vụ y tế.

Một trong những nguyên tắc cốt lõi của đạo đức y khoa là quyền tự quyết của bệnh nhân. Bệnh nhân có quyền đưa ra các quyết định dựa trên đầy đủ thông tin về quá trình điều trị của chính mình. Nếu AI có ảnh hưởng đến quyết định đó, chẳng phải bệnh nhân cũng có quyền được biết sự thật hay sao?

Câu trả lời pháp lý cho câu hỏi này vẫn đang trong quá trình phát triển.

(3) Phân chia trách nhiệm giữa quyết định của bác sĩ và đề xuất của AI

Đây là câu hỏi cuối cùng.

Khi AI nói một đằng và bác sĩ chọn một nẻo, ai sẽ là người phải chịu trách nhiệm?

Hiện tại, trong luật về sai sót y tế tại Hoa Kỳ, trách nhiệm pháp lý phụ thuộc vào tiêu chuẩn 'một bác sĩ hợp lý trong những tình huống tương tự'. Cho dù có sử dụng AI hay không, tòa án vẫn sẽ phán quyết dựa trên hành vi của bác sĩ. Không có học thuyết pháp lý nào về việc phân chia trách nhiệm chung cho các hệ thống AI.

Lĩnh vực hàng không có một cách tiếp cận khác. Khi quá trình tự động hóa thất bại, trách nhiệm được phân chia cho phi công, hệ thống và nhà sản xuất. Liệu lĩnh vực y tế cũng có thể áp dụng một cách tiếp cận tương tự không?

Nhà luật học W. Nicholson Price đã đề xuất một khuôn khổ nhằm phân chia trách nhiệm một cách công bằng hơn. Chỉ thị về trách nhiệm AI của Liên minh Châu Âu cũng đang hướng tới việc áp dụng trách nhiệm vô ý thức (trách nhiệm không lỗi) đối với các sai sót của AI có rủi ro cao.

Một học giả tên là Chan đã đề xuất mô hình 'doanh nghiệp chung' (common enterprise). Theo đó, bác sĩ, nhà sản xuất và bệnh viện được xem là một doanh nghiệp chung xét về mục đích trách nhiệm. Cách tiếp cận này là sự chuyển đổi "từ khái niệm trách nhiệm mang tính cá nhân hóa được thể hiện trong lỗi vô ý và trách nhiệm sản phẩm sang một khái niệm phân tán hơn".

Một đề xuất khác là mô hình chương trình bồi thường thiệt hại do vaccine. Tại Hoa Kỳ, có một chương trình quốc gia cung cấp bồi thường không dựa trên lỗi đối với những thiệt hại do vaccine gây ra. Liệu chúng ta có thể tạo ra một chương trình tương tự cho các thiết bị y tế AI không?

Đề xuất cấp tiến nhất là trao tư cách pháp nhân (legal personhood) cho AI. Khi đó, những bệnh nhân chịu thiệt hại có thể trực tiếp khởi kiện các thiết bị AI. Tuy nhiên, điều này sẽ gây ra rất nhiều vấn đề về mặt triết học và pháp lý.

Thay đổi ngắn hạn thực tế và có khả năng xảy ra nhất là sự tiến hóa của các tiêu chuẩn về nghĩa vụ cẩn trọng. Nếu việc tuân theo các đề xuất của AI trở thành hành vi của một 'người có năng lực hành vi hợp lý', thì các bác sĩ tuân theo AI có thể được bảo vệ. Ngược lại, nếu việc không sử dụng AI bị coi là không hợp lý, thì các bác sĩ không sử dụng AI có thể phải chịu trách nhiệm.

Vấn đề nằm ở giai đoạn chuyển đổi này. Trong khi AI vẫn chưa là một phần của tiêu chuẩn nghĩa vụ cẩn trọng, các bác sĩ phải đưa ra quyết định trong sự mơ hồ. Nên tuân theo AI hay phớt lờ nó? Dù chọn bên nào, nếu xảy ra sai sót, họ đều có thể phải chịu trách nhiệm.

Có một nghiên cứu thực nghiệm được công bố vào năm 2021. Nghiên cứu này đã khảo sát phán quyết của bồi thẩm đoàn về các kịch bản sử dụng AI trên 2.000 người trưởng thành tại Hoa Kỳ. Kết quả thu được rất thú vị.

Khi AI đề xuất phương pháp điều trị tiêu chuẩn và bác sĩ tuân theo, trách nhiệm sẽ được giảm nhẹ ngay cả khi có thiệt hại xảy ra. Ngược lại, khi AI đề xuất phương pháp điều trị không tiêu chuẩn và bác sĩ từ chối để thực hiện phương pháp tiêu chuẩn, thì không có hiệu quả bảo vệ tương tự.

Kết luận của nghiên cứu này rất khả quan. "Khả năng hệ thống luật về hành vi xâm phạm quyền lợi (tort law) gây cản trở việc sử dụng các công cụ y học chính xác AI là thấp, trái lại, nó thậm chí có thể khuyến khích việc sử dụng các công cụ này."

Nhưng đây chỉ là trực giác của bồi thẩm đoàn. Phán quyết thực tế có thể sẽ khác.

Khi AI ngày càng được tích hợp sâu hơn vào y tế, các câu hỏi về trách nhiệm pháp lý sẽ trở nên phức tạp hơn. Khung pháp lý hiện tại không được thiết kế để tính đến sự hiện diện của AI. Việc thích ứng là điều cần thiết.

Khi thuật toán bảo hiểm từ chối điều trị, AI chẩn đoán bỏ sót ung thư, và AI kê đơn đề xuất sai thuốc, ai đó phải chịu trách nhiệm. Liệu "ai đó" ấy có luôn phải là bác sĩ, hay trách nhiệm cần được phân chia công bằng hơn? Đây chính là câu hỏi mà luật y tế trong 10 năm tới cần phải trả lời.

Phần tiếp theo sẽ xem xét các quy định về thiết bị y tế AI của FDA và dự luật SB1120 của California. Chúng ta sẽ đề cập đến cách các nhà lập pháp và cơ quan quản lý đang ứng phó với thực tế mới này.

c. Tính minh bạch mà California yêu cầu

(1) Nghĩa vụ công khai AI theo dự luật SB1120 của California

Ngày 28 tháng 9 năm 2024, Thống đốc bang California Gavin Newsom đã ký vào dự luật đặt trên bàn làm việc của mình.

SB 1120. Dự luật với biệt danh 'Đạo luật Bác sĩ Quyết định (Physicians Make Decisions Act)' có thể được tóm tắt chỉ trong một câu duy nhất: Con người chứ không phải thuật toán mới là bên đưa ra các quyết định y tế.

Lý do cần có đạo luật này rất đơn giản.

Đó là bởi vì các công ty bảo hiểm đã bắt đầu sử dụng AI để cắt giảm chi phí, và kết quả là các bệnh nhân đang bị từ chối những phương pháp điều trị cần thiết. Hiệp hội Y khoa California đã ủng hộ dự luật này để đại diện cho 50.000 thành viên của mình. Lập luận của họ rất rõ ràng: Các công cụ AI không có khả năng nhận biết và chấp nhận hoàn cảnh riêng biệt của từng bệnh nhân.

Nếu xem xét nội dung của luật, có thể thấy nó cụ thể đến mức đáng ngạc nhiên.

Kể từ ngày 1 tháng 1 năm 2025, tất cả các kế hoạch bảo hiểm y tế và công ty bảo hiểm khuyết tật hoạt động tại California phải tuân thủ quy tắc sau. Các quyết định về quyền lợi dựa trên nhu cầu y tế phải được đưa ra bởi bác sĩ có giấy phép hoặc chuyên gia y tế có trình độ. Các công cụ AI không được phép đưa ra quyết định một mình.

Có một điều khoản quan trọng hơn. Chúng tôi đã đặt ra giới hạn đối với dữ liệu mà hệ thống AI có thể sử dụng khi đưa ra quyết định. Hệ thống không được phép đưa ra quyết định chỉ dựa trên các tập dữ liệu nhóm.

Nhất thiết phải xem xét hồ sơ y tế, tiền sử lâm sàng của từng bệnh nhân và tình trạng lâm sàng cụ thể do bác sĩ điều trị cung cấp. Phương pháp đưa ra quyết định bằng cách so sánh với 'những bệnh nhân tương tự' như nH Predict đã từng làm sẽ không còn được chấp nhận nữa.

Các điều khoản chống phân biệt đối xử cũng đã được bao gồm. Các công cụ AI không được phân biệt đối xử dựa trên chủng tộc, giới tính, độ tuổi, khuyết tật hoặc các đặc điểm được bảo vệ khác. Điều này nhất quán với quy định cuối cùng của Mục 1557 Liên bang được sửa đổi vào tháng 7 năm 2024. Các quy định liên bang cũng cấm các công cụ và thuật toán AI phân biệt đối xử với các bệnh nhân thuộc nhóm yếu thế. Ngoài ra, cũng có các yêu cầu về tính minh bạch.

Các thuật toán AI phải được sẵn sàng để kiểm tra nhằm phục vụ mục đích kiểm toán hoặc xem xét tính tuân thủ. Các công ty bảo hiểm phải công khai các chính sách bằng văn bản liên quan đến việc sử dụng AI cho các nhà cung cấp dịch vụ y tế, người tham gia bảo hiểm và công chúng khi có yêu cầu. Thời đại của "hộp đen" đã kết thúc.

Định nghĩa của luật pháp cũng rất đáng chú ý. Nó định nghĩa 'trí tuệ nhân tạo' là "một hệ thống dựa trên kỹ thuật hoặc máy móc, có mức độ tự chủ đa dạng, có khả năng suy luận ra cách tạo ra đầu ra nhằm gây ảnh hưởng đến môi trường vật lý hoặc ảo từ các đầu vào nhận được vì các mục tiêu rõ ràng hoặc ngầm định". Tuy nhiên, 'thuật toán' hay 'các công cụ phần mềm khác' lại không được định nghĩa. Các chuyên gia pháp lý chỉ ra rằng điều này có thể được diễn giải một cách rộng rãi. Lời bào chữa rằng "PxDx không phải là AI" như Cigna đã khẳng định có thể sẽ không còn hiệu lực nữa.

Cơ chế thực thi cũng rất mạnh mẽ. Bộ Quản lý Y tế California (DMHC) và Bộ Bảo hiểm (CDI) có thẩm quyền áp đặt các khoản phạt hành chính. Các hành vi vi phạm cố ý sẽ bị coi là tội phạm.

Luật này không cấm các công ty bảo hiểm sử dụng AI. Nó chỉ nói rằng AI không thể là người đưa ra quyết định cuối cùng.

Nhưng nếu mọi quyết định của AI đều cần con người kiểm duyệt, thì ngay từ đầu chúng ta sử dụng AI để làm gì? Lợi ích cốt lõi của AI là nâng cao hiệu suất có thể bị vô hiệu hóa. Đây chính là lý do tại sao chúng ta cần theo dõi cách các công ty bảo hiểm tuân thủ luật này.

Cùng ngày hôm đó, Thống đốc Newsom cũng đã ký một dự luật khác là AB 3030. Dự luật này áp đặt nghĩa vụ công khai khi sử dụng AI tạo sinh để gửi các thông tin giao tiếp có chứa thông tin lâm sàng cho bệnh nhân.

Bệnh nhân có quyền được biết liệu tin nhắn mà họ nhận được có phải do AI tạo ra hay không.

California là tiểu bang lớn nhất Hoa Kỳ. Nhiều tiểu bang khác có khả năng sẽ lấy luật này làm hình mẫu. Hiện tại, nhiều tiểu bang đã và đang xem xét các dự luật tương tự. Một sự chắp vá trong quy định về AI y tế đang dần hình thành. Ở cấp liên bang, một làn gió khác đang thổi tới. Chính quyền Trump đã bãi bỏ Sắc lệnh hành pháp về AI 14110 của Biden vào ngày 20 tháng 1 năm 2025. Ba ngày sau, một sắc lệnh hành pháp mới với tiêu đề "Loại bỏ rào cản đối với vị thế dẫn đầu về trí tuệ nhân tạo của Hoa Kỳ" đã được công bố. Mục tiêu là nhằm cắt giảm các quy định và thúc đẩy đổi mới. Căng thẳng giữa chính quyền liên bang và chính quyền tiểu bang đang gia tăng.

Các quy định của FDA về thiết bị y tế AI vẫn đang tiếp tục phát triển ngay cả trong bối cảnh căng thẳng này.

(2) Quy định về thiết bị y tế AI của FDA

Ngày 7 tháng 1 năm 2025, FDA đã công bố bản hướng dẫn được mong đợi từ lâu.

Đó là một tài liệu với tiêu đề dài: "Tính năng của phần mềm thiết bị y tế dựa trên trí tuệ nhân tạo: Khuyến nghị về quản lý vòng đời và nộp hồ sơ tiếp thị".

Bản hướng dẫn dự thảo dài 85 trang này đã mở ra một chương mới cho việc quản lý các thiết bị y tế AI.

Hãy cùng nhìn vào các con số. Tính đến tháng 7 năm 2025, số lượng thiết bị y tế dựa trên AI được FDA phê duyệt là hơn 1.250 thiết bị. So với con số 950 thiết bị vào tháng 8 năm 2024, con số này đã tăng thêm hơn 300 thiết bị chỉ trong chưa đầy một năm. Hầu hết thuộc lĩnh vực chẩn đoán hình ảnh. Chúng có thể đọc kết quả X-quang, phân tích MRI và phát hiện ung thư.

Vấn đề nằm ở chỗ các thiết bị này liên tục học hỏi và thay đổi. Các thiết bị y tế truyền thống sẽ không thay đổi sau khi đã được phê duyệt. Máy trợ tim của 10 năm trước hay bây giờ vẫn hoạt động theo cùng một cách. Nhưng AI thì khác. Nó được tái đào tạo bằng dữ liệu mới. Các thuật toán được cập nhật. AI của ngày hôm qua và AI của ngày hôm nay có thể khác nhau.

Giải pháp của FDA là 'Kế hoạch kiểm soát thay đổi được xác định trước (Predetermined Change Control Plan, PCCP)'. Nếu nhà sản xuất nộp trước một kế hoạch theo kiểu "các loại thay đổi như thế này sẽ được thực hiện theo cách như thế kia", thì các thay đổi nằm trong phạm vi đó có thể được tiến hành mà không cần FDA phải xem xét lại từ đầu. Bản hướng dẫn cuối cùng được công bố vào tháng 12 năm 2024 đã thiết lập nên khuôn khổ này.

PCCP phải bao gồm ba yếu tố cốt lõi.

Thứ nhất, là phần giải thích về các nội dung chỉnh sửa đã được lên kế hoạch. Cần phải mô tả chi tiết về việc sẽ thực hiện những thay đổi nào, chẳng hạn như tái huấn luyện thuật toán, tích hợp các tập dữ liệu mới, v.v.

Thứ hai, là giao thức sửa đổi. Cần phải nêu rõ phương thức quản lý dữ liệu, phương pháp tái huấn luyện thuật toán, quy trình đánh giá hiệu suất, v.v.

Thứ ba, đánh giá tác động. Cần phải đánh giá các rủi ro và lợi ích của những thay đổi được đề xuất, đồng thời đưa ra các chiến lược giảm thiểu rủi ro. Hướng dẫn tháng 1 năm 2025 còn tiến xa hơn thế. Nó nhấn mạnh vào phương pháp tiếp cận 'Toàn bộ vòng đời sản phẩm (Total Product Life Cycle, TPLC)'. Phải xem xét tính an toàn và hiệu quả trong suốt toàn bộ vòng đời của thiết bị AI, từ giai đoạn thiết kế cho đến khi ngừng hoạt động. Tính minh bạch và giảm thiểu định kiến là những chủ đề then chốt.

Nhìn vào các yêu cầu về tính minh bạch, nhà sản xuất phải giải thích được cách thức AI hoạt động. Bao gồm việc nó được huấn luyện bằng dữ liệu nào, đã được thử nghiệm trên nhóm bệnh nhân nào, và những hạn chế đã biết là gì. "Nguyên tắc hướng dẫn về tính minh bạch của thiết bị y tế dựa trên học máy" được công bố vào tháng 6 năm 2024 đã đưa ra định hướng này.

Việc giảm thiểu định kiến cũng sẽ trở thành yêu cầu bắt buộc. Phải thu thập bằng chứng để đánh giá xem các thiết bị AI có hiệu quả tương đương trên tất cả các nhóm nhân khẩu học liên quan (chủng tộc, dân tộc, giới tính, độ tuổi, v.v.) hay không. Phải chứng minh được rằng một AI được huấn luyện bằng dữ liệu của nam giới da trắng cũng hoạt động chính xác đối với phụ nữ da đen.

Tuy nhiên, các mô hình ngôn ngữ lớn như ChatGPT đang tiến vào lĩnh vực y tế. Chúng soạn thảo tài liệu lâm sàng, hỗ trợ chẩn đoán và trò chuyện với bệnh nhân. Bản hướng dẫn này không trực tiếp đề cập đến các cân nhắc đặc biệt đối với AI tạo sinh. Khi yêu cầu lấy ý kiến công khai, FDA đã tìm kiếm phản hồi về "tính phù hợp của các khuyến nghị đối với các công nghệ mới nổi như AI tạo sinh".

Vấn đề nhân lực cũng đang hiện hữu. Tính đến tháng 9 năm 2025, số lượng nhân viên của FDA đã giảm khoảng 15% so với năm 2023, tương đương khoảng 2.500 người. Điều này đã tạo ra những hạn chế về năng lực trong việc đánh giá các thiết bị y tế AI một cách nhanh chóng và toàn diện.

Hầu hết các thiết bị y tế AI được phê duyệt thông qua lộ trình 510(k). Chiếm tới 97% tổng số. Quy trình này chỉ yêu cầu chứng minh rằng thiết bị mới 'tương đương về mặt bản chất' với một thiết bị đã được phê duyệt trước đó. Nó không yêu cầu các thử nghiệm lâm sàng mới. Các nhà phê bình cho rằng điều này không đánh giá đầy đủ các rủi ro đặc thù của các thiết bị AI.

Có một mối liên hệ với trách nhiệm pháp lý đối với sai sót y tế. Đối với các sản phẩm AI đã được FDA phê duyệt, các khiếu nại về trách nhiệm dân sự ngoài hợp đồng đối với nhà sản xuất tại cấp tiểu bang có thể bị hạn chế bởi nguyên tắc ưu tiên liên bang (federal preemption). Điều này có thể khiến bệnh nhân gặp khó khăn trong việc kiện nhà sản xuất khi bị tổn thương do các thiết bị AI bị lỗi. Ngược lại, đối với các công cụ AI không thuộc sự quản lý của FDA, phán đoán lâm sàng của bác sĩ sẽ trở thành yếu tố then chốt để quyết định trách nhiệm pháp lý. Vào ngày 18 tháng 2 năm 2025, FDA đã tổ chức một buổi webinar công khai về bản hướng dẫn này. Hạn chót để gửi ý kiến đóng góp là ngày 7 tháng 4 năm 2025. Hiện vẫn chưa rõ khi nào bản hướng dẫn cuối cùng sẽ được ban hành. Cũng cần theo dõi xem xu hướng nới lỏng quy định của chính quyền Trump sẽ ảnh hưởng thế nào đến số phận của bản hướng dẫn này.

Có một điều chắc chắn rằng: AI đã thâm nhập sâu vào lĩnh vực y tế. Vấn đề nằm ở chỗ liệu các quy định pháp lý có thể theo kịp công nghệ hay không. California đã tạm dừng việc sử dụng AI của các công ty bảo hiểm, và FDA đang nỗ lực quản lý toàn bộ vòng đời của các thiết bị y tế. Tuy nhiên, công nghệ luôn chuyển động nhanh hơn các quy tắc.

Gene, chồng của bà Lokken, đang được điều trị tại viện dưỡng lão sau một cú ngã ở tuổi 91. Bác sĩ chỉnh hình của ông cho biết cần phải tiếp tục vật lý trị liệu. Tuy nhiên, thuật toán nH Predict lại đưa ra một phán quyết khác. "Không cần thiết phải nhập viện thêm ngày nào nữa về mặt y tế." Đó chính là quyết định của máy móc.

Các quy định mới được thiết kế để ngăn chặn những việc như thế này lặp lại. Tuy nhiên, việc thông qua luật không đồng nghĩa với việc vấn đề sẽ được giải quyết. Việc thực thi mới là điều quan trọng. Thời gian sẽ trả lời liệu các công ty bảo hiểm sẽ tuân thủ tinh thần của luật pháp, hay sẽ tìm cách lách luật.

Chương tiếp theo sẽ xem xét vấn đề về dịch vụ tài chính và sự thông đồng thuật toán. Chúng ta sẽ tìm hiểu cách AI có thể trở thành công cụ cho sự phân biệt đối xử và thông đồng trong việc quyết định cho vay và định giá, cũng như cách các cơ quan quản lý đang ứng phó với vấn đề này.