TIME: AI Is Revolutionizing Health Care. But It Can’t Replace Your Doctor
(Chuyển ngữ tiếng Việt: Gemini; Hiệu đính (và chịu trách nhiệm): T.Vấn)
Tác Giả: Murali Doraiswamy và Marc Benioff
Trí Tuệ Nhân tạo (AI) Đang Cách Mạng Hóa Ngành Y Tế. Nhưng Nó Không Thể Thay Thế Bác Sĩ
Lần tới khi bạn đi xét nghiệm máu, chụp X-quang, chụp quang tuyến vú, hoặc nội soi đại tràng, rất có thể một thuật toán trí tuệ nhân tạo (AI) sẽ diễn giải kết quả trước cả khi bác sĩ của bạn nhìn thấy nó.
Chỉ trong vài năm, AI đã lan rộng nhanh chóng vào các bệnh viện và phòng khám trên khắp thế giới. Hơn 1.000 công cụ AI liên quan đến y tế đã được Cục Quản lý Thực phẩm và Dược phẩm Hoa Kỳ (FDA) cấp phép sử dụng, và hơn 2/3 số bác sĩ cho biết họ sử dụng AI ở một mức độ nào đó, theo một khảo sát gần đây của Hiệp hội Y khoa Mỹ. Tiềm năng của AI là phi thường. AI—đặc biệt dưới dạng các tác nhân AI có thể suy luận, thích ứng và tự hành động—có thể giảm bớt khối lượng công việc của bác sĩ bằng cách soạn thảo ghi chú bệnh án và tóm tắt biểu đồ, hỗ trợ y học chính xác thông qua các liệu pháp điều trị có mục tiêu hơn, và phát hiện những bất thường tinh vi trong các bản quét và lam kính mà mắt người có thể bỏ sót. Nó có thể tăng tốc độ khám phá thuốc và mục tiêu thuốc thông qua các quy trình mới, chẳng hạn như dự đoán và thiết kế cấu trúc protein dựa trên AI, dẫn đến Giải Nobel Hóa học năm ngoái. AI có thể cung cấp cho bệnh nhân sự hỗ trợ nhanh hơn, cá nhân hóa hơn bằng cách lên lịch hẹn, trả lời câu hỏi và báo hiệu tác dụng phụ. Nó có thể giúp kết nối các ứng viên với các thử nghiệm lâm sàng và giám sát dữ liệu sức khỏe trong thời gian thực, cảnh báo sớm cho các bác sĩ lâm sàng và bệnh nhân để ngăn ngừa biến chứng và cải thiện kết quả điều trị.
Tuy nhiên, lời hứa của AI trong y học sẽ chỉ được hiện thực hóa nếu nó được xây dựng và sử dụng một cách có trách nhiệm.
Tiềm năng và Cạm bẫy
Các thuật toán AI ngày nay là những công cụ mạnh mẽ có khả năng nhận biết các mẫu, dự đoán và thậm chí đưa ra quyết định. Nhưng chúng không phải là những nhà tiên tri bất khả ngộ hay toàn năng. Chúng cũng không sắp đạt đến trình độ trí tuệ con người, bất chấp những gì một số người truyền bá về cái gọi là trí tuệ nhân tạo tổng hợp gợi ý. Một vài nghiên cứu gần đây phản ánh những khả năng nhưng cũng chỉ ra những cạm bẫy, cho thấy các công cụ AI y tế có thể chẩn đoán sai bệnh nhân và kỹ năng của chính bác sĩ có thể suy yếu khi sử dụng AI.
Một nhóm chuyên viên tại Đại học Duke (bao gồm một trong chúng tôi) đã kiểm tra một công cụ AI được FDA cấp phép nhằm phát hiện sưng tấy và vi xuất huyết trong phim MRI não của bệnh nhân Alzheimer. Công cụ này đã cải thiện khả năng của các nhà X-quang chuyên nghiệp trong việc tìm ra những đốm nhỏ tinh vi này trong phim MRI, nhưng nó cũng đưa ra những cảnh báo sai, thường nhầm lẫn những vết mờ vô hại với những thứ nguy hiểm. Chúng tôi kết luận rằng công cụ này hữu ích, nhưng các nhà X-quang nên đọc kỹ phim MRI trước, sau đó sử dụng công cụ như một ý kiến thứ hai—chứ không phải ngược lại.
Những loại phát hiện này không chỉ giới hạn ở công cụ mà chúng tôi đã xem xét. Rất ít bệnh viện tự đánh giá các công cụ AI mà họ sử dụng. Nhiều người cho rằng chỉ vì một công cụ đã được FDA cấp phép, nó sẽ hoạt động trong môi trường địa phương của họ, điều này không nhất thiết đúng. Các công cụ AI hoạt động khác nhau đối với các nhóm bệnh nhân khác nhau, và mỗi công cụ đều có những điểm yếu riêng. Đó là lý do tại sao các hệ thống y tế cần phải thực hiện thẩm định và kiểm tra chất lượng trước khi triển khai bất kỳ công cụ AI nào để đảm bảo nó sẽ hoạt động trong môi trường địa phương đó, và sau đó đào tạo các bác sĩ lâm sàng. Ngoài ra, cả các thuật toán AI và cách con người tương tác với chúng đều thay đổi theo thời gian, thúc đẩy cựu ủy viên FDA Robert Califf thúc giục giám sát liên tục các công cụ AI y tế sau khi lưu hành để đảm bảo chúng vẫn đáng tin cậy và an toàn trong thế giới thực.
Trong một nghiên cứu gần đây khác, các bác sĩ tiêu hóa ở châu Âu được cung cấp một hệ thống hỗ trợ AI mới để phát hiện polyp trong quá trình nội soi đại tràng. Khi sử dụng công cụ này, ban đầu họ tìm thấy nhiều polyp hơn—những u nhỏ có thể biến thành ung thư—cho thấy AI đang giúp họ phát hiện các khu vực mà lẽ ra họ có thể đã bỏ sót. Nhưng khi các bác sĩ quay lại thực hiện nội soi đại tràng mà không có hệ thống AI, họ đã phát hiện ít polyp tiền ung thư hơn so với trước khi họ sử dụng AI. Mặc dù không rõ chính xác tại sao, các tác giả của nghiên cứu tin rằng các bác sĩ lâm sàng có thể đã trở nên quá phụ thuộc vào AI đến mức khi không có nó, họ trở nên kém tập trung và ít có khả năng phát hiện các polyp này. Hiện tượng “giảm kỹ năng” này được hỗ trợ bởi một nghiên cứu khác cho thấy sự phụ thuộc quá mức vào các công cụ hỗ trợ bằng máy tính có thể khiến mắt người ít có khả năng quét các trường thị giác ngoại vi hơn. Chính công cụ được cho là để làm sắc bén thực hành y tế lại có lẽ đã làm cùn nó.
Tương lai của y học: Nâng cao, không thay thế
AI, nếu được sử dụng một cách thiếu phê phán, không chỉ có thể truyền bá thông tin sai lệch, mà còn làm xói mòn chính khả năng kiểm tra sự thật của chúng ta. Đó là hiệu ứng Google Maps: những người lái xe từng điều hướng bằng trí nhớ giờ đây thường thiếu nhận thức địa lý cơ bản vì họ đã quen với việc mù quáng làm theo giọng nói trong xe của mình. Đầu năm nay, một nhà nghiên cứu đã khảo sát hơn 600 người thuộc các nhóm tuổi và trình độ học vấn khác nhau và phát hiện ra rằng người càng sử dụng công cụ AI nhiều, khả năng tư duy phản biện của họ càng yếu. Điều này được gọi là “tải bỏ nhận thức,” và chúng ta chỉ mới bắt đầu hiểu nó liên quan như thế nào đến việc sử dụng AI của các bác sĩ lâm sàng.
Tất cả những điều này nhấn mạnh rằng AI trong y học, cũng như trong mọi lĩnh vực, hoạt động tốt nhất khi nó bổ sung cho công việc của con người. Tương lai của y học không phải là thay thế các nhà cung cấp dịch vụ chăm sóc sức khỏe bằng các thuật toán—mà là về việc thiết kế các công cụ làm sắc bén phán đoán của con người và khuếch đại những gì chúng ta có thể đạt được. Các bác sĩ và các nhà cung cấp dịch vụ khác phải có khả năng đánh giá khi nào AI sai, và phải duy trì khả năng làm việc mà không cần công cụ AI nếu cần. Cách để làm cho điều này xảy ra là xây dựng các công cụ AI y tế một cách có trách nhiệm.
Chúng ta cần các công cụ được xây dựng trên một mô hình khác—những công cụ thúc đẩy các nhà cung cấp dịch vụ nhìn lại, cân nhắc các lựa chọn thay thế và luôn tham gia một cách chủ động. Cách tiếp cận này được gọi là Kiến trúc Lựa chọn Thông minh (ICA). Với ICA, các hệ thống AI được thiết kế để hỗ trợ phán đoán hơn là thay thế nó. Thay vì tuyên bố “đây là một vết xuất huyết,” một công cụ ICA có thể làm nổi bật một khu vực và gợi ý, “hãy kiểm tra khu vực này cẩn thận.” ICA nâng cao các kỹ năng mà y học phụ thuộc vào—lý luận lâm sàng, tư duy phản biện và phán đoán của con người.
Apollo Hospitals, hệ thống y tế tư nhân lớn nhất Ấn Độ, gần đây đã bắt đầu sử dụng một công cụ ICA để hướng dẫn các bác sĩ trong việc phòng ngừa các cơn đau tim. Một công cụ AI trước đó đã cung cấp một điểm rủi ro đau tim duy nhất cho mỗi bệnh nhân. Hệ thống mới cung cấp một phân tích cá nhân hóa hơn về ý nghĩa của điểm số đó đối với họ và những yếu tố nào đã góp phần vào nó, để bệnh nhân biết nên giải quyết những yếu tố rủi ro nào. Đó là một ví dụ về loại tác động nhẹ nhàng có thể cho phép các bác sĩ thành công trong công việc của họ mà không làm mất đi quyền tự chủ của họ.
Có một sự cám dỗ khi cường điệu AI như thể nó có tất cả các câu trả lời. Trong y học, chúng ta phải tiết chế những kỳ vọng này để cứu mạng sống. Chúng ta phải đào tạo sinh viên y khoa làm việc cả với và không có công cụ AI và coi AI như một ý kiến thứ hai hoặc một trợ lý chứ không phải là một chuyên gia với tất cả các câu trả lời đúng. Tương lai là con người và các tác nhân AI làm việc cùng nhau.
Chúng ta đã thêm các công cụ vào y học trước đây mà không làm suy yếu kỹ năng của các bác sĩ lâm sàng. Ống nghe khuếch đại tai mà không thay thế nó. Xét nghiệm máu cung cấp thông tin chẩn đoán mới mà không loại bỏ nhu cầu về bệnh sử hoặc khám thực thể. Chúng ta nên áp dụng tiêu chuẩn tương tự cho AI. Nếu một sản phẩm mới làm cho các bác sĩ kém quan sát hơn hoặc kém quyết đoán hơn, nó chưa sẵn sàng để sử dụng đại trà, hoặc nó đang được sử dụng sai cách.
Đối với bất kỳ AI y tế mới nào, chúng ta nên hỏi liệu nó có làm cho bác sĩ lâm sàng suy nghĩ sâu sắc hơn hay kém đi. Nó có khuyến khích nhìn lại lần thứ hai hay mời gọi một cái gật đầu phê chuẩn? Nếu chúng ta cam kết chỉ thiết kế những hệ thống làm sắc bén chứ không thay thế khả năng của chúng ta, chúng ta sẽ có được điều tốt nhất của cả hai thế giới, kết hợp lời hứa phi thường của AI với tư duy phản biện, lòng trắc ẩn và phán đoán trong thế giới thực mà chỉ con người mới có thể mang lại.
Murali Doraiswamy và Marc Benioff
