"AI trong bệnh viện, chìa khóa là quản lý và ổn định sau khi triển khai"
Hơn 100 chuyên gia từ các bệnh viện và cơ sở y tế tham dự
Trong bối cảnh việc áp dụng trí tuệ nhân tạo (AI) trong các bệnh viện ngày càng gia tăng, đã có đề xuất rằng trọng tâm thảo luận cần chuyển từ "cái gì sẽ được triển khai" sang "làm thế nào để quản lý và ổn định sau khi triển khai".
Công ty luật Barun đã phối hợp với Caleb & Company tổ chức "Diễn đàn Lãnh đạo Đổi mới AI lần thứ nhất - Chuyển đổi và bứt phá AI trong bệnh viện: từ dữ liệu, quản trị đến giải pháp lâm sàng" vào ngày 8 tháng 9 tại Melon Hall, tầng 5, tòa nhà El Tower, quận Seocho, Seoul.
Cơ quan Thông tin Y tế Hàn Quốc và AI Nation & Jeongwon Ensys đã tham gia với tư cách là đối tác hợp tác, với sự tham gia của hơn 100 chuyên gia từ các bệnh viện đa khoa và các cơ sở y tế liên quan.
Tại phiên đầu tiên với chủ đề "Chuyển đổi quản trị AI", Giáo sư Yang Kwang-mo của Trường Y Đại học Sungkyunkwan (Giám đốc Trung tâm Nghiên cứu AI Bệnh viện Samsung Seoul) đã trình bày về "Chìa khóa của chuyển đổi AI trong bệnh viện - Bệnh viện với dữ liệu chảy" và đã chỉ ra sự ngắt quãng cấu trúc trong thực địa. Ông cho biết: "Mặc dù AI trong bệnh viện đã vượt qua kiểm tra hiệu suất, nhưng khoảng cách giữa nó và công việc thực tế vẫn rất lớn" và chỉ ra các vấn đề chính như sự ngắt quãng giữa các tổ chức (giới hạn tiêu chuẩn và phạm vi chia sẻ hình ảnh), giữa các công việc (kênh phân tán và phân loại, phân bổ thủ công), và giữa các đánh giá (định nghĩa chỉ số và sự không nhất quán của dữ liệu thực hiện).
Ông cũng nhấn mạnh rằng các thay đổi thể chế trong và ngoài nước như Luật Cải cách Bệnh viện Đức, kế hoạch 10 năm tập trung vào Ứng dụng NHS của Vương quốc Anh, và các dự án hỗ trợ chuyển đổi cấu trúc bệnh viện đa khoa trong nước đều yêu cầu "định nghĩa và kết nối thông tin cần thiết".
Giải pháp được đề xuất là một "hệ thống vận hành với dữ liệu chảy" từ tiêu chuẩn - dữ liệu - quyết định AI - thực hiện công việc - đánh giá hiệu suất. Ông đã giới thiệu các ví dụ thực địa như chia sẻ hình ảnh y tế tập trung vào bệnh nhân của liên minh Bệnh viện Samsung Seoul (6 tổ chức, tổng cộng 938 trường hợp trao đổi), phân loại tự động yêu cầu khám bệnh sử dụng LLM nội bộ (phân tích 6.624 hồ sơ yêu cầu khám, tỷ lệ khớp phân bổ 75,4% → sau khi đánh giá lại bởi chuyên gia là 84,7%), và hệ thống tích hợp yêu cầu - trả lại "S-CARENet".
Ông nhấn mạnh: "Cần phải thiết kế trước ai sẽ xử lý, ở đâu và như thế nào sau khi AI đưa ra quyết định, và cần kết nối dữ liệu, AI, công việc và đánh giá thành một thể thống nhất với sự xác nhận cuối cùng của con người (Human-in-the-loop)" và nhấn mạnh vai trò phân chia của các bộ phận quản lý, lập kế hoạch và IT.
Luật sư Ahn Joo-hyun của Barun đã trình bày về "Quy định AI trong nước và phản ứng của bệnh viện - Điểm kiểm tra thực hiện AI qua quy định và pháp luật" và đã phân tích bối cảnh quy định mà bệnh viện đang đối mặt. Luật sư Ahn cho biết: "AI trong bệnh viện không chỉ bị chi phối bởi một luật mà còn bởi nhiều luật như Luật Cơ bản về AI, quy định về sản phẩm y tế kỹ thuật số, và Luật Bảo vệ Thông tin Cá nhân" và nhấn mạnh rằng "đối tượng quy định không phải là mô hình mà là sự kết hợp giữa xử lý dữ liệu và hành vi sử dụng lâm sàng". Ông cũng chỉ ra rằng ngay cả khi là chức năng hỗ trợ khám bệnh, con đường quy định như cấp phép thiết bị y tế có thể khác nhau tùy thuộc vào ngữ cảnh quảng cáo và sử dụng thực tế.
Để đối phó, ông đã đề xuất các tiêu chí kiểm tra theo từng giai đoạn sử dụng. Khi sử dụng AI trong việc viết hồ sơ y tế hoặc hướng dẫn bệnh nhân, cần phải tuân thủ các điểm kiểm tra bảo vệ thông tin cá nhân như xóa thông tin nhận diện bệnh nhân, sử dụng AI bảo mật nội bộ, và thông báo việc sử dụng AI. Ông cũng nhấn mạnh rằng quy trình xử lý, xuất khẩu, kết hợp và quản lý dữ liệu y tế và thông tin ẩn danh cần phải được thiết kế trước. Luật sư Ahn nhấn mạnh rằng "quản trị AI trong bệnh viện phải là một hệ thống hoạt động liên tục, hoạt động trước khi triển khai, trong quá trình vận hành và khi có thay đổi" và nhấn mạnh sự cần thiết của một phản ứng pháp lý tổng thể bao gồm không chỉ quy định AI mà còn cả thiết bị y tế, bảo vệ thông tin cá nhân và luật y tế.
Tại phiên thứ hai với chủ đề "Chiến lược và Giải pháp AI", Giám đốc Bae Gi-won của Caleb & Company đã trình bày về "Chiến lược AX và quản trị trong bệnh viện - Từ A đến Z" và đã phân tích các mẫu thất bại trong việc triển khai. Ông cho biết: "Việc triển khai đang gia tăng nhưng không rõ ai phê duyệt và ai chịu trách nhiệm" và chỉ ra các nguyên nhân chung của "7 thất bại" đã xuất hiện như sự ngắt quãng giữa kiểm tra và thực địa, mệt mỏi cảnh báo, thiếu quản lý sau khi triển khai (drift), thiên lệch, phụ thuộc vào nhà cung cấp, khoảng trống trách nhiệm và quản trị, và sự ngắt quãng về tính bền vững, đều do "khoảng trống quản trị".
Giải pháp được đề xuất là "công việc lập danh sách các AI đang tồn tại trong bệnh viện là bước đầu tiên" và đề xuất một hệ thống quản trị đa tầng và tổ chức chuyên trách theo tỷ lệ rủi ro. Ông nhấn mạnh: "Quản trị tốt không làm chậm tốc độ triển khai mà còn thúc đẩy nó" và khuyên rằng "cần xem phản ứng quy định không phải là chi phí mà là vấn đề tốc độ triển khai mà ban lãnh đạo cần quyết định".
Trưởng nhóm AI của AI Nation, Lee Se-ra, đã trình bày về "AI hỗ trợ chẩn đoán thời gian thực" và đã chỉ ra bản chất của AI video thời gian thực. Ông cho biết: "Video cuối cùng là một chuỗi hình ảnh tĩnh, nếu là 30 khung hình mỗi giây (30fps), AI phát hiện sẽ đưa ra 30 quyết định độc lập trong một giây" và đã chỉ ra rằng nếu phụ thuộc vào phát hiện khung đơn, sẽ có sự nhầm lẫn trong các khung hình mờ hoặc nhấp nháy.
Giải pháp được đề xuất là theo dõi xem liệu cùng một tổn thương có được phát hiện liên tục trong trục thời gian giữa các khung hình hay không để đảm bảo độ tin cậy, và bỏ qua suy diễn trong các khung hình mờ để thực hiện phát hiện mượt mà không có nhấp nháy, đồng thời giới thiệu các trường hợp phát hiện polyp thời gian thực trong nội soi (CADe) và hỗ trợ chẩn đoán (CADx).
Trong phần thảo luận, Giám đốc Lee Joon-hee của Viện Nghiên cứu Chiến lược Doanh nghiệp Barun đã làm chủ tọa, với sự tham gia của các diễn giả như Kim Kyung-yoon, Trưởng bộ phận Y tế AWS, Min Kyu-hong, Trưởng nhóm Chiến lược Thông tin Bệnh viện Seoul St. Mary, Luật sư Lee Ui-kyu của Barun, và Y tá chuyên môn Han Eun-jin của Bệnh viện Severance, đã tập trung thảo luận về sự thay đổi vai trò của bệnh viện và các thách thức về dữ liệu và quản trị.
Trưởng nhóm Chiến lược Thông tin Min Kyu-hong của Bệnh viện Seoul St. Mary (Tổng thư ký Hiệp hội Thông tin Bệnh viện Hàn Quốc) đã nhấn mạnh rằng "bệnh viện cần phải chuyển mình từ nơi điều trị bệnh thành nơi quản lý sức khỏe bao gồm cả phòng ngừa và quản lý chủ động" và rằng "cần cung cấp thông tin y tế cá nhân cho bệnh nhân đồng thời sử dụng nó cho nghiên cứu AI qua các quy trình hợp pháp và đưa nó trở lại vào điều trị, tạo ra một vòng tuần hoàn tích cực, và để làm được điều này, cần có dữ liệu y tế 'AI-Ready' đã được chuẩn hóa, tinh chế và quản lý chất lượng". Ông đã chỉ ra rằng thách thức chung trong việc chuyển đổi AI thực tế là chuyển đổi dữ liệu phân tán thành một cấu trúc có thể tiếp cận và kiểm soát, và củng cố cấu trúc và ý nghĩa của dữ liệu hiện có.
Luật sư Lee Ui-kyu của Barun đã đề xuất rằng "cốt lõi của quản trị AI là xác định AI mà bệnh viện đang sử dụng và thiết lập quy trình phê duyệt, xác minh, giám sát và người chịu trách nhiệm theo mức độ rủi ro" và nhấn mạnh rằng "cần phân biệt giữa AI hỗ trợ hành chính và AI ảnh hưởng đến điều trị, đảm bảo quyền quyết định cuối cùng của nhân viên y tế, và cần có một hệ thống tuân thủ ghi lại quy trình xác minh, thay đổi và ứng phó với sự cố". Ông cũng cho biết: "Quản trị như vậy không phải là quy định mà là nền tảng cho việc triển khai AI an toàn một cách nhanh chóng".
Giám đốc Yeom Min-seop của Cơ quan Thông tin Y tế Hàn Quốc đã nhấn mạnh rằng "năng lực cạnh tranh của AI y tế không chỉ được tạo ra từ thuật toán mà còn cần có dữ liệu chất lượng cao, tiêu chuẩn và hệ thống kết nối và sử dụng an toàn" và đã giới thiệu các chiến lược y tế cơ bản về AI của chính phủ, đường cao tốc AI công cộng, đường cao tốc thông tin sức khỏe (dữ liệu y tế của người dân), và dự án dữ liệu sinh học lớn quốc gia, đồng thời cho biết: "Cơ quan Thông tin Y tế Hàn Quốc cũng sẽ cùng nhau tạo ra sự đổi mới y tế mà người dân có thể cảm nhận được thông qua dữ liệu y tế và AI".
Luật sư đại diện Kim Do-hyung của Barun đã nhấn mạnh rằng "để triển khai thành công AI trong y tế, cần có phản ứng tổng thể không chỉ với quy định AI mà còn với quy định về sản phẩm y tế kỹ thuật số và thiết bị y tế, bảo vệ thông tin cá nhân và sử dụng dữ liệu y tế, và luật y tế" và cho biết: "Barun đã tích lũy chuyên môn và kinh nghiệm trong các lĩnh vực chăm sóc sức khỏe kỹ thuật số, bảo vệ thông tin cá nhân và dữ liệu, quy định AI, và tư vấn cho các cơ sở y tế, vì vậy chúng tôi sẽ thực hiện vai trò của một đối tác chiến lược trong việc kiểm tra và giải quyết các vấn đề pháp lý mà bệnh viện và cơ sở y tế phải đối mặt trong từng giai đoạn chuyển đổi AI".
Công ty luật Barun đã phối hợp với Caleb & Company tổ chức "Diễn đàn Lãnh đạo Đổi mới AI lần thứ nhất - Chuyển đổi và bứt phá AI trong bệnh viện: từ dữ liệu, quản trị đến giải pháp lâm sàng" vào ngày 8 tháng 9 tại Melon Hall, tầng 5, tòa nhà El Tower, quận Seocho, Seoul.
Cơ quan Thông tin Y tế Hàn Quốc và AI Nation & Jeongwon Ensys đã tham gia với tư cách là đối tác hợp tác, với sự tham gia của hơn 100 chuyên gia từ các bệnh viện đa khoa và các cơ sở y tế liên quan.
Tại phiên đầu tiên với chủ đề "Chuyển đổi quản trị AI", Giáo sư Yang Kwang-mo của Trường Y Đại học Sungkyunkwan (Giám đốc Trung tâm Nghiên cứu AI Bệnh viện Samsung Seoul) đã trình bày về "Chìa khóa của chuyển đổi AI trong bệnh viện - Bệnh viện với dữ liệu chảy" và đã chỉ ra sự ngắt quãng cấu trúc trong thực địa. Ông cho biết: "Mặc dù AI trong bệnh viện đã vượt qua kiểm tra hiệu suất, nhưng khoảng cách giữa nó và công việc thực tế vẫn rất lớn" và chỉ ra các vấn đề chính như sự ngắt quãng giữa các tổ chức (giới hạn tiêu chuẩn và phạm vi chia sẻ hình ảnh), giữa các công việc (kênh phân tán và phân loại, phân bổ thủ công), và giữa các đánh giá (định nghĩa chỉ số và sự không nhất quán của dữ liệu thực hiện).
Ông cũng nhấn mạnh rằng các thay đổi thể chế trong và ngoài nước như Luật Cải cách Bệnh viện Đức, kế hoạch 10 năm tập trung vào Ứng dụng NHS của Vương quốc Anh, và các dự án hỗ trợ chuyển đổi cấu trúc bệnh viện đa khoa trong nước đều yêu cầu "định nghĩa và kết nối thông tin cần thiết".
Giải pháp được đề xuất là một "hệ thống vận hành với dữ liệu chảy" từ tiêu chuẩn - dữ liệu - quyết định AI - thực hiện công việc - đánh giá hiệu suất. Ông đã giới thiệu các ví dụ thực địa như chia sẻ hình ảnh y tế tập trung vào bệnh nhân của liên minh Bệnh viện Samsung Seoul (6 tổ chức, tổng cộng 938 trường hợp trao đổi), phân loại tự động yêu cầu khám bệnh sử dụng LLM nội bộ (phân tích 6.624 hồ sơ yêu cầu khám, tỷ lệ khớp phân bổ 75,4% → sau khi đánh giá lại bởi chuyên gia là 84,7%), và hệ thống tích hợp yêu cầu - trả lại "S-CARENet".
Ông nhấn mạnh: "Cần phải thiết kế trước ai sẽ xử lý, ở đâu và như thế nào sau khi AI đưa ra quyết định, và cần kết nối dữ liệu, AI, công việc và đánh giá thành một thể thống nhất với sự xác nhận cuối cùng của con người (Human-in-the-loop)" và nhấn mạnh vai trò phân chia của các bộ phận quản lý, lập kế hoạch và IT.
Luật sư Ahn Joo-hyun của Barun đã trình bày về "Quy định AI trong nước và phản ứng của bệnh viện - Điểm kiểm tra thực hiện AI qua quy định và pháp luật" và đã phân tích bối cảnh quy định mà bệnh viện đang đối mặt. Luật sư Ahn cho biết: "AI trong bệnh viện không chỉ bị chi phối bởi một luật mà còn bởi nhiều luật như Luật Cơ bản về AI, quy định về sản phẩm y tế kỹ thuật số, và Luật Bảo vệ Thông tin Cá nhân" và nhấn mạnh rằng "đối tượng quy định không phải là mô hình mà là sự kết hợp giữa xử lý dữ liệu và hành vi sử dụng lâm sàng". Ông cũng chỉ ra rằng ngay cả khi là chức năng hỗ trợ khám bệnh, con đường quy định như cấp phép thiết bị y tế có thể khác nhau tùy thuộc vào ngữ cảnh quảng cáo và sử dụng thực tế.
Để đối phó, ông đã đề xuất các tiêu chí kiểm tra theo từng giai đoạn sử dụng. Khi sử dụng AI trong việc viết hồ sơ y tế hoặc hướng dẫn bệnh nhân, cần phải tuân thủ các điểm kiểm tra bảo vệ thông tin cá nhân như xóa thông tin nhận diện bệnh nhân, sử dụng AI bảo mật nội bộ, và thông báo việc sử dụng AI. Ông cũng nhấn mạnh rằng quy trình xử lý, xuất khẩu, kết hợp và quản lý dữ liệu y tế và thông tin ẩn danh cần phải được thiết kế trước. Luật sư Ahn nhấn mạnh rằng "quản trị AI trong bệnh viện phải là một hệ thống hoạt động liên tục, hoạt động trước khi triển khai, trong quá trình vận hành và khi có thay đổi" và nhấn mạnh sự cần thiết của một phản ứng pháp lý tổng thể bao gồm không chỉ quy định AI mà còn cả thiết bị y tế, bảo vệ thông tin cá nhân và luật y tế.
Tại phiên thứ hai với chủ đề "Chiến lược và Giải pháp AI", Giám đốc Bae Gi-won của Caleb & Company đã trình bày về "Chiến lược AX và quản trị trong bệnh viện - Từ A đến Z" và đã phân tích các mẫu thất bại trong việc triển khai. Ông cho biết: "Việc triển khai đang gia tăng nhưng không rõ ai phê duyệt và ai chịu trách nhiệm" và chỉ ra các nguyên nhân chung của "7 thất bại" đã xuất hiện như sự ngắt quãng giữa kiểm tra và thực địa, mệt mỏi cảnh báo, thiếu quản lý sau khi triển khai (drift), thiên lệch, phụ thuộc vào nhà cung cấp, khoảng trống trách nhiệm và quản trị, và sự ngắt quãng về tính bền vững, đều do "khoảng trống quản trị".
Giải pháp được đề xuất là "công việc lập danh sách các AI đang tồn tại trong bệnh viện là bước đầu tiên" và đề xuất một hệ thống quản trị đa tầng và tổ chức chuyên trách theo tỷ lệ rủi ro. Ông nhấn mạnh: "Quản trị tốt không làm chậm tốc độ triển khai mà còn thúc đẩy nó" và khuyên rằng "cần xem phản ứng quy định không phải là chi phí mà là vấn đề tốc độ triển khai mà ban lãnh đạo cần quyết định".
Trưởng nhóm AI của AI Nation, Lee Se-ra, đã trình bày về "AI hỗ trợ chẩn đoán thời gian thực" và đã chỉ ra bản chất của AI video thời gian thực. Ông cho biết: "Video cuối cùng là một chuỗi hình ảnh tĩnh, nếu là 30 khung hình mỗi giây (30fps), AI phát hiện sẽ đưa ra 30 quyết định độc lập trong một giây" và đã chỉ ra rằng nếu phụ thuộc vào phát hiện khung đơn, sẽ có sự nhầm lẫn trong các khung hình mờ hoặc nhấp nháy.
Giải pháp được đề xuất là theo dõi xem liệu cùng một tổn thương có được phát hiện liên tục trong trục thời gian giữa các khung hình hay không để đảm bảo độ tin cậy, và bỏ qua suy diễn trong các khung hình mờ để thực hiện phát hiện mượt mà không có nhấp nháy, đồng thời giới thiệu các trường hợp phát hiện polyp thời gian thực trong nội soi (CADe) và hỗ trợ chẩn đoán (CADx).
Trong phần thảo luận, Giám đốc Lee Joon-hee của Viện Nghiên cứu Chiến lược Doanh nghiệp Barun đã làm chủ tọa, với sự tham gia của các diễn giả như Kim Kyung-yoon, Trưởng bộ phận Y tế AWS, Min Kyu-hong, Trưởng nhóm Chiến lược Thông tin Bệnh viện Seoul St. Mary, Luật sư Lee Ui-kyu của Barun, và Y tá chuyên môn Han Eun-jin của Bệnh viện Severance, đã tập trung thảo luận về sự thay đổi vai trò của bệnh viện và các thách thức về dữ liệu và quản trị.
Trưởng nhóm Chiến lược Thông tin Min Kyu-hong của Bệnh viện Seoul St. Mary (Tổng thư ký Hiệp hội Thông tin Bệnh viện Hàn Quốc) đã nhấn mạnh rằng "bệnh viện cần phải chuyển mình từ nơi điều trị bệnh thành nơi quản lý sức khỏe bao gồm cả phòng ngừa và quản lý chủ động" và rằng "cần cung cấp thông tin y tế cá nhân cho bệnh nhân đồng thời sử dụng nó cho nghiên cứu AI qua các quy trình hợp pháp và đưa nó trở lại vào điều trị, tạo ra một vòng tuần hoàn tích cực, và để làm được điều này, cần có dữ liệu y tế 'AI-Ready' đã được chuẩn hóa, tinh chế và quản lý chất lượng". Ông đã chỉ ra rằng thách thức chung trong việc chuyển đổi AI thực tế là chuyển đổi dữ liệu phân tán thành một cấu trúc có thể tiếp cận và kiểm soát, và củng cố cấu trúc và ý nghĩa của dữ liệu hiện có.
Luật sư Lee Ui-kyu của Barun đã đề xuất rằng "cốt lõi của quản trị AI là xác định AI mà bệnh viện đang sử dụng và thiết lập quy trình phê duyệt, xác minh, giám sát và người chịu trách nhiệm theo mức độ rủi ro" và nhấn mạnh rằng "cần phân biệt giữa AI hỗ trợ hành chính và AI ảnh hưởng đến điều trị, đảm bảo quyền quyết định cuối cùng của nhân viên y tế, và cần có một hệ thống tuân thủ ghi lại quy trình xác minh, thay đổi và ứng phó với sự cố". Ông cũng cho biết: "Quản trị như vậy không phải là quy định mà là nền tảng cho việc triển khai AI an toàn một cách nhanh chóng".
Giám đốc Yeom Min-seop của Cơ quan Thông tin Y tế Hàn Quốc đã nhấn mạnh rằng "năng lực cạnh tranh của AI y tế không chỉ được tạo ra từ thuật toán mà còn cần có dữ liệu chất lượng cao, tiêu chuẩn và hệ thống kết nối và sử dụng an toàn" và đã giới thiệu các chiến lược y tế cơ bản về AI của chính phủ, đường cao tốc AI công cộng, đường cao tốc thông tin sức khỏe (dữ liệu y tế của người dân), và dự án dữ liệu sinh học lớn quốc gia, đồng thời cho biết: "Cơ quan Thông tin Y tế Hàn Quốc cũng sẽ cùng nhau tạo ra sự đổi mới y tế mà người dân có thể cảm nhận được thông qua dữ liệu y tế và AI".
Luật sư đại diện Kim Do-hyung của Barun đã nhấn mạnh rằng "để triển khai thành công AI trong y tế, cần có phản ứng tổng thể không chỉ với quy định AI mà còn với quy định về sản phẩm y tế kỹ thuật số và thiết bị y tế, bảo vệ thông tin cá nhân và sử dụng dữ liệu y tế, và luật y tế" và cho biết: "Barun đã tích lũy chuyên môn và kinh nghiệm trong các lĩnh vực chăm sóc sức khỏe kỹ thuật số, bảo vệ thông tin cá nhân và dữ liệu, quy định AI, và tư vấn cho các cơ sở y tế, vì vậy chúng tôi sẽ thực hiện vai trò của một đối tác chiến lược trong việc kiểm tra và giải quyết các vấn đề pháp lý mà bệnh viện và cơ sở y tế phải đối mặt trong từng giai đoạn chuyển đổi AI".
* Bài viết này được dịch tự động bằng AI.
KWONKYUHONG
spikekwon@ajunews.com
© Bản quyền thuộc về Thời báo Kinh tế AJU & www.ajunews.com: Việc sử dụng các nội dung đăng tải trên vietnam. kyungjeilbo.com phải có sự đồng ý bằng văn bản của Aju News Corporation.