암스테르담. 인공 지능 (AI)이 간호를 포함한 의료에 점점 더 내장되고 있기 때문에 AI를 지역 인구에 적응시키고 환자의 효과적이고 안전한 결과를 보장하기 위해 모델의 정기적 인 모니터링을 보장해야합니다.
Medical Sciences 박사 인 Ashley Spann은 테네시 주 내쉬빌의 Vanderbilt 대학의 의료 센터에서 이식을 포함한 간 질환의 결과를 최적화하기 위해 컴퓨터 과학 및 인공 지능 개발에 관심이있는 이식 간 전문의입니다. 2025 년 간의회 (EASL)의 유럽 연구 협회에서 그녀는 윤리에 대한 조언과 간 클리닉에서 AI가 간질 학적 실습에 미치는 영향에 대한 AI를 소개하는 방법을 공유했습니다.
“처음부터 환자와 공급 업체를 포함해야하며 벙커에 구축해서는 안됩니다. Medscape Medical News 대화 후 인터뷰에서.
그녀는 임상 지원의 원칙, 특히 무의미한 원칙도 AI의 사용에서 발생한다고 강조했다. “AI는 이미 우리 옆에 있습니다. 문제는 우리가 그것을 사용해야한다는 것입니다. 그렇다면 어떻게 책임감있게해야합니까?”
이를 위해 Spann은 모델 개발, 임상 구현 및 주요 보증을위한 모범 사례에 대해 논의했습니다. AlgorithMoviden: 성능의 드리프트를 감지하고 피해를 방지하기 위해 배치 한 후 인공 지능 모델의 지속적인 모니터링. “우리는 모델의 매개 변수를 설정하여 피해를 최소화 할 수 있으므로 성능이 실시간으로 뒤쳐지기 시작하고 환자가 어려움을 겪을 수 있습니다. 이런 일이 발생하면 모델을 끄고, 재평가하고, 재분배하고 재분배합니다.”
“시작부터 배치까지 경로의 각 단계는 모델이하는 일을 추적하고 환자를 돌보지 않도록 보장해야합니다.”라고 그녀는 말했습니다.
구매 또는 구축 – 입양을위한 주요 질문
Spann은 임상 문제로 시작의 중요성을 강조한 다음 항상 환자 방어를 고려하여 해당 AI 기술의 층을 강조했습니다.
모델의 구성 또는 구매에 관계없이 우려를 반영하는 것이 가장 중요합니다. 대부분의 AI 모델은 과거 의료 데이터를 배웁니다. 이는 특정 인구의 위험 인자의 유병률, 복종, 불충분 한 처리 또는 소외된 인구의 의료 접근 부족과 같은 체계적인 불평등을 반영 할 수 있음을 의미합니다. 이 경우 모델은 이러한 모델을 연구하고 반복합니다.
그녀는“우리는 편견과 차이가 악화되지 않도록해야한다”고 말했다. “모델이 부적절하게 시작되면 언제 어떻게 방해 해야하는지 알아야합니다.”
Spann은 어떤 모델이 적합한 지 결정할 때 임상의와 기관에 데이터를 인터뷰 할 것을 촉구했습니다. 예를 들어, 모델을 만들 때, 그녀는 데이터 세트의 일부 환자 그룹이 다른 환자보다 영향을 받았는지 묻는 것을 제안했습니다. 모델을 구입할 때, 그녀는 모델이 해결해야 할 임상 문제를 해결하는지 묻는 것을 제안했습니다.
예를 들어, AI는이 문제에 대한 인구 접근의 틀에서 눈에 띄지 않는 간경변을 가진 사람들을 식별하기위한 해결책 일 수 있습니다. “이 예측에 유용 할 수있는 데이터를 묻는 것이 매우 중요하며, 불균형 적으로 영향을받는 환자가 있습니까? 질병에 걸릴 수 있더라도 이용 가능한 데이터가없는 특정 환자가있을 수 있으며 그 결과는 무엇입니까?”
그녀는 Fibrosa-4 (Fib-4) 지수가 간 섬유증의 위험을 자동화하기 위해 전자 의료 기록에 통합 된 기관의 예를 제시했습니다. 환자의 절반 이상이 FIB-4의 추정치를 얻는 데 필요한 주요 실험실 값이 부족했습니다. Spann은“그들은 여전히 질병이 있지만,이 실험실이 없으면 우리는 위험의 심각성을 알 수 없습니다. 문제가 발생합니다. 우리가 필요로하는 데이터는 무엇이며 어떻게 얻을 수 있습니까? 이것은 실제 결과를 가진 데이터의 격차입니다.
부적절한 인구는 모델을 쓸모 없게 만들 수 있습니다
인공 지능 모델을 구매할 때 스팬은 교육을받은 것과는 너무 다르며 인구를 사용하는 것을 경고했습니다. 그녀는 미국 재향 군인 시스템의 데이터를 사용하여 개발 된 모델을 주로 백인 남성 인 환자를 포함하고 있으며, 따라서 더 다양한 인구 집단에 서비스를 제공하는 시티 센터를 일반화하지 않을 수 있습니다. “이 인구는 환자의 매우 독특한 하위 집합입니다. 적합성을 결정하는 유일한 방법은이 모델을 가져 와서이를 회고 적으로 확인하고 모델이 어떻게 변할 수 있는지 확인한 다음 시간이 지남에 따라 성능을 로컬로 모니터링하는 것입니다.”
그녀는 또한 이식 센터 나 간 클리닉과의 근접성과 같은 사회 인구 통계 학적 및 경제적 요인으로 강조했으며 결과를 찾을 수 있으며 모델의 임상 적 기여에서 고려되지 않을 가능성이 높습니다. “우리는이 하위 그룹에서 모델이 얼마나 잘 작동하는지 생각해야합니다. 왜냐하면 그것이 잘못 될 수 있기 때문입니다.”
인구의 건강에서 AI의 역할
독일 Dusseldorf에있는 Heinrich Hein Dusseldorf 대학교 이사 인 Medical Sciences 박사, Tom Ludde의 세션 중재자는 AI가 간을 돌보는 약속 된 AI의 영향을 조사했습니다. “예방, 탐지, 위험 예측 및 환자의 건강 관리 시스템에 대한 실제 행동은 간 질환의 가장 큰 결핍입니다. AI는 이러한 격차를 메우는 데 도움이 될 수 있습니다.” “예를 들어, 일반적인 관행은 일상적인 연습에서 FIB-4를 소개하지 않지만 LLM으로 도착할 수 있습니다. [large language model] 또는 환자에게 간질 시스템에 접근 할 수있는 AI 시스템. 이러한 접근 방식으로 우리는 개별 약물이나 복잡한 개입보다 더 큰 영향을 미칠 것이라고 생각합니다. 앞으로 AI가 건강을 위해 키오스크로 구현 될 것이라고 상상할 수 있습니다. 그리고 자원에 대한 모든 문제로 도움이 될 수 있습니다. ‘
Spann과 Lewedde는 적절한 재무 관계가 없다고보고했습니다.
