세계보건기구(WHO), 의료 분야 AI 규제를 위한 가이드라인 발표

세계보건기구(WHO)는 의료 부문에서 AI를 규제하기 위한 가이드라인을 발표하며 AI 시스템의 안전성과 효율성을 보장해야 한다는 점을 강조했습니다. 이 지침은 의료 서비스를 혁신할 수 있는 AI의 잠재력을 강조하며 투명하고 윤리적이며 안전한 AI 배포의 중요성을 강조합니다. 또한 개발자, 규제 기관, 제조업체, 의료 전문가, 환자 등 다양한 이해관계자 간의 열린 대화를 촉구합니다.

세계보건기구(WHO), 의료 분야 AI 규제를 위한 가이드라인 발표

의료 데이터의 가용성 증가와 AI 기술의 급속한 발전은 의료 부문을 혁신할 수 있는 기회를 제공합니다. 이 단체는 임상시험을 강화하고, 의료 진단 및 치료를 개선하며, 자가 관리를 강화하고, 개인 중심의 의료 서비스를 제공함으로써 건강 결과를 향상시킬 수 있는 기술의 잠재력을 인정하고 있습니다. 망막 스캔 및 방사선 이미지 해석과 같이 의료 전문가가 부족한 분야에서 인공 지능은 잠재력을 가지고 있습니다.

하지만 대규모 언어 모델을 포함한 인공지능 기술의 잠재적 영향에 대한 포괄적인 이해 없이 인공지능 기술을 빠르게 배포하는 데는 어려움이 있습니다. 특히 의료 데이터를 활용할 때 AI 시스템은 민감한 개인 정보에 액세스할 수 있으므로 개인정보 보호, 보안 및 무결성을 보호하기 위한 강력한 법적 및 규제 프레임워크가 필요합니다.

테드로스 아드하놈 게브레예수스 WHO 사무총장은 "인공지능은 건강에 큰 가능성을 제시하지만 비윤리적인 데이터 수집, 사이버 보안 위협, 편견이나 잘못된 정보 증폭 등 심각한 도전과제를 안고 있다"고 말했습니다. "이 새로운 지침은 각국이 AI를 효과적으로 규제하고 암 치료나 결핵 발견 등 잠재력을 활용하면서 위험을 최소화할 수 있도록 지원할 것입니다."

의료 분야에서 책임감 있는 AI 통합을 위한 WHO의 청사진

AI 의료 기술의 급속한 확장에 대한 책임감 있는 감독에 대한 긴급한 수요를 충족하기 위해 WHO는 의료 분야에서 인공지능을 규제하기 위한 6가지 주요 영역을 포괄하는 철저한 프레임워크를 제공합니다.

1. 투명성 및 문서화 : 제품 수명 주기 및 개발 프로세스 전반에 걸쳐 투명성과 포괄적인 문서화의 중요성을 강조합니다.
2. 위험 관리 : '의도된 사용', '지속적인 학습', 사람의 개입, 교육 모델 및 사이버 보안 위협과 같은 문제를 해결합니다.
3. 외부 검증 : 안전을 보장하고 규제를 용이하게 하기 위해 데이터에 대한 외부 검증의 중요성과 AI의 사용 목적에 대한 명확성을 강조합니다.
4. 데이터 품질: AI 시스템이 편견과 오류를 증폭시키지 않도록 엄격한 출시 전 평가에 전념합니다.
5. 규제 과제 : 개인 정보 보호 및 데이터 보호를 보장하기 위해 관할권 및 동의 요건에 중점을 두고 유럽의 GDPR 및 미국의 HIPAA와 같은 복잡한 규정을 해결합니다.
6. 협업 : 규제 기관, 환자, 의료 전문가, 업계 대표, 정부 파트너 간의 협업을 촉진하여 AI 제품 및 서비스의 수명 주기 전반에 걸쳐 규정 준수를 유지합니다.

AI 시스템은 복잡하고 코드와 임상 환경 및 사용자 상호 작용을 통해 학습된 데이터에 의존합니다. 편견 증폭의 위험을 완화하기 위해 훈련 데이터에 성별, 인종, 민족과 같은 다양한 속성이 포함되도록 규정을 적용할 수 있습니다.

이 백서는 정부와 규제 당국이 국가 또는 지역 수준에서 AI에 대한 새로운 지침을 개발하거나 기존 규정을 조정하는 데 필요한 핵심 원칙을 제공하여 책임감 있고 윤리적인 방식으로 기술을 의료 관행에 통합할 수 있도록 하는 것을 목표로 합니다.

앞서 세계보건기구는 인공지능, 특히 대규모 언어 모델(LLM)의 책임 있고 윤리적인 사용에 대해 우려를 표명하며 공중 보건 보호와 함께 인간의 웰빙, 안전, 자율성을 보호하는 것이 중요하다고 강조한 바 있습니다.

https://www.who.int/news/item/19-10-2023-who-outlines-considerations-for-regulation-of-artificial-intelligence-for-health

WHO outlines considerations for regulation of artificial intelligence for health