EU 인공지능법: 인공지능에 관한 최초의 규정

EU에서의 인공지능 사용은 세계 최초의 포괄적인 인공지능 법안인 AI 법에 의해 규제될 예정입니다. 이 법이 어떻게 사용자를 보호하는지 알아봅시다.

EU는 디지털 전략의 일환으로 인공지능(AI)을 규제하여 이 혁신적인 기술의 개발과 사용을 위한 더 나은 조건을 보장하고자 합니다. AI는 더 나은 의료 서비스, 더 안전하고 깨끗한 교통수단, 더 효율적인 제조, 더 저렴하고 지속 가능한 에너지 등 많은 이점을 창출할 수 있습니다.

2021년 4월, 유럽연합 집행위원회는 AI에 대한 최초의 EU 규제 프레임워크를 제안했습니다. 이 프레임워크는 다양한 애플리케이션에서 사용할 수 있는 AI 시스템을 사용자에게 미치는 위험에 따라 분석하고 분류한다고 말합니다. 위험 수준에 따라 규제의 강도가 달라질 것입니다. 이 규정이 승인되면 세계 최초의 AI 관련 규정이 될 것입니다.

의회가 AI 법안에서 원하는 것

의회의 최우선 과제는 EU에서 사용되는 AI 시스템이 안전하고, 투명하며, 추적 가능하고, 차별이 없고, 환경 친화적이어야 한다는 것입니다. AI 시스템은 해로운 결과를 방지하기 위해 자동화가 아닌 사람이 감독해야 합니다.

또한 의회는 미래의 AI 시스템에 적용될 수 있는 기술 중립적이고 통일된 AI 정의를 수립하고자 합니다.

인공지능법: 위험 수준에 따라 다른 규칙

새로운 규칙은 인공 지능의 위험 수준에 따라 제공자와 사용자의 의무를 규정합니다. 많은 AI 시스템이 최소한의 위험을 초래하지만, 이에 대한 평가가 필요합니다.

허용할 수 없는 위험

허용할 수 없는 위험 AI 시스템은 사람에게 위협이 되는 것으로 간주되어 사용이 금지되는 시스템입니다. 여기에는 다음이 포함됩니다.

• 사람 또는 특정 취약 집단의 인지 행동 조작: 예를 들어 어린이에게 위험한 행동을 조장하는 음성 인식 장난감
• 사회적 점수: 행동, 사회경제적 지위 또는 개인적 특성에 따라 사람들을 분류하는 행위
• 얼굴 인식과 같은 실시간 및 원격 생체 인식 시스템

일부 예외가 허용될 수 있습니다: 예를 들어, 상당한 시간이 지난 후에 신원 확인이 이루어지는 '사후' 원격 생체 인식 시스템은 심각한 범죄를 기소할 때 법원의 승인을 받은 후에만 허용됩니다.

고위험

안전이나 기본권에 부정적인 영향을 미치는 AI 시스템은 고위험으로 간주되며 두 가지 범주로 나뉩니다:

1) EU의 제품 안전 법규에 해당하는 제품에 사용되는 AI 시스템. 여기에는 장난감, 항공, 자동차, 의료 기기 및 리프트가 포함됩니다.

2) EU 데이터베이스에 등록해야 하는 8가지 특정 영역에 속하는 AI 시스템:

• 자연인의 생체 인식 및 분류
• 중요 인프라의 관리 및 운영
• 교육 및 직업 훈련
• 고용, 근로자 관리 및 자영업에 대한 접근성
• 필수 민간 서비스 및 공공 서비스 및 혜택에 대한 접근 및 향유
• 법 집행
• 이주, 망명 및 국경 통제 관리
• 법률 해석 및 법 적용에 대한 지원.

모든 고위험 AI 시스템은 시장에 출시되기 전과 수명 주기 전반에 걸쳐 평가를 받게 됩니다.

제너레이티브 AI

ChatGPT와 같은 생성형 AI는 투명성 요건을 준수해야 합니다

• 콘텐츠가 AI에 의해 생성되었음을 공개해야 합니다.
• 불법 콘텐츠를 생성하지 않도록 모델을 설계해야 합니다.
• 학습에 사용된 저작권이 있는 데이터의 요약 게시

제한된 위험

제한적 위험 AI 시스템은 사용자가 정보에 입각한 결정을 내릴 수 있도록 최소한의 투명성 요건을 준수해야 합니다. 사용자는 애플리케이션과 상호 작용한 후 계속 사용할지 여부를 결정할 수 있습니다. 사용자는 AI와 상호 작용할 때 이를 인지할 수 있어야 합니다. 여기에는 딥페이크와 같이 이미지, 오디오 또는 비디오 콘텐츠를 생성하거나 조작하는 AI 시스템이 포함됩니다.

다음 단계

2023년 6월 14일, 유럽의회는 AI 법안에 대한 의회 협상 입장을 채택했습니다. 이제 EU 국가들과 최종 법안에 대한 협상이 이사회에서 시작됩니다. 올해 말까지 합의에 도달하는 것이 목표입니다.

https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence

EU AI Act: first regulation on artificial intelligence | News | European Parliament

EPRS_BRI(2021)698792_EN.pdf

0.99MB