허용 불가 위험

허용 불가 위험(Unacceptable Risk)은 EU AI Act(인공지능법)에서 정의한 AI 위험 분류 중 가장 높은 등급으로, 해당 AI 시스템의 개발, 배포, 사용이 EU 내에서 전면 금지됩니다. 이는 인간의 안전, 기본권, 민주주의 가치에 명백하고 용납할 수 없는 위협을 가하는 AI 응용을 차단하기 위한 것입니다. EU AI Act는 2024년 발효되어 2025년부터 단계적으로 시행 중이며, 허용 불가 위험 AI에 대한 금지 조항은 가장 먼저 적용됩니다.

EU AI Act 제5조에 명시된 허용 불가 위험 AI 유형은 다음과 같습니다. 첫째, 잠재의식 조작(subliminal techniques) - 인지하지 못하는 방식으로 행동을 조작하는 AI. 둘째, 취약 계층 착취 - 나이, 장애, 사회경제적 상황의 취약성을 악용하는 AI. 셋째, 사회적 점수화(social scoring) - 사회적 행동 기반으로 시민을 평가해 불이익을 주는 시스템. 넷째, 공공장소 실시간 원격 생체인식 - 법 집행 목적의 실시간 안면인식(예외 제한적). 다섯째, 감정 인식 - 직장/교육 환경에서의 감정 추론 AI.

2025년 현재 중국의 사회신용시스템 유사 기술, 특정 광고 타겟팅 기술, 일부 채용 AI가 허용 불가 위험으로 분류될 수 있어 논란이 됩니다. 예를 들어 구직자의 표정을 분석해 채용 결정을 내리는 AI, 학생의 집중도를 감정 인식으로 평가하는 교육 AI, 공항의 실시간 대규모 안면인식 시스템 등이 해당됩니다. 단, 법 집행 목적의 생체인식은 아동 유괴, 테러 등 극히 제한된 상황에서만 예외가 인정됩니다.

기업 입장에서 허용 불가 위험 규정은 EU 시장 접근과 직결됩니다. 위반 시 최대 3,500만 유로 또는 전 세계 매출의 7% 중 높은 금액의 과징금이 부과됩니다. 따라서 EU 시장을 대상으로 하는 AI 제품/서비스는 기획 단계부터 EU AI Act 준수 여부를 검토해야 합니다. 특히 생체인식, 감정 분석, 행동 점수화 기능이 포함된 시스템은 법무팀과 긴밀히 협의해야 합니다. 한국 기업도 EU에 서비스하거나 EU 기업과 협력하면 영향을 받습니다.

* 위반 시 최대 3,500만 EUR 또는 전 세계 매출 7% 과징금