위험 기반 접근법

위험 기반 접근법(Risk-Based Approach)은 EU AI Act의 핵심 규제 철학으로, AI 시스템을 위험 수준에 따라 분류하고 그에 비례하는 규제를 적용하는 방식입니다. 모든 AI를 동일하게 규제하는 대신, 잠재적 위해가 큰 시스템에는 강한 규제를, 위험이 낮은 시스템에는 최소한의 요구사항을 적용하여 혁신과 안전의 균형을 추구합니다.

EU AI Act는 AI 시스템을 4단계로 분류합니다: (1) 허용 불가(Unacceptable) - 사회적 점수화, 실시간 원격 생체인식 등 전면 금지, (2) 고위험(High-risk) - 채용 AI, 신용평가 AI, 의료 진단 AI 등 엄격한 요구사항 적용, (3) 제한적 위험(Limited risk) - 챗봇, 딥페이크 등 투명성 의무만 부과, (4) 최소 위험(Minimal risk) - 대부분의 AI 시스템으로 자율 규제. 이 분류 체계는 2024년 8월 EU AI Act 발효와 함께 법적 구속력을 갖게 되었습니다.

위험 기반 접근법의 핵심은 "비례성 원칙"입니다. 고위험 AI로 분류되면 적합성 평가, 기술 문서화, 품질관리시스템, 사후 모니터링 등 6가지 필수 요구사항을 충족해야 하며, 위반 시 최대 3,500만 유로 또는 글로벌 매출의 7% 중 높은 금액의 과징금이 부과됩니다. 반면 최소 위험 AI는 별도 규제 없이 자유롭게 개발/배포할 수 있습니다.

실무에서 위험 기반 접근법 적용의 첫 단계는 자사 AI 시스템의 위험 분류를 정확히 판단하는 것입니다. 2025년 현재, EU AI Office는 고위험 AI 목록(Annex III)을 지속 업데이트 중이며, 범용 AI 모델(GPAI)에 대한 추가 규정도 마련되었습니다. 국내 기업도 EU 시장 진출 시 반드시 이 분류 체계를 이해하고 대응해야 합니다.

* 2025년 1월 기준, EU AI Act Article 99 및 Annex III 참조