🤖
AI/ML
제한적 위험 AI
Limited Risk AI
EU AI Act 위험 분류 중 하나. 챗봇, 감정인식 등 투명성 의무가 있는 AI. 사용자에게 AI임을 고지해야 함.
제한적 위험 AI(Limited Risk AI)는 EU AI Act의 4단계 위험 분류 체계에서 세 번째 등급에 해당하는 AI 시스템입니다. 이 범주의 AI는 사용자에게 AI와 상호작용하고 있음을 알려야 하는 투명성 의무가 부과되지만, 고위험 AI처럼 광범위한 규제 요건은 적용되지 않습니다.
EU AI Act는 2024년 8월 1일 발효되었으며, 제한적 위험 AI 관련 조항은 2025년 8월 2일부터 전면 적용됩니다. 이 분류는 AI 기술의 사회적 영향과 사용자 권리 보호 사이의 균형을 맞추기 위해 도입되었습니다. 특히 사용자가 AI와 상호작용하고 있다는 사실을 인지해야 올바른 판단을 내릴 수 있다는 원칙에 기반합니다.
제한적 위험 AI의 핵심 의무는 투명성(Transparency)입니다. 챗봇은 사용자가 AI와 대화하고 있음을 명확히 고지해야 하며, 감정 인식 시스템은 감정을 분석하고 있음을 알려야 합니다. 딥페이크와 같은 AI 생성 콘텐츠는 인공적으로 생성되었음을 표시해야 합니다. 이러한 고지는 사용자가 쉽게 이해할 수 있는 방식으로 제공되어야 합니다.
실무에서 제한적 위험 AI 분류는 많은 기업 서비스에 적용됩니다. 고객 서비스 챗봇, AI 기반 추천 시스템의 일부, 감정 분석 도구, AI 아바타 등이 해당됩니다. 기업은 서비스 출시 전 해당 AI가 어떤 위험 등급에 속하는지 평가하고, 필요한 투명성 조치를 구현해야 합니다. 위반 시 전 세계 연간 매출의 최대 3%까지 벌금이 부과될 수 있습니다.