사회적 점수화 (Social Scoring) | KAITRUST AI 백과사전

📖 상세 설명

사회적 점수화(Social Scoring)는 EU AI Act에서 금지된 AI 관행 중 하나로, 개인의 사회적 행동이나 성격 특성을 기반으로 점수를 매기고 이를 통해 차별적 대우를 하는 AI 시스템을 말합니다. 중국의 사회신용시스템(Social Credit System)이 대표적 사례입니다.

EU AI Act 제5조에서 명시적으로 금지하는 사회적 점수화의 핵심 요소는: (1) 사회적 행동이나 개인 특성을 기반으로 자연인을 평가, (2) 해당 데이터가 수집된 맥락과 무관하게 점수를 활용, (3) 점수에 따른 불리한 대우가 정당화되지 않거나 비례성을 결여한 경우입니다.

이 규제는 2025년 2월 2일부터 시행됩니다. 위반 시 최대 3,500만 유로 또는 전 세계 연매출 7%의 과징금이 부과됩니다. 단, 신용 평가(credit scoring)는 명확한 목적과 비례성 원칙을 충족하면 허용됩니다.

기업은 자사 AI 시스템이 사회적 점수화에 해당하는지 주의 깊게 검토해야 합니다. 특히 고객 충성도 프로그램, 직원 성과 평가 시스템, 사용자 평판 시스템 등이 경계선에 있을 수 있습니다. 법적 리스크를 피하려면 점수화의 목적, 데이터 출처, 결과의 비례성을 명확히 문서화해야 합니다.

규제 현황

규제 항목	EU AI Act 기준	비고
위험 등급	수인불가 위험 (Unacceptable Risk)	전면 금지
적용 대상	공공기관 및 민간기업	모든 EU 시장 참여자
최대 과징금	3,500만 유로 또는 전 세계 매출 7%	둘 중 높은 금액
시행 시기	2024년 2월 발효	금지 조항 6개월 후 적용
예외 조항	없음	절대적 금지

🗣️ 실무에서 이렇게 말하세요

💬 컴플라이언스 회의에서

"이 기능은 EU AI Act 5조에 따라 금지된 사회적 점수화에 해당할 수 있어요. 개인의 사회적 행동을 종합 평가해서 서비스 접근을 제한하면 수인불가 위험으로 분류됩니다."

💬 제품 기획 리뷰에서

"고객 충성도 점수와 사회적 점수화의 경계가 모호합니다. 구매 이력 기반 혜택은 허용되지만, SNS 활동이나 지역 커뮤니티 참여를 점수화하면 금지 관행에 해당할 수 있어요."

💬 면접에서

"Social Scoring은 EU AI Act에서 Unacceptable Risk로 분류되어 전면 금지됩니다. 중국의 Social Credit System이 대표적인 예로, 개인의 사회적 행동을 종합 평가해 공공 서비스 접근을 제한하는 시스템입니다."

⚠️ 흔한 실수 & 주의사항

❌

신용평가와 혼동

금융 목적의 신용평가는 허용되지만, 광범위한 사회적 행동 평가는 금지입니다. 경계를 명확히 구분하세요.

❌

간접적 구현도 규제 대상

직접적인 점수화가 아니더라도 유사한 효과를 내는 시스템(예: 행동 기반 서비스 제한)도 규제 대상입니다.

❌

민간 영역 면제 오해

EU AI Act는 공공과 민간 모두에 적용됩니다. 민간 기업도 사회적 점수화 시스템을 구축하면 최대 3,500만 유로 과징금을 받습니다.

✅

올바른 접근법

특정 거래나 서비스 맥락에 한정된 평가(예: 대출 심사)는 허용됩니다. 다만 평가가 맥락을 넘어 확장되지 않도록 명확한 경계를 설정하세요.

🔗 관련 용어

📚 더 배우기

📄 EU AI Act 원문 - 금지 관행 조항 🎓 Access Now - Social Scoring 분석 보고서 📖 OECD AI 정책 가이드라인