알고리즘 투명성

# SHAP을 이용한 모델 예측 설명 - 알고리즘 투명성 구현
# pip install shap scikit-learn pandas

import shap
import pandas as pd
from sklearn.ensemble import RandomForestClassifier
from sklearn.model_selection import train_test_split

# 대출 승인 예측 모델 (예시 데이터)
data = pd.DataFrame({
    'credit_score': [720, 650, 580, 780, 620, 700, 550, 800],
    'annual_income': [75000, 45000, 35000, 120000, 42000, 85000, 28000, 150000],
    'debt_ratio': [0.25, 0.45, 0.55, 0.15, 0.50, 0.30, 0.65, 0.10],
    'employment_years': [8, 3, 1, 15, 2, 6, 0, 20],
    'approved': [1, 0, 0, 1, 0, 1, 0, 1]
})

X = data.drop('approved', axis=1)
y = data['approved']

# 모델 학습
model = RandomForestClassifier(n_estimators=100, random_state=42)
model.fit(X, y)

# SHAP Explainer 생성
explainer = shap.TreeExplainer(model)

# 신규 고객 예측 설명
new_customer = pd.DataFrame({
    'credit_score': [680],
    'annual_income': [55000],
    'debt_ratio': [0.35],
    'employment_years': [4]
})

prediction = model.predict(new_customer)[0]
prediction_proba = model.predict_proba(new_customer)[0]

# SHAP 값 계산
shap_values = explainer.shap_values(new_customer)

print("=" * 60)
print("🔍 AI 대출 심사 결과 투명성 보고서")
print("=" * 60)
print(f"\n예측 결과: {'승인' if prediction == 1 else '거절'}")
print(f"승인 확률: {prediction_proba[1]:.1%}")

print("\n📊 결정에 영향을 준 요인 (SHAP 기여도):")
print("-" * 40)

feature_importance = list(zip(
    X.columns,
    shap_values[1][0] if prediction == 1 else shap_values[0][0]
))
feature_importance.sort(key=lambda x: abs(x[1]), reverse=True)

for feature, importance in feature_importance:
    direction = "⬆️ 긍정" if importance > 0 else "⬇️ 부정"
    print(f"  {feature}: {direction} ({importance:+.3f})")

print("\n💡 사용자 친화적 설명:")
print("-" * 40)
print("""
이 결정은 다음 요인들을 종합적으로 고려하여 내려졌습니다:
- 신용점수 680점은 평균 수준입니다
- 연소득 대비 부채 비율 35%는 적정 범위입니다
- 4년의 근속연수는 안정성을 보여줍니다

※ 이 결정에 이의가 있으시면 인간 담당자 검토를 요청할 수 있습니다.
   (EU AI Act 제14조 인간 감독 권리)
""")

# 모델 카드 생성 (투명성 문서화)
model_card = """
=====================================
📋 모델 카드 (Model Card)
=====================================
모델명: 대출 승인 예측 모델 v1.0
개발일: 2026-01-26
개발자: KAITRUST AI팀

[모델 개요]
- 유형: Random Forest Classifier
- 목적: 대출 신청자의 승인/거절 예측
- 입력: 신용점수, 연소득, 부채비율, 근속연수
- 출력: 승인(1) / 거절(0) 및 확률

[성능 지표]
- 정확도: 85%
- 정밀도: 82%
- 재현율: 88%
- 공정성 지표: 성별 간 승인률 차이 < 5%

[제한사항]
- 학습 데이터 기간: 2020-2025
- 적용 대상: 개인 신용대출만 해당
- 자영업자 데이터 부족으로 해당 그룹 정확도 낮음

[윤리적 고려사항]
- 인종, 성별 등 민감 속성 직접 사용 안함
- 분기별 편향 감사 실시
- 이의 제기 시 인간 검토 보장
"""
print(model_card)