고위험 AI

# EU AI Act 기술 문서 생성기 (Art. 11 준수)
from dataclasses import dataclass, field
from typing import List, Dict, Optional
from datetime import datetime
import json

@dataclass
class TechnicalDocumentation:
    """EU AI Act Article 11 기술 문서 템플릿"""

    # 1. 일반 정보
    system_name: str
    version: str
    provider_name: str
    provider_address: str
    intended_purpose: str
    high_risk_category: str

    # 2. 시스템 설명
    general_description: str = ""
    interaction_with_hardware: str = ""
    software_version: str = ""
    input_data_types: List[str] = field(default_factory=list)
    output_data_types: List[str] = field(default_factory=list)

    # 3. 개발 과정
    design_specifications: str = ""
    development_methodology: str = ""
    training_approach: str = ""

    # 4. 데이터셋 정보
    training_data_description: str = ""
    training_data_source: str = ""
    data_preparation_methods: str = ""
    data_labeling_info: str = ""
    bias_examination: str = ""

    # 5. 성능 메트릭
    performance_metrics: Dict[str, float] = field(default_factory=dict)
    validation_methodology: str = ""
    known_limitations: List[str] = field(default_factory=list)

    # 6. 위험 관리
    identified_risks: List[str] = field(default_factory=list)
    risk_mitigation_measures: List[str] = field(default_factory=list)

    # 7. 인간 감독
    human_oversight_measures: str = ""
    operator_instructions: str = ""

    def generate_document(self) -> str:
        """기술 문서 생성"""
        doc = f"""
════════════════════════════════════════════════════════════════════
                    기술 문서 (TECHNICAL DOCUMENTATION)
                         EU AI Act Article 11 준수
════════════════════════════════════════════════════════════════════

문서 생성일: {datetime.now().strftime('%Y-%m-%d %H:%M:%S')}
문서 버전: {self.version}

────────────────────────────────────────────────────────────────────
1. 일반 정보 (GENERAL INFORMATION)
────────────────────────────────────────────────────────────────────

시스템명: {self.system_name}
공급자: {self.provider_name}
주소: {self.provider_address}
고위험 분류: {self.high_risk_category}

의도된 목적:
{self.intended_purpose}

────────────────────────────────────────────────────────────────────
2. 시스템 설명 (SYSTEM DESCRIPTION)
────────────────────────────────────────────────────────────────────

일반 설명:
{self.general_description}

소프트웨어 버전: {self.software_version}

입력 데이터 유형:
{chr(10).join(f'  • {t}' for t in self.input_data_types)}

출력 데이터 유형:
{chr(10).join(f'  • {t}' for t in self.output_data_types)}

하드웨어 상호작용:
{self.interaction_with_hardware}

────────────────────────────────────────────────────────────────────
3. 개발 과정 (DEVELOPMENT PROCESS)
────────────────────────────────────────────────────────────────────

설계 사양:
{self.design_specifications}

개발 방법론:
{self.development_methodology}

학습 접근법:
{self.training_approach}

────────────────────────────────────────────────────────────────────
4. 데이터셋 정보 (DATA INFORMATION)
────────────────────────────────────────────────────────────────────

학습 데이터 설명:
{self.training_data_description}

데이터 출처:
{self.training_data_source}

데이터 준비 방법:
{self.data_preparation_methods}

레이블링 정보:
{self.data_labeling_info}

편향성 검토:
{self.bias_examination}

────────────────────────────────────────────────────────────────────
5. 성능 지표 (PERFORMANCE METRICS)
────────────────────────────────────────────────────────────────────

"""
        for metric, value in self.performance_metrics.items():
            doc += f"  {metric}: {value}\n"

        doc += f"""
검증 방법론:
{self.validation_methodology}

알려진 제한사항:
{chr(10).join(f'  • {l}' for l in self.known_limitations)}

────────────────────────────────────────────────────────────────────
6. 위험 관리 (RISK MANAGEMENT)
────────────────────────────────────────────────────────────────────

식별된 위험:
{chr(10).join(f'  • {r}' for r in self.identified_risks)}

완화 조치:
{chr(10).join(f'  • {m}' for m in self.risk_mitigation_measures)}

────────────────────────────────────────────────────────────────────
7. 인간 감독 (HUMAN OVERSIGHT)
────────────────────────────────────────────────────────────────────

감독 조치:
{self.human_oversight_measures}

운영자 지침:
{self.operator_instructions}

════════════════════════════════════════════════════════════════════
                           [문서 끝]
════════════════════════════════════════════════════════════════════
"""
        return doc

    def to_json(self) -> str:
        """JSON 형식으로 내보내기"""
        data = {
            "document_version": self.version,
            "generated_at": datetime.now().isoformat(),
            "general_info": {
                "system_name": self.system_name,
                "provider": self.provider_name,
                "high_risk_category": self.high_risk_category,
            },
            "performance": self.performance_metrics,
            "risks": self.identified_risks,
            "limitations": self.known_limitations,
        }
        return json.dumps(data, indent=2, ensure_ascii=False)

# 사용 예시
doc = TechnicalDocumentation(
    system_name="AI 채용 심사 시스템 v2.0",
    version="2.0.1",
    provider_name="KAITRUST Corp.",
    provider_address="서울특별시 강남구",
    intended_purpose="채용 과정에서 이력서 분석 및 초기 심사 지원",
    high_risk_category="Annex III - 4. 고용",
    general_description="NLP 기반 이력서 분석 및 직무 적합도 점수 산출",
    input_data_types=["PDF 이력서", "텍스트 자기소개서"],
    output_data_types=["적합도 점수 (0-100)", "핵심 역량 추출"],
    performance_metrics={"Accuracy": 0.87, "F1-Score": 0.84},
    identified_risks=["성별 편향", "학력 편향", "연령 편향"],
    risk_mitigation_measures=["공정성 감사", "편향성 테스트", "인간 최종 검토"],
)

print(doc.generate_document())

# EU AI Act 자동 로깅 시스템 (Art. 12 준수)
from dataclasses import dataclass, field
from datetime import datetime
from typing import Any, Dict, List, Optional
from enum import Enum
import hashlib
import json
import uuid

class EventType(Enum):
    SYSTEM_START = "system_start"
    SYSTEM_STOP = "system_stop"
    PREDICTION_REQUEST = "prediction_request"
    PREDICTION_RESPONSE = "prediction_response"
    HUMAN_OVERRIDE = "human_override"
    ERROR = "error"
    CONFIG_CHANGE = "config_change"
    DATA_ACCESS = "data_access"

@dataclass
class LogEntry:
    """EU AI Act 준수 로그 엔트리"""
    event_id: str
    timestamp: str
    event_type: EventType
    system_version: str
    operator_id: Optional[str]
    input_hash: Optional[str]  # 입력 데이터 해시 (개인정보 보호)
    output_summary: Optional[str]
    confidence_score: Optional[float]
    human_verified: bool
    metadata: Dict[str, Any]

class HighRiskAILogger:
    """EU AI Act Article 12 자동 로깅 시스템"""

    def __init__(self, system_name: str, system_version: str):
        self.system_name = system_name
        self.system_version = system_version
        self.logs: List[LogEntry] = []
        self.retention_period_days = 365 * 5  # 5년 보관 (Art. 12(4))

    def _generate_event_id(self) -> str:
        return str(uuid.uuid4())

    def _hash_input(self, input_data: Any) -> str:
        """입력 데이터 해시화 (개인정보 보호)"""
        data_str = json.dumps(input_data, sort_keys=True, default=str)
        return hashlib.sha256(data_str.encode()).hexdigest()[:16]

    def log_prediction(self,
                        input_data: Any,
                        output: Any,
                        confidence: float,
                        operator_id: Optional[str] = None,
                        human_verified: bool = False) -> str:
        """예측 요청/응답 로깅"""
        event_id = self._generate_event_id()

        # 요청 로그
        request_log = LogEntry(
            event_id=event_id,
            timestamp=datetime.utcnow().isoformat() + "Z",
            event_type=EventType.PREDICTION_REQUEST,
            system_version=self.system_version,
            operator_id=operator_id,
            input_hash=self._hash_input(input_data),
            output_summary=None,
            confidence_score=None,
            human_verified=False,
            metadata={"input_type": type(input_data).__name__}
        )
        self.logs.append(request_log)

        # 응답 로그
        response_log = LogEntry(
            event_id=event_id,
            timestamp=datetime.utcnow().isoformat() + "Z",
            event_type=EventType.PREDICTION_RESPONSE,
            system_version=self.system_version,
            operator_id=operator_id,
            input_hash=self._hash_input(input_data),
            output_summary=str(output)[:200],
            confidence_score=confidence,
            human_verified=human_verified,
            metadata={"output_type": type(output).__name__}
        )
        self.logs.append(response_log)

        return event_id

    def log_human_override(self,
                           event_id: str,
                           operator_id: str,
                           original_output: Any,
                           overridden_output: Any,
                           reason: str):
        """인간 개입/오버라이드 로깅"""
        override_log = LogEntry(
            event_id=event_id,
            timestamp=datetime.utcnow().isoformat() + "Z",
            event_type=EventType.HUMAN_OVERRIDE,
            system_version=self.system_version,
            operator_id=operator_id,
            input_hash=None,
            output_summary=f"Original: {str(original_output)[:50]}, Overridden: {str(overridden_output)[:50]}",
            confidence_score=None,
            human_verified=True,
            metadata={"reason": reason}
        )
        self.logs.append(override_log)

    def log_error(self, error_type: str, error_message: str,
                   operator_id: Optional[str] = None):
        """에러 로깅"""
        error_log = LogEntry(
            event_id=self._generate_event_id(),
            timestamp=datetime.utcnow().isoformat() + "Z",
            event_type=EventType.ERROR,
            system_version=self.system_version,
            operator_id=operator_id,
            input_hash=None,
            output_summary=None,
            confidence_score=None,
            human_verified=False,
            metadata={"error_type": error_type, "message": error_message}
        )
        self.logs.append(error_log)

    def export_logs(self, format: str = "json") -> str:
        """로그 내보내기 (감사용)"""
        log_data = []
        for log in self.logs:
            log_data.append({
                "event_id": log.event_id,
                "timestamp": log.timestamp,
                "event_type": log.event_type.value,
                "system_version": log.system_version,
                "operator_id": log.operator_id,
                "input_hash": log.input_hash,
                "output_summary": log.output_summary,
                "confidence_score": log.confidence_score,
                "human_verified": log.human_verified,
                "metadata": log.metadata,
            })
        return json.dumps(log_data, indent=2, ensure_ascii=False)

    def get_audit_summary(self) -> str:
        """감사 요약 생성"""
        total = len(self.logs)
        predictions = len([l for l in self.logs
                          if l.event_type == EventType.PREDICTION_RESPONSE])
        overrides = len([l for l in self.logs
                        if l.event_type == EventType.HUMAN_OVERRIDE])
        errors = len([l for l in self.logs
                     if l.event_type == EventType.ERROR])

        return f"""
╔═══════════════════════════════════════════════╗
║         EU AI Act 로깅 감사 요약              ║
╠═══════════════════════════════════════════════╣
║ 시스템: {self.system_name:<30}║
║ 버전: {self.system_version:<32}║
╠═══════════════════════════════════════════════╣
║ 총 로그 수: {total:<28}║
║ 예측 건수: {predictions:<29}║
║ 인간 개입: {overrides:<29}║
║ 에러 발생: {errors:<29}║
║ 개입 비율: {(overrides/max(predictions,1)*100):.1f}%{' '*23}║
╚═══════════════════════════════════════════════╝
"""

# 사용 예시
logger = HighRiskAILogger("AI-Hiring-System", "2.0.1")

# 예측 로깅
event_id = logger.log_prediction(
    input_data={"resume_id": "R-12345", "position": "Engineer"},
    output={"score": 85, "recommendation": "Interview"},
    confidence=0.92,
    operator_id="OP-001"
)

# 인간 오버라이드 로깅
logger.log_human_override(
    event_id=event_id,
    operator_id="HR-MANAGER-01",
    original_output={"score": 85},
    overridden_output={"score": 75},
    reason="직무 경험 부족 고려"
)

print(logger.get_audit_summary())