Hallucination

from openai import OpenAI

# Hallucination 감소를 위한 프롬프트 전략
def reduce_hallucination_query(question, context=None):
    client = OpenAI()

    system_prompt = """당신은 정확한 정보만 제공하는 AI 어시스턴트입니다.
    다음 규칙을 반드시 따르세요:
    1. 확실하지 않은 정보는 "확실하지 않습니다"라고 말하세요
    2. 제공된 컨텍스트에 없는 정보는 추측하지 마세요
    3. 출처를 알 수 없는 통계나 수치는 사용하지 마세요
    4. 모르는 것은 모른다고 솔직하게 답하세요"""

    messages = [{"role": "system", "content": system_prompt}]

    if context:
        messages.append({
            "role": "user",
            "content": f"참고 문서:\n{context}\n\n질문: {question}\n\n위 문서만을 기반으로 답변하세요."
        })
    else:
        messages.append({"role": "user", "content": question})

    response = client.chat.completions.create(
        model="gpt-4",
        messages=messages,
        temperature=0.1,  # 낮은 temperature로 창의성 제한
        max_tokens=500
    )

    return response.choices[0].message.content

# 사용 예시 - Grounding으로 Hallucination 방지
context = """
회사 휴가 정책:
- 연차: 입사 1년차 15일, 2년차 이상 20일
- 병가: 연간 10일 (진단서 필요)
- 경조사: 결혼 5일, 출산 10일
"""

answer = reduce_hallucination_query(
    "회사 연차가 며칠인가요?",
    context=context
)
print(answer)