🤖 AI/ML

Agentic AI

에이전틱 AI

자율적으로 작업을 계획하고 실행하는 AI. 도구 사용, 다단계 추론 가능. 2024년 주요 트렌드.

📖 상세 설명

Agentic AI는 단순히 질문에 답변하는 것을 넘어, 목표를 이해하고 스스로 계획을 수립하며 외부 도구를 활용하여 작업을 완수하는 자율형 AI 시스템입니다. 복잡한 작업을 하위 태스크로 분해하고, 각 단계의 결과를 평가하여 다음 행동을 결정하는 다단계 추론 능력이 핵심입니다.

2023년 AutoGPT가 등장하며 대중적 관심을 받았고, 2024년에는 Anthropic의 Claude Computer Use, OpenAI의 Operator 등 주요 AI 기업들이 경쟁적으로 Agentic AI 기능을 출시했습니다. Gartner는 2028년까지 기업 소프트웨어의 33%가 Agentic AI를 포함할 것으로 전망합니다.

Agentic AI의 4가지 핵심 구성요소는 Planning(작업 분해), Tool Use(외부 API/도구 호출), Memory(대화 및 작업 기록), Reflection(결과 평가 및 수정)입니다. ReAct(Reasoning + Acting) 패턴이 대표적 구현 방식으로, 추론과 행동을 번갈아 수행합니다.

고객 서비스에서는 환불 요청을 받아 주문 조회, 정책 확인, 처리까지 자동화하고, 소프트웨어 개발에서는 버그 리포트를 분석하여 코드 수정 후 테스트까지 수행합니다. 다만 현재는 완전 자율 운영보다는 Human-in-the-loop 방식으로 중요 결정에 사람의 승인을 받는 형태가 권장됩니다.

💻 코드 예제

from langchain.agents import create_react_agent, AgentExecutor
from langchain_openai import ChatOpenAI
from langchain.tools import Tool
from langchain import hub
import requests

# LLM 설정
llm = ChatOpenAI(model="gpt-4", temperature=0)

# 도구 정의 (Agent가 사용할 외부 기능)
def search_web(query: str) -> str:
    """웹 검색을 수행합니다."""
    # 실제로는 검색 API 호출
    return f"'{query}'에 대한 검색 결과..."

def calculate(expression: str) -> str:
    """수학 계산을 수행합니다."""
    try:
        return str(eval(expression))
    except:
        return "계산 오류"

def send_email(to: str, subject: str, body: str) -> str:
    """이메일을 전송합니다."""
    # 실제로는 이메일 API 호출
    return f"이메일 전송 완료: {to}"

tools = [
    Tool(name="WebSearch", func=search_web, description="웹 검색"),
    Tool(name="Calculator", func=calculate, description="수학 계산"),
    Tool(name="SendEmail", func=send_email, description="이메일 전송"),
]

# ReAct 에이전트 생성
prompt = hub.pull("hwchase17/react")
agent = create_react_agent(llm, tools, prompt)
agent_executor = AgentExecutor(
    agent=agent,
    tools=tools,
    verbose=True,  # 추론 과정 출력
    max_iterations=10,  # 무한 루프 방지
    handle_parsing_errors=True
)

# 에이전트 실행 - 복잡한 작업도 자율적으로 처리
result = agent_executor.invoke({
    "input": "2024년 AI 트렌드를 검색하고, 주요 키워드 3개를 정리해서 team@company.com으로 보내줘"
})
print(result["output"])

🗣️ 실무 대화 예시

📊 AI 전략 회의에서

"단순 챗봇을 Agentic AI로 업그레이드하면 고객 문의 처리율을 80%까지 올릴 수 있습니다. 환불 요청이 들어오면 주문 DB 조회, 정책 확인, 처리까지 자동화되니까요. 다만 50만원 이상은 사람 승인을 받도록 가드레일을 설정해야 합니다."

💼 기술 면접에서

"Agentic AI와 기존 LLM의 차이를 설명해주세요. 기존 LLM은 한 번의 응답으로 끝나지만, Agentic AI는 목표 달성까지 여러 단계의 추론과 행동을 반복합니다. ReAct 패턴으로 구현하며, 도구 사용과 메모리 관리가 핵심입니다."

🔧 시스템 설계 논의에서

"Agentic AI에 무제한 권한 주면 안 됩니다. Tool마다 Rate Limit 걸고, 비용 상한선 설정하고, 민감한 작업은 Human Approval 필수로 해야 해요. 한 번 잘못 돌아가면 API 비용만 수백만원 나올 수 있어요."

⚠️ 주의사항

🔄
무한 루프 및 비용 폭주

Agent가 목표를 달성하지 못하면 무한히 시도할 수 있습니다. 반드시 max_iterations를 설정하고, API 호출 비용 상한선을 두세요. 프로덕션에서는 실시간 비용 모니터링이 필수입니다.

🛡️
보안 및 권한 관리

Agent에 과도한 권한을 부여하면 의도치 않은 시스템 변경이 발생할 수 있습니다. 최소 권한 원칙을 적용하고, 민감한 작업(삭제, 결제 등)에는 반드시 Human-in-the-loop을 구현하세요.

📊
Hallucination으로 인한 잘못된 행동

LLM이 존재하지 않는 도구를 호출하거나 잘못된 파라미터를 전달할 수 있습니다. 도구 호출 결과를 검증하고, 실패 시 graceful fallback을 구현하세요.

🔗 관련 용어

📚 더 배우기