Glossary

LLM(Large Language Model)과 관련된 주요 용어들을 정리한 용어집입니다. (2025-2026 최신 트렌드 반영)

A

Agentic AI: 단순히 명령에 응답하는 것을 넘어, 목표를 달성하기 위해 스스로 계획을 세우고 도구를 사용하며 자율적으로 행동하는 인공지능 시스템.
Agentic Runtime: LLM이 외부 도구와 상호작용하며 복잡한 작업을 수행할 때, 그 실행 과정과 상태(State)를 관리하는 환경 또는 아키텍처.
Audit Log (AI 감사 로그): 에이전트가 내린 모든 결정, 도구 호출 근거, 사고 과정(Reasoning trace)을 기록한 불변의 로그. 규제 준수(EU AI Act 등)와 책임 소재 규명을 위해 필수적임.

C

Chain-of-Thought (CoT, 사고의 사슬): 모델이 최종 답변을 내놓기 전 내부적인 추론 단계를 거치는 기법. 현대의 추론 모델들은 이를 내부적으로 자동 생성함.
Checkpoint (에이전트 상태 저장): 장기간 실행되는 에이전트 작업의 중간 상태를 저장하는 기술. 오류 발생 시 해당 지점부터 재개할 수 있게 함.

E

EU AI Act (유럽 AI 법): 2025년부터 본격 적용된 AI 규제 프레임워크. 고위험 AI 도구 사용에 대한 투명성, 안전성, 인간의 통제(Human Oversight)를 의무화함.

H

Human-in-the-loop (HITL, 인간 개입): AI 에이전트의 워크플로우 중 고위험 작업(송금, 삭제 등) 직전에 사람의 승인을 받는 단계를 두는 보안 설계 패턴.

I

Inference-time Scaling (추론 시간 스케일링): 모델이 답변을 생성할 때 더 많은 계산 자원과 시간을 할당하여 추론 성능을 높이는 기술. OpenAI o1/o3, DeepSeek-R1 등의 핵심 원리.

L

LangGraph: 복잡한 다단계 워크플로우를 순환 그래프(Cycle)로 모델링하고 상태를 유지할 수 있게 돕는 프레임워크.

M

MCP (Model Context Protocol): AI 모델이 외부 데이터 소스나 도구와 표준화된 방식으로 연결될 수 있도록 돕는 범용 프로토콜. 2025년 Linux Foundation 프로젝트로 이전됨.
Mixture of Experts (MoE, 전문가 혼합): 모델의 전체 파라미터 중 일부만 활성화하여 효율적으로 연산하는 아키텍처. 대규모 모델의 성능과 속도를 동시에 잡는 기술.

P

PydanticAI: Python의 타입 힌트를 활용하여 도구 호출 인자를 엄격하게 검증하고 에러를 자동 교정하는 프로덕션용 에이전트 프레임워크.

R

RLVR (Reinforcement Learning from Verifiable Rewards): 모델이 생성한 코드나 도구 호출 결과가 실제로 ‘성공’했는지를 보상 신호로 사용하여 학습하는 강화 학습 기법.
Reasoning Trace (추론 흔적): 모델이 답변을 내기까지 내부적으로 거친 사고의 흐름을 기록한 데이터. 에이전트의 결정 근거를 이해하는 데 사용됨.

S

System 1 / System 2 사고: 다니엘 카너먼의 이중 프로세스 이론에서 유래. System 1은 빠르고 직관적인 사고, System 2는 느리고 논리적인 사고를 뜻함. 최신 LLM은 System 2를 인공적으로 구현함.
Self-Correction (자기 교정): 모델이 도구 실행 실패나 논리적 오류를 스스로 감지하고 계획을 수정하여 다시 시도하는 능력.

T

Tool Call (Function Call): LLM이 텍스트 생성을 넘어 외부 API, 데이터베이스, 함수 등을 직접 호출하여 실시간 정보나 계산 기능을 활용하는 기술.
Traceability (추적 가능성): AI 에이전트의 모든 행동과 결정 과정이 투명하게 기록되어 사후에 분석될 수 있는 성질.

이 용어집은 2026년 최신 기술 동향을 반영하여 지속적으로 업데이트됩니다.