AI 에이전트
agentic system · autonomous agent
한 줄로
AI 에이전트는 호출 가능한 도구에 연결되고 단일 질문이 아니라 목표를 받은 언어모델로, 도구를 부르고 결과를 읽고 다음 단계를 정하는 루프를 목표 달성이나 한도 도달까지 반복한다. 챗봇과 구분되는 것은 그 루프다.
에이전트는 모델 주위의 세 요소다. 부를 수 있는 도구, 한 행동보다 위 수준의 목표, 그리고 결과마다 다음을 정하는 루프.
도구는 평범한 함수다 — 데이터베이스 조회, HTTP 요청, 파일 쓰기 — 이름·목적·인자 스키마로 모델에 설명된다. 모델이 직접 실행하는 일은 없다. 구조화된 호출을 내보내면 런타임이 실행하고 결과가 텍스트로 돌아온다. 따라서 에이전트는 주어진 도구만큼만 유능하다.
중요한 엔지니어링은 거의 전부 루프를 가두는 일이다.
- 단계·시간·토큰 예산. 막힌 에이전트가 멈추도록.
- 런타임에서 강제하는 권한 경계. 읽기는 넓게, 쓰기는 좁게, 되돌릴 수 없는 일에는 승인.
- 재생 가능한 로그. 모든 호출과 결과.
- 싼 검증. 코딩 에이전트가 먼저 된 이유는 «됐는가»를 테스트가 자동으로 답해주기 때문이다.
에이전트에 고유한 보안 고려는 프롬프트 인젝션이다. 에이전트가 읽는 어떤 콘텐츠에도 자기를 겨냥한 지시가 들어 있을 수 있다. 방어는 더 좋은 프롬프트가 아니라 더 작은 권한이다. 자세한 것은 AI 에이전트란 무엇인가에서 다룬다.
자주 묻는 질문
- 에이전트와 워크플로의 차이는?
- 워크플로는 미리 정해진 단계를 따른다. 에이전트는 관찰한 것을 바탕으로 실행 시점에 순서를 정한다. 유연성을 사고 예측 가능성을 지불한다.
- 왜 예상보다 자주 실패하는가?
- 단계별 오류가 곱해진다. 단계당 95% 신뢰도면 20단계 작업의 성공률은 약 3분의 1이다. 더 큰 모델보다 범위를 좁히는 편이 훨씬 효과적이다.