AgentGPT 실행 루프 및 Token 지출 한도를 설정하여 자율 작업 무한 재귀와 API 비용 폭증을 방지하는 방법

자율형 AI 에이전트는 복잡한 상위 목표를 실행 가능한 세부 작업으로 자동 분해하는 데 탁월합니다. 그러나 실행 범위와 안전 한도를 엄격하게 제한하지 않으면 에이전트가 작업의 무한 재귀에 빠져 감당하기 어려운 수준의 API 요금이 청구될 위험이 있습니다. AgentGPT 아키텍처에서 에이전트는 목표를 분석하여 초기 작업 대기열을 생성하고, 거대언어모델(LLM)을 호출해 작업을 실행한 뒤, 실행 결과를 바탕으로 후속 작업을 자율 생성합니다. 목표가 모호하거나 명확한 종료 조건이 설정되지 않은 경우 에이전트는 작업을 끝없이 자가 복제하는 루프에 갇히게 되며, 매 루프마다 Token을 대량으로 소모하게 됩니다.

작업의 무한 재귀와 비용 폭증을 사전에 차단하려면 AgentGPT 자체 UI 설정, 목표 프롬프트 엔지니어링, 셀프 호스팅 소스 코드 수정, 상위 모델 제공업체의 예산 한도 설정이라는 4단계 방어 체계를 구축해야 합니다.

1. AgentGPT 기본 설정에서 실행 제어 파라미터 구성하기

AgentGPT는 화면 좌측 하단 탐색 모음의 설정 아이콘(Settings ⚙)을 통해 제어 파라미터를 제공합니다. 개인 OpenAI API 키를 연결하여 에이전트를 배포하기 전에 다음 핵심 항목을 조정하십시오.

최대 루프 반복 횟수(Loop) 엄격히 제한하기

• 기본 동작: 자체 API 키를 등록하면 AgentGPT는 단일 에이전트 실행당 최대 25회의 루프를 기본으로 허용합니다(무료 데모는 4~5회로 제한).
• 권장 설정: Settings ⚙ > Advanced settings(고급 설정) 패널에서 Loop 슬라이더를 5~10회 수준으로 축소하십시오.
• 차단 원리: 하나의 루프(Loop)는 작업 선택, LLM 호출, 신규 작업 생성으로 이어지는 완전한 1개 실행 주기를 의미합니다. 카운터가 지정된 한도에 도달하면 AgentGPT는 즉시 실행을 중단하고 The maximum number of loops have been reached, this agent is shutting down.(최대 루프 수에 도달하여 에이전트를 종료합니다)이라는 시스템 메시지를 표시합니다. 이를 통해 백그라운드에서 작업이 무한 반복되는 사태를 차단합니다.

1회 응답당 생성 Token 상한(Tokens) 억제하기

• 파라미터: 고급 설정의 Tokens 슬라이더는 API 호출 1회당 허용되는 최대 생성 토큰 수(max_tokens)를 결정합니다.
• 권장 설정: 장문의 보고서 작성이 반드시 필요한 경우가 아니라면 300~500 Token으로 제한하십시오. 단일 응답 길이를 제어하면 불필요하게 긴 추론 텍스트로 인한 단계별 비용 증가를 억제할 수 있습니다.

모델 샘플링 온도(Temp.) 낮추기

• 파라미터: 온도(Temperature)는 생성 텍스트의 무작위성과 창의성을 조절합니다.
• 권장 설정: 온도를 기본값(0.7 이상)에서 0.2~0.4 범위로 낮추십시오. 온도를 낮추면 LLM이 논리적이고 결정론적인 작업 계획을 수립하게 되어, 곁가지로 빠지는 불필요한 탐색 작업 생성이 크게 줄어듭니다.

일시정지 모드(Pause mode) 활성화로 사용자 검증 수행

• 모드 전환: Mode 설정에서 기본값인 Automatic mode(자동 모드)를 Pause mode(일시정지 모드)로 변경하십시오.
• 실무적 가치: 자동 모드에서는 생성된 작업이 즉각 연속 실행되지만, 일시정지 모드에서는 일련의 작업 세트가 끝날 때마다 에이전트가 멈추고 사용자의 승인을 기다립니다. 이러한 인간 개입(Human-in-the-loop) 검증은 에이전트가 무의미한 작업을 반복 생성하는 것을 초기에 포착할 수 있는 가장 확실한 수단입니다.

2. 목표 프롬프트의 경계 설계를 통해 재귀 유발 원인 차단하기

자율 작업이 무한 반복되는 가장 흔한 원인은 목표(Goal)가 지나치게 광범위하기 때문입니다. AgentGPT의 내부 작업 생성기는 이전 결과물을 상위 목표와 비교하므로, "전기차 시장 현황 조사"와 같이 모호한 목표를 입력하면 에이전트는 끝없이 세부 조사 작업을 만들어냅니다.

Goal 입력 필드에는 반드시 명확한 제약 조건을 포함하십시오.

1. 결과물의 수량 및 양식 명시: 예: "상위 3개 오픈소스 벡터 데이터베이스를 식별하고, 라이선스 모델을 비교하여 Markdown 표로 출력하라".
2. 명시적 부정 제약 조건 부과: 예: "상용 독점 데이터베이스는 조사하지 말 것. 상위 3개 후보 외에 추가 조사를 수행하지 말 것".
3. 명확한 종료 신호 지정: 예: "비교 표 출력이 완료되면 'DONE'을 출력하고 즉시 종료하며, 추가 하위 작업을 절대 생성하지 말 것".

3. 셀프 호스팅 환경에서 소스 코드 레벨의 안전장치 적용하기

공식 오픈소스 리포지토리(reworkd/AgentGPT)를 사용하여 로컬 또는 Docker 환경에서 시스템을 배포하는 경우 브라우저 인터페이스의 설정에만 의존해서는 안 됩니다. 소스 코드에서 물리적 제한을 적용하십시오.

AutonomousAgent.ts에서 최대 루프 고정하기

에이전트 오케스트레이션 로직은 src/components/AutonomousAgent.tsx(또는 내부 실행 엔진)에 구현되어 있습니다.

• 루프 반복 카운터 로직을 확인하고, 클라이언트의 LocalStorage 값이나 입력 폼 조작과 상관없이 시스템이 허용하는 최대 안전 한도를 초과하지 못하도록 코드를 고정하십시오.
• 대기 작업 대기열 길이(예: tasks.length <= 10)에 제한을 두어, 큐가 가득 찼을 때 모델이 제안하는 신규 하위 작업 등록을 거부하도록 구현하십시오.

누적 Token 소비량 기반 차단기 구축

자체 백엔드 프록시를 통해 API 요청을 전달하는 경우:

• 단일 runId에 대해 누적 입력 및 출력 Token을 집계하십시오.
• 단일 세션의 누적 Token이 사전 설정된 임계치(예: 50,000 Token)를 초과하면 프록시 레벨에서 연결을 즉시 강제 종료하고 프런트엔드에 중단 에러를 전달하십시오.

4. 상위 API 제공업체 계정에서 물리적 예산 한도 설정하기

브라우저 오류나 네트워크 재시도, 동기화 문제로 인해 애플리케이션 레벨의 제어가 실패할 수 있습니다. 예기치 못한 청구 폭탄을 방지하는 가장 확실한 최종 방어선은 모델 공급업체(OpenAI Platform 등) 대시보드에서 예산 제한을 설정하는 것입니다.

1. 월간 강제 지출 한도(Hard Limit) 설정: OpenAI Platform > Settings > Billing > Usage limits로 이동하여 월간 Hard Limit 금액을 설정하십시오. 해당 금액에 도달하면 OpenAI는 이후 모든 API 요청을 429 오류로 즉시 거부하여 요금 초과를 원천 차단합니다.
2. 조기 경고 알림(Soft Limit) 구성: 예산의 50% 수준에 Soft Limit을 설정하여 에이전트 실험 중 예상보다 빠른 속도로 Token이 소모될 때 이메일 알림을 수신하십시오.
3. 프로젝트별 독립 API 키 발급: 조직의 루트 API 키를 AgentGPT에 그대로 입력하지 마십시오. AgentGPT 전용 Project API Key를 발급하고 독립된 예산을 할당해 두면, 에이전트 실행에 문제가 발생하더라도 피해 범위를 해당 키에 배정된 예산 내부로 엄격히 제한할 수 있습니다.

핵심 설정 점검표

AgentGPT 내장 루프 및 Token 제한, 명확한 목표 프롬프트 작성, 모델 제공업체의 엄격한 예산 한도를 함께 활용하면 자율형 에이전트의 성능을 활용하면서도 재귀적 작업 함정과 예산 낭비 위험을 완벽히 통제할 수 있습니다.

참고 자료

• AgentGPT
• GitHub - reworkd/AgentGPT: 🤖 Assemble, configure, and deploy autonomous AI Agents in your browser.
• Production best practices | OpenAI API