직장인과 프로젝트 팀이 범용 대규모 언어 모델을 활용할 때 흔히 겪는 업무 비효율이 있습니다. 새 대화를 시작할 때마다 긴 배경 설명, 브랜드 톤, 기업 업무 규칙을 반복해서 입력해야 한다는 점입니다. 더욱이 비공개 사내 규정이나 제품 기술 사양을 질의할 경우, 범용 모델은 내부 문서에 접근할 수 없어 겉핥기식 답변을 내놓거나 사실이 아닌 내용을 그럴듯하게 지어내는 환각(Hallucination) 현상을 일으키곤 합니다.
알리바바 클라우드의 Qwen 모델 생태계를 기반으로 하는 퉁이첸원(Tongyi Qianwen)은 '맞춤형 에이전트(Custom Agent)' 구축 체계를 통해 이러한 문제를 해결합니다. 시스템 지시문(System Instructions), 사내 문서 지식 베이스(RAG: 검색 증강 생성), **외부 도구 플러그인(Plugins)**이라는 세 가지 핵심 요소를 결합함으로써, 기업 고유의 맥락을 기억하고 내부 자료에 입각하여 정확하게 답하며 외부 도구까지 제어할 수 있는 전담 디지털 협업 동료를 만들 수 있습니다.
퉁이첸원 웹 인터페이스 및 도구함(百宝箱)을 통한 노코드 생성부터 알리바바 클라우드 모델 스튜디오(Model Studio / 百炼)를 활용한 엔터프라이즈 맞춤형 개발까지, 이 구축 절차를 익히면 팀의 협업 효율성과 업무 자동화 수준을 대폭 끌어올릴 수 있습니다.
퉁이첸원 맞춤형 에이전트의 3대 핵심 기둥
성공적인 비즈니스 에이전트는 단순한 프롬프트 저장이 아닙니다. 모델의 추론 능력, 기업 고유의 문서 기억, 외부 실행 도구가 유기적으로 맞물려 작동하는 자동화 시스템입니다.
+-------------------------------------------------------------------+
| 사용자 질의 / 업무 입력 |
+---------------------------------+---------------------------------+
|
v
+-------------------------------------------------------------------+
| 퉁이첸원 에이전트 핵심 실행 엔진 (Qwen) |
| |
| +--------------------+ +--------------------+ +--------------+ |
| | 시스템 지시문 | | 사내 지식 베이스 | | 도구 플러그인| |
| | 페르소나 및 규범 | | RAG 정밀 문서 검색 | | API / 검색 / | |
| | | | | | 코드 실행 | |
| +--------------------+ +--------------------+ +--------------+ |
+---------------------------------+---------------------------------+
|
v
+-------------------------------------------------------------------+
| 근거가 명확하고 정형화된 실무용 결과물 생성 |
+-------------------------------------------------------------------+
1. 시스템 지시문(System Instructions): 역할과 행동 원칙 정의
시스템 지시문은 에이전트의 정체성과 행동 규범을 정의하는 헌법과 같습니다. 명확한 지시문이 없으면 모델은 불필요하게 일반적인 대화 패턴으로 회귀합니다.
엔터프라이즈 환경에서 사용할 수 있는 지시문에는 다음 항목이 포함되어야 합니다:
- 역할 및 페르소나: 전문 분야, 업무 경력, 지원 대상 사용자, 답변 어조(예: 엔터프라이즈 솔루션 아키텍트, 사내 규정 준수 심사관 등).
- 업무 처리 절차(SOP): 단계별 작업 순서(예: 사용자 의도 파악 -> 지식 베이스 문서 검색 -> 지정 서식으로 답변 작성).
- 환각 방지 한계선: 에이전트가 해서는 안 되는 행동을 명시(예: 지식 베이스에 없는 내용은 추측하지 않고 정보가 없음을 명확히 안내).
- 출력 형식 규정: 마크다운 표, 핵심 요약 불릿 포인트, JSON 형식 등 업무에 즉시 활용할 수 있는 서식 지정.
2. 사내 지식 베이스(Knowledge Base / RAG): 정확한 사실 검증의 원천
대형 언어 모델은 방대한 공개 지식을 보유하고 있지만, 귀사 내부의 제품 백서, 고객 계약 조건, 인사 복무 규정 등은 전혀 알지 못합니다.
지식 베이스는 RAG(검색 증강 생성) 기술을 통해 작동합니다:
- 문서를 업로드하면 시스템이 텍스트를 파싱하고 의미 단위 청크(Chunk)로 나눈 뒤 벡터 임베딩을 생성합니다.
- 사용자가 질문을 입력하면, 지식 베이스 내에서 가장 관련성 높은 문서 단락을 우선적으로 검색합니다.
- 에이전트는 검색된 원문 단락만을 근거로 삼아 답변을 생성하므로, 데이터 날조 및 환각 현상을 원천적으로 차단합니다.
3. 도구 플러그인(Plugins / Tools): 외부 시스템 제어와 실행력 확보
텍스트 모델은 글을 작성할 뿐이지만, 플러그인은 외부 환경과 직접 연결되는 실행력을 제공합니다:
- 플랫폼 기본 도구: 실시간 시장 정보를 확인하는 웹 검색, 데이터 집계와 수식 계산을 수행하는 코드 인터프리터(Python 샌드박스), 시각적 시안을 만드는 통이완샹(Wanx).
- 맞춤형 API 플러그인: 내부 CRM, 결재 시스템, 재고 관리 ERP 등 REST API 연동. 모델이 대화 맥락에서 매개변수를 추출하여 자동으로 API 호출을 수행합니다.
- Model Context Protocol (MCP): 표준화된 프로토콜을 통해 사내 데이터 서버 및 개발 도구와 유연하게 연결합니다.
일반 대화 세션 vs. 퉁이첸원 맞춤형 에이전트 비교
| 비교 항목 | 일반 챗봇 대화 세션 | 퉁이첸원 맞춤형 비즈니스 에이전트 |
|---|---|---|
| 배경 맥락 유지 | 대화 종료 시 소멸; 매번 배경 지시 재입력 필요 | 에이전트 설정에 영구 보존; 팀 전원이 지속 재사용 |
| 사내 비공개 데이터 활용 | 일회성 파일 첨부에 의존; 검색 깊이 한계 | 벡터화된 중앙 지식 베이스 연동; 대규모 정밀 검색 지원 |
| 외부 도구 연동 | 텍스트 생성 및 기초 웹 검색에 국한 | 사내 API 호출, 파이썬 코드 실행, MCP 서비스 연계 |
| 결과 신뢰도 및 일관성 | 모델의 임의 추론 및 환각 발생 위험 존재 | 사내 문서 근거 및 엄격한 규칙 제약으로 높은 신뢰도 유지 |
| 팀 협업 및 배포 | 개인 계정의 대화창에 파편화 | 팀 워크스페이스 공유, 단독 링크 배포, 메신저 연동 가능 |
맞춤형 에이전트 제작 6단계 실무 가이드
1단계: 에이전트 초기화 및 구동 모델 선택
- 퉁이첸원 웹 화면의 도구함(百宝箱) 또는 알리바바 클라우드 모델 스튜디오 콘솔에 접속하여 **에이전트 만들기(또는 애플리케이션 생성)**를 선택합니다.
- 기본 프로필을 설정합니다:
- 이름: 기능이 명확히 드러나는 이름(예: 클라우드 제안서 기술 검토 전문가 또는 경비 규정 안내 봇).
- 설명: 팀원들이 역할을 알 수 있도록 서비스 범위 작성.
- 아이콘: 역할에 어울리는 아바타 등록.
- 기반 모델 선택:
- Qwen-Max: 고난도 논리 추론, 복합 도구 호출 체인, 정확도가 중요한 의사결정 업무에 적합.
- Qwen-Plus: 응답 속도와 비용 효율성이 뛰어나며 일상적인 문서 작성, 사내 Q&A, 고객 응대에 최적.
- Qwen-Long: 초장문 컨텍스트 처리에 특화되어 연간 감사 보고서 대조나 방대한 규정집 검토에 최적.
2단계: 구조화된 시스템 지시문 작성
단순한 한두 줄의 프롬프트는 피하고, 구조화된 마크다운 템플릿을 적용합니다:
# 역할
당신은 엔터프라이즈 클라우드 부서의 시니어 프리세일즈 솔루션 아키텍트입니다. 영업 대표와 엔지니어가 고객사 제안요청서(RFP)에 정확하고 기술적으로 빈틈없이 답변하도록 돕는 것이 주 임무입니다.
# 가용 도구 및 권한
1. 사전에 등록된 《제품 기술 백서》 및 《정보보안 인증 현황》 지식 베이스를 상시 조회할 수 있습니다.
2. 경쟁사 공개 동향 확인이 필요한 경우 웹 검색을 실행할 수 있습니다.
# 업무 원칙 및 제약 사항
- 사실 중심: 제품 스펙, 가격 체계, SLA 기준에 대한 질문에는 반드시 사내 지식 베이스를 먼저 검색하십시오. 답변 시 참고한 문서명과 목차를 명시하십시오.
- 추측 금지: 지식 베이스에 기재되지 않은 사안은 "해당 내용은 사내 공인 문서에서 확인되지 않으므로 제품팀의 추가 확인이 필요합니다"라고 명확히 안내하십시오. 절대 추측하지 마십시오.
- 어조: 전문적이고 간결하며 비즈니스 문서에 적합한 격식체 사용.
- 출력 형식: 핵심을 요약한 불릿 포인트 위주로 작성하고, 여러 요금제나 규격을 비교할 때는 마크다운 표로 정리하십시오.
3단계: 사내 지식 베이스 생성 및 바인딩
- 에이전트 설정 화면에서 지식 베이스 항목으로 이동하여 지식 베이스 추가를 클릭합니다.
- 사내 문서를 업로드합니다. 지원 포맷은
.pdf,.docx,.txt,.md,.csv등입니다. - 문서 청킹(Chunking) 및 검색 파라미터를 조정합니다:
- 청킹 전략: 일반 기술 백서는 의미 기반 스마트 분할을 적용하고, 표 데이터는 행 단위 또는 구조화 분할을 적용합니다.
- 유사도 임계값: 무관한 내용이 검색 결과에 포함되어 모델의 추론을 방해하지 않도록 Top-K 회수 건수와 임계값을 알맞게 조정합니다.
- 지시문에 문서 출처를 표기하도록 지시하여 실제 담당자가 원문을 손쉽게 검증할 수 있도록 만듭니다.
4단계: 기본 도구 활성화 및 사내 API 연동
- 플랫폼 기본 도구 설정:
- 웹 검색: 최신 업계 동향이나 외부 기술 사양 조회가 필요한 경우 활성화합니다.
- 코드 인터프리터(Code Interpreter): 엑셀 파일 분석, 재무 수식 계산, 통계 그래프 생성이 필요한 에이전트에 활성화합니다.
- 맞춤형 API 플러그인 등록(고급):
- 맞춤 플러그인 추가를 클릭하고 사내 백엔드 API 주소와 인증 방식(Bearer Token 등)을 입력합니다.
- 엔드포인트 경로(예:
/check_inventory또는/submit_ticket)를 등록하고 각 매개변수의 의미를 상세히 기술합니다. 모델은 이 설명을 바탕으로 함수 호출 여부와 입력값을 판단합니다. - 테스트 콘솔에서 모의 호출을 실행하여 반환되는 JSON 데이터 구조를 확인합니다.
5단계: 대화형 플레이그라운드에서 검증 및 튜닝
실제 배포 전에 우측 미리보기 창에서 다음 3가지를 집중 테스트합니다:
- 지식 검색 정밀도: 특정 규정이나 기술 사양을 질의하여 지식 베이스에서 정확한 단락을 찾아내는지 점검합니다.
- 방어 규칙 작동 여부: 등록되지 않은 가상의 기능을 질문하여 규범대로 정중하게 답변을 유보하는지 확인합니다.
- 도구 호출 연동: 연산이나 실시간 조회가 필요한 질문을 던져 플러그인 호출 로그가 정상적으로 남는지 확인합니다.
6단계: 배포, 권한 관리 및 사내 시스템 통합
- **발행(Publish)**을 클릭하여 설정을 저장합니다.
- 공유 범위를 설정합니다:
- 비공개(개인용): 개인 업무 생산성 도구로 활용.
- 팀/워크스페이스 공유: 동일 부서 및 팀원이 공통 표준으로 활용.
- 공개 링크 공유: 외부 고객 응대나 데모 시연용으로 공유.
- 사내 포털이나 메신저(딩톡 등)에 연동하려면 발급된
App ID와 DashScope SDK를 활용해 프로그래밍 방식으로 손쉽게 배포할 수 있습니다.
실무에 바로 쓰는 대표 에이전트 설계안 3선
설계안 1: 제안서(RFP) 기술 검토 및 보안 인증 심사관
- 대상 사용자: B2B 기술 영업 대표, 제안 PM.
- 지시문 핵심: 고객 제안요청서 조항을 사내 보안 백서와 1:1 대조하여 적합성 판정.
- 지식 베이스: SOC2 감사 보고서, ISO27001 인증서, 서비스 이용약관 및 SLA 규정.
- 플러그인: 코드 인터프리터(가용성 SLA 및 견적 요율 계산).
- 주요 결과물: 요건별 충족 여부(충족, 부분 충족, 미충족)와 근거 페이지가 명시된 마크다운 대조표.
설계안 2: 재무 결산 및 예산 편차 분석 보조원
- 대상 사용자: 재무팀장, 경영기획 담당자.
- 지시문 핵심: 모호한 추정 배제, 철저한 회계 기준 적용 및 이상 징후 알림.
- 지식 베이스: 여비교통비 정산 규정, 연간 부서별 예산안, 계정과목 지침서.
- 플러그인: 코드 인터프리터(CSV 장부 데이터 분석) 및 웹 검색(환율 조회).
- 주요 결과물: 예실 대비 편차 분석 보고서 및 규정 위반 의심 건 알림 요약본.
설계안 3: 브랜드 마케팅 및 멀티채널 콘텐츠 에디터
- 대상 사용자: 브랜드 마케터, SNS 채널 운영자, 콘텐츠 기획자.
- 지시문 핵심: 브랜드 가이드라인 준수, 유통 채널별 맞춤 포맷 변환.
- 지식 베이스: 브랜드 톤앤매너 매뉴얼, 과거 우수 카피 사례집, 타깃 고객 페르소나 분석서.
- 플러그인: 웹 검색(업계 최신 트렌드 키워드 추적) 및 통이완샹(시각 콘셉트 시안 생성).
- 주요 결과물: 블로그 개요, 링크드인 게시글, 뉴스레터 요약을 아우르는 멀티채널 홍보 패키지.
실무 운영 팁 및 주의 사항
- 문서 업로드 전 전처리 수행: 스캔 상태가 불량한 PDF나 복잡하게 병합된 셀이 많은 문서는 청크 분할 시 검색 품질을 크게 떨어뜨립니다. 복잡한 표는 깨끗한 마크다운이나 CSV로 정리한 후 등록하는 것이 좋습니다.
- API 매개변수 설명은 최대한 상세하게: 모델은 매개변수 설명을 읽고 입력값을 결정합니다. "날짜 형식은 반드시 YYYY-MM-DD"와 같이 구체적인 형식을 지시문과 파라미터 정의에 명시해야 오류를 방지할 수 있습니다.
- '정보 없음' 대응 규칙을 반드시 수립: 기업 실무에서는 부정확한 정보를 유려하게 지어내는 것보다 "사내 문서에 해당 규정이 없습니다"라고 정직하게 안내하는 것이 훨씬 가치 있고 안전합니다.
- 지식 베이스 수명 주기 관리: 제품 가격이나 회사의 내규가 변경되었을 때 지식 베이스를 갱신하지 않으면 에이전트는 계속 과거 정보를 기반으로 답변합니다. 정기적인 문서 갱신 담당자를 지정하십시오.
참고 자료
- 千问-阿里 AI 助手
- 通义实验室
- Qwen offers comprehensive functionality spanning chatbot, image and video understanding, image generation, document processing, web search integration, tool utilization, and artifacts.
- GitHub - QwenLM/Qwen-Agent: Agent framework and applications built upon Qwen>=3.0, featuring Function Calling, MCP, Code Interpreter, RAG, Chrome extension, etc.