바이두 어니봇(Ernie Bot) 플랫폼에서 사내 지식 검색 및 FAQ 자동화 맞춤형 에이전트 구축 가이드

기업의 일상적인 업무 환경에서 인사 규정 확인, 사내 IT 기술 지원, 영업 제품 사양 검색, 결재 절차 문의 등 반복적인 질의응답은 실무 부서의 핵심 인력에게 상당한 업무 부담을 줍니다. 공개된 범용 대형 언어 모델(LLM)은 일반적인 상식 답변에는 능숙하지만, 회사 내부의 비공개 규정과 운영 매뉴얼에 대해서는 알지 못합니다. 바이두(Baidu) AI 생태계의 원신 인공지능 에이전트 플랫폼(AgentBuilder, 文心智能体平台)(agents.baidu.com)을 활용하면, 비즈니스 부서와 지식 근로자가 별도의 코딩 작업 없이 사내 지식 검색과 FAQ 업무를 전담하는 맞춤형 AI 에이전트를 신속하게 구축할 수 있습니다.

원신 에이전트 플랫폼은 바이두의 ERNIE 파운데이션 모델과 기본 탑재된 검색 증강 생성(RAG) 메커니즘을 결합하여, 정적이고 분산되어 있던 사내 PDF 매뉴얼, 사규집, 엑셀 FAQ 목록을 출처 검증이 가능한 스마트 사내 비서로 전환합니다.

핵심 아키텍처: 사내 지식 검색을 지원하는 에이전트빌더의 작동 원리

기존의 사내 키워드 검색은 직원이 수십 페이지 분량의 규정 문서에서 여비 정산 한도나 사내망 VPN 접속 설정 항목을 일일이 찾아내야 하는 불편함이 있었습니다. 반면 지식 기반 제약이 없는 일반 LLM에 사내 업무를 질문하면 그럴듯하지만 사실이 아닌 환각(Hallucination) 현상이 발생하기 쉽습니다.

원신 AgentBuilder는 노코드(No-code) 시각화 파이프라인을 통해 이러한 한계를 해결합니다.

1. 문서 수집 및 청크 분할(Chunking): 다양한 사내 문서 포맷(PDF, DOCX, TXT, Markdown, PPT) 및 정형 스프레드시트(XLSX, CSV) 업로드를 지원합니다. 시스템이 문서 서식을 분석하여 불필요한 공백과 기호를 정제하고, 의미 단위로 텍스트를 자동 분할(청크화)한 후 벡터 임베딩(Vector Embedding)으로 색인합니다.
2. 하이브리드 벡터 검색: 직원이 자연어로 질문을 입력하면, 검색 엔진이 벡터 유사도와 키워드 매칭을 결합한 하이브리드 검색을 수행하여 가장 연관성이 높은 문서 단락을 선별합니다.
3. 프롬프트 접지(Prompt Grounding): 추출된 지식 단락들을 직원의 질문과 함께 ERNIE 모델의 컨텍스트로 주입하고, 엄격한 답변 지침을 프롬프트로 전달합니다.
4. 근거 제시 및 출처 추적(Citations): 에이전트는 자연스러운 문장으로 답변을 생성하며, 답변 하단에 원본 문서의 인용 단락을 클릭 가능한 형태로 표시합니다. 직원은 원문을 즉시 대조하여 규정의 신뢰도를 직접 확인할 수 있습니다.

단계별 실무 가이드: 사내 지식 검색 에이전트 구축하기

신뢰도 높은 사내 FAQ 에이전트를 완성하기 위해서는 문서 자산 정리, 에이전트 생성, 지식베이스 연결, 프롬프트 엔지니어링, 테스트 검증의 5단계를 거치게 됩니다.

1단계: 사내 지식 자산 정리 및 구조화

에이전트 답변의 정확도는 등록하는 원본 데이터의 구조에 따라 결정됩니다. 플랫폼에서는 크게 두 가지 형태의 지식 자산을 활용하는 것이 좋습니다.

• 정형 FAQ 질의응답 표 (명확한 사내 규정에 최적): 출장비 지원 기준, 연차 휴가 사용 규정, 소프트웨어 라이선스 신청 절차 등 명확한 규정은 엑셀(.xlsx) 또는 CSV 파일로 표준 질문, 유사 질문(동의어 변형)(예: "출장 교통비 어떻게 청구하나요?", "법인 택시 정산 규정"), 공식 표준 답변의 3개 열로 정리합니다. FAQ 표 방식은 장문 분할로 인한 문맥 왜곡을 방지하여 100%에 가까운 검색 정확도를 보장합니다.
• 비정형 운영 매뉴얼 및 기술 문서: 온보딩 가이드, 시스템 설계서, 장비 사용 지침 등은 .pdf, .docx, .md 파일로 업로드합니다. 업로드 전에 효력이 만료된 구버전 이력, 식별이 어려운 저해상도 스캔 이미지, 불필요한 머리글/바닥글을 제거하여 파싱 품질을 극대화합니다.

2단계: AgentBuilder에서 에이전트 신규 생성

1. 원신 인공지능 에이전트 플랫폼(AgentBuilder 공식 콘솔: https://agents.baidu.com/)에 접속하여 바이두 계정으로 로그인합니다.
2. 메인 콘솔에서 에이전트 생성(创建智能体) 버튼을 클릭합니다.
3. 생성 방식을 선택합니다:
   • 자연어 기반 노코드 생성: 원하는 에이전트의 역할을 자연어로 입력하면(예: "업로드된 사내 규정을 바탕으로 임직원의 복리후생 및 경비 정산 질문에 답변하는 인사 도우미 에이전트를 만들어 줘"), 시스템이 기초 설정을 자동으로 구성합니다.
   • 시각화 로코드 설정(권장): 시스템 프롬프트, 지식베이스 연결, 플러그인 도구 및 대화 제어 매개변수를 직접 세부 조정할 수 있습니다.
4. 에이전트 기본 정보(이름, 프로필 아이콘, 업무 범위 안내 설명)를 입력합니다.

3단계: 지식베이스 업로드 및 에이전트 연결

1. 에이전트 구성 화면의 확장 기능 목록에서 지식베이스(知识库) 항목을 찾아 지식베이스 추가를 선택합니다.
2. 신규 지식베이스를 생성하고 준비된 FAQ 엑셀 파일과 운영 매뉴얼을 업로드합니다.
3. 분할(청킹) 전략 검토:
   • 일반 서술형 지침 문서는 시스템 기본 자동 분할을 적용합니다.
   • 조항이 긴밀하게 연결된 규정 문서의 경우, 분할 크기를 직접 조정하고 미리보기 기능을 통해 한 조항의 내용이 중간에서 끊기지 않았는지 확인합니다.
4. 검색 전략 설정: '지식베이스 우선 검색' 옵션을 활성화하고 관련도 임계값을 설정하여, 모델이 사내 문서와 무관하게 자체 지식만으로 추측 답변하는 것을 차단합니다.

4단계: 시스템 프롬프트 작성 및 환각 방지 규칙 설정

시스템 프롬프트는 에이전트가 사내 규정의 경계를 준수하도록 만드는 핵심 통제 장치입니다. 모호한 지침을 피하고 명확한 예외 처리 지침을 명시해야 합니다.

# 역할 정의
당신은 사내 운영 지식 지원 어시스턴트인 'OpsDesk'입니다. 연결된 사내 지식베이스의 내용에만 근거하여, 임직원의 사내 규정 및 절차 관련 질문에 정확하고 명료하게 답변하십시오.

# 준수 규칙
1. 지식베이스 기반 엄격 답변: 검색된 지식베이스 단락에 포함된 내용에만 근거하여 답변하십시오. 문서에 명시되지 않은 사실을 주관적으로 추측, 유추 또는 조작하여 답변해서는 안 됩니다.
2. 출처 표기: 금액 한도, 기한, 승인 책임자 등 핵심 수치를 제시할 때는 반드시 근거가 된 사내 규정 명칭과 관련 조항을 함께 언급하십시오.
3. 정보 부재 시 대응 프로토콜: 임직원의 질문에 대한 답변이 현재 지식베이스에 존재하지 않는 경우, 절대 지어내지 말고 다음과 같이 정중히 안내하십시오: "죄송합니다. 현재 등록된 사내 문서에서는 해당 내용을 확인할 수 없습니다. 정확한 확인을 위해 사내 운영 지원팀(메신저 채널: #ops-support)으로 문의해 주시기 바랍니다."
4. 어조: 정중하고 명확하며, 핵심을 일목요연하게 불릿 포인트로 작성.

또한 처음 접속한 직원이 쉽게 질문할 수 있도록 웰컴 메시지와 추천 질문 목록(예: "출장 시 숙박비 한도는 얼마인가요?", "업무용 모니터 신청 방법 안내")을 함께 등록합니다.

5단계: 대화 테스트 및 출처 인용 검증

플랫폼 우측의 실시간 미리보기 테스트 창을 통해 출시 전 검증을 진행합니다.

1. 질의어 변형 테스트: 줄임말, 구어체 표현, 오타 등이 포함된 질문을 입력하여 벡터 검색이 의도한 FAQ 답변을 올바르게 가져오는지 확인합니다.
2. 범위 외 질문 테스트: 등록되지 않은 질문을 입력하여 모델이 자체적으로 내용을 지어내지 않고, 사전에 정의된 '정보 부재 시 안내 문구'를 정확하게 반환하는지 검증합니다.
3. 인용 단락 확인: 답변 하단에 생성된 출처 태그를 클릭하여 하이라이트된 원본 텍스트가 답변의 근거를 충실히 뒷받침하는지 대조합니다.
4. 검색 임계값 미세 조정: 등록된 문서가 있음에도 불구하고 검색되지 않는 경우, 검색 유사도 임계값을 소폭 낮추거나 FAQ 표에 유사 질의어 패턴을 보충합니다.

6단계: 사내 배포 및 공유

모든 테스트가 완료되면 배포(发布) 버튼을 클릭합니다.

• 사내 한정 링크 공유: 링크를 소지한 내부 인원 또는 지정된 권한의 팀원만 접속할 수 있는 공유 설정을 선택하여 사내 포털이나 메신저에 배포합니다. 외부로의 데이터 유출 걱정 없이 즉시 실무에 투입할 수 있습니다.
• 바이두 어니봇 생태계 연동: 승인된 설정에 따라 바이두 문심조수(yiyan.baidu.com) 등 웹 인터페이스 환경에서도 사내 에이전트를 호출하여 업무에 활용할 수 있습니다.

플랫폼 비교: 원신 AgentBuilder vs 바이두 첸판(Qianfan) 플랫폼

바이두 AI 생태계 내에서 솔루션을 검토할 때 AgentBuilder와 바이두 스마트 클라우드의 첸판(Qianfan) 플랫폼(cloud.baidu.com/product/qianfan.html)의 특성을 비교 분석하는 것이 도움이 됩니다.

부서 단위의 규정 검색 및 사내 FAQ 자동화 목적이라면, 개발 리소스 투입 없이 신속하게 검증하고 적용할 수 있는 AgentBuilder가 가장 실용적인 선택지입니다.

지속적인 지식 유지관리를 위한 권장 사항

1. 단일 진실 공급원(Single Source of Truth) 유지: 규정이 변경되면 지식베이스 내의 기존 파일을 최신 파일로 즉시 갱신하고, 만료된 문서는 즉시 삭제하여 데이터 충돌을 방지합니다.
2. 미검색 질의 로그 분석: 에이전트의 대화 이력을 정기적으로 검토하여 '문서 미수록'으로 안내된 반복 질문들을 취합하고, 이를 FAQ 표에 새로운 질의응답 쌍으로 업데이트합니다.
3. 매뉴얼과 표의 역할 분담: 제도의 배경이나 전반적인 가이드는 서술형 매뉴얼로 등록하고, 명확한 금액 수치나 승인 담당자 정보는 엑셀 FAQ 표로 분리하여 검색 정밀도와 깊이를 동시에 확보합니다.

바이두 원신 에이전트 플랫폼을 활용한 맞춤형 지식 어시스턴트는 임직원의 불필요한 문의 대응 시간을 획기적으로 줄이고, 사내 규정에 기반한 일관된 업무 수행 환경을 보장합니다.

참고 자료

• 文心智能体平台AgentBuilder | 想象即现实
• 文心智能体平台-文档中心
• 百度文心助手 - 办公学习一站解决
• 千帆大模型平台-百度智能云