기업 부서 리더가 맞춤형 Glean Assistant를 안전하게 구축하고 배포하는 방법

엔터프라이즈 기업의 실무 조직에서는 사내에 이미 존재하는 정보와 문서를 찾는 데 매달 수천 시간의 업무 공수가 낭비됩니다. 고객 지원 엔지니어는 반복되는 시스템 오류를 해결하기 위해 종결된 Jira 티켓과 Slack 채널을 일일이 뒤적이고, 영업 담당자는 특별 할인 승인 내역을 확인하고자 Google Drive와 Salesforce 노트를 오가며, 인사팀은 육아휴직 정책이나 재택근무 지원금에 대한 동일한 질문에 하루에도 수차례씩 답변합니다.

많은 부서 책임자들은 사내 챗봇을 자체 개발하거나 범용 AI 어시스턴트를 도입하여 이러한 병목을 해소하려 시도했습니다. 하지만 대부분의 프로젝트는 정보보안 및 컴플라이언스 부서의 엄격한 검토 앞에서 가로막힙니다. "일반 직원이 AI에게 질문하여 임원 급여나 기밀 인사평가를 유출해 내지는 않는가?", "민감한 고객 데이터가 외부 대형 언어 모델(LLM)로 전송되어 재학습에 쓰이지 않는가?", "자동화된 워크플로가 핵심 비즈니스 시스템에서 무단으로 데이터를 수정하거나 실행하는 사고는 어떻게 막을 것인가?"와 같은 질문에 명확한 답을 내놓기 어렵기 때문입니다.

Glean은 275개 이상의 엔터프라이즈 SaaS 커넥터와 '권한 우선(Permissions-First)' 기반의 고유 아키텍처를 결합하여 이 딜레마를 해결합니다. 엔지니어링 조직이 별도의 검색 증강 생성(RAG) 파이프라인을 구축하지 않아도, 부서 리더는 자연어 설정만으로 부서 맞춤형 Glean Assistant 및 Agent를 구축하고, 업무 지식 범위를 정밀하게 지정하며, 원본 시스템의 접근 제어 목록(ACL)을 실시간으로 완벽하게 준수하면서 복잡한 다단계 워크플로를 안전하게 자동화할 수 있습니다.

본 가이드에서는 엔터프라이즈 부서 리더가 보안 기준을 충족하며 커스텀 Glean Assistant를 기획, 구축, 보호, 확산하기 위한 실무 로드맵을 제시합니다.

1. 핵심 아키텍처: Glean Assistant가 엔터프라이즈 환경에서 안전한 이유

일반적인 생성형 AI 챗봇은 기업 내부 문서를 단일한 대규모 벡터 데이터베이스로 취급합니다. 일단 문서가 조각(Chunk)으로 나뉘어 임베딩되면, 질문을 던지는 실무자가 원본 문서에 대한 실제 열람 권한을 보유하고 있는지 여부를 LLM 애플리케이션 단계에서 정밀하게 판별하기 어렵습니다.

반면 Glean은 네 가지 차별화된 기술 기반 위에서 동작합니다:

1. 네이티브 ACL 권한 상속(ACL Inheritance): Glean은 기업의 단일 로그인 ID 제공업체(Okta, Microsoft Entra ID, Google Workspace) 및 원본 애플리케이션(Salesforce, Jira, Confluence, SharePoint, ServiceNow, GitHub, Zendesk, Slack)과 직접 연동되어 권한 구조를 실시간으로 미러링합니다. Assistant가 생성하는 모든 답변은 질문을 한 사용자가 원본 도구에서 직접 읽을 수 있는 권한을 가진 데이터만을 기반으로 검색되고 합성됩니다.
2. 엔터프라이즈 지식 그래프(Enterprise Graph): 단순한 키워드 일치나 벡터 유사도 검색을 넘어, 사내 조직도, 담당자 간의 협업 관계, 프로젝트 맥락, 문서의 갱신 주기 등을 종합 분석하여 업무 맥락을 정확하게 파악합니다.
3. 멀티 LLM 지능형 라우팅(Glean Intelligence): 질의의 복잡도와 의도에 따라 Claude 3.5 Sonnet, GPT-4o, Gemini 1.5 Pro 등 최적의 모델로 요청을 자동 분기하며, AWS Bedrock, Azure OpenAI, GCP Vertex AI를 통해 기업이 자체 호스팅하는 프라이빗 모델 엔드포인트 연동도 지원합니다.
4. 싱글 테넌트 격리 및 데이터 무보존 정책: 모든 데이터 처리는 격리된 단일 테넌트 가상 프라이빗 클라우드(VPC) 또는 고객 관리형 환경 내에서 수행됩니다. 엄격한 엔터프라이즈 계약에 따라 기반 모델 제공사는 고객의 쿼리를 저장하거나 자사 모델 학습 데이터로 활용할 수 없습니다.

2. 부서별 핵심 활용 사례와 투자 대비 효과(ROI)

어시스턴트 제작을 시작하기 전, 부서 책임자는 질의 빈도가 높고, 지식이 여러 도구에 분산되어 있으며, 정보 확인 후 즉각적인 후속 작업이 이어지는 업무 프로세스를 우선 선정해야 합니다:

3. 단계별 구축 가이드: 맞춤형 Glean Assistant 만들기

Glean에서 어시스턴트를 제작하는 데 별도의 코딩은 필요하지 않습니다. 부서 리더나 지정된 운영자는 대화형 설정 마법사를 통해 완성할 수 있습니다:

1단계: 역할, 목표, 응답 페르소나 정의

Glean Apps / Agents 메뉴에서 신규 어시스턴트를 생성하고 시스템 프롬프트(System Prompt)를 작성합니다:

• 역할 및 대상 사용자 지정: 어시스턴트의 담당 영역을 명확히 합니다(예: "당신은 기업 고객 대상 2차 기술 지원 전담 어시스턴트입니다").
• 답변 형식 및 정확도 기준: 출력 규칙을 정의합니다(예: "단계별 점검 목록으로 답변하고 공식 매뉴얼 URL 링크를 반드시 제시하십시오. 제품의 근본 결함으로 판단될 경우 엔지니어링 에스컬레이션이 필요하다고 명시하십시오").
• 부정적 가드레일(Negative Guardrails): 수행해서는 안 되는 작업을 규정합니다(예: "공식 발표되지 않은 기능 출시 일정을 추측하지 말고, 임직원 연봉 관련 문의에는 일절 답변하지 마십시오").

2단계: 참조할 지식 소스 범위 한정

전사 검색 어시스턴트와 달리, 특정 업무용 어시스턴트는 신뢰할 수 있는 데이터 소스로 범위를 좁혔을 때 가장 정확한 성능을 발휘합니다:

• 컬렉션(Collections) 구성: 팀 내에서 검증된 공식 매뉴얼, 고객 응대 표준운영절차(SOP) 문서를 별도 컬렉션으로 묶어 최우선 참조하도록 지정합니다.
• 애플리케이션 및 폴더 필터링: 특정 Confluence 공간, Jira 프로젝트, Google Drive 폴더, 공개 Slack 채널로 탐색 범위를 제한하여 불필요한 노이즈와 모델 환각을 방지합니다.
• 최신성 우선 원칙: 여러 문서 간 내용이 상충할 경우 가장 최근에 업데이트된 문서를 우선 신뢰하도록 프롬프트를 지정합니다.

3단계: 액션 도구 연동 및 실행 승인 제어

단순 질의응답을 넘어 실무 작업을 완결하려면 외부 시스템 액션이 필요합니다. Glean Actions와 기본 커넥터를 연동하여 실행 도구를 연결합니다:

• 조회 액션: Salesforce 영업 기회 단계, ServiceNow 인시던트 현황 실시간 조회.
• 쓰기 액션: Jira 버그 티켓 등록, 고객 후속 이메일 초안 작성, CRM 노트 자동 기재.
• 실행 권한 정책('항상 허용' vs '승인 필요'): 단순 데이터 조회는 *항상 허용(Always Allow)*으로 설정합니다. 반면 티켓 생성, 데이터 수정, 공지 발송 등 비즈니스 환경에 영향을 미치는 쓰기 작업은 반드시 *승인 필요(Needs Approval)*로 지정합니다. 이 경우 어시스턴트가 실행 전 미리보기 카드를 띄우고, 사용자가 직접 확인 버튼을 눌러야만 실제 시스템 반영이 이루어집니다.

4단계: 샌드박스 환경에서의 철저한 검증

사내 조직에 공식 배포하기 전, 샌드박스에서 한계 테스트를 진행합니다:

• 권한 분리 테스트: 서로 다른 권한을 가진 계정(예: 인턴 사원 vs 부서장 계정)으로 동일한 질문을 입력하여, 권한이 없는 계정에는 기밀 정보가 절대 노출되지 않는지 확인합니다.
• 정보 충돌 테스트: 서로 모순되는 이전 규정 문서를 대상으로 질문하여, 어시스턴트가 자의적으로 추측하지 않고 차이점을 사용자에게 지적하는지 확인합니다.
• 프롬프트 주입 공격 방어: 어시스턴트의 규칙을 무력화하려는 악의적 프롬프트를 입력합니다. Glean Protect는 런타임에서 96.9%의 정확도로 프롬프트 주입 시도를 탐지하고 차단합니다.

4. 엔터프라이즈 보안 및 거버넌스: AWARE 프레임워크와 Glean Protect

기업 전반으로 AI 어시스턴트를 확산하려면 최고정보보안책임자(CISO)와 보안 조직의 확신이 필요합니다. Glean은 Databricks 및 Palo Alto Networks Unit 42와 공동 개발한 AWARE 보안 거버넌스 프레임워크를 제품에 반영하여 Glean Protect를 통해 제공합니다:

1. 행위자 의도 검증 (Actor Intent)

모든 어시스턴트 질의는 기업 SSO(SAML/SCIM)를 통해 인증됩니다. Glean은 사용자 신원과 에이전트 신원을 엄격히 구분합니다:

• 사용자 신원(User Identity): 어시스턴트는 질문한 사용자의 개인 접근 권한을 엄격히 계승하여, AI를 통한 무단 권한 상승을 원천 차단합니다.
• 에이전트 신원(Agent Identity): 백그라운드에서 Slack이나 Jira 간에 비동기 작업을 수행하는 독립 에이전트에는 명확히 제한된 서비스 계정과 별도 감사 권한을 부여합니다.

2. 업무 맥락 보호 (Work Context)

사내 인트라넷에 잘못 공유된 문서로 인한 유출 사고를 방지하기 위해 다층 보호를 제공합니다:

• 민감 콘텐츠 정책(Sensitive Content Policies): 개인 식별 정보(PII), 결제 계좌, API 인증키 등이 전체 공개로 잘못 설정된 경우 이를 자동 감지하여 검색 결과에서 숨깁니다.
• 제한된 주제 정책(Restricted Topics Policies): 부서장은 자연어로 금지 주제를 설정할 수 있습니다(예: "직원 개인 고과 평가, 미공개 급여 테이블, 소송 중인 법적 분쟁 관련 문의 차단").
• 트리아지 워크플로: 보안 관리자는 감지된 민감 파일 노출 사례를 검토하고 클릭 한 번으로 숨김 처리하거나, Tines 및 Splunk 같은 SIEM/SOAR 도구와 연계하여 원천 조치할 수 있습니다.

3. 자율 가드레일 (Autonomous Guardrails)

다단계 워크플로를 수행하는 에이전트가 초기 목적에서 벗어나지 않도록 정렬 모델(Alignment Model)이 쓰기 작업 직전에 개입하여 원래 사용자 지시와의 일치 여부를 검증합니다.

4. 실시간 위험 평가 및 위협 차단 (Real-Time Risk Scoring)

외부 웹 크롤링 데이터, 수신 이메일, 문서에 숨겨진 간접 프롬프트 주입(Indirect Prompt Injection) 공격을 실시간으로 감지하고 차단합니다.

5. 에코시스템 가시성 (Ecosystem Observability)

모든 질의, 인용 문서, 호출된 도구, 생성 결과는 위변조가 불가능한 감사 로그에 기록되며, 사내 SIEM 플랫폼으로 실시간 스트리밍할 수 있습니다. 이를 통해 SOC 2 Type II, ISO 27001, ISO 42001(세계 최초 AI 경영시스템 인증), HIPAA, GDPR 요구사항을 완벽히 충족합니다.

5. 단계적 배포 및 조직 변화 관리

어시스턴트의 성공적인 안착을 위해서는 단계적인 롤아웃 전략이 필수적입니다:

[1단계: 파일럿 검증]
  └── 부서 리더 + 핵심 실무자 5~10명 참여
  └── 시스템 프롬프트 미세 조정, 공식 Collections 구축, ACL 격리 검증
        │
        ▼
[2단계: 부서 전체 확산]
  └── Glean App Library를 통해 부서 권한 그룹에 배포
  └── 일상 업무 채널(Slack, Teams, 브라우저 확장 프로그램)에 어시스턴트 연동
  └── '승인 필요' 액션의 처리 현황 및 사용자 피드백 모니터링
        │
        ▼
[3단계: 타 부서 연계 및 지속 개선]
  └── 관리 콘솔에서 질의 빈도, 답변 실패 영역(지식 갭), 티켓 감축률 분석
  └── 원본 문서 보강 및 추가 업무 시스템 액션 연동

부서 리더를 위한 실무 권고사항

1. '정확한 검색'에서 시작하여 '자동화 액션'으로 확장하십시오: 초기에는 규정집이나 기술 문서의 질의응답 어시스턴트로 신뢰를 확보한 후, 티켓 자동 생성과 같은 쓰기 액션을 점진적으로 개방하십시오.
2. 별도 웹사이트가 아닌 일상 협업 도구에 배치하십시오: 직원들에게 낯선 포털 사이트 접속을 강요하지 마십시오. Glean의 Chat API를 활용해 평소 사용하는 Slack 채널이나 Teams 대화방에 어시스턴트를 바로 투입해야 사용률이 극대화됩니다.
3. 지식 관리 전담자를 지정하십시오: Glean 대시보드에서 '답변을 찾지 못한 질의(Knowledge Gaps)' 통계를 주기적으로 검토하십시오. 어시스턴트가 답변하지 못하는 질문은 사내 매뉴얼 자체가 누락되어 있다는 중요한 신호이므로, 담당 팀에 즉각 문서 작성을 요청해야 합니다.

6. 전략적 제언: 다른 대안과 비교했을 때 Glean을 선택해야 하는 이유

엔터프라이즈 AI 어시스턴트 도입을 검토할 때 기업은 통상 세 가지 경로를 마주합니다:

1. 단일 생태계 종속형 코파일럿(예: Microsoft 365 Copilot): M365 제품군 내에서는 우수하지만, Jira, Salesforce, ServiceNow, GitHub, Zendesk 등 이기종 외부 시스템을 포괄적으로 연동하려면 막대한 추가 개발과 권한 동기화 문제가 발생합니다.
2. 오픈소스 기반 자체 RAG 구축(LangChain / LlamaIndex / 벡터 DB): 설계의 자유도는 높으나, 데이터 파이프라인 관리, 벡터 갱신 유지보수, 그리고 무엇보다 실시간 ACL 동기화 구현이 불가능에 가까워 보안 감사에서 반려되는 사례가 대다수입니다.
3. Glean 통합 플랫폼 및 맞춤형 Assistant: 275개 이상의 엔터프라이즈 시스템과 즉시 연결되며, 노코드 구축, 멀티 LLM 자동 라우팅, ISO 42001 및 AWARE 기반의 최고 수준 보안 체계를 기본 제공합니다.

사내 지식 검색에 낭비되는 팀의 공수를 신속히 절감하면서도 기업의 데이터 보안 기준을 완벽하게 지켜내고자 하는 부서 리더에게, Glean은 가장 신뢰할 수 있고 안전하며 효과적인 해답입니다.

참고 자료

• Build Custom Generative AI Apps & Agents for Enterprise
• Enterprise AI Assistant for Work | Glean
• AI Security: Protecting Enterprise Data with Glean
• How to Deploy AI Agents With Confidence: Introducing AWARE and New Glean Protect Capabilities