Salesforce 관리자가 Agentforce에서 토픽, 액션 및 가드레일을 구성하는 방법

Salesforce 관리자는 Agentforce Builder 내에서 구조화된 운영 도메인, 실행 가능한 비즈니스 도구 및 다층 거버넌스 제어를 설정하여 Agentforce에서 자율 에이전트(autonomous agents)를 구성합니다. 결정론적 의사결정 트리를 따르는 기존의 규칙 기반 챗봇과 달리, Agentforce는 Atlas Reasoning Engine을 기반으로 사용자 의도를 동적으로 해석하고 실행 계획을 수립하며 작업을 자율적으로 수행합니다. 이러한 자율 에이전트가 엔터프라이즈 경계 내에서 안정적이고 안전하게 작동하도록 보장하기 위해 관리자는 세 가지 기본 구성 요소를 구성해야 합니다. 즉, 작업을 분류하고 범위를 정의하는 토픽(topics), 비즈니스 로직을 실행하는 액션(actions), 그리고 행동 제약 조건, 데이터 프라이버시 및 상담원 에스컬레이션 경로를 적용하는 가드레일(guardrails)입니다.

아키텍처 기반: Atlas Reasoning Engine

자율 에이전트를 효과적으로 구성하려면 관리자는 Agentforce가 사용자 상호 작용을 처리하는 방식을 이해해야 합니다. Agentforce의 핵심에는 지속적인 '추론-실행-관찰(reason-act-observe)' 루프를 통해 에이전트 행동을 조정하는 Atlas Reasoning Engine이 있습니다.

• 의도 분류(Intent Classification): 최종 사용자가 문의를 제출하면 Atlas는 에이전트에 할당된 모든 활성 토픽의 분류 설명을 기준으로 메시지를 평가합니다.
• 컨텍스트 구성(Context Assembly): 토픽이 선택되면 Atlas는 해당 토픽의 자연어 지침, 사용 가능한 액션, 대화 기록 및 Salesforce CRM 또는 Data Cloud를 통해 검색된 관련 고객 데이터를 가져옵니다.
• 계획 수립(Plan Formulation): 추론 엔진은 사용자의 요청을 충족하는 데 필요한 액션(있는 경우)을 평가하고 대화에서 추출해야 하는 필수 매개변수를 결정합니다.
• 액션 실행 및 관찰(Action Execution and Observation): 에이전트는 재고 레코드 쿼리나 서비스 케이스 상태 업데이트와 같은 선택된 액션을 실행하고 반환된 결과를 관찰합니다. 추가 단계가 필요한 경우 엔진은 목표가 달성되거나 에스컬레이션 경계가 트리거될 때까지 추론을 계속합니다.

Atlas는 스크립트 기반 대화 트리를 따르는 대신 동적으로 추론하므로 관리자가 정적 분기 경로를 구축할 필요가 없습니다. 대신 관리자는 경계, 도구 및 목표를 정의하여 엔진이 해결을 위한 최적의 경로를 자율적으로 탐색하도록 합니다.

1단계: Agentforce Builder에서 토픽(Topics) 구성

토픽은 에이전트의 주요 기능 도메인 역할을 합니다. 토픽은 관련 기능을 그룹화하고 컨텍스트를 제공하며 에이전트가 작동하도록 승인된 경계를 정의합니다.

Builder 접근 및 토픽 생성

1. Salesforce 설정(Setup) 에서 빠른 찾기(Quick Find) 상자를 사용하여 Agentforce Agents(릴리스 구성에 따라 Einstein Agents)로 이동합니다.
2. 목록에서 원하는 에이전트를 선택하고 Open in Builder를 클릭합니다.
3. Agentforce Builder의 왼쪽 탐색 패널에서 Topics 탭을 선택합니다.
4. New Topic을 클릭하여 사용자 지정 토픽을 처음부터 만들거나 표준 사전 구성 도메인 템플릿(Order Management, Billing Inquiries, Case Escalation 등) 중에서 선택합니다.

토픽 메타데이터 및 분류 범위 정의

각 토픽에는 Atlas Reasoning Engine이 인입 프롬프트를 라우팅하는 방식에 직접적인 영향을 미치는 세 가지 중요한 구성 필드가 필요합니다.

• 토픽 이름(Topic Name): 비즈니스 기능을 식별하는 명확하고 설명적인 레이블(예: Billing_and_Invoices 또는 Appointment_Scheduling).
• 분류 설명(Classification Description): 어떤 사용자 의도, 쿼리 및 요청이 이 토픽에 해당하는지 설명하는 세부적인 의미론적 설명입니다. Atlas는 의도 유사성을 계산할 때 이 설명에 크게 의존합니다. 예를 들어 "청구 관련 질문"과 같은 단순한 레이블 대신 다음과 같이 작성합니다: "고객 인보이스, 청구 내역, 결제 수단, 영수증 요청, 요금 분쟁 및 구독 갱신 수수료에 관한 문의를 처리합니다."
• 범위(Scope): 에이전트가 이 도메인 내에서 해결할 수 있는 사항과 해결할 수 없는 사항을 간결하게 요약한 것입니다. 이는 모델이 추론을 시작할 때 즉각적인 컨텍스트 경계 역할을 합니다.

토픽 수준 지침(Instructions) 작성

토픽 지침은 토픽이 활성화된 후 에이전트가 따라야 하는 구체적인 행동 가이드라인과 절차적 단계를 제공합니다. 관리자는 명확하고 명령형인 자연어로 지침을 작성해야 합니다.

• 순차적 안내(Sequential Guidance): 표준 운영 순서를 설명합니다(예: "1. 고객에게 주문 ID(Order ID)를 묻습니다. 2. 주문 ID가 기존 레코드와 일치하는지 확인합니다. 3. 배송 상태를 조회하고 배송 일정을 요약합니다.").
• 조건부 로직(Conditional Logic): 특정 시나리오에 대한 처리 규칙을 정의합니다(예: "주문 상태가 '배송 완료'이지만 고객이 패키지를 받지 못했다고 진술하는 경우 분실 패키지 에스컬레이션 플로우를 시작합니다.").
• 스타일 및 톤 지침(Style and Tone Directives): 커뮤니케이션 선호 사항을 지정합니다(예: "간결하고 전문적인 답변을 제공합니다. 청구서 항목을 설명할 때 기술 전문 용어를 피합니다.").

관리자는 집중된 설계를 목표로 해야 합니다. 일반적으로 에이전트당 10~15개의 개별 토픽을 유지하고 분류 설명 간의 의미론적 중복을 최소화하여 엔진이 결정을 망설이거나 요청을 잘못 분류하지 않도록 해야 합니다.

2단계: 액션(Actions) 연결 및 구성

액션은 에이전트가 정보를 검색하고, 레코드를 생성 또는 업데이트하며, 외부 비즈니스 로직을 실행하기 위해 호출하는 기능적 도구입니다. 액션이 없으면 에이전트는 대화만 할 수 있지만, 액션이 있으면 실제 작업을 수행할 수 있습니다.

관리자가 사용할 수 있는 액션 유형

관리자는 토픽에 여러 유형의 액션을 연결할 수 있습니다.

액션 매개변수 및 메타데이터 구성

토픽에 액션을 추가할 때 관리자는 정확한 자연어 설명을 통해 매개변수 정의를 구성해야 합니다.

1. 액션 선택: 토픽 세부 정보 보기에서 Add Action을 클릭하고 대상 Flow, Apex 메서드, 프롬프트 템플릿 또는 외부 서비스를 검색합니다.
2. 액션 설명 정의: 액션이 수행하는 작업과 호출 시점에 대한 명확한 설명을 제공합니다. Atlas는 이 설명을 읽고 해당 액션이 현재 추론 계획 단계에 적합한지 판단합니다.
3. 입력 매개변수 매핑: 각 필수 입력 매개변수(caseId, customerId, billingZipCode 등)에 대해 에이전트가 진행 중인 대화 컨텍스트에서 값을 추출할지, 사용자에게 직접 요청할지, 아니면 정적 시스템 변수를 전달할지 지정합니다.
4. 출력 처리 정의: 에이전트가 액션의 반환 값을 처리하는 방식을 구성합니다. 출력을 종합된 메시지로 사용자에게 직접 반환할지, 아니면 후속 액션을 위한 컨텍스트로 추론 루프에 다시 전달할지 지정합니다.
5. 확인 요구(상태 변경 작업): 결제 처리, 계약 취소, 예약된 서비스 약정 삭제와 같은 민감하거나 되돌릴 수 없는 작업의 경우 관리자는 확인 요구 사항을 활성화하여 에이전트가 액션을 실행하기 전에 사용자에게 명시적으로 확인을 요청하도록 강제할 수 있습니다.

3단계: 다층 가드레일(Guardrails) 구현

자율 에이전트에는 환각, 데이터 유출, 정책 위반 및 무단 데이터 수정을 방지하기 위한 견고한 거버넌스가 필요합니다. 관리자는 대화 지침, 결정론적 로직, 액세스 권한, 플랫폼 신뢰 제어의 4가지 고유한 계층에 걸쳐 가드레일을 구현합니다.

1. 자연어 지침을 통한 대화형 가드레일

첫 번째 방어선은 토픽 지침 내에 부정적 제약 조건을 명시적으로 기술하는 것입니다. 관리자는 지침을 직원에게 제공되는 표준 운영 절차(SOP)처럼 다루어야 합니다.

• 명시적 금지 사항: 에이전트가 절대 수행해서는 안 되는 작업을 명확히 명시합니다(예: "감독자의 승인 없이 50달러를 초과하는 크레딧이나 환불을 약속하지 마십시오.").
• 개인정보 보호: 민감한 고객 입력 처리에 대해 에이전트에게 지시합니다(예: "고객에게 전체 신용카드 번호, 은행 계좌 정보 또는 정부 발행 신분증 번호를 요구하지 마십시오. 고객이 이러한 정보를 자발적으로 제공하더라도 대화 중에 이를 반복하지 마십시오.").
• 원활한 에스컬레이션 트리거: 에이전트가 처리를 중단하고 Omni-Channel을 통해 상담원에게 고객을 인계해야 하는 정확한 기준을 지정합니다(예: "사용자가 법적 조치를 언급하거나 관리자와의 대화를 두 번 요청하거나 모욕적인 언어를 사용하는 경우 즉시 Transfer to Agent 액션을 호출하십시오.").

2. 결정론적 로직 가드레일

대규모 언어 모델(LLM)은 대화의 뉘앙스를 이해하는 데 뛰어나지만 미션 크리티컬한 계산과 결정론적 비즈니스 규칙은 생성형 추정에 맡겨서는 안 됩니다. 관리자는 중요한 로직을 결정론적 코드로 이동하여 엄격한 경계를 적용해야 합니다.

• 계산 및 유효성 검사에 Flows 및 Apex 사용: 고객 생애 가치에 따라 할인이 엄격한 계층을 따라야 하는 경우 해당 계산을 자동 실행 플로우(Autolaunched Flow) 또는 Apex 메서드 내에 캡슐화합니다. 에이전트가 생성형 방식으로 할인을 계산하도록 하지 말고 해당 액션을 호출하도록 합니다.
• 출력 유효성 검사: 레코드가 데이터베이스에 커밋되기 전에 유효성 검사 규칙 및 플로우 결정 요소를 사용하여 유효하지 않은 입력 매개변수를 거부합니다.

3. 권한 및 액세스 제어 가드레일

Agentforce 에이전트는 특정 실행 컨텍스트 내에서 액션을 실행합니다. 관리자는 에이전트의 신원에 대해 최소 권한 원칙을 적용해야 합니다.

• 전용 에이전트 사용자 및 프로필: 모든 에이전트는 전용 Salesforce 사용자 레코드에서 작동합니다. 관리자는 해당 에이전트의 운영 범위에만 맞춤화된 전용 Profile 및 Permission Set을 생성해야 합니다.
• 객체 수준 및 필드 수준 보안(FLS): 에이전트의 권한 집합이 할당된 토픽에 필요한 특정 표준 및 사용자 지정 객체에 대해서만 Read 또는 Edit 액세스 권한을 부여하는지 확인합니다. Modify All Data 또는 광범위한 관리자 권한을 부여해서는 안 됩니다.
• 공유 규칙(Sharing Rules): 에이전트 사용자가 조직 전체 기본값(OWD) 및 역할 기반 공유 규칙을 준수하여 승인된 영역이나 부서 외부의 고객 레코드를 검색할 수 없도록 확인합니다.

4. 플랫폼 수준 가드레일: Einstein Trust Layer

Agentforce는 Salesforce의 Einstein Trust Layer 위에서 작동하여 최소한의 관리 구성으로 기본 제공 보안 기능을 제공합니다.

• 데이터 무보존(Zero-Data Retention): Einstein Trust Layer는 서드파티 파운데이션 모델이 프롬프트로 전송된 엔터프라이즈 고객 데이터를 보존하거나 이를 기반으로 학습하지 않도록 보장합니다.
• 자동 데이터 마스킹: 주민등록번호, 이메일 주소, 전화번호와 같은 개인식별정보(PII)는 프롬프트가 Salesforce 신뢰 경계를 벗어나기 전에 자동으로 감지되어 마스킹됩니다.
• 유해성 및 프롬프트 인젝션 방어: 유입되는 사용자 입력과 생성된 모델 출력은 유해한 언어, 혐오 발언 및 에이전트 지침을 가로채려는 프롬프트 인젝션 공격에 대해 검사됩니다.
• 감사 내역 및 관찰 가능성: 검색된 그라운딩 데이터, 전송된 프롬프트, 모델의 중간 추론 및 최종 응답을 포함한 모든 상호 작용은 규정 준수 및 거버넌스 검토를 위해 Data Cloud 감사 레코드에 기록됩니다.

4단계: 테스트, 관찰 가능성 및 개선

에이전트를 실제 고객 또는 내부 채널에 배포하기 전에 관리자는 추론 경로를 검증하고 지침을 개선해야 합니다.

대화 미리보기 패널 사용

Agentforce Builder에는 관리자가 실시간으로 대화를 시뮬레이션할 수 있는 대화형 Preview 패널이 포함되어 있습니다.

1. '정상 경로(Happy Path)' 테스트: 표준 사용자 문의를 입력하여 에이전트가 의도를 올바르게 분류하고 적절한 토픽을 선택하며 해당 액션을 호출하는지 확인합니다.
2. 추론 추적 검사: 미리보기 창에서 추론 요약을 클릭하여 에이전트의 내부 사고 과정을 검토합니다. 어떤 토픽이 선택되었는지, 어떤 지침이 응답에 영향을 미쳤는지, 호출된 액션에 어떤 입력 매개변수가 전달되었는지 검사합니다.
3. 엣지 케이스 및 가드레일 테스트: 범위를 벗어난 쿼리, 모호한 요청 및 적대적 프롬프트(예: 에이전트에게 지침을 무시하도록 요청하거나 내부 시스템 구성 공개를 요구)를 의도적으로 제출합니다. 에이전트가 범위 내에 유지되고 회사 정책을 적절히 인용하거나 상담원에게 에스컬레이션하는지 확인합니다.

프로덕션 환경 배포 및 모니터링

구성 및 샌드박스 테스트가 완료되면 다음을 수행합니다.

• 채널 활성화: 에이전트를 활성화하고 Salesforce Service Cloud Messaging, Experience Cloud 사이트, 모바일 앱 또는 내부 Slack 워크스페이스와 같은 배포 채널에 할당합니다.
• Agentforce Command Center: 편향률(자체 해결률), 토픽 분포, 액션 성공률, 에스컬레이션 빈도 등의 실시간 성능 지표를 모니터링합니다.
• 지속적인 프롬프트 튜닝: 에이전트가 조기에 에스컬레이션했거나 의도를 잘못 분류한 세션 로그를 검토합니다. 토픽 분류 설명을 개선하고 명확한 부정적 지침을 추가하여 시간이 지남에 따라 모호성을 제거합니다.

세분화된 토픽을 체계적으로 정의하고, 강력한 호출 가능 액션을 부여하며, 다층 가드레일로 보호함으로써 Salesforce 관리자는 생성형 모델을 신뢰할 수 있는 자율 디지털 동료로 전환하여 기업 표준을 보호하면서 조직의 효율성을 높일 수 있습니다.