Atlas 추론 엔진이 작동하는 방식 Agentforce

AI, 특히 제너레이티브 AI의 혁신 속도는 매우 빠른 속도로 계속되고 있습니다. 현재 이용 가능한 기술적 정교함으로 인해 업계는 보조적인 대화 자동화에서 인력을 보강하는 역할 기반 자동화로 빠르게 진화하고 있습니다. 인공지능(AI)이 인간 수준의 성능을 모방하기 위해서는 인간이 작업을 가장 효과적으로 완수할 수 있는 요소인 에이전시를 이해하는 것이 중요합니다. 인간은 데이터를 받아들이고, 가능한 경로를 추론하고, 행동을 취할 수 있습니다. 인공지능에 이러한 종류의 에이전시를 장착하려면 매우 높은 수준의 지능과 의사 결정이 필요합니다.

Salesforce에서는 대규모 언어 모델(LLM)과 추론 기술의 최신 발전을 활용하여 을 Agentforce 출시했습니다. Agentforce 는 전문화된 작업을 실행하도록 설계된 자율적이고 능동적인 애플리케이션인 즉시 사용 가능한 AI 에이전트와 이를 구축 및 사용자 지정할 수 있는 도구 세트로 구성되어 있습니다. 이러한 자율 AI 에이전트는 고도로 정교하게 사고하고, 추론하고, 계획하고, 조율할 수 있습니다. Agentforce 는 고객 서비스, 영업, 마케팅, 커머스 등을 위한 AI 자동화의 비약적인 도약을 의미합니다.

이 문서에서는 Salesforce AI Research에서 인큐베이팅한 Agentforce 의 두뇌이자 지능적이고 자율적으로 작업을 조율하여 기업에 엔터프라이즈급 상담원 솔루션을 제공하는 Atlas Reasoning Engine의 혁신에 대해 조명합니다.

올해 초에는 Einstein Copilot 을 출시했으며, 현재는 고객 관계 관리 (CRM)를 위한 Agentforce 에이전트로 발전했습니다. Einstein Copilot 는 생각의 연쇄 추론 (CoT)이라는 메커니즘에서 지능을 도출하는 생성형 AI 기반 대화형 어시스턴트입니다. 이 메커니즘에서 AI 시스템은 목표를 달성하기 위한 일련의 단계가 포함된 계획을 생성하여 인간 스타일의 의사 결정을 모방합니다.

CoT 기반 추론을 사용하면 Einstein Copilot 작업의 흐름에서 공동 창작 및 공동 작업을 할 수 있습니다. 덕분에 기존 봇에 비해 상당히 발전했지만, 인간과 같은 지능을 모방하기에는 부족했습니다. 작업에 대응하는 일련의 작업이 포함된 계획을 생성한 다음 해당 작업을 하나씩 실행했습니다. 그러나 계획이 잘못된 경우 사용자에게 리디렉션을 요청할 수 있는 방법이 없었습니다. 이로 인해 적응력이 떨어지는 AI 환경으로 이어졌습니다: 대화가 진행됨에 따라 사용자가 새롭고 유용한 정보를 제공하지 못했습니다.

자체 영업 조직(조직 62)의 수천 명의 셀러를 대상으로 Einstein Copilot 을 엄격하게 테스트한 결과 몇 가지 패턴이 나타났습니다:

• 예상대로 Copilot의 자연어 대화 경험은 기존 봇보다 훨씬 뛰어났지만, 아직 인간과 같은 성배를 달성하지는 못했습니다. 더 많은 대화가 필요했습니다.
• Copilot은 설정된 작업으로 사용자 목표를 훌륭하게 달성했지만 대화에 이미 존재하는 정보에 대한 후속 문의는 처리하지 못했습니다. 더 많은 사용자 쿼리에 응답하기 위해 컨텍스트를 더 잘 활용해야 했습니다.
• 더 많은 사용 사례를 자동화하기 위해 더 많은 작업을 추가함에 따라 지연 시간(응답에 걸리는 시간)과 응답 품질 측면에서 Copilot의 성능이 저하되기 시작했습니다. 이를 활용할 수 있는 수천 개의 사용 사례와 애플리케이션으로 효과적으로 확장해야 했습니다.

저희는 이러한 문제에 대한 해결책을 찾기 시작했고, 그 결과 Agentforce 이 탄생하게 되었습니다.

Agentforce 는 사람의 개입이 거의 또는 전혀 없이 대규모로 사전 예방적이고 지능적인 의사 결정을 내릴 수 있는 업계 최초의 엔터프라이즈급 대화 자동화 솔루션입니다. 몇 가지 발전이 이를 가능하게 했습니다.

• ReAct 프롬프트 기반 오케스트레이션과 CoT. 광범위한 실험과 테스트를 통해 추론 및 행동 (ReAct) 스타일의 프롬프트가 CoT 기법에 비해 훨씬 더 나은 결과를 가져온다는 사실이 밝혀졌습니다. ReAct 메커니즘에서 시스템은 사용자 목표가 달성될 때까지 추론, 행동, 관찰의 반복을 거칩니다. 이러한 종류의 반복적인 접근 방식을 통해 시스템은 새로운 정보를 고려하고 명확한 질문이나 확인을 통해 사용자의 목표를 최대한 정확하게 달성할 수 있습니다. 또한 훨씬 더 유동적이고 자연스러운 언어와 같은 대화 환경으로 이어집니다.
• 주제 분류. 토픽이라는 새로운 개념을 도입하여 사용자 의도 또는 수행해야 할 작업에 매핑합니다. 사용자 입력이 들어오면 해당 요청을 처리하기 위한 관련 지침, 비즈니스 정책 및 작업이 포함된 토픽에 매핑됩니다. 이 메커니즘은 작업의 범위와 LLM의 해당 솔루션 공간을 정의하여 시스템을 손쉽게 확장할 수 있도록 도와줍니다. 주제에 포함된 자연어 지침은 LLM에 대한 추가 지침과 가드레일을 제공합니다. 따라서 특정 순서대로 실행해야 하는 작업이 필요한 경우 자연어 주제 명령어가 될 수 있습니다. '최대 30일 무료 반품'과 같은 비즈니스 정책이 있는 경우 이를 지침으로 지정하여 LLM에 전달하면 이를 고려하여 그에 따라 사용자 상호 작용을 알릴 수 있습니다. 이러한 개념을 통해 상담원은 수천 개의 작업으로 안전하고 안전하게 확장할 수 있습니다.
• 응답에 LLM을 사용합니다. 이전에는 시스템이 작업 출력으로만 응답하도록 제한했기 때문에 대화에서 사용 가능한 정보를 기반으로 응답하는 데 심각한 제약이 있었습니다. 대화 기록의 컨텍스트를 사용하여 LLM이 응답할 수 있도록 시스템을 개방함으로써 훨씬 더 풍부한 대화 경험을 제공할 수 있게 되었습니다. 이제 사용자는 이전 결과물에 대한 설명을 요청하고 후속 질문을 할 수 있어 전반적으로 목표 달성률이 높아집니다.
• 생각/추론. LLM에게 생각을 공유하거나 특정 행동을 선택한 이유를 제시하도록 유도하면 환각을 크게 예방할 수 있습니다. 이는 관리자와 개발자가 필요에 따라 에이전트를 미세 조정할 수 있도록 LLM의 동작에 대한 가시성을 제공한다는 추가적인 이점이 있습니다. 추론은 기본적으로 상담원 빌더 캔버스에서 사용할 수 있으며, 사용자가 상담원에게 후속 질문을 하여 추론을 설명할 수 있도록 할 수도 있습니다. 이는 환각을 방지할 뿐만 아니라 신뢰를 구축하는 데 도움이 됩니다.

Atlas 추론 엔진( Agentforce )은 이 외에도 몇 가지 주목할 만한 특징이 있습니다.

• 선제적 조치. 사용자 입력은 상담원을 트리거하는 한 가지 방법입니다. 하지만 Agentforce 상담원은 사례 상태 업데이트, 브랜드에서 받은 이메일, 5분 후에 시작되는 회의 등 CRM 또는 비즈니스 프로세스 및 규칙에 대한 데이터 작업에 의해서도 트리거될 수 있습니다. 이러한 메커니즘은 상담원에게 다양하고 역동적인 비즈니스 환경에서 유용하고 배포 가능한 수준의 능동성을 제공하여 프런트 오피스와 백 오피스 모두로 그 활용도를 확장합니다.
• 동적 정보 검색. 대부분의 비즈니스 사용 사례는 정보를 검색하거나 조치를 취하는 것과 관련이 있습니다. 상담원에게 정적 정보를 제공하는 가장 일반적인 메커니즘 중 하나는 접지를 이용하는 것입니다. 그러나 상담원이 동적 정보를 활용할 수 있는 능력은 방대한 사용 사례와 애플리케이션의 잠재력을 열어줍니다.
  
  Agentforce 는 동적 정보를 활용할 수 있는 여러 메커니즘을 지원합니다. 첫 번째는 검색 증강 생성, 즉 RAG입니다. RAG를 통해 정형 및 비정형 데이터에 시맨틱 검색을 사용하여 Data Cloud 의 정형 및 비정형 데이터에 대한 시맨틱 검색을 사용하여 상담원은 외부 데이터 소스 및 데이터베이스에서 관련 정보를 검색할 수 있습니다.
  
  둘째, 웹 검색 및 지식 Q&A와 같은 일반적인 정보 검색 도구를 도입하여 복잡한 작업을 처리할 수 있는 상담원의 능력을 강화했습니다. 웹 검색을 통해 온라인에서 회사나 제품을 조사하고 이를 회사의 규칙 및 정책에 대한 내부 지식과 결합한 다음 연락처에 이메일 요약 형태로 조치를 취한다고 상상해 보세요. 여러 소스의 데이터를 결합하면 상담원이 훨씬 더 효과적이고 효율적으로 비즈니스 작업을 처리할 수 있습니다.
  
  마지막으로 상담원은 플로우, API 및 Apex 클래스에 배포할 수 있습니다. 이렇게 하면 워크플로우의 모든 컨텍스트 정보와 다양한 시나리오에 대한 정보를 상담원에게 전달할 수 있으므로 사용자 지정 솔루션을 구축하여 각 시나리오를 개별적으로 처리할 필요가 없습니다. 상담원이 동적 정보를 활용할 수 있게 해주는 이러한 모든 메커니즘은 상담원이 주변 환경을 더 잘 이해할 수 있게 해주므로 상호작용성이 몇 배로 향상됩니다.
• 상담원에게 전송합니다. AI는 비결정적이며 환각을 일으킬 수 있습니다. 그렇기 때문에 저희는 독성 탐지, 제로 데이터 보존 계약, 즉각적인 주입 방어 메커니즘을 제공하기 위해 Einstein Trust Layer 독성 탐지, 제로 데이터 보존 계약, 즉각적인 주입 방어 및 기타 여러 메커니즘을 제공합니다. 저희는 LLM의 이탈과 환각을 방지하기 위해 시스템 프롬프트에 규칙을 만들었습니다. 하지만 이러한 모든 메커니즘에도 불구하고 LLM은 여전히 100% 정확하지는 않습니다. 오류를 허용하지 않는 중요한 비즈니스 시나리오의 경우, 사람으로 원활하게 전환하는 것이 매우 중요하며 Agentforce 에서 기본적으로 이를 지원합니다. Agentforce 는 '인간 상담원에게 전달'을 또 다른 작업으로 취급하여 원하는 비즈니스 시나리오에서 대화를 안전하고 원활하게 인간에게 전달할 수 있도록 합니다.

아직 초기 단계에 있지만 Agentforce 은 고객들의 판도를 바꾸고 있습니다. Wiley와 삭스 피프스 애비뉴와 같은 고객들은 Agentforce 서비스 에이전트를 통해 비즈니스 KPI에 기하급수적인 효과를 보고 있습니다. 세일즈포스 리서치와 업계에서 혁신과 기술 발전의 수레바퀴가 빠르게 돌아가고 있는 가운데, 우리는 상담원을 더욱 강력하고 지능적으로 만들기 위해 다양한 혁신을 활용하기 위해 계속해서 빠른 속도로 움직이고 있습니다. 가까운 미래에 고객이 기대할 수 있는 몇 가지 발전 사항은 다음과 같습니다:

• 상담원을 위한 테스트 및 평가 프레임워크입니다. Agentforce 같은 복잡한 에이전트 시스템을 기업에 도입하려면 엄청난 양의 테스트와 검증이 필요합니다. 따라서 작업 결과, 입력, 출력, 계획 정확도, 주제 분류 및 계획자 상태를 테스트하기 위한 강력한 평가 프레임워크를 개발했습니다. 저희는 이 프레임워크를 사용하여 정확도, 지연 시간, 서비스 비용, 신뢰도 등의 메트릭을 기준으로 상담원을 최적화하고 있습니다. 수학, 과학, 일반 지식 숙련도와 같은 작업에 대한 LLM의 성과를 평가하는 데 주로 초점을 맞추는 대부분의 일반적인 프레임워크 및 벤치마크와 달리, 저희 평가 프레임워크는 CRM 비즈니스 사용 사례에 특별히 맞춰져 있습니다. 또한 세계 최초의 LLM 벤치마크를 발표했으며, 현재 고객과 파트너가 에이전트를 위한 평가 프레임워크를 사용할 수 있도록 노력하고 있습니다.
• 멀티 인텐트 지원. 이는 인간과 유사한 대화 메커니즘을 재현하는 데 있어 핵심적인 초석입니다. "주문 업데이트 및 M 사이즈 셔츠 찾기", "케이스 상태 업데이트 및 고객에게 문제 해결 단계 요약 이메일 보내기", "항공편 예약 및 호텔 예약" 등 서로 관련이 없는 여러 개의 일상적인 표현으로 구성되어 있는 경우가 꽤 많습니다. LLM의 자연어 이해 기능, 대규모 컨텍스트 창 지원, 토픽과 같은 혁신적인 개념을 결합하여 고객을 위한 안정적이고 확장 가능하며 안전한 솔루션을 만들기 위한 실험을 계속하고 있습니다.
• 멀티모달 지원. 대부분의 디지털 상호작용은 텍스트 기반이지만, 음성 및 시각 기반 상호작용은 가장 자연스러운 인간 상호 작용 방식이기 때문에 경험의 풍부함을 몇 배로 높여줍니다. 실제로 멀티모달 입력의 동시 처리, 빠른 응답 시간, 대규모 컨텍스트 창,정교한 추론 기능 등의 발전으로 멀티모달 AI 시장은 2031년까지 약 36% 성장할 것으로 예상됩니다. 멀티 모달리티 지원의 이점을 바로 누릴 수 있는 몇 가지 기업 사용 사례가 있습니다:
• 음성 사용 사례. 대화형 음성 응답(IVR)을 생성형 AI 기반 음성 지원, 직원 코칭, 교육 및 온보딩으로 대체합니다.
• 비전 사용 사례. 제품 검색 및 비교, 사용자 인터페이스(웹, 모바일) 탐색, 문제 해결 및 현장 서비스를 위한 문제 해결.
• 멀티 에이전트 지원. 상담원 간 상호작용은 우리 시대의 가장 혁신적인 비즈니스 발전 중 하나입니다. 멀티 에이전트 시스템은 정보를 동시에 검색, 컴파일, 처리할 수 있기 때문에 현재 사람 간 핸드오프 방식으로 순차적으로 진행되는 길고 복잡한 워크플로우의 처리 시간을 기하급수적으로 단축할 수 있습니다. 디지털 에이전트를 이러한 워크플로우에 삽입하여 반복 가능한 데이터 처리 작업을 수행할 수 있으며, 이러한 프로세스에 참여하는 사람의 업무 효율을 높일 수도 있습니다.
  
  이미 영업 프로세스에 이러한 멀티 에이전트 패러다임을 도입하여 에이전트가 파이프라인을 육성하는 영업 개발 담당자 역할을 하거나 영업 담당자에게 최상의 거래 협상 방법에 대해 조언하는 영업 코치 역할을 할 수 있도록 하고 있습니다. 전문 상담원은 리드 자격 검증, 제안서 준비, 판매 후 후속 조치 등 영업 프로세스의 다른 측면도 처리할 수 있습니다. 같은 맥락에서 서비스 워크플로는 문제를 해결하고 후속 조치를 취하며 티켓을 배정하는 상담원과 고객 문의에 응답하고 담당자를 돕는 상담원으로 구성될 수 있습니다.

Agentforce 는 예측 AI와 코파일럿에 이은 세 번째 AI의 물결을 나타냅니다. 고객은 Agentforce 을 사용하여 대화형 프롬프트에 응답하여 조치를 취하는 것뿐만 아니라 최소한의 도움으로 예측, 계획, 추론하는 에이전트를 구축할 수 있습니다. 상담원은 사람의 개입 없이도 전체 워크플로 또는 프로세스를 자동화하고, 의사 결정을 내리고, 새로운 정보에 적응할 수 있습니다. 동시에 이러한 에이전트는 인간 직원에게 원활한 업무 인계를 보장하여 모든 비즈니스 라인에서 협업을 촉진할 수 있습니다. Atlas 추론 엔진으로 구동되는 이러한 에이전트는 클릭 몇 번으로 배포하여 모든 비즈니스 기능 또는 팀을 보강하고 혁신할 수 있습니다.