비즈니스 및 애플리케이션 개발을 위한 AI 에이전트

에이전트는 보조적이고 자율적인 소프트웨어 시스템입니다. 사용자 입력 또는 환경 조건에 따라 주어진 작업이나 목표를 달성하기 위해 추론하고 계획하고 조치를 취합니다. 이들은 인간 전문가의 지식과 경험이 집약된 지능형 디지털 비서와 같으며 모든 관련 데이터에 액세스할 수 있습니다.

에이전트는 우리 삶의 모든 영역에서 보편화될 것이며, 비즈니스 운영 및 고객과의 상호 작용 방식에 큰 변화를 가져올 것입니다. 예를 들어, 서비스 에이전트는 회사의 가장 지식이 풍부한 기술 지원 담당자 역할을 수행하며 모든 요청을 연중무휴 24시간 처리할 수 있습니다. 마케팅 에이전트는 자율 주행 자동차처럼 '센서'(실시간 데이터)를 사용하여 변화하는 비즈니스 상황을 감지하고 선제적으로 대응(가격 조정, 캠페인 시작 등)할 수 있습니다.

이 문서에서는 에이전트의 출현을 주도하는 AI 혁신에 대해 살펴보고, 에이전트가 비즈니스뿐만 아니라 소프트웨어 및 소프트웨어 개발을 어떻게 변화시키고 있는지 살펴봅니다.

AI 에이전트는 대규모 언어 모델 (LLM)의 등장으로 가능해졌습니다. LLM은 매우 효과적인 에이전트를 구현하는 데 필요한 두 가지 필수 기능을 제공합니다:

• 깊은 언어 이해력: LLM은 복잡하고 미묘한 언어를 이해하는 데 능숙합니다. 이는 챗봇형 상담원이 사용자의 요청을 심층적으로 이해하고 자연어를 사용하여 응답을 구성할 수 있도록 하는 중요한 기능입니다.
• 추론과 의사 결정: LLM은 추론과 의사 결정도 할 수 있습니다. 이를 통해 상담원은 계획을 수립하고 당면한 문제를 해결하는 데 필요한 단계를 조율할 수 있습니다.

하지만 LLM만으로는 에이전트를 구현하기에 충분하지 않습니다. 여기에는 다음과 같은 여러 가지 제한 사항이 있습니다:

• 개인 데이터에 대한 접근 권한 부족: LLM은 교육을 받지 않은 개인 데이터에 액세스할 수 없습니다. 예를 들어 현재 진행 중인 영업 기회, 미결 지원 티켓 또는 캠페인 결과 목록을 반환할 수 없습니다.
• 조치를 취할 수 있는 기본 제공 기능이 없습니다: 예를 들어 지원 티켓을 열거나, 주문의 배송 주소를 변경하거나, 기회 기록을 업데이트하거나, 제품 가격을 변경할 수 없습니다.

에이전트는 LLM의 강력한 언어 및 추론 능력과 개인 데이터 액세스 및 작업 실행과 같은 비즈니스 사용 사례의 실질적인 요구 사이의 격차를 해소하여 새로운 소프트웨어 패러다임의 기반을 마련합니다.

이 새로운 패러다임에서 소프트웨어는 더 이상 완전한 애플리케이션이 아니라 특정 기능을 캡슐화하고 에이전트가 LLM의 추론 기능을 사용하여 조율할 수 있는 세분화된 빌딩 블록의 모음으로 구축됩니다. Salesforce에서는 이러한 빌딩 블록을 작업 (예: "주문 찾기" 및 "주문 주소 변경")이라고 하며 주제 (예: "주문 관리")라는 기능 영역 아래에 구성됩니다.

즉, 에이전트는 LLM의 언어와 추론 능력을 사용하여 특정 도메인 내에서 일련의 작업을 오케스트레이션하는 소프트웨어 시스템입니다. 높은 수준에서 에이전트는 다음과 같이 작동합니다:

1. 작업을 이해합니다: 상담원은 LLM의 언어 기능을 사용하여 당면한 작업을 깊이 있게 이해합니다.
2. 반복적으로 계획하고 실행합니다: 에이전트는 작업에 대한 이해를 바탕으로 가능한 작업을 추론하고 다음에 수행할 작업을 파악합니다. 여기에는 작업을 실행하거나 명확한 질문을 하는 것이 포함될 수 있습니다. 그런 다음 상담원은 이전 단계의 결과를 추론하고 다음에 수행할 작업을 다시 식별합니다. 에이전트는 원래 작업을 해결했다고 만족할 때까지 이 반복 프로세스를 반복합니다.
3. 응답을 제공합니다: 상담원이 입력에 대한 응답을 생성합니다.

이 새로운 소프트웨어 패러다임의 가장 혁신적인 측면은 상담원이 사전 정의된 요구 사항 없이 예상치 못한 요청을 처리할 수 있다는 점입니다. 수십, 수백 가지의 액션을 갖춘 에이전트를 상상해 보세요. 예상치 못한 방식을 포함해 거의 무한한 방식으로 구성할 수 있어 새로운 문제를 즉석에서 해결할 수 있습니다. 이것은 애플리케이션 구성의 궁극적인 형태입니다.

예를 들어 Salesforce에서는 업계를 선도하는 애플리케이션( Sales Cloud, Service Cloud, Marketing Cloud, Commerce Cloud, , , , , 산업)은 세분화된 작업으로 분류되어 즉시 Salesforce의 Agentforce 다양한 주제에 걸쳐 풍부한 기능을 갖춘 상담원. Agentforce 상담원은 다양한 방식으로 이러한 작업을 구성하고 조율하여 비즈니스 전반에 걸쳐 사용자에게 원활하고 통합된 경험을 제공할 수 있습니다. 또한 개발자는 코드, API, Salesforce 플로우 또는 프롬프트 템플릿을 기반으로 하는 사용자 지정 작업으로 표준 Agentforce 상담원의 기능을 확장할 수 있습니다.

액션은 상담원에게 다음과 같은 필수 기능을 제공합니다:

1. 비공개 회사 데이터에 대한 액세스: 작업을 통해 상담원에게 고객 및 기업 데이터에 대한 액세스 권한을 부여합니다. 상담원에게 데이터에 대한 액세스 권한을 부여할 때는 상담원이 권한이 없는 사용자에게 데이터를 공개하지 않도록 하는 것이 중요합니다. Agentforce 에이전트를 사용하면 데이터에 대한 액세스는 권한 및 공유 모델에 따라 관리됩니다. 기존 애플리케이션이나 에이전트 등 데이터 액세스 위치에 관계없이 동일한 권한 및 공유 모델이 적용됩니다.
2. 조치를 취할 수 있는 능력: 액션을 통해 에이전트는 로직을 실행하고 외부 시스템과 통합할 수 있습니다. 표준 Agentforce 작업에는 영업, 서비스, 마케팅, 커머스 및 산업에 대한 작업을 수행할 수 있는 기능이 내장되어 있습니다. 또한 개발자는 코드, API, 플로우 및 프롬프트 템플릿을 사용하여 Salesforce 또는 외부 시스템에서 작동할 수 있는 사용자 지정 작업을 구축할 수 있습니다.

상담원은 다양한 수준의 자율성을 가질 수 있습니다. 예:

• 보조 에이전트 (코파일럿이라고도 함)는 인간과 협력하여 혼자 행동하기보다는 역량을 강화합니다. 코파일럿은 종종 제안이나 조치를 구체화하기 위해 사람의 입력과 피드백을 필요로 합니다.
• 자율 에이전트는 사람의 직접적인 감독 없이 독립적으로 작동합니다. Agentforce 에이전트는 다른 자율 에이전트와 달리 필요에 따라 인간에게 작업을 원활하게 넘겨줄 수 있는 기능이 있습니다.

상담원의 자율성 수준에 관계없이 신뢰성, 비즈니스 관행 준수, 데이터 보안 및 개인정보 보호를 보장하고 환각, 독성 및 유해 콘텐츠를 방지하기 위해서는 적절한 보호 장치를 마련하는 것이 중요합니다.

Agentforce 에이전트는 다층적 접근 방식을 사용하여 가드레일을 시행합니다:

• Einstein Trust Layer: Einstein Trust Layer 을 통해 상담원은 회사 데이터를 손상시키지 않고 신뢰할 수 있는 방식으로 LLM을 사용할 수 있습니다. 보안 게이트웨이, 데이터 마스킹, 유해성 감지, 감사 추적 등을 사용하여 LLM 상호 작용을 제어합니다.
• 지침: Agentforce 에이전트를 정의할 때 자연어를 사용하여 해야 할 일과 피해야 할 일을 포함한 명확한 지침을 제공하여 에이전트의 행동에 대한 가드레일을 효과적으로 설정할 수 있습니다.
• 공유 메타데이터: Salesforce 메타데이터는 기존 애플리케이션에서 데이터에 액세스하는지 또는 상담원에서 액세스하는지에 관계없이 적용되는 중요한 규칙을 정의합니다. 여기에는 데이터 보안과 비즈니스 관행 준수를 보장하기 위한 권한, 공유 모델, 유효성 검사 규칙, 워크플로 자동화가 포함됩니다.
• 상담원 애널리틱스: 이 관찰 도구는 상담원 및 작업 성과, 사용성 및 안정성에 대한 인사이트를 제공하여 개선이 필요한 영역을 파악할 수 있도록 합니다.
• AI 테스트 센터: 통합 테스트 프레임워크인 AI 테스트 센터는 상담원, 프롬프트 템플릿, 검색 증강 생성(RAG) 및 모델 사용 사례에 대한 일괄 테스트를 지원합니다.

Salesforce는 최근 영업 및 서비스용 에이전트를 발표했습니다:

• Agentforce Service Agent는 사전 프로그래밍된 시나리오 없이도 광범위한 서비스 문제를 이해하고 조치를 취할 수 있는 기능으로 고객 서비스를 혁신하여 고객 서비스를 훨씬 더 효율적으로 만들 수 있습니다.
• Agentforce SDR 에이전트는 자연어로 인바운드 리드와 자율적으로 소통하여 질문에 답하고, 이의 제기를 처리하고, 인간 판매자를 위한 미팅을 예약합니다.
• Agentforce 세일즈 코치 에이전트는 판매자와 자율적으로 역할극에 참여하여 발견, 피치 또는 협상 통화 중에 구매자를 시뮬레이션합니다.

이러한 에이전트를 바로 사용할 수도 있지만 Agentforce 에서 에이전트를 사용자 지정하고, 확장하고, 자신만의 에이전트를 만들 수도 있습니다.

Salesforce Agentforce 는 AI, 데이터, 액션을 기반으로 하는 자율 에이전트와 인간을 하나로 연결합니다. 신뢰할 수 있는 에이전트 및 기타 혁신적인 AI 애플리케이션을 생성, 사용자 지정 및 배포하는 데 필요한 기능과 도구를 제공하며, 적절한 보호 및 감독을 제공합니다. 주요 구성 요소를 자세히 살펴보고 살펴보겠습니다.

AI의 잠재력에 관해서는 비즈니스 및 AI 분야의 전문가들이 사려 깊고, 영감을 주며, 희망을 품고 있습니다. LinkedIn에서 AI에 대해 자세히 알아보기 뉴스레터를 구독하여 AI에 대한 최신 소식을 받아보세요.

Salesforce 메타데이터는 기존 애플리케이션에서 데이터에 액세스하든 상담원에서 액세스하든 관계없이 적용되는 범용 규칙을 설정합니다. 여기에는 데이터 보안과 비즈니스 관행 준수를 보장하는 권한, 공유 모델, 유효성 검사 규칙, 워크플로 자동화가 포함됩니다. 또한 메타데이터를 통해 LLM은 데이터의 맥락과 의미를 더 잘 이해할 수 있으므로 보다 정확한 응답을 이끌어낼 수 있습니다. 예를 들어, LLM은 메타데이터를 사용하여 사용자에게 보다 유용하고 실행 가능한 방식(애드혹 UI)으로 CRM 데이터를 표시할 수 있습니다.

좋은 AI를 얻으려면 고품질의 통합 데이터가 필요합니다. Salesforce Data Cloud는 Salesforce 및 외부, 정형 및 비정형 등 모든 데이터를 통합하고 통합하여 고품질의 관련성 있고 실행 가능한 정보로 AI의 기반을 마련합니다. 200개 이상의 사용 가능한 커넥터와 사용자 지정 커넥터를 쉽게 만들 수 있는 기능을 갖춘 Data Cloud는 탁월한 연결성을 제공합니다.

데이터가 연결되고, 통합되고, 조화를 이루면 Data Cloud를 통해 AI 에이전트, 분석 및 기타 애플리케이션에서 데이터를 대규모로 활성화하여 가치 있는 인사이트와 개인화된 경험을 제공할 수 있습니다. 사일로화된 데이터로 인해 제한되는 사일로화된 경험의 시대는 끝났습니다. 직원이든 고객이든 사용자는 모든 관련 데이터를 통합하고 이해할 수 있는 연결된 경험을 기대합니다.

Agentforce 는 모델을 쉽게 연결하고 구성할 수 있는 구성 가능한 모델 아키텍처를 제공합니다. 호스팅된 기본 모델은 종종 AI 혁신으로 가는 가장 빠른 경로를 제공하지만, 미세 조정된 모델이나 자체 데이터로 구축한 자체 모델을 사용할 수도 있습니다.

Agentforce 서비스 에이전트를 사용하면 회사 데이터를 손상시키지 않고 기존 모델을 신뢰할 수 있는 방식으로 사용할 수 있습니다. 작동 방식은 다음과 같습니다.

1. 보안 게이트웨이: Agentforce 보안 게이트웨이를 통해 모델에 액세스하면 여러 모델 제공업체에서 일관되게 보안 및 개인정보 보호정책을 적용합니다.
2. 데이터 마스킹 및 규정 준수: 요청이 모델 제공업체에 전송되기 전에 데이터 마스킹을 비롯한 여러 단계를 거치게 되는데, 데이터 마스킹은 개인 식별 정보(PII) 데이터를 익명화된 데이터로 대체하여 데이터 개인정보 보호 및 규정 준수를 보장합니다.
3. 제로 리텐션: 데이터를 더욱 보호하기 위해 Salesforce는 모델 공급업체와 제로 리텐션 계약을 체결하여 공급업체가 Salesforce에서 전송한 데이터로 모델을 지속하거나 더 이상 학습시키지 않습니다.
4. 마스킹 해제, 독성 탐지 및 감사 추적: 모델에서 출력이 수신되면 디마스킹, 독성 감지 및 감사 추적 로깅을 포함한 일련의 단계를 거칩니다. 디마스킹은 개인정보 보호를 위해 가짜 데이터로 대체된 실제 데이터를 복원하는 작업입니다. 독성 감지 기능은 출력물에 유해하거나 불쾌감을 주는 콘텐츠가 있는지 확인합니다. 감사 추적 로깅은 감사 목적으로 전체 프로세스를 기록합니다.

액션은 상담원에게 로직을 실행하고 외부 시스템과 통합할 수 있는 기능을 제공합니다. 표준 Agentforce 작업은 영업, 서비스, 마케팅, 상거래 및 산업에 적용될 수 있습니다. 또한 개발자는 사용자 지정 코드, API, 플로우 및 프롬프트 템플릿을 사용하여 Salesforce 또는 외부 시스템에서 작동할 수 있는 사용자 지정 작업을 구축할 수 있습니다.

토픽은 상담원이 이해, 처리 또는 응답하도록 설계된 특정 초점 영역을 나타내는 작업의 논리적 그룹입니다. 예를 들면 주문 관리, 보증, 가격 책정, FAQ 등이 있습니다.

Agentforce 에이전트는 사용자 또는 환경 입력을 분석하고, 작업을 식별하고, 솔루션을 통해 추론하고, 작업을 완료하기 위한 작업을 조율할 수 있는 자율적인 소프트웨어 시스템입니다. 상담원에게는 다양한 수준의 자율성이 있습니다. 보조(부분 자율) 에이전트는 인간과 협력하여 당면한 작업을 수행합니다. 자율 에이전트는 사람의 직접적인 감독 없이 독립적으로 작동하지만 이 글의 앞부분에서 설명한 강력한 가드레일을 갖추고 있으며 필요에 따라 사람에게 작업을 넘길 수 있는 기능을 갖추고 있습니다.

Agentforce 는 에이전트 및 기타 AI 애플리케이션을 구축할 수 있는 다양한 로우코드 도구를 제공합니다.

Prompt Builder 는 그래픽 환경에서 재사용 가능한 프롬프트 템플릿을 만들고 레코드 페이지 데이터, Data Cloud, API 호출, 흐름 및 Apex를 통해 제공되는 동적 데이터로 이를 기반으로 할 수 있는 Salesforce 빌더입니다.

에이전트 빌더는 에이전트와 코파일럿을 구성할 수 있는 또 다른 시각적 빌더입니다. 상담원이 사용할 수 있는 작업을 선택하고 플레이그라운드 환경에서 상담원을 사용해 볼 수 있습니다.

에이전트는 우리 삶의 모든 영역에서 보편화될 것입니다. 추론하고, 작업을 조율하고, 조치를 취하여 대규모로 개인화된 경험을 제공할 수 있습니다. LLM의 언어와 추론 능력을 소프트웨어 빌딩 블록과 결합하여 비즈니스 운영 방식과 소프트웨어 구축 방식을 혁신하고 있습니다.

Agentforce 상담원은 다음과 같은 주요 차별화 특성으로 이러한 변화를 주도하고 있습니다:

• 신뢰. Agentforce 는 Einstein Trust Layer 및 기존 Salesforce 애플리케이션과 동일한 메타데이터, 권한 및 공유 모델을 사용하여 데이터를 보호합니다.
• 강력한. Agentforce 상담원은 업계 최고의 Salesforce 애플리케이션을 사용하여 영업, 서비스, 상거래, 마케팅 및 산업 전반에 걸쳐 혁신적인 경험을 제공합니다.
• 통합 데이터에 기반합니다. Agentforce 에이전트는 Data Cloud 에서 제공하고 통합한 모든 관련 데이터에 AI를 기반으로 하여 보다 정확하고 관련성 높은 결과를 제공합니다.
• 로우코드 도구. Agentforce 에이전트 빌더, Prompt Builder, 모델 빌더, 플로우 빌더 등을 포함한 일련의 로우코드 툴을 사용하여 에이전트를 구축, 사용자 지정, 테스트 및 관리할 수 있습니다.