In che modo Atlas Reasoning Engine alimenta Agentforce

La velocità dell'innovazione nel mondo dell'AI, e in particolare dell'intelligenza artificiale generativa, continua a ritmo serrato. Grazie alla sofisticazione tecnica disponibile oggi, il settore si sta rapidamente evolvendo dall'automazione conversazionale assistita all'automazione basata su ruoli che aumentano la forza lavoro. Affinché l'intelligenza artificiale (AI) possa imitare una prestazione di livello umano, è fondamentale capire cosa rende gli esseri umani più efficaci nel portare a termine i lavori: la competenza. Gli esseri umani sono in grado di raccogliere dati, ragionare sui possibili percorsi da seguire e agire. Dotare l'AI di questo tipo di competenza richiede un livello di intelligenza e di capacità decisionale estremamente elevato.

Noi di Salesforce abbiamo sfruttato i più recenti progressi nei modelli linguistici di grandi dimensioni (LLM) e nelle tecniche di ragionamento per lanciare Agentforce. Agentforce è una suite composta da strumenti predefiniti agenti AI (applicazioni autonome e proattive progettate per eseguire attività specializzate) e da una serie di strumenti per progettarli e personalizzarli. Tali agenti AI autonomi sono in grado di pensare, ragionare, pianificare e orchestrare ad un alto livello di sofisticazione. Agentforce rappresenta un salto di qualità nell'automazione AI per servizio clienti, vendite, marketing, e-commerce e altro ancora.

Questo articolo illustra le innovazioni che hanno portato all'Atlas Reasoning Engine, ossia il cervello di Agentforce, incubato presso Salesforce AI Research e che orchestra le azioni in modo intelligente e autonomo per offrire alle aziende un agente AI di livello enterprise.

All'inizio di quest'anno abbiamo rilasciato Einstein Copilot, che ora si è evoluto in un agente Agentforce per la gestione delle relazioni con i clienti (CRM). Einstein Copilot era un assistente conversazionale dotato di intelligenza artificiale generativa che traeva la sua intelligenza da un meccanismo chiamato ragionamento Chain-of-Thought (CoT). In questo meccanismo, il sistema AI imita il processo decisionale umano generando un piano contenente una sequenza di passaggi per raggiungere un obiettivo.

Grazie al ragionamento basato su CoT, Einstein Copilot poteva contribuire alla creazione e alla collaborazione nel flusso del lavoro. Questo lo rendeva piuttosto avanzato rispetto ai bot tradizionali, ma non riusciva comunque a imitare veramente un'intelligenza simile a quella umana. Generava un piano contenente una sequenza di azioni in risposta alle attività e le eseguiva una per una. Se il piano non era corretto, tuttavia, non aveva modo di chiedere all'utente di reindirizzarlo. Questo ha portato a un'esperienza di AI non adattiva: gli utenti non potevano fornire informazioni nuove e utili man mano che la conversazione procedeva.

Mentre sottoponevamo Einstein Copilot a test rigorosi con migliaia di venditori della nostra organizzazione di vendita (Org 62), sono emersi alcuni modelli:

• L'esperienza di conversazione in linguaggio naturale di Copilot era molto migliore rispetto ai bot tradizionali, come prevedibile, ma non aveva ancora raggiunto il sacro Graal della somiglianza vera e propria con l'uomo. Doveva essere più colloquiale.
• Copilot svolgeva un ottimo lavoro di consegna degli ordini dell'utente con le azioni con cui era configurato, ma non era in grado di gestire le richieste di follow-up sulle informazioni già presenti nella conversazione. Aveva bisogno di utilizzare meglio il contesto per rispondere a un maggior numero di query degli utenti.
• Man mano che aggiungevamo altre azioni per automatizzare un maggior numero di casi d'uso, le prestazioni di Copilot hanno iniziato a peggiorare, sia in termini di latenza (il tempo necessario per rispondere) che di qualità delle risposte. Doveva espandersi in modo efficace a migliaia di casi d'uso e applicazioni da cui trarre vantaggio.

Abbiamo così cercato di trovare una soluzione a questi problemi e questo ha portato alla nascita di Agentforce.

Agentforce è la prima soluzione di automazione conversazionale di livello enterprise in grado di prendere decisioni proattive e intelligenti su larga scala con un intervento umano minimo o nullo. Questo è possibile grazie a diversi sviluppi.

• Orchestrazione basata su prompting ReAct vs. CoT. Un'ampia sperimentazione e test avanzati hanno dimostrato che il prompt in stile Reasoning and Acting (ReAct) ha dato risultati molto migliori rispetto alla tecnica CoT. Nel meccanismo ReAct, il sistema esegue un ciclo di ragionamento, azione e osservazione fino alla consegna degli ordini dell'utente. Questo tipo di approccio ad anello permette al sistema di prendere in considerazione qualsiasi nuova informazione e di porre domande chiarificatrici o conferme, in modo che l'obiettivo dell'utente venga raggiunto nel modo più preciso possibile. Questo porta anche a un'esperienza di conversazione molto più fluida e naturale, simile a un linguaggio.
• Classificazione in argomenti. Abbiamo introdotto una nuova nozione denominata “argomento”, che corrisponde a un intento dell'utente o a un lavoro da svolgere. Quando arriva un input da parte dell'utente, questo viene mappato su un argomento, che contiene l'insieme di istruzioni, policy aziendali e azioni necessarie per soddisfare la richiesta. Questo meccanismo aiuta a definire l'ambito dell'attività e lo spazio di soluzione corrispondente per l'LLM, permettendo al sistema di espandersi senza sforzo. Le istruzioni in linguaggio naturale incorporate negli argomenti forniscono una guida aggiuntiva e delle barriere per l'LLM. Quindi, se abbiamo bisogno che alcune azioni vengano eseguite in una certa sequenza, questa può essere un'istruzione di argomento in linguaggio naturale. Se esistono policy aziendali come “resi gratuiti fino a 30 giorni”, possono essere specificate come istruzioni e passate all'LLM, in modo che ne tenga conto e lo comunichi nell'interazione con l'utente. Questi concetti permettono agli agenti di espandersi fino a migliaia di azioni in modo sicuro e protetto.
• Uso degli LLM per le risposte. In precedenza, limitavamo il sistema a rispondere solo con le azioni, il che riduceva fortemente la sua capacità di rispondere in base alle informazioni disponibili nella conversazione. Aprendo il sistema per permettere agli LLM di rispondere utilizzando il contesto della cronologia delle conversazioni, abbiamo reso possibile un'esperienza di conversazione molto più ricca. Ora gli utenti possono chiedere chiarimenti e fare domande di follow-up sugli output ottenuti in precedenza, con un conseguente aumento del tasso di consegna degli ordini.
• Pensieri e ragionamenti. Sollecitare gli LLM a condividere i loro pensieri o a fornire le ragioni per cui scelgono determinate azioni previene notevolmente le allucinazioni. Questo ha l'ulteriore vantaggio di fornire visibilità sul comportamento dell'LLM, in modo che gli amministratori e gli sviluppatori possano mettere a punto l'agente in base alle loro esigenze. Il ragionamento è disponibile per impostazione predefinita nell'area di disegno dell'Agent Builder e gli utenti possono anche chiedere all'agente di rispondere a domande successive in modo che possa spiegare il suo ragionamento. Questo non solo previene le allucinazioni, ma aiuta a stabilire fiducia.

Al di fuori dell'Atlas Reasoning Engine, Agentforce ha molte altre caratteristiche degne di nota che lo contraddistinguono.

• Azione proattiva. Gli input dell'utente sono un modo per attivare gli agenti. Tuttavia, gli agenti Agentforce possono anche essere attivati da operazioni sui dati del CRM o da processi e regole aziendali, come ad esempio l'aggiornamento dello stato di un caso, un'e-mail ricevuta da un brand o una riunione che inizia tra cinque minuti. Questi meccanismi conferiscono agli agenti un livello di proattività che li rende disponibili e utilizzabili in vari ambienti aziendali dinamici, estendendo la loro utilità sia al front office che al back office.
• Recupero dinamico delle informazioni. La maggior parte dei casi d'uso aziendali prevede il recupero di informazioni o l'esecuzione di azioni. Uno dei meccanismi più diffusi per fornire informazioni statiche agli agenti è il radicamento nel contesto. Tuttavia, è la capacità degli agenti di attingere a informazioni dinamiche che sblocca un vasto potenziale di casi d'uso e applicazioni.
  
  Agentforce supporta diversi meccanismi per attingere alle informazioni dinamiche. Il primo è la RAG (Retrieval Augmented Generation). Utilizzando la ricerca semantica sui dati strutturati e non strutturati in Data Cloud attraverso la RAG, gli agenti possono recuperare qualsiasi informazione pertinente da fonti di dati e database esterni.
  
  In secondo luogo, con l'introduzione di strumenti generici per il recupero delle informazioni, come la ricerca sul web e le domande e risposte della Knowledge, abbiamo aumentato la capacità dell'agente di gestire attività complesse. Immagina di fare una ricerca online su un'azienda o su un prodotto utilizzando la ricerca sul web e di combinarla con le conoscenze interne sulle regole e le policy aziendali, per poi intraprendere un'azione sotto forma di e-mail di riepilogo a un contatto. Combinando i dati provenienti da più fonti, l'agente è in grado di gestire le attività aziendali in modo molto più efficace ed efficiente.
  
  Infine, gli agenti possono essere distribuiti in classi di flussi, API e Apex. In questo modo, tutte le informazioni contestuali di un workflow, così come le informazioni relative ai vari scenari, possono essere passate all'agente, evitando di dover costruire soluzioni personalizzate e di gestire ogni scenario separatamente. Tutti questi meccanismi che permettono agli agenti di attingere a informazioni dinamiche consentono loro di comprendere meglio l'ambiente circostante, aumentandone l'interattività.
• Trasferimento ad agenti umani. L'AI non è deterministica e può avere allucinazioni. Ecco perché abbiamo sperimentato il robusto Einstein Trust Layer per fornire rilevamento della tossicità, conservazione dati azzerata, difesa dall'iniezione di prompt e molti altri meccanismi. Abbiamo inserito delle regole nei nostri prompt di sistema per evitare che gli LLM divaghino e abbiano delle allucinazioni. Tuttavia, nonostante tutti questi meccanismi, gli LLM non sono ancora precisi al 100%. Per quegli scenari aziendali critici in cui la tolleranza all'errore è pari a zero, il trasferimento diretto a un essere umano è fondamentale e Agentforce lo supporta in modo nativo. Agentforce tratta il “trasferimento ad agenti umani” come un'altra azione, che consente di trasferire una conversazione in modo sicuro e fluido agli esseri umani in qualsiasi scenario aziendale desiderato.

Nonostante sia nella sua fase nascente, Agentforce rappresenta già un punto di svolta per i clienti. Società come Wiley e Saks Fifth Avenue stanno riscontrando un impatto esponenziale sui loro KPI aziendali grazie a Agentforce Service Agent. Poiché la ruota dell'innovazione e del progresso tecnologico continua a girare rapidamente presso Salesforce Research e all'interno del settore, continuiamo a muoverci alla velocità della luce per sfruttare diverse innovazioni al fine di rendere gli agenti ancora più solidi e intelligenti. Alcuni dei progressi che i clienti possono aspettarsi nel prossimo futuro includono:

• Un framework di test e valutazione per gli agenti. Portare un sistema organico complesso come Agentforce nelle imprese richiede una quantità enorme di test e convalide. Ecco perché abbiamo sviluppato una solida struttura di valutazione per testare i risultati dell'azione, gli input, gli output, l'accuratezza della pianificazione, la classificazione degli argomenti e lo stato del pianificatore. Abbiamo utilizzato questo framework per ottimizzare gli agenti in base a parametri come l'accuratezza, la latenza, il costo del servizio e l'affidabilità. A differenza della maggior parte dei framework e dei benchmark generalmente disponibili, che si concentrano principalmente sulla valutazione delle prestazioni di un LLM in attività come la matematica, le scienze e le conoscenze generali, il nostro framework di valutazione è orientato specificamente ai casi d'uso del CRM. Abbiamo anche pubblicato il primo benchmark LLM al mondo e stiamo attualmente lavorando per offrire a clienti e partner il nostro framework di valutazione degli agenti.
• Supporto multi-intento. Questa è la chiave di volta per replicare un meccanismo di conversazione simile a quello umano. Molte espressioni quotidiane sono costituite da più obiettivi non correlati, come ad esempio “aggiorna il mio ordine e trovami una camicia della taglia M”, “aggiorna lo stato della pratica e invia al cliente un'e-mail con il riepilogo delle fasi di risoluzione dei problemi”, “prenota un volo e un hotel”. Grazie alla combinazione tra le capacità di comprensione del linguaggio naturale degli LLM, il supporto per le finestre ad ampio contesto e i nostri concetti innovativi come gli argomenti, continuiamo a sperimentare per creare una soluzione affidabile, scalabile e sicura per i nostri clienti.
• Supporto multimodale. Sebbene la maggior parte delle interazioni digitali sia basata sul testo, le interazioni basate sulla voce e sulla vista aumentano notevolmente la ricchezza delle esperienze perché rappresentano il modo più naturale di interagire con gli esseri umani. Infatti, grazie a progressi come l'elaborazione simultanea di input multimodali, tempi di risposta più rapidi, finestre di contesto ampie e capacità di ragionamento sofisticate, il mercato dell'AI multimodale dovrebbe crescere di circa 36% entro il 2031. Sono diversi i casi d'uso aziendali che possono beneficiare immediatamente del supporto alla multimodalità:
• Casi d'uso vocali. Sostituzione della cosiddetta risposta vocale interattiva (IVR) con un'intelligenza artificiale generativa per il supporto vocale, il coaching, la formazione e l'onboarding dei collaboratori.
• Casi d'uso visivi. Ricerca e confronto di prodotti, navigazione nell'interfaccia utente (web, mobile), risoluzione di problemi e assistenza sul campo.
• Supporto multi-agente. Le interazioni tra agenti rappresentano uno degli sviluppi commerciali più innovativi del nostro tempo. Grazie alla loro capacità di recuperare, compilare ed elaborare simultaneamente le informazioni, i sistemi multi-agente possono ridurre in modo esponenziale i tempi di elaborazione di workflow lunghi e complessi che attualmente procedono in modo sequenziale a causa del passaggio di consegne da uomo a uomo. Gli agenti digitali possono essere inseriti in questi workflow per attività ripetibili di elaborazione dei dati e possono anche aiutare gli esseri umani coinvolti in questi processi a essere più efficienti.
  
  Stiamo già introducendo questo tipo di paradigma multi-agente nel processo di vendita, in cui un agente può fungere da addetto allo sviluppo delle vendite per alimentare la pipeline, o da sales coach per consigliare a un addetto alle vendite il modo migliore per negoziare una trattativa. Gli agenti specializzati possono anche gestire altri aspetti del processo di vendita, come la qualificazione dei clienti, la preparazione delle proposte e il follow-up post-vendita. Allo stesso modo, un workflow di assistenza può essere composto da agenti che risolvono i problemi, seguono e assegnano i ticket, nonché da agenti che rispondono alle domande dei clienti e aiutano i rappresentanti umani.

Agentforce rappresenta la terza fase dell'AI, dopo l'Intelligenza Artificiale predittiva e i copiloti. Grazie a Agentforce, i clienti possono creare agenti che non si limitano a rispondere ai prompt conversazionali, ma che anticipano, pianificano e ragionano con un aiuto minimo. Gli agenti possono automatizzare interi workflow o processi, prendere decisioni e adattarsi a nuove informazioni, il tutto senza alcun intervento umano. Allo stesso tempo, questi agenti possono garantire un passaggio ininterrotto ai collaboratori umani, facilitando la collaborazione in tutte le linee di business. Basati su Atlas Reasoning Engine, questi agenti possono essere implementati in pochi clic per potenziare e trasformare qualsiasi funzione o team aziendale.