Come costruire Prompt Template in modo facile e veloce

I Large Language Model (LLM) hanno cambiato il nostro modo di approcciare alcuni tipi di problemi complessi. Abbiamo scoperto abbastanza rapidamente come essi possano semplificare (e in alcuni casi svolgere al nostro posto) task come la generazione di email, il riassunto di testi, le traduzioni e molto altro. 

Questo ha accresciuto di molto l’interesse nei confronti della AI generativa, ovvero il ramo della intelligenza artificiali di cui i LLM fanno parte. Ma i LLM, dietro le quinte, sono sistemi (per la precisione, modelli transformer pre trained, se mi perdonate il tecnicismo) che prevedono, da un punto di vista statistico, una parola dopo l’altra a partire da una istruzione testuale. Insomma, i LLM ci danno risposte a partire dalle nostre domande (i cosiddetti prompt, come forse avrete già immaginato).

Scrivere prompt: un compito non banale

Questa, se ci pensiamo, è una novità abbastanza interessante. In sostanza, è come se potessimo interfacciarci con questi sistemi usando un linguaggio naturale, invece che scrivere del codice o usare altri strumenti più o meno complessi.

Questo approccio, però, porta anche una serie di problematiche. Per sua natura, infatti, il linguaggio naturale è più ambiguo e meno strutturato rispetto ad altri sistemi di interazione con le macchine.

Insomma, scrivere un prompt è una attività allo stesso tempo semplice e complessa. Piccole variazioni nella scrittura dello stesso possono portare a notevoli variazioni nei risultati (nelle risposte) ottenuti.

È chiaro che tutti usano (o vorrebbero usare) la AI generativa per svolgere parte del loro lavoro: i LLM possono liberarci dei task noiosi, risolvere problemi al posto nostro e in generale rendere le nostre giornate lavorative migliori. Ma come fare a interagire con tali modelli, utilizzando prompt funzionali, arricchiti dei dati rilevanti, e soprattutto in modo sicuro, magari senza passare continuamente da una applicazione all’altra?

Salesforce Prompt Builder è la soluzione

Salesforce sta investendo gran parte delle proprie risorse proprio per rispondere a questa domanda. Molti office worker, infatti, utilizzano proprio le soluzioni Salesforce per svolgere buona parte dei propri compiti, ed è quindi naturale pensare che quello sia il posto giusto per poter utilizzare un’AI sicura, funzionale ed integrata, che li aiuti a lavorare meglio e ad ottenere risultati migliori.

Salesforce Prompt Builder è una funzionalità recentemente rilasciata in GA, ed è tecnicamente parte di Einstein Studio, cioè di un set di strumenti utili per personalizzare ed utilizzare al meglio le funzionalità di Einstein, la piattaforma di AI (sia generativa che predittiva), parte delle soluzioni Salesforce da quasi dieci anni.

L’interfaccia di Prompt Builder ci mostra una lista di prompt utilizzabili all’interno della piattaforma per svolgere vari task. Ad esempio, possono essere utilizzati per generare email di contatto commerciale, suggerimenti di risposte per il customer service, descrizioni di prodotti da utilizzare su un sito ecommerce, copy per campagne marketing e così via.

Una schermata di Prompt Builder

A voler essere precisi (e come si evince dalla schermata) più che di Prompt, si parla di Prompt Template. Perchè?

Perchè una delle tecniche più comuni nell’utilizzo dei prompt nella intelligenza artificiale generativa è quella di costruire prompt lunghi, con istruzioni precise e specifiche, con aspettative chiare, che forniscano esempi (few shot learning) e che utilizzino specifiche tecniche per aumentare la sicurezza (Prompt Defense).

Questo sarebbe complesso da fare ricreando ogni volta i prompt da zero, o facendo copia incolla di prompt esistenti. Dunque un prompt template agisce proprio in questo senso, costruendo una “base” di prompt (un template, appunto) in cui sostituire di volta in volta le sole informazioni rilevanti (ad esempio il destinatario della nostra email, o la descrizione della problematica che stiamo cercando di risolvere). Questo ci consente di riutilizzare le best practice e di provare costantemente variazioni dei nostri prompt, creandone nuove versioni che possiamo poi testare e validare su compiti reali. 

La creazione, il versionamento e il testing sono infatti funzionalità fornite da Einstein Prompt Builder, che ci consente dunque di creare, utilizzare e migliorare i nostri prompt, direttamente dall’interfaccia, per molti di noi familiare, di Salesforce.

L’inserimento di dati variabili (il destinatario, la descrizione del cliente, i dettagli del problema) all’interno dei prompt template, fa parte di una tecnica più vasta, chiamata Retrieval Augmented Generation (RAG), che ci consente di avere risposte rilevanti e personalizzate, riducendo il rischio di incorrere in problemi quali le hallucination o i bias, che sono alcuni noti effetti collaterali dell’utilizzo della AI generativa.

E visto che spesso le informazioni che ci servono per interagire con i nostri clienti sono proprio all’interno del CRM, Salesforce si trova in una posizione privilegiata per poterci fornire un’AI sicura, efficiente, e nativamente integrata nei nostri workflow di lavoro.

Prompt Builder è solo uno dei mattoncini. Infatti, ad esempio, grazie a Data Cloud è possibile accedere in maniera semplice a dati esterni al CRM, e utilizzarli all’interno dei nostri prompt, mentre con Einstein Copilot possiamo usare la AI generativa (inclusi i prompt) in maniera semplice dalle nostre applicazioni. Ma questo avrete modo di leggerlo in altri articoli!