L’IA générative : 5 critères pour la déployer de manière responsable en entreprise

L’intelligence artificielle générative (IA générative) a le pouvoir de transformer profondément la façon dont nous vivons et travaillons. Elle mettra au défi les entreprises mêmes les plus innovantes, dans les années à venir.

L‘IA générative n’est pas sans risques. C’est une technologie qui peut être à double tranchant. Alors que les entreprises sont de plus en plus nombreuses à se lancer dans la course à sa mise en œuvre, il est essentiel qu’elles y parviennent de manière inclusive et réfléchie. Il ne suffit pas de profiter des capacités technologiques de l’IA générative, il faut prioriser l’innovation responsable, afin de guider la manière dont cette technologie disruptive peut et doit être utilisée. Nous devons nous assurer que nos employés, partenaires et clients disposent des outils dont ils ont besoin pour développer et exploiter ces technologies de manière sûre, appropriée et éthique.

L’IA générative chez Salesforce

Le potentiel de l’IA générative chez Salesforce (et plus largement dans le domaine des technologies d’entreprise) est vaste.

L’IA fait partie intégrante de la plateforme Customer 360. Nos technologies Einstein AI génèrent quotidiennement près de 200 milliards de prédictions dans toutes les applications métiers de Salesforce. Par exemple :

• Les ventes qui tirent parti des insights de l’IA pour identifier de manière optimale les prochaines étapes à suivre et conclure leurs transactions plus rapidement.
• Le service client qui utilise l’IA pour mener des conversations simulant une interaction humaine et gérer les tâches et questions répétitives. Grâce à elle, les agents disposent de plus de temps pour traiter les demandes plus complexes.

• Le marketing s’appuie aussi sur l’IA pour mieux comprendre le comportement des clients et personnaliser le calendrier, le ciblage et le contenu des activités marketing.
• Enfin, avec l’IA, l’e-commerce propose des expériences d’achat personnalisées et des parcours d’achat plus intelligents. 

Aujourd’hui, l’IA générative a le potentiel d’aider nos clients à se connecter à leur public d’une nouvelle manière, plus personnalisée, à chaque point de contact: ventes, service client, marketing, commerce et informatique. Nous nous intéressons également au développement de code généré par l’IA, pour aider nos clients ( y compris ceux qui ne disposent pas de développeurs Salesforce certifiés dans leurs équipes) à écrire du code de haute qualité rapidement. L’objectif : utiliser moins de lignes de code et donc, moins de CPU.

Les critères majeurs d’une IA générative sûre

Comme pour chacune de nos innovations, nous intégrons des garde-fous et des recommandations éthiques, afin d’aider les clients à innover de manière responsable et pour détecter les problèmes potentiels avant qu’ils ne se produisent.

Étant donné l’ampleur des opportunités et défis qui émergent dans ce domaine, nous avons élaboré, à partir de nos principes d’IA éthique, un nouvel ensemble de directives axées sur le développement et la mise en œuvre responsables de l’IA générative. 

Nous n’en sommes encore qu’aux prémices de cette technologie disruptive, ces directives sont donc appelées à évoluer dans le futur, mais nous sommes déterminés à apprendre et à itérer en partenariat avec d’autres pour trouver des solutions.

Voici ci-dessous cinq critères que nous utilisons chez Salesforce pour guider le développement d’une IA générative de confiance.

1. La précision : Nous devons fournir des résultats vérifiables dont les modèles de classification équilibrent la pertinence, la précision et la répétition (recall) afin de permettre aux clients d’entraîner les modèles à partir de leurs données. Nous devons signaler lorsqu’il existe une incertitude sur la véracité de la réponse de l’IA afin de donner aux utilisateurs l’opportunité de valider ces réponses. Cela peut être fait en citant des sources, en expliquant pourquoi l’IA a donné les réponses qu’elle a données (Chain-of-Thought prompting  ou CoT), en mettant en évidence les informations à vérifier (par exemple : les statistiques, les recommandations, les dates…) et en créant des garde-fous qui empêchent certaines tâches d’être entièrement automatisées (par exemple, lancer du code dans un environnement de production sans validation humaine).
2. La sécurité : Comme pour chacun de nos modèles d’IA, nous devons nous efforcer de réduire les biais, les discours toxiques et les résultats néfastes, en évaluant les biais, l’explicabilité, la robustesse, et en organisant des opérations de red teaming. Nous devons également protéger la confidentialité de toute information personnelle identifiable (PII) présente dans les données utilisées pour l’entraînement des modèles et créer des garde-fous afin d’éviter des dommages supplémentaires (ex : forcer la publication de code dans une sandbox plutôt que de le pousser automatiquement en production).
3. L’honnêteté : Lorsque nous recueillons des données pour entraîner et évaluer nos modèles, nous devons en respecter la provenance et nous assurer que nous avons le consentement pour les utiliser (ex : données open-source ou fournies par les utilisateurs). Nous devons également faire preuve de transparence par rapport au fait qu’une IA a créé le contenu, notamment lorsque celui-ci est livré de manière autonome (ex : réponse d’un chatbot à un consommateur, utilisation de filigranes).
4. L’empowerment : Il y a des cas où il est préférable d’automatiser entièrement les processus et d’autres, où l’appréciation humaine est requise et où l’IA doit plutôt jouer un rôle de soutien. Nous devons trouver le bon équilibre qui nous permettra de booster les capacités humaines et rendre ces solutions accessibles à tous (ex : générer du texte ALT pour accompagner les images).
5. La durabilité : Alors que nous nous appliquons à créer des modèles plus précis, nous devons aussi nous efforcer de développer des modèles de taille appropriée lorsque c’est possible, afin de réduire notre empreinte carbone. En matière de modèles d’IA, la taille ne fait pas la qualité : dans certains cas, des modèles plus petits et mieux entraînés surpassent des modèles plus grands, mais entraînés  avec peu de données. 

Créer une IA générative de confiance

Apprenez-en davantage sur l’IA éthique chez Salesforce, y compris les outils que nous mettons à la disposition de nos employés, clients, communautés et partenaires pour développer et utiliser l’IA de manière responsable, optimale et éthique.