Les 5 principes de Salesforce pour une IA éthique

Parmi les technologies émergentes, l’intelligence artificielle (IA) dispose d’un potentiel énorme pour améliorer la manière dont nous vivons et travaillons. Elle permet d’augmenter l’intelligence humaine, d’amplifier nos capacités et de fournir des insights qui facilitent à nos employés, nos clients et nos partenaires l’obtention de meilleurs résultats.

À Salesforce, nous sommes guidés par nos cinq valeurs fondamentales : la confiance, la réussite client, l’innovation, l’égalité et le développement durable. Nous sommes également profondément engagés dans le développement et le déploiement responsables de notre technologie, sous l’impulsion de notre département pour l’éthique.

Nous croyons que les avantages de l’IA doivent être accessibles à tous. Mais il ne suffit pas de mettre à disposition les opportunités offertes par l’IA, nous avons aussi la responsabilité de veiller à ce que l’IA soit sûre et inclusive pour tous. Nous prenons cette responsabilité très au sérieux et nous nous engageons à fournir à nos employés, clients et partenaires, les outils dont ils ont besoin pour développer et utiliser l’IA de manière sûre, appropriée et éthique.

Nos principes

En 2018, nous avons commencé à articuler nos principes d’IA de confiance. Il était important de nous assurer qu’ils étaient spécifiques aux produits, aux cas d’usage et aux clients de Salesforce. C’est pourquoi, nous avons consacré une année à recueillir les commentaires de collaborateurs, de cadres et de dirigeants issus de tous les secteurs de l’entreprise, notamment de l’ingénierie, du développement produits, de l’expérience utilisateur, de la data science, du service juridique, du service pour l’égalité et contre les discriminations, des affaires publiques et du marketing. Les dirigeants à travers les clouds et les fonctions ont approuvé ses principes, y compris nos co-PDG de l’époque, Marc Benioff et Keith Block. Comme nous l’expliquons dans notre modèle de maturité de l’IA éthique, bien que cette étape puisse sembler longue, il s’agit d’une expérience formative importante pour s’assurer que chacun dans l’entreprise contribue, comprend sa responsabilité dans l’application de ces principes et s’engage à les mettre en œuvre dans son travail quotidien.

Éthique

Nous nous efforçons de préserver les droits humains, de protéger les données qui nous sont confiées, de suivre les normes scientifiques et de faire respecter les règles de sécurité. Nous attendons de nos clients qu’ils utilisent notre IA de manière responsable, et en conformité avec les accords qu’ils ont passé avec nous, tel que décrit dans notre politique d’utilisation acceptable.

Responsabilité

Nous mesurons notre responsabilité vis-à-vis de nos clients, nos partenaires et du monde dans lequel nous vivons. C’est pourquoi, nous sollicitons des retours indépendants afin d’améliorer continuellement nos pratiques et nos politiques, et pour atténuer les dommages causés aux clients et aux consommateurs.

Transparence

Nous nous efforçons de faire en sorte que nos clients comprennent le « pourquoi » de chaque recommandation et prédiction basée sur l’IA. Cela afin qu’ils puissent prendre des décisions éclairées, identifier les conséquences imprévues et réduire les dangers éventuels.

Autonomie

Nous pensons que l’IA est mieux utilisée lorsqu’elle est associée aux capacités humaines. Elle augmente ainsi le potentiel des personnes et leur permet de prendre de meilleures décisions. Nous aspirons à livrer une technologie qui permet à chacun d’être plus productif et de maximiser son impact au sein de son organisation.

Inclusion

L’IA doit améliorer la condition humaine et porter les valeurs de tous ceux qu’elle affecte, pas seulement celles de ses créateurs. Ainsi, nous souhaitons faire progresser la diversité, promouvoir l’égalité et favoriser l’équité grâce à l’IA.

Des principes à la pratique

Il ne suffit pas d’avoir des principes. L’éthique se joue en équipe : pour qu’elle soit réellement significative, chaque membre de l’entreprise doit parfaitement comprendre sa responsabilité dans l’application de ces principes. Voilà ci-dessous quelques exemples de la manière dont nous avons mis ces principes en action.

Responsabilité

Avant de créer une nouvelle fonctionnalité à base d’IA, nous commençons toujours par nous demander, non seulement pouvons-nous le faire, mais aussi devrions-nous. Nous collaborons en externe avec des experts des droits humains pour apprendre, développer et découvrir de nouvelles façons de protéger les droits de l’homme.

Nous informons nos clients et leur donnons les moyens de prendre des décisions éclairées quant à la manière d’utiliser notre IA de façon responsable. Nous le faisons notamment en créant des outils et des ressources qui permettent aux employés, clients et partenaires de Salesforce d’identifier et d’atténuer les biais dans les systèmes qu’ils développent et utilisent (par exemple, en signalant lorsque des données protégées et des variables proxy sont utilisées dans un modèle, en étant transparent sur les facteurs qui influencent le plus les prédictions individuelles). Ces actions aident nos clients et partenaires à comprendre l’importance de déployer l’IA de manière sûre et fiable.

Nous adhérons aux plus hautes pratiques de sécurité et de confidentialité pour anticiper et atténuer les dommages involontaires et garder nos produits sûrs. Nous nous conformons aux lois qui régissent la recherche et l’usage de l’IA. Nous veillons également à respecter les standards scientifiques et qualitatifs les plus élevés pour nos recherches, et nous nous assurons de leur fiabilité en les partageant dans des publications scientifiques, lors de conférences et d’événements clés de l’industrie.

Éthique

Nous collaborons avec des experts des droits de l’homme et de l’éthique des technologies par le biais de notre conseil consultatif pour l’utilisation éthique et l’organisation d’ateliers. Nous encourageons également nos clients à partager leurs commentaires par l’intermédiaire de conseils consultatifs, en ouvrant la conversation et en incorporant ce feedback à notre processus de délibération.

Nous pensons qu’il est important de « redonner » à notre industrie et à la société dans son ensemble, en collaborant avec nos pairs par le biais de groupes industriels, de forums de la société civile et d’organisations gouvernementales telles que l’Institut national des normes et de la technologie aux États-Unis, le Conseil Consultatif national pour l’utilisation de l’IA aux États-Unis, le Conseil consultatif de Singapour sur l’utilisation éthique de l’IA et des données afin d’améliorer continuellement nos pratiques et notre réglementation. 

Nous permettons aux employés de poser des questions et de faire part de leurs préoccupations à travers de multiples canaux tels que notre système intégré de signalements anonymes en ligne, les canaux Slack et une adresse e-mail de groupe.

Transparence

La transparence ne consiste pas seulement à expliquer comment nous construisons nos modèles, mais aussi pourquoi ils ont fait la prédiction (ou la recommandation) qu’ils ont faite. Nous publions des cartes de modèles qui décrivent la manière dont ils ont été créés, les cas d’utilisation prévus et imprévus, les implications éthiques ou sociétales connues et les scores de performance. Nous fournissons également une explicabilité des modèles lorsqu’une prédiction ou une recommandation AI est faite.

Nous permettons aux clients de garder le contrôle de leurs données et de leurs modèles à tout moment. Les données que nous gérons n’appartiennent pas à Salesforce, mais au client. Nous leur fournissons également une charte claire des conditions d’utilisation et des applications prévues des IA de Salesforce.

Autonomie

Nous nous efforçons d’éliminer la complexité de l’IA pour permettre aux personnes de tous niveaux de compétences techniques – pas seulement aux data scientists -, de créer des applications d’IA en quelques clics, sans code. En outre, nous proposons sur Trailhead des formations gratuites sur l’IA afin de permettre à tous d’acquérir les compétences nécessaires aux emplois de la quatrième révolution industrielle. Cela englobe des outils tels que la mesure de l’impact disparate (une définition du biais) et la génération automatique de cartes de modèles (c’est-à-dire l’équivalent pour les modèles des étiquettes nutritionnelles qu’on trouve sur les aliments et qui en décrivent le contenu), ainsi que des conseils intégrés à l’application pour guider les clients vers une utilisation responsable de l’IA.

L’équipe Salesforce AI s’engage aussi à partager les dernières avancées technologiques et à s’assurer que nos clients restent à la pointe du progrès. 

Inclusion

Nous testons nos modèles en utilisant des ensembles de données diversifiés et représentatifs, les plus appropriés pour la manière dont le modèle est utilisé. Nous cherchons à comprendre l’impact des fonctionnalités de l’IA sur un large éventail de clients, d’utilisateurs finaux et dans différents contextes. À cet effet, nous mettons en œuvre des ateliers de consequence scanning (qui identifient les impacts positifs ou négatifs de nos produits) et d’ateliers « build with intention ». Enfin, nous mettons en pratique notre valeur fondamentale d’égalité en constituant des équipes inclusives qui élargissent le champ des expériences et des points de vue. 

Nous jouons dans la même équipe.

À Salesforce, nous pensons que l’utilisation éthique des technologies avancées telles que l’IA est une question de plus en plus complexe. Elle doit être clairement abordée, par nous et par toute notre industrie. Nous voulons voir se créer un dialogue qui inclurait nos employés, nos clients, nos partenaires et nos communautés.

En nous unissant tous pour résoudre les défis qui émergent et en garantissant que les nouvelles avancées prennent en compte des expériences diverses, nous pouvons tirer le meilleur parti de l’IA et stimuler son développement avec en objectif maximiser le potentiel humain.