Dit zijn de betrouwbare AI-principes van Salesforce

Bij Salesforce hebben we 5 belangrijke kernwaarden: vertrouwen, klantsucces, innovatie, gelijkheid en duurzaamheid. We vinden het daarnaast ontzettend belangrijk om verantwoord om te gaan met de ontwikkeling en toepassing van onze technologie. Daarom kijkt onze afdeling Ethiek en Menselijk Gebruik áltijd kritisch mee.

Eén van de opkomende technologieën die de wereld enorm beïnvloedt en gaat beïnvloeden, is kunstmatige intelligentie (AI). AI versterkt de menselijke intelligentie, vergroot menselijke capaciteiten en geeft praktische inzichten die van grote waarde zijn voor werknemers, klanten en partners. 

Wij vinden dat de voordelen van AI toegankelijk moeten zijn voor iedereen. Tegelijkertijd kan je niet zomaar iedereen toegang geven tot alle technische mogelijkheden van AI. We hebben een grote verantwoordelijkheid om ervoor te zorgen dat AI veilig en inclusief is voor iedereen, en die verantwoordelijkheid nemen we serieus. We vinden het belangrijk dat onze werknemers, klanten en partners de tools hebben die ze nodig hebben om AI op een veilige, juiste en ethische manier te kunnen gebruiken.

Onze principes

In 2018 zijn we bij Salesforce gestart met het opstellen van onze betrouwbare AI-principes. Daarbij was belangrijk dat de principes goed aansloten op onze producten, toepassingen en klanten. We zijn een jaar bezig geweest om individuele medewerkers, managers en directeurs binnen alle bedrijfsonderdelen, waaronder ook Engineering, Product development, UX, Data science, Legal, Equality, Government Affairs en Marketing. De principes werden vervolgens ook goedgekeurd door onze toenmalige co-CEO’s Marc Benioff en Keith Block. Zoals we uitleggen in ons AI Ethics Maturity Model was dit een belangrijk proces waarin we controleerden of iedereen die betrokken is bij Salesforce deze principes begrijpt en bijdraagt aan en verantwoording draagt voor deze principes. Het was een langdurig proces, maar dit was nodig om ervoor te zorgen dat iedereen deze principes binnen het bedrijf op dagelijkse basis kon en kan toepassen.

Verantwoord

We vinden het belangrijk om menselijke rechten te waarborgen en de data die ons is toevertrouwd te beschermen. We houden rekening met wetenschappelijke standaarden en gaan misbruik tegen. We vragen onze klanten om op verantwoorde wijze, en in overeenstemming met ons en onze Acceptable Use Policy, met onze AI om te gaan. 

Aanspreekbaar 

We willen bij Salesforce graag aanspreekbaar zijn en blijven voor onze klanten, partners en de maatschappij. We blijven om feedback vragen zodat we onszelf constant kunnen blijven verbeteren, zowel in de praktijk als in onze standpunten. We doen er alles aan om te voorkomen dat AI verkeerd wordt ingezet ten nadele van onze klanten en gebruikers. 

Transparant 

We streven ernaar dat onze klanten het “waarom” achter iedere AI-gedreven beslissing en voorspelling begrijpen. Zo kunnen klanten weloverwogen keuzes maken, begrijpen waar eventuele onbedoelde uitkomsten vandaan komen en schade beperken. 

Versterkend 

Wij geloven dat AI het beste tot haar recht komt als het gecombineerd wordt met de menselijke capaciteiten. Wat de mens kan, moet vergroot worden door AI en dit moet er uiteindelijk toe leiden dat de mens betere beslissingen neemt. We willen technologie ontwikkelen waar iedereen beter en productiever van wordt. Zo heeft het vervolgens ook een positieve impact op organisaties. 

Inclusief 

AI moet de menselijke situatie verbeteren. Bovendien moet AI de waarden vertegenwoordigen van iedereen die door AI wordt beïnvloed. We bevorderen diversiteit, gelijkheid en rechtvaardigheid door middel van AI. 

Van principes naar praktijk 

Het is natuurlijk niet genoeg om een paar principes op een rij te zetten; ethiek is een sport. Als je van betekenis wil zijn, moet iedereen in het bedrijf keihard werken om de verantwoordelijkheid voor de principes te dragen. Hieronder zie je een aantal voorbeelden van hoe we deze principes omzetten naar de praktijk. 

Verantwoord 

Voordat we gaan werken aan nieuwe AI-toepassingen, willen we niet alleen nadenken óf we het kunnen, maar ook of we het moeten willen. We werken met externe deskundigen op het gebied van mensenrechten. Zo blijven we voortdurend leren hoe we de rechten van de mens op nieuwe manieren kunnen waarborgen.

We vinden het belangrijk dat onze klanten de mogelijkheden hebben om te leren hoe ze op een juiste manier met AI moeten omgaan. Dit doen we door tools te ontwikkelen voor Salesforce werknemers, klanten en partners. Met deze tools kunnen zij problemen in het systeem dat ze gebruiken en bouwen leren herkennen én beperken (denk aan het signaleren van data en variabelen die in een model worden gebruikt en het transparant zijn in factoren die invloed hebben op de uitkomsten en voorspellingen). Hierdoor begrijpen klanten en partners beter hoe ze AI op een verantwoorde, veilige en betrouwbare manier kunnen gebruiken. 

Natuurlijk doen we er alles aan om onze producten zo goed mogelijk te beschermen en schade te beperken. We voldoen aan alle geldende wetten met betrekking tot het gebruik van en onderzoek naar AI. We streven ernaar om te blijven voldoen aan de hoogste wetenschappelijke en kwaliteitsnormen in ons onderzoek om de veiligheid te garanderen en onze bevindingen te blijven delen. 

Aanspreekbaar 

We schakelen deskundigen op het gebied van mensenrechten en technologie-ethiek in om ons te laten adviseren. We ontvangen ook feedback van onze klanten en nemen hun feedback mee in het volledige proces van het ontwikkelen en gebruiken van AI. 

We geloven sterk in de kracht van iets teruggeven aan onze industrie en maatschappij. Dit doen we door samen te werken met gelijkgestemden in groepen binnen de industrie, maatschappelijke fora en via de overheid (bijvoorbeeld US National Institute of Standards and Technology, US National AI Advisory Committee, Singapore’s Advisory Council on the Ethical Use of AI and Data). Zo kunnen we de combinatie van onze principes en de praktijk constant blijven verbeteren. 

Onze medewerkers krijgen constant de kans om anoniem vragen te stellen en zorgen te uiten via Slack, e-mail en een online systeem waar zorgen kunnen worden geuit. 

Transparant 

Transparantie gaat niet alleen over de vraag waarom we onze modellen gebruiken, maar ook waarom die modellen de voorspellingen of aanbevelingen doen die ze doen. Daarom delen we onze modelkaarten waarin beschreven staat hoe onze modellen zijn ontworpen, wat de bedoeling is van de modellen, wat mogelijke ethische en maatschappelijke implicaties zijn en hoe hoog het model scoort. We vinden het belangrijk om te kunnen uitleggen wat onze modellen doen en waarom ze dat doen wanneer AI een aanbeveling of voorspelling doet. 

Onze klanten zijn altijd de baas over hun eigen data en modellen. De data die wij opslaan, is geen bezit van Salesforce – het is van de klant. Daarom werken we met een duidelijke gebruiksovereenkomst. Daarin staat uitgelegd wat Salesforce’ AI kan doen en waar het voor bedoeld is. 

Versterkend 

Kunstmatige intelligentie is voor veel mensen abstract, maar dat willen wij graag veranderen. We willen dat niet alleen ervaren datawetenschappers, maar technische mensen van alle niveaus zelf AI-applicaties kunnen bouwen. Zonder code. Daarbij ontwikkelen en leveren we gratis AI-scholing via Trailhead. Zo kan iedereen de kennis opdoen die je nodig hebt om aan werk te komen in deze Vierde Industriële Revolutie. Denk hierbij aan tools waarmee je schade kunt meten, waarmee je automatisch modelkaarten (een soort voedingswaardelabel voor modellen) kunt invullen en in-app begeleiding zodat klanten weten hoe ze AI op een verantwoorde manier kunnen gebruiken. 

Het Salesforce AI-team zet zich enorm in om ervoor te zorgen dat mogelijke doorbraken op het gebied van onderzoek naar AI gedeeld worden met onze klanten, zodat zij vooraan staan op het gebied van kennis over de technologische voordelen van AI. 

Inclusief 

We testen onze modellen met diverse en representatieve datasets die representatief zijn voor de manier waarop het model gebruikt moet gaan worden. We willen uiteindelijk dat de AI-diensten toepasbaar zijn voor een diverse groep klanten, eindgebruikers en contexten. Dit is inclusief Consequence Scanning Workshops en Build with Intention Workshops. Om dit voor elkaar te krijgen, stellen we inclusieve teams samen waarin diverse ervaringen en standpunten samengebracht worden, wat vervolgens weer overeenkomst met één van onze kernwaardes: gelijkheid. 

We zijn één en we doen dit samen

Bij Salesforce geloven we dat ethisch gebruik van vergevorderde technologie zoals AI een toenemend complex probleem is. Niet alleen bij ons, maar binnen onze volledige industrie. We gaan daarom graag in gesprek met onze medewerkers, klanten, partners en de maatschappij waar wij deel van uitmaken. 

Door samen te komen en samen uitdagingen aan te gaan en op te lossen, weet je zeker dat je een probleem aanvliegt vanuit verschillende perspectieven en met diverse ervaringen. Zo kunnen we samen een positief verschil maken in de wereld van AI. En zo kunnen we er uiteindelijk voor zorgen dat de ontwikkeling van AI zo verloopt dat AI ons helpt om de mens te versterken.