Descubre los Principios de IA de confianza de Salesforce

En Salesforce, nos guían nuestros cinco valores básicos: la confianza, el éxito del cliente, la innovación, la igualdad y la sostenibilidad. También estamos profundamente comprometidos con el desarrollo y despliegue responsables de nuestra tecnología, bajo la supervisión de nuestra Oficina de uso ético y humano.

Una de las tecnologías emergentes que ofrece un gran potencial de mejorar la situación del mundo es la Inteligencia Artificial (IA), puesto que aumenta la inteligencia humana, amplifica las capacidades de las personas y proporciona datos útiles que generan mejores resultados para nuestros empleados, clientes y socios.

Creemos que las ventajas de la IA deberían ser accesibles para todo el mundo. Pero no es suficiente proporcionar solo las capacidades tecnológicas de la IA, tenemos una responsabilidad importante en garantizar que esta tecnología sea segura e inclusiva para todos. Nos tomamos dicha responsabilidad muy seriamente y estamos comprometidos en proporcionar a nuestros empleados, clientes y socios las herramientas que necesitan para desarrollar y usar la IA de forma segura, precisa y ética.

Nuestros Principios

En 2018, empezamos a articular nuestros Principios de IA de confianza y quisimos asegurarnos de que eran específicos para los productos, casos prácticos y clientes de Salesforce. Fue un proyecto que nos llevó un año en que solicitamos comentarios de colaboradores individuales, responsables y directivos en todos los equipos de la empresa, desde Ingeniería y Desarrollo de productos a UX, Ciencia de datos, Legal o Igualdad, pasando por Asuntos gubernamentales o Marketing. Los directivos en todos los equipos y roles aprobaron los Principios, y entre los firmantes se encontraban los, por entonces, codirectores generales de la empresa, Marc Benioff y Keith Block. Como describimos en nuestro Modelo de madurez ética de IA, aunque este viaje parezca largo, es una experiencia formativa importante que garantiza que todas las personas de nuestra empresa han aportado su parte, comprenden su responsabilidad ante dichos Principios y aceptan implementarlos en su día a día.

Garantía

Nos esforzamos por salvaguardar los derechos humanos, por proteger los datos que se nos confían, por cumplir los estándares científicos y por aplicar políticas contra el abuso. Esperamos que nuestros clientes usen nuestra IA de forma responsable y cumplan los acuerdos que han firmado con nosotros, como la Política de Uso Aceptable.

Responsabilidad

Creemos que somos responsables ante nuestros clientes, socios y la sociedad en general. Buscaremos opiniones independientes para mejorar continuamente nuestra práctica y nuestras políticas y trabajaremos para mitigar los riesgos de nuestros clientes y consumidores.

Transparencia

Trabajamos para garantizar que nuestros clientes comprenden el porqué detrás de cada recomendación y predicción de la IA para que puedan tomar decisiones más bien fundamentadas, identificar los resultados accidentales y mitigar los problemas.

Empoderamiento

Creemos que la IA es más útil cuando trabaja junto a la capacidad humana, aumentando la capacidad de las personas y permitiéndoles tomar mejores decisiones. Aspiramos a crear tecnologías que empoderen a todas las personas para que sean más productivas y aporten más a sus organizaciones.

Inclusividad

La IA debe mejorar la condición humana y representar los valores de todas las partes implicadas, no solo los creadores. Haremos avanzar la diversidad, promoveremos la igualdad y facilitaremos la equidad mediante la IA.

De los Principios a la práctica

No basta con tener un conjunto de principios. La ética es un deporte de equipo y, para que sea relevante, todas las personas de una empresa deben comprender sus responsabilidades ante tales principios. A continuación, mostramos ejemplos de cómo llevamos nuestros Principios a la práctica. 

Garantía

Antes de desarrollar una función de IA, empezamos preguntándonos no solo si podemos hacer algo, sino también si deberíamos. Trabajamos con expertos en derechos humanos externos para aprender, crecer y descubrir de forma constante nuevas formas de proteger los derechos humanos.

Educamos y empoderamos a nuestros clientes para tomar decisiones bien fundamentadas sobre cómo usar nuestra IA de forma responsable. Para ello, creamos herramientas y recursos para ayudar a los empleados, clientes y socios de Salesforce a identificar y mitigar los sesgos en los sistemas que construyen y usan (por ejemplo, dando aviso cuando un modelo utiliza categorías de datos protegidos y variables proxy, lo cual ofrece transparencia sobre factores que tienen gran influencia sobre las predicciones individuales). De esta forma, permitimos a nuestros clientes y socios comprender la responsabilidad que tienen de adoptar la IA de forma segura y fiable.

Nos ceñimos a las prácticas de seguridad y privacidad más estrictas para ayudar a anticiparnos y mitigar problemas accidentales y lograr que nuestros productos sean seguros. Cumplimos todas las leyes aplicables que rigen la investigación en IA y su uso. También nos esforzamos por cumplir los estándares científicos y de calidad más altos en nuestros estudios, garantizando la seguridad y compartiendo los resultados mediante publicaciones revisadas por iguales, conferencias y eventos del sector.

Responsabilidad

Nos implicamos con expertos externos en derechos humanos y ética tecnológica mediante talleres y nuestro Consejo asesor de uso ético. También pedimos a nuestros clientes que nos hagan llegar comentarios mediante la Juntas asesoras de clientes y el diálogo abierto para incorporarlos en nuestro proceso de deliberación.

Creemos en la importancia de devolver al sector y la sociedad lo que hemos recibido de ellos, y en colaborar con nuestros iguales mediante grupos sectoriales, foros de la sociedad civil y organizaciones gubernamentales (como el Instituto nacional de estadística y tecnología de los EE. UU., el Comité nacional de asesoría en IA de los EE. UU. o el Consejo asesor de Singapur sobre el uso ético de la IA y los datos) para mejorar continuamente nuestras prácticas y políticas.

Damos pie a que nuestros empleados formulen preguntas y compartan sus preocupaciones mediante canales como nuestro sistema de información y gobernanza corporativo online totalmente anónimo, canales de Slack y direcciones de correo grupales.

Transparencia

La transparencia no solo incluye cómo construimos nuestros modelos, sino también por qué estos hacen las predicciones o recomendaciones que hacen. Publicamos tarjetas de modelos que describen cómo se han creado los modelos, cuáles son los casos prácticos para los que se han diseñado y para los que no, las implicaciones éticas o sociales conocidas y puntuaciones de rendimiento. También proporcionamos explicabilidad de los modelos sobre las predicciones y recomendaciones que ofrece la IA.

Permitimos a los clientes conservar el control de sus datos y modelos en todo momento. Los datos que gestionamos no pertenecen a Salesforce, sino al cliente. También ofrecemos al cliente términos de uso claros y detallamos los usos prácticos para los que sea han diseñado las capacidades de IA de Salesforce.

Empoderamiento

Trabajamos para eliminar la complejidad de la IA para que todas las personas, independientemente de sus habilidades tecnológicas, puedan construir aplicaciones de IA con solo clics en lugar de código, de forma que no solo puedan trabajar en ello los científicos de datos avanzados. Además, creamos y ofrecemos formación en IA gratuita mediante Trailhead para permitir a cualquiera desarrollar las habilidades necesarias en los empleos de la cuarta revolución industrial. Esto incluye herramientas como medir el impacto dispar (una definición del sesgo) y rellenar automáticamente tarjetas de modelos (el equivalente a las etiquetas de nutrición de los alimentos para modelos de IA), así como proporcionar orientación en las aplicaciones para que los clientes sepan cómo usar nuestra IA de forma responsable.

El equipo de IA de Salesforce tiene un firme compromiso por divulgar los avances académicos e informar sobre las nuevas categorías de productos a fin de garantizar que nuestros clientes están al día de nuestros avances tecnológicos.

Inclusividad

Probamos nuestros modelos usando los conjuntos de datos diversos y representativos que sean más adecuados para el uso para el cual se ha creado el modelo. Deseamos comprender el impacto de los servicios de IA en un amplio abanico de clientes, usuarios finales y contextos. Esto incluye realizar talleres de análisis de consecuencias y talleres de diseño con intención. Por último, velamos por mantener equipos inclusivos que representen experiencias y puntos de vista diversos, alineándonos así con nuestro valor básico de igualdad.

Todos somos uno. Estamos todos juntos en esto 

En Salesforce, creemos que el uso de tecnología avanzada como la IA es una cuestión de gran complejidad. Se debe dirimir de forma clara, no solo por parte de Salesforce, sino en el sector en general. Nos abrimos a un diálogo con múltiples partes interesadas que incluya a nuestros empleados, clientes, socios y comunidades.

Al trabajar juntos para resolver los retos que se abren ante nosotros, garantizamos que estos nuevos avances tendrán en cuenta las experiencias diversas, que podremos hacer un cambio positivo en el potencial de la IA y que impulsaremos su desarrollo con la perspectiva que nos ayudará a desarrollar al máximo el potencial humano.