América Latina: cómo una aproximación ética y responsable facilita la innovación y confianza

Big Data, Inteligencia Artificial (IA) y computación en la nube son sin duda tecnologías que escuchamos en la cotidianidad y que son también cada vez más adoptadas por las empresas alrededor del mundo. Pero su grado de madurez, acceso y uso es diferente en las distintas regiones. Según el Índice de Desarrollo del Ecosistema Digital elaborado por la CAF Banco de Desarrollo de América Latina, América Latina se encuentra en una posición intermedia, con 49 puntos sobre 100. Esta cifra contrasta fuertemente con Europa Occidental (con 71 puntos), América del Norte (con 80,8), los Estados Árabes (55,5) y Europa del Este (52,9). En el white paper “Una mirada desde América Larina al uso responsable de las nuevas tecnologías”, comisionado por Salesforce y desarrollado por SmC+, disponible para descargar aquí, intentamos ofrecer un panorama de cómo está parada nuestra región frente a estos nuevos desarrollos y proponemos una guía para el trabajo conjunto.

La población latinoamericana considera que las nuevas tecnologías habilitaron prácticas positivas como comunicarse con amigos y familiares, compras más sencillas en línea y sobre todo el teletrabajo. Sin embargo, la región aún no toma un rumbo claro con respecto al uso de este tipo de soluciones. Es por ello que se vuelve imperativo generar una discusión que involucre a todas las partes interesadas sobre el uso responsable de estas tecnologías: usuarios, las instituciones educativas, las empresas y el gobierno.

Salesforce, el CRM número 1 del mundo, es una empresa impulsada por valores y que busca mejorar el mundo a través de, justamente, la tecnología. Para esto busca ayudar a la creación de relaciones más sólidas: entre las empresas y sus clientes, entre trabajadores y equipos remotos, entre los gobiernos y sus ciudadanos; y entre las personas que quieren generar un cambio. Pensando en esto, en conjunto con SmC+ Digital Public Affairs, se desarrolló el reporte “Una mirada desde América Latina al uso responsable de las nuevas tecnologías”, que funciona como una guía para las compañías, instituciones y gobiernos que busquen impulsar la innovación a través de un uso ético.

Salesforce, en conjunto con Americas Society/Council of the Americas (AS/COA), organizó una mesa redonda multistakeholder sobre “Uso Responsable de Nuevas Tecnologías en Latinoamérica” con expertos de gobiernos, empresas, academia y sociedad civil de la Región:

El arduo camino hacia la adopción de nuevas tecnologías

América Latina cuenta con diversos factores en contra para el progreso de esta discusión, entre ellos destacan cinco. El primero, y uno de los más evidentes, es la gran brecha de uso de internet. Un reporte de la GSMA detalló que en el 2021, 410 millones de personas (62%) contaban con conexión a Internet. Lo interesante es que 230 millones de personas (35%) cuentan con cobertura pero no hacen uso del Internet y unos 20 millones no cuentan con conectividad (3%).

El segundo factor se da en el sector empresarial. Las compañías buscan empleados capacitados en tecnologías como Inteligencia Artificial para el desarrollo de sus negocios pero no los encuentran. A esto se suma el temor de los empleados que piensan que en los próximos años perderán sus trabajos debido a la robotización. La población cree que está en mano de las empresas el educar a sus actuales empleados y ofrecerles las habilidades necesarias para el futuro del trabajo.

Un tercer factor que influye en la lentitud para la adopción de nuevas tecnologías es la falta generalizada de confianza en las personas y en las instituciones. Los latinoamericanos consideran que la transformación digital incrementa el comportamiento oportunista presente en el mundo analógico, en lugar de atenuarlo. El 76,8% cree que compartir sus datos personales implica más riesgos que beneficios.

El nivel bajo de ciberseguridad en América Latina es el cuarto punto. Los latinos se muestran reticentes a usar tarjetas de crédito o usar cuentas bancarias ya que tienen miedo de ser víctimas de robo de identidad además del exponencial número de ciberamenazas. Un análisis realizado en 2020 por el BID y la OEA reveló que: 25 de 32 países no tienen un plan de protección de infraestructura crítica; 12 países carecen de equipos de respuesta ante incidentes, en 20 países falta una estrategia nacional de ciberseguridad; y 22 no cuentan con una entidad pública encargada de la gestión nacional del tema.

Finalmente, el cuarto factor es la limitada cultura de datos y escasa transparencia en la región. En América Latina se generan muchos más datos de los que se usan para tomar decisiones, realizar predicciones o desarrollar nuevos productos y servicios para promover la innovación. Estos datos no suelen ser usados por los ciudadanos, instituciones públicas o privadas. Muchos de los Estados se están esforzando para poner en valor la información pública y abrir los datos de forma interoperable pero aún falta un largo camino.

Descarga el estudio comisionado por Salesforce hecho por SmC+ acerca del uso responsable de las nuevas tecnologías

Confianza: la clave para un uso responsable de la tecnología

Sin lugar a dudas, esta Cuarta Revolución representa un gran potencial para el desarrollo de América Latina pero hay que tener en cuenta que no todas las nuevas tecnologías tienen el mismo nivel de impacto y utilidad. Soluciones como el blockchain, la IA, el Internet de las Cosas, la computación en la nube, la robótica y la automatización pueden implementarse perfectamente en industrias como la salud, la manufactura, la alimentación, el transporte y otros, pero en todos los casos, para funcionar necesitan desarrollarse en un marco de confianza entre las partes. Sin confianza no hay transacciones en línea, atención al cliente y otras miles de utilidades que pueden ayudarnos en la vida.

Entre las empresas que operan en la región, las tecnologías más adoptadas son la computación en la nube (55%), la big data y el análisis de datos (41%), las plataformas digitales (41%) y las soluciones basadas en IA (35%). Si hablamos de IA, las empresas la usan principalmente para atención al cliente (50%), temas de venta y marketing (36%), automatización (33%) y seguridad (31%).

Descarga el estudio comisionado por Salesforce hecho por SmC+ acerca del uso responsable de las nuevas tecnologías

Una encuesta de IPSOS a personas de 28 países, entre los cuales participaron Perú, Argentina, Chile, Colombia, México y Brasil, las personas esperan que la IA mejore su situación en varias áreas como la Educación, Seguridad, Empleo, Shopping y Transporte, entre otros. Es decir, los latinos no están necesariamente en contra de este tipo de tecnologías y esto representa una gran oportunidad para los principales actores de la sociedad para generar una ruta hacia el uso responsable para que efectivamente les sirva a los ciudadanos, las empresas y gobierno.

Los abordajes y discusiones se abren paso en la agenda pública, pero de forma aún incipiente y discontinua conforme cambian las administraciones. Aquí destacamos que el Sistema Interamericano de Derechos Humanos es una base que necesariamente debe ser tenida en cuenta para las discusiones de abordajes regulatorios en la región.

Cuatro principios comunes para las nuevas tecnologías en América Latina

El desafío para la adopción responsable de las nuevas tecnologías en la sociedad responde a la ética de todos los actores: personas, empresas e instituciones educativas y gobierno. Para ello, es necesario que la región se enfoque en cuatro principios de los cuales hoy hay cierto consenso y que podemos resumir en los siguientes: responsabilidad, transparencia, representatividad y seguridad.

Cuatro principios comunes para las nuevas tecnologías en América Latina

Este punto hace referencia a dar cuenta de los usos de los productos y servicios, anticipar posibles efectos negativos y dar respuesta ante incidentes. Esto implica tener en cuenta para qué y cómo se emplean las nuevas tecnologías y realizar un seguimiento de forma constante. En América Latina se cuenta con el Sistema Interamericano de Derechos Humanos para esta regularización, además de órganos que lo componen como la Comisión y la Corte Interamericana de Derechos Humanos (CIDH y Corte IDH, respectivamente).

Transparencia

Hace referencia a la apertura de información sobre el funcionamiento de los sistemas y los datos. Algunas plataformas digitales ya incluyen explicaciones acerca de por qué un usuario ve un determinado contenido.

Representatividad

En este punto se toma en cuenta a la población o personas con características diferentes para reducir la probabilidad de sesgos tecnológicos. Hay que tener en cuenta que no se pueden eliminar al 100% los sesgos pero sí reducirlos drásticamente. Si no se toman en cuenta, la tecnología terminará por reproducirlos, ignorando a las minorías. Considerando la gran diversidad de América Latina, es importante tener este punto en mente al trabajar con nuevas tecnologías.

Seguridad

Para aumentar la confianza en las nuevas soluciones tecnológicas, es necesaria la protección de la privacidad y de los datos de los usuarios. Es necesario que empresas y gobiernos sean especialmente cuidadosos con el tratamiento de datos sensibles y que tengan mapeados todo tipo de escenarios para prevenir riesgos de seguridad. Descarga el estudio comisionado por Salesforce hecho por SmC+ acerca del uso responsable de las nuevas tecnologías

El papel de Salesforce

La compañía cuenta con un papel activo en la discusión global sobre el uso responsable de la tecnología. Desde 2018, el CEO de la compañía Marc Benioff anunció la creación de la Oficina de Uso Humano y Ético. Salesforce cree firmemente que la tecnología es una herramienta, y que como tal debe ser usada para ayudar y no para dañar a nuestras sociedades.

Por este motivo, elaboró una serie de principios que guían su proceso de toma de decisiones. Estos son: Derechos Humanos, Privacidad, Seguridad, Honestidad e Inclusión. A esto se le suma los principios específicos que la compañía realizó para la Inteligencia Artificial, que avanza a pasos agigantados:

• Responsabilidad: debe respetar los derechos humanos de los usuarios y tiene un compromiso con la salvaguarda de los datos que utiliza.
• Rendición de cuentas: debe respetar las regulaciones correspondientes y estar en continuo proceso de mejora en base al feedback de sus usuarios.
• Transparencia: una IA ética es la que es clara sobre cómo se desarrolló y cuáles son sus limitaciones.
• Inclusión: debe respetar los valores de todos los involucrados, no solo los de sus desarrolladores.
• Empoderamiento: debe promover el crecimiento económico y el aumento del empleo, beneficiando a la sociedad.

Herramientas y procesos necesarios para el uso responsable de las tecnologías

Los principios antes mencionados no se pueden ejecutar si no se cuentan con las herramientas y procesos necesarios que permitan ponerlos a la práctica. Para ello destacamos algunos que pueden ser útil tener en cuenta a la hora desarrollar soluciones basadas en esta nuevas tecnologías:

1. Planes, pasos y responsabilidades articulados para integrar la ética desde el diseño: es necesaria la incorporación de una perspectiva ética, que se beneficia si se da a lo largo de toda la organización. La integración permite alinear las acciones a lo largo de todos los miembros y asegurar prioridad y recursos. Definir metas posibilita la evaluación y refinamiento continuo de los procesos.

2. Multidisciplinariedad y equipos diversos, con capacitación continua: se deben tener equipos con variedad de género, edad, orígenes, disciplinas y preocupaciones, que aumentan la creatividad, el intercambio y perspectiva, con un mayor retorno en innovación.

3. Análisis de riesgo e impacto con consultas a organizaciones y grupos externos: este punto trata sobre ejercicios de escenarios alternativos para analizar todos los posibles casos de uso y sus efectos. Lo central en estas dinámicas es ponerse en el lugar de otros usuarios y pensar qué impacto podría tener en sus vidas. También se puede contar con el apoyo de otros actores de la sociedad civil para la prueba y consulta para divisar problemas o sugerir cambios para que los productos y servicios se ajusten a un uso responsable.

4. Transparencia de las principales variables de los desarrollos: significa brindar información sobre la forma de funcionar de los productos y servicios.

5. Umbral de estándares éticos mínimos para sacar productos al mercado: evitar daños y errores es mucho más efectivo en todo sentido que corregirlos más tarde. El caso más patente en el último tiempo ha sido el del reconocimiento facial, pero para la confianza en las nuevas tecnologías es importante la existencia de altos estándares que exijan y respalden los desarrollos.

6. Revisión del feedback de usuarios y respuestas a dudas y comentarios: la minimización de riesgos y sesgos, así como el perfeccionamiento de modelos estadísticos son procesos constantes y se realizan de la mano con usuarios.

Descarga el estudio comisionado por Salesforce hecho por SmC+ acerca del uso responsable de las nuevas tecnologías

Teniendo en cuenta todos estos puntos, las empresas y los gobiernos en América Latina podrán utilizar las nuevas tecnologías para desarrollar mejoras en distintas áreas como la salud, la economía, la educación, entre muchas otras. Las empresas con compromiso ético tienen espacio para posicionarse como la mejor alternativa para atender las preocupaciones de las personas. Es así como aquellos que logren instalar los debates respecto de la necesidad de un uso ético aumentarán la confianza en sus desarrollos, generando una ventaja comparativa para liderar el sector incluso antes que estas nuevas tecnologías se vuelvan predominantes en la región.

Para finalizar, proponemos en el trabajo cuatro ejes de trabajo común para la región en torno a la generación de confianza, que necesita apoyarse del conocimiento y la transparencia, los cuales a su vez son condición necesaria para la inclusión, y finalmente desde allí trabajar en la innovación y la generación de oportunidades.