Las repercusiones para tu empresa de la normativa sobre IA generativa

Infórmate de las novedades sobre la normativa de inteligencia artificial generativa. Nuestra directora de Política Pública Mundial analiza las repercusiones que puede tener para las empresas.

Cuando se promulguen leyes que afectan a la inteligencia artificial generativa, ¿tu empresa estará preparada?

¿Tienes dudas sobre implementar o no herramientas de inteligencia artificial generativa en tu empresa? No eres un caso único. Esta tecnología puede aumentar la productividad de los empleados; sin embargo, ¿es segura? Estas herramientas pueden ayudar en el marketing, la atención al cliente o el análisis exhaustivo de datos; ahora bien, los directivos tienen ciertas reservas sobre los posibles peligros y repercusiones en la sociedad y piden que se promulguen normativas.

Hechos que hace falta saber

• Ha empezado a fraguarse una respuesta reguladora en zonas como la Unión Europea y EE. UU.
• La normativa podría promulgarse rápidamente y cada gobierno puede aplicar una supervisión en diferentes grados..
• Los responsables de tomar decisiones deben comprender la IA generativa y cómo afecta a su trabajo con otras empresas y consumidores.

Según Danielle Gilliam-Moore directora de Política Pública Mundial de Salesforce, «la mayoría de los países solo intenta garantizar que la IA generativa esté sujeta a las medidas vigentes sobre privacidad, transparencia, derechos de autor y responsabilidad».

Medidas que ya puede aplicar tu empresa

• Examina los productos de IA generativa que se comercializan y determina cuáles se adecuan a tu negocio.
• Pregúntate lo siguiente: ¿Tengo que desarrollarlos internamente o trabajar con un proveedor externo, como Salesforce, para añadir sus productos a nuestra pila tecnológica?
• Ten en cuenta los riesgos. «Es importante saber cómo implementarás la IA generativa y estar al tanto de sus repercusiones», afirma Gilliam-Moore.

Resumen ejecutivo

Las noticias sobre AI generativa surgen a velocidad de vértigo y los organismos reguladores intentan comprender cómo esta tecnología puede afectar a las empresas y a las personas. Por ejemplo:

• Los líderes de la industria que trabajan en IA advierten que, si no se mantiene bajo control, esta tecnología supone una amenaza que puede terminar con la humanidad.
• Google y la UE colaboran para crear un «pacto sobre IA» que establezca reglas voluntarias provisionales mientras los legisladores preparan una normativa formal.
• La UE se plantea restaurar antiguas leyes para abordar los problemas de privacidad y seguridad que plantea la IA generativa.
• La Casa Blanca ha declarado que apoyaría la legislación sobre IA tras haberse reunido con directores generales de empresas de empresas tecnológicas.

Los orígenes de la normativa sobre IA generativa

Las preocupaciones sobre la inteligencia artificial se remontan a hace años, cuando se hablaba sobre la posible pérdida de puestos de trabajo, la desigualdad, los prejuicios, los problemas de seguridad y un largo etcétera. A causa del rápido crecimiento de la IA generativa tras el lanzamiento de ChatGPT en noviembre de 2022, han surgido nuevas polémicas:

• Problemas de privacidad y minería de datos: las empresas deben ser transparentes en la recopilación y el uso de datos.
• Derechos de autor: dado que las herramientas de IA generativa se nutren de vastas fuentes de datos, aumentan las posibilidades de plagio.
• Información errónea: la información falsa podría difundirse más rápidamente con chatbots de IA, que también son capaces de crear historias totalmente inexactas o datos erróneos, denominados alucinaciones.
• Verificación de la identidad: ¿el texto que lees lo ha creado un humano o un chatbot? Es necesario verificar los artículos, las publicaciones en redes sociales, el arte, etcétera.
• Protección de la infancia: Se ha hecho un llamamiento para proteger a la infancia y la adolescencia contra el contenido alarmante generado por inteligencia artificial en las redes sociales.

Esta situación ha hecho que los organismos reguladores de todo el mundo investiguen cómo la IA generativa recopila datos y genera contenido, y la IA que las empresas están desarrollando. En Europa, los países se han apresurado a aplicar el RGPD (Reglamento General de Protección de Datos), que afecta a cualquier empresa que trabaje en la UE. Es uno de los marcos jurídicos más sólidos sobre privacidad del mundo; EE. UU. no tiene una ley general de privacidad equivalente. Es posible que esa situación cambie, ya que se pide un incremento de la normativa sobre IA generativa.

«Son muchas de las mismas preocupaciones que ya habían aparecido en el sector tecnológico», indica Gilliam-Moore. «Las investigaciones y las iniciativas sobre reglamentación parecen centrarse en la privacidad, la moderación de contenido y los derechos de autor. La legislación ya aborda buena parte de estas cuestiones. Ahora los organismos legislativos intentan asegurarse de que sean adecuadas en el ámbito de la IA generativa».

Aspectos que las empresas deben tener en cuenta

Las empresas se preguntan cómo les afectarán estas herramientas. No solo por lo que sea capaz de hacer la tecnología, sino también la repercusiones que la normativa tendrá en las empresas. ¿De dónde proceden los datos? ¿Cómo se utilizan? ¿Se protege a los clientes? ¿Hay transparencia?

Sea cual sea el sector de tu empresa o con quién interactúas, (tanto si desarrollas la tecnología para otras compañías como si te relacionas directamente con los consumidores) asesórate legalmente sobre la IA generativa y que te orienten sobre el proceso.

Según Gilliam-Moore, «Hablar con asesores de confianza siempre es un primer paso muy recomendable». «La innovación tiene lugar a una velocidad increíble. Por lo tanto, todo lo que ahora está en boca de todos podría quedar desfasado en seis meses».

Los organismos reguladores se preocupan sobre cómo recopilan los datos las empresas y de qué forma reciben esa información los usuarios. Una política de uso aceptable, por ejemplo, un acuerdo a dos o más bandas que defina el uso adecuado cuando se accede a una red corporativa o a Internet, puede ayudar a asegurar el cumplimiento de la normativa. También es importante mostrar la procedencia de los datos, un rastro documentado que demuestre el origen y la ubicación actual.

«Sin los datos, nada de esto es factible», asegura Gilliam-Moore.

¿Cómo pueden cumplir la normativa las pequeñas empresas?

A menudo, las grandes empresas invierten en I+D en tecnología, sobre todo para cumplir la normativa. En cambio, es posible que las empresas más pequeñas no dispongan de recursos en este sentido. Por eso, es preciso formular las preguntas adecuadas a los proveedores y socios tecnológicos del ecosistema.

Aunque Salesforce está tomando medidas para desarrollar una IA generativa de confianza para sus clientes, estos también trabajan con otros proveedores y procesadores. Tienen que prestar atención a los posibles daños que puedan producirse y no confiar ciegamente. Según Gilliam-Moore, las empresas más pequeñas deberían plantearse cuestiones como las siguientes:

• ¿Cumples la normativa del GDPR?
• ¿Cumples la HIPAA (Ley de Transferencia y Responsabilidad de los Seguros Médicos) o cualquier otra ley que regule tu sector?
• ¿Tienes una política de uso aceptable?
• ¿Qué certificaciones tienes?
• ¿Cómo administras y tratas los datos?
• ¿Aplicas políticas que intenten supervisar la implementación de esta tecnología?

Según Gilliam-Moore, «las empresas pequeñas quizás tengan que confiar en que sus proveedores de servicios externos actúen con la diligencia adecuada. Deben tenerse en cuenta sus protocolos de privacidad, los procedimientos de seguridad y lo que identifican como perjuicios y garantías. Hay que prestar mucha atención a estos aspectos».