¿Cómo de ‘humano’ debería ser su agente de IA? En pocas palabras, no mucho

Los agentes de IA conversan naturalmente gracias al procesamiento del lenguaje, entendiendo, interpretando y generando respuestas como un humano. Pero, ¿hasta qué punto deberían parecerse a las personas?

En pocas palabras, no mucho. Diseñarlos así puede frustrar a los usuarios y generar falsas expectativas. El diseño de los agentes de IA resulta esencial. Debe centrarse en principios clave como inclusividad, fiabilidad y enfoque en las personas, asegurando una clara distinción entre humanos y tecnología. 

Se estima que el mercado de agentes de IA alcanzará los 47.000 millones de dólares en 2030, con alta demanda en atención al cliente, marketing y apoyo a empleados. Sin embargo, deben diseñarse como herramientas, no como compañeros.

Cuando un chatbot o un agente de IA se esfuerza demasiado por sonar como una persona, puede resultar contraproducente. Imagine que hace una pregunta seria sobre su cuenta bancaria o sobre una prueba médica y recibe una respuesta demasiado informal, podría creer que se trata de una persona real, pero cuando descubra que es un artilugio tecnológico, sentirá frustración y desconfianza. ¿Quiere respuestas reales o una IA intentando ser su nueva mejor amistad?.

Las empresas deben seguir directrices al crear un agente. Pueden sonar humanos, pero no deben imitarlos por completo. Los diseñadores de UX deben pensar en cómo ayudar a los usuarios a distinguir claramente entre agentes digitales y humanos, respondiendo a preguntas como: ¿deberían tener un nombre o usar pronombres? ¿deberían tener un avatar o incluso una persona real que los representes? ¿deberían captar las señales emocionales y responder en consecuencia?.

Yvonne Gando, directora sénior de experiencias de usuario de Salesforce, afirmó que las empresas podrían intentar humanizar a los agentes. Sin embargo, aconseja a las empresas a centrarse en la aptitud antes que en la personalidad, y resalta la importancia de mantener la distinción entre personas e IA.

Los agentes de IA deben potenciar a las personas, no intentar ser «personas digitales». Darles cualidades humanas genera expectativas irreales, ya que no pueden empatizar ni comprender emociones. Además, difuminar la línea entre humanos y máquinas puede llevar a vínculos emocionales innecesarios y problemas éticos o usos indebidos.

«Hay que centrarse en lo que necesita el usuario, no en la IA a la que se lo pide», comentó Gando. 

Estos son algunos principios básicos para diseñar agentes de IA. 

Primer principio para diseñar un agente de IA: Céntrese en el trabajo, no en el que lo desempeña

La labor del agente de IA es realizar tareas complejas, liberando a los trabajadores para atender problemas más relevantes y aumentar su productividad y eficiencia. Por tanto, habría que centrarse en las tareas, las actividades y los resultados que el usuario puede lograr gracias al agente, no en el propio agente. Antes de decidir asignar un género u otro rasgo humano al agente, pregúntese si es indispensable para que el agente haga su trabajo. Esto le ayudará a centrarse en las necesidades del usuario. 

«Si se confieren personalidades similares a las de las personas a los agentes de IA, los usuarios podrían empezar a pensar en ellos como si fueran personas», afirmó Gando. «Y si el agente no puede cumplir esas expectativas o no entiende bien una pregunta, los usuarios suelen sentirse decepcionados y perder confianza en la marca. Es mejor que las interacciones con la IA sean útiles y cordiales sin crear una falsa sensación de conexión humana».

Evita asignar pronombres a los agentes, ya que podría ser como darle la misma importancia que a un trabajador humano. En lugar de que un agente diga: «Quería darte estos documentos», considera que diga: «Aquí tienes unos documentos que podrían resultarte útiles».

Segundo principio para diseñar un agente de IA: Identifíquelos siempre como lo que son

Los agentes se están volviendo tan hábiles a la hora de comunicarse en lenguaje natural que puede ser difícil saber si estás hablando con una persona o con un artilugio tecnológico. En Estados Unidos, los estados de California, Utah y Colorado han aprobado leyes que exigen que se comunique el uso de bots en ciertas circunstancias. Dejando de lado la legislación, la práctica recomendada consiste en notificar inmediatamente el uso de IA al interactuar de cualquier forma con los clientes. 

«Siempre se debería iniciar una conversación sabiendo que se está interactuando con una IA», mencionó Gando. «Si el cliente no lo sabe, se produce una pérdida real de confianza y transparencia».

La solución Agentforce de Salesforce alerta por defecto a los administradores y a los gestores de agentes cuando van a implementar o usar agentes de IA. Las notas informativas garantizan que los destinatarios de los correos electrónicos generados por agentes sepan que los ha producido una IA. Un descargo de responsabilidad que no se pueda borrar ni editar debajo de la línea de la firma añade una capa extra de transparencia.

Si un agente de IA no entiende una solicitud o la petición va más allá de sus capacidades, debería pasársela de manera fluida a una persona. En ese caso, el agente debería comunicarle claramente al cliente que se ha transferido la solicitud. 

A modo de ejemplo, Agente de servicio de Einstein deriva automáticamente las preguntas o llamadas de atención al cliente más complicadas a personas en función de los parámetros que defina la empresa.

Tercer principio para diseñar un agente de IA: Mantenga una clara distinción entre los trabajadores digitales y humanos

Este mismo año, una compañía tecnológica de Recursos Humanos se enfrentó a un rápido descontento cuando anunció que «crearía registros de empleado oficiales para los trabajadores digitales», con su proceso de incorporación, sus propios jefes y un lugar en el organigrama de la empresa. 

¿La conclusión? A las personas no les gusta que las consideren iguales que las máquinas. Los agentes amplifican la labor humana potenciando el trabajo de las personas, lo que permite a las empresas operar a mayor escala sin que los costes se descontrolen. Los agentes no deberían considerarse compañeros de equipo ni partes interesadas, sino una parte de un flujo de trabajo. Si implementa agentes, apoye a sus trabajadores humanos invirtiendo en las habilidades de formación, creatividad y pensamiento crítico que hacen únicas a las personas.

Otro consejo: cuando ponga una etiqueta a un agente, céntrese en la función laboral en lugar de en el agente que la desempeña. Por ejemplo, se recomienda referirse al agente como «atención al cliente» o «renovaciones» y no como un «representante de atención al cliente» o un «gerente de renovaciones». 

Cuarto principio para crear un agente de IA: Tenga en cuenta la inclusividad, la accesibilidad y los principios de su marca

Los agentes de IA, especialmente aquellos que interactúan con los clientes, deben reflejar la voz y el tono únicos de tu marca. A modo de ejemplo, tanto un minorista de alta gama como una tienda de todo a un euro pertenecen al sector del comercio, pero tienen audiencias y expectativas muy distintas. Los agentes deben seguir el mismo principio. 

Como toda la tecnología, los agentes deben ser inclusivos y accesibles, con la capacidad de interactuar de diversas maneras. Es esencial asegurarse de que los usuarios con discapacidades puedan interactuar eficazmente con la IA, ya sea usando lectores de pantalla, con el teclado o mediante comandos de voz.

Salesforce ha desarrollado una serie de directrices para crear agentes éticos que pueden resultar útiles. 

Incluye opciones tanto de texto como de voz, de modo que pueda proporcionar respuestas textuales a los usuarios que prefieran o necesiten interactuar mediante texto y respuestas sonoras a quienes prefieran o necesiten interactuar con la voz. Use un lenguaje claro y directo que los usuarios puedan entender fácilmente. Esta claridad es especialmente importante para los usuarios con discapacidades cognitivas o para aquellos que usen servicios de traducción.

Use un lenguaje sencillo e inclusivo, y asegúrese de evitar sesgos, estereotipos y jerga que puedan confundir o echar atrás a los usuarios. 

«El agente debe ser accesible», declaró Gando. «Si es demasiado informal, parecerá que no te tomes en serio a los clientes. Y si es demasiado formal, será demasiado frío y cuadriculado. Hay que encontrar el equilibrio perfecto».  

Para asegurarse de ir por el buen camino, considere establecer procesos para enviar comentarios que permitan a los usuarios valorar la eficacia del agente. De esa forma, podrá aprender y adaptarse continuamente. 

Productividad antes que personalidad

Los agentes representan el próximo gran avance de la IA. Están aquí para mejorar la productividad, no para hacerse pasar por personas. Si se vuelca demasiado en hacer que parezcan personas, asumirá el riesgo de decepcionar a sus usuarios e impedir que vean el verdadero potencial de los agentes. Los agentes no necesitan nombres ni personalidades; solo necesitan funcionalidades para lograr resultados empresariales.