Skip to Content

La IA: de riesgo en ciberseguridad a un punto fuerte de su empresa

Un caballero con traje de negocios se encuentra con un escudo de inteligencia artificial, simbolizando a un Director de Seguridad de la Información (CISO) trabajando en el liderazgo de ciberseguridad impulsado por la inteligencia artificial.
Como líder de ciberseguridad en tu organización, tu rol es neutralizar los riesgos para que tus colegas puedan trabajar, colaborar e innovar con total libertad. [Adobe Stock | Rowan Clancy, Salesforce]

Las empresas están invirtiendo en IA para transformar su productividad. Para los CISO, la IA debe mejorar la seguridad, no ponerla en riesgo.

Dentro de la organización, su función como líder de ciberseguridad (CISO) es neutralizar los riesgos para que sus compañeros trabajen, colaboren e innoven sin problemas. Por eso, las nuevas integraciones tecnológicas deben ser resilientes y no disminuir las defensas. Y aquí es donde puede entrar en juego la IA.

William MacMillan, el antiguo director de seguridad de la información (CISO) de la Agencia Central de Inteligencia (CIA), explica: «El objetivo de la ciberseguridad es fomentar un entorno empresarial propicio. La seguridad debería ser algo implícito en cualquier trabajo».

La manera de conseguir esto hoy en día es adoptar la IA de forma segura.

La IA aporta muchas ventajas a su empresa: mejora los tiempos de resolución de casos del servicio de atención al cliente, crea contenido personalizado de marketing a escala y optimiza como nunca los procesos de toda la organización. Por ejemplo, Santander cuadruplicó las conversaciones diarias con los clientes gracias a Agentforce, que proporciona información valiosa, personalizada y en tiempo real a los gestores de relaciones.

Sin embargo, para los CISO, hay que replantearse la estrategia de seguridad con la IA, ya que su empresa no será la única en implantarla. Los hackers pueden utilizar la IA generativa para diseñar rápidamente correos electrónicos de phishing, páginas de inicio y otros materiales de marca más creíbles. Esto puede engañar a sus compañeros y hacer que al equipo le cueste evitarlos.

Descubra estrategias de IA generativa de confianza

Prepárese para el futuro con nuestra guía sobre IA generativa de confianza. Explore las estrategias clave de seguridad de datos y cómo Salesforce Platform puede mejorar sus iniciativas de IA.

¿Cuáles son los riesgos clave y las dificultades técnicas de los profesionales de seguridad asociados con la adopción de la IA?

¿Están protegidos sus datos?

¿Sus compañeros introducen datos confidenciales en las herramientas de IA que utilizan? ¿Las empresas que hay detrás de estas herramientas utilizan (o venden) esos datos? Estas filtraciones de datos pueden darle mala imagen y salirle caras. Generative AI Snapshot Research de Salesforce muestra que casi el 60% de las personas que planean utilizar la IA generativa afirmó no saber hacerlo con fuentes de datos fiables o protegiendo los datos confidenciales.

¿Están preparados sus empleados?

Tanto si su organización cuenta con una estrategia de IA como si no, es probable que los empleados la vayan utilizando cada vez más. Una investigación de Salesforce mostró que casi un tercio de la población del Reino Unido ya utiliza la IA generativa. Por lo tanto, es recomendable que hables con sus compañeros para saber cómo utilizan la IA y les enseñe a hacerlo de forma segura. Una plantilla informada es una plantilla segura. Para los CISO, tener conocimientos sobre la IA debe ser parte de la cultura de la empresa.

¿Se puede confiar en sus resultados?

Las alucinaciones de la IA se producen cuando esta se inventa cosas sin sentido, y esto puede dañar la imagen de su empresa y hacer que se perciba como poco profesional.

¿Cómo puede un CISO convertir la IA en un punto fuerte?

1. Reduzca los vectores de ataque 

Normalmente, al añadir nuevas tecnologías a su infraestructura de TI, estas se convierten en nuevos puntos débiles que puede aprovechar el malware. En lugar de añadir una capa de IA sobre sus datos, puede reducir la fricción de las nuevas herramientas combinando datos, IA, CRM, desarrollo y seguridad en una única plataforma integral.

Combinar los servicios ofrece muchas ventajas, como una seguridad de datos con menos puntos débiles, más facilidades para el usuario, visibilidad de TI y valor operativo. Por ejemplo, el Aeropuerto de Heathrow utilizó Salesforce para conectar sus servicios digitales y aumentó sus ingresos digitales en un 30%.

2. Utilice la IA generativa en el SOC

La IA generativa puede reforzar la ingeniería de detección, ya que permite que los analistas del Centro de operaciones de seguridad (SOC) y otros profesionales de la seguridad lleven a cabo más detecciones a un ritmo mucho mayor, analicen conjuntos de datos bastante más grandes y simulen escenarios de ataque a escala. También da más tiempo a su equipo para realizar análisis mediante la automatización de sus tareas rutinarias manuales, como la generación de informes sobre permisos y accesos.

3. Implemente una arquitectura de retención de datos cero

La base para implementar una IA segura es una gobernanza de datos sólida, por lo que debe buscar una arquitectura de retención de datos cero. Esta proporciona controles de datos y privacidad sin fisuras, e incluye recuperación de datos segura, fundamentación dinámica y enmascaramiento de datos. De esta forma, los equipos pueden aprovechar las ventajas de la IA sin poner en riesgo los datos de los clientes.

Por ejemplo, Salesforce colabora con Open AI y Azure Open AI para reforzar su política de retención de datos cero. Ningún LLM de terceros utiliza datos para entrenar modelos de LLM ni mejorar productos, ni tampoco retiene dichos datos. También se garantiza que ninguna persona de la empresa externa vea los datos que se envíen a su LLM.

4. Implemente gobernanza de IA y formación sólidas

Aprender a utilizar las herramientas de IA puede ser algo increíble, incluso divertido. En cambio, aprender sobre los protocolos de seguridad no lo es tanto. Para que la información cale, debe integrar formación sobre seguridad, políticas y ética en el uso de la IA en la formación general sobre IA. También es recomendable establecer un equipo que supervise la implementación de la IA y garantizar el cumplimiento de las políticas y normativas.

5. Deshágase de la toxicidad

Algunas arquitecturas de datos pueden mitigar la toxicidad y los resultados perjudiciales a través de medidas como la detección y la auditoría de toxicidad. De esta forma, una persona revisará los resultados antes de compartirlos, lo que permite registrar todos los pasos como metadatos para el seguimiento de auditoría, simplificando así el cumplimiento.

6. Ponga en práctica sus planes de respuesta ante incidentes

Quienes trabajan en ciberseguridad saben que se producirán ataques y que deben estar listos para reanudar las operaciones lo antes posible. Lo mismo sucede con quienes trabajan con IA. Cree planes de respuesta rápidos específicamente para las amenazas y vulnerabilidades relacionadas con la IA y practique con ellos.

7. Colabore con expertos en IA

Como responsable de protección de la empresa, no puede dedicar todo su tiempo en especializarse en seguridad de IA. Por lo tanto, trabajar con partners de confianza le ayudará a estar al tanto de las nuevas amenazas y a contar con soluciones de seguridad innovadoras.

El futuro de la IA y la seguridad

Su función como líder de seguridad es más importante que nunca en la era de la IA. Si los CISO se centran en lograr una gobernanza de datos sólida y una cultura con conciencia sobre la seguridad, así como en elegir las herramientas correctas, no solo mitigarán los riesgos asociados con la IA, sino que también la utilizarán para mejorar la seguridad.

Lo bueno es que las oportunidades que ofrece la IA en cuanto a innovación, eficiencia y crecimiento superan a los retos que esta supone. Por tanto, si como CISO es capaz de compensar estas oportunidades con seguridad, su organización avanzará sobre una base sostenible de seguridad de IA.

¿Alguna pregunta?
Nosotros le ayudamos

Reciba nuestro boletín quincenal con las últimas novedades sobre negocios.