El 89% de los líderes de TI están preocupados por los fallos de la IA Generativa

Francisco Carrasco M. 11 de feb. de 2025 Lectura de 4 minutos

Sophos publicó «Más allá del Hype: La realidad empresarial de la IA para la ciberseguridad», una encuesta a 400 responsables de TI. El sondeo reveló que pese a que el 65% ha adoptado funciones de inteligencia artificial generativa (GenAI), al 89% de los directores de TI les preocupa que los fallos en las herramientas de ciberseguridad GenAI puedan poner en riesgo a su organización.

Además, según revela la nueva investigación de Sophos X-Ops, «Los ciberdelincuentes aún no se han subido al tren de la IA (todavía)», se ha producido un ligero pero notable cambio en la forma en que los ciberdelincuentes utilizan la IA. Tras investigar varios foros clandestinos, Sophos X-Ops ha descubierto que, aunque todavía hay escepticismo sobre la IA Generativa, algunos delincuentes la están utilizando para automatizar tareas rutinarias, como la elaboración de correos electrónicos masivos y el análisis de datos, mientras que otros la están incorporando a toolkits de spam e ingeniería social.

Chester Wisniewski, Director Global Field CTO de Sophos, explica que “como con muchas otras cosas en la vida, el mantra debería ser ‘confía, pero verifica’ en lo que respecta a las herramientas de IA generativa y recalca que:

"[...] en realidad, no hemos enseñado a las máquinas a pensar; simplemente les hemos proporcionado el contexto para acelerar el procesamiento de grandes cantidades de datos. El potencial que tienen estas herramientas para acelerar las cargas de trabajo en seguridad es asombroso, pero sigue siendo necesario el contexto y la comprensión de un supervisor humano para que este beneficio se haga realidad”.

Contando con alguna forma de IA integrada en la infraestructura de ciberseguridad del 98% de las empresas encuestadas, los responsables de TI expresan su preocupación por una posible dependencia excesiva de la IA, con el 87% de los encuestados reconociendo ciertas aprensiones respecto de la consecuente falta de responsabilidad en materia de ciberseguridad.

Al utilizar la GenAI, Sophos observa diferentes prioridades, en función del tamaño de la empresa. Mientras que las grandes organizaciones (más de 1.000 empleados) prefieren la mejora de la protección, los encuestados con entre 50 y 99 empleados califican la reducción del burnout como su principal beneficio deseado del uso de las herramientas de IA Generativa.

Sin embargo, para complicar las cosas, en todos los tamaños de empresas, el 84% de los responsables encuestados dicen estar preocupados por la presión para reducir el número de profesionales de ciberseguridad debido a expectativas poco realistas sobre las capacidades de la IA para reemplazar a los operadores humanos.

Otras conclusiones clave del informe

Los costos de la IA Generativa son difíciles de cuantificar. Según la investigación, el 75% de los directores de TI coinciden en dicha afirmación.

Las empresas cuentan con ahorrar gracias a la IA Generativa: Aunque el 80% de los encargados de TI creen que GenAI aumentará significativamente el costo de las herramientas de ciberseguridad, la mayoría de las organizaciones creen que la IA Generativa ofrece una vía para reducir el gasto total en ciberseguridad, ya que el 87% de los encuestados cree que los ahorros de GenAI compensarán los costos.