Los chatbots impulsados por IA continúan expandiéndose, y el más reciente desarrollo chino, DeepSeek, ha despertado interés tanto a nivel de usuario como en el ámbito corporativo. Según la investigación de Sophos, "Más allá del Hype: La realidad empresarial de la IA para la ciberseguridad", el 89% de los líderes de TI están preocupados por posibles fallos en la IA Generativa y su impacto en las estrategias de ciberseguridad.
Jonathan Munizaga
Chester Wisniewski, Director Global Field CTO de Sophos, advierte que:
“La naturaleza de 'código abierto' de DeepSeek lo abre a la exploración tanto de adversarios como de entusiastas. Al igual que con Llama, se puede jugar con él y, en gran medida, quitar las barreras de seguridad. Esto podría ser una fuente de problemas si los delincuentes deciden convertirlo en un arma, pero también es una oportunidad para que aficionados y creadores tengan un nuevo entorno para jugar”.
El estudio también señala que el 75% de los directores de TI consideran que los costos de GenAI en productos de ciberseguridad siguen siendo difíciles de cuantificar. Wisniewski destaca que los modelos más avanzados, como DeepSeek-R1 con 678 mil millones de parámetros, requieren una infraestructura costosa y recursos significativos, lo que lleva a la mayoría de las organizaciones a optar por soluciones en la nube.
Asimismo, el 99% de las organizaciones encuestadas por Sophos afirmó evaluar los procesos y controles de ciberseguridad en el desarrollo de GenAI, pero no está claro si tienen la experiencia necesaria para identificar eficazmente los riesgos.
Francisco Carrasco M.
Wisniewski concluye:
“La competencia entre los modelos de IA debería generar más alternativas que se adapten mejor a una tarea u otra, pero también mantiene bajos los costos y reduce el riesgo de que todos tengan las mismas vulnerabilidades cuando se descubren fallas. Sin embargo, esta elección debe hacerse con cuidado, ya que quién y dónde se procesan sus datos también es una consideración muy importante. Esto se aplica no solo a su propia adopción de modelos GenAI, sino también a los productos y proveedores con los que trabaja y a los que confía sus datos confidenciales. Ahora más que nunca es un buen momento para considerar la soberanía de los datos y las cuestiones de privacidad”.
