Un año después de iniciar un seguimiento sobre el uso de IA generativa en el cibercrimen, Sophos X-Ops ha detectado cambios sutiles en la forma en que los actores de amenazas están incorporando esta tecnología. Aunque el escepticismo sigue siendo dominante, algunos comienzan a experimentar con ella para tareas específicas.
Admin
En noviembre de 2023, Sophos X-Ops analizó los debates en foros de ciberdelincuencia sobre IA generativa. En ese momento, las innovaciones eran limitadas y la mayoría de los comentarios reflejaban dudas sobre su utilidad. Sin embargo, a medida que la tecnología ha evolucionado, un pequeño grupo de actores de amenazas ha empezado a utilizarla en tareas como el spam, la inteligencia de código abierto (OSINT) y la ingeniería social.
En foros de habla china, los grupos que ejecutan fraudes "sha zhu pan" han mostrado un interés particular en la generación de texto e imágenes con IA. No obstante, en la mayoría de los foros, la conversación sobre IA sigue siendo minoritaria frente a temas como el malware y el acceso como servicio.
Jonathan Munizaga
Desde Sophos, señalaron:
"Solo vimos unos pocos intentos primitivos y de baja calidad de desarrollar malware, herramientas de ataque y exploits, que en algunos casos dieron lugar a críticas de otros usuarios, disputas y acusaciones de estafa."
Los pocos experimentos observados han sido mayormente aspiracionales. En muchos casos, los usuarios prefieren compartir enlaces a herramientas de investigación legítima y repositorios de GitHub en lugar de desarrollar tecnología propia. Algunos también han automatizado tareas rutinarias, aunque persiste la desconfianza sobre el uso de IA en procesos más complejos.
Otro aspecto llamativo es que algunos ciberdelincuentes han comenzado a utilizar la IA generativa dentro de los mismos foros para redactar publicaciones o en actividades no relacionadas con la seguridad. Un caso particular reveló que un usuario confesó haber conversado con un modelo de lenguaje durante casi dos años para lidiar con su soledad.
Francisco Carrasco M.
A pesar del avance gradual, la IA generativa aún no se ha convertido en una herramienta predominante en la ciberdelincuencia. La duda sigue presente y, por ahora, las aplicaciones observadas son limitadas. Con la evolución constante de la tecnología, la pregunta es si esta tendencia cambiará en el futuro o si la IA seguirá siendo un recurso marginal en estos entornos.
¿Crees que la IA generativa cambiará radicalmente el panorama de la ciberdelincuencia en los próximos años?
