El progreso de la Inteligencia Artificial en el ámbito corporativo ha llevado a avances significativos y desafíos, especialmente en el ámbito de la seguridad cibernética. Mientras las corporaciones adoptan estas tecnologías para mejorar sus procesos y servicios, los cibercriminales no se quedan atrás, explotando la IA para realizar ataques más sofisticados y dañinos.
Juan Andrés
Juan Andrés
La IA, una vez considerada una promesa de avance sin límites, ahora también es una herramienta para actividades malintencionadas. ESET destaca cinco formas en las que la IA está siendo manipulada por cibercriminales:
- Perfeccionamiento de la suplantación de identidad: Investigadores de seguridad han observado un aumento alarmante en correos de phishing atribuibles al desarrollo de la IA generativa. Herramientas como ChatGPT, integradas en aplicaciones como GoMail Pro, han facilitado que los cibercriminales mejoren significativamente la calidad de sus engaños, superando a menudo las barreras de detección.
- Optimización del doxing: La acumulación de datos personales en internet ha permitido que la IA deduzca información sensible sobre individuos, aumentando su vulnerabilidad al doxing. Esta práctica, que ha ganado notoriedad junto a los ataques de ransomware, supone una amenaza directa a la privacidad y seguridad de las personas.
- Realismo en estafas por audio y deepfake: La evolución de la IA generativa ha hecho casi indistinguibles las falsificaciones de la realidad. Incidentes como la estafa de 24 millones de dólares por un supuesto director financiero ilustran el nivel de amenaza que estas tecnologías pueden representar.
- Elusión de controles de identidad: La habilidad de los deepfakes para superar verificaciones de identidad representa un desafío creciente para las medidas de seguridad en línea. Con solo imágenes y datos básicos, los cibercriminales pueden crear identidades falsas lo suficientemente convincentes para engañar sistemas de control.
- Jailbreak como servicio: Frente a las restricciones impuestas por las plataformas de IA para prevenir usos indebidos, los cibercriminales optan por servicios que modifiquen estas tecnologías para eludir dichas barreras, facilitando así la creación de contenido para estafas y malwares.
Juan Andrés
La IA es una herramienta con un potencial enorme tanto para innovaciones positivas como para usos nefastos. La vigilancia y la innovación en seguridad son cruciales para mantenerse a la vanguardia frente a las tácticas de los cibercriminales.
Juan Andrés
Camilo Gutiérrez Amaya de ESET recalca la importancia de estar informados y preparados para no convertirse en una víctima más:
“La tecnología no es buena ni mala, como tampoco lo es la Inteligencia Artificial: todo depende de las intenciones con que se las utilice. Porque, por ejemplo, son también actuales los casos donde ChatGPT es utilizado para analizar malware. Y tal es su alcance que interviene en otras áreas de valor: el impacto de la IA en la educación puede ser más que positivo y hasta está logrando implicancias realmente importantes en un rubro tan crítico como la medicina. Pero también, es inevitable hablar del uso que se puede hacer de estos avances tecnológicos, en las manos equivocadas. Estar al tanto de las estrategias y tácticas de los cibercriminales es el primer paso para no ser una víctima más de sus estafas y engaños”.
¿Crees que las medidas actuales son suficientes para combatir el uso indebido de la IA en ciberseguridad?
