En el dinámico mundo de la ciberseguridad, Sophos descubre innovadoras técnicas de ciberataques impulsadas por inteligencia artificial (IA), preparando así nuevas formas de detección. Esta revelación es crucial para quienes deben estar al tanto de las últimas tendencias en innovación y ciberseguridad.
Francisco Carrasco
Juan Andrés
Sophos: el lado oscuro de la IA
El primer informe de Sophos, “El lado oscuro de la IA: campañas fraudulentas a gran escala posibles gracias a la IA generativa”, expone cómo los estafadores podrían usar tecnologías como ChatGPT para efectuar fraudes masivos con conocimientos técnicos básicos.
Un ejemplo destacado es la creación de un sitio web de comercio electrónico falso, generado completamente por IA, incluyendo imágenes, audio, y descripciones de productos, con el fin de robar credenciales de inicio de sesión y datos de tarjetas de crédito.
Nelson Salazar
En el segundo informe, “Los ciberdelincuentes no pueden ponerse de acuerdo sobre los GPT”, se muestra una perspectiva mixta de los ciberdelincuentes respecto al uso de LLM como ChatGPT. Aunque algunos exploran su potencial, hay escepticismo y preocupaciones acerca de su uso para fines maliciosos. Sophos X-Ops ha analizado debates en foros de la web oscura, encontrando tanto intentos de abuso de la IA en estafas como dudas sobre su efectividad.
Nelson Salazar
Ben Gelman, científico de datos senior de Sophos, enfatiza la importancia de anticiparse a los delincuentes:
Parte de la razón por la que llevamos a cabo esta investigación fue para adelantarnos a los delincuentes. Al crear un sistema para la generación de sitios web fraudulentos a gran escala que es más avanzado que las herramientas que los delincuentes utilizan actualmente, tenemos una oportunidad única de analizar y prepararnos para la amenaza antes de que prolifere.
Jonathan Munizaga
Christopher Budd, director de investigación de X-Ops de Sophos, concluye que:
Si bien ha habido una gran preocupación por el abuso de la IA y los LLM por parte de los ciberdelincuentes desde el lanzamiento de ChatGPT, nuestra investigación ha encontrado que, hasta ahora, los actores de amenazas son más escépticos que entusiasmados. En dos de los cuatro foros de la web oscura que examinamos, solo encontramos 100 publicaciones sobre IA. Compare eso con las criptomonedas, donde encontramos 1000 publicaciones durante el mismo período.
¿Crees que la creciente integración de la IA en el ciberdelito cambiará fundamentalmente el enfoque de la ciberseguridad?
