Por tercer trimestre consecutivo, Gartner ha descubierto que los ciberataques realizados con inteligencia artificial son el mayor riesgo para las empresas.
La consultora encuestó a 286 ejecutivos senior de riesgos y aseguramiento de julio a septiembre, y el 80% citó los ataques maliciosos mejorados por IA como la principal amenaza que les preocupaba. Esto no es sorprendente, ya que la evidencia sugiere que los ataques asistidos por IA están en aumento.
Otros riesgos emergentes comúnmente citados descrito en el informe Entre ellos se incluyen la desinformación asistida por IA, la escalada de la polarización política y los perfiles de talento organizacional desalineados.
Los atacantes utilizan IA para escribir malware, crear correos electrónicos de phishing y más
En junio, HP interceptó una campaña de correo electrónico que propagaba malware en la naturaleza con un script que “Era muy probable que se hubiera escrito con la ayuda de GenAI”. El VBScript estaba cuidadosamente estructurado y cada comando tenía un comentario, lo que supondría un esfuerzo innecesario para un humano escribirlo.
Luego, los investigadores utilizaron GenAI para producir un script y encontraron resultados similares, lo que sugiere que el malware original fue generado al menos parcialmente por IA.
VER: El 20% de los ataques de ‘jailbreak’ de IA generativa tienen éxito
el número de compromiso del correo electrónico empresarial Los ataques detectados por la empresa de seguridad Vipre en el segundo trimestre fueron un 20% más altos que en el mismo período de 2023, y dos quintas partes de ellos fueron generados por IA. Los principales objetivos fueron los directores ejecutivos, seguidos por el personal de recursos humanos y TI.
Usman Choudhary, director de tecnología y productos de VIPRE, dijo en el presione soltar: “Los malhechores ahora están aprovechando sofisticados algoritmos de inteligencia artificial para crear atractivos correos electrónicos de phishing, imitando el tono y el estilo de las comunicaciones legítimas”.
Sólo los sitios minoristas experimentaron un promedio de 569.884 ataques impulsados por IA cada día de abril a septiembre, según Imperva Threat Research. Los investigadores dijeron que herramientas como ChatGPT, Claude y Gemini, así como bots especiales que rastrean sitios web en busca de datos de capacitación LLM, se están utilizando para llevar a cabo ataques distribuidos de denegación de servicio y abuso de lógica empresarial, por ejemplo.
Los piratas informáticos más éticos también admiten que utilizan GenAI, con el La proporción aumentó del 64% al 77% en el último año.según un informe de BugCrowd. Estos investigadores dicen que ayuda con ataques de canal directo, ataques de inyección de fallas y la automatización de ataques paralelos para violar simultáneamente múltiples dispositivos. Pero si los “buenos” encuentran valiosa la IA, también lo serán los malos actores.
El aumento de estos ataques no debería ser una sorpresa
la IA puede reducir la barrera de entrada para los delitos cibernéticosya que los delincuentes menos capacitados pueden usarlo para generar deepfakes, escanear redes en busca de puntos de entrada, reconocimiento y más. Investigadores de ETH Zurich recientemente creó un modelo que podría resolver los acertijos de Google reCAPTCHAv2 Se utiliza para distinguir humanos y robots el 100% del tiempo.
Los analistas de la empresa de seguridad Radware predijeron a principios de año que esta nueva accesibilidad conduciría a la desarrollo de modelos GPT privados utilizado con fines nefastos. También pronostican que el número de exploits de día cero y estafas deepfake aumentaría a medida que los actores maliciosos se volvieran más competentes con los LLM y las redes generativas de confrontación.
En efecto, Mandiant de Google rastreó un total de 97 vulnerabilidades de día cero que fueron descubiertas y explotadas en 2023, lo que marcó un 56% de aumento de un año antes. El mes pasado, Microsoft enumeraron los deepfakes entre los tipos de ataques más importantes utilizado por grupos de ransomware cada vez más prolíficos.
VER: Los deepfakes de IA aumentan como riesgo para las organizaciones de APAC
Los ejecutivos también están preocupados por la excesiva dependencia de los proveedores de TI
La criticidad de los proveedores de TI también entró en la lista de Gartner de las principales preocupaciones entre los ejecutivos sénior de riesgo y aseguramiento por primera vez este trimestre.
Zachary Ginsburg, director sénior de investigación en la práctica de auditoría y riesgo de Gartner, dijo en un comunicado de prensa de Gartner: “Los clientes con una concentración de servicios con un solo proveedor pueden enfrentar un riesgo elevado en caso de interrupciones, o pueden enfrentar cambios imprevistos en los servicios”. dependiendo de nuevas regulaciones o decisiones legales en la UE, EE. UU. o en otros lugares”.
aludió a El incidente CrowdStrike de julioque vio alrededor de 8,5 millones de dispositivos Windows desactivados en todo el mundo y causó enormes interrupciones en los servicios de emergencia, aeropuertos, agencias de aplicación de la ley y otras organizaciones esenciales.
VER: ¿Qué es CrowdStrike? Todo lo que necesitas saber
“Debido a que terceros, como los proveedores de SaaS, dependen de otros proveedores, es posible que las organizaciones no se den cuenta del alcance total de su exposición”, añadió Ginsburg. Gartner predice que el 45% de las empresas a nivel mundial Habrán experimentado ataques a sus cadenas de suministro de software. para 2025.
