Amenazas de correo electrónico basadas en IA:
cuando atacantes y defensores acceden a los mismos modelos

Mark Overton, CISO de Softcat, comenzó con una observación reveladora: lo que llega a las bandejas de entrada de los equipos de seguridad no parece muy diferente. Las señales habituales (los errores ortográficos, por ejemplo) ya no están presentes de forma fiable, pero los tipos de ataque en sí no se han reinventado. Lo que se observa principalmente es BEC.

Lo que ha cambiado es la fase de preparación. Kieran describió lo trivial que resulta ahora extraer datos de un perfil de LinkedIn, aprender cómo se comunica un directivo y enviar una suplantación convincente. Mark confirmó que la IA se está utilizando en esta fase de reconocimiento, no necesariamente en el correo electrónico en sí.

Mike Britton, CIO de Abnormal AI, añadió la dimensión de la escala. Los estados-nación siguen operando a ese nivel, pero ahora los delincuentes con motivación económica también operan ahí. Quienes antes carecían de la capacidad para lanzar amenazas de correo electrónico basadas en IA sofisticadas, ahora la tienen.

Los kits de phishing como servicio cuestan tan solo 250 dólares. Un atacante puede ahora enviar 10.000 correos electrónicos únicos de spear phishing a cada empleado de una organización, algo que antes exigía mucho tiempo y esfuerzo manual.

Como resumió Kieran, la IA no ha cambiado necesariamente los ataques. Simplemente ha cambiado quién puede llevarlos a cabo. Ese cambio es lo que hace que las amenazas de correo electrónico basadas en IA sean un problema distinto al que las empresas habían previsto.

Andy Bates, cofundador de StonesThro, defendió que los controles básicos siguen siendo importantes, y que el hecho de que Google y Microsoft exigieran DMARC a los remitentes masivos lo demostraba. Cuando las plataformas empezaron a bloquear el correo no autenticado, los delincuentes recurrieron a la IA para eludirlo.

Mike señaló algo que sorprendió a la sala: los delincuentes ya están configurando p=reject en su propia infraestructura de envío. Las empresas que se quedan en p=none no solo están desprotegidas, sino que van por detrás de atacantes que ya han adoptado el estándar. Mike comentó que todavía le sorprende cuántas grandes organizaciones no utilizan realmente DMARC, mientras que los delincuentes sí lo hacen.

Sobre el filtrado: Mike describió cómo los kits de phishing generan ahora URLs, enlaces y archivos adjuntos únicos por mensaje. Cuando cada elemento de un ataque cambia con cada envío, no hay nada que bloquear.

A Sean Remnant, cofundador de Ignition Technology, le preguntaron dónde debería invertir su dinero un CISO que solo tuviera una prioridad presupuestaria. Su respuesta: primero, comprende tu superficie de ataque y tus activos. Redúcela. Céntrate en lo básico.

Las empresas siguen sin tener una idea clara de lo que están exponiendo, y la velocidad a la que ahora se descubren y explotan las vulnerabilidades hace que esa brecha sea más peligrosa que nunca.

Mike explicó al panel cómo funciona la detección conductual frente a las amenazas de correo electrónico basadas en IA. Todo empieza por establecer cómo es lo normal: comunicaciones normales, temas normales, ubicaciones de inicio de sesión normales, patrones de pago normales. Cuando algo se desvía, se marca como sospechoso.

Describió un compromiso de la cadena de suministro que vivió en primera persona: los atacantes se instalaron en la bandeja de entrada de un proveedor, esperaron a que llegara una factura y después enviaron un correo de seguimiento redirigiendo el pago a otra cuenta. El correo era real. La única señal fue conductual.

También expuso el argumento operativo. Más del 90 % de los correos que los empleados reportan a los equipos de seguridad son legítimos. El resultado es un equipo de cuentas por pagar que deja de procesar facturas y un equipo de seguridad que deja de priorizar las amenazas de correo electrónico basadas en IA reales, ambos paralizados por el ruido. La detección conductual reduce ese ruido, permitiendo que cada equipo se centre en lo que realmente debe hacer.

Doug Pecarski, CEO de Simply Discover, planteó la dimensión probatoria. Su equipo trabaja con paquetes de pruebas. Mientras los agentes no proporcionen ni modifiquen las pruebas, señaló Doug, se encuentran en una posición cómoda. Pero eso no es lo que están viendo. Para cuando ocurre el incidente, el historial está fragmentado entre correo electrónico, Slack, Teams y sistemas de gestión documental. La recuperación de archivos y la inmutabilidad van a volverse fundamentales.

La respuesta sincera del panel sobre las perspectivas a 12-24 meses para las amenazas de correo electrónico basadas en IA: las previsiones no son fiables cuando la capacidad de los modelos avanza a este ritmo. El comentario de Mike fue directo: Opus salió hace seis meses y ya se siente como un punto de inflexión. La planificación anual resulta demasiado lenta. La planificación trimestral es ahora el mínimo exigido.

Sean señaló que los proveedores establecidos avanzan rápido y cuentan con los recursos para invertir. Pero advirtió del riesgo inverso: la IA también ha reducido la barrera de entrada para nuevos proveedores, y los compradores deben ser más rigurosos sobre lo que realmente están adquiriendo. Mike fue más allá: usar IA no es una ventaja competitiva sostenible. Si el único diferenciador de un proveedor es la IA, esa posición es frágil.

La ronda de preguntas del público devolvió la sesión a lo fundamental. Alguien del público preguntó por qué tantos organismos gubernamentales y grandes empresas todavía no han implementado DMARC. Las respuestas del panel: falta de formación, un problema de priorización y la percepción de que activar DMARC es complejo.

Una abogada entre el público, la Dra. Roshni, insistió: dados los factores legales que ahora están surgiendo, ¿por qué no actúan más organizaciones? Andy citó cinco casos en los que se demandó a empresas tras haber sido suplantadas. Mike volvió al problema del cumplimiento normativo frente a la gestión de riesgos: las empresas optimizan para superar certificaciones, no para reducir realmente el riesgo.

Una buena gestión de riesgos exige mucho trabajo, y a la mayoría de las organizaciones les cuesta hacerlo bien.

Kieran cerró la sesión con una sola idea: la forma de los ataques no ha cambiado necesariamente. Defenderse de las amenazas de correo electrónico basadas en IA exige los mismos fundamentos, ejecutados más rápido.

«Sin duda, he encontrado cinco casos judiciales en los que cinco empresas han sido demandadas con éxito por haber sido suplantadas».

– Andy Bates, cofundador de StonesThro