El Poder de la Inteligencia Artificial en el Phishing
Las IA generativas han demostrado una gran habilidad a la hora de crear contenidos que asemejan la redacción humana en diversas áreas. Si bien, han generado múltiples beneficios también traen consigo algunos desafíos que impactan directamente en la Ciberseguridad.
Los atacantes cibernéticos actualmente han encontrado nuevas formas de perpetrar su ataque a través de un aliado sorprendentemente eficaz: aprendizaje automático y la IA. Este enfoque implica la creación de mensajes personalizados y altamente persuasivos que se dirigen específicamente a individuos o grupos de personas.
La generación de estos mensajes de phishing por parte de modelos de lenguaje como ChatGPT es un testimonio del poder de la Inteligencia Artificial, ya que pueden analizar grandes cantidades de datos para comprender patrones de lenguaje, contexto y tono, y luego utilizar esta información para crear mensajes convincentes y aparentemente legítimos.
La Alarma: Tasa de Clics del 80% en Correos de Phishing Generados por IA
La Ciberseguridad enfrenta un desafío sin precedentes: la tasa de clics del 80% en correos phishing generado con IA. Estas implicaciones han resultado alarmantes y de acción rápida para contrarrestar la astucia de los cibercriminales.
Recientemente Fredrick Heiding, especialista en Ciberseguridad de la Universidad de Harvard, realizó un estudio analizando el efecto de los mensajes de lenguaje de gran tamaño en la creación de correos electrónicos, obteniendo resultados asombrosos. Esta prueba involucró a ChatGPT, Car de Google, Claude de Anthropic y ChatLlama, en las que se presentaron ofertas de Starbucks a los destinatarios.
Este fenómeno arrojó una alarmante cifra en la que cada cuatro de cinco destinatarios cedió a la trampa, haciendo clic en los enlaces peligrosos o siguiendo las instrucciones.
Este éxito sin precedentes en la tasa de clics tiene sus raíces en una combinación de factores: la personalización de los mensajes, utilizando información específica sobre los destinatarios para brindar credibilidad, dificultando así la detección de engaños. Además, aplicando la explotación efectiva de emociones como el miedo y la urgencia induce a los destinatarios a actuar rápidamente, sin pensar en las posibles consecuencias.
La Ciberseguridad no puede permitirse quedarse rezagada en la lucha contra la Inteligencia Artificial empleada con fines maliciosos, es crucial desarrollar soluciones innovadoras para la detección temprana de estos correos de phishing generados por IA y educar a los usuarios sobre cómo resistir los embates de estos engaños digitalmente evolucionados.
Impacto en la Ciberseguridad y la Privacidad
El aumento de los ataques de phishing a través de las IA generativas plantea desafíos significativos para la Ciberseguridad, sin embargo, estos modelos pueden basarse en los LLM para detectar correos sospechosos y su utilidad en la detección de elementos engañosos, brindando también la facilidad de que estos modelos pueden ser utilizados sin experiencia previa en seguridad cibernética.
La comunidad de Ciberseguridad debe continuar investigando y desarrollando soluciones que aborden la creciente sofisticación de los ataques cibernéticos generados por IA.
El Futuro de la Lucha contra el Phishing de IA
El futuro de la lucha contra el phishing de IA será una combinación de educación, tecnología y adaptación continua porque las organizaciones y los usuarios finales deben mantenerse informados sobre las últimas tácticas de ataque y aprender a reconocer los indicios de correos electrónicos de phishing.
La tecnología seguirá evolucionando para defenderse contra las amenazas emergentes, haciendo uso de la Inteligencia Artificial y el aprendizaje automático con la intención de identificar y mitigar los ataques de phishing generados por IA antes de que causen daño.

Preguntas frecuentes
¿Por qué el phishing generado con IA es más peligroso?
Porque las IA generativas redactan mensajes que se parecen mucho a los escritos por una persona. Son personalizados y muy persuasivos, y se dirigen a individuos o grupos concretos, por lo que resultan más difíciles de detectar.
¿Qué descubrió el estudio de Fredrick Heiding sobre los correos de phishing con IA?
Heiding, especialista en ciberseguridad de la Universidad de Harvard, analizó el efecto de los grandes modelos de lenguaje en la creación de correos fraudulentos. Los modelos probados, entre ellos ChatGPT y Claude, generaron correos con ofertas de Starbucks. Cuatro de cada cinco destinatarios, es decir, el 80%, cayeron en la trampa al hacer clic en los enlaces o seguir las instrucciones.
La cifra resultó alarmante y exige una acción rápida para contrarrestar la astucia de los cibercriminales.
¿A qué se debe la alta tasa de clics de estos correos?
A una combinación de factores. Los mensajes se personalizan con información específica sobre los destinatarios, lo que les da credibilidad y dificulta detectar el engaño. Además, explotan emociones como el miedo y la urgencia para que la víctima actúe deprisa, sin pensar en las consecuencias. Esa mezcla explica por qué tantas personas hacen clic.
¿Cómo logran los modelos de lenguaje redactar mensajes tan convincentes?
Analizan grandes cantidades de datos para comprender patrones de lenguaje, contexto y tono. Con esa información crean mensajes que parecen legítimos.
¿Puede la IA ayudar a detectar el phishing?
Sí. Los mismos modelos de lenguaje pueden usarse para identificar correos sospechosos y elementos engañosos, y se pueden utilizar sin experiencia previa en seguridad informática.
¿Qué papel tiene la educación de los usuarios frente al phishing con IA?
Es central. Las organizaciones y los usuarios deben mantenerse al día sobre las tácticas de ataque más recientes y aprender a reconocer los indicios de un correo de phishing.
¿Cómo debe responder la ciberseguridad a este tipo de ataques?
No puede quedarse atrás: debe desarrollar soluciones innovadoras para detectar pronto los correos de phishing generados con IA y educar a los usuarios para resistir estos engaños. La comunidad de ciberseguridad tiene que seguir investigando para frenar unos ataques cada vez más sofisticados.
¿Qué desafíos plantean las IA generativas para la ciberseguridad?
Aportan múltiples beneficios, pero crean contenidos que imitan la redacción humana y los atacantes los aprovechan. El aumento de los ataques de phishing por esta vía plantea desafíos significativos para la ciberseguridad y la privacidad.
¿Cómo evolucionará la lucha contra el phishing con IA?
Combinará educación, tecnología y adaptación continua. La tecnología seguirá avanzando y usará IA y aprendizaje automático para identificar y frenar estos ataques antes de que causen daño.
¿Quién se encuentra detrás de estos ataques y por qué usan la IA?
Los ciberdelincuentes. Han encontrado en el aprendizaje automático y en la IA un aliado sorprendentemente eficaz para crear mensajes personalizados y altamente persuasivos, dirigidos a individuos o a grupos concretos.




Déjanos tu comentario
Tu opinión nos ayuda a esforzarnos más para hacer programas con altos estándares de calidad que te ayuden a mejorar profesionalmente.