Gemini, el innovador chatbot de inteligencia artificial creado por Google, ha sido el objetivo de un ataque cibernético de gran escala. Más de 100.000 mensajes fueron enviados por hackers con la meta de desentrañar los secretos de su funcionamiento interno y, potencialmente, replicar su tecnología.

Detrás del Ataque: Actores Estatales y Cibercriminales

El gigante tecnológico reveló el incidente a través de un informe de seguridad, revelando cómo tanto actores estatales como grupos de criminales están incorporando herramientas de inteligencia artificial en sus tácticas ofensivas y defensivas.

Países Involucrados en la Amenaza

El informe destaca la participación de hackers respaldados por los gobiernos de Corea del Norte, Irán, China y Rusia, quienes han estado utilizando modelos de IA para aumentar la efectividad de sus campañas en el ciberespacio.

Uso de IA en la Piratería Cibernética

Corea del Norte ha recurrido a la inteligencia artificial para hacer análisis de empresas en el sector defensa y crear identidades falsas, usurpando la función de reclutadores para recolectar información sensible.

China, por su parte, ha implementado grupos de trabajo que se enfocan en el análisis de vulnerabilidades de infraestructuras digitales ajenas, mientras que Irán utiliza estas técnicas para ejecutar campañas de phishing destinadas a propagar malware. A su vez, Rusia se dedica a generar contenido de desinformación y propaganda en plataformas digitales.

Google y su programa de IA

Medidas de Seguridad y Nuevas Amenazas

En respuesta al ataque, Google ha tomado medidas inmediatas al bloquear las cuentas de Gemini implicadas en estas actividades maliciosas.

Aparición de Malware Avanzado

Uno de los elementos críticos que emergieron del informe es el descubrimiento de “honestcue”, un malware diseñado para interactuar con la API de Gemini en tiempo real y generar código malicioso, complicando su detección por parte de mecanismos tradicionales de seguridad.

Crecimiento de los Ataques de Extracción de Modelos

El informe también alerta sobre el aumento de ataques de extracción de modelos, un fenómeno también conocido como “destilación”. Estos intentos buscan replicar las capacidades de Gemini mediante consultas masivas a su API, lo que plantea serios riesgos para la seguridad de los sistemas de IA.

Los atacantes suelen formular repetidamente consultas similares para deducir el funcionamiento interno del chatbot, con el objetivo de desarrollar modelos que imiten sus comportamientos. Tanto compañías privadas como investigadores independientes participan en estas prácticas.

Google ha asegurado que ha desactivado las cuentas relacionadas con estas actividades delictivas, utilizando los descubrimientos para fortalecer sus medidas de seguridad y mejorar la integridad de Gemini.

Este tipo de ataques parece estar convirtiéndose en una tendencia, con un posible aumento de los intentos de piratería hacia otras plataformas de inteligencia artificial.

No es un caso aislado. OpenAI también ha denunciado intentos similares por parte de su competidor chino, DeepSeek, que intenta copiar su modelo de razonamiento avanzado.