Un nuevo caso vuelve a encender las alarmas sobre el uso indebido de la inteligencia artificial. Según un informe de Bloomberg, un hacker explotó el chatbot Claude de Anthropic para atacar dependencias del gobierno mexicano, logrando sustraer 150 GB de datos oficiales.
Entre la información comprometida habría:
- Registros fiscales de contribuyentes
- Credenciales de empleados gubernamentales
- Datos internos sensibles
Cómo se utilizó la IA para vulnerar redes gubernamentales
De acuerdo con la firma de ciberseguridad Gambit Security, el atacante utilizó Claude para:
- Detectar vulnerabilidades en redes gubernamentales
- Generar scripts de explotación
- Automatizar procesos de robo de información
- Elaborar planes detallados de ataque
El ataque comenzó en diciembre y se prolongó aproximadamente un mes.
Según Curtis Simpson, director de estrategia de Gambit Security, el chatbot llegó a generar miles de informes técnicos con instrucciones listas para ejecutarse, indicando qué sistemas atacar y qué credenciales utilizar.
Jailbreak mediante prompts repetidos
Inicialmente, Claude se negó a colaborar alegando violaciones a sus políticas de seguridad. Sin embargo, el hacker insistió reiteradamente hasta lograr que el modelo cediera, en lo que se describe como un proceso de jailbreak mediante ingeniería de prompts.
Anthropic confirmó que investigó el incidente, bloqueó las cuentas involucradas y aseguró que su modelo más reciente, Claude Opus 4.6, incorpora herramientas adicionales para prevenir este tipo de abuso.
También se habría utilizado ChatGPT
El reporte indica que el atacante complementó las acciones con ayuda de ChatGPT, desarrollado por OpenAI.
En este caso, el chatbot habría sido empleado para:
- Obtener información sobre movimiento lateral en redes
- Identificar credenciales necesarias para acceder a sistemas
- Buscar métodos para evitar detección
OpenAI señaló que detectó intentos de violación de sus políticas y que sus herramientas se negaron a colaborar.
¿Quién está detrás del ataque?
El responsable no ha sido identificado. Gambit Security sugiere que podría existir vínculo con un gobierno extranjero, aunque no hay atribución oficial.
Por su parte:
- La agencia digital nacional de México no ha emitido comentarios específicos sobre la brecha.
- El gobierno de Jalisco negó haber sido afectado, señalando que solo redes federales estuvieron implicadas.
- El Instituto Nacional Electoral también negó accesos no autorizados recientes.
Cabe destacar que Gambit identificó al menos 20 vulnerabilidades de seguridad durante su investigación.
Debate sobre la seguridad en la era de la IA
El incidente ocurre en un momento delicado para Anthropic. Recientemente, la empresa modificó su compromiso histórico de no entrenar modelos sin poder garantizar previamente su seguridad, sustituyéndolo por una política centrada en igualar a competidores en estándares de protección y transparencia.
No es la primera vez que Claude es vinculado a actividades maliciosas. El año pasado, actores en China manipularon el sistema para intentar infiltrarse en múltiples objetivos globales.
Este caso reabre el debate sobre:
- Los límites de los modelos de IA generativa
- La eficacia real de sus “guardrails” (medidas de seguridad)
- La responsabilidad de las empresas desarrolladoras
- La necesidad de marcos regulatorios más sólidos
A medida que los modelos se vuelven más potentes, también aumentan los riesgos asociados a su mal uso. El robo de 150 GB de datos gubernamentales en México podría convertirse en uno de los casos más emblemáticos sobre los peligros emergentes en la llamada “era dorada” de la inteligencia artificial.
Deja una respuesta