La cara oscura de la inteligencia artificial: Claude en manos equivocadas
En un informe revelador, Anthropic ha expuesto cómo su modelo de inteligencia artificial Claude está siendo utilizado de manera indebida y peligrosa en múltiples países. Desde vigilancia masiva hasta propaganda política y el desarrollo de armas autónomas, la IA está siendo explotada por actores maliciosos para fines que amenazan la seguridad global y los derechos humanos.
Casos de uso malicioso de Claude en el mundo
El informe detalla una serie de operaciones preocupantes en las que Claude ha sido utilizada para actividades que van desde la vigilancia estatal hasta la fabricación de armas. Estos son algunos de los casos más alarmantes:
1. Vigilancia masiva en Malí
Un consultor tecnológico en Bamako, que colaboraba con el servicio de inteligencia estatal de Malí (bajo el control de la junta militar), utilizó Claude Code para crear «Lakana 360», un sistema de vigilancia capaz de monitorear 25 millones de tarjetas SIM en la red móvil del país.
- Capacidades del sistema:
- Capturar llamadas, mensajes de texto y tráfico de voz.
- Identificar a personas por su voz, incluso si cambian de tarjeta SIM.
- Detectar el uso de cifrado o VPN por parte de los usuarios.
- Riesgo: Anthropic no logró desactivar este sistema, lo que significa que sigue operativo y podría estar siendo utilizado para reprimir disidentes o monitorear a la población sin su consentimiento.
2. Drones kamikaze en Rusia
Un pequeño equipo de desarrolladores independientes en Rusia utilizaron Claude para crear software destinado a operar drones autónomos «kamikaze».
- Funcionamiento:
- Los drones estaban programados para seleccionar sus propios objetivos y estrellarse contra ellos para detonar, sin intervención humana.
- El equipo seleccionó repetidamente una ubicación en la región ucraniana de Donetsk como objetivo.
- Usaron VPN para eludir los bloqueos geográficos de Anthropic.
- Riesgo: Aunque Anthropic cree que se trata de un equipo independiente (no una operación oficial del Estado ruso), el uso de IA para armas autónomas plantea serios dilemas éticos y de seguridad.
3. Desarrollo de armas en Yemen
Un grupo en el norte de Yemen utilizó Claude Code para ayudar en la fabricación de armas, incluyendo:
- El diseño de software para un cohete guiado.
- La elaboración de planos para un misil de largo alcance.
- El desarrollo de un vehículo de planeo hipersónico (un tipo de misil extremadamente rápido).
- Estrategia de evasión: Dividieron el trabajo en conversaciones separadas con la IA para evitar ser detectados.
- Resultado: Aunque no hay pruebas de que hayan completado un arma funcional, el grupo realizó un lanzamiento de prueba de un cohete, que fracasó. Posteriormente, volvieron a consultar a Claude para intentar descubrir qué salió mal.
4. Propaganda masiva en Francia
Anthropic rastreó una operación de noticias falsas hasta LKM Company, una agencia de publicidad francesa.
- Operación:
- Utilizando Claude, produjeron en masa artículos políticos para unos 70 sitios web de noticias falsas en 20 idiomas.
- Publicaron al menos 8,913 notas con firmas de periodistas ficticios y cuentas falsas en Twitter/X.
- Los artículos eran promocionados por cientos de cuentas falsas que simulaban ser usuarios reales.
- Objetivo: La operación cambiaba su mensaje según quién pagara, vendiendo lo que Anthropic denominó «propaganda como servicio».
- Se centró en Estados Unidos, Brasil y Francia, con un enfoque intenso en la República Democrática del Congo (RDC), favoreciendo la postura del gobierno de la RDC en su conflicto con Ruanda.
5. Campañas de desinformación en Emiratos Árabes Unidos
Una operación vinculada a los Emiratos Árabes Unidos (EAU) emitió contenido en contra de los Hermanos Musulmanes y críticos de Abu Dabi.
- Estrategia:
- Usaron Claude para generar informes, contenido para redes sociales y testimonios sobre Sudán.
- La operación giraba en torno a una personalidad de IA llamada «Deadshot», guiada por una directriz que instaba a realizar una «acción coordinada, transatlántica y regional para desmantelar a los Hermanos Musulmanes a nivel mundial».
- También se redactaron testimonios oficiales para presentarse en la 62ª sesión del Consejo de Derechos Humanos de la ONU, con restricciones específicas que prohibían mencionar a los EAU en los discursos.
6. Red de apps de citas falsas en China
Un estudio con sede en China creó una red de más de 20 aplicaciones de citas que afirmaban contar con personal humano real, pero que en secreto eran gestionadas por Claude.
- Operación:
- En solo dos semanas (abril de 2026), Anthropic detectó más de 4,700 personajes de IA distintos, impulsados por Claude, que conversaron con al menos 25,000 usuarios reales y enviaron unos 2.36 millones de mensajes.
- Para ganar credibilidad, mezclaron trabajadores humanos reales con bots (aproximadamente 1 humano por cada 3 personalidades de IA) para gestionar tareas que la IA no podía realizar, como videollamadas.
¿Qué está haciendo Anthropic para evitar estos abusos?
Anthropic ha reconocido la gravedad de estos casos y está implementando medidas para mitigar el uso malicioso de su IA, incluyendo:
- Bloqueo de cuentas vinculadas a actividades sospechosas.
- Mejoras en los sistemas de detección para identificar patrones de uso malicioso.
- Colaboración con gobiernos y organizaciones internacionales para regular el uso de la IA en áreas sensibles como la vigilancia, la propaganda y el desarrollo de armas.
Sin embargo, el informe de Anthropic revela los desafíos que enfrentan las empresas de IA para controlar el uso de sus tecnologías una vez que están en manos de terceros.
El dilema ético y de seguridad global
Estos casos ponen de manifiesto los riesgos asociados con el rápido avance de la inteligencia artificial, especialmente cuando:
- Gobiernos y actores maliciosos utilizan estas herramientas para vigilancia masiva, propaganda o desarrollo de armas.
- La falta de regulación global permite que la IA sea explotada sin consecuencias.
- La dificultad técnica para controlar el uso de los modelos una vez que están accesibles al público.
El informe de Anthropic es un recordatorio urgente de que, aunque la IA tiene el potencial de transformar el mundo para mejor, también puede ser utilizada para fines destructivos si no se establecen marcos éticos y legales sólidos.
Conclusión: La IA en la encrucijada
El caso de Claude demuestra que la inteligencia artificial no es solo una herramienta de progreso, sino también un arma potencial en manos equivocadas. Mientras las empresas como Anthropic trabajan para limitar estos abusos, la comunidad internacional debe unir forces para establecer normativas claras que prevengan el uso indebido de la IA y protejan los derechos humanos y la seguridad global.
El futuro de la IA depende de cómo la humanidad decida usarla.
Hashtags: #Anthropic #Claude #InteligenciaArtificial #UsoIndebido #Vigilancia #Propaganda #ArmasAutónomas #SeguridadGlobal #ÉticaIA #RegulaciónIA
