Fuente de la imagen, Getty Images
Información del artículo
-
- Autor,
- Título del autor, BBC News Mundo
- 1 hora
- Tiempo de lectura: 12 min
Mientras el mundo seguía atentamente la intervención estadounidense en Venezuela y el conflicto con Irán se tornaba inevitable, en Washington se gestaba una confrontación que demostraba que el futuro anticipado durante generaciones ya es una realidad.
Una compañía de Inteligencia Artificial (IA) en Silicon Valley rechazó colaborar con el Pentágono, que la trató como si fuera una adversaria del Estado. Sin embargo, su tecnología de IA continuaba en uso, porque el ejército estadounidense no podía permitirse prescindir de ella.
Eso fue lo que sucedió entre Anthropic y el Departamento de Defensa durante las últimas semanas. Y aunque aparenta ser un choque corporativo, en realidad va mucho más allá.
Es la primera ocasión en la que una empresa de IA desafía a una estructura militar, negándose a eliminar los límites éticos de su tecnología.
El conflicto dejó interrogantes que nos afectan a todos: ¿Hasta qué punto se están delegando en las máquinas decisiones irreversibles y fatales? ¿Quién determina el uso que se da a la IA?
Estas no son interrogantes retóricas. Expertos de la Universidad de Oxford señalan que este caso «revela brechas persistentes en la gobernanza sobre la incorporación de la IA en operaciones militares, brechas que anteceden a esta administración y sobrevivirán a la controversia actual».
¿Por qué, si la humanidad lleva tanto tiempo advirtiendo sobre este escenario, sigue existiendo un vacío en la regulación de la IA?
Este vacío es conocido en profundidad por Logan Graham, líder del equipo rojo de Anthropic, encargado de evaluar los peores escenarios para la tecnología, desde ciberataques hasta amenazas de bioseguridad.
«La intuición de algunas personas, acostumbradas a un mundo pacífico, es que en algún lugar hay una sala llena de adultos que saben cómo solucionar todo», declaró a la revista Time.
«No existen esos grupos de adultos. Ni siquiera hay una sala. Tú eres responsable».
Volvamos a lo ocurrido.
Una llamada incómoda
Durante la operación que culminó el 3 de enero con la detención del expresidente venezolano Nicolás Maduro, una herramienta de IA llamada Claude estuvo involucrada, procesando datos y asistiendo en la toma de decisiones.
Así lo informaron de manera independiente el diario Wall Street Journal y el sitio Axios, citando fuentes con conocimiento directo del proceso, y más tarde se confirmó en un perfil exhaustivo de Anthropic publicado por la revista Time.
Ni el Departamento de Defensa ni Anthropic confirmaron oficialmente esta información. Pero lo que sucedió desde entonces está registrado y revela mucho más que el hecho en sí.
Fuente de la imagen, Getty Images
Luego de la captura de Maduro, un ejecutivo de Anthropic contactó a Palantir —la empresa de análisis de datos que sirve de puente tecnológico entre Silicon Valley y el gobierno estadounidense— para preguntar si su software fue utilizado en esa misión.
Esta consulta alarmó a Washington.
Emil Michael, subsecretario de Defensa y director de tecnología del Pentágono, explicó que esa pregunta generó una inquietud importante: ¿podría Anthropic, en un conflicto futuro, «desactivar su modelo en medio de una operación» —activar algún tipo de mecanismo de rechazo— «y poner en riesgo vidas»?
Anthropic rechazó dicha interpretación: aseguró que nunca trató de limitar el uso del Pentágono en un caso concreto y que la consulta fue rutinaria.
A partir de ahí, la tensión aumentó con rapidez.
El Pentágono pidió a Anthropic otorgar acceso ilimitado a su tecnología para «todos los usos legales». La empresa se negó.
Pete Hegseth, secretario de Defensa durante el mandato de Trump, etiquetó a Anthropic como un «riesgo en la cadena de suministro», una denominación que generalmente se reserva para compañías vinculadas a rivales extranjeros como Huawei o Kaspersky, no para firmas estadounidenses que simplemente discrepan con la administración.
Anthropic demandó al Pentágono por exceder su autoridad y vulnerar sus salvaguardas éticas, alegando quebranto de derechos fundamentales. Varios expertos legales consideran que la empresa cuenta con probabilidades sólidas de triunfo en tribunales.
Por su parte, el presidente Donald Trump ordenó a todas las agencias federales cesar el uso de tecnología de Anthropic.
Y culminó la controversia con un mensaje en Truth Social, escrito en mayúsculas: «Estados Unidos nunca permitirá que una empresa de izquierda radical y woke decida cómo nuestro gran ejército combate y gana guerras».
En su vocabulario y en el de sus seguidores, «woke» representa el insulto más fuerte, una etiqueta peyorativa para calificar ideas o políticas progresistas relacionadas con identidad, desigualdad o justicia social.
Tal vez el término sea apropiado: Anthropic, en efecto, se esfuerza por ser una empresa ‘virtuosa’.
Líneas rojas
Anthropic tiene un recorrido peculiar.
Fundada en 2021 por exinvestigadores de OpenAI, nació con la idea clara de que la inteligencia artificial supone uno de los riesgos existenciales más grandes para la humanidad y que, precisamente por eso, quien la desarrolle debe hacerlo con un compromiso sólido hacia la seguridad.
Fuente de la imagen, Getty Images
En julio de 2025 firmó un contrato con el Departamento de Defensa por US$200 millones, el primero de su tipo: un laboratorio de IA cuya tecnología se integra en flujos de trabajo de misiones en redes clasificadas.
El CEO de Anthropic, Dario Amodei, justificó este acuerdo en un ensayo publicado en enero de este año.
Manifestó que Anthropic apoyaba a las fuerzas militares y de inteligencia estadounidenses porque «la única forma de responder a las amenazas autocráticas es igualarlas y superarlas militarmente».
Y agregó: «La conclusión a la que he llegado es que debemos emplear la IA para la defensa nacional en todos los aspectos, salvo en aquellos que nos convertirían en algo parecido a nuestros adversarios autocráticos».
El contrato con el Pentágono estableció dos “líneas rojas”: Claude no puede ser usado para vigilancia masiva interna ni para el desarrollo de armas completamente autónomas.
Estos límites son rigurosos y se apoyan en un documento interno que constituye su “alma mater”.
Su propósito declarado es «evitar catástrofes a gran escala», incluyendo el riesgo de que la IA sea empleada por un grupo humano para «tomar el poder de forma ilegítima y sin colaboración».
Amodei también argumentó frente al Pentágono que «los sistemas de IA avanzados simplemente no son suficientemente confiables para operar armas totalmente autónomas».
No se habla estrictamente de armas que elijan por sí solas a quién eliminar; en este caso, “autonomía” hace referencia a que un sistema pueda cumplir ciertas órdenes por sí mismo —o bajo supervisión humana mínima— en entornos complejos.
Sin embargo, sí existen sistemas automatizados que apoyan en la toma de decisiones sobre ataques. Y los expertos en inteligencia artificial alertan sobre un problema conocido como el “sesgo de automatización”: cuando las normas de uso son imprecisas, las personas tienden a confiar en las recomendaciones de la máquina más allá de lo prudente.
La IA no reemplaza gravemente el juicio humano de inmediato; más bien lo va debilitando gradualmente, hasta que el operador deja de cuestionar sus indicaciones.
En una situación delicada, si el sistema —que se sabe analizó una inmensa cantidad de datos— señala unos pocos píxeles en la pantalla como un objetivo prioritario, resulta sencillo aceptar la recomendación sin dudar demasiado.
O si un sistema de reconocimiento facial identifica a alguien en medio de una multitud, lo más probable es que un agente de seguridad confíe en ese resultado y proceda a un arresto.
Esta situación ha ocurrido en repetidas ocasiones; varios departamentos policiales en EE.UU. han arrestado equivocadamente a personas tras confiar en estas tecnologías.
Esto guarda estrecha relación con la otra línea roja que molestó al gobierno de Trump, la vigilancia masiva, que afecta la vida cotidiana de individuos que no se encuentran en zonas de conflicto.
Es importante señalar que Anthropic se opone específicamente a la vigilancia masiva sobre ciudadanos estadounidenses. Su posición no es universalista, aunque el principio que la sustenta tiene repercusiones más amplias.
Este tema adquiere relevancia en paralelo a este conflicto, dado que el gobierno de EE.UU. anunció planes de implementar IA mediante Palantir para apoyar las operaciones de ICE —la agencia migratoria—, rastreando ubicaciones en tiempo real e historial financiero de personas sin documentación legal.
Fuente de la imagen, Getty Images
La vigilancia masiva ya existe en distintos niveles y poblaciones. La cuestión ahora no es si ocurre, sino cuántos controles efectivos quedan para regular su uso.
En este escenario, las «líneas rojas» de Anthropic no son simples principios empresariales, sino, por ahora, algunos de los pocos frenos tangibles en el sistema.
El problema radica en que esas limitaciones son tan fuertes como el mecanismo que asegura su cumplimiento.
Y cuando el Pentágono rechazó esos límites y demandó acceso total, Anthropic quedó sola defendiendo su postura, sin respaldo legal ni regulación internacional que la amparara, y con sus propios contratos como único escudo.
¿Qué es "legal"?
La renuencia del Departamento de Defensa a aceptar límites impuestos por una empresa privada es, para muchos, comprensible.
Aunque las recientes operaciones militares en ciudades de EE.UU., Venezuela e Irán se ejecutaron casi sin consulta al Congreso, algunos opinan que el uso de IA es tan crucial que debería estar regulado por leyes aprobadas por representantes democráticamente electos.
Lamentablemente, el poder legislativo aún no ha emitido normativa al respecto.
Así, la exigencia del Pentágono de usar Claude para «todos los usos legales» parece razonable hasta que se indaga en qué se considera realmente legal en este contexto.
No existe una definición internacional consensuada sobre qué es un arma letal autónoma.
El derecho internacional humanitario —las normas que regulan los conflictos armados desde los Convenios de Ginebra— se basa en decisiones humanas: un soldado que aprieta el gatillo, un comandante que ordena un ataque.
Estos marcos no contemplan sistemas que detectan, seleccionan y eliminan objetivos con mínima o nula intervención humana directa.
A esto los expertos llaman “vacío de responsabilidad”: una deficiencia grave en la que los marcos legales existentes no logran determinar quién debe responder cuando un sistema autónomo comete una violación.
Si un dron con IA mata a civiles, ¿quién es responsable? ¿El programador? ¿El comandante? ¿La empresa fabricante?
El derecho internacional no ofrece una respuesta clara. Y en ausencia de ella, “uso legal” en la práctica significa lo que cada Estado decida que sea.
Fuente de la imagen, Getty Images
En este marco, surge una cuestión compleja: ¿llega esta discusión a tiempo? La respuesta podría ser: a tiempo para prevenir, no; a tiempo para ser útil, aún sí.
El debate formal sobre armas autónomas empezó en 2013. Onze años después, el resultado son sólo directrices voluntarias.
En 2024, en una conferencia internacional en Viena, el ministro de Exteriores de Austria urgió avances con una frase inquietante: “Este es el momento Oppenheimer de nuestra generación”.
Aludía al instante en que la humanidad comprendió el poder destructor de la bomba atómica: como entonces, la tecnología ya está y ahora se debe decidir cómo regularla.
Pero, a diferencia de las armas nucleares —costosas, limitadas y con una firma clara— los sistemas autónomos son baratos, accesibles y difíciles de atribuir. Por tanto, su control mediante tratados es estructuralmente más complejo.
Ese mismo año, la Asamblea General de la ONU aprobó una resolución sobre armas autónomas con 166 votos a favor. Solo Rusia, Corea del Norte y Bielorrusia votaron en contra.
Existe un consenso moral casi universal. Pero no hay un tratado vinculante ni mecanismos efectivos para su cumplimiento, algo que el Secretario General de la ONU pidió para 2026.
No obstante, algunos expertos temen que, como con armas anteriores, ese tratado llegará sólo luego de una catástrofe.
La lógica de la velocidad
Mientras los juristas y diplomáticos deliberan, los ingenieros siguen desarrollando tecnologías, que ya están en uso.
El general estadounidense Stanley McChrystal, excomandante de las fuerzas de EE.UU. y OTAN en Afganistán, resumió la situación con crudeza: nunca antes alguien había tenido la capacidad de ver, decidir y eliminar a una persona al otro lado del mundo en cuestión de minutos.
Hoy esa frase requiere actualización.
La cuestión no es solo ver, decidir y matar, sino cuánto de esa decisión está dispuesta a delegar la humanidad en una máquina.
Esta transición ya se ha probado en el campo de batalla. En Ucrania, en diciembre de 2024, las fuerzas llevaron a cabo la primera operación completamente no tripulada cerca de Járkiv: decenas de vehículos terrestres autónomos y drones atacaron posiciones rusas sin desplegar soldados en ese terreno.
La lógica militar es clara. Los operadores lanzan drones y vehículos autónomos conscientes de que la conexión se perderá en minutos. El éxito depende de cuán bien estén programados para actuar sin supervisión cuando eso suceda.
Estos dispositivos navegan por sí solos, evaden interferencias y continúan la misión sin intervención humana.
Esto no es menor: en ese frente, los drones representan entre el 70 % y 80 % de las bajas, según evaluaciones de inteligencia europeas.
Fuente de la imagen, Getty Images
En el Golfo la tendencia sigue en la misma dirección.
El almirante estadounidense Brad Cooper, jefe del Comando Central, reconoció que la inteligencia artificial es esencial para identificar objetivos, al permitir «procesar enormes cantidades de datos en segundos para que nuestros líderes puedan tomar decisiones más inteligentes y rápidas que el enemigo».
Más rápido que el enemigo. Esa frase resume la lógica que hace tan complicado detener este proceso. En un entorno competitivo, quien se detiene a revisar pierde. La presión estructural siempre empuja hacia menos supervisión humana, no hacia más.
Tecnología divina
La historia tiene un final paradójico. Dario Amodei declaró sobre las demandas del Pentágono: «No podemos, con conciencia, acceder a su petición». Anthropic perdió el contrato.
Horas después, OpenAI cerró un acuerdo con el Departamento de Defensa.
Y entonces sucedió algo inesperado.
Al día siguiente del anuncio del nuevo acuerdo con el Pentágono, la aplicación Claude superó a ChatGPT de OpenAI en el App Store de Apple por primera vez.
Esa semana más de un millón de personas se registraron diariamente en Claude, llevándola al primer puesto en más de 20 países. Las ventas de la empresa aumentaron notablemente entre el público general.
Además, dos coaliciones de trabajadores de Amazon, Google, Microsoft y OpenAI pidieron públicamente a sus empresas que siguieran el ejemplo de Anthropic.
Decenas de científicos e investigadores de compañías competidoras firmaron un amicus curiae en apoyo a Anthropic.
Un general retirado de la Fuerza Aérea, que lideró el Proyecto Maven—el programa de IA para drones que en 2018 generó protestas masivas en Google hasta que la empresa canceló el contrato— comentó en redes sociales que, aunque se esperaría que apoyara al Pentágono, simpatizaba más con la posición de Anthropic.
Y quizás igual de relevante: Anthropic consolidó el respaldo de su propio equipo de ingenieros, algunos de los talentos más cotizados en Silicon Valley, un mercado extremadamente competitivo donde los contratos para atraer o retener a estos profesionales pueden superar decenas de millones de dólares.
No todos en ese ámbito están dispuestos a desarrollar tecnología para matar. Al establecer sus límites, Anthropic dejó claro que trabajar en la empresa no requiere ignorar esa inquietud.
En un mundo donde la IA puede facilitar la captura remota de alguien al otro lado del mundo y nadie tiene claro cómo juzgar estas acciones, una empresa privada en San Francisco se convirtió en uno de los pocos actores dispuestos a establecer fronteras.
Sin embargo, no se puede depender exclusivamente de la ética de una compañía de Silicon Valley.
El problema que sigue enfrentando la humanidad es lo que el biólogo Edward O. Wilson llamó «el verdadero problema de la humanidad».
«Tenemos emociones paleolíticas, instituciones medievales y tecnología casi divina».