Fuente de la imagen, Serenity Strull/ BBC/ Getty Images
Información del artículo
-
- Autor, Thomas Germain
- Título del autor, BBC Future
- 4 mayo 2026
- Tiempo de lectura: 10 min
Deténganme si esto ya les suena: una compañía tecnológica proclama haber creado una inteligencia artificial (IA) tan avanzada que genera temor.
Se dice que es demasiado riesgosa para ser liberada al público; las consecuencias podrían ser devastadoras.
Por fortuna para todos nosotros, por ahora la mantendrán bajo estricta vigilancia. Solo querían que nos enteráramos.
Esto es, justamente, lo que la empresa de IA Anthropic comunica acerca de su modelo más reciente: Claude Mythos.
La compañía sostiene que la capacidad de Mythos para identificar vulnerabilidades en ciberseguridad supera ampliamente a la de los profesionales humanos, y que esta tecnología podría desencadenar efectos con potencial para alterar el equilibrio global si termina en las manos equivocadas.
«Las consecuencias —para la economía, la seguridad pública y la defensa nacional— podrían ser significativas», afirmó Anthropic en una nota de blog publicada a principios de abril.
Algunos, con tono alarmista, advirtieron que Mythos pronto nos forzará a cambiar todos los aparatos tecnológicos de nuestra vida —incluyendo el microondas con conexión wifi— para mantenernos protegidos de esta amenaza digital.
Ciertos especialistas en seguridad cuestionan estas aseveraciones, pero dejemos eso a un lado por ahora. No es nada novedoso.
Los directivos de las principales compañías de IA lanzan advertencias frecuentes sobre cómo sus propios productos podrían poner en riesgo a la humanidad.
¿Será para infundir temor?
Resulta extraño que una empresa hable así de su propio trabajo.
No es común oír a McDonald’s anunciar que ha inventado una hamburguesa tan aterradoramente deliciosa que sería poco ético ofrecerla al público.
Fuente de la imagen, Getty Images
Táctica del miedo
Aquí una hipótesis.
Algunos analistas creen que a las compañías de IA les conviene mantenernos preocupados por un posible apocalipsis, pues esto desvía la atención del daño real que ya están causando en la sociedad.
Los líderes tecnológicos argumentan que simplemente alertan sobre un futuro inevitable y que la seguridad es su máxima prioridad, ahora o en el futuro.
No obstante, otros sugieren que se trata de una estrategia para sembrar miedo, que sobrestima el poder de la tecnología y busca elevar el valor de las acciones.
También promueve la idea de que los reguladores deben mantenerse al margen, bajo el argumento de que solo estas empresas de IA pueden controlar a los «malos» y manejar esta tecnología con responsabilidad.
«Si se presenta esta tecnología como algo casi sobrenatural en cuanto a peligrosidad, nos hace sentir impotentes, como si estuvieramos sobrepasados», indica Shannon Vallor, profesora de ética de datos e IA en la Universidad de Edimburgo.
«Como si las únicas personas a las que pudiéramos acudir fueran estas empresas», añade.
Que alguien me detenga
Un portavoz de Anthropic me informó que la empresa ha sido explícita respecto a estas preocupaciones.
Difundieron entradas de blog de otras organizaciones que respaldan las capacidades de ciberseguridad de Mythos, pero no respondieron directamente a los puntos que se mencionan en este artículo, salvo un comentario que incluiré más adelante.
No es la primera vez que Dario Amodei, director de Anthropic, participa en el desarrollo de una herramienta que la empresa considera demasiado peligrosa para el público.
En 2019, cuando Amodei trabajaba en OpenAI, esa compañía lanzó GPT-2.
Él y otros directivos argumentaron que no podían liberar GPT-2 por «preocupaciones sobre usos malintencionados de la tecnología».
Se trataba de una herramienta mucho menos avanzada que ChatGPT.
Meses más tarde, decidieron lanzarla igualmente (el CEO de OpenAI, Sam Altman, publicó un blog reconociendo la incertidumbre, aunque consideró que los temores en torno a GPT-2 estaban «exagerados»).
Altman criticó el «marketing del miedo» de Anthropic en una entrevista reciente en un podcast. Sin embargo, su propio enfoque de «he creado un monstruo» viene de años atrás.
«La IA probablemente conducirá al fin del mundo, pero, mientras tanto, surgirán grandes empresas», afirmó Altman en 2015.
Años después admitió que se cuestiona si «ha hecho algo malo al lanzar ChatGPT».
Si tan solo alguien le hubiera avisado.
Fuente de la imagen, Serenity Strull/ BBC/ Getty Images
«Riesgo de extinción»
Cientos de líderes tecnológicos —incluyendo a Altman, Amodei, Bill Gates y Demis Hassabis, CEO de Google DeepMind— firmaron en 2023 una declaración breve que afirmaba: «Mitigar el riesgo de extinción generado por la IA debe ser una prioridad global, junto a otros riesgos sociales de gran escala, como pandemias y guerra nuclear».
Ese mismo año, figuras como Elon Musk firmaron una carta solicitando una pausa de seis meses en el desarrollo de IA avanzada.
Menos de medio año después, Musk anunció la creación de su nueva empresa de IA: xAI.
«Esto es, simplemente, parte de un patrón de afirmaciones infundadas sobre el poder», afirma Emily M. Bender, profesora de lingüística computacional y procesamiento del lenguaje natural en la Universidad de Washington y coautora del libro «La estafa de la IA».
Para Bender, esta postura no es exclusiva de OpenAI o Anthropic, sino que representa la norma dentro de todo el sector de IA.
«Intentan decir: ‘Miren aquí; no presten atención a la destrucción ambiental, la explotación laboral ni a los sistemas sociales que estamos desmantelando’. Lo único que, según ellos, debe preocuparnos es evitar que esta tecnología se convierta en una fuerza maligna que destruya a la humanidad», explica.
Consulté a OpenAI sobre estos temas.
Un portavoz compartió una reciente publicación de Altman que señalaba que OpenAI «se opone a que esta tecnología consolide poder en manos de unos pocos» y destacó que «las decisiones cruciales sobre la IA deben tomarse mediante procesos democráticos y principios igualitarios, no solo por laboratorios de IA».
¿Es Mythos realmente tan peligroso?
Anthropic asegura que su modelo ha identificado miles de vulnerabilidades «de alta gravedad» en el ecosistema tecnológico, alcanzando una efectividad superior a la de los expertos humanos.
Además, anunció una alianza con más de 40 empresas y grupos en un «esfuerzo urgente» para corregir esas vulnerabilidades antes de que los hackers las aprovechen.
Un representante señaló que Anthropic ha establecido colaboraciones intencionadamente con organizaciones para reforzar los sistemas informáticos básicos donde se concentra la mayor parte del problema.
Sin embargo, hay serias dudas sobre estas afirmaciones. Heidy Khlaaf, científica principal de IA en el Instituto AI Now, afirma que esto no le sorprende.
Khlaaf ha dedicado su carrera a crear y auditar herramientas de análisis de código similares a las que Anthropic dice haber superado.
También ha trabajado en seguridad digital en instalaciones nucleares.
Para Khlaaf, la señal de alerta más grande fue la falta de datos sobre la tasa de falsos positivos: un indicador estándar que muestra con qué frecuencia una herramienta de seguridad detecta problemas que realmente no existen.
Fuente de la imagen, Getty Images
«No es un indicador desconocido», comenta Khlaaf.
«Es, en realidad, uno de los principales indicadores de la utilidad de una herramienta».
Anthropic no mencionó este aspecto y evitó responder cuando solicité comentarios.
Tampoco compararon el desempeño de Mythos con el de herramientas que los ingenieros de seguridad han utilizado por décadas.
Asimismo, se han difundido rumores que sugieren que Anthropic pudo haber retrasado el lanzamiento masivo de Mythos por falta de capacidad computacional.
Anthropic tampoco respondió a esta consulta.
Nada de esto significa que la amenaza sea ficticia.
«Es posible que Mythos sea una herramienta eficaz», puntualiza Khlaaf.
Las herramientas de IA son ciertamente adecuadas para examinar grandes bases de código, y la detección automática de vulnerabilidades constituye una amenaza real y urgente.
Sin embargo, Khlaaf muestra escepticismo frente a las declaraciones de Anthropic, pues carecen de evidencias que las respalden.
«Existen numerosas inconsistencias en la narrativa que presenta a Mythos como una herramienta todopoderosa que, por lo tanto, no puede ser lanzada a la audiencia», señala.
¿Por qué tanta gravedad?
Según afirman, evitar el fin del mundo es la razón fundamental detrás de la existencia de OpenAI y Anthropic.
OpenAI se creó como organización sin fines de lucro con el compromiso de desarrollar IA de forma segura antes de que grandes empresas tecnológicas supuestamente menos responsables —como Google y Meta— tomaran la delantera.
Posteriormente, un grupo disidente se separó de OpenAI para formar Anthropic, alegando que su ex empleador no estaba lo suficientemente comprometido con la seguridad.
Actualmente, ambas trabajan para convertirse en compañías públicas y vender acciones en bolsa.
«Para entender el comportamiento de una organización —especialmente de una corporación— hay que analizar sus incentivos», comenta Vallor.
Fuente de la imagen, Bloomberg vía Getty Images
Google eliminó sus «líneas rojas» en el desarrollo de armas basadas en IA.
OpenAI peleó legalmente para dejar de ser una organización sin fines de lucro.
Anthropic abandonó su política estrella: no entrenar un modelo de IA si no se garantizan las medidas de seguridad adecuadas.
«No esperaría que [ninguna de estas empresas] renuncie a dominar el mercado con tal de seguir siendo ‘los buenos'», afirma Vallor.
Mientras tanto, hay un fuerte impulso para la implementación de IA en el sector salud, a pesar de la preocupación por diagnósticos equivocados.
Los centros de datos que funcionan con gas podrían emitir más gases de efecto invernadero que países enteros.
Se dice que la IA está llevando a muchas personas vulnerables al borde de la psicosis e incluso al suicidio.
Un número creciente de estudios apunta a una posible conexión entre la IA y el deterioro cognitivo.
Los deepfakes han pasado un punto sin retorno: ni siquiera pude convencer a mi propia tía de que no soy un robot.
Las empresas de IA aseguran estar comprometidas con estos temas.
OpenAI me facilitó enlaces a sus posicionamientos sobre salud mental, precisión, fraudes y estafas. Altman sostiene que abordan estos retos en todas las fases del desarrollo de la IA.
Sin embargo, Vallor sostiene que estas compañías solo hacen sonar la alarma en torno a un eventual apocalipsis por una razón.
Si la IA pudiera destruir la sociedad, todos esos otros problemas perderían relevancia.
«La estrategia ha resultado efectiva», afirma.
«Hablar de sus productos como si pudieran acabar con el mundo no ha limitado a estas empresas ni afectado su poder. Más bien, hace que la gente piense que las únicas entidades que pueden ofrecer protección son ellas mismas», añade.
Demonios o salvadores
Casi simultáneamente, algunas de las personas que advierten sobre la destrucción también prometen la redención.
En un ensayo de 2024, Altman proyecta que «logros sorprendentes —como reparar el clima, establecer una colonia espacial y descubrir toda la física— se volverán comunes».
Amodei prometió «un país de genios dentro de un centro de datos».
Fuente de la imagen, Bloomberg vía Getty Images
La utopía y el apocalipsis son simplemente dos caras de la misma moneda, opina Vallor.
«En ambos casos, la magnitud es tan grandiosa y mítica que temas como regulación, gobernanza o derecho parecen herramientas insuficientes para ejercer un control efectivo», afirma.
«Esto conduce a la creencia de que solo queda esperar para saber si estas tecnologías serán los demonios que arruinen la civilización o los salvadores que nos conduzcan a una utopía», agrega.
Incluso el nombre «Mythos» parece diseñado para evocar una admiración casi religiosa.
Pero no son divinidades; son productos creados por empresas lucrativas, señala Vallor.
Y se han regulado tecnologías mucho más peligrosas que los chatbots.
«Con casi cualquier otra tecnología —salvo esta; incluso con la energía nuclear o las armas biológicas— jamás hemos permitido que esas narrativas nos hagan creer que se trata de fuerzas ingobernables», comenta.
«Nada en ellas es ingobernable, salvo que decidamos no gobernarlas», continúa.
Seamos claros: teóricamente la IA podría dominar el mundo.
No soy adivino, pero pregúntese: ¿no le suena esta idea a otras historias de Silicon Valley?
¿No se suponía que para esta época estaríamos viviendo en el Metaverso de Mark Zuckerberg?
¿No se esperaba que Bitcoin reemplazara todas las monedas?
¿Recuerda la década de 2010, cuando creíamos que las redes sociales salvarían la democracia?
Todas esas cosas aún podrían suceder. O quizá no.