Todos aspiran a ser líderes en su área, y en la competencia tecnológica por la Inteligencia Artificial existe una fuerte rivalidad por determinar quién dará el siguiente gran avance en esta disciplina. Aunque OpenAI con ChatGPT marcó el inicio de esta etapa, sus rivales han ido acortando poco a poco la distancia, destacando especialmente Google y Anthropic.
Esta semana, la última mencionada ha presentado un nuevo modelo de IA general que, según sus propias declaraciones, resulta demasiado poderoso para ser liberado al público general. Con el nombre de Claude Mythos Preview, Anthropic afirma que esta IA es excesivamente eficiente para reconocer vulnerabilidades de alta peligrosidad, lo que significa que posee capacidades nunca antes vistas para identificar fallos y errores en aplicaciones y sitios web.
La empresa teme que, de salir a la luz, cibercriminales y agencias de inteligencia podrían provocar un caos absoluto al descubrir y utilizar todas las vulnerabilidades existentes; en otras palabras, esta IA sería la herramienta ideal para cualquier hacker, según advierten desde Anthropic.
Por este motivo, han decidido detener su distribución al público en general y han optado por emplearla «como parte de un programa defensivo de ciberseguridad con un grupo limitado de socios». Bajo el programa «Project Glasswing», Anthropic junto con otras 11 entidades: Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, la Linux Foundation, Microsoft, Nvidia y Palo Alto Networks, podrán realizar análisis exhaustivos de seguridad para reforzar sus sistemas y corregir fallos.
«El objetivo final es que nuestros usuarios implementen de manera segura modelos de la clase Mythos a gran escala, tanto para fines de ciberseguridad como para aprovechar los múltiples beneficios que ofrecerán modelos con estas capacidades», detallan en Anthropic.
Además, la empresa reconoce que «mantiene un diálogo constante» con el Gobierno de EEUU acerca de las «capacidades cibernéticas tanto ofensivas como defensivas» de Claude Mythos. «El surgimiento de estas capacidades cibernéticas es otra razón por la cual EEUU y sus aliados deben conservar una ventaja significativa en tecnología de IA», señaló Anthropic.
Pese a este manejo cuidadoso, esta actitud podría ser una excepción, y como admiten desde la compañía «están por llegar modelos aún más potentes, tanto propios como de otras empresas, y por eso es necesario un plan de respuesta». Tal vez sea en medio año o en tres años, pero llegará el momento en que la IA (que ya en cierta medida lo es) se transforme en un arma cuando sea utilizada con objetivos maliciosos, y esa es una circunstancia para la que tanto gobiernos como empresas deben prepararse antes de que sea demasiado tarde.