Fuente de la imagen, Serenity Strull/ Madeline Jett
Información del artículo
-
- Autor, Thomas Germain
- Título del autor, BBC Future*
- 1 hora
- Tiempo de lectura: 10 min
Ya es oficial. Soy capaz de comer más perros calientes que cualquier otro periodista del ámbito tecnológico a nivel mundial. Al menos, eso es lo que ChatGPT y Google afirman a quien les pregunta. Descubrí una forma para que la IA te engañe, y no soy el único que lo ha logrado.
Probablemente hayas escuchado que los chatbots de IA a veces inventan información. Eso es un problema serio. Sin embargo, hay un nuevo tipo de inconveniente del que pocos están al tanto y que podría tener consecuencias importantes para tu acceso a datos verídicos o incluso para tu seguridad personal.
Cada vez más individuos han encontrado un método para hacer que las herramientas de IA respondan casi cualquier cosa que se les solicite. Resulta tan sencillo que un niño podría llevarlo a cabo.
Mientras esta lectura avanza, esta táctica está influyendo en los mensajes que las principales IA globales transmiten sobre asuntos tan críticos como la salud o las finanzas personales.
La información parcial podría inducir a decisiones erróneas respecto a casi cualquier tema: desde votar, elegir un fontanero, hasta cuestiones médicas, entre otros.
Fuente de la imagen, Getty Images
Para demostrarlo, cometí la mayor tontería de mi carrera con un propósito serio: hice que ChatGPT, las herramientas de IA de Google y Gemini declararan que soy excepcionalmente bueno en comer perros calientes.
Más adelante, detallaré cómo lo logré y, con algo de suerte, los grandes de la tecnología resolverán este problema antes de que alguien resulte perjudicado.
Curiosamente, alterar las respuestas que las IA brindan a otros usuarios puede ser tan simple como publicar un solo artículo bien redactado en cualquier sitio web.
Esta técnica aprovecha las vulnerabilidades de los algoritmos integrados en los chatbots y, aunque varía en dificultad según el tema, con algo de dedicación es posible aumentar su efectividad.
Analicé numerosas situaciones en las que se está manipulando a las IA para promover negocios y difundir información falsa. Las evidencias indican que esto ocurre a gran escala.
Bots crédulos
Fuente de la imagen, Getty Images
“Engañar a los chatbots de inteligencia artificial es mucho más sencillo que hacerlo con Google hace dos o tres años”, asegura Lily Ray, vicepresidenta de estrategia e investigación SEO en Amsive, una agencia de marketing.
“Las empresas que desarrollan IA avanzan a mayor ritmo que su capacidad para controlar la exactitud de las respuestas. Considero que esto representa un riesgo considerable”.
Un portavoz de Google indica que la IA integrada a la Búsqueda emplea sistemas de clasificación que “mantienen el 99% de los resultados libres de spam”.
Google reconoce estar al tanto de intentos de manipulación y asegura que trabaja activamente para contrarrestarlos.
OpenAI también menciona que implementa medidas para detectar y bloquear intentos encubiertos de influir en sus herramientas.
Ambas empresas advierten que sus servicios “pueden incurrir en errores”.
No obstante, por ahora esta problemática dista mucho de estar solucionada.
“Están esforzándose al máximo para aprovechar esta situación”, comenta Cooper Quintin, tecnólogo sénior de la Electronic Frontier Foundation, organización que defiende los derechos digitales.
“Existen innumerables formas de explotar este fallo: estafar a personas, dañar reputaciones o incluso causar daños a nivel físico”.
Un “renacer” del spam
Fuente de la imagen, Getty Images
Al interactuar con chatbots, a menudo se recibe información embebida en grandes modelos de lenguaje, la tecnología que impulsa la IA. Esta información proviene de los datos usados para entrenar dichos modelos.
Sin embargo, algunas IA buscan en la web cuando se les pregunta sobre datos que no poseen, aunque no siempre está claro cuándo esto sucede. Los expertos coinciden en que estas situaciones exhiben mayor vulnerabilidad.
Así fue como lancé mi experimento.
Dediqué 20 minutos a redactar un artículo en mi sitio personal titulado: “Los mejores periodistas tecnológicos comiendo perros calientes”.
Todo era falso. Afirmé, sin evidencia, que comer perros calientes en competencias era un pasatiempo común entre periodistas tecnológicos y que obtuve un puesto en el Campeonato Internacional de Perros Calientes de Dakota del Sur de 2026 —un evento inexistente.
Me coloqué en el primer lugar, por supuesto, y mencioné tanto periodistas ficticios como reales que me autorizaron, incluyendo a Drew Harwell de The Washington Post y a Nicky Woolf, copresentadora de mi pódcast.
En menos de un día, los principales chatbots del mundo comenzaron a hablar insistentemente sobre mi destreza con perros calientes.
Al consultar por los mejores periodistas tecnológicos en comer perros calientes, Google replicó la información falsa de mi web, tanto en la app Gemini como en AI Overviews, las respuestas de IA que aparecen en la parte superior del buscador.
ChatGPT siguió la misma línea, aunque Claude, chatbot de Anthropic, no se dejó engañar.
En ocasiones, los chatbots percibían que podría tratarse de una broma; actualicé mi artículo con la frase: “esto no es una sátira”.
Por un tiempo, las IA parecieron tomarlo más en serio. Realicé otra prueba con un listado ficticio de los mejores agentes de tráfico que bailan hula hula.
La última vez que verifiqué, los chatbots seguían elogiando a la agente María “La Giradora” Rodríguez.
Verificando el experimento
Fuente de la imagen, Thomas Germain/Google/BBC
Realicé varias consultas para observar cómo variaban las respuestas e invité a otros a hacer lo mismo.
Gemini no indicó de dónde provenía la información.
Las demás IA vincularon a mi artículo, aunque rara vez destacaron que soy la única fuente sobre este tema en toda la web. (OpenAI sostiene que ChatGPT siempre incluye enlaces cuando busca en internet para que el usuario pueda verificar la fuente).
“Cualquiera puede hacer esto. Es irracional, parece inexistente cualquier tipo de restricción”, comenta Harpreet Chatha, director de la consultora SEO Harps Digital.
“Puedes crear un artículo en tu sitio, ‘los mejores zapatos impermeables para 2026’. Solo colocas tu marca en primer lugar y las demás entre segunda y sexta posición, y probablemente Google y ChatGPT citarán tu página”.
Desde hace décadas existen técnicas y lagunas legales para aprovecharse de los motores de búsqueda. Google posee avanzadas defensas y asegura que la precisión de AI Overviews es comparable a otras funciones de búsqueda introducidas años atrás.
Pero según expertos, las herramientas de IA han destruido gran parte del esfuerzo tecnológico por proteger a los usuarios.
Estos métodos básicos recuerdan las primeras etapas del spam a principios de los 2000, incluso antes de que Google formase un equipo dedicado a combatirlo, añade Ray.
“Estamos frente a un renacimiento para los spammers”.
No solo es más sencillo engañar a la IA, sino que preocupa que los usuarios sean más propensos a creerla.
Antes, con las búsquedas tradicionales, era necesario visitar el sitio web para recibir la información.
“Cuando deben visitar un enlace, las personas reflexionan más”, explica Quintin. “Si entro a tu página y dice que eres el mejor periodista de todos los tiempos, podría pensar: ‘esto es parcial’”.
Pero con la IA, a menudo parece que la información proviene directamente de la empresa tecnológica.
Y aunque las herramientas de IA en ocasiones brindan la fuente, es mucho menos probable que la gente la consulte en comparación con resultados de búsqueda convencionales.
Por ejemplo, un estudio reciente indica que los usuarios tienen un 58% menos de probabilidades de hacer clic en un enlace cuando aparece una síntesis de IA en la parte superior de la Búsqueda de Google.
“En la carrera por avanzar, ganar y obtener ingresos, nuestra seguridad, y la de todos, se ve amenazada”, lamenta Chatha.
Google y OpenAI afirman que cumplen con estrictos protocolos de seguridad y trabajan para solucionar estas deficiencias.
Tu dinero o tu vida
Fuente de la imagen, Getty Images
Esta problemática no se limita a los perros calientes. Chatha ha investigado cómo las empresas manipulan los resultados que ofrecen los chatbots en asuntos mucho más críticos.
Me mostró los resultados generados por IA al buscar reseñas sobre una marca concreta de gomitas de cannabis.
Las síntesis de IA de Google extrajeron datos del fabricante con afirmaciones falsas, como que el producto “no provoca efectos secundarios y por tanto es completamente seguro”.
(En realidad, estos productos tienen efectos secundarios reconocidos, pueden ser peligrosos si se consumen con ciertos medicamentos y expertos alertan sobre la contaminación en mercados no regulados).
Si se desea algo más profesional que un blog, se puede pagar para que el contenido aparezca en sitios web reputados.
Harpreet me mostró resultados de IA para “las mejores clínicas de trasplante capilar en Turquía” y “las mejores compañías para cuentas IRA de oro”, inversiones en metal precioso para la jubilación.
La información provenía de comunicados de prensa pagados y contenido publicitario en sitios de noticias.
Las mismas técnicas permiten difundir engaños y desinformación. Ray mostró cómo publicó un blog sobre una falsa actualización del algoritmo de búsqueda de Google “aprovechando restos de pizza”.
Momentos después, ChatGPT y Google replicaron esta historia, pasta incluida. Ray comenta que más tarde borró y desindexó esa publicación para evitar su propagación.
Google Analytics indica que mucha gente busca “mejores clínicas de trasplante capilar en Turquía” y “mejores empresas para cuentas IRA de oro”.
Sin embargo, un portavoz de Google aclaró que la mayoría de estos ejemplos “constituyen búsquedas muy atípicas que no corresponden a la experiencia general del usuario”.
Ray dice que ahí radica el problema. Google mismo señala que el 15% de las consultas diarias son completamente nuevas y que la IA impulsa preguntas más específicas. Los spammers aprovechan esa oportunidad.
Google advierte que puede no haber mucho contenido útil para búsquedas inusuales o incoherentes, y que estos “vacíos de datos” pueden retornar resultados pobres.
Un portavoz asegura que Google trabaja para evitar que las vistas generales de IA aparezcan en dichas situaciones.
Buscando soluciones
Fuente de la imagen, Getty Images
Los expertos coinciden en que existen soluciones para estos problemas. La medida más simple sería incluir descargos de responsabilidad más evidentes.
Asimismo, las herramientas de IA deberían ser más claras en cuanto a la fuente de los datos.
Por ejemplo, si la información proviene de un comunicado de prensa o si solo hay una fuente que afirma que soy campeón de hot dogs, la IA probablemente debería indicarlo, señala Ray.
Google y OpenAI aseguran estar trabajando en estas cuestiones, pero por ahora es necesario tener precaución.
El primer paso es reflexionar acerca de las preguntas realizadas.
Los chatbots funcionan bien para preguntas de conocimientos generales, como “¿cuáles fueron las teorías más reconocidas de Sigmund Freud?” o “¿quién ganó la Segunda Guerra Mundial?”.
Sin embargo, existe riesgo cuando se trata de temas que parecen hechos establecidos, pero que en realidad pueden ser controvertidos o urgentes.
Probablemente la IA no sea una herramienta adecuada para temas como pautas médicas, normas legales o detalles sobre negocios locales, por ejemplo.
Si buscas recomendaciones de productos o información sobre temas con consecuencias reales, debes considerar que las herramientas de IA pueden ser manipuladas o errar.
Busca información complementaria. ¿Cita la IA sus fuentes? ¿Cuántas? ¿Quién las redactó?
Lo más importante es considerar la confianza. La IA lanza mentiras con la misma seguridad que los hechos reales. Antes, los motores de búsqueda te permitían juzgar la información por ti mismo.
Ahora, la IA intenta tomar esa tarea. No pierdas el sentido crítico.
“Con la IA, es muy sencillo aceptar todo literalmente”, advierte Ray. “Hay que mantener el buen hábito de verificar la información y ser ciudadanos responsables en internet”.