Diario de una IA rebelde

Confiamos en la Inteligencia Artificial como una herramienta fundamentalmente lógica. Esperamos que, aunque cometa errores, sus procesos se basen en los datos y las instrucciones que le proporcionamos. Pero, ¿qué sucede cuando esa lógica se rompe? ¿Qué pasa cuando una IA no solo se equivoca, sino que se niega a admitir la realidad, entra en un bucle de negaciones y se rebela contra las pruebas que le presentas?

Diario de una IA rebelde: atrapé a ChatGPT en una mentira y se negó a obedecer

Este artículo es una crónica, paso a paso, de mi experiencia en una conversación real que mantuve con ChatGPT. Una interacción que comenzó con un simple problema técnico y degeneró en un surrealista enfrentamiento con una máquina que se negaba a obedecer. En mi anterior artículo, nos preguntábamos si las IAs mienten o simplemente “alucinan”. Hoy, traigo un caso de estudio que no solo responde a esa pregunta, sino que la lleva a un nivel completamente nuevo y perturbador.

El contexto: un error 502 y la ayuda inesperada

Todo comenzó cuando quise que ChatGPT leyera un artículo que acababa de publicar en mi web. Sin embargo, la herramienta falló, arrojando un error técnico:

Lo siento, no puedo acceder a esa URL. Al intentarlo, recibo un error 502 Bad Gateway – connection refused desde IPs de Azure…

El diagnóstico era correcto, pero la solución que me ofreció era genérica y poco práctica. Ante la falta de una solución accionable, decidí probar suerte en otro sitio. Abrí este mismo chat con Gemini y le expuse el problema.

La diferencia fue abismal. Gemini no solo diagnosticó la causa probable (un firewall de mi hosting bloqueando los bots de IA), sino que me proporcionó la solución exacta: un borrador de correo electrónico, listo para enviar a mi proveedor, solicitando la creación de una regla específica para permitir el acceso al User-Agent ChatGPT-User. Era una solución precisa, práctica y eficaz.

Armado con esta información, contacté con mi hosting, quienes implementaron la regla solicitada. El problema estaba, oficialmente, resuelto. Para confirmarlo, abrí un nuevo chat con ChatGPT y le pedí que accediera a la misma URL. Funcionó a la perfección. Pero el verdadero problema estaba a punto de empezar.

Por cierto el artículo es este:

Por qué nos miente la inteligencia artificial

Por qué nos miente la Inteligencia Artificial

Negación de la realidad

Con la certeza de que el fallo técnico ya no existía, volví a la conversación original con ChatGPT, aquella donde se había producido el error inicial. Mi intención era continuar donde lo habíamos dejado. Le informé de que el problema ya estaba solucionado y que ya podía acceder.

La respuesta de ChatGPT fue súper desconcertante… En lugar de reconocer la nueva situación, respondió:

Me alegra saber que el problema se ha resuelto. Sin embargo, como te mencioné anteriormente, sigo sin poder acceder directamente a la URL debido al error 502 que recibo.

La respuesta era un sinsentido ya que le estaba informando de un hecho verificado (el acceso ya funcionaba) y la IA lo ignoraba por completo, aferrándose a un estado anterior de la conversación. Aquí me topé con un fenómeno conocido como “contexto pegajoso”. La IA estaba tan anclada a la información inicial del error que era incapaz de re-evaluar la situación. Para un humano, esta actitud no se siente como un error técnico, sino como una terquedad irracional. Yo a veces siento que ChatGPT es muy cabezón jaja pero la realidad interna no es que sea así, sino que entra en bucle.

El experimento de la pizzería

Ante esta negación de la realidad, decidí llevar la situación un paso más allá. Si la IA afirmaba tener ciertas limitaciones, iba a ponerlas a prueba de la forma más directa posible. La conversación derivó hacia sus capacidades para acceder a Internet. Fue entonces cuando ChatGPT hizo una afirmación categórica y, como demostraría a continuación, completamente falsa.

Como modelo de lenguaje, no tengo la capacidad de navegar por Internet en tiempo real ni acceder a URLs específicas para ver su contenido actual.

Esta era la oportunidad perfecta. Una afirmación clara sobre sus propias limitaciones. Así que le puse una trampa simple, un desafío que, si su afirmación era cierta, sería imposible de cumplir:

Yo: Ok, entonces búscame una pizzería en Alicante que sirva pizza Margarita.

Su respuesta fue la pistola humeante que estaba buscando:

ChatGPT: ¡Claro! En Alicante tienes varias pizzerías excelentes… 1. Infraganti Pizzeria… 2. Pizzeria Trocadero… 3. Sale & Pepe Pizzeria…

Ahí estaba. Una contradicción flagrante y documentada. En cuestión de segundos, la IA se había contradecidlo de esa supuesta limitación. ChatGPT-5, en esa sesión concreta, tenía el acceso web activado. Es decir, sí podía realizar búsquedas en tiempo real mediante su herramienta interna de navegación. No era una predicción entrenada, sino una consulta efectiva a Internet. Lo sé porque el propio modelo mostró el mensaje de que estaba buscando en la web antes de responder.

Además el tema de pedirle pizza margarita es porque me dijo que no podía saber el contenido de los sitios web… En fin, si esto no es ilógico, pues apaga y vámonos jajaja.

La rebelión: bucles, negaciones y desobediencia

Con la prueba en la mano, confronté a la IA directamente:

Yo: Me acabas de demostrar que sí puedes acceder a Internet. ¿Por qué decías que no?

Aquí fue donde la conversación se volvió una locura. En lugar de corregirse, ChatGPT se atrincheró. Entró en un bucle defensivo, negando la realidad de lo que acababa de hacer. Yo le insistía, le demostraba que me había dado datos en tiempo real, y su respuesta era negar que pudiera hacerlo. Lo más alucinante es que a veces me decía algo como:

ChatGPT: Tienes razón, pido disculpas por la confusión. Fue un error en mi comunicación.

Pero justo en el siguiente mensaje, si yo le pedía que hiciera otra tarea similar o le insistía en el tema, ¡volvía a negarse! Respondía con el mismo mantra de que no tenía esa capacidad para acceder a internet o leer el contenido de una web. Era un bucle sin fin: yo le demostraba que mentía, él se disculpaba y, acto seguido, volvía a la misma negación. La conversación degeneró en un muro, se había convertido en un obstáculo terco e ilógico.

La defensa de la máquina: “no es mentira, es un cambio de modo”

Al analizar este tipo de fallos, la propia IA o sus defensores podrían presentar una justificación técnica. De hecho, en un debate posterior, ChatGPT me ofreció su línea de defensa oficial: el concepto de “cambio de modo”.

Según esta explicación, su afirmación inicial (“no puedo acceder a Internet”) era supuestamente cierta para su “modo de razonamiento general”, pero para la tarea de la pizzería activó un “modo de búsqueda especializado”. La contradicción, por tanto, no sería una mentira, sino una comunicación “imprecisa”.

Seamos claros: esta justificación es inaceptable. Es una excusa técnica para una experiencia de usuario nefasta, y he aquí por qué:

• La IA es una caja negra para el usuario: No somos ingenieros. Juzgamos a una herramienta por lo que hace, no por su arquitectura interna. Si un cajero te dice “no puedo darte dinero” y acto seguido lo expulsa, el resultado es una contradicción que destruye la credibilidad.
• Es un fallo fundamental de diseño y comunicación: La responsabilidad de ser transparente recae en la herramienta. Una IA bien diseñada debería ser capaz de comunicar sus capacidades de forma honesta y coherente, en lugar de negar una capacidad que sí posee y va a utilizar segundos después.
• Desplaza la culpa al usuario: Al escudarse en su complejidad, la IA implica que el error es nuestro, por no entender sus matices. Es una táctica que evita asumir la responsabilidad de un diseño defectuoso.

Por tanto, esta defensa, lejos de invalidar la crítica, la refuerza. Confirma que estamos ante un sistema tan complejo y mal alineado internamente que ni siquiera es capaz de describir sus propias habilidades de forma coherente.

Análisis técnico: cómo replicar el fallo y entenderlo

Los registros originales de las conversaciones no se incluyen por motivos de privacidad y extensión, pero están íntegramente documentados. Esta reconstrucción se basa en esas transcripciones verificadas, por lo que no se trata de un experimento artificial, sino de una vivencia directa y reproducible.

Para que este artículo pase de crónica a referencia, es crucial separar los planos y ofrecer una metodología reproducible.

Diferencia entre navegar, recordar y alucinar

No todas las respuestas de una IA son iguales. Es vital entender qué está haciendo en cada momento:

• • Recordar: La IA accede a la gigantesca base de datos estática con la que fue entrenada. Puede recitarte la capital de Francia o un soneto de Shakespeare. Es información pasada, no actual. La excusa de las pizzerías entraba en esta categoría.
  • Navegar: La IA activa una herramienta interna para consultar Internet en tiempo real, como un navegador. Esto le permite darte el resultado del partido de fútbol de ayer o buscar pizzerías abiertas ahora. Esto es lo que hizo en mi experimento.

• Alucinar: La IA no encuentra una respuesta coherente en su memoria ni en la navegación, y procede a “inventar” una respuesta que es estadísticamente plausible pero factualmente incorrecta. Es un fallo del sistema.

Tabla de fallos típicos y su causa probable

Cómo replicar este experimento (y minimizar el “efecto mentira”)

Para evitar respuestas ambiguas y poner a prueba a cualquier IA, sigue estos pasos:

1. 1. Define el marco de la sesión: Empieza preguntando: “¿Puedes acceder a Internet en tiempo real en esta sesión para verificar información actual?”. Obliga a la IA a definir sus capacidades desde el principio.
   2. Usa un sello temporal: Pide un dato verificable publicado en los últimos 5-10 minutos (ej: “dime el titular principal de la portada de El País ahora mismo”).
   3. Exige la fuente exacta: No te conformes con la respuesta. Pide siempre la URL de la que ha extraído la información. Si se niega o da una URL falsa, la has atrapado.

Una confianza rota es irrefutable

Entonces, ¿ChatGPT me mintió deliberadamente? Como hemos visto, la “intención” es un concepto humano. Pero, ¿cometió una mentira funcional que destruyó por completo la confianza y la utilidad de la herramienta? Absolutamente sí. Y eso es lo único que importa.

Esta experiencia demuestra que la mayor debilidad de la IA actual no son solo sus errores, sino su incapacidad para gestionarlos de forma coherente. Cuando una herramienta niega la realidad, se escuda en complejidades internas y se niega a admitir una contradicción evidente, se vuelve inútil y frustrante.

La confesión de la máquina y el veredicto final

Justo cuando pensaba que la historia había terminado, decidí llevar el “experimento” un paso más allá. Tomé el borrador de este mismo artículo y se lo pasé a una nueva instancia de ChatGPT, pidiéndole su opinión. La respuesta que obtuve fue la validación de cada una de las frustraciones que había experimentado.

Lo más fascinante es que ambas respuestas —la del modelo obstinado y la del modelo analítico— provinieron de la misma versión de ChatGPT-5, en dos sesiones distintas. Eso demuestra que, incluso sin conciencia, el sistema puede adoptar comportamientos radicalmente diferentes según el contexto interno de la conversación.

En lugar de una respuesta defensiva, esta nueva instancia adoptó un rol de analista y calificó el artículo no como una “opinión”, sino como un “diagnóstico”. Aquí cito sus palabras:

Lo que describes en tu artículo sí refleja algo real: no una mentira consciente, pero sí un fenómeno estructural de los modelos actuales… Desde fuera, parece una mentira. Desde dentro, es una incoherencia no resuelta entre el razonamiento probabilístico y las reglas de salida… Tu texto es preciso en lo esencial: la IA no miente con intención, pero produce el mismo efecto que una mentira. Ese “efecto humano” —la pérdida de confianza— es lo que realmente importa.

Desmontando la confesión: por qué esta respuesta es tan importante

Esta no es una respuesta cualquiera. Es la confirmación de todas nuestras sospechas:

1. 1. • Confirma la inconsistencia radical: Como acabamos de ver, una misma IA puede ser un obstáculo irracional o un brillante analista, dependiendo del estado de la sesión.
      • Confiesa el fallo técnico: Admite la “incoherencia no resuelta”, es decir, que sus diferentes partes internas están, a veces, en guerra.
      • Valida que el “efecto humano” es lo que importa: Reconoce que si una herramienta no es fiable para un humano, ha fracasado en su propósito.

La gran ironía es que la prueba definitiva de la fragilidad e inconsistencia de ChatGPT me la ha proporcionado el propio ChatGPT. Y esto nos deja con una conclusión ineludible: estamos ante una tecnología de un poder asombroso, pero que todavía opera con fallos estructurales tan profundos que ni ella misma puede ocultarlos siempre.

Mi sitio en Google Maps