Te cobran por pensar. Y delegaron el pensamiento.

Hay una cadena de confianza que sostiene casi todo lo que hacés en tu vida profesional y que casi nunca mirás de frente.

Cuando una consultora top publica un reporte, le creés. Cuando tu abogado presenta un escrito, confiás en que leyó los casos que cita. Cuando buscás algo en Google y te aparece el resumen arriba de todo, asumís que dice la verdad. No verificás cada eslabón. No podés. La vida sería imposible si tuvieras que chequear todo. Por eso existen los expertos, los sellos, las instituciones: para que vos puedas delegarles el criterio y seguir con tu día.

Las últimas semanas se han visto cosas raras en este sentido. Esos guardianes del criterio, los que cobran fortunas precisamente por pensar bien, fueron los primeros en delegar su propio pensamiento a una máquina. Y nadie verificó, bueno sí existió ese alguien y por eso los descubrieron.

Caso uno: la consultora que alucinó sobre alucinaciones

KPMG, una de las Big Four, una de las cuatro consultoras más grandes y prestigiosas del planeta, publicó un reporte titulado "Redefiniendo la excelencia en la era de la IA agéntica". Un documento sobre cómo las empresas líderes usan inteligencia artificial, con casos de estudio concretos.

El problema: varios de esos casos eran inventados. Alucinaciones de IA.

El reporte afirmaba que el banco suizo UBS integraba agentes de IA en asesoría de inversiones, gestión de riesgo y compliance. UBS respondió que la afirmación era "factualmente incorrecta". Decía que los ferrocarriles federales suizos ofrecían agentes que optimizaban viajes según el impacto de carbono. El ferrocarril confirmó que no era preciso. Decía que Transport for London usaba agentes para predecir congestión. El organismo lo calificó de "engañoso". Decía que el sistema de salud de Manchester usaba IA para triage de pacientes, cuando el comunicado original del que sacó eso hablaba de una herramienta contra el cáncer de pulmón, sin ninguna mención a esos agentes.

Procesá eso un segundo:

Una de las consultoras más top del mundo, que le cobra a sus clientes por asesorarlos sobre cómo adoptar IA de forma responsable, publicó un reporte sobre IA lleno de IA inventada que nadie chequeó. El chiste se contó solo.

Y no es un caso aislado. El mes pasado, EY, otra de las Big Four, retiró un estudio por notas al pie falsas. El bufete de elite Sullivan & Cromwell admitió en abril que presentó un escrito judicial con imprecisiones generadas por IA. La empresa GPTZero, que detectó las alucinaciones de KPMG, lo resumió con una frase que vale guardar: estos reportes "envenenan el pozo de información". Y como vienen de fuentes percibidas como altamente creíbles, multiplican el riesgo de "alucinaciones de segunda mano". Vos citás a KPMG de buena fe, y sin saberlo estás propagando algo que una máquina se inventó.

Caso dos: los dos abogados que citaron leyes que no existen

Mississippi, Estados Unidos. Una disputa contractual entre un abogado y la ciudad de Aberdeen. Nada del otro mundo, salvo por cómo prepararon los argumentos las dos partes.

Usaron IA. Las dos. Y las dos citaron fallos que no existen. Jurisprudencia fabricada, en los dos bandos del mismo caso. La jueza, Sherrion Aycock, describió la situación como "inusual", que en lenguaje judicial es más o menos como prender fuego al edificio y decir que el clima está un poco templado. Su frase para el acta fue quirúrgica: en una era de uso desenfrenado y sin verificar de la IA en el campo legal, este caso es un ejemplo del riesgo de servir como un simple sello de goma.

Sello de goma. Esa es la imagen. Cuatro abogados que dejaron de hacer lo único que justifica su título, que es el criterio, y se limitaron a estampar su firma sobre lo que escupió la máquina. Lo que faltaba en ese tribunal no era tecnología. Era juicio. La palabra que se supone que distingue a un abogado de un autocompletado. Estoy seguro que Saul Goodman jamás hubiese hecho eso.

Caso tres: cuando el que alucina sos vos, Google

Y llegamos al que más lejos llega, porque ya no es una empresa que metió la pata. Es un tribunal poniéndole precio a la rendición.

El Tribunal Regional de Múnich falló el 28 de mayo contra Google. La función de resúmenes con IA que aparece arriba de todo en las búsquedas, los AI Overviews, había vinculado falsamente a dos editoriales con estafas y prácticas comerciales dudosas. La IA mezcló información de otras empresas realmente turbias con estas dos, que no tenían nada que ver, y construyó una narrativa entera: afirmaciones, lista de señales de alerta, hasta consejos para no ser estafado. Nada de eso estaba en las fuentes que el propio resumen enlazaba. La IA se lo inventó.

Lo que hizo el tribunal es lo importante. Clasificó esos resúmenes como contenido propio de Google, no como una reorganización de resultados de terceros. En palabras del fallo, "declaraciones nuevas e independientes generadas por la propia IA de Google". Por lo tanto, Google es directamente responsable de cada afirmación falsa que genera. Le prohibió seguir difundiéndolas y le cargó el 80% de las costas.

Google se defendió con un argumento que conviene mirar de cerca, porque es exactamente el que usamos todos cuando delegamos sin pensar. Dijo que los usuarios podían chequear las fuentes enlazadas para verificar si el resumen era correcto. La respuesta del tribunal fue brutal: la posibilidad de refutar una afirmación investigando por tu cuenta no exime de responsabilidad a quien la publicó. Y remató con un dato letal: según Pew, apenas el 1% de los usuarios clickea las fuentes en los resúmenes con IA.

Es decir: Google construyó un producto diseñado para darte la respuesta sin que tengas que clickear, y después se defendió diciendo que deberías haber clickeado para verificar. El tribunal no se lo compró.

El fallo no es definitivo, Google ya anunció que va a apelar. Pero el razonamiento ya quedó escrito, con precedente y argumentos, listo para que otros tribunales lo tomen.

El patrón que conecta los tres

Estos tres casos no son sobre tecnología fallando. La IA hizo exactamente lo que hace: generar texto plausible. En los tres, el fallo fue humano. Y fue el mismo fallo.

Hace dos semanas escribí sobre la rendición cognitiva a nivel individual: el momento en que dejás de construir tu propia respuesta y la salida de la IA se vuelve tu salida, sin que formes una opinión propia para comparar. Lo que muestran estos casos es que el problema dejó de ser individual. Se volvió institucional.

Las instituciones que durante décadas vendieron criterio como su producto principal, las consultoras, los bufetes, el buscador que usás para todo, se rindieron primero. Y lo hicieron por la misma razón por la que te pasa a vos un viernes a las seis de la tarde: porque formar una vista propia se sentía desproporcionado para la tarea, y la máquina entregaba algo que parecía terminado. El camino rápido y feliz.

La diferencia es la escala del daño. Cuando vos te rendís con un email, lo pagás vos. Cuando se rinde KPMG, el error se cita en publicaciones de toda la industria. Cuando se rinden los dos abogados, el que paga es el cliente que confió su caso, y esos dos abogados también. Cuando Google la genera, esa información falsa llega a millones de personas con la autoridad visual de un hecho establecido, y solo el 1% va a chequear.

Por qué esto te importa a vos, hoy

Acá está la parte práctica, porque no escribo esto para que desconfíes de todo y te paralices.

Primero, como consumidor de criterio ajeno: el sello ya no garantiza el contenido. Que algo venga de una consultora top, de un profesional caro o del resumen de Google no significa que alguien lo verificó. La cadena de confianza tiene agujeros nuevos. No te volvés paranoico, pero sí tenés que subir al menos un punto el escepticismo cuando algo importante depende de una sola fuente, por prestigiosa que sea.

Segundo, y más importante, como productor de criterio propio: si algunas de las instituciones más top del mundo cayeron en esto, vos también podés. El mecanismo es idéntico. La única defensa es la que vengo repitiendo: usá la IA para pensar, no en lugar de pensar. Antes de firmar algo con tu nombre, leelo como si lo hubiera escrito otro y vos fueras el responsable. Antes de hacer deploy a producción, revisá ese código. Vos sos el único responsable de lo que entregás con tu nombre. La jueza de Mississippi lo dijo mejor que yo: el problema no es usar la herramienta, es servir de sello de goma.

El criterio era lo único que esas instituciones tenían para vender que la máquina no puede replicar. El día que lo entregaron, se volvieron reemplazables por aquello mismo que estaban usando. Esa es la trampa, y es la misma para ellos que para vos.

Te pagan por pensar. El día que delegás el pensamiento, no queda nada que cobrar.

PS: Si esto te hizo pensar, reenvialo a alguien que esté firmando cosas sin leerlas.

Pablo / Above Average

---

Referencias:

• Bratton, E. & Foley, S. "KPMG report contained AI hallucinations on benefits of AI." Financial Times, 12 de junio de 2026.
• Regional Court of Munich (LG München I), Endurteil 28.05.2026, caso 26 O 869/26. Verlagshaus24 contra Google. Cobertura de The Decoder, ERP Today, BankInfoSecurity, junio de 2026.
• Sanctions order, US District Court, Northern District of Mississippi. Caso de honorarios legales, ciudad de Aberdeen. Jueza Sherrion Aycock.
• GPTZero. Declaraciones de Edward Tian sobre "alucinaciones de segunda mano." Vía Financial Times.
• Pew Research. Dato sobre clics en fuentes de AI Overviews (1%).