![\"\"](\"http:\/\/dragonlibre.net\/wp-content\/uploads\/2025\/11\/891473011478121116.png\")
<\/a>\u00bfQu\u00e9 son las alucinaciones? No hay una definici\u00f3n \u00fanica universalmente aceptada (hablamos en el contexto de la Inteligencia Artificial, claro). Podemos decir que se trata de respuestas producidas por las IA que son f\u00e1cticamente incorrectas, inconsistentes l\u00f3gicamente o directamente fabricadas (como en el caso del pelentrenque), como lo resume Karpowicz.<\/p>\n
Un problema con esa definici\u00f3n informal es que la correcci\u00f3n f\u00e1ctica no es algo que se pueda determinar ni de manera f\u00e1cil ni un\u00edvoca en muchos casos. Por ejemplo, la respuesta a cu\u00e1l es el mejor futbolista de la historia podr\u00eda ser considerada acertada por algunas personas y rechazada por otras. Esa ambig\u00fcedad es un aspecto crucial a la hora de pensar las consecuencias de la aplicaci\u00f3n de IA en diferentes \u00e1mbitos.<\/p>\n
Para acercarnos al tema, vamos a mirar primero las distintas causas que llevan a que una IA alucine, para luego referirnos a algunos riesgos que traen consigo, no s\u00f3lo a futuro sino ya mismo.<\/p>\n
Alucin\u00f3genos para IAs<\/h3>\n
En el caso del pelentrenque, la utilizaci\u00f3n de la palabra inexistente no fue casual: se buscaba intencionalmente que los chatbots respondieran textos siempre diferentes, para lo cual se enviaron \u201cprompts\u201d con esta palabra -entre otras estrategias- teniendo en mente un trabajo de Yao, Ning y otros (J.-Y. Yao et\u00a0al., 2023) en el que muestran c\u00f3mo las indicaciones (prompts) sem\u00e1nticamente d\u00e9biles alientan las respuestas falsas de los LLMs.<\/p>\n El fondo del tema es que en realidad los LLMs no comprenden de qu\u00e9 hablan: en palabras de Sebastian Raschka (Raschka, 2024), son capaces de procesar y generar texto de maneras que parecen<\/i><\/span> coherentes y contextualmente relevantes, pero no poseen conciencia o comprensi\u00f3n comparable a los seres humanos.<\/p>\n El trabajo de Yao mencionado m\u00e1s arriba, comienza su t\u00edtulo con unas palabras m\u00e1s que sugerentes: \u201cLLM miente: las alucinaciones no son errores sino caracter\u00edsticas\u2026\u201d. M\u00e1s a\u00fan: en la tercera p\u00e1gina los autores demuestran que se puede producir cualquier alucinaci\u00f3n a trav\u00e9s de prompts \u201cperturbados\u201d (construidos espec\u00edficamente para hacerlos alucinar).<\/p>\n Pero los prompts mutilados no son las \u00fanicas causas por las que los LLMs alucinan. Las IA pueden proferir disparates porque sus datos de entrenamiento las condicionan, porque \u201cno saben callarse\u201d, porque las indicaciones (prompts) que les dan son incompletas, tendenciosas, demasiado abiertas, o incluyen fallas de diversos tipos.<\/p>\n Los errores y sesgos en los datos de entrenamiento constituyen un factor esencial para la generaci\u00f3n de desvar\u00edos. Estos sistemas se caracterizan precisamente por utilizar una cantidad enorme de material a partir del cual \u201caprende\u201d a generar sus respuestas. Este problema fue se\u00f1alado por Bender y otros (Bender et\u00a0al., 2021) en una publicaci\u00f3n muy famosa, que dio pie a la a\u00fan m\u00e1s famosa carta (Future Of Life, 2023) cuasi-apocal\u00edptica firmada por CEOS, empresarios e ingenieros de renombre.<\/p>\n Pero \u00bfqui\u00e9n puede asegurar que los datos de entrenamiento son correctos?<\/p>\n En tiempos en los que algunas personas pretenden zanjar discusiones consultando a un chatbot (ChatGPT, DeepSeek, Grok u otros), es crucial entender que los LLM alucinan y siempre lo har\u00e1n, al menos mientras los \u201ctransformadores\u201d y las redes neuronales artificiales sigan siendo las bases de estas tecnolog\u00edas. Pero, sobre todo, sus respuestas van a estar condicionadas por los datos de entrenamiento, cargando con los prejuicios, los sesgos, los puntos de vista, que se expresen con mayor frecuencia en esos datos.<\/p>\n Las IA se extienden r\u00e1pidamente en los \u00e1mbitos m\u00e1s dis\u00edmiles, incluyendo educaci\u00f3n, seguridad, justicia, salud, gobierno.<\/p>\n Si esas IA de vez en cuando alucinan (aunque sea pocas veces, aunque sea algo relativamente raro), desconocer esa caracter\u00edstica implica desatender riesgos que pueden ser verdaderamente graves. Peor a\u00fan: ignorar qui\u00e9n proporciona los datos de entrenamiento, cu\u00e1les son esos datos, qu\u00e9 debilidades pueden tener y qu\u00e9 intereses persiguen los \u201cpropietarios\u201d de un LLM, son caminos directos a obtener resultados negativos, completamente err\u00f3neos o adecuados a criterios de \u201cverdad\u201d que nos resulten ajenas e incluso hostiles.<\/p>\n Michael Karpowicz (Karpowicz, 2025), investigador de Samsung, demostr\u00f3 que las alucinaciones no son un mero resultado de decisiones te\u00f3ricas o de ingenier\u00eda espec\u00edficas, sino que constituyen una caracter\u00edstica matem\u00e1ticamente inevitable. Sourav Banerjee (Banerjee et\u00a0al., 2024) fue un poco m\u00e1s lejos, se\u00f1alando que las alucinaciones son inherentes a estos modelos y son inevitables; esto se debe a la incompletitud de los datos (no pueden tener todos los datos de todo), el desconocimiento previo de los LLM de qu\u00e9 es lo que va a responder y cu\u00e1ndo dar por terminada su respuesta, e incluso la imposibilidad de completitud y consistencia, heredados del teorema de incompletitud de G\u00f6del.<\/p>\n Una mirada \u201coptimista\u201d (Suzuki et\u00a0al., 2025) se\u00f1ala que las alucinaciones no pueden eliminarse, pero s\u00ed hacerse estad\u00edsticamente irrelevantes hasta cualquier nivel arbitrario. El trabajo objeta que los anteriores son abstractos, aunque su enfoque se mantiene en un registro similar, ya que la des-alucinacionizaci\u00f3n se conseguir\u00eda con suficientes datos correctos y el algoritmo adecuado\u2026 algo de cuya factibilidad no se ocupa.<\/p>\n Cabe preguntarse hasta d\u00f3nde es posible contar con datos equilibrados, correctos, sin sesgos y completos. Quienes seleccionan o recopilan los datos no son entidades carentes de intereses: son sobre todo grandes monopolios. Es dif\u00edcil, de m\u00ednima, pensar que Microsoft -por ejemplo- no va a tomar alg\u00fan tipo de medidas para dificultar que su propio producto lo cuestione severamente, o que los datos de entrenamiento son absolutamente ecu\u00e1nimes en cuanto a las virtudes y defectos de sus productos (Buyl et\u00a0al., 2024).<\/p>\n Las alucinaciones en casos reales siguen existiendo, constituyendo un tema necesario de abordar. En el \u00e1mbito legal, aparece como citas de trabajos inexistentes (a veces asignados a autores reales, lo que complica la detecci\u00f3n); o ponderando de manera err\u00f3nea la jurisprudencia en que se basan. Magesh y otros (Magesh et\u00a0al., 2025), Lidsky y otros (Lidsky & Daves, 2025), mostraron que las herramientas basadas en IA pod\u00edan alucinar en varios aspectos, no adecu\u00e1ndose al correcto razonamiento jur\u00eddico, apelando a autoridades o legislaci\u00f3n no aplicable, o tomando como referencia a fuentes que no son las m\u00e1s relevantes para un caso en concreto.<\/p>\n Las consecuencias ya pueden verse en muchos lugares. Sin ir m\u00e1s lejos (ni en distancia ni en tiempo), en octubre \u00faltimo la C\u00e1mara en lo Penal de Esquel anul\u00f3<\/a> un fallo por el uso indebido de la Inteligencia Artificial por parte de un juez.<\/p>\n En la creaci\u00f3n de c\u00f3digo (Haque et\u00a0al., 2025) de computadoras, se manifiesta en codificaci\u00f3n insegura (repitiendo fallas de seguridad conocidas, por ejemplo), funciones que intentan utilizar equivocadamente bibliotecas (libraries) que no corresponden o no funcionan correctamente con el resto del software, o en la inclusi\u00f3n de c\u00f3digo directamente irrelevante<\/p>\n En el \u00e1mbito de la salud, Apoorva Muley y otros (Muley et\u00a0al., 2023) realizaron en 2023 una revisi\u00f3n sistem\u00e1tica de investigaciones referidas a los riesgos de la IA . Partiendo de los 39 trabajos relevados,observaron 3 \u00e1reas principales: riesgos de datos cl\u00ednicos, debidos a errores de la IA; riesgos t\u00e9cnicos, que incluyes los derivados del uso incorrecto de las herramientas, los que surgen por los sesgos de los datos de entrenamiento, o cuestiones relativas a la privacidad; y aspectos socio \u00e9ticos, como la falta de transparencia sobre c\u00f3mo funcionan o qu\u00e9 datos usan, y la poca claridad en cuanto a las responsabilidades de su uso (si algo sale mal, \u00bfes por el algoritmo? \u00bfpor c\u00f3mo se us\u00f3? ).<\/p>\n<\/a><\/a>Peligro: IA<\/h3>\n
La persistencia de las alucinaciones<\/h3>\n