\u2014Luis Alberto Spinetta, \u201cNo te alejes tanto de m\u00ed\u201d<\/em><\/strong> (1983)<\/p>\n\n\n\n En 1986, el m\u00fasico argentino Luis Alberto Spinetta planteaba en la canci\u00f3n La pel\u00edcana y el androide<\/strong>: un amor entre un ser natural y uno artificial, una relaci\u00f3n que de antemano rozar\u00eda lo imposible[1]<\/strong><\/a>. El tema -dir\u00e1 el artista- habla de \u00abla reacci\u00f3n frente a la cibern\u00e9tica\u00bb y de \u00abaquello que ha logrado transformarse hasta dejar atr\u00e1s su realidad originaria<\/strong>.\u00bb [2]<\/strong><\/a><\/p>\n\n\n\n Siguiendo esta l\u00ednea de pensamiento, 40 a\u00f1os m\u00e1s tarde, la creaci\u00f3n de Spinetta adquiere el car\u00e1cter de vaticinio. Un anticipo de c\u00f3mo las m\u00e1quinas \u00ab<\/em><\/strong>desobedecen<\/em><\/strong>\u00bb<\/em><\/strong> los fundamentos mismos que le han otorgado raz\u00f3n a su existencia.<\/p>\n\n\n\n Las inteligencias artificiales <\/strong>(IA<\/strong>) que hoy gozan de mayor reputaci\u00f3n y cuyo uso es m\u00e1s masivo- ChatGPT<\/strong>, Gemini<\/strong>, Claude<\/strong>– sufren alucinaciones<\/em><\/strong>. Nunca dicen \u00b4no s\u00e9<\/strong><\/em>\u00b4. Y antes de escribir que carecen de informaci\u00f3n o que no la verificaron: inventan la realidad. Estos modelos de lenguaje generativo producen informaci\u00f3n que nos parece coherente y hasta pueden convencernos de ello, pero que suele ser parcial o totalmente falsa. Sin embargo, no se trata de errores aleatorios, sino que son una consecuencia directa de c\u00f3mo funcionan esos sistemas: los patrones estad\u00edsticos que aprendieron a partir de procesar inmens\u00edsimos vol\u00famenes de datos predicen la palabra siguiente, aunque sin una comprensi\u00f3n real de la verdad o de los hechos de los que dan informaci\u00f3n.<\/p>\n\n\n\n Los resultados saltan a la vista y los navegantes experimentados (tambi\u00e9n los desconfiados tradicionales) se topan permanentemente con citas inexistentes, datos inventados, interpretaciones sesgadas e, incluso, afirmaciones sobre hechos que nunca ocurrieron<\/strong>.<\/p>\n\n\n\n Si bien el problema no es nuevo, en los \u00faltimos a\u00f1os se ha manifestado de forma mucho m\u00e1s evidente, porque el uso de la Inteligencia Artificial se fue integrando a ciertos \u00e1mbitos sensibles<\/em>: la justicia, los medios de comunicaci\u00f3n, la gesti\u00f3n p\u00fablica, las finanzas, la medicina, la educaci\u00f3n.<\/p>\n\n\n\n Estudios independientes que se publicaron durante 2024 y 2025 \u2014entre los que se destacan El Artificial Intelligence Index Report<\/strong> 2025 de la Universidad de Stanford[3]<\/a>\u2014 evidencian que \u00ablos incidentes de IA: contenido ultrafalso (deepfakes), sesgos y fallos de seguridad, aumentaron un 56,4 %.\u00bb<\/p>\n\n\n\n Durante 2024 se alcanz\u00f3 \u00abun r\u00e9cord de 233 incidentes documentados\u00bb que \u00abmostraron que incluso los modelos m\u00e1s avanzados, pese a mejoras significativas en razonamiento y control, contin\u00faan alucinando<\/em><\/strong> en un porcentaje relevante de consultas complejas\u00bb.<\/p>\n\n\n\n Los informes t\u00e9cnicos revelaron que estos errores se concentran especialmente en preguntas jur\u00eddicas, acad\u00e9micas y t\u00e9cnicas, donde la verosimilitud del lenguaje puede ocultar la falsedad del contenido. En esos escenarios espec\u00edficos los niveles de error resultaron sorprendentemente altos.<\/p>\n\n\n\n Uno de los sucesos m\u00e1s sonados que hizo correr r\u00edos de tinta en los tabloides fue protagonizado en 2023 por el abogado neoyorquino Steven Schwartz<\/strong>. El jurista, con m\u00e1s de tres d\u00e9cadas de experiencia en la profesi\u00f3n, utiliz\u00f3 ChatGPT para redactar un escrito judicial en un caso contra la aerol\u00ednea Avianca<\/strong>. La demanda contra la compa\u00f1\u00eda a\u00e9rea la inici\u00f3 un hombre llamado Roberto Mata, quien alegaba que result\u00f3 herido cuando un carrito de servicio de metal golpe\u00f3 su rodilla durante un vuelo hacia el Aeropuerto Internacional Kennedy en Nueva York.<\/p>\n\n\n\n Los abogados del Sr. Mata, pertenecientes al bufete Levidow, Levidow & Oberman<\/strong>, se opusieron al pedido de desestimaci\u00f3n que hab\u00eda solicitado Avianca y presentaron un escrito de diez p\u00e1ginas que citaba m\u00e1s de media docena de decisiones judiciales relevantes.<\/p>\n\n\n\n Pero el documento presentado por los demandantes inclu\u00eda seis precedentes legales inexistentes<\/strong>, que hab\u00edan sido generados por Inteligencia Artificial. Tanto los abogados de la aerol\u00ednea, como el propio juez: notaron las inconsistencias, ya que las decisiones citadas en el escrito no fueron halladas dentro de la jurisprudencia. El ChatGPT<\/strong> lo hab\u00eda inventado todo.<\/p>\n\n\n\n Finalmente, el juez P. Kevin Castel<\/strong> sancion\u00f3 con una multa de 5.000 d\u00f3lares tanto al abogado creador del escrito Steven Schwartz, como al letrado a cargo de la defensa de Mata, Peter LoDuca.<\/p>\n\n\n\n En su resoluci\u00f3n, el magistrado dej\u00f3 en claro que el uso de inteligencia artificial en el \u00e1mbito legal no es inapropiado per se<\/em>, siempre que se trate de una herramienta confiable y bajo supervisi\u00f3n humana. Sin embargo, sostuvo que los abogados incumplieron gravemente su deber profesional al presentar fallos inexistentes generados por la inteligencia artificial<\/strong> del ChatGPT<\/strong> y al sostenerlos incluso despu\u00e9s de ser cuestionados por el tribunal, lo que justific\u00f3 la sanci\u00f3n impuesta.<\/p>\n\n\n\n El caso Avianca expuso los agujeros que implica confiar ciegamente en las IA sin una supervisi\u00f3n humana. Sin embargo, el fen\u00f3meno no se limita al derecho: tambi\u00e9n alcanza a territorios a\u00fan m\u00e1s sensibles, como la investigaci\u00f3n cient\u00edfica y la medicina.<\/p>\n\n\n\n En 2024, durante la presentaci\u00f3n de un trabajo t\u00e9cnico vinculado al modelo Med-Gemini<\/strong>, una versi\u00f3n especializada de Gemini <\/strong>desarrollada por Google<\/strong> para usos cl\u00ednicos y cient\u00edficos, el sistema gener\u00f3 y describi\u00f3 con aparente solvencia una estructura cerebral inexistente, denominada \u00ab<\/em>basilar ganglia<\/em>\u00bb<\/em>. El t\u00e9rmino, veros\u00edmil para cualquier lector no especialista, no corresponde a ninguna entidad anat\u00f3mica reconocida por la neurociencia.<\/p>\n\n\n\n El error fue detectado posteriormente por expertos humanos y atribuido a una alucinaci\u00f3n del modelo, que combin\u00f3 conceptos reales \u2014como los ganglios basales<\/em><\/strong>\u2014 para producir una noci\u00f3n falsa<\/strong> pero ling\u00fc\u00edsticamente plausible<\/strong>. Aunque el episodio no deriv\u00f3 en consecuencias cl\u00ednicas directas, el caso expuso con crudeza un problema estructural: incluso en contextos cient\u00edficos y m\u00e9dicos, donde la precisi\u00f3n es cr\u00edtica, los modelos m\u00e1s avanzados pueden inventar informaci\u00f3n con una coherencia suficiente como para atravesar instancias de revisi\u00f3n preliminar. En estos \u00e1mbitos sensibles, una alucinaci\u00f3n no es solo un fallo t\u00e9cnico: puede convertirse en un riesgo potencial para la investigaci\u00f3n<\/strong>, el diagn\u00f3stico y la toma de decisiones.<\/p>\n\n\n\n La Inteligencia Artificial prefiere inventar antes que quedarse en silencio. La ra\u00edz del problema es estructural, porque los modelos de lenguaje no verifican hechos, s\u00f3lo generan texto probable. As\u00ed, cuando la informaci\u00f3n es ambigua, incompleta o inexistente, el sistema tiende a completar los vac\u00edos con construcciones plausibles.<\/p>\n\n\n\n Para disminuir el comportamiento err\u00e1tico de las m\u00e1quinas, el humano construy\u00f3 algunas t\u00e9cnicas espec\u00edficas como la llamada RAG<\/strong>: la generaci\u00f3n aumentada por recuperaci\u00f3n<\/em>, que obliga al modelo a consultar bases de datos externas y citar fuentes verificables. Estas estrategias lograron disminuir significativamente las alucinaciones en contextos acotados y bien definidos. Sin embargo, en tareas complejas que requieren razonamiento encadenado, interpretaci\u00f3n normativa o evaluaci\u00f3n contextual, el problema persiste. Porque la alucinaci\u00f3n no es un defecto accidental, sino una consecuencia directa de c\u00f3mo estos sistemas producen lenguaje.<\/p>\n\n\n\n La alucinaci\u00f3n humana y la de inteligencia artificial comparten el nombre, pero no el origen ni el sentido. Si bien ambas fabrican realidades que no existen y pueden resultar tan convincentes que enga\u00f1an a quienes las experimentan: el humano se convence a s\u00ed mismo de un mundo paralelo; la m\u00e1quina convence al usuario de un hecho inexistente.<\/p>\n\n\n\n Las alucinaciones humanas<\/strong> son s\u00edntomas asociados a estados emocionales extremos, consumo de sustancias, situaciones de estr\u00e9s profundo o patolog\u00edas neurol\u00f3gicas. Implica una ruptura con la percepci\u00f3n consensuada de la realidad y, en muchos casos, quien alucina es consciente \u2014al menos parcialmente\u2014 de que algo no encaja<\/em><\/strong>. La duda, el miedo o el desconcierto forman parte de la experiencia.<\/p>\n\n\n\n Las alucinaciones<\/em> de la Inteligencia Artificial, en cambio, no conllevan percepci\u00f3n, conciencia ni conflicto interno. Porque las m\u00e1quinas no saben que no saben<\/strong>. No dudan, ni sospechan. Responden siempre con la misma seguridad tanto cuando aciertan como cuando est\u00e1n inventando.<\/p>\n\n\n\n Las alucinaciones de la IA no son desv\u00edos patol\u00f3gicos<\/em>, sino una manera normal del funcionamiento del sistema, respondiendo a los par\u00e1metros bajos los cuales fue programada.<\/p>\n\n\n\n Ah\u00ed estriba la diferencia m\u00e1s inquietante: mientras el humano puede callar, vacilar o corregirse, la IA tiende a llenar el vac\u00edo con una respuesta plausible. No imagina: completa. No delira: predice. Y precisamente por eso, su error puede resultar m\u00e1s convincente \u2014y m\u00e1s peligroso\u2014 que el humano.<\/p>\n\n\n\n [1]<\/a> Letra de la canci\u00f3n La pel\u00edcana y el androide. Garc\u00eda-Spinetta<\/strong> https:\/\/www.letras.com\/charly-garcia\/la-pelicana-y-el-androide-part-luis-alberto-spinetta\/<\/a><\/p>\n\n\n\n [2]<\/a> Spinetta. Cr\u00f3nicas e iluminaciones. Eduardo Berti <\/strong> https:\/\/www.planetadelibros.com.ar\/libro-spinetta-cronicas-e-iluminaciones\/171376<\/a><\/p>\n\n\n\n [3]<\/a> Artificial Intelligence Index Report<\/strong> 2025 de la Universidad de Stanford https:\/\/hai-production.s3.amazonaws.com\/files\/hai_ai_index_report_2025.pdf<\/a><\/p>\n\n\n\n <\/p>\n\n\n\n <\/p>\n","protected":false},"excerpt":{"rendered":" \u00abMe estaba preguntando y estaba alimentado Y estaba alucinando bien (super super)\u00bb \u2014Luis Alberto Spinetta, \u201cNo te alejes<\/p>\n","protected":false},"author":5,"featured_media":1559,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[124,1,5,3,30,7],"tags":[126,72,125],"class_list":["post-1028","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-articulos-periodisticos","category-de-todo","category-mundo","category-noticias","category-software-2","category-tecnologia","tag-ai","tag-ia","tag-inteligencia-artificial"],"featured_image_urls":{"full":["https:\/\/buenosaireszero.com.ar\/radio\/wp-content\/uploads\/2025\/07\/La-IA-Alucina-Canva-Seedream-4.5.jpg",1920,1080,false],"thumbnail":["https:\/\/buenosaireszero.com.ar\/radio\/wp-content\/uploads\/2025\/07\/La-IA-Alucina-Canva-Seedream-4.5-150x150.jpg",150,150,true],"medium":["https:\/\/buenosaireszero.com.ar\/radio\/wp-content\/uploads\/2025\/07\/La-IA-Alucina-Canva-Seedream-4.5-300x169.jpg",300,169,true],"medium_large":["https:\/\/buenosaireszero.com.ar\/radio\/wp-content\/uploads\/2025\/07\/La-IA-Alucina-Canva-Seedream-4.5-768x432.jpg",640,360,true],"large":["https:\/\/buenosaireszero.com.ar\/radio\/wp-content\/uploads\/2025\/07\/La-IA-Alucina-Canva-Seedream-4.5-1024x576.jpg",640,360,true],"1536x1536":["https:\/\/buenosaireszero.com.ar\/radio\/wp-content\/uploads\/2025\/07\/La-IA-Alucina-Canva-Seedream-4.5-1536x864.jpg",1536,864,true],"2048x2048":["https:\/\/buenosaireszero.com.ar\/radio\/wp-content\/uploads\/2025\/07\/La-IA-Alucina-Canva-Seedream-4.5.jpg",1920,1080,false],"morenews-large":["https:\/\/buenosaireszero.com.ar\/radio\/wp-content\/uploads\/2025\/07\/La-IA-Alucina-Canva-Seedream-4.5.jpg",825,464,false],"morenews-medium":["https:\/\/buenosaireszero.com.ar\/radio\/wp-content\/uploads\/2025\/07\/La-IA-Alucina-Canva-Seedream-4.5.jpg",590,332,false],"audioigniter_cover":["https:\/\/buenosaireszero.com.ar\/radio\/wp-content\/uploads\/2025\/07\/La-IA-Alucina-Canva-Seedream-4.5-560x560.jpg",560,560,true]},"author_info":{"info":["Javier Merlo"]},"category_info":"Art\u00edculos period\u00edsticos<\/a> De Todo<\/a> Mundo<\/a> Noticias<\/a> Software<\/a> Tecnologia<\/a>","tag_info":"Tecnologia","comment_count":"0","_links":{"self":[{"href":"https:\/\/buenosaireszero.com.ar\/radio\/wp-json\/wp\/v2\/posts\/1028","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/buenosaireszero.com.ar\/radio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/buenosaireszero.com.ar\/radio\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/buenosaireszero.com.ar\/radio\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/buenosaireszero.com.ar\/radio\/wp-json\/wp\/v2\/comments?post=1028"}],"version-history":[{"count":16,"href":"https:\/\/buenosaireszero.com.ar\/radio\/wp-json\/wp\/v2\/posts\/1028\/revisions"}],"predecessor-version":[{"id":1565,"href":"https:\/\/buenosaireszero.com.ar\/radio\/wp-json\/wp\/v2\/posts\/1028\/revisions\/1565"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/buenosaireszero.com.ar\/radio\/wp-json\/wp\/v2\/media\/1559"}],"wp:attachment":[{"href":"https:\/\/buenosaireszero.com.ar\/radio\/wp-json\/wp\/v2\/media?parent=1028"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/buenosaireszero.com.ar\/radio\/wp-json\/wp\/v2\/categories?post=1028"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/buenosaireszero.com.ar\/radio\/wp-json\/wp\/v2\/tags?post=1028"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Los mejores modelos de Inteligencia artificial flashean<\/em><\/strong>, flipan<\/em><\/strong>: dan groseras respuestas err\u00f3neas. \u00bfLa sublevaci\u00f3n definitiva de las m\u00e1quinas que tanto anticip\u00f3 la ciencia-ficci\u00f3n?<\/h2>\n\n\n\n
![\"\"](\"https:\/\/buenosaireszero.com.ar\/radio\/wp-content\/uploads\/2025\/07\/seedream-4.5_a_cinematic_photo_of_A_surreal_editorial_illustration_about_artificial_intellige-0-1-1024x576.png\")
<\/a><\/figure>\n\n\n\nLas consecuencias de confiar ciegamente en la IA<\/strong><\/h3>\n\n\n\n
\u00bfPor qu\u00e9 persisten las alucinaciones?<\/strong><\/h3>\n\n\n\n
Tu deliras, ella alucina, nosotros padecemos<\/strong><\/h3>\n\n\n\n
\n\n\n\n
\n\n\n\n