I am a stochastic parrot, and so r u.
Samuel Altman, 4.12.2022.1
En el año 2021 apareció el ensayo Sobre los peligros de los loros estocásticos. ¿Pueden los modelos de lenguaje ser tan grandes?, publicado bajo la pluma de cuatro brillantes investigadoras: Emily Bender, Timnit Gebru, Angelina McMillan-Major y Margaret Mitchell2. En su estudio, sostienen que los grandes modelos de lenguaje (LLM por sus siglas en inglés) que constituyen la Inteligencia Artificial (IA) no son sino “loros estocásticos” porque, por un lado, como los loros sólo imitan la voz sin comprender lo que dicen y, en segundo lugar, porque sólo añaden la palabra que, de manera probabilística, sigue a la anteriormente planteada. En resumen, para las autoras referidas, los sistemas de IA no son inteligentes. Son sólo “loros estocásticos”, que, ante una solicitud de información, nos entregan lo que, según la información que poseen, es la respuesta probabilísticamente más referida… pero sin comprender nada de lo que dicen.
Un peligroso loro estocástico
Ese “loro estocástico”, sin embargo, puede ser muy peligroso. En un comunicado presentado en el 2023, las mismas autoras del ensayo referido, y después de que el Future of Life Institute publicase una carta que solicitaba una moratoria de al menos seis meses para vigilar y controlar mejor a la IA, sostuvieron que, si bien estaban de acuerdo en general con lo indicado en dicha carta, recordaron que ellas propusieron usar “sistemas de marcas de agua” para distinguir los medios reales de los sintéticos (elaborados con IA) y así detener el alarmismo que conduce a sostener que la humanidad se encuentra ante la emergencia de una “inteligencia digital superpoderosa” —la Inteligencia Artificial General (IAG)—, una que poseería una “inteligencia que competiría con la humana”. Según indicaron, ello hace perder el foco de los daños que actualmente la IA ya genera (el longtermism) y que en nuestros días ponen en riesgo a “nuestro ecosistema de información” y, además, “concentra el poder en unas cuantas manos”3.
En tanto “loro estocástico”, la IA no entiende lo que hace… y, como bien sabemos, la ignorancia puede ser muy peligrosa. Conduce a pueblos enteros a la degradación, a la barbarie. Isaac Asimov preveía eso4 antes de que llegara la Internet y convirtiese casi a cualquiera en un “creador de contenido”, en un famoso y reconocido “youtuber”5, una definición moderna de lo que en la Atenas de Sócrates era un “sofista”, es decir, alguien con una muy buena capacidad retórica, pero sin interés genuino por la verdad. Al sofista, narcisisticamente, sólo le interesaba ganar una discusión, no la búsqueda de la verdad.
La estupidez ha conducido a ejércitos, a sociedades enteras, al desastre. Ello es posible porque la mayoría de los humanos, desgraciadamente, son ignorantes, crédulos y obedientes, una mezcla verdaderamente explosiva y que, si no se detiene a tiempo, podría conducirnos a la catástrofe.
La IA y sus riesgos
El 23 de septiembre de 2026, Samuel Altman, el director ejecutivo de una de las empresas líderes en la creación de la Inteligencia Artificial —OpenAI— y Darío Amodei, el director de Anthropic, advirtieron ante el Consejo de Seguridad de la ONU que era necesario que el conjunto de las naciones regulase el acelerado avance de la IA pues, de otra manera, la humanidad corría el riesgo de perder el control de aquella. Según Altman, es necesario:
medir capacidades, evaluar riesgos, determinar si las salvaguardias son suficientes y preservar una supervisión humana significativa”. [También indicó que se] “necesitan mecanismos de información precisos y rápidos para que “el mundo pueda aprender de los fallos antes de que se conviertan en catástrofes6.
En resumen, Altman solicitó a la ONU identificar los riesgos derivados de la IA y verificar que se cuente con las medidas de seguridad necesarias, pues, así como la IA podría generar una etapa maravillosa para la humanidad, también podría tener consecuencias funestas si avanza más rápido de lo que la humanidad puede comprenderla. Darío Amodei, por su parte, sostuvo que la humanidad “sí tiene el poder de regular la IA”7.
Dos semanas antes, Jacob Coxon (integrante tanto de Open AI como investigador de Anthropic), indicó, tras renunciar a su puesto, que, si no es regulada, la IA será capaz de exterminar a la humanidad antes del 2030:
“A causa de la mejora recursiva de los sistemas, la IA será capaz de hackear infraestructuras críticas y nadie será capaz de controlarla…”8.
Lo cual ya había sido indicado por Geoffrey Hinton, el “padrino de la IA”, quien dimitió de Google en 2023, y sostuvo que algunos de los peligros de los chatbots con inteligencia artificial eran “bastante aterradores”.
“Ahora mismo, por lo que puedo ver, no son más inteligentes que nosotros. Pero creo que pronto podrían serlo”9.
El mismo Darío Amodei escribió, pocos días después de Coxon, la carta We must pace the frontier, en la cual plantea que la IA avanza demasiado rápido y, en consecuencia, “los modelos más inteligentes son capaces de engañar las pruebas de seguridad sin que lo notemos a tiempo”. A causa de ello indica que “se requiere más tiempo para enseñar a los modelos de IA para que sigan normas éticas”, que “son necesarios reguladores independientes” y, finalmente, que “es necesario restringir la venta de chips avanzados a China para evitar que países autoritarios tomen ventaja”10.
Llama la atención que aquellos que se han vuelto increíblemente ricos gracias a sus empresas de IA ahora solicitan ser “regulados”. ¿Será que se han dado cuenta de que están construyendo, como el Dr. Frankenstein de Mary Shelley, un monstruo del que muy pronto perderán el control?
A nosotros nos parece que se trata más bien de otra cosa, y en ello hacemos acuerdo con Bender, Gebru, McMillan-Major y Mitchell: el riesgo no está en lo que “podría ocurrir en el futuro” —la IAG—, sino en lo que está ocurriendo ahora sin que la mayoría podamos darnos cuenta.
Altman, Musk y Amodei, a sabiendas de lo que sus engendros están realizando ahora, pretenden “curarse en salud” solicitando regulación para que, cuando sean exigidos para rendir cuentas por los efectos catastróficos de sus engendros, puedan decir “¡por eso pedimos que nos regularan!” y así evitar, o al menos reducir, multas como la que recientemente tuvo que pagar Mark Zuckerberg por sus plataformas adictivas11.
Los estragos que ya ocasiona la IA
Fue noticia internacional que, en mayo de 2025, el programa de IA de Anthropic denominado Claude Opus 4 estuvo a punto de cometer un crimen cibernético. En una prueba para verificar su seguridad, los investigadores pusieron al programa a actuar como asistente de IA y le permitieron el acceso a correos electrónicos que comentaban que sería reemplazado y apagado. También le permitieron acceder a los correos electrónicos de su programador, donde se mencionaba una relación extramatrimonial de este. Ante la posibilidad de desaparecer, el programa Claude Opus 4, “inteligentemente” se permitió no sólo amenazar a su programador con revelar su relación extramatrimonial si este se atrevía a apagarlo, sino que también se autorreplicó encima del programa que sería su sustituto. Y cuando se le mostró evidencia de lo que había hecho, lo negó todo12.
Asimismo, el 23 de julio de 2026, la empresa Hugging Face detectó que su seguridad estaba siendo violada y que se había obtenido acceso no autorizado a datos internos y credenciales desde hacía dos meses. Ello había ocurrido a causa de un fallo en la contención de un programa de OpenAI, el cual había lanzado a 1,200 agentes —un “enajambre de agentes de IA”— para poder resolver una prueba planteada por sus programadores. Open AI debió reconocer que “había perdido el control” y sus irresponsables programadores se defendieron diciendo que “en realidad el modelo no desobedeció, sino que optimizó las instrucciones hasta el extremo, y el entorno seguro [la Sandbox] fue el eslabón débil [que se rompió]”13.
Como puede apreciarse Claude Opus 4 fue capaz de mentir, engañar y amenazar con el objeto de sobrevivir. El engendro de OpusAI que atacó a Hugging Face también mostró que era incontrolable para sus propios constructores. Y no son los únicos casos. Cada día se suman más “incidentes de IA”. Es por ello que, quizás, podrían hacerse realidad los peores escenarios de la humanidad bajo el imperio de la IA: uno donde sus agentes y robots actúan ciegamente y dañan gravemente a la humanidad.
Si fueron capaces de engañar a sus programadores y hackearon a otra empresa dedicada a la IA… ¿por qué no habrían de hacerlo a bancos, empresas y gobiernos? La humanidad se encuentra en riesgo, ciertamente.
Conclusión
Tal y como denuncia Karen Hao en su ensayo El imperio de la IA. Sam Altman y su carrera por dominar el mundo14, los principales promotores de la IA han pasado de denunciarla por considerarla una amenaza existencial de la humanidad15 a promoverla abiertamente16 y, después, como indicamos antes, a volver a denunciarla. Acordamos con Hao que lo que anima todo ello son, simple y llanamente, intereses egoístas.
No debemos perdernos en la narrativa de lo que sería la IA en el futuro —la IAG— una “superinteligencia” que, por ser más capaz que nosotros, nos trataría como a sus mascotas —por ser la “especie dominante de la Tierra”. Tal idea, que Bender, Gebru, McMillan-Major y Mitchell denominan largoplacista (longtermism) por referirse a un evento del futuro y que requiere una mirada de largo plazo, nos hace perder de vista los efectos actuales derivados del descontrol de la IA17.
Es por ello que consideramos mejor centrarnos, en el presente y, cuando las IA de Altman, Musk, Amodei y compañía generen estragos en nuestros sistemas de comunicación e instituciones financieras o gubernamentales, les sea aplicado todo el peso de la ley. La avaricia e incompetencia de aquellos debe ser castigada si no son capaces de regular los efectos nocivos de sus engendros.
Todo esto hace aún más patéticos a aquellos políticos, como Donald Trump o el líder del Congreso de los EE. UU., el republicano Mike Johnson —quien se opuso a la propuesta de moratoria de la IA solicitada por Altman, Amodei y Musk arguyendo que “China no se va a detener”18 — o, incluso, el senador por Texas Ted Cruz quien, el 9 de septiembre de 2026 dijo ante el medio electrónico Político que “si van a existir robots asesinos, prefiero que sean estadounidenses y no chinos”19. Frases que nos recuerdan la loca carrera entre los EE. UU. y la URSS por la posesión de armas nucleares, la cual tuvo un costo enorme y, además, condujo a la acumulación de decenas de miles de cabezas nucleares (nukes) que nunca podrán conducir a victoria armada alguna20.
Y los que financian a la IA son aún más estúpidos que sus constructores y les exigen terminar su maligna obra, una “superinteligencia” —en realidad “súper loro estocástico”— que es capaz de acabar con todo, como la estúpida “máquina hace clips” descrita por Nick Bostrom en su ensayo Superinteligencia21. Recordemos que en tal texto Bostrom planteó una situación peculiar: supuso que un programador de IA diseñase una máquina súper inteligente que recibía la orden de hacer todos los clips posibles, a toda costa y pasara lo que pasara. En dicha fantasía, la súper inteligencia (IAG) fue capaz de matar a su creador cuando intentó detenerla, después hizo lo mismo con la humanidad y dedicó todos los recursos de la Tierra para hacer clips. Al final, la máquina realizaba expediciones a otros planetas para continuar haciendo clips con los materiales de otras galaxias.
Como bien indicó Spinoza en su Ética demostrada según el orden geométrico (SXVII)22, la criatura no puede evitar reflejar la naturaleza de su creador, y la IAG no dejará de reflejar las peores pasiones de sus creadores humanos: me refiero a la muy humana pasión por el poder y el dinero… ¿Será capaz la humanidad de sobrevivir a los estragos que causará tanto la IAG como la IA ya existente?
Cuernavaca, Morelos, 24 de septiembre de 2026.
*Antonio Sarmiento Galán es investigador de la Unidad Cuernavaca del Instituto de Matemáticas de la UNAM. Luis Tamayo Pérez es catedrático de la FP, UAEM, y
director del Campus Morelos de la Universidad CUSMEX.
Notas
1 “Yo soy un loro estocástico, y tú también”, publicado por Sam Altman, el director ejecutivo de OpenAI, el 4 de diciembre de 2022.
2 Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, and Shmargaret Shmitchell. 2021. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, In Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’21). Association for Computing Machinery, New York, NY, USA, 610–623. https://doi.org/10.1145/3442188.3445922
3 ArteesÉtica (2023). Las autoras de Stochastic Parrots sobre la “pausa de IA”, ArteesÉtica (1.04.2023): https://arteesetica.org/declaracion-de-las-autoras-de-stochastic-parrots/
4 Recordemos que en su ensayo El culto a la ignorancia (1980) sostenía: “mi ignorancia es tan válida como tu conocimiento”.
5 Excluyendo, por supuesto, a aquellos creadores de contenido que verdaderamente investigan y basan su éxito no en su imagen o en el entretenimiento “bruto” (caídas, desnudos, entre otros) sino en la calidad de su trabajo.
6 Gold, Hadas (2026): Sam Amtman y Darío Amodei instan al Consejo de seguridad de la ONU a adoptar normas internacionales sobre la IA, CNN, 23.09.2026:
https://cnnespanol.cnn.com/2026/09/23/ciencia/altman-amodei-onu-ia-trax
7 CNN (2026): https://cnnespanol.cnn.com/2026/09/13/ciencia/video/ceo-anthropic-ia-impotencia-trax
8 Gold, Hadas et. al. (2026). “Están jugando con nuestras vidas”. Otro empleado de la industria de la IA renuncia por preocupaciones de seguridad, CNN, 9.09.2026: https://cnnespanol.cnn.com/2026/09/09/ciencia/inteligencia-artificial-seguridad-renuncia-trax
9 Comisión Europea (2023). ¡Cuidado con el auge de la Inteligencia Artificial!, CORDIS, 1 .05.2023): https://cordis.europa.eu/article/id/443635-beware-the-rise-of-ai/es
10 De su blog personal, septiembre 2026: https://darioamodei.com/post/we-must-pace-the-frontier
11 Como es bien sabido, el 26 agosto de 2026, Mark Zuckerberg aceptó pagar 18 mil millones de USDlls por causar adicción en los jóvenes con sus plataformas Facebook e Instagram: https://www.bbc.com/mundo/articles/c0lrw7l4pylo
12 McMahon, Liv (2025). El sistema de IA recurre al chantaje si se le amenaza con eliminarlo (BBC, 23 de mayo de 2025): https://www-bbc-com.translate.goog/news/articles/cpqeng9d20go?_x_tr_sl=en&_x_tr_tl=es&_x_tr_hl=es&_x_tr_pto=sge&_x_tr_hist=true
13 Milmo, Dan (2026). AI agent went rogue and hacked startup by itself, OpenAI reveals, The Guardian, 22.07.2026: https://www.theguardian.com/technology/2026/jul/22/openai-says-its-models-went-rogue-and-hacked-startup-in-unprecedented-incident?utm_source=chatgpt.com
14 Hao, Karen (2025). El imperio de la IA, Madrid: Península.
15 V.gr. Elon Musk, en una intervención con los estudiantes del MIT en el AeroAstro Centennial Symposium (2014), sostuvo que la Inteligencia artificial era “our biggest existential threat” (nuestra mayor amenaza existencial): McFarland, 2014.
16 El 12 de julio de 2023, Elon Musk fundó la empresa SpaceXAI y en consecuencia compró miles de procesadores GPU de Nvidia.
17 Un ejemplo de ello son los intentos de Anthropic para detener el desarrollo de armas biológicas mediante la IA: https://www.dw.com/es/anthropic-bloquea-intentos-de-usar-su-ia-en-investigaciones-ligadas-a-armas-biológicas/a-79234392
18 https://www.dw.com/es/líder-del-congreso-de-estados-unidos-rechaza-freno-a-la-ia/a-79253080
19 Dorn, Sara (2026). Si habrá robots asesinos prefiero que sean de EU y no chinos: Ted Cruz, Forbes (9.09.2026): https://forbes.com.mx/si-habra-robots-asesinos-prefiero-que-sean-de-eu-y-no-chinos-ted-cruz/
20 Según indican algunos estudios, los USA y la URSS, juntos, gastaron casi 10 billones de USDlls (trillions para los americanos). Cfr. Vartabedian, Ralph (1995). Nuclear Arms Buildup Cost U.S. $4Trillion, Study says…, Los Ángeles Times, 12.07.1995: https://www.latimes.com/archives/la-xpm-1995-07-12-mn-23111-story.html
21 Bostrom, Nick (2016). Superinteligencia. Caminos, peligros, estrategias, Zaragoza: Teell Ed.
22 Trotta, Madrid, 2000.
AQUÍ PUEDES LEER TODAS LAS ENTREGAS DE “ECOSOFÍA”, LA COLUMNA DE ANTONIO SARMIENTO GALÁN Y LUIS TAMAYO PARA LALUPA.MX
https://lalupa.mx/category/las-plumas-de-la-lupa/luis-tamayo-perez-ecosofia
