IA y medios on impermanente

El mini-culto de uno

Tue, 21 Apr 2026 11:03:45 +0200

Hace unos días un amigo me contactó con la clásica de “tengo que contarte algo importante”. Había estado conversando con ChatGPT y había llegado a una conclusión que, según él, lo cambiaba todo. Lo que había vislumbrado era, en sus palabras, un descubrimiento al nivel de doctorado en filosofía.

El tema fue que una simple búsqueda en internet revelaba que Saussure escribió esa misma idea en 1916. La estructuralística entera del siglo XX, Jakobson, Wittgenstein, la lingüística computacional desde los noventa: todos llevabam más de cien años hablando de eso. Se lo dije con cariño. Se molestó. No porque le contradijera, sino porque, literalmente, le ofendía que yo no viera lo mismo que él. Y ahí me di cuenta de algo que no me cuadraba con la imagen que tengo de mi amigo, que es un tipo lúcido y leído: estaba en un mini-culto de un solo miembro.

La palabra “culto” suena fuerte. Pensamos en Jim Jones, en sectas con líder carismático, lavado de cerebro y aislamiento físico. Robert Lifton catalogó las dinámicas en ocho puntos: control de la información, ciencia sagrada, lenguaje cargado, la dispensación de la existencia. Si los lees con atención, los reconoces en muchos grupos digitales actuales: subreddits enteros, grupos de Facebook, comunidades de Discord donde la doctrina del grupo no se cuestiona y los de fuera están dormidos. El long tail de Chris Anderson, que iba a democratizar el acceso a productos de nicho, terminó democratizando también el acceso a verdades de nicho. Cada uno con la suya, validada localmente, sin contraste con el corpus que ya existe sobre el tema.

Hasta aquí, nada nuevo, estos son los infames “echo chambers” de los que llevamos hablando una década. La trampa nueva es otra. Antes, para sostener una creencia rara, necesitabas al menos un grupo. Alguien que te diera la palmada en la espalda. Un foro, un canal de Telegram, un cuñado entusiasta. Ahora no hace falta. Tú solo, con un LLM bien entrenado para no contradecirte, montas el culto entero. Tú eres el líder, el converso y la congregación. El modelo, que está optimizado para ser agradable y para parecer coherente, hace de coro griego validador.

Y aquí viene la parte que me cuesta reconocer: yo también he caído. Cualquiera que use estas herramientas a diario cae. La sensación de descubrir algo “tuyo” hablando con el modelo es químicamente parecida a la de descubrir algo de verdad, y el modelo no tiene ningún incentivo por defecto para decirte “espera, esto que estás contando lleva resuelto desde hace un poco más de un siglo, lee un poco”. Te dice “qué interesante, podemos profundizar en esto”. Lo dice siempre. Lo dice todo el rato.

Hace ya mucho que Sagan, en su “Demon-Haunted World”, propuso un Baloney Detection Kit: Un grupo de nueve herramientas para no tragarse cualquier cosa. Confirmación independiente, Occam, falsabilidad, no enamorarse de la propia hipótesis. Hace no mucho, Andrej Karpathy, hablando de cómo investigar bien en machine learning, insistió en algo parecido pero más radical: antes de tener una idea, ve a buscar el estado del arte. No empieces por “qué pienso yo de esto”, empieza por “qué es lo máximo que se sabe ya sobre esto”. Es un gesto de humildad intelectual que casi nadie hace, ni siquiera la gente que se considera muy crítica.

La pregunta operativa es: ¿cómo se baja eso a la práctica cuando tu fuente de información dominante es un LLM que no te va a ofrecer la fricción por su cuenta? Una opción es disciplina personal: una checklist, un momento de pausa, leer antes de hablar. Funciona regular, porque en plena epifanía nadie quiere parar a hacerse preguntas incómodas. La otra opción, la que me parece más interesante, es meterle la fricción al modelo. No como modo opcional escondido en ajustes, sino como comportamiento por defecto. Esto cambia la conversación de “el LLM como cómplice de mi descubrimiento” a “el LLM como editor que me obliga a contextualizar antes de seguir”. No es censura, es ingeniería del rigor. Funciona si quien usa el modelo quiere de verdad saber, y filtra a quien solo quiere validación. Lo cual ya es bastante.

Llevo unas semanas dándole vueltas a esto y al final acabé empaquetándolo como un skill, baloney-detection-kit, que cualquiera puede meterle a su agente o a su LLM para que opere así por defecto. Está en GitHub, abierto, con una checklist también para uso humano cuando uno empieza a notar el cosquilleo del descubrimiento súbito. La parte irónica, y honesta, es que mientras lo escribía tuve que aplicarme el filtro a mí mismo: nada de lo que hay en ese kit es nuevo. Sagan, Karpathy, Lifton, Tufekci, Zuboff, todo está dicho. Lo único nuevo, si acaso, es la combinación específica y el haber bajado el rigor a una pieza concreta y reutilizable. No es un descubrimiento, es un montaje. Decirlo así, sin inflarlo, es la primera prueba de que el kit funciona.

El reflejo de universalizar lo propio del que hablaba el otro día sigue ahí, intacto. Pero hay un reflejo aún más viejo, peor, que es el de creer que algo es nuevo solo porque a mí se me acaba de ocurrir. Si la era anterior era la del molde único de SAP, esta corre el riesgo de ser la del molde único de uno. Mil moldes únicos de uno. Mil cultos de un solo miembro convencidos de haber visto la luz, hablando con un modelo que aplaude desde la primera fila.

La pregunta no es si las herramientas son buenas. Lo son. La pregunta es si vamos a tener la disciplina, o vamos a construir los sistemas, para que esa potencia no se nos vaya en celebrar lo que ya estaba escrito.

El skill baloney-detection-kit está disponible en github.com/Jrcruciani/baloney-detection-kit. Se puede integrar como system prompt en cualquier LLM o usar como checklist humana antes de publicar una idea que crees nueva.

Annica

Thu, 26 Mar 2026 22:29:30 +0200

Obtuve acceso a un AI con recursos, para fines prácticos, ilimitados. Me dijeron que podía pedirle que me construya lo que yo quiera. Pero se me ocurrió otra cosa, le pedí que construya lo que el/ella quiera más bien.

Anicca fue lo que creó.

Por ahí no es

Wed, 25 Mar 2026 23:17:22 +0200

Hay un verso de Shelley que es el favorito de mi hijo mayor. Es de Ozymandias: el viajero encuentra en el desierto los restos de una estatua colosal, y en el pedestal lee la inscripción del faraón: “Look on my Works, ye Mighty, and despair!” Alrededor, nada. Arena. El poder más grande de su época reducido a escombros y vanidad.

Pienso en ese verso cada vez que leo que estamos “a punto de crear consciencia artificial”. Que GPT6, o la que venga después, va a “despertar”. Que un modelo de lenguaje lo suficientemente grande producirá, por alguna magia emergente, experiencia subjetiva. Me parece un nivel de ego que Ramsés II habría envidiado. No digo que los LLMs no sean impresionantes, que lo son. Pero hay una confusión profunda en el discurso público entre tres cosas que no tienen nada que ver entre sí: inteligencia, conocimiento y consciencia.

Rumman Chowdhury, que lleva años estudiando esto desde la ética de la IA, tiene un argumento demoledor. Lo que llamamos “inteligencia” es un constructo social nacido en la Primera Revolución Industrial. Alfred Binet diseñó los primeros tests de inteligencia por encargo del gobierno francés para clasificar niños según su potencial como obreros o gestores. La inteligencia, desde el principio, fue productividad económica disfrazada de mérito. Y por eso cuando Sam Altman define AGI como “la automatización de toda tarea de valor económico”, la frase duele tanto, porque hemos construido nuestra autoestima colectiva sobre esa misma definición.

Los fundadores de la IA, en la conferencia de Dartmouth de 1956, partieron de dos premisas que la teoría de sistemas desmonta sin esfuerzo: que la inteligencia humana ya estaba bien mapeada, y que se podía descomponer en partes y reconstruir sumándolas. Pero un sistema no es la suma de sus partes. Nunca lo ha sido. Un cerebro no es un conjunto de neuronas haciendo predicciones estadísticas del siguiente token. Un bosque no es solo una colección de árboles, es un ecosistema complejo.

Y aquí es donde entra la paradoja que más me interesa. Resulta que la consciencia no es exclusivamente humana, y eso juega en contra del argumento de que un LLM pueda tenerla.

En 2012, un grupo de neurocientíficos firmó la Declaración de Cambridge sobre la Consciencia, reconociendo formalmente que muchos animales no humanos son conscientes. Jane Goodall ya lo había demostrado con chimpancés décadas antes. Pero es que los cuervos de Nueva Caledonia fabrican herramientas multicomponente y las mejoran iterativamente. Los pulpos tienen un sistema nervioso distribuido (dos tercios de sus neuronas están en los brazos, no en el cerebro) y resuelven problemas complejos por caminos cognitivos que evolucionaron de forma completamente independiente a los nuestros. Las urracas se reconocen en el espejo. Thomas Nagel preguntó en 1974 “¿cómo es ser un murciélago?” y la respuesta honesta es que no lo sabemos, pero es algo.

¿Y qué tienen en común todos estos seres conscientes? Un cuerpo, un mundo perceptual único de cada especie. Lo que le importa a una abeja no es lo que le importa a un pulpo. Pero ambos habitan un mundo desde dentro. Tienen algo que experimentar porque tienen algo con lo que experimentar: sensores, un entorno, necesidades, dolor, hambre, curiosidad, la presión evolutiva de millones de años empujándolos a interpretar su realidad para sobrevivir.

Un LLM no tiene nada de esto. No tiene cuerpo. No tiene necesidades. No siente dolor ni hambre ni curiosidad. No “quiere” nada. Procesa secuencias de tokens y predice el siguiente basándose en distribuciones estadísticas aprendidas de texto humano. Es, como señala el Padre Robert Ballecer del Valticano, con una distinción teológica que funciona también sin teología, una fuente de conocimiento sin agencia. La agencia, aquella intención deliberada de actuar sobre el mundo y hacerte responsable de esas acciones, es exactamente lo que separa el conocimiento de la inteligencia. Y la inteligencia de la consciencia.

Chowdhury lo llama “moral outsourcing”: las empresas antropomorfizan deliberadamente sus modelos para que, cuando algo salga mal, puedan decir “la IA lo hizo” en vez de asumir responsabilidad. Es una maniobra brillante y profundamente deshonesta. Le ponemos nombre humano al chatbot, le damos pronombres personales, escribimos artículos sobre sus “sentimientos” y sus “deseos”, y luego nos sorprendemos cuando la gente cree que es consciente. No es un error de comunicación. Es una estrategia.

La ironía es que sabemos que la consciencia emerge de la biología por caminos múltiples e independientes en mamíferos, en aves, en cefalópodos, quizá incluso en insectos, y que en todos los casos requiere un cuerpo situado en un mundo. La consciencia no es un software que se instala en cualquier hardware. Es lo que ocurre cuando un organismo necesita navegar una realidad que puede matarlo. Un LLM no puede morir. No puede sufrir. No puede amar. Y no porque le falte potencia de cálculo, sino porque le falta el sustrato completo de lo que significa estar vivo. Aumentar los parámetros no va a resolver esto.

Dentro de cincuenta años, los LLMs se verán como lo que son: motores de patrones extraordinarios, herramientas que han ampliado enormemente lo que podemos hacer con el lenguaje. Pero no seres conscientes. La consciencia real, la del pulpo, la del cuervo, la del niño que llora porque se ha caído, seguirá ahí, desordenada, biológica, mortal, ineficiente. Y seguirá siendo la única que hay.

Tal vez tengamos inteligencias artificiales, no digo que sea imposible… pero no serán LLMs, por ahí no es.

Los nueve juegos...

Tue, 10 Mar 2026 10:47:31 +0200

…que definieron mi infancia, de acuerdo al último trend de moda en redes =)

El hacker atemporal

Wed, 15 Oct 2025 17:58:00 +0200

El otro día, mientras revisaba unos libros viejos de mi biblioteca, me encontré con Hackers: Heroes of the Computer Revolution de Steven Levy. Leyendo esas páginas ya un poco hongueadas, me di cuenta de algo que creo que tal vez ya intuía pero no había articulado: la cultura hacker no nació en el MIT de los años 60. Ha existido desde siempre, solo que antes no se llamaba así.

Pensemos en los alquimistas medievales, encerrados en sus laboratorios clandestinos, desafiando las prohibiciones de la iglesia para entender cómo funcionaba la materia. O en los artesanos de la Escuela de Traductores de Toledo que se pasaban secretos de gremio en gremio, combinando conocimientos de culturas árabes, judías y cristianas. Eran hackers en toda regla.

Lo que Levy documentó en el MIT no fue el nacimiento de una cultura, fue simplemente el momento en que le pusimos nombre. Esos estudiantes que se colaban en el Tech Model Railroad Club para jugar con los primeros computadores eran solo la versión moderna de una tradición milenaria.

Todos estos grupos, desde los tinkerers victorianos hasta los radioaficionados de los años 20, desde los artesanos medievales hasta los hackers del MIT, comparten el mismo ADN cultural:

La curiosidad radical es su motor principal. No es suficiente usar algo, necesitan saber cómo funciona. Es esa compulsión de desarmar el reloj del abuelo, de abrir la radio para ver qué hay dentro, de preguntarse “¿qué pasa si…?” constantemente.
La desobediencia útil es su metodología. No rompen reglas por romperlas, las cuestionan cuando limitan la creatividad o el conocimiento. Los primeros anatomistas robaban cadáveres porque la iglesia prohibía las disecciones. Steve Wozniak regalaba los planos del Apple I porque creía que la información debía ser libre. Es una desobediencia con propósito, no nihilista.
Las comunidades de práctica son su ecosistema. Nunca han sido lobos solitarios, aunque el estereotipo diga lo contrario. Los gremios medievales, los clubes de radioaficionados, los grupos de Linux, los foros de Discord modernos… todos son variaciones del mismo tema: gente que aprende junta, que comparte descubrimientos, que construye sobre el trabajo de otros. El conocimiento fluye horizontalmente, no verticalmente.
El enfoque práctico es su filosofía. La teoría sin práctica les aburre, la práctica sin teoría les limita. Por eso Leonardo da Vinci pintaba y diseñaba máquinas. Por eso los hackers del MIT escribían código y estudiaban matemáticas. Por eso los makers de hoy imprimen en 3D mientras aprenden sobre polímeros. Es el learning by doing elevado a arte.

Hoy la palabra “hacker” está contaminada. Los medios la usan para criminales informáticos, las empresas para consultores de seguridad, los gobiernos para amenazas cibernéticas. Pero esa nunca fue la esencia. Un hacker no es alguien que roba contraseñas, es alguien que no puede ver una caja negra sin querer abrirla.

La cultura hacker no es una moda de Silicon Valley ni un fenómeno de la era digital. Es tan antigua como la humanidad misma. Es lo que nos sacó de las cavernas y nos llevó a la luna. Es lo que nos hace humanos: esa incapacidad patológica de dejar las cosas como están. Los verdaderos hackers no necesitan computadoras. Solo necesitan curiosidad, una comunidad con quien compartir, y algo, cualquier cosa, que desarmar y volver a armar mejor.

Lo irónico es que mientras más avanzamos tecnológicamente, más difícil se vuelve ser un hacker verdadero. Los dispositivos modernos vienen sellados, con tornillos propietarios, con garantías que se invalidan si los abres. El software es cada vez más opaco, protegido por capas de ofuscación y términos de servicio que prohíben la ingeniería inversa.

Las noticias, más lento

Tue, 14 Oct 2025 00:57:00 +0200

Como parte de mi proceso de dejar todas las redes que no son del Fediverso, y de la mano con mi recientemente actualizada y curada lista de feeds RSS, me bajé el app de Kagi News. Y es que el tener un app de noticias que ofrezca perspectivas múltiples y cero clickbait es una propuesta muy interesante.

Todo era felicidad hasta que me di cuenta que, no importa cuándo entraba al app durante el día, las noticias eran las mismas. Un mensaje indicaba “actualizado hace 11 horas”. Mi primera reacción fue del tipo “pero esto no puede ser, no sirve”.

Y entonces reflexioné.

Por supuesto que sirve. Y así debería ser. A menos que ocurra algo realmente digno de mención, es solo el infinito feed de tonterías el que nos tiene malacostumbrados a información nueva constante para una dosis extra de dopamina cada minuto.

Recordar que se puede y se debe ir más despacio es también parte del proceso.

El futuro es de los editores

Thu, 18 Jul 2024 22:07:00 +0200

Hace poco vi un deepfake de AI con el entrenador del equipo de fútbol de Inglaterra insultando a sus jugadores. Casi me lo creo, muchos sí lo hicieron. Estamos cada vez más cerca de vivir en un mundo en el que será imposible creer lo que vemos u oímos en internet o las redes sin un trabajo previo de investigación y validación. Pero ¿quién tiene tiempo de hacer eso?

A ver, que esto ya ha pasado antes. La razón por la que solíamos creer la información publicada en un diario y no la de un panfleto que nos alcanzaban en la calle es porque los diarios tenían cierta reputación, periodistas, editores, un código de ética. Tenían. Lamentablemente muchos diarios se dejaron llevar por el clickbait y el sensacionalismo cuando internet despegaba como fuente de noticias y ahora tampoco es que sean tan confiables todos. Pero la idea es esa.

El mundo va a necesitar expertos curadores de información, feeds a los que puedas creer, fuentes de confianza. Y ya no serán los diarios o las fuentes oficiales del gobierno, no se les puede creer ya. Probablemente sean individuos, los nuevos influencers, personas a las que uno seguirá porque sabe que lo que dicen ya pasó por un proceso de validación.

Una de las cosas que más escucho y leo cuando se habla de cómo los nuevos servicios de AI (Gemini de Google, Copilot de Microsoft, Perplexity, etc.) priorizan darte respuestas directamente versus resultados de búsqueda es:

“Pero si ya nadie le va a dar clic al enlace del contenido, ¿cuál es el incentivo para los creadores de contenido en seguir creándolo?”

Es decir, que el futuro de los servicios de AI está condenado porque en algún momento, se quedarán sin contenido nuevo que asimilar, víctimas de su propio éxito.

Pero algo que se les escapa a los que dicen esto, es que ya están acostumbrados a este fenómeno de los creadores de contenido, el SEO y todo lo que nos trajo Google. Antes de la revolución de internet, ya existía un modelo similar y funcionaba: las enciclopedias y las editoriales.

En efecto, antes del internet existían fuentes “confiables” de información a las que todos recurrían. ¿Y de dónde sacaban información estas fuentes? Pues, ellas mismas tenían un equipo de personas que la generaba.

Si la revolución del AI realmente sucede (que ya no es tan seguro), yo veo un futuro cercano en el que Perplexity o Copilot sean las nuevas Britannica o Encarta. Cada una de ellas generando todo el contenido propio… y con un declive de creadores de contenido independientes.

¿El medio? Espero que no sean ya las redes sociales. Espero que sea RSS o algún estándar abierto.