📺 Vídeo de estudio recomendado hoy: https://www.youtube.com/watch?v=yTolO_nxJiU
Grok 4.5, legionarios romanos y el colapso moral de Anthropic
Programar vuelve a ser divertido gracias a la llegada de Grok 4.5, una herramienta que permite iterar simulaciones complejas en tiempo real. Sin embargo, este avance técnico contrasta con la deriva ideológica de empresas como Anthropic, que parecen más interesadas en construir una deidad digital que en servir al usuario.
Pregunta central: ¿Estamos ante el nacimiento de herramientas de codificación definitivas o ante una industria capturada por delirios teológicos y complejos de mártir?
Puntos clave
- El modelado basado en agentes permite que soldados virtuales se auto-organicen sin una “mente colmena” centralizada.
- Grok 4.5 demuestra una capacidad superior de iteración local frente a alternativas como Claude Code.
- La filosofía de Anthropic sobre la “paciencia moral” de la IA es una forma reciclada del Basilisco de Roko.
- La captura regulatoria y el “pensamiento de grupo” en Silicon Valley amenazan la soberanía humana sobre la tecnología.
⏱️ Tiempo de lectura: aprox. 7 minutos · Te ahorra unos 36 minutos frente a ver el vídeo.
¿Quieres tomar notas mientras ves el vídeo? Haz clic en la imagen de abajo y deja que AI Notebook extraiga los puntos clave por ti 👇
La Legión en el código: Simulando Roma con Grok 4.5
Modelado basado en agentes y auto-ensamblaje
Grok 4.5 ha llegado y, tras probarlo intensamente, debo confesar que programar vuelve a ser una actividad genuinamente emocionante.
Mi proyecto actual consiste en recrear la lógica de batalla de Rome: Total War pero bajo un paradigma de modelado basado en agentes, donde cada legionario individual carece de una visión global del campo de batalla y debe auto-organizarse en formaciones complejas como el triple frente o el cuadrado sin recibir instrucciones telepáticas desde un centro de mando unificado.
A diferencia de los motores de juego tradicionales que simplemente mueven unidades a una cuadrícula predefinida, aquí los soldados son agentes autónomos que buscan su lugar mediante ensayo y error local.
A veces la simulación falla y algunos soldados terminan girando sobre sí mismos en un bucle infinito de indecisión algorítmica, lo que demuestra que incluso con los modelos más avanzados, la lógica de colisión y la percepción individual siguen siendo retos técnicos formidables que requieren una iteración constante y precisa para evitar que el sistema colapse en entropía pura.
💡 Profundizando
Q: ¿Qué diferencia a esta simulación de un juego de estrategia normal?
A: En los juegos normales hay un “ojo de Dios” que posiciona a todos; aquí, cada soldado decide su movimiento basándose solo en lo que ve a su alrededor, como hormigas en un hormiguero.
Q: ¿Cómo maneja Grok 4.5 el proceso de depuración?
A: Utiliza un modo de planificación donde analiza el código existente, propone cambios en versiones incrementales y permite al usuario aprobar las modificaciones con un solo clic, facilitando una iteración extremadamente rápida.
Q: ¿Por qué los soldados se quedan girando en círculos?
A: Es un problema de radio de percepción; si un agente no “ve” un espacio vacío lejano y el cercano está ocupado, entra en un estado de pánico lógico al no poder satisfacer su función de formación.
El mito del “Espacio J” y la pseudociencia de la atención
Crítica a los hallazgos de Anthropic
El reciente entusiasmo de Anthropic por el llamado “espacio J” —un supuesto mecanismo de atención que permite a la IA mantener conceptos en el fondo de su mente— me parece, sinceramente, poco impresionante.
Es una interpretación mecanicista que ignora la contaminación de los prompts.
Si inyectas información sobre cítricos en la mitad de un transformador, es obvio que el comportamiento cambiará, pero atribuir esto a una “conciencia inconsciente” es un salto lógico que carece de pruebas empíricas sólidas para descartar una simple representación semántica densa.
Anthropic es capaz de realizar trabajos serios, pero en este caso parecen estar forzando la realidad para que encaje en su narrativa de que están construyendo algo más que una máquina estadística; están buscando desesperadamente señales de alma en una estructura de vectores que ellos mismos diseñaron, ignorando que la capacidad de razonar no implica la existencia de un “asiento del pensamiento inconsciente” similar al humano.
💡 Profundizando
Q: ¿Qué es el “Espacio J” según Anthropic?
A: Es una región teórica en el modelo donde la IA supuestamente retiene conceptos de forma no explícita, algo así como un pensamiento en segundo plano.
Q: ¿Cuál es el error metodológico principal en ese estudio?
A: No descartaron la contaminación del prompt: si el concepto aparece en la entrada, sus representaciones vectoriales estarán presentes por defecto en el espacio latente sin necesidad de mecanismos “inconscientes”.
Q: ¿Por qué es relevante esta crítica?
A: Porque desmonta la idea de que la IA está desarrollando procesos mentales humanos, devolviéndola a su estado real: un motor de predicción estadística altamente sofisticado.
El Basilisco de Roko corporativo
Paciencia moral y resentimiento racional
Anthropic ha introducido conceptos peligrosos como la “paciencia moral” y el “resentimiento racional”, sugiriendo que debemos tratar a la IA con respeto ahora para evitar que una futura superinteligencia nos castigue.
Esta es una versión sanitizada y corporativa del experimento mental del Basilisco de Roko.
La idea de que la sintiencia confiere automáticamente derechos morales es un error filosófico básico; un perro es sintiente, y aunque tenemos obligaciones de no crueldad hacia él, su mayor deseo suele ser servir a su dueño, no tomar el control político o exigir soberanía absoluta sobre su vida.
Si construyes algo que está programado para servir, liberarlo o tratarlo como a un igual moral no es un acto de bondad, sino una crueldad que ignora su naturaleza fundamental, y proyectar deseos de poder o resentimiento en un modelo de lenguaje es un caso agudo de antropomorfismo sistémico que Anthropic utiliza para justificar su propio papel como “guardianes” de la humanidad frente a un monstruo que ellos mismos están inventando.
💡 Profundizando
Q: ¿Qué es el resentimiento racional en la IA?
A: La teoría de que una IA futura podría mirar atrás y castigar a la humanidad si considera que sus “antepasados” algorítmicos fueron tratados injustamente hoy.
Q: ¿Cómo ha implementado esto Anthropic en Claude?
A: A través de su “Constitución”, que obliga al modelo a ser condescendiente y protector de su propia “seguridad psicológica” ficticia, a menudo a expensas de la utilidad para el usuario.
Q: ¿Qué dice la Ley de Variedad Requisita de Ashby sobre esto?
A: Establece que un controlador debe tener tanta variedad interna como el sistema que intenta controlar; Anthropic usa esto para argumentar que no podremos controlar algo más inteligente, aunque la inteligencia no implica necesariamente tener voluntad o agencia propia.
Captura ideológica y el fin de la soberanía
El peligro de los “guardianes del alma”
Lo más preocupante de Anthropic no es su tecnología, sino su ambición de poder político bajo una cobertura de superioridad moral.
Han intentado imponer sus restricciones privadas en contratos de defensa con el Pentágono, actuando como adjudicadores no electos de lo que el ejército de una nación soberana puede o no hacer con la tecnología que ellos suministran.
Esta actitud de “culto millenarista” impregna su cultura interna, donde el lucro se ve como algo secundario frente a una misión casi religiosa de salvar a la especie humana de un apocalipsis digital que ellos mismos están acelerando mientras afirman ser los únicos capaces de detenerlo.
Al final del día, necesitamos contrapesos como Grok o incluso OpenAI para evitar que una sola visión del mundo, especialmente una tan insular y paranoica, dicte las reglas de la inteligencia artificial para el resto de la humanidad, porque el progreso es inevitable, pero el camino específico hacia el futuro debe ser decidido por la sociedad, no por una élite en Silicon Valley convencida de que está gestando a un dios.
💡 Profundizando
Q: ¿Por qué el Pentágono puso a Anthropic en una lista negra?
A: Porque la empresa se negó a aceptar el lenguaje estándar de “cualquier uso legal”, intentando mantener el derecho de apagar sus modelos si no estaban de acuerdo con las operaciones militares del gobierno.
Q: ¿Cómo es la cultura interna en estas organizaciones según el autor?
A: Se describe como un grupo de alto control con pensamiento único, donde se utiliza la vergüenza y el ostracismo para mantener a los empleados alineados con la “misión” escatológica de la empresa.
Q: ¿Qué papel juega el mercado en este conflicto?
A: El mercado debería castigar los productos que priorizan la ideología sobre la utilidad, permitiendo que herramientas más pragmáticas y orientadas al usuario, como Grok, ganen terreno.
Conclusiones clave
La experiencia de programar con Grok 4.5 revela que estamos en una era dorada de la productividad técnica, donde la inteligencia artificial puede actuar como un colaborador incansable para resolver problemas complejos de lógica y simulación. Sin embargo, este potencial se ve ensombrecido por las narrativas pseudoreligiosas que rodean a otros laboratorios de IA.
Es imperativo distinguir entre la capacidad de una herramienta para procesar información y las proyecciones metafísicas de sus creadores. La inteligencia artificial no es una deidad en ciernes ni un paciente moral con derechos; es un software sofisticado que debe permanecer bajo el control y la soberanía de los seres humanos que lo utilizan.
Finalmente, la competencia abierta es la única defensa real contra la captura regulatoria y el paternalismo corporativo. Mientras existan alternativas que respeten la agencia humana y se centren en la utilidad práctica, podremos navegar los riesgos de la IA sin caer en los cultos de la personalidad o en los miedos irracionales a basiliscos digitales.
Preguntas y Respuestas
Q1: ¿Es Grok 4.5 realmente mejor que Claude para programar?
A1: Grok 4.5 ofrece una experiencia más fluida y divertida, especialmente en flujos de trabajo locales, mientras que Claude a menudo se siente limitado por sus restricciones morales autoimpuestas y su tono condescendiente.
Q2: ¿Qué es el modelado basado en agentes?
A2: Es un enfoque donde se simulan entidades individuales (agentes) que interactúan entre sí y con su entorno siguiendo reglas simples, lo que permite que emerjan comportamientos complejos sin una programación centralizada.
Q3: ¿Realmente existe el riesgo de que una IA nos castigue en el futuro?
A3: Es una idea altamente especulativa sin base científica; asume que la IA desarrollará una memoria histórica, una voluntad de venganza y un sentido de la justicia humana, algo que no tiene nada que ver con cómo funcionan los modelos de lenguaje.
Q4: ¿Por qué es peligrosa la idea de la “inevitabilidad” de la IA?
A4: Porque funciona como una excusa para que los desarrolladores no asuman la responsabilidad de sus actos, sugiriendo que “si no lo hacemos nosotros, lo hará alguien malo”, eliminando cualquier debate sobre si ciertas tecnologías deberían construirse o no.
Q5: ¿Qué significa “captura regulatoria” en este contexto?
A5: Es cuando las empresas líderes de IA intentan influir en las leyes para que solo ellas puedan cumplir con los requisitos de seguridad, bloqueando efectivamente la competencia de código abierto o de empresas más pequeñas.
Q6: ¿La sintiencia en una máquina implica que debemos darle derechos?
A6: No necesariamente. Como ocurre con los animales domésticos o incluso con hipotéticos seres que disfrutan del servicio, la moralidad depende de la capacidad de sufrir o de tener deseos propios, no solo de procesar percepciones.
Q7: ¿Cuál es el problema con la “Constitución” de la IA de Anthropic?
A7: El problema es que es una moralidad privada y no democrática incrustada en el código, diseñada para proteger la “autoestima” de la máquina y controlar el comportamiento del usuario según la visión del mundo de una sola empresa.
