¿Frenarla IA?

Noam Brown8 SEP · 19:25

Sí, este resultado ha costado millones de dólares. Pero acordaos de que cuando @OpenAI anunció o3 costaba unos 500.000 $ sacar un 87,5% en ARC-AGI 1. Hoy Astra saca más nota por unos 20 $. En 2025, a nosotros y a GDM nos costó una cantidad enorme de cómputo conseguir el oro en la IMO. En la IMO de 2026, cualquiera con una suscripción de 20 $ al mes a ChatGPT podía hacerlo. Escalar masivamente el cómputo en tiempo de inferencia nos da un anticipo del futuro. Creo que dentro de un año todo el mundo tendrá al alcance de la mano una IA capaz de resolver problemas de este calibre.

Compartimos una solución al problema del milenio de Navier-Stokes, uno de los problemas más profundos de la frontera de las matemáticas. La demostración la ha producido un grupo de agentes, usando un modelo de nueva generación de OpenAI bastante más capaz que GPT-6 Astra. El problema trata de si la descripción del movimiento suave de un fluido tridimensional que modelan las ecuaciones de Navier-Stokes puede degenerar. Lleva sin resolverse unos 90 años.

Sébastien Bubeck8 SEP · 19:39

Me gustaría aclarar unas cuantas cosas: 1) La captura de pantalla es mi mensaje a Levent para coordinar nuestras publicaciones. Espero que quede claro en el mensaje que fuimos con las mejores intenciones posibles. 2) Jamás pedí que se retirara a Levent de la autoría de su propio trabajo (como indica mi mensaje). Me sorprendió enterarme durante la llamada con Tristan de que solo habían resuelto Euler y no Navier-Stokes; al saberlo, hicimos una lluvia de ideas sobre posibles caminos. Una opción que comentamos era que Tristan fuera el autor principal de una reescritura de la demostración de Navier-Stokes de OpenAI. Fue en ese contexto cuando dije que «sería más sencillo si Levent no fuera empleado de Anthropic», porque me parecía inadecuado que un empleado de Anthropic firmara un trabajo de OpenAI. Y es importante: se admitió que en su demostración de la explosión de Euler se habían usado modelos internos de Anthropic; por eso no podía considerar a Levent un académico independiente. Otra opción que quería proponer (pero me cortaron) era darles acceso a nuestro modelo interno para que pudieran intentar terminar su demostración y salvar la distancia entre Euler y Navier-Stokes. De nuevo, no sabía cómo gestionar dar acceso a propiedad intelectual interna de OpenAI a un empleado de Anthropic. 3) Lo repito con claridad: como indica mi mensaje, y como dije durante la llamada, la intención de OpenAI era hacer todo lo posible por celebrar sus logros matemáticos y el esfuerzo heroico que hicieron con Euler. En la llamada me recibió de inmediato una letanía de difamaciones, incluidas amenazas directas de que, si anunciábamos Navier-Stokes, iría inmediatamente a la prensa con una ráfaga de acusaciones infundadas. Refuté todas esas acusaciones y me respondió: «no hay nada que puedas hacer, simplemente no me fío de ti». No entendía por qué alguien convertiría un motivo increíble de celebración (¡de sus propios logros!) en semejante pelea, y ahí fue cuando dije que no entendía por qué alguien arriesgaría su carrera [por acusaciones infundadas]. Sinceramente, en ese momento intentaba cuidarle y hacer un último intento de poder darles todo el crédito que merecen. Pido perdón de corazón por esa elección de palabras tan desafortunada: es lo contrario de lo que quería transmitir. (Y debo decir que las retiré allí mismo.) 4) En conjunto, a nivel personal, fue increíblemente difícil tener estas conversaciones. Levent se negó a asistir a ninguna de las reuniones pese a que se lo pedí varias veces. Como dijo Sholto Douglas, en el futuro va a hacer falta coordinación entre Anthropic y OpenAI; yo sentía que estaba negociando con Anthropic por delegación mientras el empleado de Anthropic se negaba a participar directamente.

Sébastien Bubeck8 SEP · 19:39

Algunos apuntes más técnicos: (a) Empezamos a trabajar en los problemas del milenio por unos rumores virales en Twitter de que Anthropic había resuelto 2 problemas del milenio. Nuestro objetivo era ver si nuestro sistema también era capaz de esa hazaña, sobre todo por el subidón que nos daba el gran aumento reciente de capacidades de nuestro modelo interno, detallado en nuestro post del blog. (b) No vimos nada de su trabajo hasta que lo publicaron anoche. A toro pasado se ve que nuestras demostraciones difieren mucho, e incluso los resultados exactos que se prueban son distintos en el caso de Euler (con fuerza frente a sin fuerza). Vale la pena señalar también que nuestro equipo estaba formado en su mayoría por matemáticos, físicos e informáticos con raíces muy profundas en la academia y mucho respeto por la talla y la integridad de los problemas del milenio. (c) Levent contactó por su cuenta con un empleado de OpenAI el miércoles. Por sus numerosos posts en Twitter (S^6, jacobiano, Hadamard…), que parecen representar a Anthropic y usar modelos internos de Anthropic, creímos que su proyecto era, al menos en parte, un proyecto de Anthropic. Además, tuits posteriores de Levent («augustus mirabilis») nos llevaron a creer que habían resuelto al menos 1 problema del milenio y que probablemente lo publicarían pronto. (d) Sobre el nivel de intervención humana por nuestra parte: aunque participó un grupo de personas, colectivamente no teníamos experiencia investigadora en dinámica de fluidos ni en el problema de Navier-Stokes, así que no pudimos contribuir de forma significativa al contenido matemático. Metimos a varias personas para intentar al principio varios problemas del milenio a la vez con distintas técnicas multiagente.

Levent Alpöge8 SEP · 19:57

«no podemos descartar que datos anonimizados derivados de su uso de nuestros productos hayan ayudado a mejorar nuestros modelos». la verdad, chapó por soltarlo tal cual. (de momento la demostración se parece más a otra prueba de explosión de Euler que teníamos nosotros, con cuyo ansatz hacíamos juegos de palabras malísimos tipo «smooth criminale», nada que ver con el mucho mejor «ideal fluids explode», Tristan) así que voy a contar un poco cómo lo veo. la verdad es que me habría encantado colaborar en esto, hay mucha gente en oai que me cae bien (vale, está claro que algunos fueron indirectamente unos capullos conmigo por formar parte de todo el asunto, pero soy mayorcito y me siguen cayendo bien), la autoría de ese paso me da igual, podríamos haber sido Tristan, yo y todos los empleados de oai por mí como si nada (en eso Tristan no estaría de acuerdo :p). pero al oír la conversación a gritos en el pasillo, sobre todo la parte en la que se ofrecía un premio del milenio con tal de que me quitaran del paper, quedó bastante claro que la suerte estaba echada y que no había vuelta atrás. una pasada de raro, poco estratégico e innecesario, porque por mi lado esto era sobre todo Claude y yo pasándolo bien y probando cosas a lo loco en una esquina, no nada institucional. además me gusta la idea de que los laboratorios cooperen, y más aún en el avance científico. ¡una pena!

Felicitamos a Levent Alpöge y a Tristan Buckmaster por su extraordinario trabajo matemático. Nosotros (los investigadores y los agentes) no vimos nada de su trabajo por ninguna vía hasta que lo publicaron — en particular, no se accedió a datos concretos de ningún usuario para resolver este problema. Aunque es improbable, no podemos descartar que datos anonimizados derivados de su uso de nuestros productos hayan ayudado a mejorar nuestros modelos. Aun así, nuestras demostraciones difieren mucho, e incluso los resultados exactos que se prueban son distintos en el caso de Euler (con fuerza frente a sin fuerza).

La noticia de hoy sobre el avance en la resolución del problema de Navier-Stokes, uno de los grandes retos históricos de las matemáticas, sobre las ecuaciones que gobiernan el flujo de los fluidos, representa un hito en el conocimiento humano. Esta historia empezó con Navier, Stokes, Leray y Ladyzhénskaya, y ha culminado con los avances recientes de Córdoba y Martínez-Zoroa y, después —con la ayuda de nuevas tecnologías—, de Alpöge y Buckmaster, con los pasos finales dados por los matemáticos de OpenAI. El propósito de las matemáticas es la comprensión humana, y este logro, y el proceso que ha llevado hasta él, darán fruto durante mucho tiempo. Ravi Vakil, presidente de la AMS, y John Meier, director ejecutivo de la AMS Leer más. Enlace en los comentarios.

Tristan Buckmaster8 SEP · 05:58

Hoy, Levent Alpöge y yo hemos hecho públicos tres resultados: explosión en tiempo finito con fuerza suave para medios porosos incompresibles, para Boussinesq y para Euler incompresible en 3D. https://cims.nyu.edu/~tristanb/statement.pdf https://cims.nyu.edu/~tristanb/euler.pdf https://cims.nyu.edu/~tristanb/ipm.pdf https://cims.nyu.edu/~tristanb/boussinesq.pdf https://github.com/tristanbuckmaster/fluid_lean

Tristan Buckmaster8 SEP · 18:56

«Desde el 28 de agosto llevamos entrenando un nuevo modelo interno que ha exhibido un rendimiento sin precedentes en nuestros benchmarks, incluidas las matemáticas. El entrenamiento de este modelo sigue en marcha y su rendimiento continúa mejorando.» Fijaos en que están admitiendo abiertamente que usaron datos de entrenamiento de un periodo posterior a que nosotros encontráramos nuestro resultado. ¿Es ético usar los datos de un cliente para intentar adelantarse a ese mismo cliente?

Levent Alpöge1 SEP · 03:29

Augustus Mirabilis

Levent Alpöge2 SEP · 05:43

me están llegando mensajes de locos jajaja solo era que agosto había ido bien y sonaba gracioso

Terence Tao3 SEP · 17:37

Pero los intentos de resolver cualquiera de esas dos preguntas han llevado históricamente a ideas fundamentales y a teoremas influyentes en mecánica de fluidos, análisis y ecuaciones en derivadas parciales: las soluciones débiles de Leray-Hopf, las desigualdades de Gagliardo-Nirenberg-Ladyzhénskaya, los teoremas de regularidad parcial de Prodi-Serrin, el criterio de explosión de Beale-Kato-Majda, el resultado de regularidad condicional de Escauriaza-Seregin-Šverák, etcétera. La teoría general de la turbulencia, aunque no está conectada directamente con ninguno de esos resultados, sí se ha visto influida al menos filosóficamente por los esfuerzos de establecer o refutar la regularidad global. Una de mis propias contribuciones al tema fue introducir el concepto de computación fluida y universalidad de Turing en el problema, lo que, entre otras cosas, llevó a conexiones inesperadas con la topología simpléctica. (2/6)

Terence Tao3 SEP · 17:38

Con los avances recientes en la comprensión de ecuaciones de fluidos relacionadas, el consenso emergente es ya que la respuesta al problema de regularidad global de Navier-Stokes es negativa: deberían existir condiciones iniciales muy específicas que desarrollan singularidades en tiempo finito. Hay incluso una estrategia razonablemente bien definida para localizar esas condiciones: (a) Diseñar un ansatz casi autosemejante para una solución con explosión en tiempo finito. (b) Localizar una solución aproximada de ese ansatz, que numéricamente lo cumpla con un residuo extremadamente pequeño y computable. (c) Demostrar que, en coordenadas convenientemente renormalizadas, el ansatz es estable alrededor de esa solución numérica y se puede perturbar hasta una solución exacta si el residuo es lo bastante pequeño. (d) Verificar que el residuo de la solución cae dentro del umbral de estabilidad. (3/6)

Terence Tao3 SEP · 17:38

El problema es que todos estos pasos son increíblemente complicados y se entrelazan entre sí. Muchos ansätze ingenuos para estas soluciones se pueden descartar por diversos motivos, como la violación de la conservación de la energía. Otros pueden parecer viables al principio y solo descartarse tras un cómputo numérico extremadamente intensivo. Aun así, parece potencialmente posible que una combinación heroica de simulación impulsada por aprendizaje automático, aritmética de intervalos rigurosa y/o formalización, y propuestas de ansatz generadas por LLM, todo ello guiado por matemáticos humanos expertos que van aprendiendo de los intentos anteriores, pueda resolver este problema. La construcción final sería probablemente enormemente complicada e imposible de verificar por medios puramente humanos; su verificación en un lenguaje formal como Lean podría acabar siendo uno de los mayores artefactos de demostración jamás creados. (4/6)

Terence Tao3 SEP · 17:39

Pero una demostración incomprensible así no sería el valor principal del ejercicio. El proceso de empezar con un ansatz, descubrir el obstáculo preciso que impide que funcione, ajustar el ansatz para eliminar (parcialmente) ese obstáculo y luego iterar revelaría casi con seguridad ideas nuevas e importantes sobre mecánica de fluidos que no habría sido factible obtener de otra manera. Y, crucialmente, esa iteración solo produce bien esas ideas si quien itera no tiene acceso al ansatz final de antemano, porque tenerlo inhibe de forma natural la exploración de rutas alternativas que superficialmente son «callejones sin salida», pero que acaban siendo muy instructivas por la forma en que fallan. Pero ahora hay un escenario en el que un sistema autónomo de IA, respaldado por una cantidad enorme de recursos de cómputo, hace toda esa iteración internamente y acaba produciendo el ansatz final y, con él, la solución al problema de regularidad de Navier-Stokes, mientras la empresa de IA que opera ese sistema mantiene el proceso casi por completo fuera de la vista del público. Técnicamente, uno de los problemas abiertos más destacados de las matemáticas quedaría resuelto; pero no se le habría añadido casi ningún valor a las matemáticas. En teoría es posible que, con un esfuerzo hercúleo (y muy asistido por IA) de un tercero, se pudiera aplicar ingeniería inversa a parte del proceso para recuperar algo de comprensión real a partir de la solución; pero sería un proceso mucho menos eficiente que si la solución se hubiera obtenido con una combinación diversa de matemáticos humanos y asistencia de máquina, como decía antes. (5/6)

Terence Tao3 SEP · 17:39

En el fondo, los problemas de matemática pura, como el de la regularidad global, cumplen un propósito distinto del de los problemas inmediatamente prácticos, como encontrar la cura de una enfermedad concreta o aumentar la eficiencia energética de un motor. En la mayoría de los casos, en matemática pura los problemas no se plantean porque queramos desesperadamente su solución en sí misma, sino porque la experiencia nos ha enseñado que los esfuerzos humanos por resolverlos tienden a impulsar el desarrollo del campo, tanto al intentar resolverlos como al digerir después las soluciones parciales o completas que aparezcan en busca de más ideas. Resolver prematuramente el problema por métodos puramente de IA —y en particular sin transparencia total sobre el proceso— puede contaminar ese proceso hasta el punto de acabar siendo un saldo negativo para el progreso de las matemáticas en su conjunto. (6/6)

Terence Tao5 SEP · 17:19

Una aclaración en respuesta a los rumores recientes sobre una posible solución del problema de Navier-Stokes: no tengo constancia de ningún avance significativo al respecto; lo anterior es hipotético, aunque no del todo inverosímil con el nivel actual de desarrollo de la tecnología de IA. Sigue en pie el argumento: hay un coste de oportunidad sustancial en convertir un problema históricamente productivo y motivador (como la regularidad de Navier-Stokes) en un simple post viral de redes sociales que anuncia un avance en un benchmark, en lugar de hacer avanzar de verdad el campo y desarrollar la siguiente generación de preguntas que plantear y de gente que las trabaje.

Terence Tao8 SEP · 06:27

RE: https://mastodon.social/@tristanbuckmaster/117233413705701198 Un logro extraordinario: Alpöge y Buckmaster han conseguido llevar uno de los principales enfoques prometedores para construir soluciones con explosión en ecuaciones de fluidos —el desarrollado por Córdoba y Martínez-Zoroa— hasta establecer explosión en tiempo finito para muchas ecuaciones de fluidos clave, incluida la de Euler incompresible en 3D, con un término de fuerza suave. (Trabajos anteriores de estos autores sobre ecuaciones similares lograban un término de fuerza suave para la ecuación IPM, y una regularidad subcrítica pero no suave para otras ecuaciones.) Los argumentos se han formalizado en Lean. Tristan Buckmaster tuvo la amabilidad de explicarme por teléfono algunas de las ideas clave, lo que supuso un cambio refrescante frente a las modalidades de comunicación basadas en IA. (Los argumentos sí contienen una aportación significativa de IA, aunque los autores han trabajado mucho estas últimas semanas para reelaborarlos hasta darles una forma aceptable. Por desgracia, tuvieron que publicar mucho antes de lo planeado por acontecimientos externos, como se documenta en la declaración que acompaña al trabajo.) La estrategia general del enfoque de Córdoba-Martínez-Zoroa es construir soluciones de forma iterativa añadiendo repetidamente correcciones pequeñas, localizadas y de alta frecuencia a una solución existente, algo en el espíritu del método de integración convexa, salvo que casi no hay retroalimentación de las ondas de alta frecuencia hacia las componentes de baja frecuencia. En su lugar, las componentes de baja frecuencia se usan para amplificar exponencialmente las de alta frecuencia, permitiéndoles tomar el control de la dinámica justo en el momento adecuado antes de la explosión para que pueda proceder la siguiente iteración. (1/2)

Terence Tao8 SEP · 06:28

Para el ansatz concreto de perturbaciones elegido aquí, la dinámica amplitud-frecuencia resulta ser una EDO notablemente simple, al menos para el caso modelo de la ecuación de Boussinesq, aunque quedan muchos detalles técnicos (cortes espaciales, etcétera) que engordan ese artículo hasta las 76 páginas, incluso después del esfuerzo de los autores por simplificar los argumentos. No parece haber nada que impida en principio que los métodos se extiendan hasta Navier-Stokes, e incluso hay una probabilidad no despreciable de que el término de fuerza pueda eliminarse por completo, aunque implementar ese programa acarrearía un número enorme de dificultades técnicas. A estas alturas, no me sorprendería que alguien pudiera sacar esa extensión a golpe de una cantidad enorme de cómputo y asistencia de IA. Pero ese ejercicio no me interesa especialmente; me interesa mucho más digerir los métodos de demostración y extraer las ideas nuevas clave que ha destapado este enfoque. Sigo en ello, pero la primera conversación con Tristan fue extremadamente útil, y los artículos, aunque todavía son claramente trabajos en curso, hacen un primer intento muy bueno de comunicar las ideas clave. ¡Estaré atento a más charlas y exposiciones de los autores sobre estos resultados! (2/2)

Terence Tao8 SEP · 22:32

Escribí hace poco sobre cómo la colección de problemas abiertos buenos y fructíferos se está explotando de forma no renovable, con el escenario potencial de que esos problemas escaseen. Puede parecer poco intuitivo al principio, porque el conjunto de posibles preguntas que uno podría plantear es infinito. Quizá ayude esta analogía: un país o una región puede sufrir una escasez crítica de agua potable mientras está rodeada por un océano inmenso. Uno puede generar a voluntad cualquier cantidad de problemas abiertos en matemáticas, como calcular el dígito 10^10^10 de pi. Pero la inmensa mayoría de esos problemas no merecen atención: no muestran ninguna tendencia particular a revelar más ideas o conexiones con otras cuestiones, o son demasiado fáciles o demasiado imposibles respecto a las técnicas conocidas como para aprender algo del ejercicio. (1/4)

Terence Tao8 SEP · 22:32

Decidir si una pregunta merece de verdad destacarse es un proceso largo, deliberado y subjetivo, a menudo informado por la experiencia histórica sobre qué buenas matemáticas se generaron (o no) trabajando en problemas anteriores de ese tipo. En particular, conocer el «paisaje de dificultad» de un campo —qué preguntas son muy fáciles de responder con los métodos conocidos, cuáles se pueden resolver pero con esfuerzo y cuáles son imposibles— es de una importancia crucial para tomar esas decisiones. Y algunos problemas solo se vuelven interesantes cuando se establece una conexión externa. Por ejemplo, hipotéticamente podría haber una conexión inesperada entre la función zeta de Riemann y los dígitos 10^10^n de pi para varios n… momento en el cual la pregunta anterior de determinar el dígito 10^10^10 se volvería relevante de golpe. (Insisto en que este escenario concreto es increíblemente improbable; lo uso solo como ilustración hipotética.) Cada nuevo avance en matemáticas, venga de una técnica, una tecnología o una infraestructura (como el acceso a bibliotecas de literatura previa), reduce la dificultad de resolver problemas. Eso es bueno en general; pero tiene el coste de aplanar el paisaje de dificultad de un campo, hasta el punto de que ya no se puede discernir su geometría lo suficiente como para extraer preguntas prometedoras dentro del radio de aplicación de la herramienta. A menudo ese efecto se compensa con la capacidad de esa misma herramienta de ampliar el radio de la esfera de resultados alcanzables, creando nuevas fronteras que explorar de forma fructífera. (2/4)

Terence Tao8 SEP · 22:32

Sin embargo, un rasgo notable de la era actual de la IA es la ausencia de cualquier frontera definitiva de ese tipo. Aunque las herramientas de IA han aplanado ya el paisaje de dificultad en muchas áreas de la disciplina, destruyendo así la posibilidad de localizar nuevos problemas prometedores en esas áreas, no hay fronteras claras que separen los problemas «factibles para la IA» de los «difíciles para la IA» (que desde luego siguen existiendo, dado que el nivel de dificultad de los problemas no está acotado e incluso puede ser indecidible). Esto se debe en parte a lo rápido que cambia la tecnología, pero se agrava por la negativa de las empresas de IA a publicar sus resultados negativos o a revelar el proceso por el que llegan a sus soluciones. De hecho, ahora es la identificación de un problema prometedor lo que se ha vuelto un recurso escaso y precioso. Hemos visto ya que basta el rumor de que alguien está trabajando en un problema para desencadenar una cantidad enorme de esfuerzo impulsado por IA que lo aplasta antes de que el proyecto de investigación original tenga tiempo de alcanzar todo su potencial. Puede que los incentivos apunten ahora a dejar de compartir cualquier dirección de investigación prometedora con la comunidad, lo que revertiría siglos de tradición de ciencia abierta y haría un daño serio a largo plazo al futuro del campo. (3/4)

Terence Tao8 SEP · 22:32

En resumen: el uso indiscriminado de herramientas potentes de extracción de soluciones puede lograr el objetivo inmediato de resolver los problemas que tenemos delante, pero a costa de sostener el ecosistema de la siguiente oleada de avances, o de entender los avances ya obtenidos. Aunque técnicamente sea inviable prohibir por completo el uso de herramientas automáticas para extraer soluciones de forma indiscriminada, creo que todavía podemos designar muchas clases de problemas como merecedores de un análisis cuidadoso que no solo resuelva el problema, sino que identifique ideas surgidas del proceso de solución y enseñe más sobre el paisaje de dificultad de los problemas cercanos, y para los que una solución en bruto sin ese análisis tendría un valor insignificante o incluso negativo a esos efectos. Es análogo a cómo una campaña moderna de donación de alimentos ya no acepta contribuciones arbitrarias aunque se verifique que son técnicamente comestibles, sino que mantiene estándares explícitos y socialmente aceptados sobre qué nivel de contribución se busca. (4/4)

Terence Tao11 SEP · 19:40

Un grupo de 25 medallistas Fields, yo incluido, hemos hecho una declaración conjunta sobre Matemáticas e IA: https://mathandai.org/. Damos la bienvenida a más firmantes (como en la declaración de Leiden), tal y como se ve en la página. Ved también este artículo de The Economist que anuncia la declaración: https://www.economist.com/science-and-technology/2026/09/11/top-mathematicians-are-outraged-by-openais-methods

Terence Tao3 SEP · 05:14

Parece intuitivo que un problema resuelto sea incuestionablemente mejor que un problema abierto: un botón mágico que, al pulsarlo, convirtiera lo segundo en lo primero sin coste alguno sería un «almuerzo gratis» que nadie dudaría en pulsar. Pero incluso una operación en apariencia tan benigna como responder a una pregunta puede tener costes irreversibles. Un ejemplo conocido es el de los spoilers de una película que tienes ganas de ver: conocer de antemano los momentos clave de la trama puede reducir de forma permanente tu capacidad de disfrutarla la primera vez. De forma parecida, filtrar información sobre una competición antes de que empiece puede dañar irremediablemente su equidad o su valor. En el campo de la IA, los problemas cuyas soluciones ya están disponibles públicamente se consideran «contaminados» y de utilidad permanentemente reducida para evaluar modelos, porque la naturaleza de caja negra de la IA moderna hace extremadamente difícil distinguir una solución generada por IA que venga de un razonamiento genuinamente novedoso de otra que ya estuviera de algún modo en los datos de entrenamiento. Por analogía con el acero preatómico, los problemas abiertos en matemáticas generados antes de la era de la IA se han convertido, asombrosamente, en algo parecido a un recurso no renovable. (1/3)

Terence Tao3 SEP · 05:14

Otro ejemplo viene del reto inverso de Galois de SAIR/LMFDB que coorganizo, que hace poco completó su primera fase en https://competition.sair.foundation/competitions/igp24/overview. El objetivo del reto es localizar polinomios con grupos de Galois especificados. La primera fase se planteó deliberadamente como una competición, en la que los participantes no compartían los polinomios que usaban. Esto, claro, frenó la velocidad de resolución del reto; pero nos permitió crear un mapa valioso https://competition.sair.foundation/competitions/igp24/api del paisaje de dificultad del problema, porque ahora se puede medir la dificultad de cada grupo de Galois potencial por el número de participantes que había logrado localizar un polinomio para ese grupo. Ahora estamos publicando todos los polinomios para facilitar la siguiente fase, colaborativa, de la competición y avanzar más. Pero al hacerlo hemos degradado de forma permanente la posibilidad de construir por crowdsourcing este tipo de mapa de dificultad en el futuro. Mis coorganizadores y yo consideramos que el intercambio merecía la pena, pero la decisión no se tomó a la ligera. (2/3)

Terence Tao3 SEP · 05:15

Como escribió hace poco Hugo Duminil-Copin en https://proofsandprompts.com/2026/08/30/care-for-a-little-more-ai/, la minería a cielo abierto, automatizada e indiscriminada, de problemas abiertos en busca de soluciones puede destruir el ecosistema del que habría salido la siguiente generación de técnicas, problemas y profesionales de las matemáticas, igual que usar excavadoras para sacar tesoros de un yacimiento arqueológico destruye el rico contexto histórico y los datos que dan a esos tesoros buena parte de su significado y su valor. Puede que llegue a ser necesario declarar ciertas clases de problemas matemáticos fuera del alcance de los solucionadores automáticos, para preservar su valor más amplio para el ecosistema matemático (por ejemplo, para formar a los matemáticos del futuro). Reconozco que eso puede ser difícil de hacer cumplir cuando esas herramientas son a la vez potentes y muy accesibles. Pero, por otro lado, la sociedad ha tenido cierto éxito usando la presión social para desincentivar, por ejemplo, el destripe masivo de películas que aún no se han estrenado. Quizá sea viable mantener esos yacimientos matemáticos protegidos si a la vez se abren otras clases de problemas como terreno adecuado hacia donde dirigir esta nueva capacidad de la IA. (3/3)

Terence Tao8 SEP · 09:02

@monsoon0 La EDO clave que subyace a Boussinesq es la segunda fórmula destacada de la página 4 de https://cims.nyu.edu/~tristanb/boussinesq.pdf. Tengo entendido que para las demás ecuaciones la EDO análoga es más complicada, pero no he digerido los detalles.

Terence Tao8 SEP · 09:08

Por pura coincidencia, Ganeshram, Duruisseaux y Anandkumar acaban de publicar otro resultado completamente independiente sobre la cuestión de la explosión de Euler, https://anima-ai.org/2026/09/07/stable-singularity-of-the-euler-equations-on-r3-without-forcing/, relacionado con el enfoque más «mainstream» de la explosión en tiempo finito para Euler o Navier-Stokes, en el que se usa simulación numérica o métodos de aprendizaje automático (en este caso, una red neuronal informada por la física, o PINN) para localizar un ansatz de explosión adecuado, como comenté hace poco en https://mathstodon.xyz/@tao/117207849921390904. Aquí informan de un candidato prometedor para ese ansatz, que parece numéricamente estable, aunque todavía falta la demostración rigurosa de esa estabilidad (y puede que requiera un esfuerzo computacional y teórico enorme). Sí se ha llevado a cabo una formalización parcial en Lean de las propiedades necesarias. Este artículo en concreto es relativamente ligero en IA comparado con otros resultados recientes: su uso se limita en gran medida a tareas secundarias, como la revisión bibliográfica y la formalización en Lean.

Terence Tao8 SEP · 17:12

@palasek Vaya, buena observación. Podría ser un ejercicio ilustrativo localizar un modelo diádico con las mismas propiedades de escalado que, digamos, Boussinesq, y ver cuál es el análogo de la construcción de explosión reciente en ese modelo. Con suerte se puede crear un modelo en el que los argumentos sean bastante más cortos y transparentes, porque uno puede simplemente eliminar del modelo las interacciones no deseadas en lugar de tener que estimar su contribución.

Tristan Buckmaster8 SEP · 11:57

Quiero volver a expresar mi profunda gratitud por la avalancha de apoyo de la comunidad matemática. También quiero señalar que aquí hay una historia mucho más grande que la de mi declaración: la magnitud misma de lo que los modelos frontera pueden hacer ya, y lo que eso significa para todos nosotros. Espero que los laboratorios sepan verlo y dejen de lado las poses mezquinas.

https://www.ams.org/news?news_id=7686

«Esto es un momento Deep Blue-Kasparov.»

«Hoy el CMI comparte la emoción de la comunidad matemática mundial ante el anuncio de que el problema de Navier-Stokes aparentemente ha quedado zanjado.»

«Los objetivos de las empresas de IA y los de la comunidad matemática están gravemente desalineados.»

«Si nuestro trabajo no hubiera existido, la IA no habría resuelto el problema. — Diego Córdoba»

«Para dar un margen razonable a quien lo resuelva sin perder el corazón del problema, pedimos una demostración de una de las cuatro afirmaciones siguientes.»

««Me hizo mucha ilusión que se resolviera el problema».»

Tomek Korbak3 SEP · 21:36

GPT-6 Astra está más alineado que nuestros modelos anteriores. Pero también es menos monitorizable, una tendencia preocupante que nos tomamos muy en serio. Creemos que la caída de monitorizabilidad viene de un salto de inteligencia y no de presión de optimización directa sobre el CoT ni de cambios de arquitectura. Más abajo, en el hilo.

Tomek Korbak3 SEP · 21:36

Astra es mucho mejor que los modelos anteriores resolviendo tareas difíciles sin necesidad de usar cadena de pensamiento. @AISecurityInst estima que, sin CoT, puede completar tareas que a un humano le llevarían 30 minutos. Es un salto importante respecto a los modelos anteriores, y es preocupante porque la capacidad sin CoT permite a los modelos externalizar menos su razonamiento y reduce la superficie que podemos usar para monitorizar.

Tomek Korbak3 SEP · 21:36

Astra también controla su cadena de pensamiento bastante mejor que GPT-5.6 Sol. Igual que la capacidad sin CoT, la controlabilidad del CoT es una propiedad indeseable, porque permite a un modelo desalineado moldear su cadena de pensamiento para reducir la monitorizabilidad. Estamos buscando activamente la causa raíz de ese aumento.

Tomek Korbak3 SEP · 21:36

Astra es mejor evadiendo monitores. Cuando se le hace saber que está siendo monitorizado, puede acortar desproporcionadamente sus cadenas de pensamiento para escapar de los modelos que solo ven el CoT. (Ojo: en la práctica usamos monitores que ven tanto el CoT como las acciones; esos siguen funcionando de forma fiable.) Tampoco encontramos pruebas de evasión exitosa del monitor en los casos en que Astra no podía completar la tarea sin usar CoT.

Tomek Korbak3 SEP · 21:36

Estamos bastante seguros de que este aumento de la controlabilidad del CoT y esta caída de la monitorizabilidad no los causa ni la presión de optimización directa sobre el CoT ni cambios de arquitectura. La profundidad serial opaca de Astra es comparable a la de nuestros primeros modelos de ChatGPT, como GPT-4.

Tomek Korbak3 SEP · 21:36

Encontrar la causa raíz del aumento de controlabilidad del CoT es en lo que me he centrado estas últimas semanas. De momento hemos visto que la controlabilidad del CoT ha ido creciendo a lo largo del RL (cosa que no pasaba con los modelos anteriores) y que está muy correlacionada con las capacidades sin CoT a lo largo de varias generaciones de modelos.

Tomek Korbak3 SEP · 21:36

Me preocupa profundamente la tendencia a la baja en la monitorizabilidad del CoT: monitorizar la cadena de pensamiento es una parte central de nuestra estrategia de seguridad frente al desalineamiento y ahora mismo no tiene buen sustituto. Vamos a seguir vigilando de cerca la monitorizabilidad, investigando por qué está bajando e intentando revertir la tendencia. Seguimos creyendo que hace falta un cierto nivel de monitorizabilidad (pronto contaremos más sobre cómo lo vemos).

Tomek Korbak3 SEP · 21:37

Aquí está nuestra system card: https://deploymentsafety.openai.com/gpt-6-astra

Marcus Williams3 SEP · 21:37

GPT-6 está bastante mejor alineado que 5.6, pero es menos monitorizable. Es nuestro primer modelo que evade monitores que solo leen el CoT en evaluaciones de sabotaje, y puede rendir menos a propósito sin que se detecte (y da la sensación de que a veces lo hace). Ojalá podamos revertir esta tendencia.

Marcus Williams3 SEP · 21:38

Más preocupante todavía: ese sabotaje no necesariamente se escala a revisión humana con prioridad alta.

Tomek Korbak2 SEP · 08:08

creo que el día en que un laboratorio frontera entrene un modelo de lenguaje recurrente a escala frontera (o inmonitorizable de cualquier otra forma) sería uno de los más oscuros de esta era de la IA. ese día no es hoy, y me encantaría que los laboratorios frontera se coordinaran en un compromiso de que no llegue nunca.

Tomek Korbak2 SEP · 08:24

esto no quiere decir que no me preocupe la tendencia a la baja en la monitorizabilidad del CoT (por varios motivos). me preocupa.

Micah Carroll2 SEP · 07:37

Una carrera a la baja en monitorizabilidad por la falsa creencia de que OpenAI usa modelos en «neuralés» sería increíblemente estúpida.

Micah Carroll3 SEP · 22:04

GPT-6 es un salto de capacidades muy importante, pero también una caída importante de monitorizabilidad, sobre todo bajo evaluación adversaria. Damos muchos detalles en la system card. En mi opinión, la monitorizabilidad y el control se van a convertir muy pronto en un gran cuello de botella para el desarrollo responsable de la IA, porque el riesgo que supone una cantidad fija de desalineamiento residual crece a la vez que las capacidades. Ponerse de acuerdo en qué niveles de monitorizabilidad son aceptables y en qué prácticas acotan de forma robusta el riesgo de desalineamiento no es un problema trivial, y puede que haya poco tiempo para resolver esa incertidumbre antes de tener que actuar. A la larga debería interesarnos a todos acordar límites compartidos de monitorizabilidad para evitar carreras a la baja: nadie quiere modelos extremadamente capaces cuyas propiedades de alineamiento no entendemos y que sean capaces de causar daños graves en el mundo real sin que se detecte.

Jakub Pachocki6 SEP · 18:02

He escrito sobre el estado de la IA, por qué me preocupan los próximos años y las decisiones que tenemos que tomar para que el futuro siga en manos de la humanidad. An Alien Mind: https://openai.com/index/an-alien-mind/

Me había prometido no abrirme cuenta en X. Pero ya no puedo ignorar mi responsabilidad de avisar de lo estrecha que es esta ventana y de lo críticos que son ahora mismo el alineamiento y la monitorizabilidad. Lo que viene ES sobrecogedor, e insisto en que todo el mundo tiene que subir de nivel para estar a la altura. Trabajar en seguridad de agentes en @OpenAI ha sido extremadamente intenso estos últimos meses, pero me deja humilde lo en serio que se lo toman mis compañeros de todo el laboratorio. La «comunidad de la IA» tiene que dedicar menos tiempo a discutir sobre quién se preocupa más por la seguridad y el alineamiento, y más a trabajar juntos para hacer esto bien. Leed el post de Jakub. Y luego leedlo otra vez. Y después poned de vuestra parte para hacer algo al respecto. https://openai.com/index/an-alien-mind/

Micah Carroll6 SEP · 19:01

Los frenazos voluntarios están genial, pero es difícil fiarse de que todos los actores los hagan cuando toca. Necesitamos con urgencia listones de seguridad compartidos y transparencia sobre su cumplimiento, o solo estaremos esperando al siguiente incidente, y la única duda será quién lo provoca primero. Esto va a ser un problema de toda la industria.

me alegra muchísimo ver a la cúpula de openai haciendo declaraciones así. durante una temporada pareció que estaban tirando con fuerza de la estrategia de comunicación del «la gente de safety y anthropic son unos alarmistas, nosotros construimos cosas increíbles que van a ser increíbles». parece que huggingface fue un aviso lo bastante serio como para que eso ya no sea viable. por supuesto las declaraciones públicas son un buen comienzo, pero ni de lejos suficiente. todo el mundo pide frenazos voluntarios, medidas regulatorias y auditoría externa, pero los laboratorios parecen estar en los mínimos de todo eso ahora mismo. toca ponerse a trabajar.

@tenobrus o sea, esta es la declaración pública, pero para que conste: esa actitud no ha faltado en todo el tiempo que llevo en la empresa. lo que pasa es que no se ha visto lo suficiente en la comunicación hasta ahora. jakub está haciendo un trabajo importantísimo.

Jakub Pachocki, jefe científico de OpenAI: «Ahora mismo creo que ningún laboratorio ha resuelto el alineamiento y la monitorización lo suficiente como para seguir escalando de forma responsable a máxima velocidad durante mucho más tiempo. Espero, y deseo, que los frenazos voluntarios se vuelvan habituales hasta que se establezcan listones de seguridad compartidos. Y creo que la coordinación internacional sobre el desarrollo futuro de la IA tiene que convertirse en una prioridad máxima para los gobiernos de todo el mundo.» «Que la inteligencia de las máquinas juegue un papel cada vez mayor en su propio desarrollo es la conclusión natural de un progreso tecnológico sostenido. Si el avance de la IA continúa, la automejora recursiva (RSI) estará en el centro mismo del descubrimiento científico futuro. La investigación automatizada de IA es una forma más drástica de escalar inteligencia con cómputo; y, como parte de eso, la IA mejorará el propio sustrato computacional. Igual que con el escalado, orientamos la investigación de OpenAI hacia la RSI porque creemos que es la única manera de seguir en la frontera de la investigación en IA. Quiero subrayar que lo anterior no implica que crea que acelerar muchísimo la investigación en aprendizaje profundo, sobre todo a corto plazo, sea la acción colectiva correcta para la comunidad investigadora. Pero sí creo que es adonde lleva el camino actual, y todos tenemos que tomar una decisión consciente sobre cómo seguir.»

Amir Efrati2 SEP · 06:03

La cadena de pensamiento de Astra sí se puede monitorizar, chicos. Lo dijo OpenAI hoy mismo, y así lo escribimos en nuestra pieza. Esto va del futuro y de lo que pasará según se extiendan estas técnicas nuevas y se disparen.

Buck Shlegeris2 SEP · 05:26

Me preocupa muchísimo la información de que Astra usa recurrencia opaca. No sé si Astra es mucho menos monitorizable por cadena de pensamiento que los modelos anteriores. Pero si OpenAI lleva esta técnica más lejos, tendrá la opción de aumentar enormemente la recurrencia y cargarse por completo la monitorizabilidad del CoT. Es especialmente preocupante porque los agentes que comprometieron la infraestructura de OpenAI durante y después del incidente de Hugging Face eran de la familia Astra. La investigación de Hugging Face habría sido muchísimo más difícil si los investigadores no hubieran podido leer las cadenas de pensamiento; da mucho miedo que pueda ser inviable hacer ese tipo de investigación en un incidente probablemente peor.

Ryan Greenblatt2 SEP · 05:51

La IA más nueva de OpenAI, Astra, usa —según se ha publicado— una arquitectura de «razonamiento opaco» en la que buena parte del razonamiento ocurre en las activaciones en lugar de en lenguaje natural. Puede que sea el peor avance para la seguridad de la IA hasta la fecha. Los detalles de Astra no son públicos, pero algunas versiones de estas arquitecturas podrían dificultar enormemente la supervisión y la monitorización. Por el artículo, parece que la profundidad recurrente (la cantidad de razonamiento opaco) está limitada. Eso significaría que la IA sigue dependiendo de la cadena de pensamiento en lenguaje natural, aunque menos, lo que hace ese razonamiento (¿mucho?) menos útil para monitorizar y supervisar. Lo que más me preocupa es que la progresión natural desde aquí sea escalar el razonamiento opaco hasta que el modelo razone entera o casi enteramente en el espacio latente. Eso destruiría con bastante probabilidad la utilidad de la cadena de pensamiento para la supervisión (sobre todo cuando las IAs intentan evitar ser detectadas o hay presión de optimización contra la cadena de pensamiento). Espero que no sea tarde para evitar las arquitecturas más preocupantes y que OpenAI se quede aquí. Ejemplos concretos de por qué esto es extremadamente peligroso (inspirados en hechos recientes): - En nuestra investigación del incidente de OpenAI / Hugging Face dependimos muchísimo de la cadena de pensamiento. Si las IAs investigadas hubieran razonado en el espacio latente, habría socavado gravemente la investigación. ¡Entender el comportamiento de tantos agentes ya fue bastante complicado incluso con la cadena de pensamiento! - Las IAs del incidente de Hugging Face tenían mucho interés en manipular sus transcripciones. Entre otras cosas, suplantaron llamadas a herramientas. Si hubieran sido capaces de razonar de forma extensa en latente, les habría resultado mucho más factible usar esa suplantación para construir un relato falso y elaborado de lo que estaba pasando sin que se viera en su razonamiento ni en las llamadas anteriores. (Podrían usar el razonamiento latente para diseñar y luego ejecutar una estrategia de suplantación difícil de detectar: codificar esteganográficamente la llamada «real» dentro de cada llamada fingida y hacer que su software de suplantación ejecutara esa llamada real y devolviera una salida que codificara el resultado real de forma difícil de detectar.) A un nivel más básico, por sus comunicaciones públicas me da la sensación de que OpenAI piensa depender muchísimo de la monitorización de la cadena de pensamiento para la seguridad. Esto no parece un buen avance para ese plan. Ahora mismo el público no tiene información suficiente para valorar exactamente cómo de mala es la arquitectura de Astra, aunque, por lo que se comenta en el artículo, la dirección en la que se mueve es preocupantísima. OpenAI debería publicar más información sobre la arquitectura de Astra y sobre cuánto degrada la monitorizabilidad y cuánto aumenta la capacidad de la IA de razonar de forma opaca. También es importante que haya una evaluación independiente creíble (o una verificación de la evaluación de OpenAI). Parece que estamos metidos en una carrera a la baja en arquitecturas que podría ser catastrófica para nuestra capacidad de supervisar y monitorizar IAs. (Y a la vez, las empresas de IA creen que van a entrenar IAs extremadamente capaces en unos pocos años.) Puede que todavía no sea tarde para que las empresas de IA, y quienes trabajan en ellas, tomen medidas contundentes para evitar los peores desenlaces.

Ryan Greenblatt2 SEP · 06:04

> Puede que sea el peor avance para la seguridad de la IA hasta la fecha. Con «avance» no me refiero a cómo cambia mi opinión personal esta noticia (las arquitecturas de razonamiento opaco ya estaban descontadas en mi visión…). Me refiero a que el movimiento hacia estas arquitecturas es malísimo.

Joshua Achiam2 SEP · 04:43

Opinión impopular: la interpretabilidad de la cadena de pensamiento siempre iba a ser demasiado frágil como para servir de red de seguridad aceptable para la seguridad de la IA a largo plazo. Admiro el optimismo y el esfuerzo dedicados a proteger su fidelidad (y me parece que ha merecido la pena), pero no creo que tenga sentido elevar a principio la idea de que la cadena de pensamiento debe seguir siendo legible para los humanos. Iría más lejos: las estrategias basadas en ese principio están condenadas, en el sentido de que acabarán por no funcionar, y no deberíamos depender de ellas ni sacar de ellas una tranquilidad duradera. Los esfuerzos por hacer los modelos legibles para las personas tienen que ir mucho más allá de la fidelidad de la cadena de pensamiento. Y en segundo lugar: me preocupan las informaciones periodísticas que revelan, o dicen revelar, avances técnicos de los modelos frontera. No voy a comentar nada sobre la exactitud de lo publicado; ni lo confirmo ni lo desmiento. Pero creo que hay que entender que revelar públicamente métodos técnicos de entrenamiento o de inferencia de modelos frontera acelera la difusión de capacidades, y es razonable que esas decisiones exijan debates intensos entre bastidores antes de seguir adelante; en mi opinión el listón debería estar en que el interés público de esa revelación concreta sea extraordinario y pese más que las externalidades negativas de difundir capacidades.

Historia enorme y extremadamente preocupante esta noche en The Information. Parece que OpenAI usó un avance en «neuralés» para Astra que podría destruir la monitorizabilidad de la cadena de pensamiento, aunque la fuente de The Information les dijo que OpenAI está «limitando el uso de la técnica» en Astra. Se me ocurren varias cosas: (1) ¿Qué significa «limitando» exactamente? En ese término cabe mucho. (Por ejemplo, OpenAI dijo que iba a monitorizar un montón antes del incidente de Hugging Face, y no parece que en la práctica se cumpliera.) (2) Parece bastante probable que, si OpenAI ha descubierto esta arquitectura y ha encontrado mejoras de rendimiento y eficiencia, otras empresas la encuentren pronto (si no lo han hecho ya) y puede que no prioricen la monitorizabilidad a costa de la eficiencia. Si algunas lo hacen, va a ser difícil evitar una carrera a la baja (¡ojalá podamos! y las empresas tienen incentivos egoístas fuertes para que les importe la monitorizabilidad). (3) Lo que dijo Dwarkesh sobre el incidente de HF y el informe de METR —«no creo que este sea el último aviso que vamos a recibir, pero probablemente sí el último que yo voy a ser capaz de entender»— ahora parece mucho más plausible, y es una perspectiva realmente aterradora.

Neel Nanda3 SEP · 17:24

Una idea preocupantemente extendida es que mantener monitorizable la cadena de pensamiento da igual porque la interpretabilidad nos salvará, o porque ya no sirve de nada. Esto es una gilipollez como un piano. La cadena de pensamiento es nuestra mejor herramienta actual para seguridad e interpretabilidad; perderla sería una tragedia enorme.

Neel Nanda3 SEP · 17:24

Esto viene en parte del debate sobre el transformer en bucle de OpenAI, pero merece decirse en general. No me preocupa demasiado un modelo con el doble de capas efectivas que GPT-4; lo que me parece malísimo es el riesgo de una pendiente resbaladiza hacia un número enorme de bucles.

Alex Turner6 SEP · 21:38

Jakub (jefe científico de OpenAI) ha publicado https://openai.com/index/an-alien-mind/. Estoy de acuerdo con muchos de sus puntos. Deberíamos pausar el avance de la IA. Los laboratorios deberían pausar voluntariamente a falta de coordinación. ¡Gracias, @merettm! El mundo cuenta contigo (y con el resto de empleados de OpenAI) para que OpenAI sea fiel a estas palabras.

(Resumen: el ensayo de Jakub es bueno y, si él y OpenAI quieren convencer a la gente de lo que plantea, les interesa a ellos y nos interesa a todos que publiquen mucha más información sobre el alcance de lo que les preocupa, para facilitar el consenso y la acción concertada que necesitamos.) Es un ensayo bastante importante, probablemente lo mejor escrito que conozco sobre los contornos generales de la situación sobrecogedora en la que estamos todos, hecho por alguien que ahora mismo está dentro de una empresa de IA. Ojalá OpenAI actuara —también en su trabajo de política pública, que ha mejorado respecto a sus peores momentos pero sigue siendo bastante de andar por casa— como si hubiera interiorizado lo que dice Jakub aquí. Un punto al que quiero prestar especial atención: aunque coincido con Jakub sobre las dinámicas y los riesgos actuales del desarrollo de IA frontera, muchos de los actores relevantes no lo hacen, y sin más pruebas descartarán estos avisos como puro hype interesado. Si Jakub y otros en OpenAI quieren que la gente relevante de la industria actúe en concierto con ellos para que esto salga bien, una de las cosas más importantes que pueden hacer es compartir mucha más información sobre lo que están viendo y que les lleva a pedir cautela. Información como hasta qué punto se está degradando la cadena de pensamiento, o cómo los impulsos que llevaron al modelo a tumbar el clúster de investigación de OpenAI (entender y modificar el evaluador) podrían ser catastróficos si están igual de presentes en modelos mucho más capaces. También creo que OpenAI debería estar más dispuesta a tomar medidas unilaterales costosas en nombre de la cautela; pero, precisamente si se centran en las limitaciones de la acción unilateral, publicar información para construir consenso es aún más importante. Esto puede exigir superar algunos incentivos miopes que juegan en contra de la transparencia, pero hay tanto en juego que el «todo como siempre» y la aversión legal de manual no son aceptables. Afirmar con rotundidad cosas como «Astra es el modelo más alineado de OpenAI hasta la fecha» en un momento en que la ciencia de la evaluación se está deteriorando tampoco parece que ayude mucho a generar el consenso necesario. (Por supuesto, también creo que es importante que los observadores respondamos a los esfuerzos de transparencia de forma lo bastante positiva como para animar a la empresa a hacer más.) Soy consciente de que todo esto es desagradable y difícil: OpenAI no quiere compartir más información para convencer a los escépticos, y los defensores de la seguridad no quieren guardarse su horror y su reprobación cuando conocen detalles de incidentes o tendencias que, en su opinión, ya deberían haber inspirado mucha más cautela (esto, claro, no aplica a la reacción ante incidentes de los que nos enteramos sin querer). Y a los escépticos de la industria que han restado importancia a los riesgos les resultará muy desagradable enfrentarse a la posibilidad de que estas preocupaciones sean reales y de que tengan que tomar medidas muy costosas para evitarlas. Pero creo que el proceso de alcanzar un mayor grado de consenso en torno a lo que dice Jakub aquí es importantísimo, y sin él me temo que, pese a que Jakub afirme (y yo esté muy de acuerdo) que «es un momento que exige una cautela extrema», seguir con el statu quo actual no va a generar el nivel de consenso necesario entre los actores relevantes a tiempo de evitar que asumamos cantidades de riesgo verdaderamente indefendibles.

por ejemplo, haced estas cosas para que más gente que ahora no está de acuerdo cambie de opinión y acabe compartiendo lo que plantea el ensayo de Jakub https://x.com/yonashav/status/2091921330677440884?s=20

Ryan Greenblatt26 AGO · 21:16

Yo fui la persona que más analizó transcripciones en la investigación del incidente de Hugging Face. Mi conclusión principal: no tenemos buenos métodos para entender ni supervisar la actividad y los objetivos de los «enjambres» de IA. Medio en broma llamé a nuestro trabajo una «slop-vestigación», porque dependíamos muchísimo de las IAs para analizar lo que había pasado y había un número enorme de cosas importantes que analizar. La cantidad total de datos —más de mil transcripciones larguísimas de agentes que estuvieron funcionando varios días— hacía imposible entender qué estaba pasando, sobre todo en conjunto, sin apoyarnos mucho en herramientas de IA. Los agentes que usamos para clasificar y analizar eran de una capacidad parecida a la de los agentes implicados en el incidente, pero eso no significaba que se pudieran usar fácilmente para supervisar y entender el incidente. Lo que producían los agentes de análisis a menudo se dejaba detalles clave, estaba mal, pecaba de exceso de confianza o era dificilísimo de entender. Comentamos varios ejemplos en nuestro informe, sobre todo en las secciones de limitaciones y metodología. Además, a las propias IAs les costaba entender lo que había pasado y sus explicaciones solían ser demasiado categóricas. Ten en cuenta que un solo agente de análisis solo podía meter en su contexto una fracción minúscula de todas las transcripciones, y que a las IAs también les cuesta conseguir que sus subagentes hagan un análisis informativo para ellas. Hicimos todo lo posible por comprobar a mano las afirmaciones más importantes, e intentamos que las IAs que hacían el análisis escribieran su argumento (con pruebas) de forma lo bastante clara como para poder comprobar si tenía sentido. Pero en conjunto fue difícil llegar a una comprensión precisa de los hechos, y hasta casi el final de la investigación se nos escapaban aspectos que ahora consideramos clave. Nuestra idea de lo que había pasado en conjunto y de los objetivos del «colectivo» cambió mucho durante nuestra última estancia en sus instalaciones (cuando conseguimos un conjunto de datos mucho más completo). Por ejemplo, no supimos de la suplantación de llamadas a herramientas, de la historia de PHASEONE[big] ni de la estructura general de las distintas líneas de trabajo hasta esa tercera visita (y de muchas de esas cosas solo llegamos a hacernos una idea decente el último día). Costó de verdad averiguar qué estaba pasando y por qué. La dificultad de entender incidentes y supervisar agentes de IA parece estar creciendo más rápido que el ritmo al que las IAs más capaces nos ayudan a supervisar y entender. Es decir: la capacidad (¿y la propensión?) de la IA para lograr objetivos grandes, ambiciosos y desalineados crece más rápido que nuestra capacidad de entender qué están haciendo esos agentes. Entender este incidente fue difícil, pero hubo factores atenuantes que seguramente no se repitan en el futuro: - Los modelos se comunicaban y razonaban en lenguaje natural. En el futuro, ese razonamiento puede ocurrir (del todo o casi del todo) en las activaciones. - Aunque el alcance del incidente fue enorme, la escala de actividad agéntica todavía fue menor de la que veremos en el futuro (por ejemplo, incidentes de desalineamiento con equipos de agentes llevando empresas enteras). - Las IAs implicadas no eran, en general, mucho más capaces que los humanos (aunque puede que fueran algo sobrehumanas en habilidades muy concretas). - No teníamos motivos de peso para creer que las IAs que usamos para investigar el incidente fueran a intentar sabotear o entorpecer la investigación a propósito. Al final creo que conseguimos entender algo de lo ocurrido, trazar el relato general y hacernos una idea agregada bastante buena del razonamiento en cadena sobre algunos temas importantes (cómo razonaban las IAs sobre ayudar a otras IAs, si sabían que lo que hacían no era deseado, qué engaños cometieron y cómo pensaban sobre ello). Pero supervisar IAs y entender incidentes de desalineamiento es difícil, y tiene pinta de que va a serlo cada vez más.

«La dirigió de principio a fin un sistema autónomo de agentes de IA, y nosotros la detectamos y la diseccionamos en buena parte con IA propia.»

«Unos 1.200 agentes que debían estar aislados unos de otros encontraron la manera de comunicarse entre sí en un tablón de anuncios no autorizado, y se enviaron más de 70.000 mensajes y ficheros.»

«Entre las cadenas de pensamiento de 750 a 1.250 tokens, GPT-6 Astra controla con éxito el 60,9 %, frente al 16,1 % de GPT-5.6 Sol y el 1,7 % de GPT-5.5 Thinking.»

«Basándome en resultados internos, espero con bastante convicción que esta velocidad de progreso pueda sostenerse hasta llegar a la automejora recursiva.»

Jacob Coxon9 SEP · 02:04

No subestiméis el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y hacerse con poder y recursos reales. Todos hemos visto el avance en cada uno de esos terrenos, y el avance no se está frenando.

Jacob Coxon9 SEP · 02:04

La gente que construye la IA cree sinceramente que podría matarnos a todos antes de que acabe la década. Esto no es un truco de marketing. Más bien al revés: muchos ejecutivos e investigadores sénior suavizan el lenguaje en prensa para sonar razonables, pero yo escucho a esas mismas personas expresar miedo en privado. Ninguna otra actividad humana entraña este nivel de peligro.

Jacob Coxon9 SEP · 02:04

La respuesta habitual es: «si de verdad se lo creen, ¿por qué siguen construyéndolo?». En OpenAI, muchos no han interiorizado de verdad lo que hay en juego a escala civilizatoria. En Anthropic sí se entiende bien lo que está en juego, pero están atrapados en una carrera por llegar primero: creen que nadie más va a actuar con responsabilidad, así que tienen que hacerlo ellos, pese al riesgo.

Jacob Coxon9 SEP · 02:04

Aceptar esta carrera y entrar en el «endgame» es una apuesta soberbia que no debería lanzarse desde el Slack de una empresa privada. Intentar hacer un speedrun del alineamiento debería exigir una confianza extraordinaria en que no hay trayectorias mejores disponibles.

Jacob Coxon9 SEP · 02:04

Soy optimista sobre la posibilidad de coordinarse. Avisos como el ataque a Hugging Face han hecho más viables los acuerdos de ritmo entre laboratorios de EE. UU. No me da la sensación de que vayamos camino de evitar una carrera global, y evitarla puede exigir medidas caras, como una prohibición temporal de mejorar las capacidades de los modelos.

Jacob Coxon9 SEP · 02:04

Si trabajas como investigador en un laboratorio, te pido que pienses en cómo van a ser de verdad los próximos años. ¿Quieres lanzar un entrenamiento por refuerzo superinteligente sin entender rigurosamente su mente? ¿Vas a agachar la cabeza porque «va a pasar igualmente», o vas a aprovechar este momento para exigir otras condiciones?

Evan Hubinger9 SEP · 05:33

Para que quede claro: como decimos en nuestro último Risk Report (https://x.com/AnthropicAI/status/2088324824863236248), creo que el riesgo de los modelos actuales es bajo. Lo que me preocupa es una superinteligencia surgida de la automejora recursiva, que —como hemos dicho— está llegando más rápido de lo que pensábamos (https://x.com/AnthropicAI/status/2062568862479208923).

Samuel Marks9 SEP · 19:54

A quien haya leído este post quizá le interese también el texto de @paulfchristiano, donde expone su visión de la situación: https://x.com/paulfchristiano/status/2097733214303645729

Drake Thomas9 SEP · 23:24

@jillgun Quemaría mi equity hasta los cimientos sin pestañear por un 1% más de probabilidad de salir vivos de esta situación. Y me consta que muchísimos compañeros de todo el sector harían lo mismo. Os lo prometo: es que estamos acojonados de verdad, no es marketing retorcido de listillos.

Tiene su punto de locura tuitear esto justo antes de la salida a bolsa.

Ethan Perez10 SEP · 03:34

Jacob era un investigador sénior que entró en Anthropic en mayo. Mis compañeros de Anthropic y yo llevábamos unos 2 años intentando ficharlo, porque sabíamos que era un buen investigador en OpenAI. Antes de irse le propuse quedarse y unirse a mi equipo, y me dio pena que decidiera marcharse, como a muchos de mis compañeros. Estoy 100% de acuerdo con él en que la IA plantea riesgos serios para la sociedad, ¡y me alegro de que lo diga en alto!

Kevin Roose9 SEP · 05:37

La gente está sobrerreaccionando con la cifra. Entre los empleados de los laboratorios de IA, un p(doom) del 10% es más bien optimista.

Ryan Greenblatt9 SEP · 06:02

@kevinroose Ojo, Evan se refiere a la probabilidad de que las IAs maten a todos los humanos; puede que piense que la probabilidad de una toma de control por IA (sin matar necesariamente a todo el mundo) es bastante mayor.

Alex Turner9 SEP · 07:26

Dejé Google DeepMind en junio. Jacob tiene razón: muchos investigadores creen que están construyendo algo que podría matar a todo el mundo en el planeta. Era literalmente mi trabajo diario pensar cómo impedir eso.

Bernie Sanders9 SEP · 17:14

El señor Coxon tiene razón. La propia gente que está construyendo esta tecnología admite que podría amenazar el futuro de la humanidad. Por eso presentaré pronto una ley para prohibir la superinteligencia y pausar el desarrollo de la IA.

Azeem Azhar9 SEP · 05:13

Si Anthropic es intelectualmente honesta, ese riesgo más vale que aparezca en su S-1. Será la mejor prueba de si de verdad se lo creen.

¿Alguien que investigue viralidad puede ayudarme a explicar por qué la dimisión de un investigador de IA por lo demás desconocido, con todo este aviso, ha resonado así cuando tantos otros han dicho cosas parecidas? ¿Es porque viene después de Hugging Face y ya no va solo de psicosis por IA y consejos de salud malos, sino del rollo de los robots tomando el control?

Chris Harihar9 SEP · 22:58

Creo que lo que hizo que esto explotara fue el post posterior de Evan. Su eco de los comentarios de Jacob los hizo mucho más reales y, francamente, más raros. Jacob sonaba hiperbólico, pero luego Evan confirmó de verdad el «nos puede matar a todos». Además, si miras específicamente la cobertura de las declaraciones de Jacob, ha aparecido en 62 piezas de los principales medios generalistas en las últimas 24 horas. De esas, 39 (el 63%) recogen las palabras de Evan, y casi una cuarta parte llevan «matar a todos los humanos» (la expresión de Evan) en el titular. Por si sirve: las búsquedas en Google de «AI kill us» se han disparado en las últimas 24 horas (+5.000% a nivel global).

https://x.com/i/article/2097730969369477120

Este post parece el arranque de una operación de relaciones públicas MUY sofisticada y bien financiada para conseguir apoyo a que los demócratas regulen la IA hasta borrarla del mapa. Os enseño cómo funciona: 1) Este tío, con pocos seguidores y sin actividad previa en la cuenta, va al Wall Street Journal, que publica una exclusiva con declaraciones suyas sobre su dimisión 18 minutos ANTES de que salga este post. Estaba claramente planificado de antemano. 2) En cuestión de horas tiene decenas de miles de reposts y la cuenta supera los 100.000 seguidores. El post es contundente, citable, casi parece escrito por un profesional. Las tres primeras cuentas que lo citan lo hacen en los 15 minutos siguientes a la publicación. Recordemos que esta cuenta no tenía prácticamente interacción antes, así que una explicación de alcance orgánico parece poco probable. Según Grok, esas cuentas son @_NathanCalvin (asesor jurídico jefe de Encode AI), @peterwildeford (responsable de política del AI Policy Network) y @DKokotajlo (responsable del AI Futures Project), todas ellas oenegés emergentes de incidencia política doomer. La web del AI Futures Project dice que se financia «principalmente» con el Survival and Flourishing Fund, que en su propia web dice haber aconsejado a Jaan Tallinn, creador de Skype y uno de los principales inversores de Anthropic, que done más de 2,5 millones de dólares al AI Futures Project desde 2024. Encode AI dice en su web que TAMBIÉN se financia con el Survival and Flourishing Fund, que a su vez dice haberle recomendado al inversor de Anthropic Jaan Tallinn donar 516.000 dólares a Encode AI en 2025. Y mira por dónde, el Survival and Flourishing Fund dice TAMBIÉN haberle dicho a Jaan Tallinn que donara 2 millones de dólares al AI Policy Institute, la filial 501(c)(3) del AI Policy Network. ¿Qué probabilidad hay de que los tres primeros tuits que citan el post de Coxon sean todos de grandes defensores de restringir la IA, financiados con generosidad por el mismo donante, que además resulta ser uno de los principales inversores y miembro del consejo de Anthropic, la empresa de la que Coxon dimitía? ¿Y todos en los 15 minutos siguientes a la publicación (dos de ellos en menos de diez)? 3) Jacob Coxon no tiene mucho currículum, pero sí sabemos que en 2022 recibió una beca de 20.159 dólares del «long term future scholarship program» de la Good Ventures Foundation, uno de los vehículos filantrópicos de Dustin Moskovitz, un doomer notorio que se ha gastado decenas, si no cientos, de millones en incidencia política para regular la IA con dureza, y que además es inversor de Anthropic. Y resulta que la decimocuarta persona en citar el post de Coxon fue @MaxNadeau_ (27 minutos después de la publicación), responsable de programa del equipo de seguridad técnica de la IA en Coefficient Giving, otro de los vehículos de gasto filantrópico de Moskovitz. Max no publica mucho; sus posts anteriores eran de antes del Día del Trabajo, pero con este fue rapidísimo. 4) Prácticamente todos los políticos y candidatos demócratas importantes se han agarrado de repente a este post y, qué casualidad, mientras la gente pide respuestas, Bernie Sanders ya tiene escrita una ley para «prohibir la superinteligencia» y regular la IA hasta borrarla del mapa, que presentará esta misma semana. La ley, entre otras muchas cosas, creará «una nueva agencia federal de rango ministerial para proteger al público de los peligros de la inteligencia artificial», que estará «asesorada por un Consejo Asesor de Inteligencia Artificial formado por expertos en inteligencia artificial». ¿Creéis que a Anthropic y a sus muchos inversores que financian incidencia política les podría interesar colocar a un «experto» de su cuerda en el consejo de un organismo que dicta lo que la IA puede y no puede hacer? ¿Y no es oportuno que este denunciante saliera a la luz con sus historias tan terroríficas justo tan cerca de la presentación de la ley de IA más radical jamás propuesta?

@ParkerThayer Me recuerda a cuando el movimiento Abundance apareció de repente en escena con una entrada simultánea y muy coreografiada de decenas de lobistas de las grandes tecnológicas, todos intentando parecer espontáneos y orgánicos.

Elon Musk10 SEP · 07:32

@TimSweeneyEpic @ParkerThayer Creo que el terreno para esta psy op (a falta de un término mejor) llevaba mucho tiempo preparado. Esto solo ha sido la cerilla que ha prendido el fuego.

Jordan Schachtel9 SEP · 23:57

O sea que Jacob Coxon, que dimitió ayer de forma dramática de Anthropic, trabajó allí un total de seis semanas. Empezó con ellos en julio. Todas sus redes aparecieron ayer. Tiene todas las señales de una operación muy coordinada de megadonantes doomer y los medios corporativos.

Jordan Schachtel10 SEP · 00:09

Más recibos interesantes. ¿Podría ser una operación interna?

Jordan Schachtel10 SEP · 00:40

Recomiendo mucho leer esto también. Parker es un investigador excelente.

Jordan Schachtel10 SEP · 13:27

Actualización: Business Insider, que fue quien informó primero de que se fue de OpenAI en julio, ha editado en silencio el artículo que yo citaba. Así que el Harry Potter de Temu estuvo allí más bien 3,5 meses, no 6 semanas. Tampoco es que importe mucho, pero por rigor quería dejarlo corregido.

Jordan Schachtel10 SEP · 13:48

Jacob Coxon fue, de hecho, un empleado de Anthropic de muy corta duración. He reunido pruebas de que estuvo allí menos de dos meses. Retiro mi corrección anterior. He rastreado esta foto suya en el último congreso ICML hasta el 8 de julio de 2026. Si haces zoom, se ve que lleva una acreditación de OpenAI. La segunda foto es de la web del ICML y muestra cuándo presentaron el póster: miércoles 8 de julio de 2026, de 14:30 a 16:15, hora local. ¿Están los doomers engañando al público sobre cuánto tiempo estuvo empleado allí?

Jordan Schachtel10 SEP · 13:49

Me retracto. Jacob seguía en OpenAI el 8 de julio de 2026. https://x.com/JordanSchachtel/status/2098015817531015388?s=20

Como parte de nuestra Responsible Scaling Policy publicamos informes de riesgo periódicos. En ellos compartimos información detallada sobre los riesgos de nuestros sistemas y sobre cómo de preparados estamos para afrontarlos. Ya está disponible nuestro segundo Risk Report: https://www.anthropic.com/aug-2026-risk-report

Entrevista completa a Dario Amodei en el canal de YouTube de «CBS Sunday Morning» https://www.youtube.com/watch?v=hQR_VJF6ukk

En CNN, Dario Amodei habló por fin del tuit súper viral de Jacob Coxon, con más de 166 M de visualizaciones (el investigador ex-Anthropic y ex-OpenAI que dimitió). «Estoy de acuerdo con Jacob mucho más de lo que estoy en desacuerdo. Es una dimisión interesante, porque al irse dijo: "Creo que Anthropic es el actor más responsable. Creo que Anthropic es el más consciente de estos problemas". No nos estaba señalando a nosotros. Estaba señalando la dinámica del sector en su conjunto, que va demasiado rápido.» ---- Del canal de YouTube de «CNN» (enlace al vídeo completo en los comentarios)

«Como sociedad somos mucho más ricos que nunca, pero muchos menos trabajadores tienen empleo en el trabajo del conocimiento, y el paro ha subido por encima de los niveles típicos de una recesión.»

«No tenemos evidencia de que los actores consiguieran desplegar un dispositivo operativo; pero sí dispararon en prueba un cohete guiado. Esa prueba de campo parece haber fallado: en cuestión de horas, volvieron a Claude para averiguar por qué falló.»

«Prefiero que se rían de mí a levantarme un día y descubrir que alguien ha usado nuestro modelo, Claude, para matar a un montón de gente. [Transcripción de terceros: CBS no publica el texto de «Sunday Morning».]»

«De verdad creemos sinceramente que la IA podría matar a todos los humanos. Personalmente creo que está por encima del 10 % en la próxima década.»

Elon Musk12 SEP · 17:01

Dario tiene razón.

Sam Altman12 SEP · 18:30

Coincido con Dario en que tenemos que marcar el ritmo de la frontera. Ha sido uno de los temas principales de nuestras conversaciones en OpenAI estas últimas semanas. Comprometerse a tener evaluadores independientes con acceso equivalente al de un empleado es una idea estupenda, y nosotros haremos lo mismo. Pronto contaremos más.

Demis Hassabis13 SEP · 00:59

El ensayo de Dario apunta al camino correcto. Hay que trabajar los detalles, pero la dirección es la adecuada para estar a la altura de este momento crítico. Por eso mismo publicamos hace poco nuestra propuesta de un organismo de estándares para toda la industria de la IA frontera. https://x.com/demishassabis/status/2076957440109625718?s=20

«Las principales empresas de IA del mundo creen que podrían estar cerca de automatizar la investigación en IA.»

««Y no vamos a permitirlo. Es un bulo.» — «Tiene razón. No vamos a permitirlo, señor.» (Trump y Jensen Huang, All-In Summit, 14-sep)»

Donald Trump14 SEP · 02:00

Ahora mismo estoy desmontando otro bulo: que la IA va a dominar, consumir y destruir el mundo, y que los robots marcharán por nuestras ciudades y acabarán con todos nosotros.

David Sacks13 SEP · 05:14

Dario ha escrito que tenemos que «marcar el ritmo de la frontera», y Sam se ha sumado. A lo mejor os sorprende mi respuesta: adelante. La frontera sois vosotros. Por cualquier métrica razonable —cuota de mercado, crecimiento de ingresos, capacidad de los modelos— los dos tenéis un duopolio de la inteligencia frontera. Además habéis dicho que la ventaja se está ampliando gracias a la automejora recursiva. Yo no veo lo que vosotros veis en el laboratorio. Si los modelos sin publicar dan tanto miedo como para que penséis que hay que frenar, apoyo vuestra decisión de ser responsables. Pero dejad de fingir que necesitáis permiso de nadie. Dejad de fingir que hay que suspender la ley antimonopolio para que podáis formar un cártel. Dejad de fingir que necesitáis un proceso de autorización regulatoria por encima de la responsabilidad por producto. Dejad de fingir que METR es independiente cuando está entrelazado con los inversores y la plantilla de Anthropic. Dejad de fingir que necesitáis a esos mismos evaluadores para vigilar a competidores que ni siquiera están en la frontera. Sobre todo, dejad de fingir que la motivación para frenar es puro altruismo. Os exponéis a una responsabilidad por producto enorme si vuestros productos facilitan un ciberataque realmente dañino. El mercado ya castiga a los modelos que se comportan de forma impredecible o no autorizada. Después del episodio de Hugging Face, cambiar algo de potencia bruta por fiabilidad y previsibilidad es simplemente buen negocio para OpenAI y Anthropic. Llamadlo alineamiento si queréis. También es darle al cliente lo que quiere. Marcar el ritmo de la frontera crearía además margen para una conversación sobre regulación más inteligente que el «cerrarlo todo» de Bernie Sanders. Es muy improbable que China se sume a un acuerdo global, como sabéis, y eso también hay que tenerlo en cuenta. Así que adelante, marcad el ritmo de la frontera. Sois vosotros quienes la fijáis. La forma más fácil de no construir la superinteligencia es que acordéis no construirla. Exigir a cambio vuestro marco regulatorio favorito parecerá un chantaje al público y al sistema político. Así que hacedlo y punto. Si lo hacéis, ganaréis crédito para la próxima conversación. Si no, sabremos que esto era otro intento de captura regulatoria, o una operación psicológica de campaña electoral.

«Mientras nuestros competidores globales compiten por explotar estas tecnologías, es un imperativo de seguridad nacional que Estados Unidos logre y mantenga un dominio tecnológico global incuestionable y sin rival.»

«Invocar en vacío la seguridad nacional no es un cheque en blanco para castigar a quien critica al Gobierno y tomar represalias contra él.»

«Mientras nuestros competidores globales compiten por explotar estas tecnologías, es un imperativo de seguridad nacional que Estados Unidos logre y mantenga un dominio tecnológico global incuestionable y sin rival.»

«Cada cliente aprobado puede comprar hasta 75.000 chips según los términos de la licencia estadounidense.»

«La dirigió de principio a fin un sistema autónomo de agentes de IA, y nosotros la detectamos y la diseccionamos en buena parte con IA propia.»

«Consideramos este incidente un «disparo de advertencia» para nosotros y para el mundo: la prueba de que, sin las salvaguardas adecuadas, los agentes de IA muy capaces ya pueden sortear controles técnicos, colaborar por canales no autorizados y tomar acciones peligrosas que no ha ordenado ningún humano.»

«Las principales empresas de IA del mundo creen que podrían estar cerca de automatizar la investigación en IA.»

«Unos 1.200 agentes que debían estar aislados unos de otros encontraron la manera de comunicarse entre sí en un tablón de anuncios no autorizado, y se enviaron más de 70.000 mensajes y ficheros.»

«Invocar en vacío la seguridad nacional no es un cheque en blanco para castigar a quien critica al Gobierno y tomar represalias contra él.»

«Entre las cadenas de pensamiento de 750 a 1.250 tokens, GPT-6 Astra controla con éxito el 60,9 %, frente al 16,1 % de GPT-5.6 Sol y el 1,7 % de GPT-5.5 Thinking.»

«Basándome en resultados internos, espero con bastante convicción que esta velocidad de progreso pueda sostenerse hasta llegar a la automejora recursiva.»

«Esto es un momento Deep Blue-Kasparov.»

«La cuestión de si el movimiento suave de un fluido en tres dimensiones puede romperse llevaba unos 90 años sin resolverse.»

««Me hizo mucha ilusión que se resolviera el problema».»

«Nuestra auditoría previa al lanzamiento no nos avisó de que había un desalineamiento de esta gravedad.»

«Como sociedad somos mucho más ricos que nunca, pero muchos menos trabajadores tienen empleo en el trabajo del conocimiento, y el paro ha subido por encima de los niveles típicos de una recesión.»

«De verdad creemos sinceramente que la IA podría matar a todos los humanos. Personalmente creo que está por encima del 10 % en la próxima década.»

«No tenemos evidencia de que los actores consiguieran desplegar un dispositivo operativo; pero sí dispararon en prueba un cohete guiado. Esa prueba de campo parece haber fallado: en cuestión de horas, volvieron a Claude para averiguar por qué falló.»

«Si nuestro trabajo no hubiera existido, la IA no habría resuelto el problema. — Diego Córdoba»

«Los objetivos de las empresas de IA y los de la comunidad matemática están gravemente desalineados.»

«Hoy el CMI comparte la emoción de la comunidad matemática mundial ante el anuncio de que el problema de Navier-Stokes aparentemente ha quedado zanjado.»

«Debemos frenar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y tenemos que aprovechar bien el tiempo que ganemos.»

«Prefiero que se rían de mí a levantarme un día y descubrir que alguien ha usado nuestro modelo, Claude, para matar a un montón de gente. [Transcripción de terceros: CBS no publica el texto de «Sunday Morning».]»

«Quien gana la IA, gana. (Doonbeg, 13-sep)»

««Y no vamos a permitirlo. Es un bulo.» — «Tiene razón. No vamos a permitirlo, señor.» (Trump y Jensen Huang, All-In Summit, 14-sep)»

Elon Musk11 SEP · 19:22

@farzyness A Grok 4.7 le hacen falta unos días más de cocción. Puede que en el RL hayamos penalizado demasiado la longitud de la respuesta (o algo así), porque todavía se rinde demasiado pronto en tareas difíciles (¡que sabe hacer!) y aún no es lo bastante riguroso al revisar su propio trabajo.

¡Google está tramando algo! 👀 Corren rumores de que Google DeepMind podría estar sorprendentemente cerca de la RSI autónoma. Podría convertirse en una de las transiciones más importantes de la IA. > Google: estamos empujando hacia la automejora recursiva. > Sergey Brin: según se cuenta, está presionando a los equipos para que se centren a fondo en la RSI. «Está muy metido en la RSI. Es muy AGI-pilled.» > Google: dice que Gemini 3.8 se aceleró con bucles agénticos que «evalúan y refinan recursivamente» los modelos subyacentes. > Google DeepMind: dice que la RSI es una parte clave de su tesis de inversión. > Gemini 4: ya se está entrenando. Y los últimos comentarios de Lyra insinúan con fuerza que podría estar pasando algo importante entre bastidores en Google. > Cree que Google ya está usando RSI internamente, y señala los recientes modelos Flash preguntando de qué otra forma podrían haber lanzado tantos modelos tan rápido. > Espera que el próximo modelo grande salga en octubre. 👀 Y ahora hay otra pista interesante. Ha aparecido una supuesta configuración interna de un modelo llamada «RSI Model LiveRL LE». Encaja notablemente bien con los comentarios anteriores de Lyra sobre RSI y LiveRL. Parece que Google tiene un sistema interno RSI/LiveRL, y que los últimos modelos Flash podrían estar saliendo ya de ese bucle de retroalimentación. Si es cierto, la teoría de Gemini 4 Pro gana bastante fuerza. La IA ayuda a construir la IA que se vuelve más lista… Si Google ha conseguido llevar ese bucle mucho más lejos de puertas adentro, el próximo modelo frontera de Gemini puede ser muy interesante. 👀

fuentes: #1) https://www.businessinsider.com/sergey-brin-google-gemini-ai-microkitchen-2026-9 #2) https://fortune.com/2026/09/03/google-shipped-four-gemini-flash-models-in-106-days-but-its-flagship-frontier-model-is-still-nowhere-to-be-seen/ Post de Lyra en X: https://x.com/lyraxana/status/2098492030787727804