[APOCALIPSIS IA] Delia Rodríguez recoge muy bien en su columna de El País las noticias apocalípticas que llegaron esta semana desde el frente de la IA. Jacob Coxon, investigador que pasó por OpenAI y Anthropic, renunció a esta última denunciando los riesgos de avanzar demasiado rápido hacia sistemas superinteligentes. Tras su salida, Evan Hubinger, investigador de alineamiento en Anthropic (cualquier cosa que eso sea), afirmó que estima en más de un 10 % la probabilidad de que la IA provoque la extinción humana durante la próxima década. A eso se sumó el anuncio de OpenAI de haber resuelto el Navier-Stokes, uno de los siete Problemas del Milenio.
Fui a The New York Times buscando esperanza y me encontré con un video en el que Cade Metz, periodista especializado en tecnología, explica los escenarios hipotéticos en los que pudieron haberse basado los investigadores para insinuar que estamos ad portas de la extinción. Uno de esos escenarios incluye la creación de armas biológicas. No encontré esperanza, pero también leí: Anthropic Says It Blocked Possible Efforts to Build Biological Weapons. Luego, me encontré con este recuento que hace El País: Los riesgos de la IA según los que la han visto desde dentro: “El mundo no está preparado y nosotros no estamos preparados”.
Sobre la resolución de la ecuación Navier-Stokes, Tristan Buckmaster, un matemático que venía trabajando en ese mismo problema, insinuó que OpenAI aprovechó conversaciones confidenciales suyas con Codex. La compañía lo niega, aunque admite que pudo haber entrenado con «datos desidentificados derivados de su uso de nuestros productos».
El caso da para una película. Yo me la imagino tipo Código Enigma. Y aunque podríamos hablar de qué significa usar 10 mil agentes (y mucho dinero) para resolver esta ecuación, o de los rumores de que OpenAI entró al tema porque supo que Anthropic trabaja en eso, yo sigo pensando en debate ético y de derechos de autor: si haces un trabajo con ayuda de una IA, ¿en manos de quién puede terminar ese conocimiento y qué garantías tienes como usuario? The New York Times tiene un artículo sobre el tema: Could Your Chatbot Be Stealing Ideas From You? It’s a Thorny Question.
[SALIDA EN FALSO DE GOOGLE EARTH] Alguien en Google Earth, una herramienta que ha sido sinónimo de verdad satelital, pensó que sería buena idea permitir modificar imágenes satelitales con instrucciones de texto. Alguien más decidió que esto se podía desarrollar. Alguien más decidió que se podía lanzar. En horas, usuarios habían creado una planta nuclear en Irán, un cráter de bomba junto a un hospital en Gaza, inundaciones en el Capitolio de Estados Unidos. Un día después, tras la reacción de expertos en verificación y medios, Google retiró la función y dijo que volvería con salvaguardas más fuertes.
Rest of the world documenta el caso en el texto: Google Earth’s AI experiment lasted 24 hours. The damage to trust will linger. Mientras lo leo me pregunto: ¿qué tenemos que hacer como sociedad para desacelerar la carrera por la IA? El equipo de Axios intenta ofrecer respuestas: 3 formas en que los líderes podrían evitar un escenario apocalíptico provocado por la IA.
[LEER MENOS, LEER PEOR] Los resultados de PISA 2025 muestran que los adolescentes están leyendo, en promedio, al peor nivel registrado en lo que va de siglo. La prueba evaluó a 760 mil estudiantes de 15 años en 91 países y encontró caídas no solo en lectura, sino también en matemáticas y ciencias.
La esperanza tampoco llegó por aquí. Así que sintiendo la fatiga informativa de la que habla Delia Rodríguez al inicio de su artículo, y sin ganas de conectarme con ninguna otra crisis (la de la democracia, la climática), me fui a hacer cosas análogas. Salí a comer con amigos, fui al gimnasio, compré libros, continúe con los preparativos de mi cumpleaños. También encontré muy refrescante el episodio El lugar desde donde creas, del pódcast Consciente tu día, de Durga Steff.
***
Para recibir mis post a través de un canal de WhatsApp, suscríbete aquí: https://whatsapp.com/channel/0029Va6EJD4GOj9qnFAOb23L
Deja un comentario