Y ahora, ¿qué viene?

Este fin de semana me dio por meterme de lleno con Dario Amodei. Escuché su conversación con Ross Douthat mientras conducía, y anoche releí sus dos ensayos, Machines of Loving Grace y The Adolescence of Technology. Creo que, dada mi propia experiencia personal y profesional con el impacto de la IA generativa en la ingeniería de software, y haciendo una extrapolación rápida de las tendencias actuales, el “país de genios en un datacenter” de Amodei es tanto plausible a relativamente corto plazo como masivamente disruptivo para, bueno, prácticamente todo.

Así que la pregunta urgente es: ¿cómo debería actuar uno ante semejante convicción?

La situación

Empecemos examinando algunas de las afirmaciones y preocupaciones de Amodei. La idea del “siglo XXI comprimido” es poderosa–un siglo de cambio en 5 a 10 años. Imagina que en 2016 estuviéramos viviendo en 1916, y diez años después estuviéramos en el mundo moderno, al menos tecnológicamente. En ciertos aspectos se sentiría como magia: hubo un brote masivo de polio en 1916, y hoy la polio está prácticamente erradicada, con solo Afganistán y Pakistán sufriendo todavía de poliovirus endémico. En otros aspectos sería aterrador: fíjate en lo cerca que estuvimos del armagedón nuclear durante la Guerra Fría, y eso fue con décadas para desarrollar mecanismos de seguridad y canales de comunicación. Si a las potencias imperiales que se masacraban mutuamente en las trincheras de Europa en 1916 les hubieran dado misiles balísticos intercontinentales, estoy bastante seguro de que yo no estaría aquí escribiendo esto hoy.

Vivir de repente en el mundo de 2126 dentro de 10 años sería igual de mágico y aterrador. Todas nuestras enfermedades curadas, pero armas autónomas que no se niegan a cumplir órdenes ilegales. Millones o miles de millones de inteligencias a nivel de genio trabajando en los problemas más difíciles de cada campo intelectual (como AlphaFold con el plegamiento de proteínas, pero para todo), mientras millones o miles de millones de personas se quedan sin trabajo. Sistemas de vigilancia y control casi perfectos podrían consolidar regímenes autoritarios de maneras casi imposibles de resistir. La gran mayoría de los activos productivos podría estar controlada por apenas unos pocos actores (tanto estados como corporaciones), haciendo que la creciente desigualdad de hoy parezca absolutamente igualitaria en comparación.

La velocidad a la que podrían ocurrir los cambios hará mucho más probable que se tomen atajos y que se fijen máximos locales de maneras que no beneficien a la mayoría. La forma en que las medidas de emergencia tienden a sobrevivir a sus emergencias es ilustrativa–piensa en la PATRIOT Act después del 11-S, o en cómo el sistema que China construyó para monitorear el COVID-19 sigue usándose para vigilar a la población.

Por supuesto, no todos están convencidos. La misma revolución distribuida en 50 años en vez de 5 seguiría siendo un avance tremendo para la humanidad sin tantas de las desventajas que traerá la velocidad. Y podría no pasar en absoluto–¿serían transformadores mil millones de instancias de Claude Opus 4.6, GPT 5.2 o Gemini 3? Tal vez, pero probablemente no de todas las formas que Amodei y otros predicen.

¿Qué debería hacer yo?

Me gustaría responder a la pregunta de “¿qué deberíamos hacer como sociedad?”, pero no creo estar cualificado para eso. En cambio, voy a analizar qué debería hacer yo–un ingeniero de software en la segunda mitad de su carrera, con dos adolescentes (uno en secundaria y otro a punto de entrar a la universidad).

• Invertir, específicamente en la bolsa y en empresas privadas con exposición a las ganancias de productividad que “un país de genios en un datacenter” podría traer. Con el tiempo todo podría tener esa exposición, pero al principio estará distribuida de manera desigual. Un mundo en el que pierdo mi fuente principal de ingresos pero mis inversiones se multiplican por 10 en realidad no es un mal mundo (claro que tengo la suerte de ver esto desde la posición de alguien que ya ha podido acumular riqueza–si tuviera 23 años ahora mismo tendría una perspectiva muy diferente).
• Mantener la opcionalidad, específicamente reduciendo obligaciones fijas y manteniendo la mayor liquidez posible, evitando cualquier apuesta que asuma que el mundo seguirá igual, o que irá en una dirección particular excluyendo todas las demás. Lo más probable es que alguna mezcla de los mejores y peores escenarios sea lo que realmente ocurra, y ser lo más flexible posible, con reservas para invertir en nuevas oportunidades prometedoras, es probablemente la meta-estrategia correcta.
• Abrazar la fase centauro de la ingeniería de software, aunque sea breve. Viendo lo diferente que es mi trabajo hoy comparado con hace apenas seis meses, creo que la ingeniería de software va a verse enormemente impactada incluso por las ganancias a corto plazo que probablemente veremos. Eso no significa que no haya oportunidades, pero apoyarse en las herramientas y aprender todo lo posible sobre ser competente en este mundo nuevo y que cambia rápidamente va a ser clave. Sin embargo, en algún momento es posible que seguir como ingeniero de software tenga un valor esperado negativo comparado con invertir mi tiempo en otra cosa.
• Involucrarme más en la política. Si ocurre algo remotamente parecido al caso maximalista de la IA, el contrato social se adaptará muy rápido o se romperá de formas potencialmente muy violentas, y la calidad de nuestro liderazgo político probablemente será clave para determinar qué camino tomamos. Nuestro liderazgo actual en Estados Unidos, ejem, no inspira mucha confianza, con su enfoque persistente en industrias cada vez más obsoletas, y esto es todavía el modo fácil.
• Ayudar a mis hijos a navegar el nuevo mundo. Este es el punto con el que me siento menos cómodo. Mi hijo mayor se graduará de la universidad en 2030, pero mi hijo menor se graduará en 2035. Incluso a un ritmo de cambio más lento de lo proyectado, se graduará en un mundo muy diferente al de hoy. ¿Qué combinación de habilidades será útil? ¿Cómo deberían pensar sobre STEM cuando tantos trabajos de conocimiento podrían dejar de existir? ¿Cómo deberían cubrirse ante la posibilidad de que los LLMs se estanquen y no haya algo que los siga rápidamente para mantener el ritmo de cambio? Honestamente, no tengo buenas respuestas para ninguna de estas preguntas, y me preocupa profundamente.

Que no cunda el pánico

No hay certezas en la vida. Todo esto podría quedarse en nada y terminar siendo un aumento del 0.5% al 1% en la productividad global–nada despreciable, pero tampoco algo que cambie el mundo. Pero los humanos somos universalmente bastante malos pensando en exponenciales, y el crecimiento de la IA sigue esa curva. Se siente como que algo grande está pasando. Tiene sentido pensar en tu propio futuro y cómo podría verse en un mundo tan ajeno para nosotros hoy como nuestras vidas les parecerían a las personas de la era eduardiana tardía.

Y, como siempre, no olviden dónde está su toalla.