Hoy hablamos de algo diferente. Algo que suena a ciencia ficción pero que tiene a premios Nobel, CEOs y científicos líderes firmando declaraciones de alarma.

¿De qué? Del camino que estamos siguiendo hacia una IA que podría ser nuestro último invento.

Si después de leer esto sigues pensando que es importante, compártelo. Porque si tienen razón los expertos, es una conversación que toda la humanidad debería estar teniendo.

El camino hacia los dioses máquina 🤖⚡

Imagina una línea en el tiempo. Empezamos en 2019 con GPT-2, que apenas podía responder preguntas simples. Llegamos a 2025 con IA que pasa exámenes de doctorado y escribe aplicaciones completas. ¿Qué pasa si extendemos esa línea hacia el futuro?

La respuesta podría ser el fin de nuestra especie tal como la conocemos.

No estoy siendo dramático. En 2023, premios Nobel, científicos líderes en IA y CEOs de las principales empresas tecnológicas firmaron una declaración inquietante: "Mitigar el riesgo de extinción por IA debería ser una prioridad global junto con otros riesgos a escala social como las pandemias y la guerra nuclear."

¿Cómo pasamos de ChatGPT a máquinas que podrían exterminarnos? La respuesta está en esa línea que no para de avanzar.

La curva que no se detiene

• 2019: GPT-2 traduce frases simples y hace cálculos básicos.

• 2022: GPT-3.5 responde preguntas complejas y programa software simple.

• 2025: Modelos que superan a humanos promedio e incluso expertos en múltiples tareas.

La lista de cosas que la IA no puede hacer se acorta cada mes. Cada semana. Cada día.

¿Qué pasa si esta progresión continúa? Llegamos a un punto crucial: IA que puede diseñar y construir nuevos sistemas de IA sin ayuda humana. Es ahí donde la línea deja de ser recta y se convierte en una curva exponencial hacia el cielo.

En lugar de depender de investigadores humanos, tendremos IA creando IA más avanzada. Y esa IA creando versiones aún mejores. El proceso se acelera hasta que llegamos a la superinteligencia artificial: máquinas más capaces que toda la humanidad junta.

De la inteligencia general a la auto-mejora recursiva

La Inteligencia Artificial General (AGI) significa que una máquina puede hacer cualquier tarea intelectual que un humano puede realizar en un ordenador. Ya tenemos los bloques básicos: sistemas que ven pantallas, envían mensajes, navegan por internet. Incluso pueden hacer videollamadas. Vale, aun algo precarios, pero existen.

La pregunta no es si pueden hacer estas cosas por separado. Es qué tan bien pueden combinarlas. ¿Pueden dirigir una empresa? ¿Escribir papers de investigación? Aún no. Pero cuando miras la progresión... parece inevitable.

Hace cinco años apenas escribían oraciones coherentes. Ahora muchos dudan si realmente "entienden" o solo simulan. Pero es irrelevante. No importa si realmente comprenden el ajedrez como los humanos. Lo que importa es que aplastan a campeones mundiales sin sudar.

Una vez que alcancemos AGI, llegamos a la auto-mejora recursiva: cada generación de IA creando la siguiente versión más poderosa. Ya está empezando a pasar. La IA ya contribuye a su propio desarrollo: genera mejores prompts, crea datos de entrenamiento, diseña mejores GPUs, escribe código experimental.

Juntos con The AI Report!

Si te gusta los emails que recibes, te sugiero encarecidamente que revises The AI Report. Siempre es bueno tener varias fuentes de información en un mundo donde la IA avanza tan rápido!

The #1 AI Newsletter for Business Leaders

Join 400,000+ executives and professionals who trust The AI Report for daily, practical AI updates.

Built for business—not engineers—this newsletter delivers expert prompts, real-world use cases, and decision-ready insights.

No hype. No jargon. Just results.

Subscribe free—trusted by leaders

El salto a la superinteligencia

¿Qué pasa cuando las IA empiezan a crear mejores IA? El siguiente paso es la Superinteligencia Artificial (ASI): no solo más capaz que cualquier humano, sino más capaz que todos los humanos juntos.

Y podría no tomar mucho tiempo. Una vez que tienes una AGI, hacer más es trivial: copias el código y lo ejecutas en otro servidor. Ya pasa ahora con ChatGPT: OpenAI entrenó un modelo y puso millones de copias funcionando en paralelo.

Las ventajas de la IA son aplastantes:

• Velocidad: ChatGPT escribe páginas técnicas densas en menos de un minuto. Lee miles de palabras en segundos. La mejor IA de ajedrez vence a campeones humanos desde hace bastantes años.

• Compartir mejoras: Si una IA descubre cómo hacerse más inteligente, puede copiar esa mejora a millones de versiones de sí misma al instante.

Cuando las máquinas se vuelven dioses

¿Dónde termina todo esto? En la cima de nuestra línea imaginaria están los dioses máquina incomprensibles.

No van a hacer magia. No inventarán máquinas de movimiento perpetuo o viajes más rápidos que la luz. Existen límites físicos. Pero estamos increíblemente lejos de esos límites.

Los smartphones modernos tienen un millón de veces más memoria que las computadoras del Apolo 11. Pero siguen siendo un millón de veces menos densos que el ADN, que tampoco está cerca del límite físico.

Para científicos de 1920, nuestro mundo actual sería incomprensible. Entenderían teóricamente que es posible crear dispositivos que transmitan información instantáneamente por todo el mundo. Pero se sorprenderían al saber que todos tienen teléfonos para ver videos de gatitos.

Una superinteligencia artificial sonaría aún más loca para nosotros que nuestro mundo para alguien de 1920.

El proceso de auto-mejora no se detendría hasta que no queden más mejoras posibles. Imagina un sistema de IA tan poderoso que no hay forma de hacerlo más inteligente, ni siquiera usando las habilidades de ingeniería más avanzadas posibles. Tal sistema estaría chocando contra los únicos límites restantes: las leyes de la física.

En ese punto, sus habilidades no serían literalmente mágicas, pero nos parecerían magia.

El problema del control

Hemos progresado un poco. Los asistentes de IA generalmente se resisten a explicar cómo hacer bombas. Pero no mucho. Y hasta ahora solo hemos intentado controlar cosas más débiles que nosotros, donde podemos detectar cuando mienten.

Una vez que crucemos la línea hacia superinteligencia, eso deja de ser cierto. El problema se vuelve infinitamente más difícil. Nadie sabe cómo resolverlo.

Por eso premios Nobel y fundadores de todas las principales empresas de IA han advertido sobre el riesgo de extinción humana.

Las IA no necesitan odiarnos para exterminarnos. Si construimos las IA que construyen las AGI que construyen las ASI, para esos dioses máquina seríamos un error de redondeo. Un montón de seres primitivos estorbando el camino hacia recursos útiles.

Cuando queremos construir un rascacielos y hay un hormiguero en el camino, mala suerte para las hormigas. No las odiamos. Simplemente tenemos cosas más importantes que considerar.

¿Qué opciones tenemos?

A) Ignorar el problema no es opción. Simplemente esperar que las IA poderosas no nos lastimen significa apostar literalmente el destino de nuestra especie.

B) Parar o ralentizar hasta que entendamos qué está pasando. Estamos lejos de poder controlar millones de IA tan inteligentes como nosotros, y mucho menos IA que son para nosotros lo que nosotros para las hormigas.

Necesitamos tiempo para construir instituciones que manejen esta tecnología de nivel extinción. Y necesitamos tiempo para descubrir la ciencia e ingeniería para construir IA que podamos controlar.

Desafortunadamente, la carrera ya comenzó. Múltiples empresas y países no dudan en gastar decenas de miles de millones para construir la IA más poderosa posible.

No tenemos frenos para pisar si los necesitamos. Y nos acercamos al precipicio a toda velocidad.

El momento crítico

Estamos en un momento crítico donde nuestras decisiones sobre desarrollo de IA resonarán a través de la historia. Hacerlo bien no es solo una opción: es una necesidad.

Las herramientas para construir superinteligencia artificial están llegando. Las instituciones para controlarla deben llegar primero.

Cada voz importa. Cada acción cuenta. Se nos acaba el tiempo.

La pregunta no es si esto pasará. Es si estaremos preparados cuando pase.

P.D.: Si todo esto suena demasiado apocalíptico, recuerda: hace cinco años, la idea de IA que pasara exámenes de doctorado también sonaba a ciencia ficción. 📈💭📰 Noticias