Demis Hassabis pidió reglas para la IA antes de que sea tarde — esto es lo que te toca a ti

Demis Hassabis no es alguien improvisando opiniones sobre IA en redes sociales. Es el cofundador y CEO de Google DeepMind, ganador del premio Nobel de Química 2024 por AlphaFold, y una de las pocas personas en el planeta que construye los modelos más grandes que existen y, al mismo tiempo, participa en las conversaciones de gobierno sobre cómo vigilarlos. Hace poco publicó un texto llamado "A Framework for Frontier AI and the Dawning of a New Age", y ahí dice, sin rodeos, que la Inteligencia Artificial General (AGI) está a "pocos años" de distancia.

En corto: Hassabis dice que la AGI puede pesar tanto como el descubrimiento del fuego o la electricidad, que hace falta con urgencia un organismo internacional que certifique y vigile a los laboratorios que construyen los modelos de frontera, y que hoy no estamos avanzando con el cuidado que la situación exige. Nada de esto obliga hoy a un negocio pequeño a hacer algo distinto. Pero si entiendes qué está pidiendo, vas a entender exactamente qué preguntas deberías hacerte tú, en una escala mucho más chica, sobre la IA que ya usas o estás por instalar en tu negocio.

Quién es Demis Hassabis y por qué esto pesa

Hassabis cofundó DeepMind en 2010, Google la compró en 2014, y hoy la dirige como CEO de Google DeepMind. En 2024 ganó el Nobel de Química junto a John Jumper por AlphaFold, el sistema que resolvió el problema de predicción de estructura de proteínas que llevaba décadas sin respuesta. No es un divulgador hablando desde afuera: es la persona que literalmente decide cuándo sale el próximo modelo de uno de los tres o cuatro laboratorios que están definiendo hacia dónde va esta tecnología. Cuando alguien en esa posición dice "la AGI está a pocos años", conviene prestarle atención distinta a la que le prestarías a un hilo viral.

Lo que dice el texto, sin adornos

Hassabis compara la AGI con el descubrimiento del fuego o la electricidad, no con internet o el celular — dice que su impacto podría ser diez veces el de la Revolución Industrial, a diez veces la velocidad. Habla de acelerar el descubrimiento de medicamentos, energías limpias y materiales nuevos, hasta llegar a un punto donde los recursos dejen de ser el límite del progreso humano. Pero enseguida frena el entusiasmo: dice que ya hay riesgos reales de ciberseguridad, que pueden aparecer riesgos nucleares y biológicos, y que vamos a necesitar formas serias de mantener el control de sistemas cada vez más autónomos, capaces de mejorarse a sí mismos.

Su diagnóstico más duro es sobre el momento actual: estamos, dice, en una carrera comercial y geopolítica tan intensa que el avance en la frontera le está ganando la partida a nuestra comprensión de la tecnología. Ni los propios expertos se ponen de acuerdo entre ellos. Por eso pide algo que suena poco de moda en su industria: optimismo cauteloso, no optimismo ciego.

Hemos encontrado, básicamente, una forma de hacer pensar a la arena. Es un milagro.

— Demis Hassabis, cofundador y CEO de Google DeepMind

Su propuesta: un organismo que certifique quién es realmente "de frontera"

La idea central del texto es crear un Standards Body — un organismo modelado en algo como FINRA, la entidad que vigila a la industria financiera en Estados Unidos: una asociación con supervisión federal, financiada sobre todo por la propia industria, con un consejo que incluya expertos técnicos independientes y representantes del código abierto. Su trabajo sería definir los benchmarks que determinan cuándo un modelo califica como "Frontier-class", y a las empresas que los construyen las llamaría "Frontier Labs".

A esos laboratorios se les pediría adoptar prácticas concretas:

• Publicar model cards con el detalle técnico real del modelo
• Mantener ciberseguridad interna fuerte y vetar al personal clave
• Destinar recursos reales a investigación de seguridad, no solo a producto
• Compartir el modelo con el organismo hasta 30 días antes del lanzamiento
• Marcar con watermark el contenido generado por IA
• Generar el razonamiento del modelo en tokens legibles por humanos, para poder revisar por qué respondió lo que respondió

Al inicio, todo esto sería voluntario. Con el tiempo, si el sistema de evaluación demuestra que funciona, Hassabis propone que pasar esa revisión se vuelva un requisito para vender un modelo de frontera en el mercado de Estados Unidos — y que ese primer paso empuje a un consenso internacional, porque esta tecnología no se queda dentro de una sola frontera.

Lo que de verdad te toca a ti, con un negocio de 5, de 20 o de 200 personas

Este organismo, si llega a existir, va a vigilar a Google DeepMind, OpenAI, Anthropic y un puñado más de laboratorios — no al agente que contesta WhatsApp en tu negocio. Ninguna ley te va a tocar directo por esto. Pero fíjate en las preguntas de fondo que Hassabis dice que un modelo de frontera debería poder responder, porque son exactamente las mismas tres preguntas que le tienes que hacer a cualquiera que te instale un agente de IA, sin importar la escala:

• ¿Existe algo parecido a un model card de tu agente? Es decir, ¿sabes con qué reglas responde, qué información usa y qué tiene prohibido hacer?
• ¿Puedes revisar por qué respondió lo que respondió? Un razonamiento que se pueda leer, no una caja negra que solo escupe texto.
• ¿Quién audita que no se salga de los límites? Una persona, un proceso, un registro — no "confía porque suena bien".

Mi punto de vista

Te lo digo directo: no tengo forma de saber si la AGI llega en dos años, en diez, o si el término termina siendo más humo que realidad — ni Hassabis lo sabe con certeza, y lo admite en su propio texto. Lo que sí veo clarísimo, en la realidad de los negocios con los que trabajo todos los días, es que la pregunta de fondo que está planteando —¿quién audita a la IA y con qué reglas trabaja?— ya nos toca hoy, en una escala muchísimo más chica. Cuando instalas un colaborador digital que contesta WhatsApp o levanta el teléfono por tu negocio, esa misma pregunta aplica.

En IA & Negocios construimos cada colaborador digital dentro de un organigrama híbrido, con memoria propia del negocio y reglas escritas desde el primer día. No porque copiemos lo que propone un laboratorio del tamaño de DeepMind, sino porque la lógica de fondo es la misma sin importar el tamaño de la empresa: la IA que habla con tus clientes tiene que poder rendir cuentas, igual que cualquier otra persona que trabaja contigo.

Si ya tienes un agente de IA trabajando con tus clientes y no sabes contestar esas tres preguntas, ese es el primer diagnóstico que hay que hacer. En IA & Negocios lo revisamos contigo, o armamos uno nuevo dentro de un centro de mando inteligente, con las reglas claras desde el día uno.

Preguntas frecuentes

¿Quién es Demis Hassabis?

Es el cofundador y CEO de Google DeepMind, y ganador del premio Nobel de Química 2024 junto a John Jumper por AlphaFold. Es una de las voces con más peso técnico y de negocio dentro de la conversación mundial sobre gobernanza de inteligencia artificial.

¿Qué es la AGI o Inteligencia Artificial General?

Es un sistema que tendría todas las capacidades cognitivas del cerebro humano, no una IA especializada en una sola tarea como las que existen hoy. Hassabis calcula que está a "pocos años" de distancia.

¿Qué es el "Frontier AI Standards Body" que propone Hassabis?

Es un organismo, modelado en entidades como FINRA en Estados Unidos, que certificaría qué modelos califican como "de frontera" según benchmarks técnicos, y exigiría buenas prácticas de seguridad, transparencia y auditoría a los laboratorios que los construyen.

¿Esto aplica a los agentes de IA que usa una pyme?

No de forma directa: la propuesta apunta a los laboratorios que construyen los modelos más grandes del planeta. Pero las mismas preguntas de fondo —transparencia, trazabilidad del razonamiento, límites auditables— sí aplican a cualquier IA que trabaje con tus clientes, sin importar la escala del negocio.