¿Quién pone los límites a la inteligencia artificial?

Durante años hemos debatido sobre lo que la IA puede hacer: modelos más grandes, mejores resultados, más autonomía.

Pero hay una pregunta mucho más incómoda que rara vez abordamos: ¿quién decide qué no debe hacer nunca?

Hace unos días, Anthropic publicó la Constitución de Claude, un documento inusual en el mundo tecnológico.

No es un paper técnico ni una política de uso.

Es una declaración de principios.

Una especie de carta magna para una inteligencia artificial.

En este episodio usamos ese texto como punto de partida para analizar y comparar cuatro formas muy distintas de poner límites a la IA:

• La ética “desde dentro” de Anthropic

• El enfoque pragmático de OpenAI

• La gestión de riesgo corporativa de Google

• La regulación legal de la Unión Europea

No es un debate técnico.

Es un debate político, ético y profundamente humano.

Porque a medida que la IA gane autonomía —y la está ganando— la pregunta clave no será solo qué puede hacer, sino qué considera justificable hacer cuando nadie la supervisa en tiempo real.

Si alguna vez te has preguntado quién escribe las reglas del mundo que viene, este episodio es para ti.

Esta semana en Código Abierto abrimos la puerta a una conversación distinta: menos tecnología como protagonista y más alma humana como variable crítica.

Nos visita Virginia Cabrera, ingeniera de telecomunicaciones y autora del concepto “transformación digital tecnoemocional”: una forma de explicar por qué proyectos con herramientas punteras, equipos brillantes y presupuestos enormes pueden terminar en la basura… si no se gestionan bien las emociones.

Hablamos de:

• Por qué “personas, procesos y tecnología” se queda corto

• Miedo, valor percibido y sabotaje silencioso (sí, también en CRMs)

• Teletrabajo y el mito de que es solo “trabajar desde casa”

• Empatía digital: cómo poner en lo digital lo que lo digital te roba

• El gran debe del trabajo moderno: la asincronía

• Y una idea que se queda contigo: la relación emocional con la IA generativa será fuerte… y somos malísimos poniendo límites

Cerramos con un marco muy accionable para cultivar mentalidad digital: ayudar mejor a tu comunidad, aprender a surfear nuevas reglas y amistar con las capacidades que ya tienes delante.

Virginia lo dice claro: o ponemos foco en lo humano… o lo digital nos hace menos eficientes y bastante más infelices.

En el primer episodio del año en Código Abierto miramos dónde se están librando de verdad las batallas de la inteligencia artificial en 2026.

Ya no va solo de entrenar modelos cada vez más grandes. El foco se ha desplazado a la inferencia: latencia, coste, fiabilidad y capacidad de escalar sin que todo salte por los aires cuando la IA entra en producción real.

Hablamos de por qué Nvidia ha movido ficha con Groq en una “no-compra” que se parece mucho a una adquisición estratégica, qué implica este tipo de acuerdos para el mercado y hasta qué punto refuerzan un cuasi-monopolio en el hardware de IA.

También analizamos la compra de Manus por parte de Meta: ¿apuesta por agentes, fichaje de talento o simple necesidad de “estar en la ola”?

Durante la conversación surgen otros temas clave:

• La inferencia como cuello de botella real para la adopción empresarial.
• Las caídas, latencias y “petardazos” que ya estamos notando en el uso diario.
• La parálisis por análisis en las empresas… y el riesgo de los negacionistas de la IA.
• El futuro de los asistentes por voz, los dispositivos sin pantalla y los límites reales de estas interfaces.
• La eficiencia creciente de plataformas como OpenAI y lo que implica para el modelo de negocio del sector.

Un episodio para arrancar el año entendiendo por qué las fichas que se están moviendo parecen pequeñas… pero no lo son.

🎙️ Con Álex, Ignacio y Nelson.