¿ Qué pensar de una tecnología que promete ayudarnos a resolver enormes problemas y cuyos propios creadores advierten que podría salirse de control? Con la inteligencia artificial, esa pregunta aparece cada vez que leemos las noticias. Entre anuncios de avances científicos y advertencias sobre el empleo, la seguridad y la concentración de poder, es comprensible que muchos ya no sepan si entusiasmarse o preocuparse.

En septiembre, Dario Amodei, director ejecutivo de Anthropic, la empresa creadora de Claude, pidió reducir el ritmo de avance de los modelos más potentes. Su planteamiento recibió el respaldo público de Sam Altman, director ejecutivo de OpenAI —la empresa detrás de ChatGPT— y de Elon Musk, impulsor de Grok.

Quienes protagonizan esta carrera reconocen que hace falta tiempo para comprender mejor los sistemas que están desarrollando y evaluar sus riesgos. Una de sus preocupaciones es que la IA participa cada vez más en el desarrollo de nuevas inteligencias artificiales. Según una medición interna de Anthropic, en agosto Claude ya encabezaba el 26 % de su trabajo de investigación y desarrollo de IA.

Eso significa que podía completar gran parte de determinadas tareas, a partir de una instrucción general, con personas supervisando el proceso. Esta participación abre una posibilidad que explica parte de la inquietud: que un sistema llegue a desarrollar por sí mismo un sucesor más capaz y que ese sucesor pueda hacer lo mismo con la siguiente generación. Es lo que se conoce como «automejora recursiva».

La preocupación es que se produzca un efecto de bola de nieve: que cada avance acelere el siguiente y nos deje cada vez menos tiempo para comprender y evaluar lo que estamos creando. Todavía no sabemos si se llegará a esa automatización completa ni cuándo, pero la posibilidad plantea una pregunta: ¿podrán las evaluaciones de seguridad acompañar ese ritmo? Mientras se debate cómo moderar el avance, la infraestructura sigue creciendo. Musk anunció nuevas ampliaciones de Colossus 2, con planes para superar el millón de GPU, los procesadores que realizan los enormes cálculos necesarios para desarrollar y utilizar estas tecnologías.

Su tamaño no determina, por sí solo, que un modelo vaya a escapar al control humano. Sí permite dimensionar los recursos que se están destinando a esta carrera. Ahí aparece una dificultad que atraviesa toda la discusión. Las empresas compiten por inversiones y mercados; los gobiernos, por capacidad tecnológica y poder de decisión. Donald Trump impulsa una estrategia para asegurar el liderazgo estadounidense en IA, vinculándolo con la economía y la seguridad nacional.

En China, Xi Jinping promueve la innovación y la cooperación internacional, mientras reclama que la IA permanezca bajo control humano y que su gobernanza se discuta entre países. La Unión Europea también busca fortalecer su capacidad tecnológica. La Comisión Europea plantea combinar inversiones en investigación e infraestructura, con reglas para proteger la seguridad y los derechos fundamentales.

Acordar límites exige negociar entre estas prioridades y con actores que temen perder posiciones frente a sus competidores. Por eso conviene escuchar las advertencias sin olvidar quién las formula. Los desarrolladores conocen aspectos de estos sistemas que el resto de la sociedad apenas puede observar, pero también tienen intereses comerciales. Necesitamos investigaciones independientes y reglas públicas que permitan examinar sus decisiones.

La seguridad de una tecnología con semejante alcance, no puede descansar exclusivamente en la confianza que nos inspire una empresa. Atribuirle a la IA el papel de villana deja fuera buena parte de esta historia. Hay riesgos tecnológicos y también decisiones sobre qué desarrollar, con qué controles y a qué costo.

Sus consecuencias dependerán de esas decisiones y de quiénes puedan participar en ellas. ¿Y qué podemos hacer nosotros? Prepararnos para intervenir en los cambios que ya alcanzan nuestro trabajo. Aprender lo suficiente para evaluar lo que nos ofrecen, reconocer las dependencias que asumimos y discutir qué funciones conviene delegar.

También para poder decir que una aplicación no resulta adecuada, aunque se presente como el próximo paso inevitable. La formación nos da argumentos y capacidad de elección. Para quienes tenemos responsabilidades profesionales, aprender a trabajar con IA incluye preguntarnos, qué mejora concreta buscamos y cómo afectará a las personas para las cuales trabajamos. Las grandes decisiones requieren respuestas de las empresas y los Estados. En nuestro ámbito, podemos empezar por tomar decisiones informadas y hacernos responsables de sus consecuencias.