Los creadores de IA quieren acordar una desaceleración de la carrera

Los principales desarrolladores de IA, que hasta hace poco competían por crear los sistemas más potentes, piden ahora una ralentización conjunta del progreso.

El 12 de septiembre, el director ejecutivo de Anthropic, Dario Amodei, instó al sector a ralentizar el desarrollo de modelos de IA de vanguardia y a establecer normas de seguridad comunes. Su iniciativa contó rápidamente con el apoyo del director ejecutivo de OpenAI, Sam Altman; el director ejecutivo de Google DeepMind, Demis Hassabis; y Elon Musk.

Aún no se trata de un acuerdo formal. Amodei propone, en primer lugar, conceder a expertos independientes acceso continuo para evaluar la seguridad de los modelos; a continuación, desarrollar estándares comunes para el sector; y, finalmente, establecer una coordinación internacional. 

Anthropic y OpenAI ya han expresado su disposición a conceder a los evaluadores externos un acceso más amplio a sus sistemas.

¿Por qué intentan los competidores llegar a un acuerdo?

El problema es que todas las empresas tienen un incentivo para seguir avanzando a toda velocidad. Si un desarrollador reduce el ritmo mientras otros siguen lanzando modelos más potentes, corre el riesgo de perder cuota de mercado.

Por ello, Amodei propone cambiar la propia lógica de la competencia: la seguridad debería convertirse en una norma compartida, en lugar de una decisión individual de cada empresa. En su opinión, la IA avanza tan rápidamente que los sistemas de seguridad tienen dificultades para seguir el ritmo de las crecientes capacidades de estos modelos.

Los recientes incidentes relacionados con agentes autónomos de IA han aumentado la presión, incluido un caso en el que se utilizó un sistema de OpenAI para atacar la infraestructura de Hugging Face. Amodei advierte de que nuevos avances en este tipo de sistemas sin las garantías adecuadas podrían acarrear consecuencias mucho más graves.

China importa más que los riesgos de la IA

La declaración de los desarrolladores también ha desencadenado una fuerte reacción política en Washington.

Algunos legisladores reclaman restricciones estrictas, mientras que Donald Trump y los representantes republicanos se oponen firmemente a ralentizar deliberadamente el desarrollo de la IA. En su opinión, detener la investigación situaría inmediatamente a EE. UU. por detrás de China en la carrera por el dominio tecnológico.

Entonces, ¿buenas intenciones o frío cálculo?

Esta es la principal pregunta que se plantea la opinión pública.

Tanto Anthropic como OpenAI compiten por la cuota de mercado, por lo que los críticos sospechan que unas normas de seguridad más estrictas también podrían beneficiar a los actuales líderes del sector, al dificultar que los competidores más pequeños les alcancen. Al mismo tiempo, la preocupación genuina por los crecientes riesgos de la IA también resulta muy plausible y racional.

Independientemente de sus motivos, los principales actores del sector de la IA se encuentran ahora en una posición inusual: están tratando de ponerse de acuerdo sobre la rapidez con la que se les debería permitir avanzar.

Aún no está claro si este llamamiento se traducirá en un acuerdo real. Pero el hecho de que los mayores competidores del sector estén debatiendo públicamente la necesidad de ralentizar el ritmo de la carrera demuestra hasta qué punto han cambiado las actitudes hacia los riesgos de la IA.