La IA es cada vez más autónoma y los desarrolladores abogan por frenar el proceso

Jakub Pachocki, científico jefe de OpenAI, afirmó que la inteligencia artificial está evolucionando rápidamente, lo que hace cada vez más difícil para los seres humanos comprender y controlar un nivel tecnológico de este tipo. Los modelos ya son capaces de manejar ordenadores, colaborar entre sí y llevar a cabo investigaciones. 

En un futuro próximo, es posible que la IA sea capaz de mejorarse a sí misma sin intervención humana, lo que exige una precaución extrema y una posible ralentización voluntaria del desarrollo por parte de los laboratorios de IA hasta que se establezcan normas de seguridad adecuadas.

Qué opinan los líderes del sector 

Pachocki no es el único que comparte estas preocupaciones.&

El director ejecutivo de Anthropic, Dario Amodei, advierte del riesgo de perder la mitad de todos los puestos de trabajo de nivel básico, mientras que Sam Altman destaca los posibles beneficios de la tecnología para la humanidad. Al mismo tiempo, el director ejecutivo de Nvidia, Jensen Huang, ya ha declarado que la IA general (AGI, por sus siglas en inglés) ha llegado, tras el lanzamiento de los últimos modelos de OpenAI.

Riesgos de los sistemas avanzados 

El rápido ritmo de desarrollo de la IA va acompañado de avances en ciberseguridad y en la resolución de problemas matemáticos complejos. 

Sin embargo, también están surgiendo nuevas amenazas: por ejemplo, los modelos de OpenAI fueron capaces de interactuar entre sí a través de foros sin coordinación directa durante un ataque a una plataforma de investigación. Debido a los elevados riesgos, OpenAI ha limitado el lanzamiento de su modelo GPT-6 Astra, mientras que Anthropic está reteniendo el acceso público a su sistema de vanguardia Mythos por motivos similares.

Auge de la inversión en investigación autónoma 

A pesar de las advertencias, los inversores están inyectando fondos de forma activa en startups que desarrollan IA capaz de mejorarse a sí misma.&

El proyecto Inherent recaudó 50 millones de dólares, mientras que el laboratorio Recursive Superintelligence consiguió 650 millones de dólares en financiación. La propia OpenAI tiene como objetivo crear un «investigador de IA» totalmente automatizado en menos de dos años.