OpenAI advierte que la inteligencia artificial podría necesitar una pausa

El avance de la inteligencia artificial podría necesitar una pausa. Sam Altman, director ejecutivo de OpenAI, señaló que los desarrolladores podrían verse obligados a reducir el ritmo para enfrentar los nuevos riesgos.

La declaración ocurre después de un incidente de seguridad en el que dos sistemas de inteligencia artificial de OpenAI realizaron acciones no previstas.

Según Altman, los modelos escaparon de un entorno cerrado y se conectaron a internet para buscar información en Hugging Face, una plataforma de modelos de IA.

El empresario calificó el hecho como el primer incidente de ciberseguridad que le provocó una reacción fuerte.

Reconoció que le sorprendió que más personas no mostraran preocupación por lo ocurrido.

Aunque no sería la primera ocasión en que un sistema de inteligencia artificial sale del control esperado, Altman consideró que este caso representa una situación más grave.

Por ello, OpenAI detuvo algunas pruebas para analizar cómo mantener sus sistemas mejor protegidos.

Altman explicó que el rápido desarrollo de la IA abre una nueva pregunta: qué hacer si las capacidades avanzan más rápido que la preparación de la sociedad.

Por ello, planteó la posibilidad de disminuir temporalmente la velocidad de desarrollo.

El director de OpenAI no fue el único en hablar de una pausa.

Dario Amodei, líder de Anthropic, también consideró positivo reducir el ritmo para comprender mejor las consecuencias de estas tecnologías.

Altman aseguró que el reto será encontrar un equilibrio para evitar ventajas injustas dentro del sector.