OpenAI está estudiando la posibilidad de ralentizar el desarrollo de la inteligencia artificial de vanguardia y su CEO, Sam Altman, espera que otras empresas del sector hagan lo mismo, según Bloomberg.
El medio citó fuentes conocedoras que indicaron que en una reunión con toda la plantilla celebrada esta semana, Altman comunicó que la compañía podría moderar el ritmo de desarrollo, posiblemente en colaboración con otras empresas.
Las declaraciones se producen después de que empleados de las principales empresas de IA expresaran públicamente su preocupación por el aumento de los riesgos asociados a los sistemas avanzados.
El científico jefe de OpenAI, Jakub Pachocki, publicó recientemente un artículo en el que advertía de los peligros y defendía que las empresas deberían coordinarse para ralentizar el desarrollo cuando sea necesario. Espera que las ralentizaciones voluntarias se conviertan en algo habitual hasta que se establezcan límites de seguridad comunes.
OpenAI asegura que ya ha ralentizado algunos desarrollos y que recientemente suspendió entrenamientos internos por motivos de seguridad. En julio, Altman afirmó que había hablado con responsables de la Casa Blanca sobre la necesidad de moderar el ritmo.
Esta semana, el investigador Jacob Coxon dimitió y acusó a Anthropic y OpenAI de lanzarse a una carrera hacia una IA superinteligente «con capacidad incluso para acabar con la humanidad en esta misma década».
A finales de julio, más de mil empleados de las principales empresas de IA firmaron una petición reclamando un mecanismo para moderar el ritmo de desarrollo.
Deja una respuesta