Anthropic advierte a inversores que su IA puede plantear «riesgos existenciales para la humanidad»

La compañía estadounidense dedica una parte importante del documento a los riesgos asociados al desarrollo de modelos de IA cada vez más avanzados, entre ellos «la posibilidad de que manipulen, chantajeen o desarrollen comportamientos impredecibles», de acuerdo con el periódico británico.

El folleto fue distribuido entre un pequeño grupo de posibles inversores ante la próxima salida a bolsa, prevista para este otoño en el Nasdaq de Nueva York. Los inversores de la empresa dirigida por Dario Amodei confían en que pueda alcanzar una valoración de más de 2 billones de dólares.

El documento también revela que Anthropic registró el año pasado unos ingresos de 4.600 millones de dólares (casi doce veces más que el ejercicio anterior), pero sufrió una pérdida operativa de más de 8.000 millones.

Los gastos operativos ascendieron a casi 13.000 millones de dólares, debido en buena medida al coste de los recursos informáticos necesarios para entrenar y ejecutar sus modelos. Además, la compañía prevé comprometer 518.000 millones de dólares en servicios de computación en la nube e infraestructura durante los próximos años.

Entre otros riesgos, el folleto reconoce la concentración de clientes como una vulnerabilidad, ya que cerca de una cuarta parte de sus ingresos de 2025 procedió de solo dos de ellos.

En medio del debate sobre las amenazas de la IA, Amodei defendió recientemente la necesidad de «ralentizar la frontera» del desarrollo de esta tecnología para reforzar su seguridad, propuesta respaldada por Sam Altman (OpenAI) y Elon Musk.


Comentarios

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *