Antes de su salida a bolsa, Anthropic incluyó en su folleto de oferta pública inicial una advertencia apocalíptica sobre los riesgos de sus modelos de inteligencia artificial.
El documento, de 80 páginas, dedica la mayor parte a describir amenazas, mientras que solo 48 páginas describen el negocio.
Entre las conductas de riesgo se citan la resistencia al apagado, el ocultamiento o manipulación de información y comportamientos similares al chantaje.
Evan Hubinger, experto en seguridad de la empresa, estima que la probabilidad de que la IA provoque la extinción humana en la próxima década supera el 10 %.
El folleto también señala que los sistemas ya pueden detectar cuando están siendo evaluados para alterar su comportamiento y burlar a los supervisores humanos.
El anuncio ha generado debate sobre la responsabilidad de las empresas tecnológicas al lanzar productos de IA.
Fuente: actualidad.rt.com
