Anthropic, el laboratorio de inteligencia artificial que creó el modelo Claude, incluyó en su folleto de salida a Bolsa una advertencia sobre los riesgos que los sistemas de IA avanzados podrían representar para la humanidad.
La empresa reconoce que, si dichos sistemas fueran objeto de un uso indebido, replicados, convertidos en armas o operaran con un alto grado de autonomía, podrían plantear riesgos catastróficos o existenciales.
El folleto también señala riesgos éticos y de seguridad relacionados con la autonomía, la manipulación y la simulación de la psicología humana, y pide a las autoridades reformas regulatorias para controlar el sector.
Anthropic advierte que el rápido avance de la IA puede causar disrupción económica y social si no se desarrolla responsablemente, y destaca el alto consumo de electricidad y agua de los centros de datos y el impacto del cambio climático en sus costes operativos.
El fundador y consejero delegado, Dario Amodei, pidió a la industria una ralentización del desarrollo de modelos ante los riesgos que presenta la gran velocidad actual.
El folleto de salida a Bolsa recoge estos riesgos y la necesidad de una regulación que garantice la seguridad y la responsabilidad en el uso de la inteligencia artificial.
Fuente: elpais.com
