Durante la edición anual de Dreamforce, Sam Altman reiteró que el temor público a la IA está justificado y que la comunidad debe ganarse la confianza mediante una gestión responsable. Altman advirtió que la IA pronto funcionará de forma continua en entornos laborales, lo que aumenta la complejidad de su control.
Dario Amodei, cofundador de Anthropic, volvió a pedir una ralentización del avance de los modelos, señalando que el riesgo es sustancial y que el sector debe liderar con el ejemplo. Jensen Huang, CEO de Nvidia, se mostró más escéptico respecto a la necesidad de nuevas regulaciones, insistiendo en que velocidad y seguridad pueden coexistir siempre que las empresas controlen sus lanzamientos.
Mark Zuckerberg, en un mensaje publicado en X, subrayó que la alineación de los modelos con la voluntad humana es esencial y que Meta ya había retrasado el lanzamiento de su modelo Muse para priorizar la seguridad. Elon Musk, por su parte, respaldó la postura de Amodei con un breve “cool”.
Los participantes coincidieron en que la seguridad es una prioridad de ingeniería y que cada laboratorio debe actuar con cautela, sin esperar acuerdos sectoriales.
Fuente: elpais.com
