Jacob Coxon, quien trabajó en OpenAI antes de incorporarse a Anthropic y recientemente abandonó la compañía, afirmó a la BBC que los empleados de la empresa sienten "miedo genuino" ante el ritmo acelerado de los avances en inteligencia artificial.
Según Coxon, la presión por lanzar modelos cada vez más potentes genera una sensación de estar atrapados en una carrera que podría poner en riesgo a la humanidad, llegando a hablar de la posibilidad de una extinción en los próximos años.
El antiguo jefe de Coxon, Dario Amodei, también ha pedido frenar el desarrollo y establecer regulaciones internacionales, posición que comparten Sam Altman de OpenAI y Elon Musk de xAI. Ambos abogan por una supervisión independiente del sector.
Sin embargo, voces como la de Clement Delangue, CEO de Hugging Face, y Jensen Huang, de Nvidia, califican esas advertencias de sensacionalistas, argumentando que la IA sigue siendo una herramienta que puede beneficiar a la sociedad.
Anthropic, por su parte, asegura que sus modelos incorporan medidas de seguridad avanzadas y que continúa publicando marcos de mitigación de riesgos para evitar incidentes de "desalineación".
Fuente: bbc.com
Crédito de imagen: Ashish Vaishnav/SOPA Images/LightRocket via Getty Images
