La renuncia de Jacob Coxon reabrió el debate sobre los riesgos de la inteligencia artificial avanzada. El investigador dejó Anthropic después de trabajar durante tres años en investigación de preentrenamiento entre esa empresa y OpenAI.
Coxon afirmó en X que ambas compañías avanzan demasiado rápido hacia sistemas capaces de mejorarse a sí mismos. También sostuvo que muchos desarrolladores temen en privado consecuencias extremas, aunque públicamente mantienen mensajes más moderados.
El investigador cuestiona la carrera por la superinteligencia
Su crítica central apunta a la competencia entre laboratorios. Según Coxon, Anthropic comprende mejor los riesgos, pero continúa acelerando porque teme que otra compañía llegue primero.
En OpenAI, señaló que parte del personal no habría interiorizado completamente las posibles consecuencias sociales. Sus comentarios se difundieron ampliamente y alimentaron nuevas discusiones sobre regulación y seguridad.
Evan Hubinger, responsable de investigación en alineación de Anthropic, respaldó públicamente varias preocupaciones. Calculó en más de 10 por ciento la probabilidad de que una futura superinteligencia cause una catástrofe existencial durante la próxima década.
Los modelos actuales no representan el mismo nivel de riesgo
Hubinger aclaró que considera bajo el peligro inmediato de los sistemas disponibles hoy. Su preocupación se concentra en modelos futuros capaces de participar en procesos rápidos de automejora.
Coxon también insistió en que sus advertencias no representan una estrategia de marketing. Aseguró haber escuchado temores similares dentro de compañías que desarrollan modelos avanzados.
Las advertencias coinciden con un debate creciente entre científicos, empresas y legisladores sobre cómo establecer límites sin detener beneficios potenciales de la tecnología.
Anthropic ha reconocido públicamente escenarios de riesgo extremo. Su director ejecutivo, Dario Amodei, ha advertido que el desarrollo acelerado acerca a la industria a desafíos de seguridad más difíciles.
La salida de Coxon añade presión a una discusión que ya superó los laboratorios. El debate incluye quién debe controlar el ritmo de desarrollo y qué garantías deberían exigirse antes de crear sistemas más autónomos.
