Renuncia en Anthropic reabre debate sobre seguridad de la IA
La renuncia de Jacob Coxon reabrió el debate sobre los riesgos de la inteligencia artificial avanzada. El investigador dejó Anthropic después de trabajar durante tres años en investigación de preentrenamiento entre esa empresa y OpenAI.
Coxon afirmó en X que ambas compañías avanzan demasiado rápido hacia sistemas capaces de mejorarse a sí mismos. También sostuvo que muchos desarrolladores temen en privado consecuencias extremas, aunque públicamente mantienen mensajes más moderados.
Su crítica central apunta a la competencia entre laboratorios. Según Coxon, Anthropic comprende mejor los riesgos, pero continúa acelerando porque teme que otra compañía llegue primero.
En OpenAI, señaló que parte del personal no habría interiorizado completamente las posibles consecuencias sociales. Sus comentarios se difundieron ampliamente y alimentaron nuevas discusiones sobre regulación y seguridad.
Evan Hubinger, responsable de investigación en alineación de Anthropic, respaldó públicamente varias preocupaciones. Calculó en más de 10 por ciento la probabilidad de que una futura superinteligencia cause una catástrofe existencial durante la próxima década.
Hubinger aclaró que considera bajo el peligro inmediato de los sistemas disponibles hoy. Su preocupación se concentra en modelos futuros capaces de participar en procesos rápidos de automejora.
Coxon también insistió en que sus advertencias no representan una estrategia de marketing. Aseguró haber escuchado temores similares dentro de compañías que desarrollan modelos avanzados.
Las advertencias coinciden con un debate creciente entre científicos, empresas y legisladores sobre cómo establecer límites sin detener beneficios potenciales de la tecnología.
Anthropic ha reconocido públicamente escenarios de riesgo extremo. Su director ejecutivo, Dario Amodei, ha advertido que el desarrollo acelerado acerca a la industria a desafíos de seguridad más difíciles.
La salida de Coxon añade presión a una discusión que ya superó los laboratorios. El debate incluye quién debe controlar el ritmo de desarrollo y qué garantías deberían exigirse antes de crear sistemas más autónomos.
El Gobierno peruano, encabezado por Keiko Fujimori, comenzó a definir su representación diplomática con una…
Playboy y Las Vegas parecían hechos el uno para el otro. Lujo. Casinos. Fiestas. Celebridades.…
Las Vegas vuelve a tener futbol americano. Pero los Raiders que saltarán al campo esta…
La edición 2026 del festival Burning Man en el desierto de Nevada terminó con tres…
La llegada masiva de migrantes desde Marruecos a Ceuta podría convertirse en una investigación judicial…
Argentina elevó la presión sobre los proyectos petroleros alrededor de las islas Malvinas disputadas con…