Declaraciones de denunciantes del entorno del laboratorio estadounidense de IA Anthropic reavivaron los días 9 y 10 de septiembre de 2026 un debate nacional sobre los riesgos existenciales de los sistemas avanzados. En declaraciones públicas, empleados actuales y antiguos advirtieron que existe una probabilidad nada desdeñable de que la IA tenga consecuencias catastróficas en el plazo de una década. Sus declaraciones atrajeron de inmediato la atención política en Washington y fueron recogidas por los principales medios estadounidenses.
Evan Hubinger, investigador de Anthropic, estimó en valoraciones personales en más del diez por ciento la probabilidad de que se produzcan fallos graves. El investigador Jacob Coxon explicó su salida de la empresa aludiendo a márgenes de seguridad insuficientes en el desarrollo de «modelos de frontera» cada vez más potentes. Los medios documentaron ambas declaraciones; no hay verificaciones independientes de las probabilidades concretas. Anthropic no se pronunció ampliamente sobre las valoraciones individuales en los informes disponibles.
Estas declaraciones se producen en medio de un debate político ya en curso. En el centro están las propuestas para exigir pruebas más estrictas antes de liberar modelos especialmente potentes, obligaciones de notificación y auditoría, así como mecanismos de emergencia que podrían incluir órdenes de apagado. En el Congreso se debaten distintas versiones de estas normas de supervisión. Al mismo tiempo, la Casa Blanca alude a las consultas internacionales, más recientemente en el marco del G20, y a las conversaciones de cooperación en curso con grandes laboratorios de IA sobre estándares de pruebas y protocolos de seguridad. Por su parte, representantes de la industria y la investigación advierten contra una regulación excesiva y señalan la competencia internacional.
El trasfondo es el debate, vigente desde hace años, sobre los llamados riesgos existenciales derivados de sistemas cuyas capacidades y autonomía podrían aumentar rápidamente. En Estados Unidos, organismos de seguridad, el Pentágono y entidades vinculadas a la supervisión civil han reclamado reiteradamente obligaciones de evaluación y notificación para los desarrollos especialmente riesgosos. Al mismo tiempo, las empresas invierten miles de millones en la siguiente generación de modelos; el conflicto entre seguridad y presión por innovar marca el panorama político.
Está documentada la existencia de las nuevas declaraciones públicas y la amplitud de las reacciones políticas. Las afirmaciones sobre probabilidades y plazos deben entenderse como valoraciones personales. Sigue sin saberse si se aprobarán nuevas normas en Estados Unidos y en qué forma. Sin embargo, está claro que la reciente intensificación de las advertencias del entorno de Anthropic ha aumentado visiblemente en Washington la urgencia del debate regulatorio.
Redactor: Phillipe Schmidt-Araguin (artículo elaborado con asistencia de IA).