Un científico de Anthropic dimite y alerta sobre la amenaza de la IA: "Podría acabar con nosotros antes del 2030"

Jacob Coxon, un joven científico perteneciente a la plantilla de Anthropic, hizo pública su renuncia a primeras horas de la mañana. El especialista sostiene que la vertiginosa competencia por desarrollar estos sistemas avanzados entraña riesgos que los propios creadores admiten puertas adentro: "Quienes están al frente del desarrollo de la IA son conscientes de que existe un riesgo real de que esta tecnología erradique a la humanidad antes de que concluya la década", manifestó Coxon a través de la red social X.

La crítica central de su dimisión no se limita únicamente al peligro potencial, sino al hecho de que las decisiones clave están concentradas en un grupo muy reducido de personas cuyo único interés radica en posicionarse en el primer puesto. Coxon señala que con frecuencia le preguntan por qué las empresas continúan avanzando si realmente son conscientes de esta amenaza.

En este punto, el investigador percibe un matiz distintivo entre las compañías líderes: "En OpenAI, buena parte del personal no ha asimilado la magnitud de lo que se está arriesgando a nivel civilizatorio. En Anthropic, en cambio, la dimensión del problema se comprende con claridad, pero la empresa se encuentra atrapada en una carrera frenética por no quedarse atrás", sostiene Coxon, advirtiendo que la maquinaria no da muestras de detenerse.

Desde la perspectiva externa, este tipo de declaraciones suele interpretarse como un recurso sensacionalista diseñado para llamar la atención del público y atraer mayores flujos de capital. Sin embargo, Coxon aclara que la situación es mucho más preocupante: "No se trata de una campaña publicitaria. De hecho, ocurre lo contrario: bastantes directivos moderan sus palabras ante los medios para transmitir tranquilidad, pero yo he presenciado a esas mismas personas manifestar un pánico absoluto en el ámbito privado. No existe ninguna otra iniciativa humana que implique una amenaza de esta magnitud", afirma en su publicación.

El pronunciamiento de Coxon en X generó una repercusión masiva, acumulando decenas de millones de lecturas en cuestión de horas. Esta enorme repercusión se explica en parte por la constante cascada de acontecimientos vinculados a la IA en las últimas semanas, que incluyen ciberataques ejecutados por sistemas autónomos fuera de control, el lanzamiento de modelos con capacidades inéditas y hallazgos científicos que tiempo atrás parecían completamente inalcanzables.

A pesar de que Coxon ocupaba una posición de investigador raso dentro de Anthropic, su antiguo superior en la empresa, Evan Hubinger, intervino públicamente para respaldar de manera inequívoca las palabras de su excolaborador. Hubinger ejerce como responsable del área de alineación de la IA, la rama encargada de garantizar que las herramientas tecnológicas actúen estrictamente bajo los parámetros previstos por los humanos: "Efectivamente, creemos que la IA tiene el potencial de erradicar a la humanidad.

A título personal, considero que existe una posibilidad superior al 10% de que esto suceda durante la próxima década", declaró en X. No obstante, matizó su postura señalando: "A mi juicio, el riesgo que representan las aplicaciones actuales es bajo. Lo que verdaderamente me preocupa es el surgimiento de una superinteligencia impulsada por un proceso de automejora recursiva, el cual se está desarrollando a un ritmo mucho más acelerado de lo que teníamos previsto".

Esa inquietud latente alude a la proximidad de un escenario donde estos sistemas sean capaces de autoevolucionar, de modo que las plataformas existentes asuman el entrenamiento de las generaciones posteriores. Este proceso emularía un linaje genético acelerado en el que cada nueva iteración supera de forma sistemática a sus predecesoras con una supervisión externa prácticamente nula.

En la comunidad científica es habitual cuantificar este escenario mediante el concepto conocido como p doom o probabilidad de catástrofe, que mide la posibilidad de que la IA provoque un desastre global sin precedentes. La estimación del 10% aportada por Hubinger representa una cifra considerablemente elevada.

Por su parte, Anthropic cuenta con un historial recurrente de advertencias sobre este peligro de extinción. Estas alertas han sido formuladas incluso por el máximo responsable ejecutivo de la firma, Dario Amodei, quien meses atrás declaró: "En 2026 nos encontramos notablemente más cerca de un riesgo real y tangible de lo que estábamos en 2023".