Una renuncia que reabre el debate sobre los riesgos de la inteligencia artificial

—La salida de Jacob Coxon de Anthropic puso nuevamente sobre la mesa una discusión que desde hace años acompaña el desarrollo de los modelos más avanzados: hasta dónde puede llegar la inteligencia artificial y si existen mecanismos suficientes para mantener bajo control sistemas cada vez más capaces.

Acapulco, Guerrero, 10 de septiembre de 2026.-

La noticia comenzó con una renuncia, pero rápidamente se convirtió en una discusión mucho más amplia sobre el futuro de la inteligencia artificial.

Jacob Coxon, investigador que trabajó en OpenAI y posteriormente en Anthropic, decidió dejar esta última compañía y acompañó su salida con una advertencia poco habitual por la posición desde la cual fue formulada: quienes están desarrollando los sistemas de inteligencia artificial más avanzados deben considerar seriamente la posibilidad de que, en los próximos años, aparezcan modelos cuyas capacidades resulten difíciles de controlar.

Coxon había trabajado directamente en investigación relacionada con el entrenamiento de modelos. Por ello, sus declaraciones encontraron eco dentro y fuera de Silicon Valley. No presentó una fecha precisa para una eventual catástrofe ni aseguró que la humanidad desaparecerá antes de 2030. Lo que planteó fue un escenario de riesgo: que la competencia entre los principales laboratorios conduzca eventualmente al desarrollo de una superinteligencia capaz de mejorar sus propias capacidades y superar los mecanismos humanos de supervisión.

La diferencia no es menor.

Una cosa es afirmar que el mundo terminará en una fecha determinada y otra advertir que existe un riesgo cuya magnitud todavía no puede calcularse con certeza. Coxon se ubicó en este segundo terreno, aunque utilizó expresiones particularmente severas para explicar por qué decidió abandonar Anthropic.

Su salida volvió a mostrar una paradoja que acompaña actualmente a la industria. Las mismas compañías que compiten por desarrollar modelos cada vez más poderosos destinan recursos considerables a investigar cómo impedir que esos sistemas produzcan consecuencias catastróficas.

El debate adquirió mayor relevancia porque Evan Hubinger, investigador de alineación de Anthropic, respaldó públicamente parte de las preocupaciones expresadas por Coxon. Hubinger ha estimado en más de 10 por ciento su probabilidad personal de que el desarrollo de inteligencia artificial pueda provocar la extinción humana en aproximadamente la próxima década.

Se trata de una estimación individual, no de una predicción científica ni de un consenso entre especialistas. Sin embargo, que investigadores involucrados directamente en el desarrollo y seguridad de estos sistemas asignen una probabilidad de esa magnitud a un escenario extremo explica por qué la discusión ha dejado de permanecer únicamente en ámbitos académicos.

En el centro se encuentra el llamado problema de alineación: cómo garantizar que una inteligencia artificial considerablemente más capaz que sus creadores continúe actuando de acuerdo con objetivos y límites establecidos por los seres humanos.

Actualmente no existe evidencia pública de una inteligencia artificial que haya escapado al control humano, que actúe independientemente sobre infraestructura estratégica mundial o que posea las capacidades atribuidas a una hipotética superinteligencia.

Lo que existe son modelos cada vez más competentes y una carrera tecnológica que avanza con rapidez.

Anthropic reconoce esa incertidumbre en sus propias políticas de desarrollo responsable. La empresa contempla escenarios relacionados con capacidades cibernéticas avanzadas, riesgos químicos o biológicos, autonomía creciente y modelos capaces de acelerar la propia investigación en inteligencia artificial. Para cada incremento significativo de capacidades plantea también mayores medidas de evaluación y seguridad.

La discusión, por tanto, no ocurre entre quienes creen que existe hoy una máquina fuera de control y quienes consideran imposible cualquier riesgo. Es más compleja.

Una parte de los investigadores sostiene que los sistemas actuales todavía están muy lejos de representar una amenaza existencial y que resulta imposible saber si alguna vez alcanzarán las capacidades necesarias para hacerlo. Otros consideran que esperar hasta comprobar esas capacidades sería demasiado tarde y que las medidas de seguridad deben desarrollarse antes.

La renuncia de Coxon se inserta justamente en esa diferencia.

También refleja otra preocupación: la competencia. OpenAI, Anthropic, Google DeepMind y otras compañías trabajan para alcanzar modelos cada vez más capaces. Cada avance de un laboratorio incrementa la presión sobre los demás. Para quienes advierten sobre los riesgos, esa dinámica puede generar incentivos para avanzar más rápidamente de lo que evolucionan las medidas de seguridad.

Para quienes tienen una visión menos pesimista, detener o ralentizar radicalmente el desarrollo tampoco garantiza una solución y podría impedir beneficios científicos, médicos, económicos y tecnológicos potencialmente extraordinarios.

Entre ambas posiciones existe todavía una enorme zona de incertidumbre.

No hay evidencia para afirmar que el fin de la humanidad ocurrirá antes de 2030. Tampoco existe una demostración de que una inteligencia artificial necesariamente terminará volviéndose contra sus creadores.

Pero tampoco está resuelto el problema contrario: nadie ha demostrado todavía cómo garantizar de manera absoluta el control de una hipotética inteligencia artificial que supere ampliamente las capacidades humanas.

Por eso la importancia de la renuncia de Jacob Coxon probablemente no esté en interpretar sus palabras como una profecía.

Está en otra parte.

Uno de los investigadores que participó en la construcción de algunos de los sistemas más avanzados decidió abandonar esa carrera porque considera que los riesgos son suficientemente importantes para hacerlo.

Y mientras los laboratorios continúan entrenando modelos más poderosos, una pregunta que durante años pareció pertenecer a la ciencia ficción comienza a ocupar cada vez más espacio dentro de las propias empresas que están construyendo esta tecnología:

¿podrá avanzar la inteligencia artificial al mismo ritmo que nuestra capacidad para mantenerla bajo control?

Puedo hacer también una versión más política y de crónica de Silicon Valley, con mayor narrativa y escenas, pero conservando este mismo rigor y sin caer en el tono apocalíptico.