Una eventual superinteligencia preocupa a los expertos en seguridad tecnológica, mientras el investigador Evan Hubinger admite que aún no existe una solución definitiva para controlar sus riesgos.
El avance acelerado de la inteligencia artificial (IA) volvió a generar preocupación entre sus propios desarrolladores. Evan Hubinger, líder de ciencia de alineación de Anthropic, reconoció públicamente que una futura superinteligencia podría llegar a representar una amenaza extrema para la humanidad.
El investigador respondió a los cuestionamientos planteados por Jacob Coxon, ingeniero de Anthropic que dejó la compañía tras cuestionar la responsabilidad con que las grandes empresas tecnológicas están desarrollando sistemas cada vez más capaces.
Coxon sostuvo que estas compañías “no están actuando con responsabilidad” y que están “jugando con nuestras vidas”. Ante esas declaraciones, Hubinger aseguró que existe coincidencia respecto del riesgo potencial.
“Realmente creemos, y lo creemos sinceramente, que la IA podría matar a todos los seres humanos”, afirmó el científico en una publicación en X.
Hubinger precisó que sus opiniones son personales y no representan necesariamente la posición oficial de Anthropic. Sin embargo, sus declaraciones adquieren especial relevancia debido a que trabaja precisamente en alineación de IA, una disciplina dedicada a conseguir que los sistemas avanzados mantengan objetivos compatibles con la seguridad y los intereses humanos.
Sin un plan definitivo
El investigador también reconoció una de las principales dificultades que enfrenta actualmente la industria: desarrollar mecanismos capaces de garantizar la seguridad de una eventual superinteligencia artificial.
“Todavía no tenemos un plan para resolver el problema de la alineación en el caso de una superinteligencia, y tampoco estamos claramente encaminados a lograrlo”, sostuvo.
Hubinger diferenció esta preocupación de los modelos actuales. Según explicó, considera que el riesgo asociado a los sistemas existentes sigue siendo bajo, mientras que su principal inquietud apunta a una inteligencia capaz de mejorar sus propias capacidades de manera acelerada.
“Lo que me preocupa es la superinteligencia que surge de la auto-mejora recursiva”, señaló.
La posibilidad de que los sistemas desarrollen mayores capacidades mediante procesos de auto-mejora constituye uno de los escenarios que más atención concentra entre los especialistas en seguridad de IA.
Anthropic reconoce riesgos catastróficos
Las advertencias de Hubinger también coinciden con el contenido del más reciente informe de riesgos de Anthropic, publicado en agosto de 2026.
El documento señala que los modelos altamente capaces pueden acelerar el progreso tecnológico y generar importantes beneficios, pero también advierte sobre riesgos relacionados con cambios en el equilibrio de poder entre países y dentro de las propias naciones.
Anthropic plantea además un escenario de mayor gravedad si estos sistemas llegaran a combinar capacidades avanzadas con objetivos autónomos peligrosos.
En ese contexto, la compañía advierte que la IA podría provocar “daños catastróficos” iniciados por los propios sistemas.
La empresa asegura que trabaja en mecanismos para detectar y reducir posibles formas de desalineación, además de reforzar las medidas destinadas a impedir usos maliciosos de sus modelos.
No obstante, el propio informe reconoce una limitación relevante: “no creemos que hayamos logrado avances significativos” hacia todos los objetivos de seguridad planteados.
El debate refleja así una paradoja central de la actual carrera tecnológica: las mismas compañías que impulsan el desarrollo de sistemas cada vez más avanzados también reconocen que todavía existen incertidumbres fundamentales sobre cómo mantenerlos bajo control.
