Un investigador de Anthropic advirtió que existe una posibilidad superior al 10 por ciento de que una futura inteligencia artificial superinteligente pueda provocar la muerte de toda la humanidad durante la próxima década.
La declaración fue realizada por Evan Hubinger, responsable de investigación en alineación de Anthropic, después de que Jacob Coxon, investigador de la misma empresa, anunciara su renuncia y cuestionara públicamente el ritmo con el que las principales compañías tecnológicas desarrollan sistemas cada vez más avanzados.
Coxon, quien anteriormente trabajó en OpenAI y Anthropic, sostuvo que ambas empresas se encuentran inmersas en una competencia por desarrollar sistemas capaces de alcanzar una inteligencia superior a la humana. A su juicio, el avance tecnológico está ocurriendo más rápido que la creación de mecanismos para garantizar que esos sistemas permanezcan bajo control humano.
Tras la publicación de Coxon, Hubinger respaldó parte de sus preocupaciones. El investigador afirmó que dentro de Anthropic existe la convicción de que una inteligencia artificial podría representar un riesgo existencial para la humanidad y situó su propia estimación en más de 10 por ciento durante los próximos diez años.
Hubinger también hizo una precisión importante: considera que el riesgo asociado con los modelos actuales es bajo. Su preocupación se concentra en una eventual superinteligencia capaz de mejorar sus propias capacidades mediante procesos de automejora recursiva.
El principal problema señalado por el investigador es el denominado “alineamiento” de la inteligencia artificial. Este concepto se refiere a conseguir que los objetivos y comportamiento de sistemas muy avanzados permanezcan compatibles con los intereses y valores humanos.
De acuerdo con Hubinger, Anthropic todavía no cuenta con una solución para garantizar el alineamiento de una eventual superinteligencia y tampoco considera que actualmente esté claramente encaminada a resolver ese problema.
La advertencia se produce en medio de un debate creciente dentro de la industria tecnológica sobre los riesgos de desarrollar sistemas con mayores niveles de autonomía. Coxon argumentó que las empresas deberían reducir el ritmo de desarrollo mientras se establecen mecanismos más sólidos para controlar los posibles riesgos.
El caso también ha reavivado las preocupaciones sobre la llamada “carrera” entre las principales compañías de inteligencia artificial. Coxon cuestionó que la competencia por alcanzar nuevos niveles de capacidad pueda llevar a que las medidas de seguridad queden rezagadas.
Las declaraciones no significan que exista actualmente una inteligencia artificial capaz de destruir a la humanidad ni constituyen una predicción científica de que ese escenario vaya a ocurrir. Se trata de una estimación personal sobre un riesgo futuro formulada por un investigador especializado en seguridad y alineamiento de IA.
El debate, sin embargo, adquiere relevancia porque las advertencias provienen de personas que han trabajado directamente en compañías líderes del sector. Coxon pasó por OpenAI y Anthropic, mientras que Hubinger participa en los trabajos de seguridad y alineamiento de esta última empresa.
La discusión sobre los riesgos de una superinteligencia se centra actualmente en cómo desarrollar sistemas cada vez más capaces sin perder la capacidad humana de supervisarlos, limitar sus acciones y corregir comportamientos potencialmente peligrosos.
