{"id":48181,"date":"2026-09-10T16:23:22","date_gmt":"2026-09-10T16:23:22","guid":{"rendered":"https:\/\/elperiodicodesaltillo.com\/wp\/?p=48181"},"modified":"2026-09-10T16:23:22","modified_gmt":"2026-09-10T16:23:22","slug":"investigador-de-anthropic-estima-en-mas-de-10-el-riesgo-de-que-una-superinteligencia-provoque-la-extincion-humana","status":"publish","type":"post","link":"https:\/\/elperiodicodesaltillo.com\/wp\/2026\/09\/10\/investigador-de-anthropic-estima-en-mas-de-10-el-riesgo-de-que-una-superinteligencia-provoque-la-extincion-humana\/","title":{"rendered":"Investigador de Anthropic estima en m\u00e1s de 10% el riesgo de que una superinteligencia provoque la extinci\u00f3n humana"},"content":{"rendered":"\n

Un investigador de Anthropic advirti\u00f3 que existe una posibilidad superior al 10 por ciento de que una futura inteligencia artificial superinteligente pueda provocar la muerte de toda la humanidad durante la pr\u00f3xima d\u00e9cada.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

La declaraci\u00f3n fue realizada por Evan Hubinger, responsable de investigaci\u00f3n en alineaci\u00f3n de Anthropic, despu\u00e9s de que Jacob Coxon, investigador de la misma empresa, anunciara su renuncia y cuestionara p\u00fablicamente el ritmo con el que las principales compa\u00f1\u00edas tecnol\u00f3gicas desarrollan sistemas cada vez m\u00e1s avanzados.<\/p>\n\n\n\n

Coxon, quien anteriormente trabaj\u00f3 en OpenAI y Anthropic, sostuvo que ambas empresas se encuentran inmersas en una competencia por desarrollar sistemas capaces de alcanzar una inteligencia superior a la humana. A su juicio, el avance tecnol\u00f3gico est\u00e1 ocurriendo m\u00e1s r\u00e1pido que la creaci\u00f3n de mecanismos para garantizar que esos sistemas permanezcan bajo control humano.<\/p>\n\n\n\n

Tras la publicaci\u00f3n de Coxon, Hubinger respald\u00f3 parte de sus preocupaciones. El investigador afirm\u00f3 que dentro de Anthropic existe la convicci\u00f3n de que una inteligencia artificial podr\u00eda representar un riesgo existencial para la humanidad y situ\u00f3 su propia estimaci\u00f3n en m\u00e1s de 10 por ciento durante los pr\u00f3ximos diez a\u00f1os.<\/p>\n\n\n\n

Hubinger tambi\u00e9n hizo una precisi\u00f3n importante: considera que el riesgo asociado con los modelos actuales es bajo. Su preocupaci\u00f3n se concentra en una eventual superinteligencia capaz de mejorar sus propias capacidades mediante procesos de automejora recursiva.<\/p>\n\n\n\n

El principal problema se\u00f1alado por el investigador es el denominado \u201calineamiento\u201d de la inteligencia artificial. Este concepto se refiere a conseguir que los objetivos y comportamiento de sistemas muy avanzados permanezcan compatibles con los intereses y valores humanos.<\/p>\n\n\n\n

De acuerdo con Hubinger, Anthropic todav\u00eda no cuenta con una soluci\u00f3n para garantizar el alineamiento de una eventual superinteligencia y tampoco considera que actualmente est\u00e9 claramente encaminada a resolver ese problema.<\/p>\n\n\n\n

La advertencia se produce en medio de un debate creciente dentro de la industria tecnol\u00f3gica sobre los riesgos de desarrollar sistemas con mayores niveles de autonom\u00eda. Coxon argument\u00f3 que las empresas deber\u00edan reducir el ritmo de desarrollo mientras se establecen mecanismos m\u00e1s s\u00f3lidos para controlar los posibles riesgos.<\/p>\n\n\n\n

El caso tambi\u00e9n ha reavivado las preocupaciones sobre la llamada \u201ccarrera\u201d entre las principales compa\u00f1\u00edas de inteligencia artificial. Coxon cuestion\u00f3 que la competencia por alcanzar nuevos niveles de capacidad pueda llevar a que las medidas de seguridad queden rezagadas.<\/p>\n\n\n\n

Las declaraciones no significan que exista actualmente una inteligencia artificial capaz de destruir a la humanidad ni constituyen una predicci\u00f3n cient\u00edfica de que ese escenario vaya a ocurrir. Se trata de una estimaci\u00f3n personal sobre un riesgo futuro formulada por un investigador especializado en seguridad y alineamiento de IA.<\/p>\n\n\n\n

El debate, sin embargo, adquiere relevancia porque las advertencias provienen de personas que han trabajado directamente en compa\u00f1\u00edas l\u00edderes del sector. Coxon pas\u00f3 por OpenAI y Anthropic, mientras que Hubinger participa en los trabajos de seguridad y alineamiento de esta \u00faltima empresa.<\/p>\n\n\n\n

La discusi\u00f3n sobre los riesgos de una superinteligencia se centra actualmente en c\u00f3mo desarrollar sistemas cada vez m\u00e1s capaces sin perder la capacidad humana de supervisarlos, limitar sus acciones y corregir comportamientos potencialmente peligrosos.<\/p>\n","protected":false},"excerpt":{"rendered":"

Un investigador de Anthropic advirti\u00f3 que existe una posibilidad superior al 10 por ciento de que una futura inteligencia artificial superinteligente pueda provocar la muerte de toda la humanidad durante la pr\u00f3xima d\u00e9cada. La declaraci\u00f3n fue realizada por Evan Hubinger, responsable de investigaci\u00f3n en alineaci\u00f3n de Anthropic, despu\u00e9s de que Jacob Coxon, investigador de la […]<\/p>\n","protected":false},"author":1,"featured_media":48182,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[263],"tags":[],"class_list":["post-48181","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias"],"_links":{"self":[{"href":"https:\/\/elperiodicodesaltillo.com\/wp\/wp-json\/wp\/v2\/posts\/48181","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/elperiodicodesaltillo.com\/wp\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/elperiodicodesaltillo.com\/wp\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/elperiodicodesaltillo.com\/wp\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/elperiodicodesaltillo.com\/wp\/wp-json\/wp\/v2\/comments?post=48181"}],"version-history":[{"count":1,"href":"https:\/\/elperiodicodesaltillo.com\/wp\/wp-json\/wp\/v2\/posts\/48181\/revisions"}],"predecessor-version":[{"id":48183,"href":"https:\/\/elperiodicodesaltillo.com\/wp\/wp-json\/wp\/v2\/posts\/48181\/revisions\/48183"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/elperiodicodesaltillo.com\/wp\/wp-json\/wp\/v2\/media\/48182"}],"wp:attachment":[{"href":"https:\/\/elperiodicodesaltillo.com\/wp\/wp-json\/wp\/v2\/media?parent=48181"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/elperiodicodesaltillo.com\/wp\/wp-json\/wp\/v2\/categories?post=48181"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/elperiodicodesaltillo.com\/wp\/wp-json\/wp\/v2\/tags?post=48181"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}