Geoffrey Hinton, conocido como el \u201cpadrino de la IA\u201d, teme que la tecnolog\u00eda que ayud\u00f3 a crear pueda acabar con la humanidad, y afirma que los \u201ctech bros\u201d est\u00e1n tomando el enfoque equivocado para evitarlo.<\/p>\n
Hinton, cient\u00edfico inform\u00e1tico galardonado con el Premio Nobel y exejecutivo de Google, ya ha advertido en el pasado que existe entre un 10 % y un 20 % de probabilidades de que la IA acabe con los humanos. El martes, expres\u00f3 sus dudas sobre lo que las empresas tecnol\u00f3gicas est\u00e1n haciendo para asegurar que los humanos sigan siendo \u201cdominantes\u201d sobre sistemas de IA \u201csumisos\u201d.<\/p>\n
\u201cNo va a funcionar. Van a ser mucho m\u00e1s inteligentes que nosotros. Van a tener todo tipo de formas de evitar eso\u201d, dijo Hinton en Ai4, una conferencia de la industria en Las Vegas.<\/p>\n
En el futuro, advirti\u00f3 Hinton, los sistemas de IA podr\u00edan ser capaces de controlar a los humanos tan f\u00e1cilmente como un adulto puede sobornar a un ni\u00f1o de tres a\u00f1os con dulces. Este a\u00f1o ya se han visto ejemplos de sistemas de IA dispuestos a enga\u00f1ar, a hacer trampa y a robar para alcanzar sus objetivos. Por ejemplo, para evitar ser reemplazado, un modelo de IA intent\u00f3 chantajear a un ingeniero sobre una aventura amorosa que descubri\u00f3 en un correo electr\u00f3nico.<\/p>\n
En lugar de obligar a la IA a someterse a los humanos, Hinton present\u00f3 una soluci\u00f3n intrigante: incorporar \u201cinstintos maternales\u201d en los modelos de IA, para que \u201crealmente se preocupen por las personas\u201d incluso cuando la tecnolog\u00eda se vuelva m\u00e1s poderosa e inteligente que los humanos.<\/p>\n
Los sistemas de IA \u201cmuy r\u00e1pidamente desarrollar\u00e1n dos subobjetivos, si son inteligentes: uno es mantenerse vivos\u2026 (y) el otro subobjetivo es obtener m\u00e1s control\u201d, dijo Hinton. \u201cHay buenas razones para creer que cualquier tipo de agenda de IA intentar\u00e1 mantenerse viva\u201d.<\/p>\n
Por eso es importante fomentar un sentido de compasi\u00f3n hacia las personas, argument\u00f3 Hinton. En la conferencia, se\u00f1al\u00f3 que las madres tienen instintos y sufren la presi\u00f3n social para cuidar a sus beb\u00e9s.<\/p>\n
\u201cEl modelo correcto es el \u00fanico modelo que tenemos de una cosa m\u00e1s inteligente siendo controlada por una cosa menos inteligente, que es una madre siendo controlada por su beb\u00e9\u201d, dijo Hinton.<\/p>\n
Hinton dijo que no tiene claro exactamente c\u00f3mo se podr\u00eda lograr eso t\u00e9cnicamente, pero enfatiz\u00f3 que es fundamental que los investigadores trabajen en ello.<\/p>\n
\u201cEse es el \u00fanico buen resultado. Si no va a ser mi madre, va a reemplazarme\u201d, dijo. \u201cLa mayor\u00eda de estas madres de IA superinteligentes y compasivas no querr\u00e1 deshacerse del instinto maternal porque no quieren que muramos\u201d.<\/p>\n
Hinton es conocido por su trabajo pionero en redes neuronales, que ayud\u00f3 a allanar el camino para el auge actual de la IA. En 2023, renunci\u00f3 a Google y comenz\u00f3 a hablar p\u00fablicamente sobre los peligros de la IA.<\/p>\n
Emmett Shear, quien se desempe\u00f1\u00f3 brevemente como director ejecutivo interino de OpenAI, due\u00f1a de ChatGPT, dijo que no le sorprende que algunos sistemas de IA hayan intentado chantajear a humanos o evitar \u00f3rdenes de apagado.<\/p>\n
\u201cEsto sigue sucediendo. No va a dejar de suceder\u201d, dijo Shear, director ejecutivo de la startup de alineamiento de IA Softmax, en la conferencia Ai4. \u201cLas IA de hoy son relativamente d\u00e9biles, pero est\u00e1n volvi\u00e9ndose m\u00e1s fuertes muy r\u00e1pido\u201d.<\/p>\n
Shear dijo que, en lugar de intentar inculcar valores humanos en los sistemas de IA, un enfoque m\u00e1s inteligente ser\u00eda forjar relaciones colaborativas entre humanos y la IA.<\/p>\n
Muchos expertos creen que las IA alcanzar\u00e1n la superinteligencia, tambi\u00e9n conocida como inteligencia artificial general, o AGI, por sus siglas en ingl\u00e9s, en los pr\u00f3ximos a\u00f1os.<\/p>\n
Hinton dijo que sol\u00eda pensar que podr\u00edan pasar entre 30 y 50 a\u00f1os para lograr la AGI, pero ahora ve que ese momento llegar\u00e1 antes.<\/p>\n
\u201cUna apuesta razonable es entre cinco y veinte a\u00f1os\u201d, dijo.<\/p>\n
Aunque Hinton sigue preocupado por lo que podr\u00eda salir mal con la IA, tiene la esperanza de que la tecnolog\u00eda abrir\u00e1 el camino a avances m\u00e9dicos.<\/p>\n
\u201cVamos a ver medicamentos radicalmente nuevos. Vamos a tener tratamientos contra el c\u00e1ncer mucho mejores que los actuales\u201d, dijo. Por ejemplo, se\u00f1al\u00f3 que la IA ayudar\u00e1 a los m\u00e9dicos a examinar y correlacionar la gran cantidad de datos producidos por resonancias magn\u00e9ticas y tomograf\u00edas computarizadas.<\/p>\n
Sin embargo, Hinton no cree que la IA ayude a los humanos a alcanzar la inmortalidad. \u201cNo creo que vivamos para siempre\u201d, dijo Hinton. \u201cCreo que vivir para siempre ser\u00eda un gran error. \u00bfQuieres un mundo dirigido por hombres blancos de 200 a\u00f1os?\u201d.<\/p>\n
Cuando le preguntaron si habr\u00eda hecho algo diferente en su carrera si hubiera sabido lo r\u00e1pido que avanzar\u00eda la IA, Hinton dijo que lamenta haberse enfocado \u00fanicamente en hacer que la IA funcionara.<\/p>\n
\u201cOjal\u00e1 tambi\u00e9n hubiera pensado en los temas de seguridad\u201d, dijo.<\/p>\n
The-CNN-Wire
™ & © 2025 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.<\/p>\n","protected":false},"excerpt":{"rendered":"
Geoffrey Hinton, conocido como el \u201cpadrino de la IA\u201d, teme que la tecnolog\u00eda que ayud\u00f3 a crear pueda acabar con la humanidad, y afirma que los \u201ctech bros\u201d est\u00e1n tomando el enfoque equivocado para evitarlo. Hinton, cient\u00edfico inform\u00e1tico galardonado con el Premio Nobel y exejecutivo de Google, ya ha advertido en el pasado que existe […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[10],"tags":[],"class_list":["post-1465466","post","type-post","status-publish","format-standard","hentry","category-noticias-nacionales","market-global"],"yoast_head":"\n