(CNN) — Donald Trump est\u00e1 a punto de entrar en la Casa Blanca por segunda vez. Su agenda incluir\u00e1 supervisar el desarrollo de la inteligencia artificial, potencialmente la tecnolog\u00eda m\u00e1s poderosa de nuestro tiempo.<\/p>\n
El presidente electo prometi\u00f3 «recortar el exceso de regulaciones» y recurri\u00f3 al multimillonario tecnol\u00f3gico Elon Musk, otro cr\u00edtico de las normas gubernamentales, para que le ayude a liderar el esfuerzo. M\u00e1s concretamente, el Partido Republicano, en su programa electoral, dijo que derogar\u00eda una amplia orden ejecutiva firmada por el presidente Joe Biden que establec\u00eda medidas para gestionar los riesgos de seguridad nacional de la IA y evitar la discriminaci\u00f3n por parte de los sistemas de IA, entre otros objetivos.<\/p>\n
El documento republicano afirmaba que la orden ejecutiva conten\u00eda «ideas radicales de izquierdas» que obstaculizaban la innovaci\u00f3n.<\/p>\n
Sandra Wachter, catedr\u00e1tica de Tecnolog\u00eda y Regulaci\u00f3n del Oxford Internet Institute de la Universidad de Oxford, sigue de cerca lo que suceda a continuaci\u00f3n. La IA est\u00e1 repleta de riesgos que «deb\u00edan abordarse ayer mismo» mediante una regulaci\u00f3n s\u00f3lida, declar\u00f3 a CNN.<\/p>\n
He aqu\u00ed algunos de los peligros de la IA sin restricciones.<\/p>\n
Discriminaci\u00f3n<\/p>\n
Durante a\u00f1os, los sistemas de IA demostraron su capacidad para reproducir los prejuicios de la sociedad -por ejemplo, sobre raza y g\u00e9nero- porque esos sistemas se entrenan con datos sobre acciones pasadas de humanos, muchos de los cuales tienen esos prejuicios. Cuando la IA se utiliza para decidir a qui\u00e9n se contrata o a qui\u00e9n se aprueba para una hipoteca, el resultado puede ser a menudo discriminatorio.<\/p>\n
«El sesgo es inherente a estas tecnolog\u00edas, porque se basan en datos hist\u00f3ricos para intentar predecir el futuro… aprenden qui\u00e9n fue contratado en el pasado, qui\u00e9n fue a la c\u00e1rcel en el pasado», explica Wachter. «Y as\u00ed, muy a menudo y casi siempre, esas decisiones est\u00e1n sesgadas».<\/p>\n
Sin barandillas s\u00f3lidas, a\u00f1adi\u00f3, «esas decisiones problem\u00e1ticas del pasado se trasladar\u00e1n al futuro».<\/p>\n
El uso de la IA en la aplicaci\u00f3n predictiva de la ley es un ejemplo, dijo Andrew Strait, director asociado del Instituto Ada Lovelace, una organizaci\u00f3n sin \u00e1nimo de lucro con sede en Londres que investiga la seguridad y la \u00e9tica de la IA.<\/p>\n
Algunos departamentos de Polic\u00eda de Estados Unidos utilizaron programas inform\u00e1ticos basados en IA y entrenados a partir de datos hist\u00f3ricos sobre delincuencia para predecir d\u00f3nde es probable que se cometan delitos en el futuro. Como estos datos reflejan a menudo el exceso de vigilancia de determinadas comunidades, Strait explic\u00f3 que las predicciones basadas en ellos hacen que la-Polic\u00eda centre su atenci\u00f3n en esas mismas comunidades y denuncie m\u00e1s delitos en ellas. Mientras tanto, otras zonas con niveles de delincuencia potencialmente iguales o superiores se vigilan menos.<\/p>\n
Desinformaci\u00f3n<\/p>\n
La IA es capaz de generar im\u00e1genes, audio y videos enga\u00f1osos que pueden utilizarse para hacer creer que una persona hizo o dijo algo que no hizo. Esto, a su vez, puede utilizarse para influir en las elecciones o crear im\u00e1genes pornogr\u00e1ficas falsas para acosar a la gente, entre otros posibles abusos.<\/p>\n
Las im\u00e1genes generadas por IA circularon ampliamente en las redes sociales antes de las elecciones presidenciales de EE.UU. a principios de este mes, incluidas im\u00e1genes falsas de Kamala Harris, republicadas por el propio Musk.<\/p>\n
En mayo, el Departamento de Seguridad Nacional de Estados Unidos se\u00f1al\u00f3 en un bolet\u00edn distribuido a funcionarios estatales y locales, y visto por CNN, que la IA probablemente proporcionar\u00eda a agentes extranjeros y extremistas nacionales «mayores oportunidades de injerencia» durante las elecciones.<\/p>\n
Y en enero, m\u00e1s de 20.000 personas de New Hampshire recibieron una robocall -un mensaje automatizado reproducido por tel\u00e9fono- que utilizaba IA para hacerse pasar por la voz de Biden y aconsejarles que no votaran en las primarias presidenciales. Detr\u00e1s de las robocalls estaba, como \u00e9l mismo admiti\u00f3, Steve Kramer, que trabajaba para la campa\u00f1a de las primarias dem\u00f3cratas del congresista Dean Phillips contra Biden. La campa\u00f1a de Phillips neg\u00f3 haber participado en las llamadas.<\/p>\n
En el \u00faltimo a\u00f1o, tambi\u00e9n, los objetivos de las im\u00e1genes pornogr\u00e1ficas no consentidas generadas por IA han ido desde mujeres prominentes como Taylor Swift y la representante Alexandria Ocasio-Cortez hasta ni\u00f1as en la escuela secundaria.<\/p>\n
Peligroso mal uso y riesgo existencial<\/p>\n
Los investigadores de IA y los actores de la industria han destacado riesgos a\u00fan mayores que plantea la tecnolog\u00eda. Van desde ChatGPT que proporciona f\u00e1cil acceso a informaci\u00f3n completa sobre c\u00f3mo cometer delitos, como exportar armas a pa\u00edses sancionados, hasta que la IA se libere del control humano.<\/p>\n
«Se puede utilizar la IA para crear ciberataques muy sofisticados, se puede automatizar el pirateo inform\u00e1tico, se puede crear un sistema de armamento aut\u00f3nomo capaz de causar da\u00f1o al mundo», declar\u00f3 a CNN Manoj Chaudhary, Director de Tecnolog\u00eda de Jitterbit, una empresa de software estadounidense.<\/p>\n
En marzo, un informe encargado por el Departamento de Estado de EE.UU. advert\u00eda de los riesgos «catastr\u00f3ficos» para la seguridad nacional que supon\u00eda la r\u00e1pida evoluci\u00f3n de la IA, y ped\u00eda salvaguardias normativas «de emergencia» junto con otras medidas. En el peor de los casos, los sistemas de IA m\u00e1s avanzados podr\u00edan «suponer una amenaza de extinci\u00f3n para la especie humana», seg\u00fan el informe.<\/p>\n
En un documento relacionado se afirmaba que los sistemas de IA podr\u00edan utilizarse para llevar a cabo «ciberataques de gran impacto capaces de paralizar infraestructuras cr\u00edticas», entre una letan\u00eda de riesgos.<\/p>\n
\u00bfY ahora qu\u00e9?<\/p>\n
Adem\u00e1s de la orden ejecutiva de Biden, su administraci\u00f3n tambi\u00e9n consigui\u00f3 el a\u00f1o pasado que 15 importantes empresas tecnol\u00f3gicas se comprometieran a reforzar la seguridad de sus sistemas de IA, aunque todos los compromisos son voluntarios.<\/p>\n
Y estados liderados por dem\u00f3cratas como Colorado y Nueva York aprobaron sus propias leyes sobre IA. En Nueva York, por ejemplo, cualquier empresa que utilice IA para ayudar a contratar trabajadores debe contratar a un auditor independiente para comprobar que el sistema est\u00e1 libre de prejuicios.<\/p>\n
Seg\u00fan Strait, del Instituto Ada Lovelace, se est\u00e1 desarrollando un «mosaico de normativas (estadounidenses sobre IA), pero muy fragmentado y poco exhaustivo».<\/p>\n
Es «demasiado pronto para saber» si la administraci\u00f3n Trump ampliar\u00e1 o derogar\u00e1 esas normas, se\u00f1al\u00f3.<\/p>\n
Sin embargo, le preocupa que una derogaci\u00f3n de la orden ejecutiva de Biden suponga el fin del Instituto de Seguridad de la IA del gobierno estadounidense. La orden cre\u00f3 esa «instituci\u00f3n incre\u00edblemente importante», dijo Strait a CNN, y le encomend\u00f3 la tarea de examinar los riesgos que surgen de los modelos de IA de vanguardia antes de que se hagan p\u00fablicos.<\/p>\n
Es posible que Musk impulse una regulaci\u00f3n m\u00e1s estricta de la IA, como ya hizo anteriormente. Est\u00e1 llamado a desempe\u00f1ar un papel destacado en la pr\u00f3xima administraci\u00f3n como codirector de un nuevo «Departamento de Eficiencia Gubernamental» o DOGE (seg\u00fan sus siglas en ingl\u00e9s).<\/p>\n
Musk expres\u00f3 en repetidas ocasiones su temor a que la IA suponga una amenaza existencial para la humanidad, a pesar de que una de sus empresas, xAI, est\u00e1 desarrollando un chatbot de IA generativa.<\/p>\n
Musk fue «uno de los grandes defensores» de un proyecto de ley en California que ya no existe, se\u00f1al\u00f3 Strait. El proyecto de ley pretend\u00eda evitar algunas de las consecuencias m\u00e1s catastr\u00f3ficas de la IA, como las de los sistemas con potencial para volverse incontrolables. Gavin Newsom, gobernador dem\u00f3crata de California, vet\u00f3 la ley en septiembre, alegando la amenaza que supon\u00eda para la innovaci\u00f3n.<\/p>\n
Musk est\u00e1 «muy preocupado por (el) riesgo catastr\u00f3fico de la IA. Es posible que eso sea objeto de una futura orden ejecutiva de Trump», dijo Strait.<\/p>\n
Pero el c\u00edrculo \u00edntimo de Trump no se limita a Musk e incluye a J.D. Vance. El vicepresidente entrante dijo en julio que le preocupaban los «intentos preventivos de sobrerregulaci\u00f3n» en IA, ya que «atrincherar\u00edan a los incumbentes tecnol\u00f3gicos que ya tenemos y har\u00edan realmente m\u00e1s dif\u00edcil para los nuevos participantes crear la innovaci\u00f3n que va a impulsar la pr\u00f3xima generaci\u00f3n de crecimiento estadounidense.»<\/p>\n
Tesla (TSLA), de Musk, puede describirse como una de esas empresas tecnol\u00f3gicas. El a\u00f1o pasado, Musk deslumbr\u00f3 a los inversores hablando de la inversi\u00f3n de Tesla en IA y, en su \u00faltimo comunicado de resultados, la empresa dijo que segu\u00eda centrada en «realizar inversiones cr\u00edticas en proyectos de IA», entre otras prioridades.<\/p>\n
The-CNN-Wire
™ & © 2024 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.<\/p>\n","protected":false},"excerpt":{"rendered":"
(CNN) — Donald Trump est\u00e1 a punto de entrar en la Casa Blanca por segunda vez. Su agenda incluir\u00e1 supervisar el desarrollo de la inteligencia artificial, potencialmente la tecnolog\u00eda m\u00e1s poderosa de nuestro tiempo. El presidente electo prometi\u00f3 «recortar el exceso de regulaciones» y recurri\u00f3 al multimillonario tecnol\u00f3gico Elon Musk, otro cr\u00edtico de las normas […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[10],"tags":[],"class_list":["post-1455953","post","type-post","status-publish","format-standard","hentry","category-noticias-nacionales","market-global"],"yoast_head":"\n