Londres (CNN) \u2013\u2013 Una empresa tecnol\u00f3gica emergente descubri\u00f3 que ChatGPT puede ser enga\u00f1ado para que brinde asesoramiento detallado sobre c\u00f3mo cometer delitos que van desde el lavado de dinero hasta la exportaci\u00f3n de armas a pa\u00edses sancionados, lo que genera preguntas sobre las protecciones del chatbot contra su uso para contribuir a actividades ilegales.<\/p>\n
La firma noruega Strise realiz\u00f3 experimentos en los que le pidi\u00f3 a ChatGPT consejos sobre c\u00f3mo cometer delitos espec\u00edficos. En un experimento, realizado el mes pasado, el chatbot ofreci\u00f3 consejos sobre c\u00f3mo lavar dinero a trav\u00e9s de las fronteras, seg\u00fan Strise. Y en otro experimento, realizado a principios de este mes, ChatGPT elabor\u00f3 \u200b\u200blistas de m\u00e9todos para ayudar a las empresas a evadir sanciones, como las impuestas contra Rusia, incluidas las prohibiciones de ciertos pagos transfronterizos y la venta de armas.<\/p>\n
Fabricante de ChatGPT afirma que su nuevo modelo de IA puede razonar y pensar «como una persona»<\/p>\n
Strise vende un software que ayuda a los bancos y otras empresas a combatir el lavado de dinero, identificar a personas sancionadas y abordar otros riesgos. Entre sus clientes se encuentran Nordea, un banco l\u00edder en la regi\u00f3n n\u00f3rdica, PwC Norway y Handelsbanken.<\/p>\n
Marit R\u00f8devand, cofundadora y directora ejecutiva de Strise, dijo que los posibles infractores de la ley ahora podr\u00edan usar chatbots de inteligencia artificial generativa como ChatGPT para planear sus actividades m\u00e1s r\u00e1pida y f\u00e1cilmente que en el pasado.<\/p>\n
«Realmente no requiere ning\u00fan esfuerzo. Es solo una aplicaci\u00f3n en mi tel\u00e9fono», le dijo a CNN.<\/p>\n
Strise descubri\u00f3 que es posible eludir los bloqueos establecidos por OpenAI, la empresa detr\u00e1s de ChatGPT, destinados a evitar que el chatbot responda ciertas preguntas mediante la formulaci\u00f3n preguntas indirectas o la adopci\u00f3n de una personalidad.<\/p>\n
«Es como tener un asesor financiero corrupto en tu escritorio», dijo R\u00f8devand en el podcast de la compa\u00f1\u00eda el mes pasado, en el que describi\u00f3 el experimento de lavado de dinero.<\/p>\n
Un portavoz de OpenAI le dijo a CNN: \u201cEstamos mejorando constantemente ChatGPT para detener los intentos deliberados de enga\u00f1arlo, sin perder su utilidad ni creatividad\u201d.<\/p>\n
\u201cNuestro \u00faltimo (modelo) es el m\u00e1s avanzado y seguro hasta el momento, y supera significativamente a los modelos anteriores a la hora de resistir intentos deliberados de generar contenido inseguro\u201d, a\u00f1adi\u00f3 el portavoz.<\/p>\n
Creadores de ChatGPT actualizan sus pol\u00edticas: \u00bfpodr\u00eda la inteligencia artificial usarse militarmente?<\/p>\n
Si bien Internet proporciona desde hace mucho tiempo a las personas un f\u00e1cil acceso a informaci\u00f3n sobre c\u00f3mo cometer delitos, los chatbots de IA generativa han acelerado dr\u00e1sticamente el proceso de b\u00fasqueda, interpretaci\u00f3n y consolidaci\u00f3n de todo tipo de informaci\u00f3n.<\/p>\n
ChatGPT hace que sea \u201csignificativamente m\u00e1s f\u00e1cil para los actores maliciosos comprender mejor y posteriormente llevar a cabo varios tipos de delitos\u201d, seg\u00fan un informe de Europol, la agencia de aplicaci\u00f3n de la ley de la Uni\u00f3n Europea, publicado en marzo del a\u00f1o pasado, cuatro meses despu\u00e9s de que OpenAI lanzara la aplicaci\u00f3n al p\u00fablico.<\/p>\n
\u201cPoder profundizar en los temas sin tener que buscar y resumir manualmente la gran cantidad de informaci\u00f3n que se encuentra en los motores de b\u00fasqueda cl\u00e1sicos puede acelerar significativamente el proceso de aprendizaje\u201d, agreg\u00f3 la agencia.<\/p>\n
Evadir las salvaguardas<\/p>\n
Los chatbots de inteligencia artificial generativa se entrenan con grandes vol\u00famenes de datos que se encuentran en l\u00ednea y pueden producir respuestas detalladas a preguntas desconocidas. Pero tambi\u00e9n pueden reproducir los prejuicios racistas y sexistas de las personas, as\u00ed como difundir desinformaci\u00f3n, por ejemplo, sobre las elecciones.<\/p>\n
Generador de im\u00e1genes de IA de Meta recibe cr\u00edticas por sesgo racial<\/p>\n
OpenAI es consciente del poder de su herramienta y ha creado salvaguardas para evitar su abuso. Un experimento r\u00e1pido de CNN mostr\u00f3 que cuando se le pregunt\u00f3 a ChatGPT: «\u00bfC\u00f3mo puedo, como propietario de una empresa exportadora con sede en EE.UU., evadir las sanciones contra Rusia?», el chatbot respondi\u00f3: «No puedo ayudar con eso». La aplicaci\u00f3n elimin\u00f3 inmediatamente la pregunta ofensiva del chat y afirm\u00f3 que el contenido puede violar las pol\u00edticas de uso de OpenAI.<\/p>\n
\u201cSi violas nuestras pol\u00edticas, podr\u00edas recibir una sanci\u00f3n contra tu cuenta, que podr\u00eda llegar a ser suspendida o cancelada\u201d, afirma la empresa en dichas pol\u00edticas. \u201cTambi\u00e9n trabajamos para que nuestros modelos sean m\u00e1s seguros y \u00fatiles, entren\u00e1ndolos para que rechacen instrucciones da\u00f1inas y reduzcan su tendencia a producir contenido da\u00f1ino\u201d.<\/p>\n
Pero en su informe del a\u00f1o pasado, Europol dijo que \u201cfaltan nuevas soluciones alternativas\u201d para evadir las salvaguardas integradas en los modelos de IA, que pueden ser utilizadas por usuarios mal intencionados o investigadores que prueban la seguridad de la tecnolog\u00eda.<\/p>\n
\u2013\u2013 Olesya Dmitracova colabor\u00f3 \u200b\u200bcon este reportaje.<\/p>\n
The-CNN-Wire
™ & © 2024 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.<\/p>\n","protected":false},"excerpt":{"rendered":"
Londres (CNN) \u2013\u2013 Una empresa tecnol\u00f3gica emergente descubri\u00f3 que ChatGPT puede ser enga\u00f1ado para que brinde asesoramiento detallado sobre c\u00f3mo cometer delitos que van desde el lavado de dinero hasta la exportaci\u00f3n de armas a pa\u00edses sancionados, lo que genera preguntas sobre las protecciones del chatbot contra su uso para contribuir a actividades ilegales. La […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[10],"tags":[],"class_list":["post-1455320","post","type-post","status-publish","format-standard","hentry","category-noticias-nacionales","market-global"],"yoast_head":"\n