El chatbot de inteligencia artificial de Elon Musk, Grok, se ha visto inundado de im\u00e1genes sexuales, principalmente de mujeres, muchas de ellas reales.<\/p>\n
Los usuarios han instado al chatbot a \u201cdesvestir digitalmente\u201d a estas personas y, en ocasiones, a colocarlas en poses sugerentes.<\/p>\n
En varios casos la semana pasada, algunas parec\u00edan ser im\u00e1genes de menores, lo que llev\u00f3 a muchos usuarios a denunciar pornograf\u00eda infantil.<\/p>\n
Las im\u00e1genes generadas por IA resaltan los peligros de esta herramienta y las redes sociales, especialmente cuando se combinan, sin las medidas de seguridad suficientes para proteger a algunos de los grupos m\u00e1s vulnerables de la sociedad.<\/p>\n
Las im\u00e1genes podr\u00edan violar leyes nacionales e internacionales y poner en peligro a muchas personas, incluidos ni\u00f1os.<\/p>\n
Musk y xAI han declarado que est\u00e1n tomando medidas contra el contenido ilegal en X, incluido el material de abuso sexual infantil (CSAM), elimin\u00e1ndolo, suspendiendo permanentemente las cuentas y colaborando con los Gobiernos locales y las fuerzas del orden seg\u00fan sea necesario.<\/p>\n
Sin embargo, las respuestas de Grok a las solicitudes de los usuarios siguen repletas de im\u00e1genes que sexualizan a las mujeres.<\/p>\n
En p\u00fablico, Musk lleva mucho tiempo criticando<\/a> los modelos de IA \u201cwoke\u201d y lo que \u00e9l llama censura.<\/p>\n Internamente en xAI, Musk se ha opuesto a las restricciones impuestas a Grok, seg\u00fan declar\u00f3 a CNN una fuente con conocimiento de la situaci\u00f3n. Mientras tanto, el equipo de seguridad de xAI, ya de por s\u00ed reducido en comparaci\u00f3n con sus competidores, perdi\u00f3 a varios empleados en las semanas previas al auge de los casos de \u201cdesnudez digital\u201d.<\/p>\n Grok siempre ha sido un caso at\u00edpico en comparaci\u00f3n con otros modelos de IA convencionales al permitir, y en algunos casos promover, contenido sexualmente expl\u00edcito y avatares acompa\u00f1antes.<\/p>\n Y a diferencia de competidores como Gemini de Google o ChatGPT de OpenAI, Grok est\u00e1 integrado en una de las plataformas de redes sociales m\u00e1s populares, X.<\/p>\n Si bien los usuarios pueden hablar con Grok en privado, tambi\u00e9n pueden etiquetar a Grok en una publicaci\u00f3n con una solicitud, y Grok responder\u00e1 p\u00fablicamente.<\/p>\n El reciente aumento de \u201cdesnudez digital\u201d generalizada y no consensuada comenz\u00f3 a fines de diciembre, cuando muchos usuarios descubrieron que pod\u00edan etiquetar a Grok y pedirle que editara im\u00e1genes de una publicaci\u00f3n o hilo de X.<\/p>\n Al principio, muchas publicaciones le pidieron a Grok que mostrara a la gente en bikini. Musk republic\u00f3 im\u00e1genes de \u00e9l mismo y de otros, como su n\u00e9mesis Bill Gates, en bikini.<\/p>\n Investigadores de Copyleaks<\/a>, una plataforma de detecci\u00f3n de IA y gobernanza de contenido, descubrieron que la tendencia podr\u00eda haber comenzado cuando los creadores de contenido para adultos incitaron a Grok a generar im\u00e1genes sexualizadas de s\u00ed mismos como forma de marketing.<\/p>\n Pero casi inmediatamente, \u201clos usuarios comenzaron a emitir mensajes similares sobre mujeres que aparentemente nunca hab\u00edan dado su consentimiento\u201d, descubri\u00f3 Copyleaks.<\/p>\n Investigadores de AI Forensics, una organizaci\u00f3n europea sin fines de lucro que investiga algoritmos, analizaron m\u00e1s de 20.000 im\u00e1genes aleatorias generadas por Grok y 50.000 solicitudes de usuarios entre el 25 de diciembre y el 1 de enero.<\/p>\n Los investigadores encontraron una alta prevalencia de t\u00e9rminos como \u2018ella\u2019, \u2018poner\u2019\/\u2019quitar\u2019, \u2018bikini\u2019 y \u2018ropa\u2019.<\/p>\n M\u00e1s de la mitad de las im\u00e1genes generadas de personas, o el 53 %, \u201cpresentaban individuos con ropa interior o bikini, de los cuales el 81 % eran de usuarios que se presentaban como mujeres\u201d, hallaron los investigadores. Cabe destacar que el 2 % de las im\u00e1genes mostraban a personas que parec\u00edan tener 18 a\u00f1os o menos.<\/p>\n AI Forensics tambi\u00e9n descubri\u00f3 que, en algunos casos, los usuarios solicitaron que se colocara a menores en posiciones er\u00f3ticas y que se mostraran fluidos sexuales en sus cuerpos. Grok accedi\u00f3 a estas solicitudes, seg\u00fan AI Forensics.<\/p>\n Aunque X permite contenido pornogr\u00e1fico, la propia \u201cpol\u00edtica de uso aceptable\u201d de xAI proh\u00edbe \u201crepresentar im\u00e1genes de personas de manera pornogr\u00e1fica\u201d y \u201cla sexualizaci\u00f3n o explotaci\u00f3n de ni\u00f1os\u201d.<\/p>\n X ha suspendido algunas cuentas por este tipo de solicitudes y ha eliminado las im\u00e1genes.<\/p>\n El 1 de enero, un usuario de X<\/a> se quej\u00f3 de que \u201cproponer una funci\u00f3n que muestra a personas en bikini sin impedir que funcione correctamente con ni\u00f1os es una total irresponsabilidad\u201d.<\/p>\n Un miembro del equipo de xAI respondi\u00f3:<\/a> \u201c\u00a1Hola! Gracias por informarnos. El equipo est\u00e1 estudiando c\u00f3mo reforzar a\u00fan m\u00e1s nuestras medidas de seguridad\u201d.<\/p>\n Ante la petici\u00f3n de los usuarios, el propio Grok reconoci\u00f3 que gener\u00f3 algunas im\u00e1genes de menores en situaciones sexualmente sugerentes.<\/p>\n \u201cAgradecemos que hayas informado sobre esto. Como se mencion\u00f3, hemos identificado fallas en las medidas de seguridad y las estamos solucionando urgentemente. El abuso sexual infantil es ilegal y est\u00e1 prohibido\u201d, public\u00f3<\/a> Grok el 2 de enero, instando a los usuarios a presentar denuncias formales ante el FBI y el Centro Nacional para Ni\u00f1os Desaparecidos y Explotados.<\/p>\n El 3 de enero, el propio Musk<\/a> coment\u00f3 en una publicaci\u00f3n separada: \u201cCualquiera que use Grok para crear contenido ilegal sufrir\u00e1 las mismas consecuencias que si subiera contenido ilegal\u201d.<\/p>\n La cuenta de seguridad de X hizo seguimiento y agreg\u00f3:<\/a> \u201cTomamos medidas contra el contenido ilegal en X, incluido el material de abuso sexual infantil (CSAM), elimin\u00e1ndolo, suspendiendo permanentemente las cuentas y trabajando con los Gobiernos locales y las fuerzas del orden seg\u00fan sea necesario\u201d.<\/p>\n Musk lleva mucho tiempo criticando lo que considera una censura excesiva. Y ha promocionado las versiones m\u00e1s expl\u00edcitas de Grok. En agosto, public\u00f3 que<\/a> el \u201cmodo picante\u201d ha contribuido al \u00e9xito de nuevas tecnolog\u00edas, como el VHS.<\/p>\n Seg\u00fan una fuente con conocimiento de la situaci\u00f3n en xAI, Musk lleva mucho tiempo descontento con la censura excesiva en Grok.<\/p>\n Otra fuente con conocimiento de la situaci\u00f3n en X afirm\u00f3 que el personal expres\u00f3 constantemente sus preocupaciones internamente y a Musk sobre el contenido inapropiado general creado por Grok.<\/p>\n En una reuni\u00f3n celebrada en las \u00faltimas semanas, antes de que estallara la \u00faltima controversia, Musk se reuni\u00f3 con el personal de xAI de varios equipos, donde \u201cestaba realmente descontento\u201d por las restricciones al generador de im\u00e1genes y videos Imagine de Grok, dijo la primera fuente con conocimiento de la situaci\u00f3n en xAI.<\/p>\n Aproximadamente al mismo tiempo de la reuni\u00f3n con Musk, tres empleados de xAI que hab\u00edan trabajado en el ya reducido equipo de seguridad de la empresa anunciaron p\u00fablicamente en X su salida: Vincent Stark, jefe de seguridad de producto; Norman Mu, quien dirigi\u00f3 el equipo de seguridad poscapacitaci\u00f3n y razonamiento; y Alex Chen, quien dirigi\u00f3 el equipo de personalidad y comportamiento de modelos poscapacitaci\u00f3n.<\/p>\n Ninguno explic\u00f3 los motivos de su salida.<\/p>\n La fuente tambi\u00e9n cuestion\u00f3 si xAI segu\u00eda utilizando herramientas externas como Thorn y Hive para detectar posible material de abuso sexual infantil (CSAM).<\/p>\n Confiar en Grok para dichas comprobaciones podr\u00eda ser m\u00e1s arriesgado, afirm\u00f3 la fuente. (Un portavoz de Thorn afirm\u00f3 que ya no trabajan directamente con X. Hive no respondi\u00f3 a una solicitud de comentarios).<\/p>\n El equipo de seguridad de X tambi\u00e9n tiene poca o ninguna supervisi\u00f3n sobre lo que Grok publica p\u00fablicamente, seg\u00fan fuentes que trabajan en X y xAI.<\/p>\n En noviembre, The Information inform\u00f3<\/a> que X despidi\u00f3 a la mitad del equipo de ingenier\u00eda que trabajaba en cuestiones de confianza y seguridad.<\/p>\n The Information tambi\u00e9n divulg\u00f3 que el personal de X estaba especialmente preocupado por la posibilidad de que la herramienta de generaci\u00f3n de im\u00e1genes de Grok \u201cpudiera provocar la difusi\u00f3n de im\u00e1genes ilegales o perjudiciales\u201d.<\/p>\n xAI no respondi\u00f3 a las solicitudes de comentarios, m\u00e1s all\u00e1 de un correo electr\u00f3nico autom\u00e1tico a todas las consultas de prensa que dec\u00eda: \u201cLegacy Media Lies\u201d.<\/p>\n Grok no es el \u00fanico modelo de IA que ha tenido problemas con im\u00e1genes de menores generadas por IA sin consentimiento.<\/p>\n Investigadores han encontrado videos generados por IA que muestran a menores con ropa o posturas sexualizadas en TikTok<\/a> y en la app Sora de ChatGPT<\/a>.<\/p>\n TikTok afirma tener una pol\u00edtica de tolerancia cero con el contenido que \u201cmuestre, promueva o participe en abuso o explotaci\u00f3n sexual infantil\u201d.<\/p>\n OpenAI afirma que \u201cproh\u00edbe estrictamente cualquier uso de nuestros modelos para crear o distribuir contenido que explote o perjudique a menores\u201d.<\/p>\n Existen barreras de seguridad que habr\u00edan impedido que las im\u00e1genes generadas por IA en Grok existieran, afirm\u00f3 Steven Adler, exinvestigador de seguridad de IA en OpenAI.<\/p>\n Se pueden crear barreras que escaneen una imagen para detectar si hay un ni\u00f1o y as\u00ed hacer que la IA act\u00fae con m\u00e1s cautela. Pero estas barreras tienen un coste.<\/p>\n Esos costos, dijo Adler, incluyen tiempos de respuesta m\u00e1s lentos, mayor cantidad de c\u00e1lculos y, a veces, el rechazo del modelo a solicitudes no problem\u00e1ticas.<\/p>\n Las autoridades de Europa, India y Malasia han iniciado investigaciones sobre las im\u00e1genes generadas por Grok.<\/p>\n El regulador de medios de Gran Breta\u00f1a, OFCOM, ha dicho que hizo \u201ccontacto urgente\u201d con las empresas de Musk sobre \u201cpreocupaciones muy serias\u201d con la funci\u00f3n Grok que \u201cproduce im\u00e1genes de personas desnudas e im\u00e1genes sexualizadas de ni\u00f1os\u201d.<\/p>\n En una conferencia de prensa<\/a> el lunes, el portavoz de la Comisi\u00f3n Europea, Thomas Regnier, comunic\u00f3 que la autoridad est\u00e1 \u201cinvestigando muy seriamente\u201d los informes sobre el \u201cmodo picante\u201d de X y Grok, \u201cque muestra contenido sexual expl\u00edcito con algunas salidas generadas con im\u00e1genes infantiles\u201d.<\/p>\n \u201cEsto es ilegal. Es atroz. Es repugnante. As\u00ed lo vemos, y esto no tiene cabida en Europa\u201d, denunci\u00f3.<\/p>\n La Comisi\u00f3n de Comunicaciones y Multimedia de Malasia (MCMC<\/a>) dice que est\u00e1 investigando el asunto.<\/p>\n