(CNN) — La junta de supervisi\u00f3n de Meta evaluar\u00e1 el manejo de la pornograf\u00eda deepfake por parte de la compa\u00f1\u00eda en medio de crecientes preocupaciones de que la Inteligencia Artificial (IA) est\u00e9 impulsando un aumento en la creaci\u00f3n de im\u00e1genes falsas y gr\u00e1ficas como una forma de acoso.<\/p>\n
La junta de supervisi\u00f3n dijo este martes que revisar\u00e1 c\u00f3mo Meta abord\u00f3 dos im\u00e1genes gr\u00e1ficas generadas por inteligencia artificial de figuras p\u00fablicas femeninas, una de Estados Unidos y otra de la India, para evaluar si la compa\u00f1\u00eda cuenta con pol\u00edticas y pr\u00e1cticas apropiadas para abordar dicho contenido (y si est\u00e1 aplicando esas pol\u00edticas de manera consistente en todo el mundo).<\/p>\n
Generador de im\u00e1genes de IA de Meta recibe cr\u00edticas por sesgo racial<\/p>\n
La amenaza de la pornograf\u00eda generada por IA ha llamado la atenci\u00f3n en los \u00faltimos meses, y tanto celebridades como Taylor Swift como estudiantes de secundaria estadounidenses y otras mujeres de todo el mundo, han sido v\u00edctimas de esta forma de abuso digital. Las herramientas de IA generativa, que son muy accesibles, han hecho que crear este tipo de im\u00e1genes sea m\u00e1s r\u00e1pido, f\u00e1cil y barato. Mientras tanto, las plataformas de redes sociales permiten difundir estas im\u00e1genes r\u00e1pidamente.<\/p>\n
«La pornograf\u00eda deepfake \u2014que alude a los sistemas inform\u00e1ticos que\u00a0permiten, mediante t\u00e9cnicas de Inteligencia Artificial, desarrollar videos manipulados extremadamente realistas\u2014 es una causa creciente de acoso por motivos de g\u00e9nero en l\u00ednea y se utiliza cada vez m\u00e1s para atacar, silenciar e intimidar a las mujeres, tanto online como offline», dijo en un comunicado la copresidenta de la junta de supervisi\u00f3n de Meta, Helle Thorning-Schmidt.<\/p>\n
«Sabemos que Meta es m\u00e1s r\u00e1pido y eficaz a la hora de moderar contenidos en algunos mercados e idiomas que en otros», afirm\u00f3 Thorning-Schmidt, ex primer ministro de Dinamarca. «Al tomar un caso de EE.UU. y otro de la India, queremos comprobar si Meta est\u00e1 protegiendo a todas las mujeres en todo el mundo de manera justa».<\/p>\n
La junta fiscalizadora del Meta es una entidad integrada por expertos en \u00e1reas como libertad de expresi\u00f3n y derechos humanos. A menudo se la describe como «una especie de Corte Suprema de Meta», ya que permite a los usuarios apelar decisiones de contenido en las plataformas de la empresa. La junta hace recomendaciones a la empresa sobre c\u00f3mo manejar ciertas decisiones de moderaci\u00f3n de contenido, as\u00ed como sugerencias de pol\u00edticas m\u00e1s amplias.<\/p>\n
Apple, Google y Meta corren el riesgo de recibir fuertes multas en Europa<\/p>\n
Como parte de su revisi\u00f3n, la junta evaluar\u00e1 un caso de una imagen generada por IA que se asemeja a una figura p\u00fablica de la India y que fue compartida en Instagram por una cuenta que «solo comparte im\u00e1genes de mujeres indias generadas por IA».<\/p>\n
Un usuario denunci\u00f3 la imagen por ser pornogr\u00e1fica, pero el informe se cerr\u00f3 autom\u00e1ticamente despu\u00e9s de que Instagram no recibi\u00f3 una revisi\u00f3n dentro de las 48 horas. El mismo usuario apel\u00f3 la decisi\u00f3n de Instagram de dejar la imagen, pero el informe nuevamente no fue revisado y se cerr\u00f3 autom\u00e1ticamente. Despu\u00e9s de que la junta de supervisi\u00f3n le inform\u00f3 a Meta su intenci\u00f3n de hacerse cargo del caso, la compa\u00f1\u00eda determin\u00f3 que hab\u00eda permitido err\u00f3neamente que la imagen permaneciera y la elimin\u00f3 por violar las reglas de intimidaci\u00f3n y acoso, seg\u00fan la junta.<\/p>\n
El segundo caso involucra una imagen generada por IA de una mujer desnuda siendo manoseada, que fue publicada en un grupo de Facebook de creaciones de IA. La imagen deb\u00eda parecerse a una figura p\u00fablica estadounidense, que tambi\u00e9n se menciona en el t\u00edtulo de la imagen.<\/p>\n
Meta identificar\u00e1 autom\u00e1ticamente im\u00e1genes de IA creadas por terceros<\/p>\n
La misma imagen hab\u00eda sido publicada previamente por un usuario diferente, pero se remiti\u00f3 a expertos en pol\u00edticas que decidieron eliminarla por violar las reglas de intimidaci\u00f3n y acoso, \u201cespec\u00edficamente por ‘Photoshop o dibujos despectivos y sexualizados’\u201d. Luego se agreg\u00f3 la imagen a un banco de coincidencias de fotograf\u00edas que detecta autom\u00e1ticamente cuando se vuelven a publicar im\u00e1genes que infringen las pol\u00edticas de uso, por lo que la publicaci\u00f3n del segundo usuario se elimin\u00f3 autom\u00e1ticamente.<\/p>\n
Como parte de esta \u00faltima revisi\u00f3n, la junta de supervisi\u00f3n est\u00e1 buscando comentarios p\u00fablicos, que pueden enviarse de forma an\u00f3nima, sobre la pornograf\u00eda deepfake, incluido c\u00f3mo dicho contenido puede da\u00f1ar a las mujeres y c\u00f3mo Meta ha respondido a publicaciones que presentan im\u00e1genes expl\u00edcitas generadas por IA. El periodo de comentarios p\u00fablicos cierra el 30 de abril.<\/p>\n
The-CNN-Wire
™ & © 2024 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.<\/p>\n","protected":false},"excerpt":{"rendered":"
(CNN) — La junta de supervisi\u00f3n de Meta evaluar\u00e1 el manejo de la pornograf\u00eda deepfake por parte de la compa\u00f1\u00eda en medio de crecientes preocupaciones de que la Inteligencia Artificial (IA) est\u00e9 impulsando un aumento en la creaci\u00f3n de im\u00e1genes falsas y gr\u00e1ficas como una forma de acoso. La junta de supervisi\u00f3n dijo este martes […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[10],"tags":[],"class_list":["post-1448166","post","type-post","status-publish","format-standard","hentry","category-noticias-nacionales","market-global"],"yoast_head":"\n