Nota del editor: Esta historia incluye descripciones expl\u00edcitas que algunos lectores pueden considerar perturbadoras.<\/p>\n
Nueva York (CNN) — Un video perturbador de un hombre sosteniendo lo que \u00e9l dec\u00eda era la cabeza decapitada de su padre circul\u00f3 durante horas en YouTube. Fue visto m\u00e1s de 5.000 veces antes de ser retirado.<\/p>\n
El incidente es uno de los innumerables ejemplos de contenidos atroces y a menudo espeluznantes que circulan sin filtro por las redes sociales. La semana pasada se vieron millones de veces en X im\u00e1genes pornogr\u00e1ficas de Taylor Swift generadas por inteligencia artificial, y cada vez aparecen m\u00e1s videos similares en los que aparecen mujeres menores de edad y que no han dado su consentimiento. Algunas personas han transmitido en directo asesinatos en Facebook.<\/p>\n
Arrestan a un hombre que public\u00f3 un video con la cabeza decapitada de su padre criticando al Gobierno de Biden<\/p>\n
El espeluznante video de la decapitaci\u00f3n se public\u00f3 horas antes de que los principales CEO de tecnolog\u00eda se dirijan al Capitolio para una audiencia sobre seguridad infantil y redes sociales. Sundar Pichai, CEO de Alphabet, empresa matriz de YouTube, no se encuentra entre esos directivos.<\/p>\n
En un comunicado, YouTube dijo: «YouTube tiene pol\u00edticas estrictas que proh\u00edben la violencia gr\u00e1fica y el extremismo violento. El video fue eliminado por violar nuestra pol\u00edtica de violencia gr\u00e1fica y el canal de Justin Mohn fue dado de baja de acuerdo con nuestras pol\u00edticas de extremismo violento. Nuestros equipos est\u00e1n siguiendo de cerca para eliminar cualquier resubida del video».<\/p>\n
Pero las plataformas en l\u00ednea tienen dificultades para seguir el ritmo. Y no se est\u00e1n haciendo un favor a s\u00ed mismas, confiando en algoritmos y equipos subcontratados para moderar el contenido en lugar de empleados que puedan desarrollar mejores estrategias para abordar el problema.<\/p>\n
En 2022, X elimin\u00f3 equipos centrados en cuestiones de seguridad, pol\u00edtica p\u00fablica y derechos humanos despu\u00e9s de que Elon Musk asumiera el mando. A principios del a\u00f1o pasado, Twitch, una plataforma de livestreaming propiedad de Amazon, despidi\u00f3 a algunos empleados centrados en la IA responsable y otros trabajos de confianza y seguridad, seg\u00fan antiguos empleados y publicaciones p\u00fablicas en las redes sociales. Microsoft prescindi\u00f3 de un equipo clave centrado en el desarrollo \u00e9tico de productos de inteligencia artificial. Y Meta, matriz de Facebook, recort\u00f3 personal en puestos no t\u00e9cnicos como parte de su \u00faltima ronda de despidos.<\/p>\n
Nueva ronda de despidos en Meta afecta a los equipos de negocios de la empresa<\/p>\n
Los cr\u00edticos suelen acusar a las plataformas de redes sociales de falta de inversi\u00f3n en seguridad cuando aparecen videos perturbadores similares y publicaciones llenas de desinformaci\u00f3n que permanecen en l\u00ednea durante demasiado tiempo y se propagan a otras plataformas.<\/p>\n
«Plataformas como YouTube no han invertido lo suficiente en sus equipos de confianza y seguridad -comparado, por ejemplo, con lo que han invertido en ventas de publicidad-, de modo que estos videos tardan demasiado en desaparecer», afirma Josh Golin, director ejecutivo de Fair Play for Kids, que trabaja para proteger a los ni\u00f1os en Internet.<\/p>\n
Pero eso es solo una parte del problema. Los algoritmos que rigen estas plataformas se centran en los videos que reciben mucha atenci\u00f3n en forma de compartidos y me gusta. Esto agrava el problema de este tipo de videos.<\/p>\n
«Incluso cuando las empresas tecnol\u00f3gicas tienen pr\u00e1cticas para etiquetar los contenidos violentos, no son capaces de moderarlos y eliminarlos con la suficiente rapidez, y la desafortunada realidad es que los ni\u00f1os y adolescentes siguen vi\u00e9ndolos antes de que sean retirados», dijo James Steyer, fundador y CEO de Common Sense Media.<\/p>\n
Steyer a\u00f1adi\u00f3 que el volumen de videos que necesitan moderaci\u00f3n es abrumador para YouTube y otras plataformas, ya sea por capacidad o por voluntad. Se\u00f1al\u00f3 que las im\u00e1genes traumatizantes pueden tener un efecto duradero en la salud mental y el bienestar de los ni\u00f1os.<\/p>\n
Pero, hasta hace poco, las empresas tecnol\u00f3gicas no han recibido incentivos para replantearse sus inversiones en moderaci\u00f3n de contenidos. A pesar de las promesas de legisladores y reguladores, las grandes tecnol\u00f3gicas han actuado por su cuenta, incluso cuando los defensores de los consumidores afirman que las redes sociales ponen a los j\u00f3venes en peligro de sufrir depresiones, acoso o abusos sexuales.<\/p>\n
La diseminaci\u00f3n de noticias falsas y la manipulaci\u00f3n de las masas son algunas de las amenazas de la neurotecnolog\u00eda, seg\u00fan experta<\/p>\n
Cuando las empresas tecnol\u00f3gicas han actuado para frenar los contenidos nocivos en sus plataformas, les ha resultado dif\u00edcil mantener el ritmo: su reputaci\u00f3n no ha mejorado en absoluto, sino todo lo contrario.<\/p>\n
Sin embargo, se espera que las empresas tecnol\u00f3gicas, que se enfrentan a un proceso el mi\u00e9rcoles ante el Congreso, presenten herramientas y pol\u00edticas para proteger a los ni\u00f1os y dar a los padres m\u00e1s control sobre las experiencias de sus hijos en Internet. Sin embargo, los padres y los grupos de defensa de la seguridad en l\u00ednea afirman que muchas de las herramientas presentadas por las plataformas de redes sociales no van lo suficientemente lejos porque dejan en gran medida la tarea de proteger a los adolescentes en manos de los padres y, en algunos casos, de los propios usuarios j\u00f3venes. Los defensores afirman que las plataformas tecnol\u00f3gicas no pueden seguir autorregul\u00e1ndose.<\/p>\n
— Clare Duffy y Brian Fung de CNN contribuyeron con este reportaje.<\/p>\n
The-CNN-Wire
\u2122 & \u00a9 2024 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.<\/p>\n","protected":false},"excerpt":{"rendered":"
Nota del editor: Esta historia incluye descripciones expl\u00edcitas que algunos lectores pueden considerar perturbadoras. Nueva York (CNN) — Un video perturbador de un hombre sosteniendo lo que \u00e9l dec\u00eda era la cabeza decapitada de su padre circul\u00f3 durante horas en YouTube. Fue visto m\u00e1s de 5.000 veces antes de ser retirado. El incidente es uno […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[10],"tags":[],"class_list":["post-1444755","post","type-post","status-publish","format-standard","hentry","category-noticias-nacionales","market-global"],"yoast_head":"\n