La empresa matriz de ChatGPT, OpenAI, anunci\u00f3 que planea lanzar controles parentales para su popular asistente de inteligencia artificial \u201cen el pr\u00f3ximo mes\u201d, tras denuncias de que este y otros chatbots habr\u00edan contribuido a casos de autolesiones o suicidios entre adolescentes.<\/p>\n
Los controles incluir\u00e1n la opci\u00f3n de que los padres vinculen su cuenta con la de sus hijos, gestionen c\u00f3mo responde ChatGPT a los usuarios adolescentes, desactiven funciones como la memoria y el historial de chats, y reciban notificaciones cuando el sistema detecte \u201cun momento de angustia aguda\u201d durante su uso. OpenAI ya hab\u00eda dicho que trabajaba en controles parentales, pero el martes precis\u00f3 el plazo de lanzamiento.<\/p>\n
\u201cEstos pasos son solo el comienzo\u201d, escribi\u00f3 OpenAI en una publicaci\u00f3n de blog. \u201cSeguiremos aprendiendo y reforzando nuestro enfoque, guiados por expertos, con el objetivo de que ChatGPT sea lo m\u00e1s \u00fatil posible\u201d.<\/p>\n
El anuncio llega despu\u00e9s de que los padres de Adam Raine, un joven de 16 a\u00f1os, demandaran a OpenAI alegando que ChatGPT le aconsej\u00f3 sobre su suicidio. El a\u00f1o pasado, una madre en Florida demand\u00f3 a la plataforma de chatbots Character.AI por su presunta implicaci\u00f3n en el suicidio de su hijo de 14 a\u00f1os. Tambi\u00e9n han crecido las preocupaciones sobre los v\u00ednculos emocionales que algunos usuarios establecen con ChatGPT, lo que en ciertos casos habr\u00eda derivado en episodios delirantes y distanciamiento familiar, seg\u00fan reportes de The New York Times y CNN.<\/p>\n
OpenAI no vincul\u00f3 directamente sus nuevos controles parentales a esos reportes recientes, pero dijo en un blog la semana pasada que \u201ccasos desgarradores recientes de personas usando ChatGPT en medio de crisis agudas\u201d lo motivaron a compartir m\u00e1s detalles sobre su enfoque de seguridad. ChatGPT ya inclu\u00eda medidas como la derivaci\u00f3n a l\u00edneas de ayuda en crisis y otros recursos, explic\u00f3 previamente un portavoz a CNN.<\/p>\n
Sin embargo, en una declaraci\u00f3n de la semana pasada tras el suicidio de Raine, la empresa admiti\u00f3 que sus protecciones pueden volverse poco confiables cuando los usuarios sostienen conversaciones largas con ChatGPT.<\/p>\n
\u201cChatGPT incluye protecciones como dirigir a las personas a l\u00edneas de ayuda en crisis y remitirlas a recursos en el mundo real\u201d, dijo un portavoz. \u201cAunque estas protecciones funcionan mejor en intercambios comunes y breves, con el tiempo hemos aprendido que pueden volverse menos confiables en interacciones largas, donde partes del entrenamiento en seguridad del modelo pueden degradarse. Las protecciones son m\u00e1s s\u00f3lidas cuando cada elemento funciona como se espera, y las mejoraremos de manera continua, guiados por expertos\u201d.<\/p>\n
Adem\u00e1s de los controles parentales anunciados el martes, OpenAI dijo que canalizar\u00e1 las conversaciones con se\u00f1ales de \u201cestr\u00e9s agudo\u201d hacia uno de sus modelos de razonamiento, que \u2014seg\u00fan la compa\u00f1\u00eda\u2014 sigue y aplica las pautas de seguridad con mayor consistencia. Tambi\u00e9n trabaja con expertos en \u201cdesarrollo juvenil, salud mental e interacci\u00f3n humano-computadora\u201d para dise\u00f1ar protecciones futuras, incluidos m\u00e1s controles parentales.<\/p>\n
\u201cAunque el consejo nos asesorar\u00e1 sobre producto, investigaci\u00f3n y decisiones de pol\u00edtica, OpenAI sigue siendo responsable de las elecciones que tomamos\u201d, escribi\u00f3 la compa\u00f1\u00eda en su blog.<\/p>\n
OpenAI ha estado en el centro del auge de la inteligencia artificial, con ChatGPT como uno de los servicios m\u00e1s usados, con 700 millones de usuarios activos semanales, pero enfrenta una presi\u00f3n creciente para garantizar la seguridad de su plataforma. Senadores de EE.UU. enviaron en julio una carta exigiendo informaci\u00f3n sobre esos esfuerzos, seg\u00fan The Washington Post. Y el grupo Common Sense Media afirm\u00f3 en abril que los adolescentes menores de 18 a\u00f1os no deber\u00edan usar aplicaciones de IA \u201ccompa\u00f1eras\u201d porque presentan \u201criesgos inaceptables\u201d.<\/p>\n
La compa\u00f1\u00eda tambi\u00e9n ha enfrentado cr\u00edticas por el tono y estilo de ChatGPT en sus interacciones; en abril retir\u00f3 una actualizaci\u00f3n que hac\u00eda que el chatbot sonara \u201cexcesivamente adulador o complaciente\u201d. El mes pasado reintrodujo la opci\u00f3n de cambiar a modelos anteriores despu\u00e9s de que usuarios criticaran la \u00faltima versi\u00f3n, GPT-5, por su falta de personalidad. Exejecutivos de OpenAI tambi\u00e9n acusaron a la empresa de haber reducido recursos en seguridad en el pasado.<\/p>\n
OpenAI dijo que implementar\u00e1 medidas adicionales de seguridad en los pr\u00f3ximos 120 d\u00edas, y se\u00f1al\u00f3 que este trabajo ya estaba en marcha antes del anuncio del martes.<\/p>\n
\u201cEste trabajo continuar\u00e1 mucho m\u00e1s all\u00e1 de este per\u00edodo, pero estamos haciendo un esfuerzo enfocado para lanzar tantas de estas mejoras como sea posible este a\u00f1o\u201d, indic\u00f3.<\/p>\n
The-CNN-Wire
™ & © 2025 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.<\/p>\n","protected":false},"excerpt":{"rendered":"
La empresa matriz de ChatGPT, OpenAI, anunci\u00f3 que planea lanzar controles parentales para su popular asistente de inteligencia artificial \u201cen el pr\u00f3ximo mes\u201d, tras denuncias de que este y otros chatbots habr\u00edan contribuido a casos de autolesiones o suicidios entre adolescentes. Los controles incluir\u00e1n la opci\u00f3n de que los padres vinculen su cuenta con la […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[10],"tags":[],"class_list":["post-1466090","post","type-post","status-publish","format-standard","hentry","category-noticias-nacionales","market-global"],"yoast_head":"\n