(CNN) — Un grupo de expertos de OpenAI exige que las empresas de inteligencia artificial sean mucho m\u00e1s transparentes sobre los \u201cgraves riesgos\u201d de la IA y que protejan a los empleados que expresen preocupaciones sobre la tecnolog\u00eda que est\u00e1n desarrollando.<\/p>\n
\u201cLas empresas de inteligencia artificial tienen fuertes incentivos financieros para evitar una supervisi\u00f3n efectiva\u201d, se lee en la carta abierta publicada el martes y firmada por empleados actuales y anteriores de empresas de inteligencia artificial, incluido OpenAI, el creador detr\u00e1s de la famosa herramienta ChatGPT.<\/p>\n
Tambi\u00e9n pidieron a las empresas de inteligencia artificial que fomenten \u201cuna cultura de cr\u00edtica abierta\u201d que d\u00e9 la bienvenida, en lugar de castigar, a las personas que expresan sus preocupaciones, especialmente cuando la ley lucha por ponerse al d\u00eda con el r\u00e1pido avance de la tecnolog\u00eda.<\/p>\n
Las empresas han reconocido los «graves riesgos» que plantea la IA –desde la manipulaci\u00f3n hasta una p\u00e9rdida de control, conocida como «singularidad, que podr\u00eda resultar potencialmente en la extinci\u00f3n humana–, pero deber\u00edan hacer m\u00e1s para educar al p\u00fablico sobre los riesgos y las medidas de protecci\u00f3n, escribi\u00f3 el grupo.<\/p>\n
Tal como est\u00e1 vigente la ley, dijeron los empleados de IA, no creen que las empresas de IA compartan informaci\u00f3n clave sobre la tecnolog\u00eda de forma voluntaria.<\/p>\n
Es esencial, entonces, que los empleados actuales y anteriores hablen y que las empresas no apliquen acuerdos de \u201cdescr\u00e9dito\u201d ni tomen represalias contra quienes expresan preocupaciones relacionadas con el riesgo. «Las protecciones ordinarias a los denunciantes son insuficientes porque se centran en actividades ilegales, mientras que muchos de los riesgos que nos preocupan a\u00fan no est\u00e1n regulados», escribi\u00f3 el grupo.<\/p>\n
Empleados actuales y anteriores de OpenAI hablan sobre la necesidad de que la empresa y otros similares sean m\u00e1s transparentes sobre la tecnolog\u00eda que est\u00e1n desarrollando.. Cr\u00e9dito: Didem Mente\/Anadolu\/Getty Images<\/p>\n
Su carta llega en un momento en que las empresas se apresuran a implementar herramientas de IA generativa en sus productos, mientras los reguladores gubernamentales, las empresas y los consumidores luchan por un uso responsable. Mientras tanto, muchos expertos en tecnolog\u00eda, investigadores y l\u00edderes han pedido una pausa temporal en la carrera de la IA, o que el gobierno intervenga y cree una moratoria.<\/p>\n
La respuesta de OpenAI<\/p>\n
En respuesta a la carta, el portavoz de OpenAI dijo a CNN que est\u00e1 «orgulloso de nuestro historial proporcionando los sistemas de IA m\u00e1s capaces y seguros y cree en nuestro enfoque cient\u00edfico para abordar el riesgo\u201d, y agreg\u00f3 que la compa\u00f1\u00eda est\u00e1 de acuerdo en que «un debate riguroso es crucial dada la importancia de esta tecnolog\u00eda\u201d.<\/p>\n
OpenAI se\u00f1al\u00f3 que tiene una l\u00ednea directa de integridad an\u00f3nima y un Comit\u00e9 de Seguridad dirigido por miembros de su junta directiva y l\u00edderes de seguridad de la empresa. La empresa no vende informaci\u00f3n personal, no crea perfiles de usuario ni utiliza esos datos para dirigirse a nadie ni vender nada.<\/p>\n
Sin embargo, Daniel Ziegler, uno de los organizadores detr\u00e1s de la carta y uno de los primeros ingenieros de aprendizaje autom\u00e1tico que trabaj\u00f3 en OpenAI entre 2018 y 2021, dijo a CNN que es importante permanecer esc\u00e9ptico sobre el compromiso de la empresa con la transparencia.<\/p>\n
«Es realmente dif\u00edcil decir desde fuera qu\u00e9 tan en serio est\u00e1n tomando sus compromisos de aumentar la seguridad y determinar los da\u00f1os sociales, especialmente porque existen fuertes presiones comerciales para actuar muy r\u00e1pido», dijo. «Es realmente importante tener la cultura y los procesos adecuados para que los empleados puedan expresarse de manera espec\u00edfica cuando tengan inquietudes».<\/p>\n
Espera que m\u00e1s profesionales de la industria de la IA hagan p\u00fablicas sus preocupaciones como resultado de la carta.<\/p>\n
Mientras tanto, se espera que Apple anuncie una asociaci\u00f3n con OpenAI en su Conferencia Mundial de Desarrolladores anual para llevar la IA generativa al iPhone.<\/p>\n
«Vemos la IA generativa como una oportunidad clave en todos nuestros productos y creemos que tenemos ventajas que nos diferencian en eso», dijo el director ejecutivo de Apple, Tim Cook, en la conferencia telef\u00f3nica sobre resultados m\u00e1s reciente de la compa\u00f1\u00eda a principios de mayo.<\/p>\n
The-CNN-Wire
™ & © 2024 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.<\/p>\n","protected":false},"excerpt":{"rendered":"
(CNN) — Un grupo de expertos de OpenAI exige que las empresas de inteligencia artificial sean mucho m\u00e1s transparentes sobre los \u201cgraves riesgos\u201d de la IA y que protejan a los empleados que expresen preocupaciones sobre la tecnolog\u00eda que est\u00e1n desarrollando. \u201cLas empresas de inteligencia artificial tienen fuertes incentivos financieros para evitar una supervisi\u00f3n efectiva\u201d, […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[10],"tags":[],"class_list":["post-1450020","post","type-post","status-publish","format-standard","hentry","category-noticias-nacionales","market-global"],"yoast_head":"\n