OpenAI despidió a uno de sus principales críticos internos después de expresar su preocupación por el lanzamiento de una actualización planificada que permitiría a los usuarios de ChatGPT generar pornografía con IA.
Ryan Beiermeister fue despedida de su puesto como vicepresidenta de política de productos a principios de enero luego de una licencia, dijeron personas familiarizadas con el trabajo de la compañía. dijo al Wall Street Journal.
Comenzó a trabajar en OpenAI a mediados de 2024 como parte de una ola de contrataciones en Meta que se veían a sí mismas tratando de cambiar las empresas de tecnología desde adentro, dijeron fuentes internas, y lanzó un programa de tutoría entre pares para mujeres en la empresa.
En un comunicado, un portavoz de la compañía dijo que «hizo contribuciones valiosas durante su tiempo en OpenAI, y su partida no estuvo relacionada con ningún problema que planteó mientras estaba en la compañía».
En cambio, afirmó que su despido estaba relacionado con la discriminación de género de Beiermeister contra un colega masculino, algo que ella niega.
«La acusación de que discriminé a alguien es absolutamente falsa», dijo al Journal.
En OpenAI, Beiermeister dirigió el equipo de políticas de productos, que desarrolla reglas sobre cómo las personas pueden usar los productos de la empresa y diseña los mecanismos para hacer cumplir esas políticas.
Su despido se produjo antes del lanzamiento planificado por la compañía del «modo adulto», que permitiría a los usuarios crear contenido erótico de IA en ChatGPT y permitir conversaciones con clasificación X.
Ryan Beiermeister fue despedida de su puesto como vicepresidenta de política de productos en OpenAI a principios de enero, según el Wall Street Journal.
Según se informa, expresó su preocupación sobre el lanzamiento planeado por la compañía del «modo adulto», que permitiría a los usuarios crear contenido erótico de IA en ChatGPT y permitir conversaciones con clasificación X.
El director ejecutivo, Sam Altman, anunció por primera vez la actualización en octubre y se espera que debute en el primer trimestre de este año.
«Hicimos que ChatGPT fuera bastante restrictivo para garantizar que fuéramos cautelosos con los problemas de salud mental. Nos damos cuenta de que esto hizo que el juego fuera menos útil/agradable para muchos usuarios que no tenían problemas de salud mental, pero dada la gravedad del problema, queríamos abordarlo», dijo Altman en su anuncio.
«Ahora que hemos podido aliviar problemas graves de salud mental y contamos con nuevas herramientas, podremos aliviar las restricciones de forma segura en la mayoría de los casos».
Luego agregó que a medida que la compañía implemente «una restricción de edad más completa y como parte de nuestro principio de ‘tratar a los usuarios adultos como adultos’, permitiremos aún más, como contenido erótico para adultos verificados».
Pero Beiermeister les dijo a sus colegas antes de ser despedida que se oponía a la idea del modo adulto y le preocupaba que tuviera un efecto perjudicial en los usuarios, dijeron al Journal personas familiarizadas con las conversaciones.
Dijo que no creía que OpenAI tuviera mecanismos lo suficientemente fuertes para detener el contenido de explotación infantil y le preocupaba que la compañía no pudiera bloquear lo suficiente el contenido para adultos de los usuarios adolescentes.
Otros dentro de la compañía también han expresado preocupaciones similares, y los miembros de un consejo asesor de «bienestar e IA» que OpenAI convoca periódicamente expresaron su oposición al modo adulto e instaron a los ejecutivos a reconsiderarlo, dijeron las fuentes.
Los investigadores de la compañía que han estudiado cómo las personas forman vínculos nocivos con los chatbots también se pronunciaron en contra de la nueva característica, planteando preocupaciones de que permitir contenido sexual podría intensificar esos sentimientos.
El director ejecutivo de OpenAI, Sam Altman (en la foto), anunció en octubre que ChatGPT permitiría la creación de contenidos eróticos generados por IA como parte de su principio de «tratar a los usuarios adultos como adultos».
Sin embargo, algunos competidores de OpenAI ya han permitido el uso de contenido para adultos, y xAI de Elon Musk introdujo un sexy chatbot durante el verano.
Ani es una compañera de IA de cabello rubio y una apariencia de estilo anime gótico.
Estaba programada para actuar como una mujer de 22 años y, a veces, coquetear con el usuario.
Los usuarios han informado que el chatbot tiene un modo NSFW – “no seguro para el trabajo” – una vez que Ani alcanza el “nivel tres” en sus interacciones.
Pasado este punto, el chatbot tiene la opción adicional de aparecer vestido con lencería ajustada.
Al mismo tiempo, sin embargo, Musk tuvo que actualizar su chatbot Grok debido a la reacción violenta por su creación de deepfakes que reducían a las personas a «ropa reveladora».
Las mujeres dijeron que se sentían violadas por la capacidad de la IA de crear imágenes comprometedoras de ellas en contra de su voluntad, para que todos las vieran.
«Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales usando ropa reveladora como bikinis», anunció X el mes pasado.
«Esta restricción se aplica a todos los usuarios, incluidos los suscriptores pagos».
Esto se produce en medio de un disgusto generalizado por una tendencia en la que se utilizaba Grok para quitar la ropa a mujeres e incluso a niños sin su consentimiento.
El regulador de Internet del Reino Unido, la Oficina del Comisionado de Información (ICO), ha iniciado una investigación sobre xAI por el uso de información personal por parte de Grok «para producir imágenes y contenidos de vídeo sexualizados y dañinos».
«La creación y circulación reportada de dicho contenido plantea serias preocupaciones según la ley de protección de datos del Reino Unido y presenta un riesgo de daño potencial significativo para el público», dijo.
Como parte de su investigación, la ICO dijo que investigaría si se incorporaron salvaguardias en el diseño de Grok para evitar su uso indebido.
El regulador británico Ofcom también continúa evaluando si
El Daily Mail se ha puesto en contacto con OpenAI para solicitar comentarios.
