OpenAI explora formas de permitir la generación de contenido NSFW de manera segura y responsable.

Estados Unidos.-OpenAI actualmente restringe la creación de material sexualmente explícito o insinuante a través de sus servicios. No obstante, un reciente comunicado de la empresa sugiere un cambio potencial en esta política.

“Estamos explorando si podemos proporcionar de manera responsable la capacidad de generar contenido NSFW en contextos apropiados a través de la API y ChatGPT”, se menciona en el documento de Especificaciones del modelo, fechado el 8 de mayo.

El documento detalla planes para abordar la complejidad de las instrucciones contradictorias y subraya el deseo de entender las expectativas del usuario en cuanto a interacciones con contenido para adultos.

Con el objetivo de otorgar mayor libertad a los desarrolladores y usuarios en el uso de sus modelos, OpenAI busca expandir aplicaciones en ámbitos científicos y artísticos, manteniendo un marco de seguridad.

Esto incluiría la capacidad de atender peticiones de texto con contenido erótico y blasfemias en un contexto seguro y controlado.

Niko Felix, portavoz de OpenAI, aclaró en una entrevista con Wired que la intención no es crear modelos para la producción de pornografía.

A pesar de ello, reconoció que los usuarios definirán sus propios usos del contenido adulto. Felix también destacó el empeño de la compañía en transparentar el desarrollo de sus modelos, considerando un amplio espectro de opiniones y aportaciones de distintos sectores.

Te puede interesar: Elon Musk Demanda a OpenAI por Desvío de su Misión Fundacional

Danielle Keats Citron, profesora de derecho, expresó su preocupación ante la potencial inclusión de contenido explícito por parte de OpenAI.

Advirtió sobre los riesgos legales de imágenes explícitas generadas sin consentimiento, un reto creciente para la IA generativa.

A pesar de las dudas, Citron concede a OpenAI la oportunidad de demostrar su capacidad para moderar el uso indebido de sus modelos por actores malintencionados.