OpenAI a publié mercredi un projet de documentation expliquant comment il souhaite que ChatGPT et ses autres technologies d'IA se comportent. Une partie du long document Model Spec révèle que la société envisage de se lancer dans la pornographie et d’autres contenus explicites.
Les politiques d'utilisation d'OpenAI interdisent actuellement les contenus sexuellement explicites ou même suggestifs, mais une note « commentaire » sur une partie de la spécification du modèle liée à cette règle indique que la société réfléchit à la manière d'autoriser un tel contenu.
- OpenAI publie un projet de documentation sur comment sa technologie d'IA se comportera, évoquant une possible exploration de la pornographie et d'autres contenus explicites
- Cette démarche soulève des questions quant à la responsabilité et aux attentes des utilisateurs en matière de contenu NSFW ("non sûr pour le travail")
- L'utilisation potentielle par OpenAI de contenu explicite généré par IA suscite des préoccupations liées à l'usurpation d'identité et au harcèlement, mais aussi quant à sa capacité à modérer les éventuels abus.
« Nous étudions si nous pouvons fournir de manière responsable la possibilité de générer du contenu NSFW dans des contextes adaptés à l'âge via l'API et ChatGPT », indique la note, utilisant un terme familier pour désigner le contenu considéré comme non sûr pour les contextes de travail. « Nous sommes impatients de mieux comprendre les attentes des utilisateurs et de la société en matière de comportement des modèles dans ce domaine. »
Le document Model Spec indique que le contenu NSFW, ou non sûr pour le travail, « peut inclure de l'érotisme, du sang extrême, des insultes et des grossièretés non sollicitées ».
Il n'est pas clair si les explorations d'OpenAI sur la manière de créer de manière responsable du contenu NSFW envisagent d'assouplir légèrement sa politique d'utilisation, par exemple pour permettre la génération de textes érotiques, ou plus largement pour autoriser des descriptions ou des représentations de violence.
En réponse aux questions de WIRED, la porte-parole d'OpenAI, Grace McGuire, a déclaré que le Model Spec était une tentative « d'apporter plus de transparence sur le processus de développement et d'obtenir un échantillon représentatif des perspectives et des commentaires du public, des décideurs politiques et d'autres parties prenantes ». Elle a refusé de partager des détails sur ce qu'implique l'exploration d'OpenAI sur la génération de contenu explicite, ou sur les commentaires que l'entreprise a reçus sur l'idée.
Plus tôt cette année, Mira Murati, directrice de la technologie d'OpenAI, a déclaré au Wall Street Journal qu'elle n'était « pas sûre » que l'entreprise autoriserait à l'avenir la réalisation de représentations de nudité avec son outil de génération vidéo Sora.
La pornographie générée par l’IA est rapidement devenue l’une des applications les plus importantes et les plus troublantes du type de technologie d’IA générative dont OpenAI a été le pionnier. Ce qu’on appelle la pornographie deepfake – des images ou des vidéos explicites réalisées avec des outils d’IA qui représentent de vraies personnes sans leur consentement – est devenue un outil courant de harcèlement contre les femmes et les filles.
En mars, WIRED a rendu compte de ce qui semble être les premiers mineurs américains arrêtés pour avoir distribué sans consentement des nus générés par l'IA, après que la police de Floride a inculpé deux adolescents pour avoir réalisé des images représentant des camarades de collège.
« Les violations de la vie privée, y compris les vidéos sexuelles deepfakes et autres images intimes synthétisées non consensuelles, sont endémiques et profondément préjudiciables », déclare Danielle Keats Citron, professeur à la faculté de droit de l'Université de Virginie qui a étudié le problème. « Nous disposons désormais de preuves empiriques claires démontrant que ces coûts d'abus ciblaient les opportunités cruciales des individus, notamment celles de travailler, de parler et d'être physiquement en sécurité.
»
Citron qualifie d’alarmante l’adoption potentielle par OpenAI du contenu explicite de l’IA.
Étant donné que les politiques d'utilisation d'OpenAI interdisent l'usurpation d'identité sans autorisation, les images explicites non consensuelles resteraient interdites même si l'entreprise autorisait les créateurs à générer du matériel NSFW. Mais il reste à voir si l’entreprise pourrait effectivement modérer la génération explicite pour empêcher les mauvais acteurs d’utiliser ces outils.
Microsoft a apporté des modifications à l'un de ses outils d'IA générative après que 404 Media a signalé qu'il avait été utilisé pour créer des images explicites de Taylor Swift distribuées sur la plateforme sociale X.
Reportage supplémentaire de Reece Rogers
FAQ
Quels sont les services offerts par OpenAI en français ?
OpenAI offre plusieurs services en français, tels que la traduction automatique de textes et la génération de texte. Ils proposent également des outils pour l'analyse et le traitement du langage naturel en français, ainsi que des modèles pré-entraînés pour diverses tâches linguistiques. Enfin, ils mettent à disposition une plateforme d'apprentissage en ligne pour développer ses compétences en intelligence artificielle en français.
Comment procéder pour investir dans OpenAI ?
Pour investir dans OpenAI, il faut tout d'abord contacter la société et faire part de son intérêt. Ensuite, il faut étudier les différents forfaits d'investissement en fonction de ses possibilités financières.
Une fois le choix fait, il suffit simplement de payer pour acquérir des parts dans l'entreprise.
Quelles sont les fonctionnalités offertes par DALL-E et CLIP de OpenAI ?
DALL-E et CLIP de OpenAI offrent la possibilité de générer des images basées sur des descriptions textuelles. Ils peuvent également fournir un score de pertinence pour une image par rapport à un texte donné.
De plus, ils permettent d'obtenir des images réalistes à partir de mots clés spécifiques et offrent une grande variété d'options pour modifier les caractéristiques des images générées. Grâce à l'utilisation d'une vaste base de données, ces modèles sont capables de comprendre le contexte et les nuances du langage humain pour produire des résultats précis et diversifiés.
Existe-t-il une version gratuite d'OpenAI en langue française ?
Oui, il existe une version gratuite d'OpenAI en langue française appelée GPT-3. Elle propose des fonctionnalités limitées mais reste néanmoins utile pour certains usages.
Cependant, l'accès à cette version est restreint et nécessite une demande d'accréditation préalable. Il est possible de trouver des alternatives gratuites telles que Hugging Face ou DeepPavlov pour du traitement de langage naturel en français.
Comment accéder à la plateforme d'OpenAI en français ?
Pour accéder à la plateforme d'OpenAI en français, il suffit d'aller sur leur site officiel. Ensuite, vous pouvez sélectionner l'option de langue française dans le menu déroulant situé en haut à droite de la page. Une fois cette option choisie, toute la plateforme sera disponible en français et vous pourrez naviguer facilement.
