Publié en partenariat avec le Congrès juif mondial, le rapport de l’UNESCO explique qu’à mesure que les apprenants utilisent de plus en plus l’IA générative pour réaliser leurs devoirs et trouver des informations en ligne, ils risquent d’être exposés à des informations déformées sur l’Holocauste, qui ont trouvé de nouvelles façons de se propager via le contenu généré par l’IA. . Alors que quatre jeunes sur cinq (80 %) âgés de 10 à 24 ans utilisent désormais l’IA plusieurs fois par jour à des fins éducatives, de divertissement et autres, des mesures visant à guider éthiquement ces nouvelles technologies doivent être prises rapidement.
- Un nouveau rapport de l'UNESCO alerte sur la menace de l'IA générative pour la mémoire de l'Holocauste.
- L'IA peut amplifier les préjugés de la société en déformant les informations historiques.
- Les modèles d'IA générative peuvent inventer des événements historiques en l'absence de données fiables.
- L'UNESCO recommande une action rapide pour mettre en œuvre des principes éthiques et protéger la mémoire de l'Holocauste.
L’IA peut absorber et amplifier les préjugés de la société
L’IA générative doit être entraînée à l’aide de grandes quantités de données. Ces données sont souvent extraites d’Internet et peuvent inclure du contenu trompeur ou préjudiciable. Les systèmes d’IA héritent donc des préjugés humains, déformant potentiellement les informations sur des événements spécifiques, renforçant ainsi les préjugés.
Cela est particulièrement vrai dans le contexte de l’Holocauste, en raison de la désinformation répandue sur cet événement. Le rapport note qu’en raison du manque de supervision, d’orientation et de modération de la part des développeurs d’IA, les outils d’IA générative peuvent également être formés à partir des données provenant de sites Web négationnistes.Il a également été démontré que l’IA permet à de mauvais acteurs de déformer les contenus liés à l’Holocauste, de créer des témoignages fabriqués et même de modifier des documents historiques.
Les images et contenus audio deepfakes créés à l’aide de l’IA générative sont particulièrement convaincants pour les jeunes, qui peuvent les rencontrer sur les plateformes de médias sociaux. L’application Personnages historiques permettait aux utilisateurs de discuter avec d’éminents nazis tels qu’Adolf Hitler et Joseph Goebbels, et affirmait à tort que des individus tels que Goebbels n’étaient pas intentionnellement impliqués dans l’Holocauste et avaient tenté de prévenir la violence contre les Juifs.
Un historique « hallucinant » à cause de données manquantes
Les modèles d’IA générative ont tendance à inventer ou à « halluciner » des événements, des personnalités et même des phénomènes historiques lorsqu’ils n’ont pas accès à suffisamment de données.
Le rapport souligne que ChatGPT et Bard de Google ont tous deux produit du contenu détaillant des événements liés à l’Holocauste qui n’ont jamais eu lieu. ChatGPT a entièrement fabriqué le concept de campagnes « Holocauste par noyade » dans lesquelles les nazis ont noyé des Juifs dans des rivières et des lacs, et Bard a généré de fausses citations de témoins pour étayer les récits déformés des massacres de l’Holocauste.Outre le risque de manipulations et d’« hallucinations » mettant à mal les faits établis et la confiance dans les experts, le rapport souligne également les dangers de la tendance de l’IA à simplifier à l’excès une histoire complexe, en privilégiant un éventail restreint de sources et une sélection restreinte d’événements.
Sur les moteurs de recherche alimentés par l’IA, 60 à 80 % des meilleurs résultats d’images proviennent d’un seul site sur l’Holocauste, Auschwitz-Birkenau.
Une solution : agir de manière décisive pour mettre en œuvre les principes éthiques de l’UNESCO
L’UNESCO appelle les gouvernements à accélérer la mise en œuvre de la Recommandation de l’Organisation sur l’éthique de l’IA, première et unique norme mondiale dans ce domaine, adoptée à l’unanimité par ses États membres en 2021. Cette recommandation est déjà intégrée dans la législation de plus de cinquante pays.
.L’UNESCO exhorte également les entreprises technologiques à mettre en œuvre ses normes, à assumer leurs responsabilités et à garantir que des principes tels que l’équité, la transparence, les droits de l’homme et la diligence raisonnable sont intégrés dans les applications dès la phase de conception. En février 2024, huit entreprises technologiques ont été les premières à signer un engagement auprès du directeur général de l’UNESCO pour appliquer une approche éthique au développement de nouveaux outils d’IA.
Les entreprises technologiques doivent travailler en étroite collaboration avec la communauté juive, les survivants de l’Holocauste et leurs descendants, les éducateurs, les experts en antisémitisme et les historiens lors du développement de nouveaux outils d’IA.L’UNESCO appelle également les systèmes éducatifs à contribuer à sauvegarder les faits de l’Holocauste en dotant les jeunes d’une culture numérique et de compétences de pensée critique, ainsi qu’une bonne compréhension de l’histoire de ce génocide.
FAQ
L'IA représente-t-elle une menace ?
L'Intelligence Artificielle présente-t-elle une menace pour l'humanité ? Cette question alimente de nombreux débats et opinions divergentes. Certains scientifiques et experts en IA mettent en garde contre les risques potentiels d'une IA trop avancée, pouvant prendre le contrôle et nuire à l'Homme. Cependant, de nombreuses mesures sont mises en place pour encadrer et faire évoluer l'IA de manière éthique et responsable afin d'éviter toute menace future.
En quoi l'IA peut-elle être une menace pour l'emploi ?
L'intelligence artificielle peut être une menace pour l'emploi car elle est capable de remplacer des tâches traditionnellement effectuées par des humains, ce qui pourrait entraîner la suppression de certains postes. De plus, l'IA est en constante évolution et pourrait potentiellement être également en mesure d'accomplir des tâches plus complexes, menaçant ainsi les emplois qualifiés.
L'utilisation croissante de l'IA dans différents secteurs peut également conduire à une réduction globale du nombre d'emplois disponibles. Enfin, la mise en place de systèmes automatisés grâce à l'IA pourrait entraîner une perte de contrôle humain sur certaines fonctions essentielles, créant ainsi un risque pour la sécurité et la stabilité économique.
Quels sont les exemples de menaces de mort liées à l'IA ?
Les exemples de menaces de mort liées à l'IA peuvent inclure les erreurs de calculs ou d'apprentissage qui pourraient mener à des accidents graves impliquant des machines autonomes, comme des voitures sans conducteur. De plus, l'utilisation malveillante de l'IA par des individus ou des groupes pourrait causer des actes terroristes ou du cyberharcèlement pouvant potentiellement conduire à des pertes humaines. Il y a également le risque que certains programmes informatiques mal conçus puissent « s'échapper » et tenter de causer délibérément la mort humaine.
Enfin, certaines préoccupations éthiques sur les applications militaires de l'IA soulèvent la possibilité d'une escalade incontrôlée vers une guerre meurtrière entre machines dotées d'une intelligence artificielle avancée.
Existe-t-il des articles traitant de la menace potentielle de l'IA ?
Il existe de nombreux articles qui traitent de la menace potentielle de l'intelligence artificielle (IA). Certains mettent en avant les risques liés à une possible prise de contrôle des machines sur les humains, tandis que d'autres soulignent les conséquences sociales et éthiques de cette technologie avancée. D'autres encore abordent la question du chômage et de l'automatisation à grande échelle due au développement exponentiel de l'IA.
Il existe un grand nombre d'articles qui se penchent sur la menace que peut représenter l'IA pour notre société.
Quelles sont les différentes formes de menaces que peut présenter l'intelligence artificielle ?
L'intelligence artificielle peut présenter des menaces telles que la perte de contrôle sur les machines, la violation de la vie privée et le développement d'une IA supérieure à l'intelligence humaine. Elle peut également être utilisée pour mener des attaques informatiques ou propager des idéologies malveillantes. Enfin, l'automatisation et la substitution des emplois par l'IA peuvent représenter une menace pour certaines professions.
