Dans son discours au sommet du G7, le pape François évoque la menace et la promesse de l'intelligence artificielle, la « condition techno-humaine », la prise de décision humaine ou algorithmique, les essais écrits sur l'IA et la nécessité d'une collaboration politique sur la technologie.
- Le pape François évoque la menace et la promesse de l'intelligence artificielle
- Il souligne que l'IA n'est ni objective ni neutre
- Il met en garde contre les décisions algorithmiques et les essais générés par l'IA
- Le Pape appelle à une collaboration politique pour développer une éthique-algoriste et relever les défis de l'IA
Par Joseph Tulloch
Vendredi après-midi, le pape François s'est adressé au sommet des dirigeants du G7 dans les Pouilles, en Italie.
Il est le premier pape à prendre la parole lors de ce forum, qui rassemble les dirigeants des États-Unis, du Royaume-Uni, de l'Italie, de la France, du Canada, de l'Allemagne et du Japon.
IA : dangers et promesses
Le pape a consacré son discours au G7 au sujet de l'intelligence artificielle.
Il a commencé par dire que la naissance de l’IA représente « une véritable révolution cognitivo-industrielle » qui conduira à des « transformations d’époque complexes ».
Ces transformations, a déclaré le Pape, ont le potentiel d'être à la fois positives – par exemple, la « démocratisation de l'accès à la connaissance », le « progrès exponentiel de la recherche scientifique » et la réduction du « travail exigeant et pénible » – et négatives. par exemple, « une plus grande injustice entre les pays avancés et les pays en développement ou entre les classes sociales dominantes et opprimées ».
Le pape François salue les dirigeants du G7
La « condition techno-humaine »
Notant que l’IA est « avant tout un outil », le Pape a évoqué ce qu’il appelle la « condition techno-humaine ».
Il a expliqué qu'il faisait référence au fait que la relation des humains avec l'environnement a toujours été médiatisée par les outils qu'ils ont produits.
Certains, a déclaré le Pape, y voient une faiblesse ou une carence ; cependant, a-t-il soutenu, il s’agit en fait de quelque chose de positif. Cela vient, dit-il, du fait que nous sommes des êtres « enclins à ce qui est extérieur à nous », des êtres « radicalement ouverts sur l’au-delà ».
Cette ouverture, a déclaré le pape François, est à la fois la racine de notre « condition techno-humaine » et la racine de notre ouverture aux autres et à Dieu, ainsi que la racine de notre créativité artistique et intellectuelle.
Le pape s'adressant au G7
Prise de décision : humains contre machines
Le Pape a ensuite abordé le sujet de la prise de décision.
Il a déclaré que l’IA est capable de faire des « choix algorithmiques », c’est-à-dire des choix « techniques » « parmi plusieurs possibilités, basés soit sur des critères bien définis, soit sur des inférences statistiques ».
Cependant, les êtres humains « non seulement choisissent, mais sont capables de décider dans leur cœur ».
En effet, a expliqué le Pape, ils sont capables de sagesse, de ce que les anciens Grecs appelaient phronèse (une forme d'intelligence soucieuse de l'action pratique) et d'écouter l'Écriture Sainte.
Il est donc très important, a souligné le Pape, que les décisions importantes « doivent toujours être laissées à la personne humaine ».
À titre d’exemple de ce principe, le Pape a cité le développement d’armes létales autonomes – qui peuvent coûter la vie à des personnes sans intervention humaine – et a déclaré qu’elles devaient à terme être interdites.
Des algorithmes « ni objectifs ni neutres »
Le Pape a également souligné que les algorithmes utilisés par l’intelligence artificielle pour parvenir à des choix ne sont « ni objectifs ni neutres ».
Il a souligné les algorithmes conçus pour aider les juges à décider d’accorder ou non le confinement à domicile aux détenus. Ces programmes, a-t-il expliqué, font un choix basé sur des données telles que le type d'infraction, le comportement en prison, l'évaluation psychologique, ainsi que l'origine ethnique du prisonnier, son niveau d'éducation et sa cote de crédit.
Cependant, a souligné le Pape, c'est réducteur : « l'être humain est en constante évolution et est capable de nous surprendre par ses actions. C’est quelque chose qu’une machine ne peut pas prendre en compte.
Un autre problème, a souligné le Pape, est que les algorithmes « ne peuvent examiner que des réalités formalisées en termes numériques : »
Le pape s'adresse au G7
Essais générés par l'IA
Le Pape a ensuite évoqué le fait que de nombreux étudiants comptent de plus en plus sur l’IA pour les aider dans leurs études, et en particulier dans la rédaction de leurs dissertations.
Il est facile d'oublier, a déclaré le Pape, que « à proprement parler, l'intelligence artificielle dite générative n'est pas vraiment 'générative' » : elle ne « développe pas de nouvelles analyses ou de nouveaux concepts », mais plutôt « répète ceux qu'elle trouve, en leur donnant une forme attrayante.
Cela, a déclaré le Pape, risque de « porter atteinte au processus éducatif lui-même ».
L’éducation, a-t-il souligné, devrait offrir la possibilité d’une « réflexion authentique », mais « court le risque d’être réduite à une répétition de notions, qui seront de plus en plus considérées comme irréprochables, simplement en raison de leur répétition constante ».
Vers une « éthique-algoriste »
En conclusion de son discours, le Pape a souligné que l’IA est toujours façonnée par « la vision du monde de ceux qui l’ont inventée et développée ».
Ce qui est particulièrement préoccupant à cet égard, a-t-il dit, c'est qu'aujourd'hui, il est « de plus en plus difficile de trouver un accord sur les grandes questions concernant la vie sociale » – il y a de moins en moins de consensus, notamment sur la philosophie qui devrait façonner l'intelligence artificielle.
Ce qui est donc nécessaire, a déclaré le Pape, c'est le développement d'une « éthique-algoriste », une série de principes « globaux et pluralistes » qui soient « capables de trouver le soutien des cultures, des religions, des organisations internationales et des grandes entreprises ».
« Si nous luttons pour définir un ensemble unique de valeurs mondiales », a déclaré le Pape, nous pouvons au moins « trouver des principes communs avec lesquels aborder et résoudre les dilemmes ou les conflits concernant la façon de vivre ».
Le pape écoute une autre intervention du G7
Une politique nécessaire
Face à ce défi, le Pape a déclaré qu’« une action politique est nécessaire de toute urgence ».
« Seule une politique saine, impliquant les secteurs et les compétences les plus divers », a souligné le Pape, est capable de relever les défis et les promesses de l'intelligence artificielle.
L’objectif, a conclu le pape François, n’est pas « d’étouffer la créativité humaine et ses idéaux de progrès » mais plutôt de « diriger cette énergie vers de nouveaux canaux ».
Vous pouvez trouver le texte intégral du discours du Pape au G7 ici.
FAQ
Quel rôle le pape joue-t-il dans les discussions sur l'intelligence artificielle au sein du G7 ?
Le pape joue un rôle important dans les discussions sur l'intelligence artificielle au sein du G7 car il est considéré comme une figure morale et éthique internationale. Il soulève des questions importantes telles que la place de l'homme dans cette technologie et son impact sur la société. Son approche est globale, prenant en compte les dimensions religieuses, environnementales et sociales de l'IA.
En tant que chef spirituel, le pape offre un point de vue unique et influent dans ces débats internationaux.
