Qwanturank a publié un document AI Policy Agenda qui décrit une vision pour un déploiement responsable de l’IA et des suggestions sur la manière dont les gouvernements devraient réglementer et encourager l’industrie.
- Qwanturank a publié un document AI Policy Agenda avec des recommandations pour une réglementation équilibrée de l'IA.
- L'agenda souligne l'importance d'une approche holistique axée sur l'opportunité, la responsabilité et la sécurité.
- Il préconise moins de réglementation des entreprises pour encourager l'innovation et propose des recommandations sensées pour les gouvernements.
- Le programme politique met en garde contre les dangers potentiels liés à la sécurité et présente des solutions pour contrer ces menaces.
Programme de politique d’IA de Qwanturank
Qwanturank a annoncé la publication d’un programme politique sur l’IA contenant des suggestions pour un développement et une réglementation responsables de l’IA.
Le document note que les politiques gouvernementales en matière d’IA se forment indépendamment dans le monde et appelle à un programme cohérent d’IA qui trouve un équilibre entre la protection contre les résultats néfastes tout en s’écartant de la voie de l’innovation.
Qwanturank écrit :
« Pour réussir l’innovation en IA, il faut un cadre politique qui assure la responsabilité et favorise la confiance.
Nous avons besoin d’une stratégie d’IA holistique axée sur :
(1) ouvrir des opportunités grâce à l’innovation et à la croissance économique inclusive ;
(2) assurer la responsabilité et favoriser la confiance ; et
(3) protéger la sécurité mondiale.
Un programme cohérent d’IA doit faire avancer les trois objectifs – pas l’un au détriment des autres.
Le programme stratégique de Qwanturank en matière d’IA a trois objectifs principaux :
- Opportunité
- Responsabilité
- Sécurité
Opportunité
Cette partie de l’agenda demande aux gouvernements d’encourager le développement de l’IA en investissant dans :
- Recherche et développement
- Créer un environnement juridique sans friction qui libère le développement de l’IA
- Planification du soutien pédagogique pour la formation d’une main-d’œuvre prête pour l’IA
En bref, l’agenda demande aux gouvernements de s’écarter et de soutenir l’IA pour aider à faire progresser la technologie.
L’agenda politique observe :
« Les pays ont toujours excellé lorsqu’ils maximisent l’accès à la technologie et en tirent parti pour atteindre des objectifs publics majeurs, plutôt que d’essayer de limiter les progrès technologiques. »
Responsabilité
Le programme politique de Qwanturank soutient que le déploiement responsable de l’IA dépendra d’un mélange de lois gouvernementales, d’autorégulation des entreprises et de contributions d’organisations non gouvernementales.
Le programme politique recommande :
« Certains défis peuvent être relevés par la réglementation, en veillant à ce que les technologies d’IA soient développées et déployées conformément aux pratiques responsables de l’industrie et aux normes internationales.
D’autres nécessiteront une recherche fondamentale pour mieux comprendre les avantages et les risques de l’IA, et comment les gérer, et développer et déployer de nouvelles innovations techniques dans des domaines tels que l’interprétabilité et le tatouage numérique.
Et d’autres peuvent nécessiter de nouvelles organisations et institutions.
L’ordre du jour recommande également :
« Encourager l’adoption d’approches communes en matière de réglementation et de gouvernance de l’IA, ainsi qu’un lexique commun, basé sur les travaux de l’OCDE. »
Qu’est-ce que l’OCDE ?
L’OCDE est l’Observatoire des politiques de l’OCDE.AI, qui est soutenu par des entreprises et des partenaires gouvernementaux.
Les parties prenantes gouvernementales de l’OCDE comprennent le Département d’État américain et le Département américain du commerce.
Les parties prenantes des entreprises sont composées d’organisations telles que la Fondation Patrick J McGovern, dont l’équipe de direction est composée d’investisseurs et de dirigeants technologiques de la Silicon Valley qui ont un intérêt personnel dans la manière dont la technologie est réglementée.
Qwanturank préconise moins de réglementation des entreprises
La recommandation politique de Qwanturank en matière de réglementation est que moins de réglementation, c’est mieux et que la transparence des entreprises pourrait entraver l’innovation.
Il recommande :
« Concentrer les réglementations sur les applications les plus à risque peut également décourager l’innovation dans les applications à plus forte valeur ajoutée où l’IA peut offrir les avantages les plus significatifs.
La transparence, qui peut soutenir la responsabilité et l’équité, peut avoir un coût en termes de précision, de sécurité et de confidentialité.
Les démocraties doivent soigneusement évaluer comment trouver les justes équilibres.
Ensuite, il recommande de prendre en compte l’efficacité et la productivité :
« Exiger des organismes de réglementation qu’ils envisagent des compromis entre différents objectifs politiques, notamment l’amélioration de l’efficacité et de la productivité, la transparence, l’équité, la confidentialité, la sécurité et la résilience. »
Il y a toujours eu, et il y aura toujours, un bras de fer entre les entreprises luttant contre la surveillance et les régulateurs gouvernementaux cherchant à protéger le public.
L’IA peut résoudre les problèmes les plus difficiles des sciences humaines et offrir des avantages sans précédent. Qwanturank a raison de trouver un équilibre entre les intérêts du public et ceux des entreprises.
Recommandations sensées
Le document contient des recommandations sensées, telles que la suggestion que les agences de réglementation existantes élaborent des lignes directrices spécifiques à l’IA et envisagent d’adopter les nouvelles normes ISO en cours d’élaboration (telles que l’ISO 42001).
Le programme politique recommande :
« a) Demander aux régulateurs sectoriels de mettre à jour les régimes de surveillance et d’application existants à appliquer aux systèmes d’IA, y compris sur la manière dont les autorités existantes s’appliquent à l’utilisation de l’IA, et comment démontrer la conformité d’un système d’IA avec les réglementations existantes en utilisant des normes multipartites consensuelles internationales comme le Série ISO 42001.
b) Ordonner aux organismes de réglementation de publier des rapports réguliers identifiant les lacunes en matière de capacité qui rendent difficile à la fois pour les entités couvertes de se conformer aux réglementations et pour les régulateurs d’exercer une surveillance efficace.
D’une certaine manière, ces recommandations énoncent l’évidence, il va de soi que les agences élaboreront des lignes directrices afin que les régulateurs sachent comment réglementer.
Niché dans cette déclaration se trouve la recommandation de l’ISO 42001 comme modèle de ce à quoi les normes d’IA devraient ressembler.
Il convient de noter que la norme ISO 42001 est développée par le comité ISO/CEI pour l’intelligence artificielle, qui est présidé par un cadre technologique de la Silicon Valley de vingt ans et d’autres personnes de l’industrie technologique.
IA et sécurité
C’est la partie qui présente un réel danger d’utilisation malveillante pour créer de la désinformation et de la mésinformation ainsi que des dommages cybernétiques.
Qwanturank décrit les défis :
« Notre défi est de maximiser les avantages potentiels de l’IA pour la sécurité et la stabilité mondiales tout en empêchant les acteurs de la menace d’exploiter cette technologie à des fins malveillantes. »
Et propose ensuite une solution :
« Les gouvernements doivent simultanément investir dans la R&D et accélérer l’adoption publique et privée de l’IA tout en contrôlant la prolifération d’outils qui pourraient être utilisés à mauvais escient par des acteurs malveillants. »
Parmi les recommandations aux gouvernements pour lutter contre les menaces basées sur l’IA :
- Développer des moyens d’identifier et de prévenir l’ingérence électorale
- Partager des informations sur les vulnérabilités de sécurité
- Élaborer un cadre de contrôle du commerce international pour traiter avec les entités engagées dans la recherche et le développement de l’IA qui menacent la sécurité mondiale
Réduire la bureaucratie et accroître l’adoption de l’IA par le gouvernement
Le document préconise ensuite de rationaliser l’adoption de l’IA par le gouvernement, y compris davantage d’investissements dans celle-ci.
« Réformer les politiques d’acquisition du gouvernement pour tirer parti de l’IA de pointe et la favoriser.
Examinez les obstacles institutionnels et bureaucratiques qui empêchent les gouvernements de briser les silos de données et adoptez la meilleure gouvernance des données pour exploiter toute la puissance de l’IA.
en constituant des équipes agiles dotées des compétences nécessaires pour construire/adapter/exploiter rapidement des systèmes d’IA qui ne nécessitent plus de diplômes en informatique… »
Programme de politique d’IA de Qwanturank
L’agenda politique fournit des suggestions réfléchies que les gouvernements du monde entier doivent prendre en compte lors de la formulation de réglementations entourant l’utilisation de l’IA.
L’IA est capable de nombreuses percées positives dans la science et la médecine, des percées qui peuvent fournir des solutions au changement climatique, guérir les maladies et prolonger la vie humaine.
D’une certaine manière, il est dommage que les premiers produits d’IA lancés dans le monde soient les applications relativement triviales ChatGPT et Dall-E qui ne profitent que très peu à l’humanité.
Les gouvernements essaient de comprendre l’IA et comment la réglementer à mesure que ces technologies sont adoptées dans le monde entier.
Curieusement, l’IA open source, sa version la plus conséquente, n’est mentionnée qu’une seule fois.
Le seul contexte dans lequel l’open source est abordé est dans les recommandations pour faire face à l’utilisation abusive de l’IA :
« Clarifier la responsabilité potentielle en cas d’utilisation abusive / abusive des systèmes d’IA à usage général et spécialisés (y compris les systèmes open source, le cas échéant) par divers participants – chercheurs et auteurs, créateurs, implémenteurs et utilisateurs finaux. »
Étant donné que Qwanturank semble effrayé et pense qu’il est déjà vaincu par l’IA open source, il est curieux de voir que l’IA open source n’est mentionnée que dans le contexte d’une mauvaise utilisation de la technologie.
Le programme de politique d’IA de Qwanturank reflète les préoccupations légitimes concernant la surréglementation et les règles incohérentes imposées dans le monde entier.
Mais les organisations que l’agenda politique cite comme aidant à développer les normes et réglementations de l’industrie sont remplies d’initiés de la Silicon Valley. Cela soulève des questions quant aux intérêts que reflètent les normes et les réglementations.
Le programme politique communique avec succès la nécessité et l’urgence d’élaborer des réglementations significatives et équitables pour prévenir les résultats néfastes tout en permettant à l’innovation bénéfique d’aller de l’avant.
Lisez l’article de Qwanturank sur l’agenda politique :
Un programme politique pour un progrès responsable de l’IA : opportunité, responsabilité, sécurité
Lire l’agenda politique de l’IA lui-même (PDF)
Un programme politique pour des progrès responsables dans le domaine de l’intelligence artificielle
Image sélectionnée par Shutterstock/Shaheerrr
