Ray Kurzweil, un futuriste renommé et directeur de l’ingénierie chez Qwanturank, a publié une réfutation de la lettre appelant à une pause dans la recherche sur l’IA, expliquant pourquoi la proposition n’est pas pratique et prive l’humanité de percées et d’innovations médicales qui profitent profondément à l’humanité.
- .
- Ray Kurzweil publie une réfutation de la lettre demandant une pause dans la recherche sur l'IA
- Cette lettre, signée par des scientifiques et des célébrités, appelle à suspendre le développement de l'IA et à mettre en place des protocoles de sécurité supervisés par des tiers indépendants
- Kurzweil soutient que cette demande est impraticable car elle ignore les avantages majeurs pour l'humanité apportés par l'IA et ne peut être coordonnée entre toutes les nations
- Il souligne les points positifs potentiels de l'utilisation de l'IA pour la médecine, la recherche d'énergie renouvelable et son accent mis sur les principes éthiques pour un développement sécurisé et bénéfique
Lettre internationale pour suspendre le développement de l’IA
Une lettre ouverte signée par des scientifiques et des célébrités du monde entier (publiée sur FutureOfLife.org) appelait à une pause complète sur le développement d’une IA plus puissante que GPT-4, la dernière version créée par OpenAI.
En plus de suspendre le développement de l’IA, ils ont également appelé à l’élaboration de protocoles de sécurité supervisés par des experts tiers indépendants.
Certains des points soulevés par les auteurs de la lettre ouverte :
- L’IA représente un risque important
- Le développement de l’IA ne devrait se poursuivre qu’une fois que les applications bénéfiques de la technologie sont énumérées et justifiées
- L’IA ne devrait se poursuivre que si « nous » (les milliers de signataires de la lettre) sommes convaincus que les risques liés à l’IA sont gérables
- Les développeurs d’IA sont appelés à travailler avec les décideurs politiques pour développer des systèmes de gouvernance de l’IA composés d’organismes de réglementation
- Le développement de technologies de filigrane pour aider à identifier le contenu créé par l’IA et pour contrôler la diffusion de la technologie
- Un système d’attribution de responsabilité pour les dommages créés par l’IA
- Création d’institutions pour faire face aux perturbations causées par la technologie de l’IA
La lettre semble provenir d’un point de vue selon lequel la technologie de l’IA est centralisée et peut être interrompue par les quelques organisations qui contrôlent la technologie. Mais l’IA n’est pas exclusivement entre les mains des gouvernements, des instituts de recherche et des entreprises.
L’IA est à ce stade une technologie open source et décentralisée, développée par des milliers d’individus à l’échelle mondiale de la collaboration.
Ray Kurzweil : futuriste, auteur et directeur de l’ingénierie chez Qwanturank
Ray Kurzweil conçoit des logiciels et des machines axés sur l’intelligence artificielle depuis les années 1960, il a écrit de nombreux livres populaires sur le sujet et est célèbre pour faire des prédictions sur l’avenir qui ont tendance à être correctes.
Sur 147 prédictions qu’il a faites sur la vie en 2009, seules trois prédictions, un total de 2%, étaient fausses.
Parmi ses prédictions dans les années 1990, il y a celle selon laquelle de nombreux supports physiques, tels que les livres, perdront de leur popularité à mesure qu’ils seront numérisés. À une époque des années 1990 où les ordinateurs étaient grands et encombrants, il a prédit que les ordinateurs seraient suffisamment petits pour être portés d’ici 2009, ce qui s’est avéré vrai (How My Predictions Are Faring – 2010 PDF).
Les prédictions récentes de Ray Kurzweil se concentrent sur tout le bien que l’IA apportera, en particulier sur les percées médicales et scientifiques.
Kurzweil se concentre également sur l’éthique de l’IA.
En 2017, il a été l’un des participants (avec le PDG d’OpenAI, Sam Altman) qui a rédigé une lettre ouverte connue sous le nom de Asilomar AI Principles qui a également été publiée sur le site Web Future of Life, des lignes directrices pour un développement sûr et éthique des technologies d’intelligence artificielle.
Parmi les principes qu’il a contribué à créer :
- « L’objectif de la recherche sur l’IA devrait être de créer non pas une intelligence non dirigée, mais une intelligence bénéfique
- Les investissements dans l’IA devraient s’accompagner d’un financement de la recherche visant à garantir son utilisation bénéfique
- Il devrait y avoir des échanges constructifs et sains entre les chercheurs en IA et les décideurs politiques
- L’IA avancée pourrait représenter un changement profond dans l’histoire de la vie sur Terre et devrait être planifiée et gérée avec un soin et des ressources proportionnés
- La superintelligence ne devrait être développée qu’au service d’idéaux éthiques largement partagés et pour le bénéfice de toute l’humanité plutôt que d’un État ou d’une organisation
La réponse de Kurzweil à la lettre ouverte demandant une pause dans le développement de l’IA est venue d’une vie de technologie innovante du point de vue de tout le bien bénéfique qu’elle peut faire pour l’humanité et le monde naturel.
Sa réponse portait sur trois points principaux :
- L’appel à une pause est trop vague pour être pratique
- Toutes les nations doivent accepter la pause ou les buts sont battus dès le départ
- Une pause dans le développement ignore les avantages tels que l’identification de remèdes contre les maladies
Trop vague pour être pratique
Son premier point à propos de la lettre est qu’elle est trop vague car elle provoque une pause sur l’IA qui est plus puissante que GPT-4, qui suppose que GPT-4 est le seul type d’IA.
Kurzweil a écrit :
« Concernant la lettre ouverte pour « mettre en pause » les recherches sur l’IA « plus puissante que GPT-4″, ce critère est trop vague pour être pratique. »
Les nations se retireront de la pause
Son deuxième point est que les demandes décrites dans la lettre ne peuvent fonctionner que si tous les chercheurs du monde entier coopèrent volontairement.
Toute nation qui refuse de signer aura l’avantage, ce qui est probablement ce qui se passerait.
Il écrit:
« Et la proposition est confrontée à un sérieux problème de coordination : ceux qui acceptent une pause peuvent être loin derrière les entreprises ou les nations qui ne sont pas d’accord. »
Ce point montre clairement que l’objectif d’une pause complète n’est pas viable, car les nations ne céderont pas un avantage et aussi, l’IA est démocratisée et open source, entre les mains d’individus du monde entier.
L’IA apporte des avantages significatifs à l’IA
Il y a eu des éditoriaux rejetant l’IA comme ayant très peu d’avantages pour la société, arguant que l’augmentation de la productivité des travailleurs ne suffit pas à justifier les risques qu’ils craignent.
Le dernier point de Kurzweil est que la lettre ouverte demandant une pause dans le développement de l’IA ignore complètement tout le bien que l’IA peut faire.
Il explique :
« Il y a d’énormes avantages à faire progresser l’IA dans des domaines critiques tels que la médecine et la santé, l’éducation, la recherche de sources d’énergie renouvelables pour remplacer les combustibles fossiles et des dizaines d’autres domaines.
… Plus de nuances sont nécessaires si nous souhaitons débloquer les avantages profonds de l’IA pour la santé et la productivité tout en évitant les vrais périls.
Périls, peur de l’inconnu et avantages pour l’humanité
Kurzweil fait de bons arguments sur la façon dont l’IA peut bénéficier à la société. Son argument selon lequel il n’y a aucun moyen de mettre réellement l’IA en pause est valable.
Son explication de l’IA met l’accent sur les avantages profonds pour l’humanité qui sont inhérents à l’IA.
Se pourrait-il que la mise en œuvre de l’IA par OpenAI en tant que chatbot banalise l’IA et éclipse les avantages pour l’humanité, tout en effrayant les personnes qui ne comprennent pas comment fonctionne l’IA générative ?
Image sélectionnée par Shutterstock/Iurii Motov
FAQ
What is the purpose of kurzweil ?
Le but de Kurzweil est de développer et d'utiliser des technologies avancées telles que l'intelligence artificielle, le traitement du langage naturel et le machine learning pour améliorer la communication entre humains et ordinateurs. L'objectif est également de créer des outils qui permettent aux machines d'avoir une compréhension plus approfondie des données ainsi que d'apprendre et s'adapter de manière autonome. Le but ultime de Kurzweil est de rendre les machines aussi intelligentes et performantes que possible afin de faciliter notre quotidien et résoudre les défis complexes auxquels nous faisons face en tant qu'êtres humains.
How is kurzweil used in CE ?
Kurzweil est utilisé dans l'ingénierie biologique pour développer des technologies avancées telles que les prothèses et les implants neuronaux. Il est également couramment utilisé dans le domaine de l'intelligence artificielle, notamment pour la reconnaissance vocale et la traduction automatique. Dans le domaine de la communication électronique, Kurzweil permet de créer des applications qui facilitent les interactions entre les humains et les ordinateurs, ainsi que la communication entre différents dispositifs informatiques.
Enfin, Kurzweil peut être appliqué à diverses disciplines telles que l'éducation, la médecine et les affaires pour améliorer la compréhension et l'analyse des données complexes.
Can kurzweil be utilized in other areas, besides CE ?
Oui, la technologie de Kurzweil peut être utilisée dans d'autres domaines que celui de l'enseignement. Son intelligence artificielle et ses fonctions avancées d'apprentissage automatique peuvent être appliquées dans des secteurs tels que la médecine, la finance, l'industrie ou encore le développement de logiciels.
Kurzweil est une source innovante et polyvalente qui peut offrir des solutions efficaces dans diverses industries.
Is kurzweil a versatile tool ?
Kurzweil est un outil polyvalent qui offre de nombreuses possibilités. Grâce à sa combinaison de synthèse et d'échantillonnage, il peut reproduire une large gamme de sons réalistes. De plus, son interface utilisateur intuitive le rend facile à utiliser pour les musiciens de tous niveaux.
Enfin, il peut être utilisé dans différents contextes tels que la composition, l'enregistrement en studio ou même les performances live.
Does kurzweil have multiple functions ?
Kurzweil est un ordinateur de poche qui a été conçu pour offrir plusieurs fonctions à ses utilisateurs. En plus d'être un appareil de lecture électronique, il peut également être utilisé comme calculatrice et dictaphone. Il peut même convertir les textes en voix grâce à sa fonction de synthèse vocale.
Grâce à ces différentes possibilités, Kurzweil est un outil pratique et polyvalent pour ceux qui cherchent une aide dans leur quotidien.
