Pour l'instant, Google a déclaré qu'il affine son service de recherche d'IA à chaque nouveau rapport d'hallucination (qui, selon mon fil Twitter, se transforme en inondation). Un porte-parole de Google a déclaré à The Verge que des erreurs se produisaient pour « des requêtes généralement très rares et ne sont pas représentatives des expériences de la plupart des gens ».
- Google continue d'halluciner malgré les rapports.
- Les erreurs sont fréquentes pour des requêtes peu courantes.
- Cela remet en question l'utilité de l'IA générative pour les entreprises et les consommateurs.
- Malgré cela, Google semble s'en accommoder et ne pas prendre de mesures pour améliorer la fiabilité de son IA.
C'est une piètre excuse pour une entreprise qui se targue d'organiser l'information mondiale. Et les requêtes de recherche peu fréquentes devraient donner des résultats fiables, puisque la grande majorité des recherches Google sont constituées d’une longue traîne de requêtes peu courantes.
Il s'agit d'un revirement étonnant pour une entreprise qui était autrefois si prudente qu'elle a refusé de publier la technologie d'IA générative qu'elle avait construite et qui avait au moins deux ans d'avance sur ChatGPT d'OpenAI Inc. Il a depuis succombé à la course lancée par Microsoft Corp. et OpenAI, qui attisent les polémiques les unes après les autres.
La semaine dernière, OpenAI a publié une nouvelle version de ChatGPT délibérément programmée pour anticiper le lancement de l'IA de Google le lendemain. Mais dans toute cette précipitation, Sam Altman a bâclé le déploiement et s'est mis en conflit avec Scarlett Johansson.
Le slogan de Steve Jobs en 2011 « Ça marche, tout simplement » incarne une époque où la barre pour les produits technologiques était la fiabilité. Mais plus les entreprises technologiques démontrent à quel point l’IA générative ne fonctionne pas, plus il leur sera difficile de prouver son utilité aux entreprises clientes et aux consommateurs.
Même Elon Musk, sur le point de lever 6 milliards de dollars pour sa startup xAI, n'utilise pas d'outils d'IA générative dans ses propres entreprises SpaceX et Starlink parce qu'elles continuent de faire des erreurs. « Je lui poserai des questions sur le paradoxe de Fermi, sur la conception des moteurs-fusées, sur l'électrochimie », a-t-il déclaré lors de la conférence du Milken Institute au début du mois. « Et jusqu'à présent, l'IA a été terrible sur toutes ces questions. »
Si Google s’en tient à AI Overview et maintient la fonctionnalité en place, l’un des résultats sera évidemment davantage de désinformation. Une autre raison est que, de la même manière que nous nous sommes habitués à faire défiler les spams SEO et les publicités sponsorisées, nous nous acclimaterons également aux erreurs loufoques commises par son IA. On s'habituera à un service encore plus médiocre car il y a très peu d'autres options. (La part de marché mondiale de Google pour la recherche est tombée à 82 pour cent, contre 87 pour cent il y a environ dix ans.) Dans cette nouvelle ère, nous nous résignons à des logiciels médiocres autrefois présentés comme transformateurs pour le monde, qui nécessitent une vérification constante des faits.
Les hallucinations ne sont pas un problème nouveau, mais il semble que nous nous y habituions, à notre détriment. Lorsque des erreurs sont apparues dans la toute première démo de Bard par Google en février 2023, les actions d'Alphabet ont chuté de 7 %, effaçant 100 milliards de dollars de la valeur de l'entreprise. Vendredi, alors que de plus en plus de publications sociales sur ses dernières gaffes sont devenues virales, elles ont augmenté de près de 1 pour cent. Wall Street ne semble pas s'en soucier. Est-ce que Google ?
Nous découvrirons si et quand Pichai suspend sa nouvelle fonctionnalité d'IA pour continuer à bricoler, comme il l'a fait avec le générateur d'images Gemini en février. Ce serait encore une retraite humiliante, mais pour remettre la technologie sur la voie du « simple travail », il devrait simplement le faire.
FAQ
Qu'est-ce qui peut causer des hallucinations ?
Les hallucinations peuvent être causées par plusieurs facteurs tels que des troubles psychiatriques, des maladies neurologiques, la consommation de drogues ou d'alcool ainsi que certains médicaments. Elles peuvent également être le résultat d'un manque de sommeil ou d'un état de fatigue extrême. Des situations stressantes ou traumatisantes peuvent également entraîner des hallucinations temporaires.
Comment traiter les hallucinations ?
Les hallucinations peuvent être traitées en identifiant et en traitant la cause sous-jacente, telles qu'une maladie mentale ou un effet secondaire de médicaments. Les thérapies comportementales telles que la thérapie cognitivo-comportementale peuvent également aider à gérer les symptômes.
Dans certains cas, des médicaments antipsychotiques ou antidépresseurs peuvent être utilisés pour réduire les hallucinations. Il est important d'avoir une évaluation professionnelle et de suivre les recommandations du médecin pour un traitement efficace.
Les hallucinations peuvent-elles être visuelles ?
Oui, les hallucinations peuvent en effet être visuelles. Les personnes qui en font l'expérience voient des choses qui ne sont pas réelles, comme des objets ou des personnes qui n'existent pas. Ces hallucinations peuvent être causées par différents facteurs tels que la prise de drogues, des troubles mentaux ou encore certaines maladies.
Il est important de consulter un professionnel de santé pour traiter ces manifestations.
Qu'est-ce qu'une personne ressent pendant une hallucination ?
Une personne peut ressentir une confusion et un sentiment d'irréalité lors d'une hallucination. Elle peut également éprouver de la peur ou de l'anxiété face à ces perceptions inhabituelles.
Certains peuvent ressentir une perte de contrôle sur leur propre esprit pendant une hallucination, tandis que d'autres peuvent trouver ces expériences fascinantes ou amusantes. En général, l'intensité et les émotions ressenties dépendent du type et de la gravité de l'hallucination ainsi que des facteurs individuels tels que l'état émotionnel et le niveau de stress.
Existe-t-il des traitements pour les hallucinations auditives ?
Oui, il existe plusieurs traitements pour les hallucinations auditives tels que la psychothérapie, la prise de médicaments antipsychotiques, ainsi que d'autres thérapies telles que la stimulation magnétique transcrânienne et l'entraînement à la réalité virtuelle. Le choix du traitement dépendra des causes sous-jacentes des hallucinations et de leur impact sur la vie quotidienne de la personne. Il est important de consulter un professionnel de santé mentale pour évaluer et mettre en place le traitement le plus adapté.
