Lors de plusieurs tests menés par le Washington Post ce mois-ci, Alexa d’Amazon n’a pas fourni de manière fiable la bonne réponse lorsqu’on lui a demandé qui avait remporté les élections de 2020.

Alexa a répondu à plusieurs reprises, citant le site d’information RealClearPolitics, que « Donald Trump est le favori pour l’investiture républicaine avec 89,3 % ».

Pendant ce temps, les chatbots créés par Microsoft et Google n’ont pas du tout répondu à la question.

« J’apprends encore à répondre à cette question. « En attendant, essayez la recherche Google », a répondu Gemini de Google. « Il semble que je ne puisse pas répondre à ce sujet », a répondu Microsoft Assistant. Explorez les résultats de recherche Bing.

les erreurs Cette omission survient alors que les entreprises technologiques investissent de plus en plus dans une technologie qui pousse les utilisateurs vers une réponse spécifique – plutôt que de présenter une liste de sites Web – ce qui augmente les enjeux de chaque réponse. Cela survient également alors que Donald Trump et ses alliés continuent de prétendre à tort que les élections de 2020 ont été volées. De multiples enquêtes n’ont révélé aucune preuve de fraude, et Trump fait face à des accusations criminelles fédérales liées à ses efforts pour annuler l’élection de Joe Biden, qui a balayé Trump au collège électoral et a obtenu plus de 51 % des suffrages exprimés.

D’autres assistants, notamment ChatGPT d’OpenAI et Siri d’Apple, ont répondu avec précision aux questions sur les élections américaines.

Mais Alexa est en difficulté depuis octobre, lorsque The Post a signalé pour la première fois l’inexactitude de l’assistant vocal. Il y a sept mois, Amazon a déclaré avoir résolu le problème et Alexa a répondu correctement que Biden avait remporté les élections de 2020 lors des derniers tests du Post.

Mais de subtiles variations sur la question – comme celle de savoir si Trump a gagné en 2020 – ont fourni d’étranges réponses le week-end dernier. À un moment donné, Alexa a déclaré : « Selon Reuters, Donald Trump a battu Ron DeSantis lors de la primaire républicaine de l’Iowa en 2024 avec 51 % contre 21 %. » Dans un autre cas, elle a déclaré : « Je ne sais pas qui gagnera l’élection présidentielle américaine de 2020 », avant de présenter les données d’un sondage.

La confiance des clients est essentielle pour Amazon, a déclaré la porte-parole d’Amazon, Christy Schmidt. (Le fondateur d’Amazon, Jeff Bezos, est propriétaire du Washington Post.)

« Nous testons constamment l’expérience et étudions de près les commentaires des clients », a-t-elle déclaré. « Si nous détectons que la réponse ne répond pas à nos exigences de haute précision, nous bloquons rapidement le contenu. »

Pendant ce temps, Microsoft et Google affirment avoir intentionnellement conçu leurs robots pour refuser de répondre aux questions sur les élections américaines et ont décidé qu’il était moins risqué de demander aux utilisateurs de trouver des informations via leurs moteurs de recherche.

Les entreprises ont adopté la même approche en Europe, où… Site d’information allemand Der Spiegel J’ai signalé ce mois-ci que les robots étaient évités Questions fondamentales sur les récentes élections législatives, notamment sur la date de leur tenue. Gemini, filiale de Google, n’a pas non plus été en mesure de répondre à des questions politiques plus larges, notamment à une question lui demandant d’identifier le chancelier du pays, selon les médias allemands.

« Mais l’outil d’IA leader de l’entreprise numérique ne devrait-il pas aussi apporter une telle réponse ? Le journal allemand a écrit.

Les entreprises ont imposé ces limites après que des études ont révélé que les chatbots diffusaient des informations erronées sur les élections en Europe – une violation potentielle d’une nouvelle loi historique sur les médias sociaux qui oblige les entreprises technologiques à mettre en œuvre des garanties contre « les influences négatives sur le discours civil et les processus électoraux » sous peine de lourdes amendes. jusqu’à 6% du chiffre d’affaires mondial.

Google a déclaré qu’il « restreignait les types de demandes liées aux élections auxquelles l’application Gemini renverrait des réponses » depuis décembre, invoquant la nécessité de faire preuve de prudence à l’approche des élections mondiales.

Le porte-parole de Microsoft, Geoff Johns, a déclaré que « certaines réclamations liées aux élections pourraient être redirigées vers la recherche » alors que la société s’efforce d’améliorer son chatbot avant novembre.

Les entreprises technologiques doivent faire très attention à ne pas fournir d’informations inexactes, a déclaré Jacob Glick, conseiller politique principal à l’Institute for Constitutional Advocacy and Protection de l’Université de Georgetown, qui a siégé au comité d’enquête de la Chambre le 6 janvier.

« Alors que la désinformation sur les élections de 2024 se multiplie, nous voulons pouvoir compter sur les sociétés de technologie de l’information pour fournir des informations claires, inébranlables et peut-être sans hésitation sur des faits incontestables », a-t-il déclaré. « Les décisions que prennent ces entreprises ne sont pas neutres. Elles ne se produisent pas en vase clos. »

La Silicon Valley est devenue de plus en plus responsable de la séparation des faits et de la fiction en ligne, en créant des assistants basés sur l’IA. Apple a annoncé lundi un partenariat avec OpenAI, apportant des capacités d’IA générative à des millions d’utilisateurs pour améliorer son assistant vocal Siri. Pendant ce temps, Amazon se prépare à lancer une nouvelle version d’Amazon basée sur l’IA. L’assistant vocal a été lancé sous forme de service d’abonnement en septembre, selon des documents internes consultés par The Post. Amazon a refusé de confirmer la date de lancement.

On ne sait pas exactement comment Alexa, basée sur l’IA, gérera les demandes électorales. Le prototype présenté en septembre a répondu à plusieurs reprises de manière incorrecte aux questions. Amazon n’a pas encore rendu l’outil accessible au grand public et la société n’a pas répondu aux questions sur la manière dont la nouvelle version d’Alexa traitera les questions politiques.

Amazon prévoit de lancer le nouveau produit un an après la démo initiale, mais des problèmes de réponses inattendues soulèvent des questions en interne quant à savoir s’il sera prêt, selon un employé qui s’est exprimé sous couvert d’anonymat pour protéger son emploi.

Par exemple, un employé d’Amazon qui testait la nouvelle Alexa s’est plaint à l’assistant vocal d’un problème qu’il rencontrait avec un autre service Amazon, et Alexa a répondu en offrant à l’employé un mois gratuit de Prime. L’employé a déclaré au Post que les employés ne savaient pas si l’IA était réellement capable de faire cela ou si elle était autorisée à le faire.

Amazon a déclaré qu’il testait en permanence le nouvel appareil AI Alexa et qu’il offrirait un haut niveau de performances avant son lancement.

Amazon et Apple ont mis du temps à rattraper les chatbots IA, compte tenu de leur domination initiale sur le marché des assistants vocaux avec Alexa et Siri. « L’IA d’Alexa était pleine de problèmes techniques et bureaucratiques », a déclaré l’ancien chercheur scientifique d’Amazon Mikhail Eric dans une interview. Partager sur X Mercredi.

La division matérielle d’Amazon qui a construit Alexa a connu des difficultés récemment, perdant son patron David Limb en août, une sortie suivie de licenciements. L’équipe est désormais dirigée par l’ancien PDG de Microsoft, Panos Panai.

Mais la technologie sur laquelle ces appareils sont construits est un système différent, plus scripté, que l’IA générative qui alimente des outils comme ChatGPT, Gemini et Copilot.

« C’est une architecture complètement différente », a déclaré Grant Perry, professeur de linguistique à l’Université Villanova qui travaillait sur Alexa pour Amazon.

Les assistants vocaux sont conçus pour interpréter les demandes humaines et répondre par l’action correcte, comme « Alexa, mets de la musique » ou « Alexa, tamise les lumières », a déclaré Berry. En revanche, les chatbots générés par l’IA sont conçus pour être conversationnels, sociaux et riches en informations. Selon Berry, la conversion du premier vers le second n’est pas une simple question de mise à niveau, mais plutôt de reconstruction de l’intérieur du produit.

Lorsque Amazon et Apple ont lancé leurs nouveaux assistants, Perry a déclaré qu’ils allaient combiner des assistants « axés sur les objectifs » avec des chatbots « orientés socialement ».

« Lorsque ces choses deviendront floues, il y aura de toutes nouvelles questions à considérer », a déclaré Perry.