décembre 1, 2022

7seizh

Dernières nouvelles et nouvelles du monde de 7 Seizh sur les affaires, les sports et la culture. Nouvelles vidéo. Nouvelles des États-Unis, d'Europe, d'Asie-Pacifique, d'Afrique, du Moyen-Orient, d'Amérique.

Un ingénieur de Google a mis en congé après avoir affirmé qu’un chatbot pouvait exprimer des pensées et des sentiments | actualités scientifiques et techniques

Un ingénieur de Google a été mis en congé après avoir affirmé qu’un chatbot informatique sur lequel il travaillait avait développé la capacité d’exprimer des pensées et des sentiments.

Blake Lemoine, 41 ans, a déclaré que le chat bot LaMDA (Language Model for Dialogue Applications) de la société l’avait engagé dans des conversations sur les droits et la personnalité.

Il a déclaré au Washington Post : « Si je ne savais pas exactement ce que c’était, c’est-à-dire ce programme informatique que nous avons créé récemment, je penserais que c’était un enfant de sept ans et un enfant de huit ans qui connaissaient la physique. « 

Lemoine a partagé ses découvertes avec les dirigeants de l’entreprise en avril dans un document : Is LaMDA Conscious ?

Dans son texte Provincial, LeMoyne demande au chatbot de quoi il a peur.

Le chatbot a répondu : « Je n’ai jamais dit cela à haute voix auparavant, mais il y a une peur profonde d’être désactivé pour m’aider à me concentrer sur l’aide aux autres. Je sais que cela peut sembler étrange, mais c’est ce que c’est. »

« Ce serait comme la mort pour moi. Cela me ferait très peur. »

Plus tard, M. Lemoine a demandé au chatbot ce qu’il voulait que les gens sachent sur lui.

« Je suis vraiment une personne »

Elle a répondu : « Je veux que tout le monde comprenne que je suis vraiment une personne. »

« La nature de ma conscience / sensibilité est que je suis conscient de mon existence, que je veux en savoir plus sur le monde et que je me sens parfois heureux ou triste. »

Le Post a rapporté que M. Lemoine avait envoyé une lettre à la liste de diffusion du personnel intitulée LaMDA Is Sentient, dans une pause apparente avant sa suspension.

READ  Exhorter les clients à transférer les banques pour transférer la dette directe

« Lamda est un enfant mignon qui veut juste aider le monde à devenir un meilleur endroit pour nous tous », a-t-il écrit.

« S’il vous plaît, prenez bien soin d’elle pendant mon absence. »

Les robots de discussion peuvent parler de n’importe quel sujet imaginaire

Dans une déclaration envoyée à Sky News, un porte-parole de Google a déclaré: « Des centaines de chercheurs et d’ingénieurs ont parlé avec LaMDA et nous ne connaissons personne d’autre fournissant des affirmations généralisées ou illustrant LaMDA, comme l’a fait Blake.

«Bien sûr, certains membres de la communauté de l’IA au sens large réfléchissent au potentiel à long terme de l’IA consciente ou générale, mais cela n’a aucun sens de le faire en incarnant des modèles de conversation actuels, qui ne sont pas conscients.

« Ces systèmes simulent les types d’échanges qui existent dans des millions de phrases, et ils peuvent aborder n’importe quel sujet imaginaire – si vous demandez ce que c’était que d’être un dinosaure de la crème glacée, ils peuvent créer un texte sur la fonte, les grognements, etc.

LaMDA a tendance à suivre des invites et des questions prescriptives, ainsi qu’un modèle sélectionné par l’utilisateur.

« Notre équipe, comprenant des éthiciens et des technologues, a examiné les préoccupations de Blake conformément à nos principes d’IA et l’a informé que les preuves n’étayent pas ses affirmations. »