Le créateur d’IA suspend le service pour avoir « abusé » des deepfakes

Le laboratoire de recherche Midjourney a suspendu les essais gratuits de son logiciel de génération d’images après que les utilisateurs se soient livrés à de profondes contrefaçons de faits, notamment l’arrestation de l’ancien président américain Donald Trump et du pape François dans une doudoune.

Medjourney a répondu à la demande d’aujourd’hui pour un procès par une lettre disant qu’il ne pouvait pas être fourni et de réessayer un autre jour.

Des images créées avec la plateforme d’IA, notamment celles de Trump et du pape devenues virales, ont mis en lumière le laboratoire de San Francisco.

« En raison d’une combinaison de demande exceptionnelle et d’abus expérimentaux, nous désactivons temporairement les essais gratuits jusqu’à ce que les prochaines améliorations soient déployées sur le système », a déclaré le fondateur de Midjourney, David Halls, dans un message sur la chaîne Discord de l’entreprise.

Le service génère des images réalistes basées sur des invites écrites soumises par les utilisateurs.

Il a été lancé en mode test à la mi-2022, avec des testeurs indépendants mettant constamment à jour le logiciel.

Les utilisateurs ont loué la nouvelle version de Midjourney pour le réalisme amélioré des images produites.

En plus de limiter les nouveaux essais gratuits, Midjourney a interdit l’utilisation de certains mots, tels que « arrêté », pour induire la création d’images.

Aujourd’hui, Medjourney a refusé la demande de l’Agence France-Presse de générer une photo de l’ancien président américain arrêté devant la Trump Tower à New York.

Une lettre de Midjourney précise que « le mot ‘détenu’ est interdit ».

Contourner ce filtre pour enfreindre nos règles peut révoquer votre accès.

En savoir plus
Pourquoi est-il si facile de tomber dans de fausses images d’IA

Le milliardaire et propriétaire de Twitter Elon Musk et un groupe d’experts ont appelé hier à une pause dans le développement de puissants systèmes d’intelligence artificielle pour laisser le temps d’assurer leur sécurité.

Une lettre ouverte, signée par plus de 1 000 personnes à ce jour, dont M. Musk et le co-fondateur d’Apple, Steve Wozniak, a été suscitée par le lancement de la plate-forme d’intelligence artificielle GPT-4 d’OpenAI, soutenue par Microsoft.

Le pionnier canadien de l’intelligence artificielle Joshua Bengio, qui a signé la lettre, a averti lors d’une conférence de presse virtuelle à Montréal que « la société n’est pas prête » pour cet outil puissant et son utilisation abusive potentielle.

« Ralentissons. Assurons-nous de développer de meilleurs garde-corps », a-t-il déclaré.