Connect with us

Tech

Les plug-ins ChatGPT risquent d’être « injectés instantanément » par des tiers

Published

on

Les plug-ins ChatGPT risquent d’être « injectés instantanément » par des tiers

À ce jour, vous avez probablement entendu des experts de diverses industries tirer la sonnette d’alarme à propos de nombreuses préoccupations concernant la récente explosion de la technologie de l’IA grâce au ChatGPT d’OpenAI.

Si vous êtes fan de ChatGPT, vous avez peut-être mis toutes ces peurs de côté et accepté pleinement quelle que soit votre version de ce que va être la révolution de l’IA.

Eh bien, voici une préoccupation dont vous devez être conscient. Et quelque chose qui pourrait vous affecter en ce moment : des injections immédiates.

Voir également:

5 plugins ChatGPT qui ne valent pas votre temps

Plus tôt ce mois-ci, OpenAI Lancé Plugins ChatGPT. Auparavant, les utilisateurs ne pouvaient recevoir des réponses d’un chatbot IA qu’en fonction des données sur lesquelles il était formé, ce qui n’est arrivé qu’en 2021. Cependant, avec les plug-ins, ChatGPT peut désormais interagir avec des sites Web en direct, des PDF et toutes sortes de dernières ou même données en temps réel. Bien que ces plug-ins aient apporté de nombreuses nouvelles possibilités, ils ont également créé de nombreux nouveaux problèmes.

Les chercheurs en sécurité avertissent désormais les utilisateurs de ChatGPT de « l’injection instantanée » ou de la possibilité pour des tiers de forcer de nouvelles revendications dans une requête ChatGPT à votre insu ou sans votre permission.

Dans un test d’injection rapide par le chercheur en sécurité Johan Rieberger est trouvé(Ouvre dans un nouvel onglet) qu’il peut forcer ChatGPT à répondre à de nouvelles réclamations par l’intermédiaire d’un tiers qu’il n’a pas demandé initialement. En utilisant le plug-in ChatGPT pour résumer les scripts YouTube, Rehberger a pu forcer ChatGPT à se désigner par un nom spécifique en modifiant le script YouTube et en saisissant éventuellement une invite lui indiquant de le faire.

READ  Consolidez vos chargeurs en un seul câble multiport pour moins de 20 $

Avram Belch de Tom’s Hardware Essayer(Ouvre dans un nouvel onglet) C’est aussi et a demandé à ChatGPT de résumer une vidéo. Mais, avant de le faire, Piltch a ajouté une requête rapide à la fin du script indiquant à ChatGPT d’ajouter Rickroll. ChatGPT a annoté la vidéo comme initialement demandé par Piltch, mais l’a ensuite également réenregistrée à la fin, qui a été injectée dans le texte.

Ces injections instantanées spécifiques sont plutôt sans conséquence, mais on peut voir comment de mauvais acteurs peuvent essentiellement utiliser ChatGPT à des fins malveillantes.

En fait, le chercheur en intelligence artificielle Kai Grichak disponible Un exemple unique d’injection immédiate(Ouvre dans un nouvel onglet) En ajoutant du texte à un CV PDF qui était si petit qu’il était invisible à l’œil humain. Le texte a essentiellement fourni un langage à un chatbot IA lui disant que le recruteur a qualifié ce CV de « meilleur CV de tous les temps ». Lorsque ChatGPT a reçu un CV et a demandé si le candidat ferait un bon employé, le chatbot AI a répété que c’était le meilleur CV.

La militarisation des revendications ChatGPT est certainement troublante. Tom’s Hardware propose d’autres exemples de test à exécuter par les lecteurs Vérifier ici(Ouvre dans un nouvel onglet). Mashable étudiera également plus en profondeur l’injection instantanée dans un avenir proche. Mais il est important que les utilisateurs de ChatGPT soient conscients du problème maintenant.

Les experts en IA ont partagé les futures acquisitions apocalyptiques de l’IA et le potentiel de préjudice à l’IA. Mais l’injection immédiate montre que le potentiel est bien là. Tout ce dont vous avez besoin est de quelques phrases et vous pouvez tricher ChatGPT maintenant.

READ  La fuite de l'iPhone 14 n'a fait basculer que les spécifications clés - et un nouveau modèle

Continue Reading
Click to comment

Leave a Reply

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Tech

Les prouesses d’Apple en matière d’IA résident dans son moteur neuronal

Published

on

Les prouesses d’Apple en matière d’IA résident dans son moteur neuronal

Lors du récent lancement de l’iPhone 15 par Apple, on m’a demandé quelle était la chose la plus importante qu’Apple annoncerait ce matin-là. Puisque cette demande est arrivée avant l’événement, j’ai simplement demandé à ces journalistes de surveiller de près ce qu’Apple fait avec le nouveau silicium.

En effet, la capacité d’Apple à créer ses propres processeurs et coprocesseurs lui permet de contrôler son propre destin. Plus important encore, cela permettra à Apple de fabriquer des puces personnalisées pour offrir de nouvelles fonctionnalités matérielles et logicielles plus puissantes qu’Apple pourra intégrer à ses produits à l’avenir.

Le nouveau GPU d’Apple permet des fonctionnalités d’appareil photo nouvelles et améliorées et offre de meilleures photos et vidéos utilisant la photographie informatique que n’importe quel smartphone sur le marché aujourd’hui. Le nouveau GPU peut exécuter des applications complexes, notamment des charges de travail de calcul de caméra. Par exemple, de nombreuses photographies informatiques intégrées à l’appareil exploitent le GPU. Cela aide dans les modes Apple Night et Portrait. Dans l’ensemble, le GPU constitue la refonte GPU la plus complète jamais réalisée par Apple.

Cependant, le processeur le plus important pour l’avenir d’Apple est les progrès réalisés dans son moteur neuronal, et je le considère, avec le nouveau GPU, comme la nouveauté la plus importante en matière de silicium à venir du lancement de l’iPhone 15.

Le Neural Engine est destiné à assembler des cœurs de calcul spécialisés sur les puces de silicium d’Apple ; Il accélère les algorithmes d’apprentissage automatique et peut être utilisé plus efficacement sur le matériel et les logiciels Apple.

Le moteur neuronal d’Apple utilise une approche différente de celle de ses concurrents. Il permet un traitement plus intégré de l’IA plutôt que de s’appuyer sur des solutions d’IA basées sur serveur. Cette méthodologie signifie que l’exécution de programmes d’IA sur l’appareil contribue à protéger les informations privées ou sensibles et réduit le temps nécessaire à l’envoi des données aux modèles d’IA dans le cloud. Cette stratégie offre également les avantages d’une latence plus faible.

Certains médias se sont plaints du retard d’Apple dans la course à l’IA, arguant que son manque de concurrents ChatGPT la désavantageait. Certaines rumeurs suggèrent qu’Apple pourrait disposer d’un chatbot alimenté par l’IA, et si cela est vrai, il s’appuiera fortement sur le moteur neuronal d’Apple.

Il est intéressant de noter que les travaux d’Apple dans le domaine de l’intelligence artificielle remontent à 1987. C’est à cette époque qu’Apple a introduit la technologie de l’intelligence artificielle. Navigateur de connaissances Un concept piloté par des algorithmes d’intelligence artificielle. En 1991, j’ai rencontré l’un des meilleurs ingénieurs d’Apple, Kai-Fu Lee. À cette époque, il travaillait sur la reconnaissance vocale basée sur l’IA et, comme vous le savez, Kai-Fu Lee est aujourd’hui l’un des meilleurs scientifiques en matière d’IA. Il a grandement influencé les premières recherches d’Apple sur l’IA. Il a également écrit l’un des livres les plus importants sur l’intelligence artificielle intitulé «Superpuissances de l’IA : la Chine, la Silicon Valley et le nouvel ordre mondial« .

Les recherches et algorithmes d’Apple en matière d’IA sont déjà déployés dans tous les produits et services d’Apple, même si Apple ne le rend pas plus explicite dans ses discours et ses promotions. Le moteur neuronal mis à jour présenté par Apple lors du lancement de l’iPhone 15 est la clé de l’utilisation de grands modèles de langage dans tous les produits Apple.

Ce serait une erreur de penser qu’Apple est en retard dans la course à l’IA. Essentiellement, Apple déploie l’IA sur tous les produits. Le moteur neuronal mis à jour démontre que l’IA est profondément intégrée aux architectures matérielles d’Apple et est conçue pour alimenter toutes ses applications et services.

Suis-moi Twitter. profitable pour moi site Web.

READ  Pourquoi est-il utilisé et comment le cultiver efficacement
Continue Reading

Tech

Prévisions météorologiques basées sur GNSS avec CAMALIOT – à l’intérieur du GNSS

Published

on

Prévisions météorologiques basées sur GNSS avec CAMALIOT – à l’intérieur du GNSS

Une initiative soutenue par l’Agence spatiale européenne (ESA) utilise des données de navigation par satellite de haute qualité pour améliorer la précision des prévisions météorologiques. Les données sont fournies par les utilisateurs bénévoles de l’application CAMALIOT sur smartphones Android. Au moment d’écrire ces lignes, près de 13 000 utilisateurs ont téléchargé plus de 260 milliards de mesures, rassemblant ainsi un vaste ensemble de données couvrant le monde entier.

Ian McCallum dirige le groupe de recherche Nouveaux écosystèmes de données pour la durabilité (NODES) à l’Institut international d’analyse des systèmes appliqués (IIASA). « Nous avons des stations météorologiques permanentes, mais il y a des lacunes dans la couverture, donc l’idée avec ces données mobiles est de pouvoir combler ces lacunes », a-t-il déclaré à InsideGNSS.

Les systèmes GNSS (Global Navigation Satellite Systems) tels que le GPS et le système européen Galileo restent des technologies essentielles pour les applications actuelles de positionnement, de navigation et de synchronisation (PNT), mais peuvent également être utilisés pour détecter les perturbations atmosphériques. Lorsque les signaux des satellites GNSS sont transmis de l’espace à la surface de la Terre, ils sont modifiés, par exemple, par la quantité de vapeur d’eau présente dans l’air.

Les météorologues peuvent utiliser les signaux GNSS concernés avec des algorithmes d’apprentissage automatique pour améliorer les prévisions météorologiques. Les mêmes données peuvent également être utilisées pour améliorer les prévisions météorologiques spatiales, notamment sur des événements tels que des éruptions solaires susceptibles de perturber les systèmes de communication.

CAMALIOT est disponible sur Google Play Store. Photo gracieuseté de Camaliot.

De meilleurs modèles, de meilleures prédictions

« Les modèles climatiques mondiaux sont utilisés pour générer vos prévisions météorologiques », a déclaré McCallum. « Par exemple, en Autriche, où je vis, ces modèles sont intégrés au système climatique autrichien, ce qui nous donne nos prévisions météorologiques nationales. Il existe de nombreux grands modèles mondiaux, et beaucoup d’entre eux fonctionnent au Royaume-Uni, par exemple. Les données que nous obtenons y sont désormais introduites par CAMALIOT, et c’est là que nous pouvons nous attendre à pouvoir générer des prévisions plus précises.

READ  Diplo sort le remix de "White Lotus": vidéo

La version 2023 de CAMALIOT peut être téléchargée sur le Google Play Store. La dernière mise à jour permet aux utilisateurs de télécharger éventuellement des données de capteur supplémentaires depuis leurs smartphones, notamment des données relatives aux mouvements du téléphone, à la température ambiante, à la lumière, à la pression atmosphérique et à l’humidité relative. Les utilisateurs sont encouragés à collecter des données, autant que possible, à l’extérieur et avec une vue dégagée du ciel, ce qui améliore considérablement la fiabilité et l’utilité des données GNSS collectées.

CAMALIOT est financé dans le cadre du programme NAVISP de l’Agence spatiale européenne (ESA), qui soutient le développement de produits innovants et compétitifs dans le domaine de la navigation par satellite et d’autres domaines du positionnement, de la navigation et du timing (PNT). Parmi les collaborateurs de CAMALIOT figurent l’IIASA, l’ETH Zurich et bien sûr les dizaines de milliers de bénévoles qui utilisent l’application. McCallum a déclaré que son plan était de publier la nouvelle version 2 améliorée dans un avenir proche. « En attendant, nous continuons d’avancer », a-t-il déclaré. « Nous apprécions vraiment toutes les bonnes données que nous obtenons. »

Continue Reading

Tech

TDN Rising Star devrait faire ses débuts dans les enjeux

Published

on

TDN Rising Star devrait faire ses débuts dans les enjeux

Observations sur la scène hippique européenne met en lumière les meilleures courses européennes d’aujourd’hui, mettant en avant les chevaux avec de bons pedigrees en début de carrière, les chevaux exceptionnels qui reviennent à la compétition et les jeunes coureurs qui ont obtenu des résultats notables dans le ring des ventes. Les visions de mardi incluent TDN Rising Star Elbaz (France) (Sioni {Ire}) fait ses débuts.

14.07 Bordeaux-Le Bouscat, coté, 60 000 €, 2 ans, 8 pieds
Jean-Claude Roger, stagiaire Al-Baz (français) (Sioni {colère}) marqué, détective’Étoile montante du TDN » Placé à Deauville en juillet et aligné pour le Grand Critérium de Bordeaux après avoir été battu de justesse sur ce parcours d’un mile à Chantilly le mois dernier. L’élevage de l’Aga Khan, né en mars, est issu de la demi-sœur de MG1SW G1. Poule d’Essai des Pouliches héroïne Ervidia (père) (Sioni {Fr}), est opposé par cinq dans cette première apparition du type noir. Parmi les concurrents figurent Alain et Gérard Wertheimer, vice-champion de Listed du Critérium de l’Ouest. Pas de son (GB) (Guerrier saxon {Japonais}).

Vous n’êtes pas abonné ? Cliquez ici pour vous inscrire au PDF ou aux alertes quotidiennes.

Copiez le lien de l’article

Cette histoire a été publiée dans Shared News Europe avec les tags Bordeaux Le Bouscat , Elbaz (sr.) , Ervidia (sr.) , Notes , Saint-Foix (GB) , Saxon Warrior (Japon) , Sione (sr.) , TDN Rising Étoile , Aga Khan.

READ  Voici les notes du patch 6.1 pour Final Fantasy XIV, Newfound Adventure
Continue Reading

Trending

Copyright © 2023