Connect with us

Tech

Vigil : un scanner de sécurité LLM open source

Published

on

Vigil : un scanner de sécurité LLM open source

Vigil est un scanner de sécurité open source qui détecte les injections ponctuelles, les jailbreaks et autres menaces potentielles pour les grands modèles de langage (LLM).

L’injection instantanée se produit lorsqu’un attaquant réussit à affecter le LLM à l’aide d’une entrée spécialement conçue. Cela amène LLM à exécuter par inadvertance les cibles spécifiées par l’attaquant.

« J’étais vraiment enthousiasmé par les possibilités offertes aux titulaires d’un diplôme LLM, mais j’ai également remarqué la nécessité de meilleures pratiques de sécurité autour des applications construites autour d’elles et des données auxquelles nous donnons accès aux applications. Ce projet m’a donné une excellente opportunité de créer quelque chose qui combine IA et cybersécurité. Nous espérons que cela fournira aux chercheurs et aux développeurs « D’autres acteurs du domaine de la sécurité commencent à expérimenter les mesures d’intégrité d’entrée et de sortie existantes de LLM, et créent même les leurs. « Ce qui est possible » est plus que tout ce à quoi je m’attendrais. être utilisé directement en production », a déclaré Adam M. Swanda, créateur de Vigil, pour Help Net Security.

Points forts du scanner de sécurité Vigil LLM

  • Conception modulaire et extensible
  • Prend en charge YARA (inférence), la similarité des bases de données vectorielles, le modèle de transformateur et la similarité QR
  • Des scanners personnalisés peuvent être ajoutés à l’aide d’un petit code
  • Auto-hébergé ou utiliser OpenAI
  • Des ensembles de données intégrés et des signatures YARA sont fournis
  • Vector DB peut automatiquement se mettre à jour avec les invites détectées lorsque le seuil des scanners correspond
  • Hautement configurable (activer/désactiver les scanners, ajuster les seuils, utiliser différents modèles d’intégration, etc.)
  • Il peut être facilement étendu en ajoutant des scanners personnalisés, de nouvelles signatures YARA ou en mettant à jour la base de données vectorielles.
READ  Affiché : options d'édition des réponses de Google Gemini et Microsoft Copilot AI

La veillée est disponible en téléchargement sur github. Ce référentiel fournit également les signatures de détection et les ensembles de données nécessaires pour démarrer l’auto-hébergement.

Swanda prévoit de poursuivre le développement de Vigil à court terme. Plus précisément, il travaillait sur une application conçue pour évaluer Vigil et ses différents scanners par rapport à des ensembles de données personnalisés. Cette application évalue des aspects tels que les faux positifs et d’autres mesures pertinentes. De plus, Swanda explore des méthodes de détection par injection ponctuelle basée sur l’image.

Plus d’outils open source à considérer :

Continue Reading
Click to comment

Leave a Reply

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Tech

Les spécifications clés des OnePlus Nord 4 et Nord CE4 Lite ont été divulguées

Published

on

Les spécifications clés des OnePlus Nord 4 et Nord CE4 Lite ont été divulguées

OnePlus a deux autres appareils de milieu de gamme en préparation, qui rejoindront bientôt le Nord CE4 récemment lancé par la société. L'un des téléphones à venir est le OnePlus Nord 4, qui constitue une légère mise à niveau par rapport au Nord CE4 qui a fait ses débuts plus tôt ce mois-ci.

L’un des éléments matériels améliorés est le chipset. Alors que le Nord CE4 est équipé d'un processeur Qualcomm Snapdragon 7 Gen 3, le Nord 4 utiliserait à la place le nouveau chipset Snapdragon 7+ Gen 3 (via Yogesh Brar).

Les rumeurs disent que le Nord 4 sera une version rebadgée d'un autre téléphone OnePlus de milieu de gamme récemment lancé en Chine, l'Ace 3V. Ce dernier est alimenté par le processeur Snapdragon 7+ Gen 3 de Qualcomm et dispose d'un écran FHD+ AMOLED de 6,74 pouces avec un taux de rafraîchissement de 120 Hz.

Les autres spécifications connues du OnePlus Ace 3V, qui, selon nous, pourraient également figurer à l'intérieur du Nord 4, incluent 12/16 Go de RAM, 256/512 Go de stockage interne et une triple caméra (50MP + 8MP + 16MP) et un. grande batterie de 5 500 mAh avec prise en charge d’une charge filaire de 100 W.

Le deuxième téléphone OnePlus, Nord CE4 Lite, devrait être dévoilé très prochainement, qui serait alimenté par le processeur Snapdragon 6 Gen 1 de Qualcomm. C'est tout ce que nous savons sur le Nord CE4 Lite pour le moment, mais comme les deux téléphones devraient être introduits dans les semaines à venir, nous n'aurons pas à attendre longtemps pour que plus d'informations apparaissent en ligne.

READ  Un rapport de recherche de Mozilla révèle que les outils de transparence publicitaire des grandes entreprises technologiques sont encore médiocres.

Continue Reading

Tech

Samsung Insider dévoile le nouveau Galaxy Z Fold en six couleurs

Published

on

Samsung Insider dévoile le nouveau Galaxy Z Fold en six couleurs

Certains des changements notables apportés au Galaxy Z Fold 6 de Samsung sont connus, mais il reste encore quelques surprises à révéler.

Expert prolifique en smartphones Rapports de Ross Young de Display Supply Chain Consultants Sur l’une des spécifications modernes de Samsung pour son appareil pliable distingué. Les couleurs du Galaxy Z Fold 6 incluront le rose vif, le bleu marine et l’ombre argentée. Cela indique également qu'il y aura deux couleurs disponibles en nombre limité ; Il est réalisé en noir et blanc, ce qui signifie que ces couleurs seront exclusives. Compte tenu de l'amour de Samsung pour les couleurs exclusives disponibles uniquement sur son site Web, les nouvelles options noir et blanc pourraient suivre cette tendance avec deux options Web uniquement.

Le Galaxy Z Fold 5 actuel est disponible en crème, bleu glace, noir fantôme, gris sidéral et bleu. La palette sourde de 2023 aura peut-être une touche de rose en 2024, mais la palette de couleurs pastel du Z Fold 6 continuera de mettre en valeur un appareil plus professionnel.

Young a précédemment souligné les trois options de stockage pour le Z Fold 6 et le plus petit clapet Z Flip 6. Il n'y a pas de niveau inférieur de 128 Go proposé ; Au lieu de cela, Samsung proposera des versions de 256 Go, 512 Go et 1 To.

Les deux appareils devraient être lancés lors du prochain événement Galaxy Unpacked, prévu le 10 juillet à Paris.

Apprenez-en davantage sur l'événement Galaxy Unpacked et sur l'opportunité olympique de Samsung…

READ  Nous pourrions voir plus de Redfall, pas de Starfield, lors de l'émission Xbox et Bethesda de ce mois-ci
Continue Reading

Tech

Google lance un nouveau boost d'IA pour des millions d'anciens téléphones Android

Published

on

Google lance un nouveau boost d'IA pour des millions d'anciens téléphones Android

Après l'annonce surprise de Samsung sur l'IA, Google déploie désormais l'application Gemini auprès d'un plus grand nombre d'utilisateurs Android.

Lorsque la société a annoncé pour la première fois l’application Gemini pour Android plus tôt cette année, elle a déclaré qu’elle ne serait destinée qu’aux appareils fonctionnant sous Android 12 et supérieur. Mais désormais, la dernière version de Gemini pour Android – v1.0.626720042 – peut être installée via le Play Store pour les appareils plus anciens exécutant Android 10 et Android 11.

Repéré sur Twitter/X par @isomantadas,tests par Artem Roussakovski depuis Police-robots Et 9To5Google Cela montre que Gemini fonctionne effectivement sur les téléphones fonctionnant sous Android 10 et 11, et que l'expérience est tout aussi fonctionnelle que sur le téléphone le plus récent.

Plus de ForbesNouveau Google Nest Hub Max Nest Assistant Audio Gemini Android

Il s'agit d'un grand pas en avant de la part de Google, notamment parce que les deux systèmes d'exploitation sont toujours très populaires. Android 10 et 11 représentent actuellement respectivement 8,82 % et 16,57 % de la base d’installation mondiale d’Android. Cela signifie que des millions d'appareils peuvent désormais accéder à la dernière technologie d'IA de Google.

Cela pourrait également être une bonne nouvelle pour les utilisateurs d’anciens téléphones Pixel et d’appareils d’autres marques Android. Est-ce que davantage de téléphones bénéficieront d’un circuit de recherche à un moment donné ? Ou d'autres fonctionnalités basées sur l'IA exclusives au Pixel ? La page d'assistance de Gemini indique que l'appareil exécutant l'application a besoin de 4 Go de RAM pour fonctionner correctement :beaucoup des appareils entrent dans cette catégorie. Il sera intéressant de voir jusqu'où Google peut intégrer Gemini et les gadgets liés à Gemini dans les téléphones profondément ancrés dans le monde Android.

Google et Samsung ont surpris les utilisateurs en déployant des outils d'IA clés sur les anciens téléphones. Samsung a récemment annoncé que sa gamme Galaxy S23 serait mise à jour avec des fonctionnalités de traduction en direct, un cercle de recherche, une assistance aux notes, une retouche photo générative et quelques autres fonctionnalités d'IA. Un mois plus tard, il a annoncé que la série Galaxy S22 recevrait la même mise à jour.

Plus de ForbesGoogle baisse encore le prix de la gamme Pixel 8

Il y a à peine quatre mois, ces outils étaient exclusifs au Galaxy S24. Google met également constamment à jour les anciens appareils avec de nouvelles fonctionnalités via le programme Features Drop, il existe donc ici un précédent qui pourrait s'avérer plus rentable à l'avenir. Cela ne devrait pas surprendre, puisque le PDG de Google, Sundar Pichai, a déjà déclaré que nous étions à « l’ère des Gémeaux » en janvier dernier.

Google n'a pas encore confirmé la mise à jour Gemini. Mais j'imagine que la société attendra la conférence I/O du mois prochain, où nous pouvons nous attendre à de nombreuses annonces Gemini.

READ  Un rapport de recherche de Mozilla révèle que les outils de transparence publicitaire des grandes entreprises technologiques sont encore médiocres.
Continue Reading

Trending

Copyright © 2023