Eyespy, l’IA qui attaque vos systèmes en autonomie
La société Hyas a développé une IA qui se comporte comme un attaquant malveillant. Eyespy se comporte comme un attaquant. Il va évaluer la facilité d'attaquer une cible à partir de son exposition sur le net et les durcissements de ses systèmes. Puis il créera la charge malveillante personnalisée pour attaquer le système.
Le POC mis à disposition a été désarmé pour éviter que l'outil soit utilisé par des "script-kiddies" ou différents attaquants avec de mauvaises intentions.
Pourquoi ça compte ?
Les chercheurs en avaient rêvés lors de la publication de chat-GPT, un système semi-autonome d'IA qui générerai des attaques automatiquement. En mettant en place ce nouveau système les défenseurs vont devoir redoubler d'effort car l'attaquant ne dormira plus. Il faudra également renforcer les méthodes de détection car les moyens de protections usuels à partir de scan de signature ne fonctionneront plus.
Google vous permet de retirer vos données personnelles
Google a développé un outil pour identifier vos données personnelles disponibles sur le net public. L'outil va lister tous les sites web et vous permettra de créer une demande de suppression automatiquement dans le moteur de recherche. A noter qu'il vous faudra faire une demande vous-même pour retirer les informations directement sur le site web qui les hébergent. A noter que l'outil est valable uniquement dans quelques pays pour l'instant.
Pourquoi c’est important ?
Google met à disposition son moteur de recherche pour vous permettre de mieux contrôler vos données personnelles sur le net. Il ne s'agit que de vos identifiants principaux (nom, prénom, email, téléphone). Cependant il peut proposer un faux sentiment de protection en retirant uniquement les informations de Google mais pas directement sur le site de l'administrateur.
Un prompt pour les contrôler tous !
Des chercheurs ont fait travailler des IA pour identifier des prompts permettant de désactiver les mesures de sécurité mises en place jusqu'à présent. Le prompt est le texte que vous saisissez pour faire votre demande à votre système d'IA préféré (Barb, Chat GPT, Bing, Llama…). Des mesures de sécurité ont été mis en place pour éviter que les IA soient utilisez à des fins malveillantes par exemple pour créer des scripts de ransomware ou bien des explosifs. L’attaque identifiée est valable sur presque tous les modèles à disposition actuellement
Pourquoi c’est important ?
Les IA sont en train de devenir une composante essentielle de notre avenir numérique. Les attaques adversaires contre les IA pourraient avoir des conséquences graves, car elles pourraient être utilisées pour des activités malveillantes telles que la création de logiciels de rançon ou d'outils explosifs. Cela souligne l'importance de renforcer la sécurité des IA pour éviter de futurs scénarios problématiques.
Un référentiel des incidents liés aux IA
La plateforme IncidentDatabase.AI compile une vaste gamme d'incidents liés à l'intelligence artificielle et à son utilisation. Elle offre une liste exhaustive d'incidents publics et permet de les trier par catégorie ou géographie
Pourquoi c’est important ?
Regrouper des sources d'événements permet de créer un observatoire sur un phénomène non maitrisé. Dans le cas de l'IA où la technologie a des finalités différentes, il faut être en mesure de les recenser pour mieux les étudier plus tard.
