🔔 Claude AI peut contrôler votre ordinateur

Credit Anthropic

Claude AI peut contrôler votre ordinateur

Les équipes d’Anthropic viennent de sortir une nouvelle version de Claude. Pour l’accompagner un plugn en version BETA qui permet d’interagir et de prendre le contrôle de l’ordinateur de l’utilisateur. Avec cet outil, l’IA peut contrôler la souris, prendre des captures d’écran et insérer du texte. Il est ainsi en mesure de réaliser la majorité des actions d’un utilisateurs lambda.

Pourquoi c’est important ?

En permettant à une IA de prendre le contrôle de votre ordinateur Anthropic espère avancer vers la genAI, l’IA totale. Cependant l’utilisation de cette API et d’un LLM qui peut en prendre le contrôle doit se faire dans un environnement contrôlé. Les risques de piratages ou de dérapages de l’IA sont trop importants pour considérer de faire tourner ce système dans un environnement de production.

OSINT sur Strava, l’équipe présidentielle repérée

Des journalistes ont réussi à suivre les mouvements de l’équipe de sécurité du président à travers l’application de running Strava. Cette application permet d’enregistrer ses sorties sportives et de les partager avec des personnes de son réseau ou bien au public. Certains membres du groupe de sécurité n’ont pas pris la peine de limiter l’accès à leurs données. Il était donc possible de suivre voir même d’anticiper les mouvements du président.

Pourquoi c’est important ?

A partir d’une application mal protégée et des données en libre accès, c’est la sécurité du président de la république qui était mise en jeu. C’est un rappel sur les bons principes de partagent de données que devraient suivre la majorité des personnes en limitant l’accès de leur données uniquement à des proches.

Retour d’expérience sur l’usage d’un LLM dans l’app sec

Les équipes de Dry security ont testé l’usage d’un LLM pour assurer la sécurité de leurs développement. Ils ont configuré un LLM afin de faire l’analyse statique du code source. Le retour d’expérience est intéressant car les équipes ont pris en comptes plusieurs aspects comme le LLM utilisé, le prompt ou bien le langage de programmation testé.

Pourquoi c’est important ?

Les résultats de l’équipe dry security permettent de mettre en avant l’usage un changement dans l’outillage des équipes devops. En mettant un place un LLM en tant qu’outil SAST, ils ont pu améliorer la qualité de leur code et réduire le nombre de faux positif. Attention cependant à utiliser le bon LLM avec le bon prompt.