Les assistants intelligents, tels que les assistants vocaux, sont de plus en plus présents dans notre vie quotidienne. Cependant, leur intelligence artificielle peut parfois les amener à commettre des erreurs, notamment en termes de reconnaissance vocale ou de compréhension du langage. Ces erreurs, appelées hallucinations, peuvent être exploitées par les attaquants pour exécuter du code à distance. Les chercheurs ont démontré une technique d'hallucination adverse, appelée HalluSquatting, qui permet d'exploiter ces erreurs pour livrer des botnets. Cette technique consiste à envoyer des commandes vocales spécialement conçues pour provoquer des hallucinations chez les assistants intelligents. Une fois que l'assistant a halluciné, l'attaquant peut exécuter du code à distance, ce qui peut permettre l'installation de logiciels malveillants ou la prise de contrôle de l'appareil. Les chercheurs ont testé cette technique sur plusieurs assistants intelligents populaires et ont constaté qu'elle était efficace dans la plupart des cas. Cela soulève des inquiétudes quant à la sécurité de ces assistants et à la nécessité de mettre en place des mesures de protection pour prévenir de telles attaques. Les utilisateurs doivent être conscients de ces risques et prendre des précautions pour protéger leurs appareils et leurs données. Les entreprises qui développent ces assistants doivent également prendre des mesures pour renforcer la sécurité de leurs produits et prévenir les attaques de ce type.
HalluSquatting : une nouvelle faille de sécurité
Des chercheurs ont démontré une technique d'hallucination adverse pour exploiter les assistants intelligents et exécuter du code à distance. Cette faille, appelée HalluSquatting, permet aux attaquants de transformer les hallucinations des assistants en mécanisme de livraison de botnet.
Articles similaires
Menaces numériques sous-estimées
Des histoires notables qui pourraient avoir échappé à l'attention générale incluent l'exploitation d'agents OpenClaw AI via WhatsApp, une attaque de ransomware contre l'entreprise de défense navale TKMS et une faille de sécurité chez Lidl. Des nouvelles récentes révèlent également que l'Iran a réussi à suivre les téléphones des militaires américains, tandis que le malware CrashStealer cible les systèmes macOS.
Attaques « Veil#Drop » : des charges utiles hébergées sur Blogspot
Les attaques « Veil#Drop » utilisent un cadre sophistiqué qui abuse de sites Web compromis, de Blogspot, de PowerShell et de techniques sans fichiers pour éviter la détection et déployer le voleur d'informations PureLog. Ces attaques visent à contourner les mécanismes de sécurité pour extraire des informations sensibles.
Attaque de ransomware menée via Langflow avec l'IA Agentic
Une attaque a démontré comment les agents d'intelligence linguistique peuvent combiner des techniques d'exploitation connues avec une prise de décision en temps réel pour automatiser des intrusions complexes et multétapes. Cette attaque met en évidence les risques potentiels liés à l'utilisation de l'IA dans les cyberattaques.