Sztuczna Inteligencja wykorzystywana w cyberprzestępczości
Czytaj też: Najnowsza aktualizacja Windows 11 kończy z PowerShell 2.0
Microsoft Defender, będący rozbudowaną platformą bezpieczeństwa, ma za zadanie chronić użytkowników Windowsa przed złośliwymi działaniami cyberprzestępców. Jednak ostatnio, jak donosi raport z portalu Dark Reading, badacze z firmy Outflank przygotowują się do zaprezentowania na sierpniowej konferencji cyberbezpieczeństwa „Black Hat 2025” nowego złośliwego oprogramowania opartego na sztucznej inteligencji, które rzekomo potrafi obejść mechanizmy obronne nawet najpopularniejszego Microsoft Defendera.
Czytaj też: Microsoft zrozumiał błąd i zaktualizował liczbę użytkowników
Kyle Avery, badacz z Outflank, spędził około trzech miesięcy i zainwestował od 1500 do 1600 dolarów w proces szkolenia modelu językowego Qwen 2.5 LLM. Celem było osiągnięcie zdolności do obejścia mechanizmów bezpieczeństwa Microsoft Defender. Avery zastosował uczenie ze wzmocnieniem, umieszczając Qwen 2.5 LLM w środowisku testowym z aktywnym Microsoft Defenderem. W ten sposób model „uczył się” generować złośliwe oprogramowanie, które unika wykrycia.
Czytaj też: W niedalekiej przyszłości Chiny mogą stać się największą na świecie odlewnią układów scalonych
Co ciekawe, początkowo skuteczność modelu w tworzeniu działających programów była niska, ale dzięki iteracyjnym nagrodom za udane próby jego zdolność do unikania detekcji rosła. Ostatecznie, dzięki integracji z API Microsoft Defendera, model nauczył się tworzyć oprogramowanie, które wyzwala mniej alertów. Jego badania pokazują, że AI jest w stanie wygenerować złośliwe oprogramowanie, które omija Microsoft Defender w około 8% przypadków. Dla porównania, inne modele AI, takie jak Claude od Anthropic, osiągnęły skuteczność poniżej 1%, a DeepSeek R1 zaledwie 1,1%.