A félév során három diákkal dolgoztunk kettő erősen elkülöníthető feladaton, ahol kettő hallgató dolgozott közvetlen a gépi tanulás támadási technikáival, valamint egy diák dolgozott rosszindulatú szoftverekkel. A következő részben röviden bevezetem a két problémát. A gépi tanuló modell támadásában nem egy-egy sérülékenységet használnak ki, hanem különböző módszerekkel igyekeznek manipulálni egy-egy aspektusát a modellnek, ezzel direkt vagy indirekt módon megváltoztatni egy adott rekordra adott válaszát, ellopni, leterhelni a modellt, vagy információt gyűjteni róla. A félév első egyharmadában kutatómunkát végeztünk, melynek eredményeképp megismerkedtünk 6 csoportjával a támadásoknak. Lehetőségünk volt SAS-sal foglalkozni a Quadron Kibervédelmi Kft. Jóvoltából, amellyel elsajátíthattuk egy profi, iparban is megszokott data analyst és machine learning framework kezelésének és használatának alapjait, majd a saját megoldásiankat is tesztelhettük a környezetben. A félév során kettő nagyobb támadást sikerült megvalasítanunk, egy model extractiont, valamint egy adversarial examples-t alkalmazót. Foglalkoztam szintetikus adatok generálásával, ami nagy szerepet játszott a már említett modellopás kivitelezésében, nélküle gyakorlatilag lehetetlen lett volna. Egyre nagyobb terület nyílik a malwarek előtt is, amik célzottan támadják meg informatikai rendszereinket. Legyen szó pusztán financiális okokról, esetleg strukturált politikai vagy üzleti hátterű támadásokról, minden rendszert fel kell vértezni az alapvető malware-detekciós megoldásokkal. Manapság a Mesterséges Intelligencia hatalmas teret kapott, mivel olyan komoly potenciállal rendelkezik, ami mindenképpen kiaknázandó. Azonban ahogy a védekező oldalnak, úgy a támadó félnek is rendelkezésére áll a technológia, amit előszeretettel be is vetnek minél jobb és hatékonyabb támadások végrehajtásához, minél komplexebb, nehezebben felderíthetőf ertőzések kifejlesztéséhez. Így nem marad más választás, a védekezésben is szükséges ennek használata. Az eddig használt szignatúra alapú vagy heurisztikus megoldások már sokszor nem vezetnek megfelelő eredményre, így az egyre fejlődő minták detektálásához Mesterséges Intelligenciával megtámogatott programok váltak szükségessé. A kutatás során ebben a témában igyekszünk minél több összefüggést találni az egyes malware minták és családok között, valamint nem titkolt cél, hogy az evolúciójuk tanulmányozásávalolyan új kódokat tudjunk generálni, tesztelni, amivel a Mesterséges Intelligencia alapú detektorok sokkal pontosabb és hatékonyabb működést érhetnek el.
Lestyan Szilvia, Sipos Balint, Nagy Zoltan, Zsali Zsombor
2022-07-15
Támogató: Quadron