Felelős MI-használat
Támogassa az MI átgondolt bevezetését és felelős használatát.
MI-kitettség Elemzés
Gyakorlati felméréssel támogatjuk a mesterséges intelligencia (MI) tudatos bevezetését, az információk védelmét és a biztonságos fejlesztési gyakorlatokat.
Hol jelennek meg új kiberbiztonsági kockázatok?
A munkatársak nyilvános asszisztenseket, böngészőbővítményeket és beépített MI-funkciókat használhatnak egységes szabályok nélkül. A promptok, a feltöltött dokumentumok és az összekapcsolt adatforrások bizalmas információkat tehetnek hozzáférhetővé, ha a szervezet nem szabályozza egyértelműen a hozzáférést, az adatmegőrzést és a szolgáltatói beállításokat. A csapattal közösen térképezzük fel a jóváhagyott és az informális használatot.
A generált kód hibás jogosultságkezelést, sérülékeny függőségeket (vulnerable dependencies) vagy üzleti logikai hibákat tartalmazhat. Az MI-vel támogatott adathalászat (phishing) és megszemélyesítés (impersonation) a meglévő ellenőrzési folyamatokat is próbára teheti. Az Ön működéséhez illeszkedő helyzeteket értékeljük. A lehetséges támadásokat forgatókönyvként kezeljük, nem megtörtént incidensként.
Agentikus LLM-támadás szimulációja
Külön egyeztetett hatókörben azt is szimuláljuk, hogyan lépne fel egy eltérített vagy rosszindulatú LLM-ügynök (LLM agent) a szervezettel szemben. Az ellenőrzött gyakorlat négy lépést vizsgál:
- Feltérképezi a külső támadási felületet (attack surface).
- Megkeresi a peremvédelmen át vezető lehetséges útvonalakat.
- Összekapcsolja a hozzáférhető információkat és szolgáltatásokat.
- Nyomon követi a haladást a kiemelt értékű rendszerek (high-value systems) felé.
Dokumentáljuk a megkísérelt útvonalakat, a működésbe lépő védelmi kontrollokat és a támadás megszakításának gyakorlati lehetőségeit. A szimulációt egyeztetett célokkal, korlátokkal és leállítási feltételekkel (stop conditions) végezzük. Nem adunk korlátlan hozzáférést önállóan működő ügynöknek az éles rendszerekhez.
MI-kitettség elemzés lépésről lépésre
1
A tényleges használat feltérképezése
A tényleges használat feltérképezése
Egyeztetjük a hatókört, azonosítjuk az eszközöket és felelősöket, áttekintjük a megosztott adatokat, a jogosultságokat és az integrációkat.
2
A kontrollok értékelése
A kontrollok értékelése
Megvizsgáljuk a használati szabályokat, az adatbesorolást, a szolgáltatói beállításokat, az MI által készített tartalmak emberi ellenőrzését és a fejlesztési gyakorlatokat. A technikai tesztelést külön egyeztetett hatókörben végezzük.
3
Agentikus támadási útvonalak szimulációja
Agentikus támadási útvonalak szimulációja
Meghatározzuk a célokat, a korlátokat és a leállítási feltételeket, majd megfigyeljük, hogyan térképezi fel az ellenőrzött ügynök a peremvédelmet, és hogyan kapcsolja támadási útvonalakká a hozzáférhető információkat és szolgáltatásokat.
4
A teendők rangsorolása
A teendők rangsorolása
A megállapításokat üzleti következményekhez kapcsoljuk, majd arányos védelmi lépéseket, felelősöket és nyomon követhető feladatokat javasolunk.
Mit adunk át?
Dokumentált MI-használati és adatkitettségi térképet, rangsorolt kockázati listát, kontrolljavaslatokat és megvalósítási ütemtervet adunk át. A szabályzat frissítése, a fejlesztői útmutató elkészítése és a vezetői workshop is része lehet az egyeztetett hatókörnek. Ha az agentikus szimuláció is része a megbízásnak, támadási útvonaltérképet, alátámasztó bizonyítékokat, kontrollmegfigyeléseket és a támadás megszakítására alkalmas pontok rangsorát is átadjuk. A felmérés döntéstámogatásra szolgál.
Üzleti előnyök
Véletlen adatkitettség csökkentése
Csökkentse a bizalmas adatok véletlen megosztásának kockázatát.
Költséges utólagos javítások elkerülése
Tárja fel időben a hiányosságokat, és előzze meg a költséges javításokat.
Gyakran ismételt kérdések az MI-kitettség elemzésről
Szükséges saját fejlesztésű MI-rendszer?
Nem. A munkatársak által használt külső MI-asszisztensek és a meglévő szoftverek MI-funkciói is indokolhatják a felmérést.
Bizalmas promptokat vagy éles adatokat kell átadnunk?
Előzetesen egyeztetjük, hogy milyen bizonyítékokra van szükség, és lehetőség szerint anonimizált példákkal vagy ellenőrzött tesztadatokkal dolgozunk.
Mit jelent az, hogy agentikus?
Az agentikus rendszer egy cél elérésén több lépésben tud dolgozni. Kiválaszthatja a következő műveletet, használhat rendelkezésére álló eszközöket, értékelheti az eredményt, majd ennek alapján módosíthatja a következő lépését ahelyett, hogy csak egyetlen választ adna.
Mi az az MI-ügynök?
Az MI-ügynök olyan szoftver, amely egy MI-modell segítségével dolgozik egy meghatározott cél elérésén. A kialakításától függően információt gyűjthet, eszközöket használhat, más rendszerekkel léphet kapcsolatba, és kiválaszthatja a következő engedélyezett műveletet.
Mit jelent az LLM rövidítés?
Az LLM az angol large language model, magyarul nagy nyelvi modell rövidítése. Nagy mennyiségű szövegen tanított modell, amely képes a nyelv értelmezésére és létrehozására, így többek között összefoglalásra, elemzésre, párbeszédre és kódgenerálásra használható.
Mi a különbség az MI, a gépi tanulás és az LLM között?
Az MI az emberi intelligenciához kapcsolódó feladatokat végző rendszerek tág gyűjtőfogalma. A gépi tanulás olyan módszerek összessége, amelyekkel a rendszerek adatokból tanulnak mintázatokat. Az LLM a gépi tanulási modellek egyik típusa, amely a nyelv értelmezésére és létrehozására szakosodott.
Mit vizsgál az agentikus LLM-támadás szimulációja?
Azt vizsgálja, hogyan azonosíthatna egy ellenőrzött ügynök elérhető szolgáltatásokat, hogyan kapcsolhatná össze a rendelkezésére álló információkat, és milyen útvonalakon próbálhatna a peremvédelmen keresztül fontos rendszerekhez jutni. A cél a valószínű támadási útvonalak és az ezeket megszakító kontrollok feltárása.
Korlátok nélkül működik az MI-ügynök?
Nem. A tesztelés előtt meghatározzuk a célokat, az engedélyezett műveleteket, a technikai korlátokat és a leállítási feltételeket. Károkozó vagy jelentős működési kockázattal járó műveleteket nem végzünk.
Éles rendszereket is érinthet a szimuláció?
A szimuláció tesztrendszereken is elvégezhető. A legtöbb használható információt azonban akkor adja, ha a hatókör széles, és a kapcsolódó éles rendszereket is magában foglalja, mert így a valós integrációk, jogosultsági határok és működő védelmi kontrollok is láthatóvá válnak. A kockázatot folyamatos emberi felügyelettel, lépcsőzetes műveletekkel, előre meghatározott korlátokkal és azonnali leállítási lehetőséggel csökkentjük.
Helyettesíti a penetrációs tesztelést?
Nem. Az MI-hez kapcsolódó kockázatokat és kontrollhiányokat tárja fel. Az agentikus szimulációt külön egyeztetett hatókörben végezzük, a szélesebb körű penetrációs tesztelés pedig továbbra is külön szolgáltatás.