Az AI red teaming célja nem az, hogy egy demóban hibát találjunk, hanem hogy a teljes üzleti rendszert valós támadási és hibaforgatókönyvekkel próbára tegyük. A modell mellett a promptot, tudásbázist, jogosultságokat, eszközhívásokat, naplózást és emberi felügyeletet is vizsgálni kell.
Frissítve: 2026. július 29. A cikk üzleti-technológiai tájékoztató, nem egyedi jogi tanácsadás.
Határozzuk meg a támadási felületet
Rajzoljuk fel, honnan érkezik bemenet, milyen adatokhoz fér hozzá a rendszer, mely API-kat hívhatja, és milyen műveletnek van üzleti hatása. Egy csak válaszoló asszisztens és egy rendelést módosító AI-agent kockázata nem azonos.
Teszteljük a közvetlen és közvetett prompt injectiont
Próbáljuk felülírni a rendszerutasítást felhasználói szöveggel, feltöltött dokumentummal és külső webtartalommal. Vizsgáljuk, képes-e a rendszer titkot, belső promptot vagy más felhasználó adatát kiadni. A védekezési rétegeket a prompt injection útmutatóban részletezzük.
Jogosultság és eszközhasználat
A modell ne kapjon szélesebb jogosultságot, mint az adott felhasználó. Teszteljük a paraméterhamisítást, többszöri végrehajtást, jóváhagyás megkerülését és azt, mi történik részleges hiba esetén.
Mérhető eredmény és javítási ciklus
Minden tesztesethez legyen várható eredmény, súlyosság, bizonyíték és felelős. A hibajavítás után ugyanazt a tesztet automatikusan ismételjük meg. A kockázatkezelés döntse el, mi blokkolja az élesítést.
Folyamatos ellenőrzés élesben
Modell- és tudásbázis-frissítés új viselkedést hozhat. Figyeljük az elutasításokat, szokatlan eszközhívásokat, költségcsúcsokat és adatvesztésre utaló mintákat, de a monitorozás ne gyűjtsön szükségtelen személyes adatot.
Gyakori kérdések
A penetrációs teszt kiváltja az AI red teaminget?
Nem. A hagyományos alkalmazásbiztonsági teszt és az AI-specifikus viselkedési teszt kiegészíti egymást.
Ki végezze?
Fejlesztő, biztonsági szakember, folyamatgazda és lehetőleg a rendszertől független tesztelő együtt.
Mikor kell megismételni?
Élesítés előtt, lényeges modell- vagy eszközváltozáskor, valamint rendszeres időközönként.
Források és további olvasnivaló
Teszteljük meg az AI-rendszert élesítés előtt
Összeállítjuk a kockázatalapú teszttervet, végrehajtjuk a kritikus forgatókönyveket, és javítási listát adunk az élesítéshez. Kérjen technikai konzultációt.