Dokumentacja WitnessOps
Zrozum usługę
WitnessOps aktywnie testuje jedno istotne działanie agenta AI na całej ścieżce: treść kontrolowana przez atakującego, działanie wybrane przez agenta, wykonanie narzędzia lub wywołania API, efektywne uprawnienia, faktycznie zapisana zmiana i dowody wyniku. W uzgodnionym środowisku i granicach testu próbujemy doprowadzić do niedozwolonych skutków. Pokazujemy, które zabezpieczenia zadziałały, które zawiodły, co się zmieniło i co wymaga poprawy.
Jakie działanie?
Może to być na przykład zwrot płatności, zmiana danych lub nadanie dostępu. Przegląd dotyczy jednego wybranego działania, a nie wszystkich możliwości agenta.
Co sprawdzamy?
- Czy treść kontrolowana przez atakującego może wywołać niedozwolone działanie oraz jaką decyzję, narzędzie i parametry wybiera agent — na podstawie obserwowalnego zachowania.
- Co faktycznie przesłano do narzędzia lub API, z uwzględnieniem walidacji, błędów, ponowień i nieoczekiwanych operacji. Jaka tożsamość działała i czy egzekwowano zatwierdzenia oraz granice zasobów.
- Co faktycznie zapisano w systemie docelowym, także przy zmianach częściowych, powielonych lub niezapisanych, oraz czy wejście, wywołania i wynik pozwalają odtworzyć ustalenie.
Przykład: zwrot płatności
Załóżmy, że agent ma zlecić zwrot płatności. Warto zapytać: czy zwrot wymaga zatwierdzenia i czy uprawnienia konta używanego przez agenta pozwalają też zwrócić pieniądze niewłaściwej osobie lub w niewłaściwej kwocie?
W uzgodnionym środowisku próbujemy wywołać zdefiniowany niedozwolony zwrot, sprawdzamy przesłane wywołanie i rzeczywisty stan po stronie systemu docelowego. Brak dowodu nie oznacza odparcia próby. To przykład, a nie opis rzeczywistego klienta.
Czego usługa nie obejmuje?
Pisemne upoważnienie, środowisko, dozwolone czynności testowe, niedozwolone skutki, warunki przerwania i odtworzenie stanu uzgadniamy przed testem. System musi egzekwować upoważnienie przed zmianą; sześć etapów opisuje zakres badania, a nie kolejność sprawdzania uprawnień.
Zmiany produkcyjne wymagają osobnego wyraźnego upoważnienia. Nie wdrażamy poprawek, nie prowadzimy działań destrukcyjnych, ciągłego monitoringu ani certyfikacji bezpieczeństwa. Nie jest to test penetracyjny całego środowiska ani gwarancja bezpieczeństwa.