Prompt injection is een aanvalsvorm waarbij kwaadwillenden proberen een AI-model te manipuleren door speciale instructies te verbergen in hun berichten. AI Assistent implementeert meerdere beveiligingslagen om dit te detecteren en te blokkeren.
Alle gebruikersinput wordt gefilterd en geanalyseerd voordat het de AI bereikt. Patronen die kenmerkend zijn voor injection-pogingen worden herkend en geblokkeerd. Gevoelige systeeminformatie is nooit toegankelijk voor gebruikers.
Alle geblokkeerde pogingen worden gelogd en zijn zichtbaar in het beveiligingsdashboard. Herhaalde aanvalspogingen leiden tot automatische ratebegrenzing.
Uw beveiligingsteam ontvangt direct een melding bij gedetecteerde aanvalspatronen.