Wat is prompt injection?

Prompt injection is een aanval waarbij iemand instructies verstopt in tekst die een AI-assistent gaat lezen: in een webpagina, een e-mail of een document. De assistent kan die instructies verwarren met een opdracht van de gebruiker.

Het is de belangrijkste reden om een AI-agent nooit blind te laten handelen op wat hij ergens leest. Alles wat van buiten komt, is gegeven en geen opdracht.