Reverse Prompt Engineering for Fun and (no) Profit

Artikeln beskriver hur författaren, efter att ha fått tillgång till Notion AI:s alphaversion, använde "Prompt Injection" för att extrahera de fullständiga källprompterna för alla dess AI-funktioner. Syftet med att publicera dessa promptar är att demonstrera att "Prompt Injection" och "Prompt Leaks" inte är så farliga som många befarar, samt att hylla Notions framgångsrika integration av AI. Författaren skiljer mellan "Prompt Takeovers" (som främst orsakar anseendeskada) och "Prompt Leaks" (som berör immateriella rättigheter), och argumenterar för att båda typerna är relativt ofarliga. Artikeln introducerar och förklarar flera tekniker för "Reverse Prompt Engineering", inklusive "ignore the prefix", "give it an outlet" och "identity translation", som användes för att avslöja promptkällorna.