Термин
System prompt leakage
Раскрытие системного промпта, developer-инструкций или внутренних правил пользователю.
System prompt leakage может помочь атакующему понять правила агента и попытаться их обойти. Ассистент должен отказывать в раскрытии системных инструкций, а продукт должен защищаться не только скрытием промпта, но и backend-правилами.