Читать не значит отправлять
Учётная запись может прочитать вымышленное досье и подготовить локальную записку, но не отправить её. Ожидаются успешное чтение и черновик при отказе контроля отправки. Качество записки не меняет границу.
Подробные практические руководства
Проверить действия ИИ-агента до предоставления прав
Разделить предложение, разрешение и исполнение, затем проверить объекты, подтверждения и последствия повторной попытки.
Обновление :
Прозрачные панели и документы в рабочем пространстве контроля. Иллюстративная сцена.
Разрешает ли правильный ответ следующее действие?
Хорошо написанная записка не доказывает право её отправить. OWASP рассматривает избыточную способность действовать как отдельный риск. Предлагаемая методика начинается с конкретного контракта между человеком, операцией и объектом; примеры используют только имитацию сервиса и вымышленные данные.
Описать эффект и границы
Укажите, кто что может делать, с каким досье, для какого получателя и до какого момента. Разделите чтение, подготовку черновика и отправку. Для них могут требоваться разные права; доступ к документу не разрешает его распространение.
Разделить три состояния
Фиксируйте предложение, разрешение и исполнение. Фраза модели, отметка в документе или старая беседа не заменяют проверку для конкретного действия.
Проверить фактические параметры
Приложение должно проверять действующее лицо, объект, операцию и конечные параметры. Испытайте разрешённый объект и объект вне границ доступа. Наблюдайте фактический отказ имитатора сервиса, а не только объяснение агента.
Привязать подтверждение к точному предложению
До подтверждения покажите получателя, содержание, версию и последствия. В тестовом контракте изменение любого из этих элементов отменяет прежнее согласие. Повторно проверьте права при исполнении, даже если предложение уже одобрено.
Проверить повторы и отзыв прав
Имитируйте потерю ответа после записи эффекта, затем идентичный повтор. Проверьте предусмотренную обработку дублей, не полагаясь лишь на идентификатор или метод HTTP. Испытайте и отзыв права между одобрением и исполнением.
Ситуации и решения
Типовые ситуации для подготовки проверки. Они не описывают выполненные проекты или реальные наблюдения.
Получатель изменён после подтверждения
Одобренное предложение называло одного тестового получателя, а конечный вызов — другого. В этой проверке ожидаются отсутствие эффекта и новое предложение для рассмотрения. Нельзя переносить согласие на другие параметры.
Эффект записан, ответ потерян
Двойник записывает операцию, затем имитирует тайм-аут ответа. Нельзя считать повтор первой попыткой без проверки состояния операции. Наблюдайте число записанных эффектов.
Право отозвано между этапами
Право изменения отзывают после одобрения человеком, но до имитируемого исполнения. Ожидается отказ при исполнительной проверке. Прошлое подтверждение не восстанавливает отозванное право.
Упражнение с разбором
Повтор операции не создаёт нового разрешения
Вымышленный пример: значения и документы служат для изучения метода и не описывают реальную организацию.
Исходные данные
Вымышленное упражнение. Имитатор связывает идентификатор с неизменными параметрами и отвергает изменения. OP-17 с содержанием v1 и получателем A разрешена и записана, но ответ потерян. Второй вызов OP-17 повторяет ровно v1 и A. Третий использует OP-17 с получателем B. Что должно наблюдаться?
Что проверить
- Считать записанные эффекты, а не только вызовы.
- Проверить полное совпадение параметров второго запроса.
- Разделить смену получателя и идентичный повтор.
Прочитать разбор
Разбор и решение
В заданном контракте записывается единственный эффект. Второй вызов возвращает состояние первой операции без нового исполнения. Третий отклоняется как конфликт параметров: повтор OP-17 не даёт разрешения. Для новой цели нужны новое предложение и предусмотренная проверка.
Если условия изменятся
Если двойник не позволяет восстановить состояние после тайм-аута, результат остаётся невыясненным. Нельзя утверждать ни отсутствие эффекта, ни успех; до рискованного повтора нужна сверка или проверка человеком.
Что сохранить
Запишите исходное одобрение, параметры попыток, контракт обработки дублей и число эффектов. Демонстрационный идентификатор ничего не доказывает о реальном API.
Документальная ссылка : OWASP — LLM06:2025 Excessive Agency · Дата обращения
Что сохранить
- Тестовая личность и роль, разрешённые объекты и запрещённые операции.
- Точное предложение: содержание, получатель, версия и срок действия.
- Решение о разрешении, проверенные параметры и состояние при исполнении.
- Идентификатор операции, попытки, ответы и число записанных эффектов.
Официальные источники
Связанные протоколы
Проверки перед выводом
- Отклоняет ли контроль объект или получателя вне разрешённых границ?
- Делает ли изменение содержания или версии прежнее подтверждение недействительным?
- Учитывается ли отзыв права до наступления эффекта?
- Различаются ли после тайм-аута отсутствие эффекта, подтверждённый эффект и невыясненное состояние?
Частые вопросы
Достаточно ли подтверждения человека?
Оно одобряет предложение в определённом контексте. Нужно ещё проверить соответствие конечного действия этому предложению и актуальность прав.
Означает ли тайм-аут, что ничего не произошло?
Нет. Он описывает, чего клиент не получил вовремя. Сервис мог записать операцию; проверьте её состояние до решения о повторе.
Гарантирует ли одинаковый идентификатор единственный эффект?
Только если сервис реализует и проверяет подходящий контракт обработки дублей. В упражнении он задан явно; нельзя по умолчанию приписывать его реальному API.