Perusteelliset käytännön oppaat

Validoi tekoälyagentin toiminnot ennen käyttöoikeuksien myöntämistä

Erota ehdotus, valtuutus ja suoritus. Tarkista sitten kohteet, vahvistukset ja uudelleenyrityksen vaikutukset.

Päivitetty :

Läpinäkyviä paneeleja ja asiakirjoja tarkastelutilassa. Havainnollistava näkymä.

Läpinäkyviä paneeleja ja asiakirjoja tarkastelutilassa. Havainnollistava näkymä.

Valtuuttaako oikea vastaus seuraavan toiminnon?

Hyvin kirjoitettu muistio ei osoita lupaa lähettää sitä. OWASP käsittelee liiallista toimintavaltaa erillisenä riskinä. Ehdotettu menetelmä alkaa henkilön, operaation ja kohteen välisestä täsmällisestä sopimuksesta; esimerkit käyttävät vain simuloitua palvelua ja kuvitteellisia tietoja.

  1. Kuvaa vaikutus ja rajat

    Määritä kuka saa tehdä mitä, mille aineistolle, kenelle vastaanottajalle ja mihin asti. Erota lukeminen, luonnostelu ja lähettäminen. Ne voivat edellyttää eri oikeuksia; asiakirjan käyttöoikeus ei anna lupaa sen jakeluun.

  2. Erota kolme tilaa

    Kirjaa ehdotus, valtuutus ja suoritus. Mallin lause, asiakirjan valintaruutu tai vanha keskustelu ei korvaa tietyn toiminnon vaatimaa tarkistusta.

  3. Tarkista suoritettavat parametrit

    Sovelluksen on tarkistettava toimija, kohde, operaatio ja lopulliset parametrit. Testaa sallittu kohde ja rajauksen ulkopuolinen kohde. Tarkkaile simuloidun palvelun todellista kieltoa, älä vain agentin selitystä.

  4. Sido vahvistus täsmälliseen ehdotukseen

    Näytä vastaanottaja, sisältö, versio ja seuraus ennen vahvistusta. Testisopimuksessa näiden muuttaminen mitätöi aiemman hyväksynnän. Tarkista oikeudet uudelleen suoritushetkellä, vaikka ehdotus olisi jo hyväksytty.

  5. Tutki uudelleenyritykset ja oikeuksien peruutus

    Simuloi vastauksen katoaminen kirjatun vaikutuksen jälkeen ja sitten samanlainen uudelleenyritys. Tarkista sovittu kaksoiskäsittelyn esto olettamatta tunnisteen tai HTTP-menetelmän yksin riittävän. Testaa myös oikeuden poisto hyväksynnän ja suorituksen välissä.

Tilanteet ja päätökset

Tyypillisiä tilanteita tarkistuksen suunnitteluun. Ne eivät kuvaa toteutettuja toimeksiantoja tai todellisia havaintoja.

Lukuoikeus ei tarkoita lähetysoikeutta

Tili saa lukea kuvitteellisen aineiston ja laatia paikallisen muistion, mutta ei lähettää sitä. Lukemisen ja luonnostelun pitää onnistua, lähetyksen estyä. Muistion laatu ei muuta rajaa.

Vastaanottaja muuttuu vahvistuksen jälkeen

Hyväksytty ehdotus nimesi yhden testivastaanottajan, lopullinen kutsu toisen. Tässä testissä odotetaan vaikutuksen estoa ja uutta tarkistettavaa ehdotusta. Vanhaa hyväksyntää ei siirretä eri parametreihin.

Vaikutus kirjattu, vastaus kadonnut

Testikorvike kirjaa operaation ja simuloi vastausajan ylittymisen. Uusintaa ei saa käsitellä ensimmäisenä yrityksenä tarkistamatta operaation tilaa. Tarkkaile korvikkeen kirjaamien vaikutusten määrää.

Oikeus poistetaan vaiheiden välissä

Muokkausoikeus poistetaan ihmisen hyväksynnän jälkeen mutta ennen simuloitua suoritusta. Suoritushetken tarkistuksen pitää estää toiminto. Aiempi vahvistus ei palauta poistettua oikeutta.

Harjoitus ja ratkaisu

Toistettu operaatio ei ole uusi valtuutus

Kuvitteellinen esimerkki: arvot ja asiakirjat opettavat menetelmää eivätkä kuvaa todellista organisaatiota.

Lähtötiedot

Kuvitteellinen harjoitus. Simuloitu palvelu sitoo tunnisteen kiinteisiin parametreihin ja hylkää muutokset. OP-17 sisällöllä v1 vastaanottajalle A valtuutetaan ja kirjataan, mutta vastaus katoaa. Toinen OP-17-kutsu käyttää täsmälleen v1:tä ja A:ta. Kolmas käyttää OP-17:ää vastaanottajalla B. Mitä pitäisi havaita?

Tarkistettavat asiat

  1. Laske kirjattuja vaikutuksia, älä pelkkiä kutsuja.
  2. Tarkista toisen pyynnön parametrien täydellinen yhtäläisyys.
  3. Erota vastaanottajan vaihto samanlaisesta uudelleenyrityksestä.
Lue ratkaisu

Ratkaisu ja päätös

Määritellyssä sopimuksessa kirjataan yksi vaikutus. Toinen kutsu palauttaa ensimmäisen operaation tilan suorittamatta sitä uudelleen. Kolmas hylätään parametriristiriitana; OP-17:n uudelleenkäyttö ei anna lupaa. Uusi kohde vaatii uuden ehdotuksen ja sovitun tarkistuksen.

Jos tilanne muuttuu

Jos testikorvike ei löydä tilaa aikakatkaisun jälkeen, tulos pysyy selvittämättömänä. Älä päättele vaikutuksen puuttumista tai onnistumista; sovi tilan täsmäytys tai ihmisen tarkistus ennen riskialtista uusintaa.

Säilytettävä jälki

Kirjaa alkuperäinen hyväksyntä, yritysten parametrit, kaksoiskäsittelyn eston sopimus ja vaikutusten määrä. Esimerkkitunniste ei todista mitään oikeasta API:sta.

Dokumentaatioviite : OWASP — LLM06:2025 Excessive Agency · Luettu

Säilytettävä näyttö

  • Testi-identiteetti ja rooli, sallitut kohteet ja kielletyt operaatiot.
  • Täsmällinen ehdotus: sisältö, vastaanottaja, versio ja voimassaoloaika.
  • Valtuutuspäätös, tarkistetut parametrit ja suoritushetken tila.
  • Operaation tunniste, yritykset, vastaukset ja kirjattujen vaikutusten määrä.

Viralliset lähteet

Aiheeseen liittyvät protokollat

Tarkistukset ennen johtopäätöstä

  • Estääkö tarkistus rajauksen ulkopuolisen kohteen tai vastaanottajan?
  • Mitätöikö sisällön tai version muutos vanhan vahvistuksen?
  • Huomioidaanko oikeuden peruutus ennen vaikutusta?
  • Erottuvatko aikakatkaisun jälkeen vaikutuksen puuttuminen, vahvistettu vaikutus ja selvittämätön tila?

Usein kysytyt kysymykset

Riittääkö ihmisen vahvistus?

Se hyväksyy ehdotuksen tietyssä asiayhteydessä. Lopullisen toiminnon on edelleen vastattava ehdotusta ja oikeuksien oltava voimassa.

Tarkoittaako aikakatkaisu, ettei mitään tapahtunut?

Ei. Se kertoo, mitä asiakas ei saanut määräajassa. Palvelu on voinut kirjata operaation; tarkista tila ennen uusintapäätöstä.

Takaako sama tunniste yhden vaikutuksen?

Vain jos palvelu toteuttaa ja testaa asianmukaisen kaksoiskäsittelyn eston. Harjoituksessa sopimus määritellään erikseen; sitä ei saa olettaa oikean API:n ominaisuudeksi.