Prepričljiv odgovor ni dokaz pravilnosti
NIST AI 600-1 med tveganji generativnih sistemov opredeljuje konfabulacijo: sistem lahko samozavestno poda napačno ali neresnično vsebino. Slovnično pravilen odgovor zato ni dokaz, da so navedene informacije točne. [1, razdelek 2.2]
Preverjanje informacij
NIST priporoča postopke preverjanja dejstev in ocenjevanje točnosti informacij, zlasti kadar izvirajo iz več ali neznanih virov. Pri uporabi v podjetju je smiselno določiti, katera vsebina potrebuje pregled odgovorne osebe, preden vpliva na stranko ali poslovno odločitev. [1, MP-2.3-003]
Občutljivi podatki
NIST med tveganji navaja razkritje in nepooblaščeno uporabo osebnih ali občutljivih podatkov. Shranjevanje ključa za dostop na strežniku samo po sebi ne prepreči, da bi bili podatki iz poslanega zahtevka posredovani ponudniku modela. Pri presoji so pomembni vsebina zahtevka, pogoji ponudnika, dostopi in ravnanje s podatki. [1, razdelka 2.4 in 3]
Preizkus pred širšo uporabo
NIST obravnava ocenjevanje in upravljanje tveganj skozi življenjski cikel sistema. Omejen preizkus z določenimi vhodnimi podatki, merilom pravilnosti in zapisom napak je način uporabe tega pristopa. Dokument ne zagotavlja določenega časovnega prihranka ali finančne koristi za posamezno podjetje. [1, razdelek 3]