Uvjerljiv odgovor nije dokaz točnosti
NIST AI 600-1 među rizicima generativnih sustava navodi konfabulaciju: sustav može samouvjereno proizvesti pogrešan ili neistinit sadržaj. Gramatički ispravan odgovor zato nije dokaz točnosti navedenih informacija. [1, odjeljak 2.2]
Provjera informacija
NIST preporučuje postupke provjere činjenica i procjenu točnosti informacija, posebno kada dolaze iz više ili nepoznatih izvora. Poduzeće treba odrediti koji sadržaj mora pregledati odgovorna osoba prije nego što utječe na kupca ili poslovnu odluku. [1, MP-2.3-003]
Osjetljivi podaci
NIST među rizicima navodi otkrivanje i neovlaštenu uporabu osobnih ili osjetljivih podataka. Čuvanje pristupnog ključa na poslužitelju samo po sebi ne sprječava slanje podataka iz zahtjeva dobavljaču modela. Treba razmotriti sadržaj zahtjeva, uvjete dobavljača, pristupe i postupanje s podacima. [1, odjeljci 2.4 i 3]
Test prije šire primjene
NIST obrađuje procjenu rizika i upravljanje rizicima tijekom životnog ciklusa sustava. Ograničen test s određenim ulaznim podacima, kriterijem točnosti i zapisom pogrešaka jedan je način primjene tog pristupa. Dokument ne jamči vremensku uštedu ili financijsku korist pojedinom poduzeću. [1, odjeljak 3]