Laat die agent ontleed. Hou die finansiële besluit menslik.

Finansiële spanne wil hê KI-agente moet meer doen as om dokumente op te som. ’n Agent kan beleide soek, transaksies rekonsilieer, ’n begrotingsafwyking verduidelik of ’n aanbeveling voorberei. Die vraag is hoe dit nuttige werk kan doen sonder dat ’n geloofwaardige maar verkeerde antwoord ’n onbeoordeelde finansiële aksie word.

In “Trust in Depth: Giving agents more autonomy without losing control” voer AWS aan dat goedkeuring van elke stap nie ’n skaalbare oplossing is nie. Wanneer goedkeurings ophoop, kan beoordelaars moeg raak en die besluite mis wat werklik aandag verdien. Die artikel beskryf eerder gelaagde vertroue: bepaal die agent se omvang, ken sy identiteit en gesag, begrens sy aksies en hou dop wat hy doen. Laat hom onafhanklik optree waar sy aksies geverifieer kan word; behou menslike oordeel vir belangrike of dubbelsinnige besluite.

Dié beginsel pas by die sentrale boodskap van Ed Freitas se The Impact of AI in Financial Decisions: KI kan inligting verwerk en ’n optrede aanbeveel, maar ’n mens moet besluit of daardie uitset die onderneming se besluit behoort te beïnvloed. Die doel is nie om elke sin van die model goed te keur nie. Dit is om die werkvloei só te ontwerp dat mense gesag behou oor watter uitsette finansiële besluite word.

Menslike toesig is ’n besluitreg, nie ’n knoppie nie

“Human in the loop” kan enigiets beteken van ’n betekenisvolle beoordeling tot ’n persoon wat “Keur goed” klik op ’n skerm waarvoor daar nie tyd is om dit te evalueer nie. ’n Beheermaatreël is net betekenisvol wanneer die beoordelaar die bewyse, kundigheid, gesag en tyd het om die aanbeveling te bevraagteken—en die stelsel ’n werklike keuse bied om dit goed te keur, te wysig, uit te stel of te verwerp.

Die boek se voorbeeld van bedrogopsporing toon ’n bruikbare verdeling van verantwoordelikheid. Die model gee transaksies ’n telling; ’n menslike ontleder beoordeel sake bo ’n voorafbepaalde drempel. Die voorbeeld meld beter opsporing en minder vals positiewe in daardie scenario. Dit beweer nie dat dieselfde resultate oral gewaarborg is nie. Die praktiese punt is hoe die werk verdeel word: KI prioritiseer bewyse, terwyl ’n verantwoordelike ontleder besluit watter optrede volg.

Die boek se leningswerkvloei gebruik ’n soortgelyke grens. KI kan dokumente versamel en verifieer, verskille uitwys en ’n voorlopige onderskrywingsaanbeveling lewer. Die menslike onderskrywer beoordeel die aanbeveling en stawende dokumente, neem die kredietbesluit en teken dit af (bl. 58). In die slot verduidelik die boek dat uitsette eers besluite word deur die oordeel van die persoon wat dit beoordeel (bl. 204). Dit is ’n bestuurskeuse, nie ’n bewering dat ’n model onfeilbaar gemaak kan word nie.

Outonomie werk die beste binne grense wat die agent nie kan verander nie

’n Agent kan verskeie stappe uitvoer wat afsonderlik toegelaat is en steeds by ’n onbedoelde uitkoms eindig. ’n Finansiële agent kan ’n geldige beleid raadpleeg, ’n goedgekeurde sigbladfunksie kies en ’n akkurate grootboekbeskrywing opstel—en dan ’n joernaalinskrywing indien wat niemand bedoel het om in te dien nie. Instruksies in ’n prompt beskerm nie die proses voldoende nie, want die model self interpreteer daardie instruksies.

Skei die agent se redenasie van die beheermaatreëls wat optrede magtig. Bepaal wat hy mag lees en doen deur toegangsregte, vaste reëls, goedkeuringshekke en stelsellimiete. Die agent kan ’n optrede voorstel, maar mag nie sy eie betalingslimiet verhoog, vir homself nuwe toegang gee of ’n verpligte menslike goedkeuring omseil nie. Teken die bewyse, gereedskap, toegepaste beheermaatreëls en finale besluit aan sodat die verloop later gerekonstrueer kan word.

AWS se vier vrae help om dié ontwerp te struktureer:

• Omvang: Watter werk doen die agent, watter inligting en gereedskap benodig hy, en watter besluite moet by ’n mens bly?
• Identiteit: Watter benoemde agent het opgetree, onder wie se gesag, en kan elke aksie na dié identiteit teruggevoer word?
• Grense: Watter reëls word buite die model afgedwing oor die hele reeks aksies?
• Waarneming: Kan die span rekonstrueer wat die agent gesien, gedoen en teruggestuur het—en ’n verkeerde uitkoms opspoor?

Voeg in ’n finansiële werkvloei ’n menslike besluitpunt in wanneer interpretasie, wesenlikheid, beleidsuitsonderings, kliënte-impak of ’n onomkeerbare optrede saak maak. Gebruik outomatiese kontroles vir sake wat presies getoets kan word, soos berekeninge, verpligte velde, duplikaatidentifiseerders en goedgekeurde drempels.

Voorbeeld: ’n afwykingsagent wat nie die begroting kan verskuif nie

Stel jou ’n agent voor wat help ondersoek waarom ’n departement se uitgawes die voorspelling oorskry. Gee hom leesalleentoegang tot ’n goedgekeurde grootboekuittreksel, die begroting, vorige tydperke se totale en die toepaslike uitgawebeleid. Vra hom om die afwyking met ’n bepaalde formule te bereken, bronrye aan te haal, ontbrekende bewyse te merk en verskeie moontlike verklarings voor te stel, met aanduiding van die bewyse wat elkeen sal bevestig of verswak.

Die agent kan ’n beoordelingspakket voorberei. Hy kan nie die grootboek wysig, begroting oordra, ’n voorspelling verander of ’n gevolgtrekking aan bestuur stuur nie. ’n Finansiële beroepspersoon kontroleer die syfers, praat met die begrotingsverantwoordelike, bepaal watter verklaring by die feite pas en magtig enige aanpassing. As ’n goedgekeurde stelsel die aanpassing daarna uitvoer, moet dit die gemagtigde bedrag en rekening op die oomblik van uitvoering weer nagaan.

Dit is nie onnodige rompslomp nie. Die boek se besluitsoefeninge vra finansiële leiers om moontlike KI-projekte volgens besigheidswaarde en implementeringsrisiko te vergelyk. Dit wys ook waarom outonome handel ’n swak eerste projek kan wees vir ’n organisasie wat nog nie die kundigheid en beheermaatreëls daarvoor het nie (bl. 187). Die beginsel is om outonomie by die risiko en die organisasie se bestuursvermoë te laat pas.

’n Prompt wat oordeel ondersteun sonder om te maak asof dit dit vervang

Prompts kan ’n ontledingstaak omskryf en onsekerheid sigbaar maak. Hulle kan nie toestemmings afdwing nie. Gebruik hulle saam met tegniese beheermaatreëls, nie as plaasvervanger daarvoor nie:

Jy is ’n assistent vir finansiële besluitsteun. Beoordeel die goedgekeurde data
wat vir hierdie afwykingsondersoek verskaf word.

1. Bereken die afwyking weer met die gegewe formule en wys die insette.
2. Skei geverifieerde feite van hipoteses. Haal die bronlêer en ry vir elkeen aan.
3. Gee hoogstens vier moontlike verklarings en noem bewyse daarvoor en daarteen.
4. Sê watter inligting ontbreek en watter vraag die finansiële beoordelaar moet vra.
5. Moenie rekords verander, fondse oorplaas, voorspellings wysig, iemand kontak of ’n
   finale rekeningkundige of bestuursbesluit neem nie. Gee aanbevelings vir beoordeling.

Vra die agent by ’n belangriker besluit om die voorkeurkeuse te bevraagteken:

Tree op as ’n skeptiese beoordelaar van hierdie voorgestelde finansiële besluit.
Identifiseer aannames wat die uitkoms kan verander, geloofwaardige alternatiewe
wat ons nie oorweeg het nie, nadelige scenario’s en bewyse wat die voorkeurkeuse
sal weerlê. Onderskei feite van skattings. Moenie ’n opsie kies of uitvoer nie.
Noem watter menslike rol die besluit moet neem en watter kontroles nodig is voordat
enige optrede gemagtig word.

Laat die tegniese werkvloei daarna by die prompt pas: leesalleentoegang vir ontleding, streng skemas vir gestruktureerde uitsette, onafhanklik berekende syfers, ’n benoemde beoordelaar en ’n stelselafgedwingde goedkeuring voor ’n belangrike optrede. Moet nooit op die model staatmaak om sy eie toegang te beheer nie.

Verskillende goedkeuringsvlakke vir verskillende risiko’s

Goedkeuring vir elke eenvoudige laerisikotaak kan beoordelaars uitput. Laat roetinewerk wat omkeerbaar is—soos om ’n item vir ’n beoordelingslys te kategoriseer—outomaties voortgaan wanneer die proses duidelike grense, monitering en ’n manier om foute reg te stel het. Laat die agent ontledings en konsepaanbevelings vir ’n mens voorberei. Vereis uitdruklike menslike magtiging vir wesenlike krediet-, beleggings-, rekeningkundige, kliënte-, regulatoriese of betalingsbesluite. Hou aksies buite die agent se toestemmings as afdwingbare beheermaatreëls dit nie veilig kan maak nie.

Toets die hele werkvloei met gewone gevalle, uitsonderings, misleidende dokumente, ontbrekende data en pogings tot prompt-inspuiting voordat jy die agent se outonomie vergroot. Meet ekstraksiefoute, aanbevelings sonder bewyse, beoordelaars se wysigings, goedkeuringsvertragings, beleidskending en die tyd wat nodig is om ’n optrede te stop of om te keer. As beoordelaars gewoonlik goedkeur sonder om na te gaan, bestaan die kontrole op papier maar nie in die praktyk nie.

Menslike beheer beteken dat jy die uitkoms besit

Geen organisasie kan belowe dat elke KI-uitset korrek sal wees nie. Menslike beheer beteken iets meer tasbaars: die organisasie bepaal waartoe die agent toegang het, watter aksies hy mag uitvoer, watter voorwaardes eskalasie vereis, wie goedkeuringsgesag het en hoe ’n fout beperk word. By finansiële besluite met groot gevolge bly ’n bevoegde persoon verantwoordelik vir die finale besluit en kan hy of sy die aanbeveling verwerp of wysig.

So versterk die boek se benadering en AWS se gelaagde vertrouensidee mekaar. Laat KI meer soekwerk, vergelykings, berekeninge en konsepte doen. Plaas harde grense om sy gereedskap en toestemmings. Maak onsekerheid sigbaar. Gee mense genoeg bewyse en gesag om die besluit te neem. Goed ontwerpte kontroles laat ’n agent vinnig bydra sonder dat die organisasie sy besluitregte aan die agent oordra.

Die nuttigste vraag is nie “Hoe outonoom kan ons hierdie agent maak?” nie. Dit is “Watter werk kan hy veilig voltooi, watter uitkomste vereis ’n mens se oordeel, en watter beheermaatreëls bewys die verskil?”