Styrning och EU:s AI-förordning för AI-agenter

Risk, behörigheter och tillsyn, utan att strypa det du försöker bygga.

Varför det här pappret finns

När en agent agerar för din räkning är dess handlingar dina handlingar. Det är hela poängen. Ett chattverktyg svarar på en fråga och ansvaret stannar hos personen som frågade. En agent skickar mejlet, flyttar pengarna, uppdaterar posten, och organisationen äger resultatet, på samma sätt som den äger resultatet när en medarbetare gör samma saker. Styrning av agenter är inte ett problem för efterlevnadsavdelningen som skruvas på i slutet. Det börjar i det ögonblick du ger en agent ett uppdrag.

Det här pappret är medvetet hållet på principnivå. Det är inte en juridisk inlaga, och ingenting här är juridisk rådgivning. Det du får är ett sätt att tänka kring styrning av agenter som en ledningsgrupp faktiskt kan stå för, och en känsla för var EU:s AI-förordning (AI Act) passar in i det, så att du behandlar regelverket som en drivkraft snarare än ett dimmoln.

I korthet

Styrning av agenter är inte en ny disciplin som du bygger upp från grunden. Det är de fem saker du redan använder för att leda en agent: ett uppdrag, kontext, autonomi, verktyg och tillsyn, nedskrivna, ägda av någon och öppna för granskning. Gör dem explicita så har du det mesta av din styrning. EU:s AI-förordning ber dig, när du väl kommer dit, mest om att visa att du gjorde precis detta. Och målet är aldrig maximal kontroll. Det är kontroll anpassad till risk, så att agenten är säker utan att vara värdelös.

Styrning är de fem sakerna, gjorda ansvarstagande

Om du har läst Att leda AI-agenter som medarbetare har du redan stommen. Styrning är samma fem element, var och en nu behandlat som en kontroll med en ägare.

Uppdraget är din första och billigaste kontroll: en nedskriven avgränsning, inklusive vad agenten aldrig får göra. Kontexten du ger den är ett beslut om datastyrning, vad den får använda och vad den inte får röra. Autonomin är den stora riskratten, skillnaden mellan en agent som agerar och stämmer av och en som föreslår medan en människa beslutar. Verktyg är behörigheter: minsta möjliga behörighet, beviljad med avsikt, med ett spår av vad som användes. Och tillsyn är det stående uppdraget: en utsedd ägare, en fastlagd rytm och en logg du faktiskt kan läsa.

Ingenting på den listan är exotiskt. Det är disciplinen att driva agenten väl, nedskriven så att någon är ansvarig för den.

Anpassa kontrollen till risken

Det finns två sätt att göra fel på, och de ser ut som varandras motsatser. Det första är att inte styra någonting: agenten agerar fritt, och en enda felaktig handling skalar i maskinhastighet. Det andra är att styra allt: agenten är så hårt låst att den inte kan göra det arbete du byggde den för, strypningen i underrubriken. Inget av dem är styrning. Båda är ett misslyckande med att tänka kring risk.

Greppet är att dela in dina agenter i risknivåer efter insats. En intern sammanfattare som skriver utkast till mötesanteckningar och en agent som rör kunder eller pengar behöver inte samma koppel. Bestäm, per agent, hur reversibla dess handlingar är och hur mycket ett misstag skulle kosta, och ställ sedan in dess autonomi och dess tillsyn därefter. Hög insats betyder låg autonomi och tät tillsyn, intjänad uppåt över tid. Låg insats betyder mer frihet. Den enskilda bedömningen gör det mesta av jobbet.

Var EU:s AI-förordning passar in

Du behöver inte vara jurist för att leda här. Du behöver känna igen formen. På principnivå är EU:s AI-förordning riskbaserad: ju högre insats i hur AI används, desto mer kräver den av dig. Den förväntar sig transparens, så att människor ska veta när AI agerar mot, eller beslutar om, dem. Och den behandlar organisationen som inför systemet som ansvarig, separat från den som byggde den underliggande modellen. Du kan inte peka på modellleverantören.

Läst på det sättet är förordningen mindre en regelbok att frukta och mer en drivkraft som belönar disciplinen ovan. Om dina fem element är explicita, ägda och loggade har du redan det mesta av vad regelverket ber om i handen. De organisationer som kämpar är de som inte styrde någonting och nu måste rekonstruera det under tidspress. (Detaljerna i förordningen fasas in över tid och varierar beroende på användning. Behandla detta som orientering, inte juridisk rådgivning, och skaffa ordentlig rådgivning för din jurisdiktion och ditt användningsfall.)

Styrning bortom efterlevnad

Fällan är att behandla styrning som en kryssruta, något du klarar en gång och sedan arkiverar. I två sessioner jag höll med Michael Herkommer från Riskovate, en rådgivningsverksamhet inom AI-styrning och risk som jag samarbetar med, en med AI-temagruppen hos Innovationsledarna och en på AI Game Changers Club, var det precis den hållning han hela tiden motarbetade. Riskovates premiss är att brygga teknik, finans och risk för ansvarsfull AI: att få in CIO-, CFO- och riskperspektiven i samma rum så att AI blir styrbart, inte bara regelefterlevande. Som de uttrycker det är utmaningen inte att förstå reglerna. Det är att översätta dem till vardaglig styrning, att gå från regelefterlevnad till ansvarstagande på styrelsenivå.

De organisationer som hanterar agenter väl intar samma hållning. De behandlar inte styrning som pappersarbetet som bevisar att de var försiktiga efter att något gått fel. De behandlar det som det som ger dem tryggheten att ge en agent mer autonomi från första början. Samma disciplin, motsatt hållning: inte en broms du motvilligt lägger i, utan skälet till att du över huvud taget kan trycka på gasen.

Agentregistret

Om du gör en enda konkret sak, gör den här: ett enkelsidigt agentregister. En rad per agent, med fem kolumner: vad den gör, dess risknivå, vem som äger den, vad den får röra, och när den senast granskades. Det är allt.

Det låter nästan för enkelt, och det är just poängen. Registret är artefakten som förvandlar "vi har några agenter som springer runt i verksamheten" till något en ledningsgrupp faktiskt kan styra. Det lyfter fram agenten som ingen äger, den med breda behörigheter och ingen granskning, den vars uppdrag aldrig skrevs ner. Du kan inte styra det du inte har listat.

Vad detta förändrar för ledningsgruppen

Inbyggd från start låter styrning dig röra dig snabbare, inte långsammare, eftersom anpassad kontroll och en tydlig ägare är det som låter dig bevilja mer autonomi utan att tveka. Utan den tenderar ledningsgrupper mot ett av två dåliga jämviktslägen. De fryser, förbjuder agenter fram till någon inbillad dag då allt är säkert, eller de sömngår, låter agenter agera oövervakade tills en kund eller en tillsynsmyndighet hittar problemet först. Registret plus anpassad kontroll är vägen mellan dessa, och det är en hållning, inte ett projekt.

Vad du ska göra den här veckan

Sätt upp det enkelsidiga agentregistret och fyll i det för varje agent du kan hitta. Tilldela var och en en ägare och en risknivå. Leta sedan efter den enskilda agent som har mest autonomi och minst tillsyn. Det gapet är ditt första uppdrag, och att stänga det är värt mer än något policydokument du skulle kunna skriva det här kvartalet.

Vanliga frågor

Behöver vi bekymra oss om EU:s AI-förordning om vi inte är baserade i EU? På principnivå, utgå från att disciplinen följer med. Om du betjänar kunder eller marknader i EU kan delar av förordningen nå dig oavsett var du är baserad, och även där den inte gör det håller de underliggande förväntningarna (riskbaserad kontroll, transparens, en utsedd ansvarig ägare) på att bli den globala miniminivån. Bygg för dem en gång. För om och hur förordningen specifikt gäller dig, skaffa ordentlig juridisk rådgivning.

Kommer inte styrning bara att sakta ner oss? Bara om du gör det som heltäckande restriktion. Gjord som anpassad kontroll, lätt där insatsen är låg och tät där den är hög, är styrning det som låter dig bevilja autonomi med trygghet, vilket snabbar upp dig. Den långsamma vägen är den där du måste bygga upp förtroendet på nytt efter att en oövervakad agent gjort något dyrt.

Vem bör äga styrningen av agenter? Två svar. Varje agent behöver en utsedd, ansvarig människa, inte "IT", en person. Och ledningsgruppen äger registret i sig, eftersom styrning är ett portföljbeslut om risk, inte en teknisk uppgift att delegera nedåt.

Hur hänger detta ihop med de andra pappren? Detta är ansvarslagret ovanpå Att leda AI-agenter som medarbetare, som täcker de fem elementen själva, och det förutsätter att du redan har valt rätt agenter att bygga med hjälp av Varför / Vad / Hur. Styr de agenter som är värda att ha, inte en utställning av demos.