Mitä oikeasti tarvitset ennen kuin voit kutsua sitä tuotantovalmiiksi

AI-agenteista puhutaan nyt paljon.

Useimmat keskustelut keskittyvät prompt-suunnitteluun, työkalukutsuihin tai moniagenttiarkkitehtuureihin. Ne ovat kiinnostavia aiheita, mutta ne eivät vastaa olennaiseen tuotantokysymykseen:

Toimiiko järjestelmä turvallisesti, ennustettavasti ja toistettavasti kuormituksen alla?

Jos ei, sinulla ei ole agenttialustaa. Sinulla on demo.

Tässä kirjoituksessa kuvaan, mitä pidän Minimaalisena Agenttialustana. Ei edistyneintä mahdollista. Ei akateemisinta. Vaan vähimmäisjoukon arkkitehtonisia kyvykkyyksiä, joita ilman agenttijärjestelmää ei voi kutsua tuotantovalmiiksi.

Ensimmäinen periaate: Agentit ovat hajautettuja järjestelmiä, joissa on stokastinen ydin

Agenttijärjestelmä ei ole pelkkä AI-ongelma.

Se on hajautettu järjestelmä, jonka ytimessä on todennäköisyyksiin perustuva päätöksentekomoottori.

Se tarkoittaa, että järjestelmän täytyy:

Sietää osittaisia virheitä
Pakottaa rajat ja reunaehdot
Tarjota observability
Hallita blast radius
Olla debuggattavissa

Jos nämä jätetään huomioimatta, järjestelmä aiheuttaa ennemmin tai myöhemmin ongelmia. Ei siksi, että malli olisi huono, vaan siksi että arkkitehtuuri on puutteellinen.

Minimaalisen Agenttialustan 7 vaatimusta

Ilman näitä et ole tuotannossa.

1. Budjetti per ajo

Jokaisella agenttimissiolla täytyy olla ennalta määritelty budjetti.

Budjetti voi tarkoittaa:

Token-budjettia
Rahallista budjettia
Aikabudjettia
Työkalukutsujen maksimimäärää

Tärkeintä ei ole yksikkö vaan kova raja.

Agentti ilman budjettia on käytännössä ääretön silmukka odottamassa tapahtumista.

Tuotantokelpoinen alusta pakottaa:

Maksimitokenit per ajo
Maksimityökalukutsut
Maksimikeston
Automaattisen katkaisun budjetin ylittyessä

Autonomia ilman budjettikontrollia on operatiivinen riski.

2. Kova pysäytysmekanismi

Pehmeät varoitukset eivät riitä.

Suorituskerroksen täytyy pakottaa:

Maksimi-iterointimäärä
Maksimirekursiosyvyys
Maksimiretryt
Deterministiset lopetusehdot

Pysähtymisehto ei voi riippua siitä, että malli itse päättää lopettaa.

Alusta päättää, milloin agentti pysähtyy.

3. Tool Gateway -kerros

Agentti ei saa koskaan kutsua ulkoisia järjestelmiä suoraan.

Kaikki ulkoiset kutsut kulkevat gatewayn kautta:

Agentti → Tool Gateway → Ulkoinen järjestelmä

Gateway vastaa:

Parametrien validoinnista
Schemavalidoinnista
Rate limitingistä
Policy-tarkastuksista
Circuit breaker -logiikasta
Audit-lokista

Tämä on luottamusraja.

Ilman gatewayta sinulla ei ole eristystä. Sinulla on toivoa.

4. Policy-kerros

Säännöt eivät saa asua promptissa.

Niiden täytyy asua erillisessä policy-kerroksessa.

Policy määrittelee:

Mitä työkaluja saa käyttää
Missä kontekstissa
Millä parametrialueella
Millä identiteetillä
Millä budjettirajoilla

Toteutus voi olla RBAC, ABAC tai oma sääntökone. Teknologia ei ole olennaista.

Oleellista on vastuiden erottaminen:

Malli päättää. Alusta valvoo.

5. Audit-loki ja jäljitettävyys

Jokaisen ajon täytyy olla rekonstruoitavissa.

Tarvitset:

Rakenteiset lokit per step
Työkalukutsuhistorian
Syöte- ja tulosnapit
Lopputilan
Virhesyyn

Lisäksi tarvitset korrelaatio-ID:t koko ajon läpi.

Jos asiakas kysyy: "Miksi agentti teki näin?", vastauksen täytyy perustua dataan, ei tulkintaan.

Audit ei ole enterprise-ympäristössä valinnainen.

6. Replay-kyvykkyys

Tässä useimmat järjestelmät epäonnistuvat.

Jos et voi toistaa ajoa, et voi debugata sitä.

Replay tarkoittaa:

Samat syötteet
Sama policy-versio
Samat työkalumäärittelyt
Hallittu ympäristö

Täydellistä bittitason determinismiä ei ehkä saada, koska malli on stokastinen. Mutta arkkitehtoninen determinismi täytyy saada:

Sama step-järjestys
Samat policy-tarkastukset
Sama lopetuslogiikka

Replay mahdollistaa:

Postmortemit
Regressiotestauksen
Turvalliset päivitykset
Onnistuneiden polkujen promotoimisen rutiineiksi

Ilman replayta jokainen incidentti on arvausta.

7. Selkeä eskalaatiopolku

Kaikkien missioiden ei pidä olla täysin autonomisia.

Kypsä alusta määrittelee:

Milloin eskaloidaan
Miten eskaloidaan
Mitä kontekstia liitetään mukaan
Kuka on vastuussa

Eskalaation triggerit voivat olla:

Budjetin loppuminen
Toistuvat työkaluvireet
Epäselvä päätöksenteko
Policy-rikkomus

Tavoite ei ole maksimaalinen autonomia. Tavoite on hallittu autonomia.

Arkkitehtoninen erottelu: Control Plane ja Execution Plane

Vankka agenttialusta erottaa vastuut.

Control Plane

Vastaa:

Mission luonnista
Budjetin asettamisesta
Policyjen resolvoinnista
Run-tilanhallinnasta
Workflow-versioinnista

Tämä kerros on deterministinen ja auditoitava.

Execution Plane

Vastaa:

Agenttilogiikan ajamisesta
Työkalukutsuista gatewayn kautta
Rakenteisten eventtien tuottamisesta
Kovien rajojen noudattamisesta

Execution plane täytyy olla sandboxattu ja identiteettirajattu.

Agentti ei omista infraoikeuksia. Alusta omistaa.

Determinismikerros: Exploroinnista rutiiniksi

Alkuvaiheessa agentti eksploroi.

Kun missiopolku osoittautuu vakaaksi, se voidaan promotoida versionoiduksi rutiiniksi:

Kiinteä step-järjestys
Määritellyt päätöspisteet
Strukturoidut käyttäjäsyötteet tarvittaessa

Tämä muuttaa stokastisen eksploroinnin puoliksi deterministiseksi suoritukseksi.

Se vähentää kustannuksia, vaihtelua ja operatiivista riskiä.

Tässä kohtaa agenttialusta lakkaa olemasta kokeilu ja alkaa olla luotettava.

Mitä tämä ei ole

Tämä ei ole:

Tietyn pilven referenssiarkkitehtuuri
Moniagenttimanifesti
Prompt engineering -opas

Tämä voidaan toteuttaa millä tahansa infrastruktuuripinolla.

Oleellista on, että kerrosten väliset sopimukset ovat eksplisiittisiä ja pakotettuja.

Yksinkertainen testi

Ennen kuin kutsut järjestelmää tuotantovalmiiksi, kysy:

Onko jokaisella ajolla kova budjetti?
Voinko tappaa ajon deterministisesti?
Kulkevatko kaikki työkalukutsut gatewayn kautta?
Ovatko policyt erillään prompteista?
Voinko toistaa minkä tahansa mission?
Onko minulla SLO:t onnistumiselle ja kustannukselle?
Onko eskalaatiopolku selkeä?

Jos vastaus johonkin näistä on ei, et ole valmis.

Lopuksi

Agenttijärjestelmät eivät ole vaikuttavia siksi, että ne voivat toimia.

Ne ovat vaikuttavia silloin, kun ne toimivat turvallisesti, ennustettavasti ja skaalautuvasti.

Minimaalinen Agenttialusta ei ole hienostelua.

Se on kurinalaisuutta.

Ja kurinalaisuus on se, mikä muuttaa AI-kokeilut infrastruktuuriksi.