Human-in-the-Loop döntéshozatal

A modell

A pilótafülkében régóta ismert kérdés: mit intézzen a gép, és hol kell emberi ítélet? Az AI-korszakban ugyanez a kérdés visszatért minden vezető asztalára. A human-in-the-loop — ember a hurokban — nem technikai díszszó, hanem felelősségi döntés: az automatizált folyamat melyik pontján marad ember, mit lát, és valóban tud-e beavatkozni?

Három alapminta van. Az első: az ember a hurokban van. A gép elemez, javasol, előkészít, de a döntést ember hozza meg. Ez való magas tétű helyzetekhez: hitel, felvétel, nagy értékű ajánlat, egészségügyi vagy stratégiai döntés. A második: az ember a hurok fölött van. A gép dönt vagy cselekszik, az ember felügyel, és szükség esetén megállíthatja. Ez közepes kockázatnál működhet. A harmadik: az ember kívül van a hurkon. A rendszer teljesen automatikus. Ez csak alacsony tétű, nagy volumenű, jól visszafordítható feladatoknál vállalható.

A lényeg nem az, hogy mindig az ember döntsön. Ez jól hangzik, de nem igaz. Alacsony tétű, visszafordítható, nagy tömegű döntéseknél az emberi jóváhagyás gyakran nem biztonságot ad, hanem dugót képez. Termékkategorizálás, e-mail-szűrés, szabványos készlet-újrarendelés: itt a gép dolgozhat, emberi mintavétellel és utólagos ellenőrzéssel.

Magas tétű és nehezen visszafordítható döntéseknél viszont az ember a hurokban nem lassítás, hanem felelősség. A gép lehet gyorsabb, látványosabb, következetesebb. De nem ő viseli a következményt. A technológiai RACI itt egyszerű: az algoritmus lehet felelős végrehajtó, de az elszámoltatható döntéshozó ember marad.

A két véglet egyaránt veszélyes. Az egyik a túl-automatizálás: a rendszer emberi ítélet nélkül gyártja ipari tempóban a hibát. A másik a látszat-felügyelet: papíron van ember a hurokban, a valóságban csak kattint. Napi száz jóváhagyás után a kéz gyorsabb, mint a figyelem. A felügyelet ilyenkor nem kontroll, hanem rituálé.

Ezt hívja a kutatás automatizálási elfogultságnak: hajlamosak vagyunk elfogadni a gép javaslatát, akkor is, ha valami gyanús. Főleg időnyomás alatt. Főleg fáradtan. Főleg akkor, ha a rendszer az esetek nagy részében jól működik. A ritka, de drága hibák pont így csúsznak át.

A jó huroktervezés ezért nem csak azt mondja meg, hol van ember, hanem azt is, mit lát és mit tehet. Látja-e az indoklást? Látja-e a bizonytalanságot? Könnyű-e felülbírálni a gépet, vagy a rendszer az elfogadást teszi kényelmesebbé? Ha az eltéréshez három kattintás és magyarázat kell, az elfogadáshoz pedig egy gomb, akkor a folyamat valójában gumibélyegzőt tervezett.

A hurok akkor jó, ha tanul is. Az emberi felülbírálások ne vesszenek el, hanem váljanak visszacsatolássá: miért döntött másképp az ember, mit nem látott a gép, hol volt rossz az adat, hol kellett helyzetismeret? Így a hurok nemcsak véd, hanem javít is — ez a PDCA ember-gép változata.

Van még egy kevésbé látványos veszély: a felügyelő elsorvadása. Aki éveken át csak jóváhagyja a gép döntését, elveszítheti azt a tudást, amellyel egyszer felül kellene bírálnia. A pilóta, aki már nem repül kézzel. A diszpécser, aki már nem érzi a terepet. A szakértő, aki már csak a rendszer válaszát nézi. Nem butább lett, csak a képessége nem volt használatban.

Ezért a hurokban tartott ember tudását karban kell tartani. Időnként kézi üzem. Saját becslés a gépi javaslat előtt. Tesztesetek. Olyan gyakorlatok, ahol nem az a cél, hogy gyorsan kattintson, hanem hogy észrevegye az eltérést. Az emberi ítélet nem attól marad éles, hogy beírjuk a folyamatábrába. Attól, hogy használjuk.

Kkv-ban a kérdés három mondatban eldönthető. Mekkora a tét, és visszafordítható-e? A bent tartott ember valódi döntési helyzetben van-e, vagy csak kattint? Mi tartja karban a tudását, hogy évek múlva is legyen mivel felülbírálnia? Ha erre nincs válasz, az automatizmus nem biztonságosabb lett, csak kényelmesebb.

Üzleti értelmezés

Egy negyvenfős műszaki nagykereskedés automatizálta a webshop-árazását. A rendszer beszerzési árak, konkurenciafigyelés és készletszint alapján naponta frissítette az árakat. Papíron ember is volt a hurokban: egy kolléga minden reggel jóváhagyta a változtatásokat.

A valóságban napi több száz ártétel jelent meg előtte, miközben rengeteg más dolga is volt. Eleinte figyelt, később blokkokban hagyta jóvá a tételeket. A rendszer szinte mindig jó volt, ezért kialakult a reflex: elfogadni, továbbmenni. A felügyelet látszólag létezett, valójában nem volt működő kontroll.

A hiba akkor derült ki, amikor egy rossz beszerzésiár-import miatt egy teljes termékcsalád két napig beszerzési ár alatt futott. A vizsgálat tanulsága nem az volt, hogy a kolléga figyelmetlen. Hanem az, hogy a hurok rosszul volt megtervezve: túl sok döntés, kevés idő, kevés jelzés, semmi kiemelés.

Az új rendszer kettévágta a folyamatot. A normál sávban mozgó árváltozások automatikusak lettek, heti mintavételes ellenőrzéssel. Ott az ember valóban csak dugó volt. A kivételek viszont megállnak: ha az ár beszerzési ár alá menne, húsz százaléknál nagyobbat mozdulna, vagy kulcsterméket érintene, indoklással és összehasonlító adatokkal kerül ember elé.

Így a kollégának nem napi több száz tételt kell átfutnia, hanem húsz valódi döntést kell meghoznia. Negyedévente tesztet is építettek be: szándékosan becsempészett hibás tétellel mérik, él-e a felügyelet. A tanulság egyszerű: az ember a hurokban nem attól véd, hogy ott van. Attól, hogy látni és lépni tud.

Személyes értelmezés

A hurok-kérdés a magánéletben is naponta eldől. Az algoritmus válogatja a híreket, a következő videót, a zenét, az útvonalat, néha már a gondolataink ritmusát is. Sok automatizmus hasznos: az ismétlődő átutalás, a naptári emlékeztető, az útvonalterv, a jól beállított szokás felszabadít.

De a magas tétű döntéseknél nem jó kikerülni a saját hurkunkból. Mire megy a pénzem? Kivel töltöm az időm? Milyen hírekből rakom össze a világképem? Mit írok alá? Mit gondolok fontosnak? Ha ezekben csak jóváhagyjuk, amit a rendszer elénk tesz, akkor lassan más szerkeszti az életünket.

A személyes szabály egyszerű: a rutint nyugodtan automatizáld, de a tétben maradj jelen. Készíts saját becslést, mielőtt megnézed a gép válaszát. Időnként menj kézi üzembe. Kérdezd meg este: ezt ma én döntöttem, vagy csak jóváhagytam?

Magyar párhuzam: Kempelen Farkas

A mesterséges intelligencia hype-jának 250 éves magyar tanmeséje Kempelen Farkas sakkozó törökje. A gép fél évszázadon át verte Európa nagyjait, és lázban tartotta a kontinenst a kérdéssel: gondolkodhat-e gép? A titka prózai volt: egy erős sakkozó ült benne, zseniális mechanikával elrejtve.

A történet ma is pontos kérdést tesz fel: mi dolgozik a burkolat alatt, és jó helyen van-e az ember a gépben? A human-in-the-loop lényege nem az, hogy romantikusan ragaszkodunk az emberhez, hanem hogy tisztán látjuk, hol kell emberi ítélet, felelősség és beavatkozási jog.

Kempelen egyszerre volt zseniális mérnök és showman. Az AI-kor vezetői tanulsága éppen ezért kettős: a látvány és a valóság szétválasztása a vezető dolga. Minden automatizmusnál ki kell mondani, mi dönt, ki felügyel, és ki viseli a felelősséget.

Napi falat · YouTube Shorts

Human-in-the-Loop döntéshozatal — 60 másodpercben

Az összes Napi falat a csatornán →