Varkára fólkið þitt er gæðakerfið þitt

Í hverri einustu innleiðingu á nýrri tækni er hópur sem spyr óþægilegu spurninganna: Hvað ef kerfið gerir villu? Hver ber ábyrgðina? Hvar eru gögnin geymd? Í daglegu tali er þessi hópur oft kallaður „á móti breytingum”. Rannsóknin mín bendir til þess að sú greining sé röng, og að hún sé dýr.

Óvænta niðurstaðan

Þegar ég hannaði rannsóknina mína á viðhorfum til sjálfvirknivæðingar bjóst ég við að verndarar, varkára og nákvæma fólkið samkvæmt Business Chemistry líkaninu, myndu meta gagnsemi tækninnar lítils. Tölurnar sögðu annað: verndarar mátu gagnsemi sjálfvirknivæðingar marktækt mikils, til jafns við frumkvöðlana.

Hvernig gat það verið? Skýringin lá í opnu svörunum. Verndararnir í rannsókninni tóku tæknina í sátt þegar, og aðeins þegar, ferlarnir í kringum hana voru gagnsæir: villuskrár aðgengilegar, vélmennin sannprófuð, verkferlar skjalfestir. Eitt vélmenni hjá fyrirtækinu var samþykkt af varkárasta hópnum fyrst eftir að dagleg frávikaskýrsla var gerð öllum sýnileg. Gagnsæið breytti tortryggni í traust.

Með öðrum orðum: það var ógagnsæið sem varkára fólkið setti fyrir sig, og afstaða þess breyttist þegar ferlarnir urðu skýrir.

Gagnsæi sem innleiðingartæki

Þessi niðurstaða snýr hefðbundnu hugsuninni á hvolf. Gæðaferlar, skjalfesting og eftirlit eru oft afgreidd sem nauðsynlegt en leiðinlegt skrifræði sem tefji nýsköpun. Rannsóknin mín bendir til hins gagnstæða: gagnsætt stjórnkerfi er eitt áhrifaríkasta tækið til að hraða innleiðingu, því það vinnur efasemdafólkið á sitt band, og efasemdafólkið er oft fjölmennasti hópurinn.

Þetta hefur beina skírskotun í gervigreindarbylgjuna núna. Fyrirtæki sem innleiða mállíkön og erindreka gervigreind standa frammi fyrir nákvæmlega sömu spurningum frá sínu fólki: Hvernig veit ég að svarið sé rétt? Hver ber ábyrgð á ákvörðun sem gervigreind tók? Get ég rakið hvað gerðist?

Fyrirtæki sem svara þessum spurningum fyrirfram, með sýnilegum prófunum, rekjanleika og skýrum verkferlum, eru í reynd að fjárfesta í hraðari og dýpri innleiðingu, þótt undirbúningurinn kosti vinnu í upphafi.

Evrópureglurnar sem bandamaður

Hér tengist rannsóknin starfi mínu í CEN/CLC JTC 21, evrópsku staðlanefndinni um gervigreind, þar sem ég er fulltrúi Íslands. Gervigreindarlöggjöf Evrópu (EU AI Act) gerir einmitt kröfur um gagnsæi, rekjanleika og áhættustjórnun í gervigreindarkerfum.

Margir stjórnendur sjá regluverkið sem kostnað. Rannsóknin mín bendir á aðra leið til að hugsa það: kröfurnar sem regluverkið setur eru að stórum hluta sömu aðgerðir og þarf hvort sem er til að vinna traust starfsfólksins. Fyrirtæki sem byggir upp gagnsætt gervigreindarstjórnkerfi uppfyllir lögin og leysir innleiðingarvandann sinn í sömu aðgerð.

Í síðustu færslunni í þessari seríu skoða ég það sem 592 athugasemdir starfsfólks kenndu mér um óttann við sjálfvirknivæðingu, og hvers vegna mælingar á honum vanmeta hann kerfisbundið.

Greinin The Color of Change: Character Types and Employee Perception of RPA birtist í Journal of Emerging Technologies in Accounting (DOI: 10.2308/JETA-2025-007).