Žmogus cikle nėra silpnybė. Tai atsakymas į "Aš nepasitikiu DI."

ES DI aktas visiškai įsigalios 2026 m. rugpjūčio 2 d., o 14 straipsnis reikalauja, kad kiekviena didelės rizikos DI sistema būtų suprojektuota taip, jog kvalifikuotas asmuo galėtų ją prižiūrėti, interpretuoti jos išvestį ir ją anuliuoti. JAV NIST DI rizikos valdymo sistema reikalauja to paties. EBPO (OECD) 2025 m. ataskaita „Governing with Artificial Intelligence“ rekomenduoja tai konkrečiai viešiesiems pirkimams. Žmogaus priežiūra nėra viena iš kelių galimybių. Tai architektūrinis sprendimas, prie kurio priėjo reguliuotojai, teismai ir visos pramonės šakos, įdiegusios DI dideliu mastu.

Tai svarbu viešųjų pirkimų komandoms, kurios sako nepasitikinčios DI. Prieštaravimas pagrįstas. Į jį jau yra atsakyta.

Prieštaravimas, kurio niekas nepasakys garsiai

Paklauskite viešųjų pirkimų specialisto, ar jis pasitiki DI pasiūlymui vertinti, ir atsakymas priklausys nuo to, kiek saugu atrodo pokalbis. Akis į akį atsakymas dažniausiai būna tokio pobūdžio: „Aš negaliu deleguoti sprendimo, kuris neša mano parašą, mano karjerą ir galimą auditą. Jei DI suklys, aš negaliu savęs apginti sakydamas, kad mašina man taip pasakė.“

Tai nėra technologinis prieštaravimas. Tai atsakomybės prieštaravimas. Ir jis vienodai stipriai taikomas bet kuriai priemonei, kurią specialistas jau naudoja — jaunesniojo analitiko memorandumui, konsultanto ataskaitai ar išorinei teisinei nuomonei.

Atsakymas, kaip paaiškėja, visais šiais atvejais yra tas pats. Jūs tikrinate darbą. Jūs pasiliekate sprendimą. Jūs pasirašote rekomendaciją.

Ko iš tikrųjų reikalauja ES DI aktas

ES DI akto 14 straipsnis nustato keturis konkrečius projektavimo reikalavimus didelės rizikos DI sistemoms. Žmogus prižiūrėtojas turi sugebėti suprasti sistemos galimybes ir apribojimus. Jis turi sugebėti aptikti ir spręsti problemas, kol jos dar nepadarė žalos. Jis turi sugebėti interpretuoti išvestį. Jis turi sugebėti nuspręsti sistemos nenaudoti arba sustabdyti jos veikimą.

Tai nėra atsakomybės atsisakymas. Tai projektavimo specifikacija. Visas DI aktas įsigalios 2026 m. rugpjūčio 2 d., su pratęstu pereinamuoju laikotarpiu iki 2027 m. rugpjūčio 2 d. didelės rizikos DI sistemoms, pagal Europos Komisijos AI Act Service Desk duomenis. Baudos už reikalavimų nesilaikymą siekia iki 7 % pasaulinės apyvartos.

Viešieji pirkimai klasifikuojami kaip didelės rizikos, kai jie veikia galimybę gauti esmines viešąsias paslaugas. Net ir ten, kur viešųjų pirkimų DI teisiškai nėra klasifikuojamas kaip didelės rizikos, ES viešųjų pirkimų audito praktika jau konverguoja prie to paties standarto: jei DI informavo sprendimą, žmogus turi gebėti tą sprendimą paaiškinti savarankiškai.

Kaip kitos pramonės šakos tai įgyvendino praktikoje

Bankininkystė. JPMorgan Chase naudoja DI sukčiavimo aptikimą, kuris tikrina kiekvieną operaciją. Pagal banko atskleidimus, apibendrintus AIX 2026 m. atvejo studijoje, DI pats neblokuoja didelės vertės ar ribinių operacijų. Jis jas pažymi žmogui peržiūrėti. 50 % pagerėjimas sukčiavimo aptikimo rodikliuose atsirado dėl geresnio žymėjimo, o ne dėl autonominio veikimo. COiN, banko sutarčių peržiūros DI, atlieka skaitymą. Sudėtingas sąlygas pasirašo teisininkas.

Medicina. FDA patvirtintas radiologijos DI gali išmatuoti naviką, paryškinti įtartiną sritį ir apskaičiuoti rizikos balą. Jis negali parašyti diagnostinės ataskaitos. Ataskaitą rašo radiologas. Tai nėra reguliacinis keistumas. Tai yra tai, ką 510(k) patvirtinimo kelias aiškiai išsaugo, pagal 2025 m. JAMA Network Open sisteminę FDA DI įrenginių patvirtinimų apžvalgą.

Teisė. Westlaw AI-Assisted Research ir Lexis+ AI rengia teisinius dokumentus, apibendrina apklausas ir generuoja teismų praktiką. 2024 m. Stanfordo tyrimas nustatė, kad jie haliucinuoja atitinkamai 17 % ir 34 % atvejų. Ir vis dėlto per metus diegimas padvigubėjo, pagal 2026 m. Legal Industry Report, nes teisininkai tikrina citatas prieš pateikimą. Haliucinacijų rizika priemonių nenužudė. Ji nužudė praktiką netikrinti.

Kiekviena iš šių pramonės šakų nusprendė tą patį.

Kodėl tai yra savybė, o ne apribojimas

Iš ankstyvos generatyvinio DI eros yra likęs kultūrinis atgarsis, kuris žmogų cikle apibūdina kaip kompromisą, tarsi tai atskleistų DI silpnumą. Yra atvirkščiai.

EBPO 2025 m. ataskaita „Governing with Artificial Intelligence“ apie viešuosius pirkimus aiškiai nurodo, kad žmogaus atliekamas DI išvadų patvirtinimas yra projektavimo savybė: būtent tai daro priemonę auditėtiną, paaiškinamą ir tinkamą naudoti taisyklėmis grįstoje sistemoje. IAPP 2026 m. analizėje apie žmogų cikle DI rizikos valdyme pateikta dar aštresnė šios minties versija. Aklas pasitikėjimas žmogaus peržiūra yra pats savaime rizika, nes žmonės be skaitymo uždeda antspaudą. Tikra priežiūra reikalauja priemonės, kuri parodo, ką rado, kur rado ir kodėl tai svarbu. Be to žmogus cikle yra dekoracija, o ne apsauga.

Būtent todėl įrodymai viešųjų pirkimų DI yra svarbesni už bet kurį kitą projektavimo sprendimą. Išvada, teigianti „pasiūlyme trūksta techninio personalo įrodymų“, yra beprasmė, jei specialistas negali nedelsdamas pamatyti, kuris kurio dokumento puslapis buvo perskaitytas, ko DI tikėjosi ir kodėl jis padarė tokią išvadą. Išvada su tiesiogine citata ir puslapio nuoroda patikrinama per trisdešimt sekundžių. Specialistas arba sutinka su argumentavimu, arba jį anuliuoja, ir jo parašas abiem atvejais lieka galioti.

Kaip atrodo gera viešųjų pirkimų DI sistema

DI viešųjų pirkimų sistema, suprojektuota 14 straipsnio, NIST RMF, EBPO gairių ir standartinės audito praktikos pasauliui, turi trumpą nederamų dalykų sąrašą.

Kiekviena išvada atseka citatą iš konkretaus dokumento su puslapio nuoroda. Joks DI teiginys nestovi be šaltinio.

Kritines išvadas prieš parodant dukart patikrina atskiras modelis. Specialistas mato patikrintą išvestį, o ne pirmąją versiją.

DI gali sustoti vidury analizės ir paprašyti paaiškinimo. Jis nespėlioja, kai nėra tikras.

Specialistas bet kuriuo metu gali anuliuoti bet kurią išvadą. Anuliavimas užfiksuojamas.

Visas argumentavimo pėdsakas eksportuojamas kaip Excel darbaknygė arba Markdown žurnalas, kad auditorius ar valdybos peržiūrėtojas galėtų tiksliai matyti, ką DI perskaitė, ką rado ir kaip specialistas į tai reagavo.

Nieko iš to nėra egzotiška. Tai tas pats modelis, prie kurio bankininkystė, teisė ir medicina priėjo tarp 2020 ir 2026 metų.

Tikrasis atsakymas į „Aš nepasitikiu DI“

Sąžiningas atsakymas toks: gerai. Jūs neturėtumėte besąlygiškai pasitikėti jokia priemone, ir rimtos DI priemonės statomos remiantis būtent ta prielaida. Tai, prie ko konverguoja ES DI aktas, NIST ir EBPO, nėra aklas pasitikėjimas mašina. Tai sąlyginis pasitikėjimas, paremtas matomais įrodymais ir išlaikytu autoritetu.

Viešųjų pirkimų specialistas, kuris peržiūri DI išvadas su tokiu pat kruopštumu, kokį taikytų jaunesniojo analitiko memorandumui, turi tokį pat apginamą procesą, kokį visada turėjo. Skirtumas tas, kad jaunesnysis analitikas šiuo atveju perskaitė kiekvieną kiekvieno dokumento puslapį ir niekada nepavargsta 200-ajame puslapyje.