Human-in-the-loop tehnika nav vājums. Tā ir atbilde uz "Es neuzticos MI."

ES MI akts pilnībā stājas spēkā 2026. gada 2. augustā, un 14. pants prasa, lai katra augsta riska MI sistēma tiktu izstrādāta tā, ka kvalificēta persona var to pārraudzīt, interpretēt tās izvadu un atcelt to. ASV NIST MI risku pārvaldības ietvars prasa to pašu. OECD 2025. gada ziņojums Governing with Artificial Intelligence to iesaka konkrēti publiskiem iepirkumiem. Cilvēka pārraudzība nav viena no vairākām iespējām. Tas ir arhitektūras lēmums, pie kura konverģēja regulatori, tiesas un katra nozare, kas ieviesa MI plašā mērogā.

Tas ir svarīgi iepirkumu komandām, kuras saka, ka viņas neuzticas MI. Iebildums ir spēkā. Uz to arī jau ir atbildēts.

Iebildums, ko neviens neizteiks skaļi

Pajautājiet iepirkumu speciālistam, vai viņš uzticas MI, lai izvērtētu piedāvājumu, un atbilde būs atkarīga no tā, cik droša saruna jūtas. Privāti atbilde parasti ir kāda versija no: "Es nevaru deleģēt lēmumu, kas nes manu parakstu, manu karjeru un iespējamu auditu. Ja MI kļūdās, es nevaru sevi aizstāvēt, sakot, ka mašīna man to teica."

Tas nav tehnoloģijas iebildums. Tas ir atbildības iebildums. Un tas attiecas ar vienādu spēku uz jebkuru rīku, ko speciālists jau izmanto, ieskaitot jaunākā analītiķa memo, konsultanta ziņojumu vai ārēju juridisku atzinumu.

Atbilde, kā izrādās, visos šajos gadījumos ir tāda pati. Jūs pārbaudāt darbu. Jūs saglabājat lēmumu. Jūs parakstāt ieteikumu.

Ko ES MI akts patiešām prasa

ES MI akta 14. pants nosaka četras konkrētas projektēšanas prasības augsta riska MI sistēmām. Cilvēka pārraugam ir jāspēj izprast sistēmas iespējas un ierobežojumus. Viņam ir jāspēj atklāt un novērst problēmas, pirms tās rada kaitējumu. Viņam ir jāspēj interpretēt izvadu. Viņam ir jāspēj izlemt neizmantot sistēmu vai apturēt tās darbību.

Tas nav atruna. Tā ir projektēšanas specifikācija. Pilns MI akts stājas spēkā 2026. gada 2. augustā, ar pagarinātu pārejas periodu līdz 2027. gada 2. augustam augsta riska MI sistēmām, saskaņā ar Eiropas Komisijas MI akta Service Desk. Sodi par neatbilstību sasniedz līdz 7% no globālā apgrozījuma.

Iepirkumi tiek klasificēti kā augsta riska, kad tie ietekmē piekļuvi būtiskiem publiskiem pakalpojumiem. Pat ja iepirkumu MI nav juridiski klasificēts kā augsta riska, audita prakse ES publiskajos iepirkumos jau konverģē uz to pašu standartu: ja MI informēja lēmumu, cilvēkam ir jāspēj paskaidrot šo lēmumu pašam.

Kā pārējās nozares to operacionalizēja

Bankas. JPMorgan Chase darbina MI krāpšanas atklāšanu, kas pārbauda katru darījumu. Saskaņā ar bankas atklātajiem datiem, kas apkopoti AIX 2026. gada gadījuma izpētē, MI pats nebloķē augstas vērtības vai robežu darījumus. Tas tos iezīmē cilvēka pārskatītājam. 50% uzlabojums krāpšanas atklāšanas rādītājos radās no labākas iezīmēšanas, nevis no autonomas darbības. COiN, bankas līgumu pārskatīšanas MI, veic lasīšanu. Jurists paraksta sarežģītas klauzulas.

Medicīna. FDA apstiprināts radioloģijas MI var izmērīt audzēju, izcelt aizdomīgu reģionu un aprēķināt riska rezultātu. Tas nevar uzrakstīt diagnostisku ziņojumu. Ziņojumu raksta radiologs. Tas nav regulatīvs dīvainums. Tas ir tas, ko 510(k) apstiprināšanas ceļš skaidri saglabā, saskaņā ar 2025. gada JAMA Network Open sistemātisko apskatu par FDA MI ierīču apstiprinājumiem.

Tieslietas. Westlaw AI-Assisted Research un Lexis+ AI sagatavo juridiskos dokumentus, apkopo liecības un ģenerē tiesu praksi. 2024. gada Stenforda pētījums atklāja, ka tie halucinē attiecīgi 17% un 34% gadījumu. Un tomēr ieviešana gada laikā divkāršojās, saskaņā ar 2026. gada Juridiskās nozares ziņojumu, jo juristi pārbauda citātus pirms iesniegšanas. Halucinācijas risks nenogalināja rīkus. Tas nogalināja praksi nepārbaudīt.

Katra no šīm nozarēm izlēma vienu un to pašu.

Kāpēc tā ir priekšrocība, nevis ierobežojums

Pastāv kultūras paliekas no agrīnā ģeneratīvā MI laikmeta, kas human-in-the-loop ierāmē kā kompromisu, it kā tas atklātu vājumu MI. Tas ir tieši pretēji.

OECD 2025. gada ziņojumā Governing with Artificial Intelligence par publiskiem iepirkumiem ir skaidri norādīts, ka cilvēka veikta MI atradumu validācija ir projektēšanas priekšrocība: tā padara rīku par auditējamu, paskaidrojamu un lietojamu noteikumu balstītā sistēmā. IAPP 2026. gada analīze par human-in-the-loop MI risku pārvaldībā izteica asāko punkta versiju. Akla paļaušanās uz cilvēka pārskatīšanu ir pati par sevi risks, jo cilvēki bez lasīšanas apstiprina zīmogu. Īsta pārraudzība prasa rīku, kas parāda, ko tas atrada, kur to atrada un kāpēc tas ir svarīgi. Bez tā human-in-the-loop ir dekorācija, nevis aizsargs.

Tāpēc pierādījumi iepirkumu MI svarīgāki par jebkuru citu projektēšanas lēmumu. Atradums, kas saka "piedāvājumam trūkst tehniskā personāla pierādījumu", ir bezjēdzīgs, ja speciālists nevar nekavējoties redzēt, kuru lappusi no kura dokumenta izlasīja, ko MI sagaidīja un kāpēc tas secināja to, ko secināja. Atradums ar tiešu citātu un lappuses atsauci ir pārbaudāms trīsdesmit sekundēs. Speciālists vai nu piekrīt pamatojumam, vai to atceļ, un viņa paraksts paliek spēkā abos gadījumos.

Kā izskatās laba iepirkumu MI sistēma

MI iepirkumu sistēmai, kas izstrādāta 14. panta, NIST RMF, OECD vadlīniju un standarta audita prakses pasaulei, ir īss neapspriežamu lietu saraksts.

Katrs atradums izseko līdz citātam no konkrēta dokumenta ar lappuses atsauci. Neviens MI apgalvojums nepastāv bez avota.

Kritiskos atradumus pirms parādīšanas dubultpārbauda atsevišķs modelis. Speciālists redz pārbaudīto izvadu, nevis pirmo caurbraucienu.

MI var apstāties analīzes vidū un lūgt precizējumu. Tas neuzmin, ja nav pārliecināts.

Speciālists jebkurā laikā var atcelt jebkuru atradumu. Atcelšana tiek reģistrēta.

Pilns pamatojuma virknes tiek eksportēta kā Excel darbgrāmata vai Markdown žurnāls, lai auditors vai valdes pārskatītājs varētu precīzi redzēt, ko MI izlasīja, ko atrada un kā speciālists to izmantoja.

Nekas no tā nav eksotisks. Tas ir tas pats modelis, pie kura bankas, tieslietas un medicīna nonāca no 2020. līdz 2026. gadam.

Īstā atbilde uz "Es neuzticos MI"

Godīgā atbilde ir: labi. Jums nevajadzētu beznosacījumu uzticēties nevienam rīkam, un nopietnie MI rīki ir būvēti uz šī pieņēmuma. Tas, pie kā konverģē ES MI akts, NIST un OECD, nav akla uzticība mašīnai. Tā ir nosacīta uzticība, ko atbalsta redzami pierādījumi un saglabāta autoritāte.

Iepirkumu speciālists, kurš pārskata MI atradumus ar tādu pašu rūpību, kādu viņš piemērotu jaunākā analītiķa memo, ir ar tādu pašu aizstāvamu procesu, kāds viņam vienmēr ir bijis. Atšķirība ir tāda, ka jaunākais analītiķis šajā gadījumā ir izlasījis katru lappusi katrā dokumentā un nekad nenogurst 200. lappusē.