„Az automatizált döntéshozatal a társadalom nagy részében normává válik. A technológiai rendszerek felett növekvő mértékben válik korlátozottabbá az emberi ellenőrzés, és ez érdekes kihívásokat teremt a felelősségvállalás területén. A cikk bevezeti a „kvázi automatizálás” fogalmát. Ezen azt értik, hogy egy egyébként teljesen automatizált döntéshozási folyamatba az ember is bele van foglalva, mint végső engedélyező. A cikk a „rubber-stamping” kifejezést használja, azaz az emberi beavatkozás lehetősége minimális, a jóváhagyásra korlátozódik. A kvázi-automatizálás három esetét vizsgálják, ahol az emberi cselekvés szerepe a döntéshozatalban jelenleg vita tárgyát képezi: önálló vezetésű autók, az utasnevek nyilvántartásán alapuló keresések a határőrizeti eljárásban és a tartalom moderálása a közösségi médiában. Noha vannak külön szabályozási mechanizmusok a tisztán automatizált döntéshozatalra, ezek a szabályozási mechanizmusok nem alkalmazandók, ha az emberek is az automatizált döntéshozatal részét képezik (rubber-stamping). Általánosabban véve, a legtöbb szabályozási mechanizmus a bináris felelősség mintáját követi, amikor megpróbálják szabályozni az emberi vagy a gépi cselekvési lehetőségeket, ahelyett, hogy mindkettőt szabályoznák. Ennek következtében jelennek meg a szabályozás szürke területei, ahol a szabályozási mechanizmusok nem alkalmazandók. Ez sérti az emberi jogokat azáltal, hogy megakadályozzák a társadalmi-műszaki döntések meghozataláért viselt értelmes felelősségét. A cikk végül olyan kritériumokat javasol, amelyek célja az értelmes cselekvési lehetőség biztosítása azokban az esetekben, amikor az embereket bevonják az automatizált döntéshozatali rendszerekbe, és összekapcsolja ezt azzal a jelenleg folyó vitával, amelynek célja az emberi jogok biztosítása az internetes infrastruktúra segítségével.”
Forrás:
Liable, but Not in Control? Ensuring Meaningful Human Agency in Automated Decision‐Making Systems; Ben Wagner; Policy & Internet; Volume 11, Issue 1; Pages 104-122; March 2019
DOI: https://doi.org/10.1002/poi3.198
A cikk a „Special Issue: Internet Architecture and Human Rights” tematikus különszám része.