„Kína saját autokráciáját exportálja”
– nyilatkozta 2017-ben Marco Rubio amerikai republikánus szenátor, aki szerint a szinte totális megfigyelőállammá váló Kína rájött arra, hogy számtalan fejlesztése mellett magát az elnyomást is egyre több helyen tudja eladni. A fejlett technológiákkal támogatott megfigyelőállamok kapcsán értelemszerűen rögtön Kínát lehet említeni, ahol az algoritmusok szüntelenül dolgoznak a közterületeken használt arcfelismerő rendszerekben, a kísérleti telepként használt Hszincsiang tartományban pedig az üldözött kisebbségeken tesztelik a legújabb fejlesztéseket.
Az MI felügyeleti eszközök azonban nem állnak meg az elnyomó hatalmak határainál – az említett szélsőséges példánál jellemzően visszafogottabban – de globálisan is terjednek. A nyugati kormányok nincsenek egyszerű helyzetben: ezen rendszerek hatékonysága meggyőző, ha bűnüldözési célokról van szó, de a törékenyebb demokráciák kezében veszélyessé válhatnak, mivel a felhasználásukat össze kell egyeztetni olyan értékekkel, mint a privátszféra és az emberi jogok védelme.
Az 2019-ben készített, átfogó AI Global Surveillance (AIGS) Index szerint a megfigyelési (surveillance) technológiák gyorsabb ütemben terjednek, mint ahogy a szakértők gondolnák. Az akkori adatok szerint világszerte 176 országból legalább 64 használt arcfelismeréses kamerákat felügyeleti célokra, akár okosváros-platformok révén (56 ország), vagy bűnüldözési okokból. Az előnyök többrétűek: említhető a költséghatékonyság, az emberi munkaerőnek való kitettség csökkentése, a precízebb adatelemzések. Az emberek nyomon követését valós idejű videófeldolgozás támogatja, ami elemzi és azonosítja azokat a gyanús eseményeket vagy viselkedéseket, amelyek biztonsági fenyegetést jelenthetnek a vállalatok/lakosok számára.
Az exportképes rendszerek olyan funkciókat foglalnak magukba, mint a tömeges megfigyelés és arcfelismerés, illetve olyan integrált közös műveleti platformok, melyek big datát és mesterséges intelligenciát használnak prediktív rendfenntartásra, amiket nem csak az autokratikus államok vetik be, hanem a liberális demokráciák is. Természetesen ez nem jelenti rögtön azt, hogy mindenhol visszaélésekre használnák fel a felügyeleti technológiákat, értelemszerűen az autokratikus és fél-autokratikus országok kormányai hajlamosabbak rá. Azonban minden környezetben fennáll annak a veszélye, hogy bizonyos politikai célok elérése érdekében jogtalanul használják ki a technológiában rejlő lehetőségeket. Vitatott kérdés régiótól függően, hogy mik a technológia jogos és indokolt felhasználási területei, amihez másként áll Kína, az Egyesült Államok és az Európai Unió.
A koronavírus-járvány egyik hatása, hogy számos biometrikus adatgyűjtési eszköz használata felgyorsult és jellemző gyakorlattá vált – például a hőmérséklet ellenőrzése belépéskor, a hőkamerák telepítése és az arcszkennelés. Tavaly szeptemberben Ausztrália két legnépesebb államában olyan arcfelismerő szoftvereket teszteltek, amelyek segítségével a rendőrség ellenőrizheti, hogy az emberek otthon vannak-e a COVID-19 karantén ideje alatt, kiterjesztve a kísérleteket, amelyek az ország lakosságának túlnyomó többségében vitákat váltottak ki. A maszkviselet magával hozta az algoritmusok fejlődését is, lévén az eltakart arcokkal is meg kell tudni birkózni a rendszereknek. A járványkezelésben nem csak Dél-Korea alkalmaz arcfelismerést, de Kína, Oroszország, Lengyelország és India is, a görbe laposításának egyik fontos eszközévé vált az ilyen rendszerek telepítése, mely éppenséggel azt mutatja, hogy ilyen téren kimondottan hasznosak ezek a megoldások.
A kínai surveillance átfolyik a világba
Kína több külföldi ország számára exportálja termékeit, ami által az ország gazdasági és politikai befolyása is erősödik. Számos afrikai, közel-keleti, dél-amerikai és ázsiai állam használ kizárólag kínai megfigyelő technológiát. Hogy miért Kína jár élen a fejlesztésben, felhasználásban és exportban, több dologgal magyarázható: a kormány régóta törekszik a technológiai szupremáciára és a saját ökoszisztémája kiépítésére, illetve rengeteg pénzt fordít kutatás-fejlesztésre.
Az olyan nagy nevek, mint a Huawei, a Hikvision, a Dahua vagy a ZTE is különböző formákban fejleszti ezeket a technológiákat, az MI-alapú videós megfigyeléstől kezdve a komplexebb okosváros-rendszerekig. A SenseTime, a Megvii, a CloudWalk és a Yitu startupok globálisan is meghatározó szereplőkké váltak az évek során, becslések szerint a kínai cégek 2023 végére 44,59 százalékot tudhatnak magukénak az arcfelismerés globális piacán. A fejlődést hajtja továbbá, hogy Kína elkötelezte magát a még fejlesztés alatt álló társadalmi kreditrendszer szélesebb körű bevezetése mellett. Összességében az ország MI köré felépített technológiai szektora, a tekintélyelvű kormányzás, a termelés és kutatás kormányzati támogatása, a laza adatvédelmi törvények, és a hatalmas népesség tökéletes környezetet teremtenek együtt ahhoz, hogy egy ilyen megfigyelési rendszer élesben is kiépüljön.
A 2019-es adatok alapján nemzetközi exportban Kína vezette a listát, 63 külföldi országba szállított MI-technológiákat, jelentős része a Huawei, a Hikvision, a Dahua és a ZTE cégekhez fűződik. Ezeket az eszközöket többféle módon kamatoztatják a hatóságok: a CloudWalk például 2018 óta szállít arcfelismerő szoftvert Zimbabwébe, ahol az autoriter kormány arcfelismerős- térfigyelő-rendszert épített ki, saját nemzeti arcadatbázissal. A kormány cserébe megengedte a kínaiaknak, hogy használhassák a több millió zimbabwei arcképét a technológiájuk fejlesztésére. Zimbabwe negyedik legnagyobb városa, Mutare egyben kísérleti terepe a Hikvision okosváros koncepciójának is. 2019-ben a Fülöp-szigeteken belügyminisztérium elindította a „Safe Philippines” névre hallgató megfigyelő-rendszert a Manila nemzeti fővárosi régióban, melynek keretén belül több ezer mesterséges intelligenciát felhasználó megfigyelő kamerát építetettek a Huawei-jel és a China International Telecommunication and Construction Corporation-nel (CITCC) szoros együttműködésben. De ez csak pár példa a sok közül.
Fokozódó feszültség az USA-val
De nyugati államok is adtak el a múltban technológiákat Kínának, bár azóta az exportra vonatkozó szabályok átalakultak. Az Egyesült Államok képviselőházának albizottsága 2006-ban azért vizsgálta a Ciscót, mert a cég Kínának szállított megfigyelési technológiákat, ezt a vállalat azzal védte, hogy joga van a nemzetközi kereskedelemhez és a technológiai semlegességhez. Mint kiderült, az Oracle-nek is voltak hasonló szálai, a kritikák szerint így a nyugati vállalatok is hozzájárulnak a kínai elnyomó rendszer épüléséhez.
Az amerikai cégek által biztosított MI felügyeleti-technológia harminckét országban volt jelen 2019-ben. A legjelentősebb amerikai vállalatok az IBM (11), a Palantir (9) és a Cisco (6). Más liberális demokráciákban működő vállalatok – Franciaország, Németország, Izrael, Japán – szintén fontos szerepet játszanak e technológia elterjedésében. A kritikák szerint a probléma, hogy a demokráciák nem tesznek megfelelő lépéseket a jogsértésekre lehetőséget adó, kifinomult technológiák terjedésének nyomon követésére és ellenőrzésére.
A kínai export tovább fokozta az USA és a Kína közti feszültséget technológiai téren, ami egyre markánsabb intézkedéseket hívott életre. Az amerikai kereskedelmi minisztérium 2019 júliusában nyolc kínai céget és 20 kormányzati ügynökséget tett feketelistára emberi jogok megsértésére hivatkozva, ezzel reagálva az ujgurukon és a muszlim kisebbségeken elkövetett visszaélésekre hivatkozva. Ezután az amerikai cégek számára tiltottá vált, hogy fejlett technológiai felszereléseket szállítsanak a listázott kínai szereplőknek, köztük az arcfelismeréssel foglalkozó SenseTime, Megvii és Yitu cégeknek, továbbá a Dahua és a Hikvision kameragyártóknak. Ezen cégek közül néhány kiskapukon keresztül viszont továbbra is folytatta az exportot nyugatra.
Joe Biden amerikai elnök tavaly novemberben zárta be az utolsó kiskaput is a Huawei és más, az amerikaiak szerint nemzetbiztonsági kockázatot jelentő (kémkedéssel vádolt) kínai cégek előtt a saját irányukba, amikor aláírta a Képviselőház és a Kongresszus elsöprő többsége által támogatott Secure Equipment Act nevű törvényt, mely az utolsó lehetőséget is elveszi a kínai technológiai multiktól, így elsősorban a Huawei Technologiestől, a Hikvision és Dahua IP-kameragyártóktól és a ZTE-től, hogy amerikai hálózatokba kerülhessen bármilyen berendezésük.
Az USA feketelistáján szereplő cégeknek 2019. óta eleve nem volt könnyű dolguk, ha az országban működő távközlési cégek számára kívántak eladni bármit, az illetékes hatóság, a Federal Communications Commission (FCC) ugyanakkor külön kérvényre engedélyezhette az eszközök használatát – kizárólag abban az esetben, ha a beszerzésük során állami pénz nem kerül felhasználásra. Ez utóbbi kitételt változtatta meg a Secure Equipment Act, mely már nem ad lehetőséget a hatóságoknak semmilyen licenc kiadására a feketelistán szereplő cégek részére, függetlenül attól, hogy az eszközöket milyen pénzből vásárolják és hol akarják felhasználni az Egyesült Államokon belül.
Az Egyesült Államok szövetségi és állami hatóságai eltérően gondolkodnak a mesterséges intelligencia-felügyeleti telepítések szabályozásáról, különösen az arcfelismerésről, így különböző mértékű korlátozások és ellenőrzések vannak érvényben az USA-ban. San Franciscóban, San Diegóban és Oaklandben a városi hivatalok számára tiltott az arcfelismerő technológiák használata, míg más városokban, például Detroitban, a rendőrség egy bizonyos mértékig használhatja. A portlandi városi tanács teljesen megtiltotta az arcfelismerő technológia használatát.
Maguk az amerikai techcégek is intézkedni kezdtek az arcfelismerés körüli etikai kérdések viharában: 2020-ban az IBM volt az első cég, amely bejelentette, hogy nem fejleszt, gyárt és kínál eladásra több arcfelismerő technológiát. A döntés részeként a technológiai óriás nem biztosít semmilyen szoftveres algoritmust, mely AI segítségével végzi tömegek megfigyelését és (faji alapú) profilozását, illetve határozottan ellenzi ezen technológiai megoldások kiterjedt használatát. Arvind Krishna cégvezető akkor azt mondta: elérkezett az idő arra, hogy nemzeti párbeszéd kezdődjön arról, hogy ezeket az eszközöket hogyan használják a jövőben a helyi rendvédelmi szervek.
A Microsoft és az Amazon szintén hasonló intézkedéseket jelentett be, és szüneteltetni kezdte a rendőrség számára a hasonló technológiák értékesítését. Mindkét technológiai óriás nyilvánosan kijelentette, hogy nem kínálnak arcfelismerő technológiát az állami és a helyi rendőrségnek mindaddig, amíg meg nem születik az emberi jogok tiszteletben tartásáról szóló megfelelő nemzeti törvény, és mindkét vállalat megsürgette a törvényhozókat a szükséges szabályozások kialakítására. Mint kiderül, ennek eredménye az lett, hogy más, kisebb szereplők kezdték betölteni a helyüket.
A témához kapcsolódóan nagy port kavart az is, amikor a The New York Times 2020-ban felfedte, hogy a New York-i Clearview AI, az egyik legnagyobb arcfelismerő-adatbázist szállító cég több milliárd képet kapart le közösségi oldalakról, és összeállította azokat egy arcfelismerő adatbázisba. A cég szoftvereket kínál cégeknek, bűnüldöző szerveknek, egyetemeknek és magánszemélyeknek, algoritmusa illeszti az arcokat az internetről indexelt, több mint hárommilliárd képet tartalmazó adatbázishoz, beleértve a közösségimédia-alkalmazásokat is. A sorozatos adatvédelmi aggályok és bírságok dacára a ClearView rendkívül dinamikus növekedést jelzett előre idénre, így a cégnek a tervek szerint év végéig már százmilliárd fotóból felépülő adatbázisa lehet.
Európának sem tetszik
Közelmúltbeli példa, hogy Olaszország meg is bírságolta idén márciusban a ClearView-t, melynek mondhatni a működésébe vannak kódolva a hasonló afférok: a New York-i székhelyű céget hasonló okból büntették tavaly novemberben Nagy-Britanniában 17 millió angol fontra, emellett a cég működése több országban is kifejezetten tiltott. Többek közt Svédország, Franciaország és Ausztrália már korábban megtiltotta a ClearView számára, hogy a helyi lakosok képmásait bármilyen formában kezelje.
A mesterséges intelligenciával és úgy általánosságban a digitális térrel kapcsolatban az Európai Unió egy emberközelibb, privátszféra központú megközelítést alkalmaz. Margrethe Vestager, az Európai Bizottság digitális ügyekért felelős ügyvezető alelnöke 2020-ban úgy nyilatkozott, hogy az automatizált arcfelismerés sérti az EU általános adatvédelmi rendeletét, a GDPR-t. A biztos azt hozta fel elsődleges problémaként, hogy az érzékeny személyes információk rögzítéséhez azok tulajdonosainak beleegyezésére is szükség van, ami értelemszerűen nem adott az automatizált rendszerek esetében.
Az Európai Bizottság tavaly áprilisban előterjesztett egy rendelettervezetet, mely alapján az arcfelismerő rendszerek nyilvánosan hozzáférhető helyeken történő, valós idejű, bűnüldözési célú felhasználásuk főszabály szerint tilos lesz. Ez alól néhány szigorúan meghatározott, korlátozott és szabályozott kivételt határozott meg a Bizottság (például amikor eltűnt gyermek felkutatásához, konkrét és közvetlen terrorfenyegetés megelőzéséhez, vagy egy egy súlyos bűncselekmény elkövetőjének vagy gyanúsítottjának felderítéséhez, felkutatásához, azonosításához vagy büntetőeljárás alá vonásához az MI feltétlenül szükséges). Az ilyen felhasználást bírói vagy más független szervnek kell engedélyeznie, és az időtartam, a földrajzi hatókör és a lekérdezett adatbázisok tekintetében bizonyos korlátozások vonatkoznak rá.
A szervezetek álláspontja szerint az általános tiltásnak az arcfelismerésen kívül minden, biometrikus adat feldolgozására ki kell terjednie, így többek közt az ujjlenyomat- és hangfelismerésre is. Az EDPB és az EDPS emellett azt javasolta, hogy a nemi, etnikai, politikai és nemi irányultságot feltérképező, illetve ezen szempontok szerinti bárminemű automatikus kategorizálást végző MI-rendszerek használatára is vonatkoznia kell a tiltásnak.
Tavaly októberben több uniós szakmai és jogvédő szervezet után az Európai Parlament is kifejtette álláspontját a mesterséges intelligencia szerepét illetően a közterületeken használt arcfelismerő rendszerekben. Az uniós törvényhozás úgynevezett nem kötelező érvényű nyilatkozatát 377-248 arányban, 62 tartózkodás mellett támogatták az EP-képviselők. A kiadott nyilatkozat többek közt arra hívja fel a Bizottság és a tagállamok figyelmét, hogy a mesterséges intelligencia algoritmusaiban kódolva van a tévedés, így az csak szigorú felügyelet mellett, megfelelő jogi biztosítékokkal használható fel a kamerás megfigyelőrendszerek által rögzített képek elemzésére. A képviselők szerint számos esetben bebizonyosodott, hogy ezek az algoritmusok távolról sem tévedhetetlenek, ugyanakkor a tévesztések aránya többek közt demográfiai csoporttól és nemzetségtől függően eltérő lehet, ami egyenes úton vezet a diszkriminációhoz.
A képviselői állásfoglalás alapján csak a bűncselekmények gyanúsítottjaival szemben lehet jogszerű az ilyen eszközök használata, a privát adatbázisokat és a korábbi viselkedési minták alapján működő következtetési rendszereket és a mesterséges intelligencia által végzett profilozást pedig teljes mértékben tabuként kell kezelni az Európai Parlament szerint.