Technológia

Az uniós szabályozók a biometrikus adatok betiltását kérik a nyilvános terekben

Két páneurópai adatvédelmi testület közösen szorgalmazza az automatizált biometrikus azonosítási technológiák nyilvános terekben történő használatának általános tilalmát, azzal érvelve, hogy elfogadhatatlanul sértik az alapvető jogokat és szabadságokat.

Az Európai Adatvédelmi Testület (EDPB) és az európai adatvédelmi biztos (EDPS) a közös vélemény válaszul az Európai Bizottság (EK) által javasolt Mesterséges Intelligencia Törvényre (AIA), amelyben a mesterséges intelligencia használatának általános tilalmát szorgalmazta az emberi jellemzők nyilvános terekben történő automatikus felismerésére.

Ez magában foglalná az AI használatának betiltását az arcok, járás, ujjlenyomatok, DNS, hangok, billentyűleütések, valamint bármely más biometrikus vagy viselkedési jel azonosítására, bármilyen összefüggésben.

“A távoli biometrikus azonosítás nyilvánosan hozzáférhető helyeken történő bevezetése az anonimitás megszűnését jelenti ezeken a helyeken” – mondta Andrea Jelinek, az EDPB elnöke és Wojciech Wiewiórowski, az európai adatvédelmi biztos közös nyilatkozatában. „Az olyan alkalmazások, mint az élő arcfelismerés, olyan mértékben zavarják az alapvető jogokat és szabadságokat, hogy megkérdőjelezhetik e jogok és szabadságok lényegét.

„Ez az elővigyázatosság azonnali alkalmazását igényli. Az arcfelismerés nyilvános hozzáférhető területeken történő használatának általános tilalma a szükséges kiindulópont, ha meg akarjuk őrizni szabadságainkat, és emberközpontú jogi keretet szeretnénk létrehozni az AI számára. “

Bár az AIA – amely határozottan kockázatalapú, piacvezérelt megközelítést alkalmaz a technológia szabályozásában – állítólag tiltja a nyilvános helyeken élő emberek távoli, valós idejű biometrikus azonosítását, digitális jogi szakértők korábban elmondták a Computer Weekly-nek hogy számos olyan kiskapu van, amely jelentősen gyengíti azokat az állításokat, amelyek szerint valóban megtiltották.

Ide tartozik az a tény, hogy számos nagyon széleskörű „fenyegetés alóli mentesség” létezik, amely lehetővé teszi a technológia bűnüldöző szervek általi használatát, és hogy a visszamenőleges hatályú biometrikus azonosítás helyett csak valós idejű tilos.

Az EDPB és az európai adatvédelmi biztos is egyetért azzal a nézettel, hogy az AIA „tiltása” a biometrikus adatok távoli azonosításához nem elegendő.

“Az egyének nyilvános hozzáférhető helyeken történő távoli biometrikus azonosítása nagy kockázatot jelent az egyének magánéletébe való behatolás” – mondta a közös vélemény. „Ezért az EDPB és az európai adatvédelmi biztos úgy véli, hogy szigorúbb megközelítésre van szükség.

„A mesterséges intelligencia rendszerek használata komoly arányossági problémákat vethet fel, mivel magában foglalhatja a válogatás nélküli és aránytalan számú érintett adatainak feldolgozását csak néhány személy (például repülőtereken és vasútállomásokon utazók) azonosítására.

„Az egyéneknek a feldolgozásról történő megfelelő tájékoztatásának problémája, valamint az egyének jogainak hatékony és időben történő gyakorlása továbbra sem megoldott. Ugyanez vonatkozik visszafordíthatatlan, súlyos hatására a lakosság (ésszerű) elvárására, hogy névtelenek legyenek a nyilvános terekben, ami közvetlen negatív hatást gyakorol a véleménynyilvánítás, a gyülekezés, az egyesülés, az egyesülési szabadság és a mozgás szabadságának gyakorlására. ”

Azok a szakértők, akikkel a Computer Weekly beszélt az AIA-ról, rámutattak a biometrikus mesterséges intelligencia-eszközök „tiltásának” hiányára is, amelyek képesek felismerni a faj, a nem és a fogyatékosságot.

“Az emberek biometrikus kategorizálása bizonyos fajokba, nemi identitásba, fogyatékossági kategóriákba – mindezeket a dolgokat be kell tiltani az emberek jogainak védelme érdekében, mert ezeket nem lehet a jogoknak megfelelő módon felhasználni” – mondta Sarah Chander, egy az Európai Digitális Jogok (EDRi) vezető politikai tanácsadója. “Amennyiben a jogszabályok ezt nem teszik meg, akkor elmaradnak.”

Az EDPD és az európai adatvédelmi biztos hasonlóan felvetette a figyelmet a biometrikus kategorizálásra való figyelmen kívül hagyás mellett, továbbá javasolta minden olyan mesterséges intelligencia-rendszer betiltását, amely az embereket etnikum, nem, politikai vagy szexuális irányultság vagy más olyan ok alapján csoportosítja. az alapjogi charta tiltja a diszkriminációt.

A közös vélemény hozzátette: „Ezenkívül az EDPB és az európai adatvédelmi biztos úgy ítéli meg, hogy a mesterséges intelligencia alkalmazása természetes személy érzelmeinek következtetésére rendkívül kívánatos és meg kell tiltani, kivéve bizonyos jól meghatározott felhasználási eseteket, nevezetesen egészségügyi vagy kutatási célokra. (például olyan betegeknél, ahol az érzelemfelismerés fontos), mindig megfelelő biztosítékokkal, és természetesen minden más adatvédelmi feltétel és korlátozás mellett, ideértve a cél korlátozását is. ”

Az Egyesült Királyságban, információs biztos, Elizabeth Denham elmondta, hogy „mélységesen aggasztja” az élő arcfelismerés (LFR) technológiák nem megfelelő és vakmerő használata a nyilvános terekben is, blogban megjegyezve hogy az irodája által vizsgált szervezetek egyike sem tudta teljes mértékben igazolni a felhasználását.

Bár Denham elismerte a biometrikus adatoknak a jogokra gyakorolt ​​jelentős hatásait, tartózkodott az általános tilalom felszólításától, ehelyett Biztosi vélemény iránymutatásként szolgálni a biometrikus technológiák bevezetését kívánó vállalatok és állami szervezetek számára.

“Nem az én szerepem, hogy jóváhagyjam vagy betiltsam egy technológiát, de bár ez a technológia fejlődik és nincs széles körben elterjedve, lehetőségünk van arra, hogy biztosítsuk, hogy az adatvédelem kellő figyelembevétele nélkül nem bővül” – írta Denham a blogban.

„A szervezeteknek a kezdetektől fogva igazolniuk kell az irányítás és az elszámoltathatóság magas színvonalát, beleértve azt is, hogy képesek legyenek igazolni, hogy az LFR használata igazságos, szükséges és arányos minden egyes olyan környezetben, amelyben alkalmazzák. Bizonyítaniuk kell, hogy a kevésbé tolakodó technikák nem fognak működni.

2021. június 7-én az EDPB és az európai adatvédelmi biztos véleményével összhangban az Access Now és több mint 200 egyéb civil társadalmi szervezet, aktivista, kutató és technológus 55 országból nyílt levelet írt alá, amelyben jogi tilalmakra szólított fel a biometrikus technológiák nyilvános terekben történő használatáról, akár kormányok, bűnüldöző szervek vagy magán szereplők.

A teljes betiltás mellett a koalíció felszólította a kormányokat a világ minden tájáról, hogy állítsák le a tömeges megfigyelést és a diszkriminatív célzott megfigyelést lehetővé tevő biometrikus technológiákba történő állami beruházásokat.

Az Amazon, a Microsoft és az IBM meghátrált az arcfelismerő technológiák rendőröknek történő eladásától”- mondta Isedua Oribhabor, az Access Now amerikai politikai elemzője. „A befektetők korlátozásokat követelnek e technológia alkalmazásával kapcsolatban. Ez azt mutatja, hogy a magánszektor jól ismeri azokat a veszélyeket, amelyeket a biometrikus megfigyelés jelent az emberi jogokra nézve.

„De a probléma tisztában lenni nem elég – ideje cselekednünk. A magánszektornak teljes mértékben foglalkoznia kell a biometrikus megfigyelés hatásaival, eleve abbahagyva e technológia létrehozását vagy fejlesztését.