Technológia

Az Egyesült Királyság nyilvánossága világos algoritmikus átláthatósági politikát szeretne

Annak ellenére, hogy az algoritmusok közszférában történő alkalmazásával kapcsolatos tudatosság vagy megértés alacsony, az emberek határozottan érzik az átláthatóság szükségességét, amikor tájékoztatást kapnak, az Egyesült Királyság kormányzati tanácsadó testülete az algoritmusok felelősségteljes használatáról. mesterséges intelligencia (AI) mondta.

Abban 151 oldalas áttekintés az algoritmikus döntéshozatal torzításáról 2020 novemberétől az Adatetikai és Innovációs Központ (CDEI) azt javasolta, hogy a kormány kötelező átláthatósági kötelezettséget írjon elő minden olyan közszektorbeli szervezet számára, amely algoritmusokat használ az emberek életét érintő jelentős döntések meghozatalakor.

„A kormánynak el kell végeznie egy projektet ennek a kötelezettségnek a pontosabb kiterjesztése érdekében, és kísérleti megközelítést kell végrehajtania annak végrehajtásához, de meg kell követelnie az információk proaktív közzétételét arról, hogy miként hozták meg az algoritmus használatáról szóló döntést, az algoritmus típusát, hogyan használták a teljes döntéshozatali folyamatban, és az egyének tisztességes bánásmódjának biztosítása érdekében tett lépéseket ”- fogalmazott akkor.

Annak érdekében, hogy pontosan meghatározza, hogy ez az átláthatósági kötelezettség miként működhet a gyakorlatban, és hogy megtudja, mely intézkedések lennének a leghatékonyabbak az algoritmusok jobb nyilvános megértésének elősegítésére, a CDEI együttműködött a Központi Digitális és Adatirodával (CDDO) és Nagy-Britanniával. három héten keresztül.

“Ez magában foglalta az idő eltöltését, amely fokozatosan növelte a résztvevők megértését és ismereteit az algoritmusok használatáról a közszférában, az átláthatósággal kapcsolatos elvárásaik megvitatását és a megoldások együttes tervezését” – írta a CDEI. blog bejegyzés június 21-én jelent meg.

“Három konkrét felhasználási esetre összpontosítottunk, hogy teszteljünk egy sor érzelmi választ – rendészet, parkolás és toborzás” – mondta.

A CDEI megállapította, hogy annak ellenére, hogy az algoritmusok használatával kapcsolatos tudatosság vagy megértés általában alacsony volt, a résztvevők határozottan érezték az átláthatóságra vonatkozó információk közzétételének szükségességét, miután megismerték őket az állami szektor algoritmusainak konkrét példáival.

„Ez magában foglalta a vágyakat; az algoritmus leírása, miért használtak algoritmust, további információk elérhetőségei, a felhasznált adatok, az emberi felügyelet, az algoritmus lehetséges kockázatai és technikái ”- mondta a CDEI, hozzátéve, hogy a résztvevők számára kiemelt feladat, hogy ezeket az információkat könnyen hozzáférhető és érthető egyaránt.

Az átláthatóság és az egyszerűség közötti feszültség feloldása érdekében a résztvevők a kívánt információt is különböző szintekre bontották, annak alapján, hogy mennyire fontos az algoritmus működése szempontjából, és ki kíván hozzáférni hozzájuk.

„A résztvevők arra számítottak, hogy az„ első szintű ”információk azonnal elérhetők lesznek az algoritmus interakciója előtt vagy azt megelőzően, miközben azt várták, hogy könnyű hozzáférést biztosítanak a„ második szint ”információihoz, ha úgy döntenek, hogy megkeresik ki ”- mondta a CDEI.

“Többre számítottak arra, hogy szakértők, újságírók és a civil társadalom a nevükben hozzáférhet ehhez a” második szintű “információhoz, felvetve a polgárok számára releváns aggályokat.”

Második szint

Míg az első szint információ csak az algoritmus, annak céljának leírására korlátozódott, és kivel kell kapcsolatba lépni a további információkért, a második szint információi többek között a leírást, a célt, a kapcsolattartó pontot, az adatvédelmet, az emberi felügyeletet, a kockázatokat és a kereskedelmi információkat tartalmazzák. .

“Érdekes volt megjegyezni azt is, hogy a különböző felhasználási esetek hogyan befolyásolták a résztvevők proaktív érzését az átláthatóságra vonatkozó információk közléséről” – mondta a CDEI, hozzátéve, hogy alacsonyabb kockázatú és hatású felhasználási esetek esetén passzívan elérhető információk – vagy olyan információk, amelyeket az egyének megkereshetnek, ha akarnak – elég volt önmagában.

“Megállapítottuk, hogy az észlelt potenciális hatás és az észlelt potenciális kockázat mértéke befolyásolja, hogy a résztvevők mennyire bíznak egy algoritmusban a döntések meghozatalában, milyen átláthatósági információkat akarnak átadni nekik, és hogyan akarják ezt átadni” – mondta.

„A magasabb potenciális kockázat és a nagyobb potenciális hatású esetek esetében nem csak az a vágy, hogy az információk passzívan hozzáférhetők legyenek és hozzáférhetők legyenek, ha az egyének többet szeretnének tudni az algoritmusról, hanem arra is, hogy az alapinformációk aktív kommunikációját előre jelezzék az embereknek, hogy és milyen célból használják az algoritmust. “

A CDEI hozzátette, hogy folytatja nyilvános elkötelezettségét, amely várhatóan a belső érdekelt felekkel és külső szakértőkkel a CDDO részvételével együtt informálja az algoritmikus átláthatóság szabványának kidolgozását.