Technológia

Az Egyesült Királyság kormánya közzéteszi az automatizált döntéshozatal keretrendszerét

Az Egyesült Királyság kormánya közzétette az automatizált döntéshozatali rendszerek közszférában történő felhasználásának keretrendszerét, amely meghatározza, hogyan lehet a technológiát biztonságosan, fenntarthatóan és etikusan alkalmazni.

A Kabinetiroda, a Központi Digitális és Adatiroda, valamint a Mesterséges Intelligencia Hivatala, a Etikai, átláthatósági és elszámoltathatósági keretrendszer az automatizált döntéshozatalhoz célja, hogy javítsa a kormányon belüli általános műveltséget az automatizált vagy algoritmikus döntéshozatal körül, és minden köztisztviselő számára használható.

A keretrendszer egyaránt vonatkozik a kizárólag automatizált döntésekre (ahol nincs emberi megítélés) és az automatizált támogatott döntéshozatalra, és fel kell használni a bevált gyakorlatok megismertetésére az egyes területeken.

Hét alapelvből áll – például a rendszer tesztelése a nem kívánt következmények elkerülése érdekében, minden felhasználó és állampolgár számára tisztességes szolgáltatások nyújtása, egyértelműség a rendszer működéséért felelős személy számára, és az adatok biztonságos kezelése a polgárok védelme érdekében érdekek – a keret gyakorlati lépéseket tartalmaz az egyes célok elérésére.

Például a rendszer nem kívánt eredmények tesztelése során a keretrendszer azt javasolja a szervezeteknek, hogy fogadják el a „vörös csapat tesztelését”, amely abból a feltételezésből indul ki, hogy „minden algoritmusrendszer képes bizonyos fokú kárt okozni”.

A keret azt is hangsúlyozza, hogy a szervezeteknek adatvédelmi és egyenlőségi hatásvizsgálatokat kell végezniük, amelyekre az Egyesült Királyság jogszabályainak való megfelelés érdekében van szükség.

Továbbá javasolja a keretrendszer használatát a meglévő útmutatások, például a Nemzeti adatstratégia és Adatetikai keretrendszer.

Meg kell azonban jegyezni, hogy a Kormányzati Digitális Szolgálat (GDS) 2020 szeptemberében kiadott egy frissített adatetikai keretet az előző változat „kevés volt a tudatosság” a kormányon belül.

A keretrendszer más alapelvei közé tartozik, hogy segítenek az állampolgároknak és a felhasználóknak megérteni, hogy a rendszerek hogyan hatnak rájuk, biztosítják a törvényeknek való megfelelést, és olyan dolgokat építenek, amelyek jövőbiztosak.

„Az adatvédelmi törvény szerint a teljesen automatizált folyamatokhoz az egyéneknek konkrét információkat kell megadnia a folyamatról. A folyamat tulajdonosainak egyszerű módszereket kell bevezetniük arra, hogy az érintett személy (ek) emberi beavatkozást kérjenek, vagy megtámadják a döntést. ”

“Amikor az automatizált vagy algoritmikus rendszerek segítik a felelős tisztviselő döntését, akkor képesnek kell lennie arra, hogy egyszerű angol nyelven elmagyarázza, hogy a rendszer hogyan hozta meg ezt a döntést vagy javasolta a döntést.”

A keretrendszer kifejezetten elismeri azt is, hogy „az algoritmusok nem jelentenek megoldást minden szakpolitikai problémára”, és hogy a hatóságoknak mérlegelniük kell, hogy az automatizált rendszer használata megfelelő-e sajátos összefüggéseikben, mielőtt továbblépnének a telepítéssel.

„Az ellenőrzést minden automatizált és algoritmikus döntéshozatal során alkalmazni kell. Nem szabad, hogy a legösszetettebb és legnehezebb kérdések megoldására válasszák őket a velük járó magas kockázat miatt. ”- mondta a kormány honlapja, hozzátéve, hogy az automatizált döntéshozatali rendszerekhez kapcsolódó kockázatok nagymértékben függenek a szakpolitikai területektől, összefüggésben használják őket.

„Az idősebb tulajdonosoknak alapos kockázatértékelést kell végezniük, minden lehetőséget feltárva. Biztosnak kell lennie abban, hogy a házirend szándékát, specifikációját vagy eredményét a legjobban egy automatizált vagy algoritmikus döntéshozatali rendszerrel lehet elérni. “

Hozzátette, hogy a keretet be kell tartani, amikor az állami szektor szervei harmadik felekkel dolgoznak, és korai elkötelezettséget igényel annak biztosítása érdekében, hogy az beépüljön bármilyen kereskedelmi megállapodásba.

Annak ellenére, hogy a keretrendszer példákat tartalmaz arra vonatkozóan, hogy mind az automatizált, mind a részben automatizált döntéshozatali rendszereket hogyan használják a munkahelyeken – például annak eldöntésére, hogy egy alkalmazottnak mennyi fizetést kapnak, maguk az alapelvek nem foglalkoznak közvetlenül az ilyen rendszerek munkahelyi dinamikára gyakorolt ​​hatásával .

“Ha a kormány bizalmat akar építeni a technológia munkahelyi használatával kapcsolatban, sokkal jobb szabályokra van szükségünk a technológia munkahelyi felhasználására vonatkozóan”

Andrew Pakes, Prospect Union

„Az új keretrendszer nagy előrelépést jelent az automatikus döntéshozatal körüli egyértelmű útmutatás nyújtásában. Nagyon üdvözöljük azt a világos kijelentést, miszerint az algoritmusok nem jelentenek választ minden kérdésre, különösen a digitális felügyelet és az emberek irányításának növekedése kapcsán. ”- mondta Andrew Pakes, a Prospect Union kutatási igazgatója. képviseli a tudomány, a technológia és más szakmunkásokat.

„Az AI növekedésével [artificial intelligence] és az emberek elemző szoftverei a Covid alatt, mélységesen kiábrándító, hogy a keret nem ismeri el a konzultáció és a munkavállalók bevonásának szükségességét a döntésekben arról, hogy a technológia hogyan hat ránk. Ha a kormány bizalmat akar építeni a technológia munkahelyi alkalmazásában, sokkal jobb szabályokra van szükségünk a technológia munkahelyi használatára vonatkozóan. “

2020 novemberében a az Adatetikai és Innovációs Központ által közzétett algoritmikus elfogultság áttekintése (CDEI) szerint az Egyesült Királyság kormányának arra kellene kényszerítenie az állami szektor szerveit, hogy legyenek átláthatóbbak az egyénekről „életet befolyásoló” döntéseket hozó algoritmusok használatában.

„A kormánynak el kell végeznie egy projektet ennek a kötelezettségnek a pontosabb kiterjesztése érdekében, és kísérleti megközelítést kell végrehajtania annak végrehajtásához, de meg kell követelnie az információk proaktív közzétételét arról, hogy az algoritmus használatáról hogyan döntöttek, az algoritmus típusáról, hogyan a teljes döntéshozatali folyamat során, és az egyénekkel szembeni tisztességes bánásmód biztosítása érdekében tett lépéseket ”- fogalmazott.

“A Kabinetirodának és a Korona Kereskedelmi Szolgálatnak frissítenie kell a közbeszerzési szerződések és keretmegállapodások mintáit, hogy beépítsék az AI etikus használatára vonatkozó minimumszabályokat, különös tekintettel az elvárt átláthatósági és magyarázhatósági szintre, valamint a méltányosság folyamatos tesztelésére.”

Ezért minden átláthatósággal kapcsolatos kiadványnak könnyen megtalálhatónak, megérthetőnek és használhatónak kell lennie, és feltétlenül kerülni kell, hogy szűk kommunikációs célokat szolgáljon, vagy a hallgatóságot célzottan manipulálja – tette hozzá.

A CDEI algoritmikus elfogultságra vonatkozó áttekintését a keretrendszer több részében említik, mint releváns erőforrást, amelyet az állami szektor szerveinek figyelembe kell venniük az automatizált döntéshozatali rendszerek bevezetésekor.

“A műveletek, a folyamatok és az adatok megtekinthetővé válnak azáltal, hogy teljes, nyílt, érthető, könnyen elérhető és ingyenes formátumban tesznek közzé információkat a projektről” – mondta.