Ministerstwo Pracy i Emerytur wykorzystuje sztuczną inteligencję do analizowania korespondencji od osób ubiegających się o zasiłki i wskazywania urzędnikom priorytetowych spraw. Budzi to jednak poważne obawy, bo tzw. biały system pocztowy obsługuje bardzo poufne dane osobowe wnioskodawców, a kryteria, jakie stosuje AI są niejasne – informują brytyjskie media.
Codziennie na skrzynkę pocztową przychodzi ok. 25 tys. e-maili. To stąd urzędnicy postanowili posiłkować się sztuczną inteligencją, która ma priorytyzować kolejność rozpatrywania wniosków. Sprawa jest tym poważniejsza, że do Ministerstwa Pracy i Emerytur trafia wiele próśb od najbardziej potrzebujących w kraju osób.
Mierząc się z wyzwaniami ministerstwo postanowiło wprowadzić tzw. „białą pocztę”, czyli algorytmy sztucznej inteligencji, które mogą wykonać tę samą pracę, którą wykonuje urzędnik przez tygodnie, czytając korespondencję zaledwie w ciągu jednego dnia i nadając priorytet sprawom, którymi pracownicy ministerstwa powinni się zająć w pierwszej kolejności.
Oznacza to, że AI obniża priorytet wniosków innych osób, więc dokładność i sposób, w jaki dochodzi do swoich wniosków, mają duże znaczenie. Tymczasem nie jest do końca jasne, jakie kryteria przyjmuje algorytm.
„Biała poczta” jest testowana od co najmniej 2023 r., kiedy to ówczesny minister ds. opieki społecznej Mel Stride zapowiedział, że dzięki niej „najbardziej potrzebujący wnioskodawcy mogą być szybciej kierowani do odpowiedniej osoby, która może im pomóc”.
To nie jedyny powód do niepokojów – uważają Brytyjczycy. Korespondencja może obejmować wrażliwe dane, takie jak numery ubezpieczenia społecznego, daty urodzenia, adresy, dane telefoniczne, adresy e-mail, szczegóły wniosków o świadczenia, informacje dotyczące zdrowia, dane dotyczące kont bankowych, cechy rasowe i seksualne oraz szczegóły dotyczące dzieci.
Meagan Levin, menedżer ds. polityki i spraw publicznych w Turn2us – organizacji charytatywnej, która pomaga osobom zmagającym się z niepewnością finansową, uważa, że system „wzbudza obawy, w szczególności dotyczące braku przejrzystości i przetwarzania przez niego wysoce poufnych danych osobowych, w tym dokumentacji medycznej i danych finansowych”.
– Przetwarzanie takich informacji bez wiedzy i zgody osób ubiegających się o świadczenia jest głęboko niepokojące – mówi Levin mediom.
Zgodnie z informacjami opublikowanymi do tej pory, dane są szyfrowane przed usunięciem oryginałów i są przechowywane przez ministerstwo i jego dostawcę usług w chmurze. Ministerstwo twierdzi, że konsultacje z osobami fizycznymi na temat tego sposobu przetwarzania ich danych „nie są konieczne, ponieważ te rozwiązania zwiększą wydajność przetwarzania”.
Urzędnicy wskazują ponadto, że jest to uzupełnienie istniejących systemów, a wskazana przez AI korespondencja jest następnie sprawdzana przez agentów w celu ustalenia, czy sprawa faktycznie wymaga pilnych działań. DWP stwierdziło, że sztuczna inteligencja nie podjęła żadnej decyzji i nie przetworzyła żadnych danych.