Amazon zakazuje policji korzystania z technologii rozpoznawania twarzy
Amazon zakazuje policji USA stosowania technologii rozpoznawania twarzy. Firma uważa, że to pora na „dyskusję społeczną na temat tej technologii.”
IBM rezygnuje z tej technologii
Kilka dni temu firma IBM wydała oświadczenie, że nie będzie już oferować ogólnego przeznaczenia rozpoznawanie twarzy lub oprogramowania analitycznego. Dodatkowo IBM nie będzie już dłużej rozwijać ani badać tej technologii. Jak przekazała CEO Arvind Krishna w liście do Kongresu:
IBM stanowczo sprzeciwia się i nie będzie tolerować korzystania z żadnej technologii rozpoznawania twarzy. Mowa także o technologii rozpoznawania twarzy oferowanej przez innych dostawców. Mówimy także o technologii wykorzystywanej do masowego nadzoru, profilowania rasowego, naruszania podstawowych praw i wolności człowieka lub jakichkolwiek celów niezgodnych z naszymi wartości i zasady zaufania i przejrzystości. Uważamy, że nadszedł czas, aby rozpocząć krajowy dialog na temat tego, czy i jak technologie rozpoznawania twarzy powinny być stosowane przez krajowe organy ścigania.
Amazon zakazuje policji korzystania z tej technologii
Amazon zapowiada rok zakazu dla policji w USA, która korzystała z Rekognition. Jest to platforma Amazona, która wykorzystuje SI do rozpoznawania zdjęć, w tym także twarzy. Oświadczenie pojawiło się zaledwie dwa dni później po oświadczeniu IBM:
Wdrażamy roczne moratorium na używanie przez policję technologii rozpoznawania twarzy Amazon. Nadal zezwalamy organizacjom takim jak Thorn, Międzynarodowe Centrum Zaginionych i Wykorzystywanych Dzieci oraz Marinus Analytics na korzystanie z Amazon Rekognition w celu ratowania ofiar handlu ludźmi i ponownego połączenia zaginionych dzieci z ich rodzinami.
Mamy opowiadał, że rządy powinny wprowadzić silniejsze przepisy regulujące użycie etycznej technologii rozpoznawania twarzy, aw ostatnich dniach pojawia się Kongres gotowy do podjęcia tego wyzwania. Mamy nadzieję, że to roczne moratorium da Kongresowi wystarczająco dużo czasu na wdrożenie odpowiednich zasad i jesteśmy gotowi pomóc, jeśli zostanie o to poproszony.
Firma nigdy nie ujawniła, ile departamentów policji faktycznie korzysta z tej technologii. O wiele bardziej powszechnym systemem rozpoznawania twarzy jest Clearview AI. Obecnie firma jest ścigana za szereg procesów o naruszenie prywatności czy kradzieży zdjęć z portali społecznościowych. Dzięki takiej praktyce zbudowała ona bazę aż 3 miliardów zdjęć, którą sprzedawała organom ścigania.
System był rasistowski?
Technologia rozpoznawania twarzy według niektórych badaczy jest niedoskonała. I to w odniesieniu do uprzedzeń rasowych. Czołową badaczką w tej sprawie jest Joy Buolamwini, pracująca w MIT Media Lab.
W kilku badaniach stwierdzono, że poziomy błędów dla systemów rozpoznawania twarzy zależy od rasy. Osoby czarnoskóre były błędnie identyfikowane częściej o nawet kilkadziesiąt punktów procentowych niż w przypadku osób białych. Problemy wynikają w dużej mierze w zestawach danych używanych do szkolenia systemów. Wprzeważającej mierze pochodzą one od osób płci męskiej, o białym kolorze skóry.
Amazon odpierał te zarzuty, jednak Buolamwini brutalnie punktowała firmę, wskazując poszczególne fragmenty swoich badań. Jej ustalenia poparli badacze sztucznej inteligencji z całego świata. Napisali oni list otwarty stwierdzający, że Rekognition jest wadliwy i nie powinien być w gestii organów ścigania.
