Microsoft a lansat recunoașterea facială către DEA

Microsoft / Via azure.microsoft.com

La începutul lunii iunie, Microsoft s-a alăturat unei liste în creștere de companii de tehnologie care s-au angajat să nu vândă tehnologia de recunoaștere facială către departamentele de poliție până când controversata tehnologie nu va fi reglementată la nivel federal. Dar acest anunț a lăsat o lacună: vânzarea recunoașterii faciale către guvernul federal.



E-mailurile lansate recent arată că compania a încercat să vândă controversata tehnologie guvernului de ani de zile, inclusiv către Administrația de aplicare a drogurilor la sfârșitul anului 2017.

Aceste documente, obținute de Uniunea Americană pentru Libertăți Civile printr-un proces de evidență publică, oferă o privire rară asupra modului în care compania din Redmond, Washington, a încercat să vândă servicii de inteligență artificială agențiilor federale cu șase luni înainte de apelul din iulie 2018 pentru „ reglementarea publică și responsabilitatea corporativă „în jurul recunoașterii faciale. Săptămâna trecută, Microsoft a spus „nu vindem tehnologia noastră de recunoaștere facială către departamentele de poliție din SUA astăzi și s-a angajat să nu o facem până nu există o lege națională puternică bazată pe drepturile omului.



Dar acest angajament nu a abordat nicio relație potențială sau continuă cu agențiile federale. La întrebarea BuzzFeed News, Microsoft nu a furnizat imediat comentarii cu privire la faptul că a furnizat sau oferă în prezent tehnologia sa de recunoaștere facială agențiilor federale de aplicare a legii.



The e-mailuri obținute de ACLU arată că compania a lansat recunoașterea facială ca instrument de aplicare a legii către DEA la sfârșitul anului 2017, în timp ce compania a presat să-și extindă ofertele pe platforma sa guvernamentală cloud, Microsoft Azure Government Cloud. În luna septembrie a aceluiași an, un individ al cărui nume a fost redactat, dar și-a enumerat titlul ca director tehnologic al DEA, a declarat că găzduiește Microsoft Cognitive Services Group pentru a discuta despre cazurile de utilizare pentru serviciile lor media.

Obținut de ACLU

În acest e-mail din septembrie 2017 de la directorul tehnologic al DEA, Microsoft arată că agenția a trimis agenției recunoașterea facială și alte servicii de inteligență artificială. Documentul a fost obținut prin procesul de înregistrare publică ACLU împotriva DEA.

După cum știți, Microsoft Azure are multe dintre aceste servicii (Traducere, Transcriere, Procesare video, Recunoaștere facială etc.) care rulează în Public Azure, persoana a scris pe 15 septembrie 2017. Microsoft are doar câteva dintre aceste servicii care rulează în Cloudul Microsoft Azure Government (MAG) și se uită la ce altceva mai trebuie trecut în MAG.



Ulterior, persoana respectivă a menționat că MAG a fost aprobat pentru lucruri sensibile la aplicarea legii și că dorea să creeze un proiect pilot pentru a testa o varietate de tehnologii de înregistrare video și audio.

Un purtător de cuvânt al DEA a refuzat să comenteze conversațiile sale cu Microsoft sau testele agenției sau implementarea recunoașterii faciale.

Alte e-mailuri arată că reprezentanții DEA au vizitat biroul Microsoft din Reston, Virginia, în noiembrie 2017, pentru a vedea o demonstrație a unei suite de produse, inclusiv servicii de traducere, transcriere de documente, recunoaștere optică a caracterelor în video și recunoaștere facială Azure. Într-un mesaj de urmărire după întâlnire, un angajat Microsoft, al cărui nume a fost redactat, a oferit o scurtă prezentare generală a tuturor demonstrațiilor pe care echipa sa le-a arătat agenției, inclusiv API API: Identificați fețe similare, dezvoltați o bază de date pentru fețe.



Vă rugăm să ne informați când și cum putem face următorul pas pe un prototip, au scris ei. Pe baza e-mailurilor, nu este clar dacă a fost construit vreun prototip.

La opt luni după acele întâlniri, președintele Microsoft, Brad Smith a scris o postare pe blog solicitând o reglementare guvernamentală atentă și dezvoltarea unor norme în jurul utilizărilor acceptabile în jurul recunoașterii faciale.

Dacă există îngrijorări cu privire la modul în care o tehnologie va fi desfășurată mai larg în întreaga societate, singura modalitate de a reglementa această utilizare largă este ca guvernul să facă acest lucru, a scris el, înainte de a recunoaște posibilitatea profilării rasiale și identificării greșite.

În ciuda acestor îngrijorări, reprezentanții Microsoft au continuat să lanseze recunoașterea facială ca parte a ofertei sale Azure Government. În noiembrie 2018, un SME Microsoft Sr., al cărui nume a fost redactat în e-mail, a trimis o altă notă unui reprezentant al DEA solicitând o întâlnire. Azure are un numărul de relații cu agenții federale, inclusiv Departamentul Apărării și Imigrației și Aplicarea Vămilor (ICE).

Deși nu este clar dacă DEA a avansat cu ofertele Microsoft Azure AI, faptul că Microsoft a lansat astfel de servicii în primul rând este îngrijorător, a declarat Kade Crockford de la ACLU Massachusetts pentru BuzzFeed News. In octombrie, ACLU a dat în judecată Departamentul de Justiție, FBI și DEA, după ce aceste agenții nu au respectat o cerere de evidență publică privind utilizarea recunoașterii faciale și a altor tehnologii de urmărire biometrică.

Decizia recentă a Microsoft de a nu oferi recunoaștere facială departamentelor de poliție este un pas pozitiv, a spus Crockford, menționând că este ceea ce au cerut organizațiile pentru drepturile civile de ani de zile după ce studiile au arătat că tehnologia are rate ridicate de identificare greșită în rândul minorităților rasiale .

DEA are o lungă istorie de practici rasiste disparate sau rasiste și a fost angajată în supravegherea de masă extrem de inadecvată, au spus ei.

BuzzFeed News a raportat anterior că persoanele asociate cu DEA au testat Clearview AI, un controversat software de recunoaștere facială care a fost construit folosind miliarde de fotografii răzuite de pe site-urile de socializare, inclusiv Facebook, Instagram și Twitter. Din februarie, mai mult de 20 de utilizatori asociați cu DEA au efectuat aproximativ 2.000 de căutări conform datelor vizualizate de BuzzFeed News.

În urma protestelor la nivel național împotriva nedreptăților rasiale și a brutalității poliției cu care se confruntă oamenii negri, companiile și-au retras ofertele de recunoaștere facială. La începutul acestei luni, Amazon a spus că va pune un moratoriu pe un an asupra vânzării serviciului său de identificare a feței biometrice, Recunoaștere, către poliție, în timp ce A spus IBM ar înceta să dezvolte sau să cerceteze recunoașterea facială.

Cu toate acestea, la întrebarea BuzzFeed News, Amazon, IBM și Microsoft au refuzat să dezvăluie ce departamente de poliție, dacă există, și-au folosit anterior serviciile de recunoaștere facială.

La începutul acestei luni, BuzzFeed News a raportat de asemenea că Departamentul de Justiție a dat permisiunea DEA să aplice orice infracțiune federală comisă ca urmare a protestelor privind moartea lui George Floyd.

Mai multe despre asta

  • Aplicația de recunoaștere facială a lui Clearview a fost utilizată de Departamentul Justiției, ICE, Macy’s, Walmart și NBARyan Mac 27 februarie 2020
  • Amazon, IBM și Microsoft nu vor spune ce departamente de poliție și-au folosit tehnologia de recunoaștere facialăCaroline Haskins 12 iunie 2020
  • Amazon suspendă utilizarea de către poliție a tehnologiei sale de recunoaștere facială timp de un anCaroline Haskins 10 iunie 2020
  • DEA a primit permisiunea de a investiga persoanele care protestează împotriva morții lui George Floyd Jason Leopold 2 iunie 2020