Bloomberg a raportat recent că Amazon are un proiect cu unii dintre angajații săi care ascultă unele înregistrări audio realizate de vorbitorii Alexa atunci când utilizatorii interacționează cu aceștia, dar se pare că acei oameni au acces la adresele de domiciliu ale clienților..
Un nou raport Bloomberg din această dimineață citează cinci angajați anonimi din echipa Alexa Data Services a Amazon ca confirmând că pot găsi cu ușurință adresa de domiciliu a unui client, introducând informațiile despre latitudinea și longitudinea lor în software-ul de mapare precum Google Maps.
Deși nu există nicio indicație angajații Amazon cu acces la date au încercat să urmărească utilizatorii individuali, doi membri ai echipei Alexa și-au exprimat îngrijorarea pentru Bloomberg că Amazon acordă acces inutil la informații despre clienți, ceea ce ar face ușor să identifice proprietarul dispozitivului..
Ei bine, asta nu pare să fie promițător.
Unii dintre lucrătorii însărcinați cu analizarea înregistrărilor clienților Alexa utilizează un instrument Amazon care afișează clipuri audio alături de date despre dispozitivul care a capturat înregistrarea. O mare parte din informațiile stocate de software, inclusiv un cod de dispozitiv și un număr de identificare al clientului, nu pot fi conectate cu ușurință la un utilizator.
Așa ar trebui să fie.
Totuși, Amazon colectează și date despre locație, astfel încât Alexa să poată răspunde mai exact cererilor, de exemplu, sugerând un restaurant local sau oferind vremea în Ashland, Oregon, în loc de îndepărtatul Ashland, Michigan.
Nu ar fi nimic în neregulă cu Alexa, care colectează datele locației de la utilizatori pentru a-și îmbunătăți serviciul, dacă nu ar fi fost faptul că unii dintre angajații săi pot vedea în primul rând.
Într-o demonstrație văzută de Bloomberg, un membru al echipei Amazon a lipit coordonatele unui utilizator, stocate în sistem ca latitudine și longitudine, în Google Maps. În mai puțin de un minut, angajatul a sărit dintr-o înregistrare a comenzii Alexa a unei persoane la ceea ce părea a fi o imagine a casei lor și adresa corespunzătoare.
Ei bine, asta este cu siguranță deranjant, dar oricine poate căuta locația unei persoane în Google Maps, atât timp cât au latitudinea și longitudinea lor, nu există nimic special în acest sens. Ceea ce deranjează este faptul că coordonatele utilizatorilor sunt disponibile pentru unii angajați Amazon.
Un alt instrument intern pe care îl folosesc stochează mai multe date personale.
După punerea unui număr de identificare a clientului, acei muncitori, numiți adnotatori și verificatori, pot vedea adresele de domiciliu și locul de muncă și clienții cu numere de telefon introduse în aplicația Alexa când au configurat dispozitivul, a spus angajatul. Dacă un utilizator a ales să partajeze contactele cu Alexa, numele, numerele și adresele de e-mail apar și ele în tabloul de bord.
Da, dar de ce arătați toate informațiile din tabloul de bord?
Aceste date sunt în sistem, astfel încât dacă un client spune „Trimiteți un mesaj către Laura”, recenzorii umani se pot asigura că transcriptorii au scris corect numele, astfel încât software-ul să învețe să împerecheze acea solicitare cu Laura în lista de contacte..
Din raport nu este clar câți angajați și contractanți ar putea avea acces la aceste caracteristici. Doi angajați Amazon au spus că au considerat că marea majoritate a lucrătorilor din grupul Alexa Data Services au putut utiliza acest software în urmă cu aproximativ un an.
Un alt angajat a spus că, „până de curând”, sistemul afișa numere de telefon complete cu unele cifre întunecate. „Până de curând”, ceea ce înseamnă că, după ce Bloomberg a raportat despre asta, nu?
Amazon a limitat accesul la date după raportul Bloomberg din 10 aprilie, au spus doi dintre angajați. Unii asociați de date, care transcriu, adnotează și verifică înregistrările audio, au ajuns la muncă pentru a constata că nu mai aveau acces la instrumentele software pe care le-au folosit anterior în meseria lor, au spus acești oameni.
Începând cu timpul presei, accesul lor nu fusese restabilit.
În mod îngrijorător, raportul inițial a inclus o declarație atribuită unui purtător de cuvânt al Amazonului care neagă faptul că oamenii care ascultă înregistrările Alexa au acces la alte informații.
Angajații nu au acces direct la informații care pot identifica persoana sau contul ca parte a acestui flux de lucru. Toate informațiile sunt tratate cu confidențialitate ridicată și folosim autentificarea cu mai mulți factori pentru a restricționa accesul, criptarea serviciilor și auditul mediului nostru de control pentru a-l proteja.
Cu toate acestea, într-o nouă declarație care răspunde la poveste, Amazon și-a schimbat poziția și apelează acum la acces la instrumente interne „extrem de controlate”:
Accesul la instrumentele interne este extrem de controlat și se acordă numai unui număr limitat de angajați care necesită aceste instrumente pentru a instrui și îmbunătăți serviciul prin procesarea unui eșantion extrem de mic de interacțiuni.
Politicile noastre interzic strict accesul angajaților sau utilizarea datelor clienților din orice alt motiv și avem o politică de toleranță zero pentru abuzul asupra sistemelor noastre. Audităm regulat accesul angajaților la instrumentele interne și limităm accesul ori de câte ori este posibil.
Înainte de a ajunge la concluzii premature, se repetă faptul că acesta nu este un fel de proiect secret - Amazon nu ascunde faptul că plătește oamenilor să asculte conversațiile cu clienții. La fel ca Apple și alte firme tehnologice, Amazon păstrează fragmente anonimizate de înregistrări audio pe serverele sale pentru o perioadă de timp pentru a ajuta la îmbunătățirea recunoașterii vocale și AI.
„Folosim solicitările dvs. către Alexa pentru a instrui sistemele noastre de recunoaștere a vorbirii și de înțelegere a limbajului natural”, spune compania într-o listă de întrebări frecvente.
În lumea tehnologiei este un fapt de viață faptul că sistemele de inteligență artificială care ajută mașinile să înțeleagă sensul din spatele cuvintelor rostite trebuie să fie instruite în mod regulat folosind înregistrări reale, care este singurul mod de încredere de a-și îmbunătăți exactitatea.
După cum a explicat purtătorul de cuvânt al Amazon pentru Bloomberg:
Anotăm doar un eșantion extrem de mic de înregistrări vocale Alexa pentru a îmbunătăți experiența clienților. Aceste informații ne ajută să instruim sistemele noastre de recunoaștere a vorbirii și de înțelegere a limbajului natural, astfel încât Alexa să înțeleagă mai bine solicitările dvs. și să se asigure că serviciul funcționează bine pentru toată lumea.
Apple face exact același lucru - Siri are asistenți umani care ascultă unele dintre clipuri, legate de un identificator aleatoriu și stocate pe servere timp de șase luni.
După aceea, identificatorul aleatoriu este complet eliminat, dar datele sunt păstrate pentru perioade mai lungi pentru a îmbunătăți recunoașterea vocală a lui Siri. Da, Google are, de asemenea, recenzori însărcinați să asculte câteva dintre fragmentele Asistentului pentru a ajuta la instruirea și îmbunătățirea serviciului. Înregistrările Google sunt dezafectate de orice informație de identificare personală și audio în sine este denaturat.
După cum spune Florian Schaub, profesor la Universitatea din Michigan, care a cercetat problemele de confidențialitate legate de boxele inteligente, a spus:
Nu te gândești neapărat la un alt om care ascultă ceea ce-i spui vorbitorului tău inteligent în intimitatea casei tale. Cred că am fost condiționați de presupunerea că aceste mașini fac doar învățare cu mașini magice.
Dar faptul este că există încă o procesare manuală implicată.
Indiferent dacă aceasta este o problemă de confidențialitate sau nu depinde de cât de prudent este Amazon și alte companii în ce tip de informații au adnotat manual și cum prezintă aceste informații cuiva.
Pentru context, iată un extras din povestea originală:
Unii recenzori Alexa au sarcina de a transcrie comenzile utilizatorilor, de a compara înregistrările cu transcrierea automată a lui Alexa, să spunem sau de a anula interacțiunea dintre utilizator și mașină. Ce a întrebat persoana? Alexa a oferit un răspuns eficient?
Alții notează tot ceea ce vorbește vorbitorul, inclusiv conversațiile de fundal - chiar și atunci când vorbesc copiii. Uneori ascultătorii aud utilizatorii care discută detalii private, cum ar fi nume sau detalii bancare; în astfel de cazuri, ar trebui să bifeze o casetă de dialog cu „date critice”. Apoi trec la următorul fișier audio.
Conform site-ului Amazon, niciun audio nu este stocat decât dacă Echo detectează cuvântul treaz sau este activat prin apăsarea unui buton. Dar, uneori, Alexa pare să înceapă înregistrarea fără niciun prompt, iar fișierele audio încep cu un televizor neclintit sau cu un zgomot neinteligibil. Indiferent dacă activarea este greșită sau nu, recenzorii trebuie să o transcrie. Una dintre persoane a spus că auditorii transcriu fiecare câte 100 de înregistrări pe zi când Alexa nu primește nicio comandă de veghe sau este declanșat din accident..
Raportarea inițială a lui Bloomberg a afirmat că „mii de angajați” care lucrează la acest proiect uneori trebuie să examineze și clipuri care pot fi destul de chinuitoare - și chiar unele care sunt potențial infracționale. Într-un caz raportat, doi angajați ai Amazonului au auzit ceea ce cred că este un atac sexual, dar au fost îndrumați de angajatorul lor să nu raporteze incidentul, deoarece „nu a fost meseria Amazonului să intervină”.
În astfel de cazuri extreme, este foarte mult să lucrezi Amazon.
De ce compania nu ar permite angajaților care ascultă înregistrările Alexa să raporteze aceste incidente la forțele de ordine și să salveze vieți? Dacă cineva intră în casa mea și mă ține la punctul de armă, vreau ca oricine ar putea asculta să i se permită să vadă adresa mea de acasă și chiar să avertizeze poliția, dacă este necesar.
Gânduri?
