Raportul din weekendul trecut al ziarului britanic The Guardian a detaliat faptul că Apple angajează contractori care au sarcina de a asculta ceva audio Siri, determinând criticii să ia povestea ca dovadă că angajamentul Apple pentru confidențialitate nu este altceva decât discuții de marketing..
Un extras din raportul Guardianului:
Antreprenorii Apple aud regulat informații medicale confidențiale, oferte de droguri și înregistrări ale cuplurilor care fac sex, ca parte a muncii lor oferind controlul calității sau „gradare”, a spus asistentul vocal Siri al companiei, The Guardian a aflat.
Deși Apple nu o dezvăluie în mod explicit în documentația sa de confidențialitate care se confruntă cu consumatorii, o mică parte din înregistrările Siri sunt transmise contractorilor care lucrează pentru compania din întreaga lume..
Ești pozitiv, sută la sută sigur despre asta? Pentru că tocmai am revizuit ecranele de confidențialitate Apple împrăștiate în sistemele sale de operare și cu siguranță, acestea precizează clar că unele înregistrări Siri pot fi utilizate pentru a îmbunătăți serviciul Siri. În plus, am reușit să găsesc următorul extras prin pieptănarea rapidă, deși acordul de licență pentru software iOS de la Apple:
Folosind Siri sau Dictation, sunteți de acord și consimțiți la transmisia, colectarea, întreținerea, prelucrarea și utilizarea acestor informații, inclusiv introducerea voastră și datele utilizatorului, de către Apple și filialele sale, pentru a furniza și îmbunătăți funcționalitatea Siri, Dictare și dictare. în alte produse și servicii Apple.
Întregul pasaj este îndrăzneț și cred că este destul de lipsit de ambiguitate în ceea ce privește intențiile Apple.
„Revelația” că compania vinde datele vocale colectate de asistentul personal Siri către terți - contractanți însărcinați cu instruirea algoritmului Siri - ca parte a încercării sale de a îmbunătăți serviciul Siri nu este nimic nou dacă ai urmărit tehnologie.
Chiar și The Guardian recunoaște la fel de mult:
Aceștia notează răspunsurile pe o varietate de factori, inclusiv dacă activarea asistentului vocal a fost deliberată sau accidentală, dacă întrebarea a fost ceva de care ar putea fi de așteptat ca Siri să fie de ajutor și dacă răspunsul lui Siri a fost adecvat..
Nu este prima dată când oamenii au „descoperit” că unele fragmente audio Siri sunt transmise unui terț. În 2015, un angajat anonim al unei companii numit Walk N'Talk Technologies a scris pe Reddit că datele vocale analizate de companie provin de la asistenți personali precum Siri și Cortana.
Apple a lansat următoarea declarație către Guardian și alții:
O mică parte din cererile de Siri sunt analizate pentru a îmbunătăți Siri și dictarea. Cererile utilizatorului nu sunt asociate cu ID-ul Apple al utilizatorului. Răspunsurile Siri sunt analizate în facilități sigure și toți recenzorii au obligația de a respecta cerințele stricte de confidențialitate ale Apple.
Povestea poveștii The Guardian provine de la un „whistleblower”, practic un angajator Apple care a raportat audierea unor chestii private în timpul activărilor accidentale.
Iată ce a spus informatorul ziarului:
Au fost nenumărate cazuri de înregistrări cu discuții private între medici și pacienți, oferte de afaceri, relații aparent criminale, întâlniri sexuale și așa mai departe. Aceste înregistrări sunt însoțite de datele utilizatorului care afișează locația, datele de contact și datele aplicației.
Înregistrările audio ale interogărilor utilizatorilor profită de date meta precum locația pentru a înțelege mai bine contextul. Partea îngrijorătoare este faptul că antreprenorii pot auzi în primul rând conversații private. După cum raportul însuși recunoaște, acest lucru este posibil, deoarece un utilizator poate invoca din greșeală Siri fără să-și dea seama, la rândul său, solicitând înregistrarea audio a oricărui lucru rostit după ce sintagma de trezire „Hey Siri” va fi încărcată pe server și, cu siguranță, nu pentru că Siri înregistrează în secret conversațiile fără acordul utilizatorului.
Sentimentele mele în acest sens nu sunt cu siguranță aceleași cu restul Internetului.
Niciun asistent digital nu se poate aștepta să se îmbunătățească în timp, pe baza puterii inteligenței artificiale și a învățării automate. Acest lucru se datorează faptului că modelul de învățare automată folosit de un asistent trebuie să fie instruit mai întâi de editorii umani - nu există doar două moduri în acest sens.
Google Photos ar fi fost în imposibilitatea de a recunoaște fețele cu o precizie neobișnuită dacă compania nu ar fi instruit algoritmul folosind fotografiile oamenilor reali. ID-ul Apple Face nu ar fi fost posibil dacă învățarea sa mașină nu ar fi fost instruită pe mai mult de un milion de fotografii cu diverse fețe umane. Chiar și ceva „obișnuit” ca recunoașterea vorbirii poate fi îmbunătățit drastic prin utilizarea unui algoritm de învățare automată folosind date instruite.
Adevărul este că mașinile nu pot (încă) să antreneze modelele de învățare a mașinilor cu rezultate satisfăcătoare - acesta este jobul la care oamenii excelăm.
Toți cei din industrie care sunt serioși în ceea ce privește inteligența artificială angajează editori umani pentru a-și instrui algoritmii de învățare a mașinilor cu scopul de a îmbunătăți serviciile. Acești angajați sunt expuși la orice conținut se află în centrul eforturilor lor, fie că este vorba de scurte fragmente audio capturate de boxe inteligente în timpul interacțiunilor de voce sau fotografii pe care oamenii le încărcă la un serviciu de partajare de fotografii sau obiecte semnalizate în feedul de social media, veți primi ideea.
Unele companii iau în serios intimitatea mai mult decât alte companii. Este posibil ca unele companii să nu fie la fel de transparente în ceea ce privește modul în care editorii lor umani abordează sarcina la îndemână ca altele. Și, în cele din urmă, unele companii care nu au o evidență la fel de puternică care protejează confidențialitatea utilizatorilor vor fi probabil examinate mai mult de mass-media și de publicul larg decât de celelalte.,.
Dar nu cred nici o secundă că este în interesul oricărei companii să ceară ca angajații lor să asculte de fapt conversațiile noastre cu un asistent digital personal doar pentru că pot sau pentru că ar putea spera să obțină o informație acționabilă de la acei privați conversații și îndepărtați-vă de ea mulți, mulți ani, fără ca cineva să observe de fapt sau să se plângă. Asta nu este posibil în lumea de astăzi în rețea.
Nu mă înțelegeți greșit, apreciez munca grea de cercetare făcută de o parte din jurnaliștii care raportează despre aceste lucruri, deoarece le dau cruciaților de confidențialitate ceva de mestecat. Dar nu cumpăr nicio secundă concluzia lor subțire voalată sau implicită potrivit căreia Big Tech nu este doar să angajeze editori umani pentru a instrui Siri, Alexa și Google Assistant, ci și să ascultă conversațiile noastre pentru unii încă de revendicat, dar cu siguranță scopuri nefaste.
Da, unii membri ai Amazonului care ascultă cererile Alexa au într-adevăr acces la adresele de domiciliu ale utilizatorilor, deoarece unele solicitări vorbite includ locația. Și da, unele înregistrări Google Assistant revizuite de oameni pot include conversații private, deoarece clienții sunt liberi să spună orice dracu doresc asistentului lor digital.
Este ceea ce acești angajați sunt rugați să facă cu acele înregistrări care contează la sfârșitul zilei. Este faptul că un editor uman necinstit poate folosi greșit informațiile despre clienți privați, care ar trebui să ne îngrijoreze, nu faptul că ființele umane ascultă să selecteze înregistrări audio într-o instalație sigură, cu scopul clar de îmbunătățire a serviciului.
Gânduri?
