Pracownicy Google i Apple tymczasowo przestaną słuchać jak ludzie kupują narkotyki lub uprawiają seks

Już wiadomo, że zarówno Amazon, Google jak i Apple zatrudniały ludzi do odsłuchiwania nagrań z asystentów głosowych, a same nagrania były bardziej wścibskie niż sądzono. Google tymczasowo wstrzyma tę praktykę na terenie UE, a Apple zapowiada czasowe wstrzymanie kontroli nagrań przez ludzi oraz wdrożenie nowych opcji.

Użytkownicy wszelkich urządzeń sterowanych głosowo i wykorzystujących chmurę powinni wiedzieć, że nagrania z tych urządzeń najczęściej są zachowywane na jakichś serwerach. Te nagrania są również przesłuchiwane przez ludzi w celu sprawdzenia jakości rozpoznawania mowy (lub udzielenia maszynie pomocy w dokonaniu rozpoznania). Niby jest to oczywiste, ale mimo to do asystentów głosowych nie dołącza się ostrzeżeń w rodzaju: “Pamiętaj, wszystko co nagra się na tym urządzeniu może być odsłuchane przez inną osobę”.

Producenci skupiają się raczej na zapewnianiu, że wszystko jest bezpieczne i prywatne. Niestety te zapewnienia już nie wystarczą.

Podsłuchują (współ)pracownicy Amazona…

11 kwietnia tego roku Bloomberg poinformował, że pracownicy Amazona odsłuchują klipy nagrane przez asystent głosowy Alexa. Informacje na ten temat przekazało dziennikarzom 7 osób zbliżonych do sprawy. Okazało się, że ekipy odsłuchujące nagrania mogą być bardzo liczne, złożone zarówno z etatowych pracowników Amazona jak i osób na innych umowach. Takie osoby pracują 9 godzin dziennie słuchając do 1000 próbek w czasie 9-godzinnej zmiany. Nierzadko trafiały się im nagrania sytuacji prywatnych albo… nagrania przestępstw.

… Google też…

Kolejne rozczarowanie przyszło 10 lipca. Belgijska telewizja VRT NWS poinformowała, że pracownicy Google systematycznie przesłuchują nagrania z asystentów głosowych. W ustaleniu tego faktu pomogły 3 osoby zbliżone do sprawy. Dziennikarze VTR NWS odłuchali tysiąc próbek i przekonali się, że po pierwsze nagrania są na tyle dokładne, że można na ich podstawie ustalić tożsamość osób nagranych. Po drugie, że nagrywane były odgłosy seksu, sprawy służbowe i przypadki przemocy domowej. Po trzecie, że nagrania wcale nie powstają tylko wówczas, gdy ktoś powie “OK Google”.

11 lipca firma Google odniosła się do sprawy na swoim blogu. David Monsees przyznał, że owszem, czasem firma nagrywa to czego nie powinna, ale…

We have a number of protections in place to prevent false accepts from occurring in your home.  Building products for everyone is a core part of our DNA at Google. We hold ourselves to high standards of privacy and security in product development, and hold our partners to these same standards.

Czyli “owszem, złapaliście nas na podsłuchiwaniu, ale i tak się o was troszczymy i to jest najważniejsze”.

… i Apple też

Niektórzy z was już pewnie pomyśleli, że Amazon i Google to takie wścibskie firmy, ale Apple zapewne ma więcej klasy? Niestety nie.

26 lipca The Guardian poinformował, że osoby pracujące dla Apple regularnie słuchają poufnych informacji zdrowotnych, rozmów biznesowych (także w sprawie zakupu narkotyków :)) no i oczywiście par uprawiających seks. Najwyraźniej nie chodzi tylko o pary, w których jedna z osób nazywa się Siri :).

Informacje na temat praktyk Apple przekazał gazecie whistleblower zbliżony do sprawy. W materiale Guardiana jest jeden szczególnie ciekawy fragment dotyczące Apple Watcha.

The regularity of accidental triggers on the watch is incredibly high. The watch can record some snippets that will be 30 seconds – not that long but you can gather a good idea of what’s going on

Co ciekawe, osoby pracujące dla Apple mogą zgłaszać omyłkowe uruchomienia nasłuchu, ale tylko w kategoriach błędu technicznego. Nie istnieją żadne szczególne procedury dotyczące prywatności. Sygnalista rozmawiający z Guardianem przyznał też, że na podstawie nagrań można zidentyfikować konkretne osoby.

Powtórzmy jeszcze raz. Rozumiemy, że udział ludzi może być konieczny dla rozwoju tej technologii. Problem polega na tym, że Amazon, Apple i Google nie komunikowały klientom jak dalece inwazyjny dla prywatności jest ten proces. Dla przykładu Apple w swojej polityce prywatności napisała, że dane z nagrań mogą być użyte do ulepszenia usługi, ale to bardzo dyplomatyczny sposób by napisać “ktoś może słuchać wszystkiego co się nagra, a nagra się więcej niż sądzisz”.

Google i Apple ograniczą wścibstwo

Uruchomienie postępowania w sprawie asystentów głosowych (konkretnie przeciwko Google) już zapowiedział HmbBfDI, czyli  urząd ochrony danych z Hamburga. W przeszłości ten urząd często reagował na internetowe zagrożenia dla prywatności m.in. doprowadzając do skasowania biometrycznej bazy Facebooka stworzonej bez zgód użytkowników (co z jakiegoś powodu nie wzbudziło takiej paniki jak ostatnio FaceApp

HmbBfDI wczoraj poinformował, że jego postępowanie będzie zorientowane na Google. W związku z nim firma zadeklarowała zaprzestanie wykonywania transkrypcji nagrań głosowych na czas przynajmniej 3 miesięcy od 1 sierpnia. To ograniczenie będzie dotyczyło Unii Europejskiej. Hamburski urząd przy okazji wezwał Apple i Amazona do przyjrzenia się swoim praktykom. Tu również należy podkreślić, że celem urzędu nie jest zakazanie tej technologii, ale doprowadzenie do tego, aby była ona świadczona na podstawie przejrzystych informacji.

Z kolei firma Apple w komentarzu udzielonym serwisowi The Verge zadeklarowała, iż wstrzyma program ulepszania jakości Siri polegający na ocenianiu nagrań przez ludzi. Firma ma też zaktualizować oprogramowanie w taki sposób, aby dać użytkownikom możliwość wyboru co do uczestnictwa w programie ulepszania. Niestety nie wiadomo, czy firma zdecyduje się zachować na serwerach dotychczas zebrane nagrania.

Co to znaczy “ekstremalnie rzadkie zdarzenie”?

W ramach podsumowania chcemy wam przypomnieć news z 2018 roku, kiedy to Amazon Echo nagrał prywatną rozmowę i przesłał ją do innej osoby. To był kubeł zimnej wody dla wszystkich, którzy wierzyli w zapewnienia o prywatności w kontekście Aleksy, Siri i Google. Przedstawiciele Amazona określili tamtą sytuację jako zdarzenie “ekstremalnie rzadkie”. Nie wyjaśnili jednak, a było to istotne, że “ekstremalnie rzadkie” było wysłanie prywatnej rozmowy do innej osoby. Samo nagranie takiej rozmowy najwyraźniej nie było czymś mało prawdopodobnym.

Dobrze będzie tu przypomnieć sytuację z roku 2016, kiedy to policja z Bentonville (stan Arkansas) aresztowała 31-letniego Jamesa Andrew Batesa podejrzanego o zabójstwo z premedytacją. Bates posiadał w domu głośnik Amazon Echo. Policja wystąpiła do Amazona z prośbą o kopie nagrań. Amazon odmówił wydania danych na rzecz śledztwa ponieważ… uwaga … firmie bardzo leżała na sercu prywatność Batesa 🙂.

Tak naprawdę wszyscy wiemy, że Amazon miał tę prywatność gdzieś. Akcja z policją pozwoliła firmie ustawić się w pozycji wielkiego obrońcy prywatności i tyle. Wszystko działo się krótko po zamieszaniu wokół podobnej sprawy dotyczącej zamachowca z San Bernardino.

Czy wiecie jak skończyła się sprawa Batesa? Ostatecznie Bates, przedstawiony w mediach jako niemal stuprocentowo pewny sprawca morderca, sam zgodził się na udostępnienie nagrań ze swojego głośnika. Nic specjalnego się tam nie znalazło, a później zaś sędzia oddalił zarzut morderstwa nie znajdując podstaw do prowadzenia sprawy. Bates powtórzył, że czuł się niewinny od początku i nie miał zamiaru niczego kryć.

Zanim taki finał nastąpił, niektórzy komentatorzy podśmiewali się z policji. Twierdzili, że e-prywatność jest święta, że policja nadużywa władzy, a nagranie dowodów morderstwa nie jest możliwe skoro Amazon Echo reaguje tylko na słowo “Alexa”. Teraz wszyscy musimy spojrzeć na tę sprawę inaczej i nawet musimy przyznać, że policja miała podstawy by pytać o te nagrania.


0 Komentarzy

Dodaj komentarz