Wszystkie kontakty, historię korespondencji, kalendarze, archiwum fotografii i numer telefonu można stracić przez chorobę dziecka, telemedycynę i algorytmy identyfikujące obrazy przedstawiające seksualne wykorzystywanie dzieci.
Dziennikarka Kashmir Hill, specjalizująca się w dziedzinie prywatności, napisała dzisiaj dla dziennika New York Times zatrważającą historię. Opisała w niej los ojca małego dziecka, który stracił (najwyraźniej bezpowrotnie) całe swoje konto Google wraz ze wszystkimi związanymi z nim usługami, a w bonusie został przedmiotem śledztwa amerykańskiej policji. A wszystko przez zdjęcia własnego dziecka.
Mała infekcja, duże problemy
Bohater artykułu o imieniu Mark (a w zasadzie dwóch bohaterów, bo dziennikarka natrafiła też na drugi, praktycznie identyczny przypadek) miał problem – jego dziecko złapało infekcję, jak to się ładnie w reklamach telewizyjnych i radiowych puszczanych przy śniadaniu mówi, okolic stref intymnych. Kto jechał z małym dzieckiem do lekarza, ten wie, ile jest z tym zabawy. Mamy jednak przecież nowoczesny świat, a w nim telemedycynę i z takich usług Mark postanowił skorzystać. Zrobił telefonem zdjęcia obrazujące przedmiot jego niepokoju i wysłał lekarzowi. Lekarz obejrzał, zaordynował antybiotyk, dziecko wyzdrowiało. Ale na tym historia niestety się nie kończy.
Zdjęcia wykonane Androidem zostały zsynchronizowane z chmurą Google. W chmurze Google natrafiły na nie algorytmy, których zadaniem jest nie tylko identyfikowanie znanych obrazów nadużyć seksualnych wobec dzieci (w oparciu o ogromną bazę PhotoDNA), ale także identyfikowanie nowych, nieznanych wcześniej zdjęć z tej kategorii. Algorytmy sklasyfikowały zdjęcia jako podejrzane i przekazały je do weryfikacji operatorowi systemu. Operator zweryfikował i potwierdził, że zdjęcia wymagają przekazania organom ścigania, co też uczynił.
Konto zablokujemy i tak już zostanie
Pierwszym efektem, który zaobserwował Mark, było wylogowanie z usług Google. W ułamku sekundy stracił pocztę, kalendarze, kontakty, a także numer telefonu (był abonentem usługi Google Fi). Pośrednio stracił także dostęp do wszystkich innych usług, w których identyfikowany był za pomocą adresu e-mail lub numeru telefonu. Sytuacja w sumie zrozumiała – Google nie chciało, by ktoś za pomocą jego usług rozsyłał zdjęcia z obrazami nadużyć seksualnych wobec dzieci. Mark odwołał się od zawieszenia usługi, tłumacząc, że wysyłał jedynie zdjęcia lekarzowi – ale usługi nie wróciły.
W tym samym czasie policja wystąpiła do Google o kopię danych Marka (wszystkich danych – lokalizacji, wyszukiwań itd.). Google dane przekazało, policja nie znalazła powodów, by Marka o cokolwiek oskarżać, śledztwo zostało umorzone. Mark ponownie odwołał się do Google, wskazując na umorzenie śledztwa. Google pozostało niewzruszone, konta nie odzyska.
Czy to dobrze, czy to źle
Weryfikacja treści przesyłanych lub przechowywanych przez użytkowników to wbrew pozorom bardzo, ale to bardzo skomplikowany temat. I nawet nie tak bardzo technicznie, jak prawnie, etycznie i proceduralnie. Odpowiedź na pytanie z nagłówka też jest skomplikowana. Czy to dobrze, że wpadają pedofile? Dobrze. Czy to dobrze, że ktoś czyta naszą pocztę i przegląda nasze zdjęcia? Niedobrze. Czy należy konta blokować? To oczywiście zależy. To największe uproszczenie tematu, dalekie od rzeczywistych problemów, przed jakimi stają duże firmy zarządzające milionami kont klientów.
Epilog
Na razie happy endu nie ma, ale Mark nie traci nadziei – może uda mu się odzyskać kopię danych z jego konta. Skąd miałby ją wziąć? Uważni czytelnicy już wiedzą – ma ją policja, która nie wykluczyła, że może udostępni Markowi nośnik z kopią jego cyfrowego życia. Choć pewnie bez tych feralnych zdjęć.
PS. Apple (jeszcze) nie skanuje, ale planuje wdrożyć podobne mechanizmy.
Najciekawsze newsy tygodnia
Od kilku miesięcy nagrywam co tydzień podsumowanie najciekawszych newsów tygodnia – oto najnowszy odcinek. Posłuchajcie, to tylko 13 minut i 37 sekund :)
Komentarze
Ciekawe czy na Google Workspace (G Suite) też skanują? Chyba powinni.
PS Fajnie, że w końcu artykuły wróciły!
Nie mogą skanować Workspace a przynajmniej tak było kiedyś. Było zapisane w umowie.
No tak, bo połowę korpo na świecie by musiało zostać odciętych od świata za przesyłane wewnątrz treści…
standardowo, G. sie stanie dopoki nie narobi sie szumu
Czyli co? Jak apple chciało skanować zdjęcia wysyłane do chmury to wielka afera a google skanuje je od dawna?
A temat samego skanowania jest oczywisty – dzisiaj treści pedofilskie, jutro memy naśmiewające się z władzy (albo po prostu mówiące prawdę).
Dobre pytanie, jak była afera z Apple nie kojarzę argumentów mówiących że Google i tak to robi.
Apple ma działać na urządzeniu, nie będzie trzeba wysyłać do chmury.
Z jednej strony tak, pisali że na urządzeniu jest baza hashy, ale z drugiej pisali też że będzie działać tylko jak masz synchronizację z iCloudem.
Nawet gdyby ograniczono się do wykrywania treści pedofilskich i nie poszerzano do innych treści, to nadal metoda jest zła. Nie można zaglądać w prywatne urządzenia wszystkich, by znaleźć nielicznych.
Poza tym to obrzydliwe, żeby przy – słusznym i pożądanym – ściganiu czynów pedofilskich zaprzestawać stosowania gwarancji procesowych i w ogóle praw ludzkich.
Dlatego zdjecia robi sie aparatem a nie telefonem, a do maili najlepiej wogole uzywac swojej domeny.
@Michal: aparat? A co to takiego? Dziwne urządzenie, które w zasadzie do niczego się nie przydaje jeśli ktoś nie jest profesjonalistą…
Zaś prywatna domena – u kogo będzie zawieszona? Bo przy obecnych cudach ze spamem, ilością false positives i klasyfikowania losowych maili jako spam – jedyna opcja, żeby poczta jakoś znośnie działała to przeniesienie się do kogoś dużego, jak Google czy Outlook.
@Jacek – nie koniecznie, sa aparaty bardzo proste typu canon g7x ktore nie dosc ze robia lepsze zdjecia niz telefony to mozna zrobic kazde zdjecie ;-) Sprowadzanie wszystkiego do „smart phone” to jest slaby pomysl, bardzo slaby wedlug mnie. Ja dzialam na prywatnych domenach od 20lat, fakt jest spam ale gdzie go nie ma? Spam glownie z gmail, juz nie raz sie zastanawialem czy nie wyciac gmaila kompletnie, syf i spam. Outlook nie jest dobry, ma problemy z odbieraniem maili, ktore traktuje jak spam.
> przeniesienie się do kogoś dużego, jak Google czy Outlook.
I to zdanie właśnie tłumaczy, dlaczego dzieje się, jak się dzieje.
@Jacku – proszę nie propaguj takich herezji, a jeśli jesteś o tym przekonany to działaj by tak nie było. Nie poddawaj się :)
Niezależny własny serwer, własna domena, własna poczta ciągle są jeszcze możliwe, może trzeba bardziej się postarać – no cóż, naprawdę warto. Oczywiście służby zawsze dotrą do admina, ale tu nie chodzi o anonimowość dla podejmowania działań niezgodnych z prawem tylko o elementarną niezależność i suwerenność przez to prawo nomen omen deklarowaną.
@HardwareBased
Masz rację, ale uczyniłbym jedno zastrzeżenie:
otóż nawet, gdyby włąsny hosting, własna domena, własna poczta przestały być możliwe, to i tak gmail/outlook i podobne twory były i są wyborem jednoznacznie złym; należy (i należałoby) ich unikać i szukać alternatywnych metod komunikowania się.
Ale ten „ktoś duzy” gwałci naszą godność przez skanowanie korespondencji. To jest tak, jakby pani na poczcie otwierała *wszystkie* listy i robiła kopię *każdego* dokumentu z *każdej* koperty.
Należy korzystać z komunikatorów szyfrowanych end-to-end, a od maila stopniowo odchodzić.
Tam, gdzie jest nadal konieczny, korzystać z programów pocztowych i ściągać pocztę przez SSL, usuwając ją z serwera dostawcy (i wybrać takiego, który nie skanuje – najczęściej taki dostawca wymaga pewnej opłaty). No i stosować GPG wszędzie, gdzie to możliwe, ucząc też znajomych, jak go sobie dodać do Thunderbirda.
Ktoś słyszał o jakimś ciekawym projekcie technicznym takiego „własnego mejla” (lb, zabezpieczenia, antyspam, wszystko ładnie spięte ze sobą) jako pewnego rodzaju podwaliny pod erę post-gmail? Nie ukrywam, skłoniło mnie to trochę do rozważań o tym.
Nie będę nikogo reklamował tego jest zatrzęsienie. Kupujesz sobie VPS najtańszego za ile się da. Tam dopinasz domenę swoją i mas pocztę na swojej domenie. Nie umiesz BOK dostawcy ci to ogarnie oczywiście nie za darmo.
VPS za drogi dogadaj się z kilkoma sąsiadami będzie taniej.
Nie o to mi chodzi. Bardziej mam na myśli samą konfigurację z antyspamem, jakiś bulletproof clustering, hardening by było bezpieczne i opcjonalnie monitoring kluczowych parametrów. A najlepiej w formie skontenerowanej by było niezależne od dostawcy infrastruktury. By można było w czasie propagacji zmian w DNS przenieść to gdzie indziej, przy zachowaniu minimum downtime i zgodnie z best practice BCP. 😃
Skoro nie szanuje swojej prywatnosci i uzywa google ktore skanuje jego poczte to jakas kara musi byc.
Sprawa nie jest prosta i banalna. Sprowadza się do określenia „definicji pornografii” i określenia co nią jest a co nie. Czy np. uśmiechnięta twarz i ubazgrana w mlecznym budyniu – czy to już pornografia czy tez nie ?? Kwestia skojarzeń. Nie mniej mówiąc merytorycznie w przypadku ochrony dzieci przed tego typu niepożadanym zjawiskiem można byłoby wykorzystać możliwości AI. Np. dostarczany przez NASK Internet do szkół w całej Polsce (który de facto i tak jest stale przez nich monitorowany) – można byłoby wykorzystać w tym właśnie celu. Ustalić stosowne algorytmy i poprzez AI zadziałać prewencyjnie. Skorzystać z możliwości jakie daje OSE dostarczanego przez NASK.
„Czy np. uśmiechnięta twarz i ubazgrana w mlecznym budyniu – czy to już pornografia czy tez nie ?? Kwestia skojarzeń.” – kwiestia skojarzen? Proponuje terapie grupowa, skoro usmiechniete dziecko na zdjeciu jest dla ciebie „kwestia skojarzen”. Im szybciej tym lepiej.
Budyń jest tu słowem kluczem.
Serio? Dobrze wiedziec co u psycholi budzi skojarzenia. Od dzis proponuje budyn sprzedwac tylko pelnoletnim. Banda swirow.
To wbrew pozorom nie jest głupie pytanie. Wielu ludzi na istotnych stanowiskach nie ma pojęcia co oznacza pornografia dziecięca i tak jak w tym przykładzie zdjęcia dziecka z kąpieli zostały zaklasyfikowane jako pornografia przez zdumiewająco duży czas. Sprawa trafiła do sądu, który na szczęście uznał to za głupotę, ale gdyby trafiło na inny skład? Mamy takie czasy, że jak dziecko się wywali to lepiej iść dalej niż pomóc, żeby nie narazić się na posądzenie o nie wiadomo co.
Rozważania o definicji pornografii prowadzić warto, ale nie mają one znaczenia w kontekście tego, że Google gwałci tajemnicę korespondencji. Przeglądanie cudzej poczty jest obrzydliwe, nawet jeśli może ona zawierać materiały złe, nielegalne, niemoralne czy niebezpieczne.
Poziom umyslowy normow jest od pokolen niezmienny. Konto Google dla dziecka? Synchronizacja prywtnych zdjec z chumra?? Teleporada w przypadku *choroby* dziecka??? Jak to w zyicu bywa: jedni sa od myslenia, inni od wykonywani polecen.
Czyli zapewne jedyną możliwością odblokowania będzie pozwanie Google – i udowodnienie (zapewnie proste, jeśli policja dostarczy dokumentację ze swojego śledztwa oraz uzasadnienie końcowe), że nie miało to żadnego związku z przestępstwem natury seksualnej, mieściło się w kategorii obowiązku opieki (także zdrowotnej) nad własnym dzieckiem oraz (szczególnie, jeśli było to w trakcie stanu pandemii) było „rozsądnym wykorzystaniem aktualnie dostępnych środków świadczenia usług medycznych w formie telemedycyny”?
No cóż, mam nadzieję, że jakiś dobry prawnik to ogarnie i poszkodowany uzyska jakąś ładną sumkę jako zadośćuczynienie za wszelkie problemy… :-/
Prawnik nic tu nie pomoże. W przypadku darmowych kont Google nie ma obowiązku świadczenia komukolwiek usługi (i nawet jest zapis w regulaminie o możliwości zaprzestania świadczenia usługi „bez podania przyczyn”). Jeśli ktoś całe swoje życie uzależnił od darmowego konta (i w dodatku nie ma kopii swoich danych u siebie), to… no cóż, nie będę używał „epitetów”
Tak to jest z darmowymi usługami. Jak człowiek chce być poważnie traktowany to musi płacić.
Dziwne tylko że jak ostatnio rozmawiałem z żoną o popsutym termomiksie zaczęły nam się wyświetlać reklamy z nowymi termomiksami.. oni mają coś założone w naszych głowach czy po prostu bez sutannie bez naszej wiedzy nas podsłuchują
Sprawdzone organeptycze kilka razy to drugie. Non stop mikrofon słucha w telefonie.
Jesli komus zalezy na prywatnosci polecam Murena OS. Android wykastrowany z googla do 0. Stoi za tym facet ktory robil Mandrake.
Wracając do sedna to samo skanowanie jawnej zawartości do niczego nie prowadzi poza pozyskiwaniem przez Google materiału do karmienia silnika Ai. Uzasadnianie tego ochroną przed propagowaniem zabronionych treści to chyba jedynie „marketingowa papka” Dziś dostępne jest szyfrowanie i w tym problem, że nie jest stosowane bo przy kontakcie one2one nie bardzo jest się na czym oprzeć w określaniu cyfrowej tożsamości. Gdyby zarówno lekarz jak i rodzic dysponowali parą kluczy
(gdzie prywatny jest przechowywany w karcie eID) to szyfrowałbyś do konkretnej osoby i tylko wydawca eID (rząd, administracja) /zapewne nie pozbawiliby się takiej opcji/ mógłby poza nadawcą i odbiorcą szyfrowanie odwrócić. Technologia jest dostępna, to brak powszechnej implementacji stanowi barierę. Bez powszechnie dostępnego i w miarę gwarantowanego (root of trust) szyfrowanie musisz realizować 'dogadując się’ indywidualnie, w ramach usługi, w ramach systemu, itp. Praktyka lekarska nie miała platformy, lekarz nie miał klucza PKI, no to wyszedł problem. Musimy dysponować w miarę suwerennym i powszechnym systemem szyfrowania treści, bo operatorzy (kabla/sieci/chmury) tak łatwo nie zrezygnują z przeglądania indeksowania itp. itd. Już się szum zaczął o „Post Quantum Cryptography” a my tu elementarnych rzeczy nie ogarniamy.
https://csrc.nist.gov/Projects/post-quantum-cryptography
@HardwareBased
Szyfrowanie one-to-one nie pomoże jeśli równolegle zdjęcia na telefonie są synchronizowane ze zdjęciami Google. Niesynchronizować można, ale trzeba to wprost ustawić, czego ludzie nie robią bo wtedy trudniej im zrobić backup i udostępniać. Android i tak jeszcze w miarę, ale na apple dużo trudniej (choć nie niemożliwe) jest zgrać zdjęcia. Dlatego ludzie nie wyłączają synchronizacji.
> Gdyby zarówno lekarz jak i rodzic dysponowali parą kluczy
> (gdzie prywatny jest przechowywany w karcie eID) to
> szyfrowałbyś do konkretnej osoby i tylko wydawca eID
> (rząd, administracja) /zapewne nie pozbawiliby się takiej
> opcji/ mógłby poza nadawcą i odbiorcą szyfrowanie odwrócić.
> Technologia jest dostępna, to brak powszechnej implementacji
> stanowi barierę.
Implementacja już jest (e-dowody z certyfikatami szyfrującymi), ale głównym – i bardzo, bardzo poważnym – problemem jest to, o czym już napmknąłeś: rząd i jego służby dysponujące kluczami.
Osobnym skandalem jest obowiązkowość posiadania dowodu i obowiązkowość poddania się skanowaniu odcisków linii papilarnych, ale to inny temat, chociaż ważny.
Wracając do tematu: rząd NIE POWINIEN mieć kluczy do komunikacji między pacjentem a lekarzem, na Boga! Czy już nic nie znaczy przysięga Hipokratesa, czy już nic nie znaczy etyka, nic już nie znaczą jakieś podstawowe zasady cywilizacyjne?
Czy ludzie już w masie swojej zupełnie pozapominali, że cudzych listów się z zasady nie otwiera (nawet „na wszelki wypadek”, nawet „bo terrości”, nawet „bo pedofile” itd.)???
> uż się szum zaczął o „Post Quantum Cryptography” a my tu
> elementarnych rzeczy nie ogarniamy.
Słusznie prawisz.
A może pora zacząć stosować szyfrowane end-to-end komunikatory lub porozmawiać z lekarzem, podać mu hasło przez telefon i wysłać mailem zaszyfrowany plik a gdy zostanie zablokowany – wysłać zaszyfrowany plik przez komunikator?
Choć i tak uważam, że cyfryzacja to rak, który odbierze nam do reszty wolność i prywatność. Zamiast tego powinni ludzie zacząć się spotykać w rzeczywistości – w świecie a nie matrixie, jak było kiedyś. Nie ma czegoś takiego jak telemedycyna – tak mówiono 10 lat temu że przez monitor nie da się zdiagnozować. Co teraz mówią?
Dziecko powinno też być osłuchane przez stetoskop, aby lekarz wiedział czy tamte zmiany to były pochodne innego stanu czy niezwiązane z niczym więcej.