Polska firma zindeksowała prawie miliard zdjęć twarzy – być może twoje też
Postęp technologiczny umożliwia odnalezienie w sieci innego człowieka na podstawie zdjęcia jego twarzy. Z jednej strony ciekawe narzędzie, z drugiej nie każdy chce być w ten sposób znaleziony. A pewna polska firma zarabia na szukających.
Od kilku tygodni stworzony w Polsce serwis PimEyes.com zyskuje na popularności. Powody są co najmniej dwa. Powód pierwszy – umożliwia znalezienie w sieci innych zdjęć tej samej osoby. Powód drugi – poważne wątpliwości co do legalności jego działania.
Historia PimEyes i jego problemów
Zaczęło się prawdopodobnie od tego czerwcowego wpisu w serwisie Medium. Potem był nawet artykuł BBC, a teraz doszło śledztwo magazynu Netzpolitik.org. Szczególnie ustalenia tego ostatniego nie prezentują zbyt ciekawej sytuacji. Ale po kolei.
PimEyes powstał jako projekt studencki. Miał pomagać m.in. w znajdywaniu oszustów, którzy się pod nas podszywają w sieci, używając naszych zdjęć. Łukasz Kolwalczyk i Denis Tatina opowiadają, że chcieli stworzyć narzędzie pomagające ludziom, a potem zauważyli potencjał finansowy w swoim projekcie. Już w wypowiedzi dla serwisu Mam Biznes wskazują, że temat RODO jest istotny – ale zbierają zgody od użytkowników wyszukujących własne zdjęcia. Co jednak z wyszukiwaniem cudzych zdjęć? Ten temat nie został w artykule poruszony. Zajął się nim za to magazyn Netzpolitik.org, który natrafił na liczne ciekawe wątki niestawiające założycieli PimEyes w dobrym świetle.
Można wyszukiwać tylko własne zdjęcia
Wcześniejsze wersje serwisu, jak wynika z artykułów prasowych, umożliwiały wyszukiwanie zdjęć dowolnej osoby. Można nawet było wgrywać zdjęcia z wieloma osobami naraz i wybierać, które osoby mają zostać wyszukane. Co więcej, sam serwis reklamował takie możliwości. Film promocyjny pokazywał wyszukiwanie zdjęć Johnny’ego Deppa. Jedna ze stron serwisu pokazywała przykład wyszukiwania innej słynnej osoby.
Wszystkie te komunikaty zostały usunięte w trakcie śledztwa Netzpolitik. W aktualnie dostępnej wersji serwisu dalej widnieje guzik „Prześlij swoje zdjęcia” (w liczbie mnogiej), jednak obecnie można jedynie wykonać zdjęcie z kamery w komputerze / telefonie.
Chronimy prawo osób fizycznych do prywatności i walczymy z nielegalnym użyciem mechanizmu rozpoznawania twarzy. Z tego powodu jedynym sposobem, aby skorzystać z wyszukiwarki PimEyes jest zrobienie sobie zdjęcia przy użyciu wbudowanego aparatu, a nie wgranie go lub wklejenie linka do zewnętrznej strony internetowej. Dziękujemy za zrozumienie.
A przynajmniej tak mówi komunikat na stronie (którego jeszcze 5 dni temu tam nie było), bo choć witryna używa – według jej twórców – zaawansowanych algorytmów, to bez problemu można ją oszukać, pokazując w kamerze cudze zdjęcie na ekranie smartfona. Dowód? Oto wyszukiwanie zdjęcia jednego z założycieli serwisu.
Dzięki PimEyes znaleźliśmy bez problemu inne zdjęcie tej samej osoby. Pozostałe usunęliśmy, nie mając 100% pewności, czy przedstawiają założyciela serwisu. Zapewne da się ustalić, czy kamera robi zdjęcie człowieka, czy ekranu smartfona. Dlaczego firma tego nie robi – pozostaje otwartym pytaniem.
Zdobycie zdjęcia założyciela firmy nie było trywialne – okazuje się, że skasował swój profil w serwisie LinkedIn, jednak fotografia pozostała (drugi współzałożyciel także zniknął z LI) . Co ciekawe, w opisie usuniętego profilu znajdujemy
Łukasz Kowalczyk – Co-Founder – Faceware AI
Czym jest Faceware AI? Profil firmy z LinkedIna zniknął, ale na stronie firmy widnieje opis „Artificial Intelligence for Law Enforcement & Counter Terrorism”. Według założycieli firma nie ma nic wspólnego z PimEyes i miała służyć pomocą w znajdowaniu zaginionych dzieci (nie wiadomo jednak, jaki związek mają zaginione dzieci z antyterroryzmem).
Innym pomysłem tych samych założycieli był serwis Catfished, który miał umożliwiać weryfikację, czy nasza przyszła randka nie ukradła komuś zdjęć z sieci (lub wyszukanie, kim jest naprawdę). Gdy dziennikarze Netzpolitik zapytali o ten serwis założycieli PimEyes, dowiedzieli się, że Catfished nie był przeznaczony na rynek europejski (to ciekawy argument, bo w polityce prywatności powoływano się na GDPR), a następnie strona zniknęła z sieci.
Argument o „wyszukiwaniu tylko własnej twarzy” trudno obronić również wobec komercyjnego produktu PimEyes, który umożliwia ustawienie alertów na pojawienie się zdjęć 25 różnych osób. Założyciele tłumaczą, że chodzi o możliwość wgrania do 25 różnych zdjęć tej samej osoby, ale produkt działa tak, że dla jednej osoby można wgrać wiele zdjęć – a w pakiecie osób jest 25.
Fałszywe komentarze, brak możliwości usunięcia zdjęcia
Dziennikarze Netzpolitik zwrócili uwagę także na „opinie użytkowników” zamieszczone na stronie.
Sprawdzili (korzystając z tej samej strony), że zdjęcia użytkowników zamieszczających rzekomo swoje opinie są dość popularne w internecie i że występują oni pod wieloma innymi nazwiskami. Założyciele strony poinformowali, że autorzy opinii chcieli zachować anonimowość…
Dużo poważniejszym problemem wydaje się jednak brak realnej możliwości usunięcia swojego zdjęcia z wyników wyszukiwania. Dziennikarze chcieli skorzystać z tej opcji, lecz mimo zgłoszenia przedmiotowe zdjęcie nadal pojawiało się w wynikach.
To nie jest takie proste
Bez wątpienia w biznesie rozpoznawania twarzy leżą ogromne pieniądze. Świadczenie takich usług nie jest jednak trywialne – szczególnie na terenie Unii Europejskiej pod rządami RODO oraz w modelu udostępniania wyszukiwania każdemu chętnemu. Nie bez powodu Facebook wycofał się z automatycznego rozpoznawania twarzy na każdym zdjęciu (można zgłosić chęć bycia rozpoznawanym, ale domyślnie opcja jest nieaktywna).
Najwyraźniej ani założyciele nie pochylili się wystarczająco poważnie nad kwestiami prawnymi, ani regulator jeszcze nie przyjrzał się dokładniej działalności PimEyes – ale wobec szumu, jaki powstaje wobec spółki, przynajmniej to drugie pewnie wkrótce nastąpi.
Podobne wpisy
- Dlaczego już dzisiaj powinniście sami sprawdzić, jak działa ChatGPT i Midjourney
- Podstawy Bezpieczeństwa: Jak zadbać o bezpieczeństwo i prywatność na Discordzie
- Podstawy Bezpieczeństwa: LinkedIn – jak zadbać o prywatność i bezpieczeństwo
- Chiński przekręt, czyli czy rozmawiałem z chińską AI?
- Podstawy Bezpieczeństwa: Jak zadbać o swoją prywatność, używając Androida
Aleosochozi? Jakbym nie chciał publikować zdjęcia dla całego świata, to bym nie opublikował. Przecież to nie są zdjęcia z włamań na prywatne komputery.
Chyba, że gugle czy tineye też są nielegalne.
Problem może być gdzie indziej, a mianowicie co się dzieje ze zdjęciami, które sami teraz ładujemy na stronę żeby szukać innych podobnych? Średnio ufam w to, że ta firma sobie tych zdjęć nie zapisuje albo nie robi z nich jakichś modeli biometrycznych. I zanim powiesz, że „wgrywasz zdjęcia w internet to masz problem” to opowiem jedną krótką historię. Swego czasu popularna była apka rosyjskiego pochodzenia, która robiła jakieś śmieszne rzeczy ze zdjęciem (nie pamiętam już czy chodziło o mashup z innymi fotami czy postarzanie czy jeszcze coś innego ale jedna z tych). Od razu mnie zastanowiło czy aby apka nie ma ukrytego celu w postaci masowego zbierania fotek twarzy, więc postanowiłem nie dzielić się z programistami zza wschodniej granicy swoją facjatą. I co z tego jak pewnego dnia w pracy ktoś rzucił nazwą apki i 3 minuty później dostałem na komunikatorze przerobione apką zdjęcie mojej osoby strzelone mi nie wiem przez kogo i nie wiem kiedy, oczywiście i fota i przeróbka zrobione bez mojej wiedzy i zgody. Zatem moim zdaniem, w tego typu aplikacjach/stronach problemem nie jest to, że ktoś chce swoją twarzą karmić algorytmy biometryczne jakichś zagranicznych służb. Problemem jest to, że każdy może te algorytmy nakarmić fotami w zasadzie całej swojej rodziny, znajomych czy nawet nieznajomych wygrzebane czy to ze źródeł ogólnodostępnych czy z jakichś własnych fotek z ulicy nikogo nie informując czy pytając. Raz Twoja twarz trafi do internetu i już jej nigdy nie usuniesz.
Odnośnie zdjęć wrzucanych – racja.
Ale czy można zdelegalizować wszystkie takie inicjatywy, tylko dlatego, że mogą być użyte do złego? Hmm… Jedną zdelegalizują, to inna wyrośnie, ale już w podziemiu – wprost adresowana do „czynienia zła”.
Trzeba po prostu uczyć od małego, by zostawiać po sobie jak najmniejszy cyfrowy ślad. Tymczasem pokazuje się, że „nie ważne co, ważne by [o nas] gadali [i oglądali]”.
>Trzeba po prostu uczyć od małego, by zostawiać po sobie jak najmniejszy cyfrowy ślad.
Kogo chcesz uczyć? Niunie i ślicznoty, których celem życia jest wstawianie swoich zdjęć z dziubkiem gdzie tylko się da?
Wskutek wszechobecnego nagrywania wszystkich i wszystkiego kamerami które są wszędzie, naszymi zdjęciami – coraz częściej w dobrej jakości i wysokiej rozdzielczości – dysponują tysiące ludzi. Jesteśmy już tylko o mały krok od totalnego cyfrowego więzienia, gdzie przy pomocy automatycznego rozpoznawania twarzy będzie można prześledzić naszą obecność zawsze i wszędzie.
Radykalne ograniczenie monitoringu wizyjnego i ustawowy obowiązek – też dla prywatnych operatorów monitoringu – trwałego kasowania nagrań po 72 godzinach (dokładnie tak jest w Austrii), obłożony surowymi sankcjami karnymi – jedyne realne rozwiązanie problemu.
Kasowanie nagrania w ciągu 72h?
Nie przypominam sobie sytuacji, aby Polska Policja zwróciła się o zabezpieczenie danych z monitoringu w ciągu 72h od zdarzenia.
72h to raptem 3 doby. Mając monitoring domu/mieszkania/biura i wyjeżdzając na długi weekend możesz po powrocie nie zastać nic.
Rzeczy fizyczne wyniesione, a monitoring już nadpisany. :(
Wejdą przez ścianę (tak, skubańce potrafią wyciąć dziurę w ścianie), wyłączą alarm i zabiorą co tylko chcą.
Monitoring który był w okolicy już dawny nadpisze wtedy co się działo i szukaj wiatru w polu.
Moim zdaniem sensowne minimum to 2 tygodnie, a optymalne to 31 dni.
„Jakbym nie chciał publikować zdjęcia dla całego świata, to bym nie opublikował.”
nie każdy jest takim ekspertem jak ty. ludzie nie mają świadomości jakie konsekwencje mogą iść za wrzuceniem zdjęcia do internetu. dlatego tak ważne jest nagłaśnianie sprawy
„Chyba, że gugle czy tineye też są nielegalne.”
legalne != etyczne
Tylko 99% ludzi nie odczytuje żadnego negatywnego efektu z tych publikacji. Mogą wrzucać swoje fotki gdzie chce i im z tego powodu wieś z głowy nie spadnie (lub nigdy nie zobaczą że spadł bo np. System lotniczy przewidział że muszą lecieć do Kanady więc zaproponował im o 25% droższe bilety. I ta większość zajmując głos w tej sprawie mówi „ja nigdy nie miałem problemu z takimi systemami, może dlatego że nie jestem złodziejem?”.
@C
Niby coś w tym jest. Na wielu płaszczyznach broni się ludzi przed ich własną głupotą (dla ogólnospołecznego dobra), więc można by i tu. Ale chyba jednak lepiej edukować, żeby nikt nie mówił, że to jakaś ekspercka wiedza.
Ale tu nie chodzi o to, że wrzucasz swoje zdjęcie, tylko że możesz wrzucać zdjącia innych osób i je wyszukiwać oraz indeksować. Firma nie zabezpiecza przed tym.
„Jakbym nie chciał publikować zdjęcia dla całego świata, to bym nie opublikował.”
Twoja twarz może znaleźć się w Internecie bez Twojej wiedzy i zgody. I nic na to nie poradzisz.
Na Androidzie (OnePlus 7 Pro) otwiera się normalnie lista plików z pamięci do załadowania – może to jakaś dziwna kombinacja systemu/przeglądarki, ale nawet nie prosi o uprawnienia do aparatu.
Mnie też otwiera się menadżer plików na FF.
> nie wiadomo jednak, jaki związek mają zaginione dzieci z antyterroryzmem
Mogą mieć – terroryści mogą np. porywać dzieci.
To jest też najczęstszy pretekst, żeby rozszerzać masową inwigilację i gwałcenie wolności i prywatności ludzi. Argumenty że to niegodziwe są zbijane często zdaniami typu „pomyśl gdyby ktoś porwał Twoje dziecko, policja musi być w stanie je znaleźć”…
Fotografie twarzy są potrzebne do tworzenia cyfrowych awatarów, które będą mówiły i robiły to co jest zawarte w scenariuszu. Na yt był już filmik z fejkowym przemówieniem, chyba Baracka O. Dzięki rozwojowi AI, dowody z nagrania filmowego będzie można odłożyć do lamusa, bo harvestingu zdjęć nie da się zatrzymać.
Technologia o której mówisz nazywa się deepfake. W tym oto filmiku jest to pokazane. Jest tam również fragment z Obamą.
https://www.youtube.com/watch?v=-QvIX3cY4lc
A z naszego krajowego podwórka (passport-photo.online), potrzebowałem szybko przetworzyć zdjęcie do pewnego dokumentu. Znalazłem generator online którego zadaniem jest po wczytaniu zdjęcia dopasowywanie go do konkretnego rozmiaru.
Rzut oka na regulamin :
Postanowienia ogólne
6.
„Warunkiem skorzystania z Usługi i nabycia Produktu jest wyrażenie zgody na przetwarzanie – zweryfikowanego w Serwisie lub Aplikacjach Mobilnych zdjęcia do dokumentów (dana osobowa) – przez spółkę FunFotos sp. z o.o. z siedzibą w Warszawie, ul. Mielczarskiego 8/58, 02-798 Warszawa, w celu użycia zdjęcia do badań prowadzonych wraz z Uniwersytetem Warszawskim Wydziałem Matematyki, Informatyki i Mechaniki nad ulepszeniem technologii pozwalającej na rozpoznawanie określonych cech fotografii oraz automatycznej weryfikacji fotografii i jej korekcji zgodnie z zadanymi kryteriami w ramach Programu Operacyjnego Inteligentny Rozwój “Bony na innowacje dla MŚP“, przez okres realizacji wskazanego zadania (termin ukończenia prac przewidziany jest na 30.04.2021 r.), („Zgoda”). ”
Wobec tego nie skorzystałem z serwisu i sam przygotowałem swoją fotografię.
Linus nawet niecały tydzień temu się „sfejkował”, łącznie z głosem. Możę efekt nie jest oszałamiający, ale to chwila pracy amatorów – profesjonaliści na pewno zrobią to lepiej, trzyliterowe agencje pewnie zrobiły to lepiej kilka lat temu.
https://www.youtube.com/watch?v=G0z50Am4Uw4
Czy ktoś może mi przybliżyć jak to działa ze strony technicznej? Mam taką zagwostkę, bo przecież ucząć sięć konwolucyjną do rozpoznawania np. jabłek, mamy duży zbiór obrazków jabłek, ale jak oni to robią, że przeczesują każde zdjęcie i katalogują np. przypisują do folderu „Król Egiptu” i uczą sięć neuronową do rozpoznawania tych zdjęć? Czyli oni mają mnóstwo sięci konwolucyjnych i iterują po każdej z nich??
Nie da się uploadować zdjęcia, tylko możliwość jest zrobienie sobie zdjęcia poprzez camerę.
Da się to ominąć używając dodatku do obs studio. obs-virtual-cam
;]
Instalujemy OBS Studio, później dodatkowo instalujemy obs-virtual-cam z
https://github.com/Fenrirthviti/obs-virtual-cam/releases/tag/2.0.5.
Ustawiamy scenę, dodajemy obraz do źródła obrazu i tyle. ;]
Chodź spróbowałem kilka zdjęć koleżanek, to wyszukiwanie tak naprawdę jest dość słabe. ;]
„Zapewne da się ustalić, czy kamera robi zdjęcie człowieka, czy ekranu smartfona. Dlaczego firma tego nie robi – pozostaje otwartym pytaniem.”
To jest bardzo trudny problem, nie da się od tak tego sprawdzić. Nie robi tego właśnie dlatego oraz dlatego, że nie musi.
fintechy typu Revolut sprawdzają i chyba z powodzeniem
A czy ktoś patrzy na takie narzędzia z perspektywy ochrony obywateli? Jeśli nic złego nie robię, to nie obawiam się o konsekwencje. Wyszukiwanie osób poprzez algorytmy rozpoznające twarz mogą sprawić, że będzie bezpieczniej w naszym kraju. Problem tkwi w intencji osób korzystających z takiej aplikacji, szpiegostwo sąsiedzkie nie to inna dziedziną, nie zawsze prowadzi do dobrego, a przestępcy mogą bardzo szybko zweryfikować z kim mają do czynienia. Wszystko zależy od intencji i to powinno być weryfikowane.
> Jeśli nic złego nie robię, to nie obawiam się o konsekwencje
Błagam, nie kompromituj się. To co piszesz to bzdura. Totalna, kosmiczna bzdura.
Złe rzeczy mogą robić inni, w tym władza panstwowa. Mogą Cię śledzić, mogą posiąść wiedzę o całym Twoim życiu, żeby Cię na czymś dopaść i to życie zniszczyć.
Władza może się też zmienić. A raz zebrane dane mogą zostać wykorzystane przez kogoś innego. Boleśnie przekonali się o tym Żydzi w Niemczech w latach trzydziestych XX wieku.
Jeśli władza inwigiluje niewinnych obywateli, to trzeba ją zmienić :) wiem z doświadczenia, że takie narzędzia pomogły by złapać wielu nierozliczonych przestępców, pomogły by nakreślić ich profil psychologiczny. Niech służby mają dostęp do takich systemów. Obawiał bym się raczej osób które wykorzystały by takie systemy w celu popełnienia przestępstwa – przestępstw. Inwigilowanie niewinnych, to przestępstwo! Nawet przez 'WŁADZĘ’.
Od ocen intencji już nie daleko do myślozbrodnii.
Nikt nie poruszył tu bardzo poważnego problemu. Algorytm musi paść się wieloma zdjęciami z neta skoro potrafi znaleźć „twoje” zdjęcia w necie, w tym momencie (kiedy się pasie) dochodzi do przetwarzania danych osobowych (można cię zidentyfikować po zdjęciu) i wizerunku (tutaj dochodzi do naruszenia dóbr osobistych). Moje zdjęcia choć nigdy z tego serwisu nie korzystałem i nie zamierzam także musiały zostać przetworzone. I tu pada pytanie na jakiej podstawie prawnej?