Google - cz. 2

Selfish Ledger (Samolubna Księga) - wizja inżynierii społecznej by Google.

Selfish Ledger (Samolubna Księga) to film nakręcony przez firmę Google z przeznaczeniem do dystrybucji wyłącznie wewnętrznie w firmie, który przedstawia niepokojącą wizję inżynierii społecznej, projektowanej przez giganta z Doliny Krzemowej. Firma, która zbudowała swoją potęgę w oparciu o gromadzenie i wykorzystywanie wiedzy o swoich użytkownikach ma ambicje do kształtowania gustów, opinii i przekonań przy użyciu tej wiedzy i mechanizmów manipulacji. Film pokazuje wizję przyszłości, w której Google gromadzi dosłownie wszystkie dane użytkowników, co teoretycznie ma pomóc firmie w realizacji celów użytkowników. Google produkuje spersonalizowane urządzenia (np. smart watch)  które pozwalają gromadzić jeszcze większa ilości danych, planując wykorzystanie tej ogromnej bazy danych do wpływania na zachowanie całych populacji, próbując rozwiązać globalne problemy, takie jak ubóstwo i choroby.

Serwis The Verge, który ujawnił materiał, poprosił rzecznika firmy o komentarz: "Rozumiemy, że materiał może być niepokojący – został zaprojektowany w ten sposób, żeby niepokoiź. Jest to eksperyment myślowy przeprowadzony przez zespół projektantów, który wykorzystuje technikę znaną jako ‘projektowanie spekulacyjne’ do badania niepokojących pomysłów i koncepcji w celu wywołania debaty. Nie jest on związany z żadnymi obecnymi ani przyszłymi produktami".

9-minutowy film, zatytułowany The Selfish Ledger, rozpoczyna się od historii epigenetyki Lamarcki'ego, który zajmował się zjawiskiem przekazywania cech nabytych w trakcie życia organizmu. Mimo, że teoria ta została zdyskredytowana w odniesieniu do genetyki, ale, według twórców filmu, stanowi użyteczną metaforę odnoszącą się do danych użytkownika. (Tytuł filmu inspirowany jest książką Richarda Dawkinsa "Samolubny gen" z 1976 r.) Film dowodzi, że sposób, w jaki korzystamy z naszych telefonów, tworzy stale ewoluującą reprezentację tego, kim jesteśmy, którą nazwano mianem "księgi głównej". Zgromadzone profile danych użytkowników mogłyby być wykorzystywane do modyfikowania zachowań innych użytkowników i przekazywane od jednego użytkownika do drugiego: "Zasady projektowania zorientowanego na użytkownika dominowały w świecie informatyki przez wiele dekad, ale co by było, gdybyśmy spojrzeli na sprawy nieco inaczej? Co by się stało, gdyby księdze głównej nadać jakiś cel, a nie tylko traktować ją jako historyczne źródło informacji? Co by było, gdybyśmy skupili się na tworzeniu bogatszej księgi poprzez wprowadzenie większej liczby źródeł informacji? A gdybyśmy pomyśleli o sobie nie jako o właścicielach tych informacji, ale jako o kustoszach, przejściowych nosicielach lub opiekunach?" Tak zwana księga użytkowania urządzeń - dane dotyczące naszych "działań, decyzji, preferencji, ruchu i relacji" - to coś, co może być przekazywane innym użytkownikom, podobnie jak informacje genetyczne są przekazywane z pokolenia na pokolenie.

Opierając się na idei księgi głównej, w środkowej części filmu przedstawiono koncepcyjny system Resolutions by Google, który nakłania użytkowników do skorzystania z bardziej przyjaznej dla środowiska opcji przy zamawianiu Ubera lub nakłanianie ich do kupowania lokalnie uprawianych produktów w Safeway, zgodnie z zasadą postepowania w sposób, który "odzwierciedlałyby wartości Google jako organizacji". Oczywiście koncepcja ta opiera się na założeniu, że Google ma dostęp do ogromnej ilości danych i decyzji użytkowników. W filmie nie ma mowy o obawach związanych z ochroną prywatności czy potencjalnych negatywnych skutkach zewnętrznych. Zapotrzebowanie księgi głównej na coraz więcej danych może być najbardziej niepokojącym aspektem prezentacji.

Wyobraźmy sobie przyszłość, w której „sugestie mogą być przekształcane nie przez użytkownika, ale przez samą księgę", co w czasach eksplozji sztucznej inteligencji przywodzi skojarzenia rodem z serialu Black Mirror. Przykładem podanym w filmie jest decyzja podjęta przez aplikację o zakupie wagi łazienkowej, ponieważ ledger nie wie jeszcze, ile waży jego użytkownik. Film snuje wizje, w której ledger wykracza poza narzędzie do samodoskonalenia system będzie w stanie "uzupełniać luki w swojej wiedzy i udoskonalać model ludzkiego zachowania" - zachowania całego gatunku ludzkiego. "Myśląc o danych użytkowników w kategoriach wielopokoleniowych" - wyjaśnia twórca filmu - "nowi użytkownicy mogą korzystać z zachowań i decyzji poprzedniego pokolenia". Foster wyobraża sobie eksplorację bazy danych ludzkich zachowań w poszukiwaniu wzorców, "sekwencjonowanie" jej jak ludzkiego genomu i tworzenie "coraz dokładniejszych prognoz dotyczących decyzji i przyszłych zachowań". "W miarę wydłużania się cykli zbierania i porównywania danych być może uda się na poziomie gatunku zrozumieć złożone problemy, takie jak depresja, zdrowie i ubóstwo".

Foster kierował działem projektowania w X, "fabryce Moonshot" Google'a, która z natury ma futurystyczne cele, a koncepcja księgi głównej graniczy z science fiction - ale niemal idealnie pasuje do funkcjonalności istniejących produktów Google'a. Aplikacja Zdjęcia Google już teraz zakłada, że wie lepiej, co użytkownik uznaje za najważniejsze momenty swojego życia, proponując całe albumy na podstawie interpretacji sztucznej inteligencji. Mapy Google i Asystent Google podsuwają sugestie na podstawie informacji o zwyczajowej lokalizacji i przyzwyczajeniach użytkownika. We wszystkich tych usługach widać tendencję do większej dociekliwości i asertywności ze strony Google. W Gmailu automatyzowane jest nawet komponowanie wiadomości e-mail.

W czasach, gdy kwestie etyczne związane z nowymi technologiami i sztuczną inteligencją wchodzą do szerszej debaty publicznej, firma Google musi zdawać sobie sprawę z potencjalnych etycznych implikacji i wad swoich produktów. The Selfish Ledger pozycjonuje Google jako rozwiązującego najbardziej nierozwiązywalne problemy świata, napędzaną przez niepokojąco intymny poziom danych osobowych każdego użytkownika i łatwość w kierowaniu zachowaniem całych populacji. Czy to jedynie wewnętrzny eksperyment myślowy firmy Google?

---

"Panie Mariuszu - jak można Pana wesprzeć?" - zadał mi pytanie jeden z moich subskrybentów. Blog na Substacku jest to hobby czasochłonne, ale nie planowałem tej działalności, jako źródła dodatkowego dochodu (do tej pory mam jednego płatnego subskrybenta ochotnika). Ale jeśli ktokolwiek uważa, że warto udzielić mi wsparcie finansowe - to poniższa zrzutka daje taką możliwość. Za każdą wpłatę - serdecznie dziękuję :)

---

Źródła:

https://www.theverge.com/2018/5/17/17344250/google-x-selfish-ledger-video-data-privacy

https://is.gd/44KCDm