21 lekcji na XXI wiek. Yuval Noah Harari
Читать онлайн книгу.
we wszechświecie metodą podejmowania decyzji typu: co studiować, z kim wziąć ślub i na którą partię głosować. Nie powstał do tej pory żaden zewnętrzny system, który mógłby choćby mieć nadzieję, że będzie lepiej ode mnie rozumiał moje uczucia. Nawet jeśli hiszpańska inkwizycja albo sowieckie KGB obserwowały mnie bez przerwy dzień po dniu, brakowało im wiedzy na temat biologii oraz nie miały mocy obliczeniowej koniecznej do zhakowania biochemicznych procesów kształtujących moje pragnienia i wybory. Ze względów praktycznych rozsądnie było zatem przyjmować, że mam wolną wolę, ponieważ moją wolę kształtowała głównie wzajemna zależność wewnętrznych sił, których nikt z zewnątrz nie widział. Mogłem się cieszyć złudzeniem, że mam kontrolę nad swoimi decyzjami, podczas gdy osoby z zewnątrz nigdy tak naprawdę nie były w stanie zrozumieć, co dzieje się w moim wnętrzu ani w jaki sposób podejmuję te decyzje.
A zatem liberalizm słusznie zalecał ludziom, by szli za głosem serca, a nie za nakazami jakiegoś księdza czy aparatczyka. Jednak wkrótce komputerowe algorytmy będą mogły udzielać nam lepszych rad niż ludzkie uczucia. Gdy zamiast hiszpańskiej inkwizycji i KGB będziemy mieli Google’a i Baidu, „wolna wola” zostanie prawdopodobnie zdemaskowana jako mit, a liberalizm może stracić swoje praktyczne atuty.
Znajdujemy się obecnie – jak już wspominałem – w punkcie styku dwóch ogromnych rewolucji. Z jednej strony biologowie rozszyfrowują tajemnice ciała człowieka, a w szczególności mózgu i ludzkich uczuć. Z drugiej – informatycy dają nam niespotykaną moc przetwarzania danych. Gdy rewolucja biotechnologiczna połączy się z rewolucją technologiczno-informacyjną, wówczas stworzy algorytmy oparte na big data, które będą mogły obserwować i rozumieć moje uczucia dużo lepiej niż ja sam, a wtedy władza prawdopodobnie przejdzie z ludzi na komputery. Moje złudzenie wolnej woli przypuszczalnie się rozpadnie, ponieważ codziennie będę się stykał z instytucjami, korporacjami i agencjami rządowymi, które będą rozumiały to, co dotychczas stanowiło moją niedostępną dla innych, wewnętrzną sferę – i będą na nią oddziaływały.
Coś takiego dzieje się już w dziedzinie medycyny. Najważniejsze medyczne decyzje w naszym życiu opierają się nie na naszych odczuciach co do tego, czy jesteśmy chorzy, czy zdrowi, ani nawet nie na przewidywaniach dobrze znającego nas lekarza – lecz na obliczeniach komputerów, które rozumieją nasze ciała znacznie lepiej niż my sami. W ciągu paru dziesięcioleci algorytmy oparte na big data, bazujące na stałym napływie danych biometrycznych, będą mogły monitorować nasze zdrowie dwadzieścia cztery godziny na dobę, siedem dni w tygodniu. Będą mogły wykryć już sam początek grypy, raka albo choroby Alzheimera, na długo przed tym, nim sami poczujemy, że coś jest z nami nie tak, a następnie zalecić nam odpowiednie leczenie, dietę i codzienny plan terapii – wszystko zaprojektowane specjalnie dla nas, z uwzględnieniem wyjątkowej budowy naszego ciała, naszego DNA i naszej osobowości.
Ludzie będą korzystać z najlepszej opieki medycznej w dziejach, jednak właśnie z tego powodu prawdopodobnie przez cały czas coś im będzie dolegać. Zawsze znajdzie się jakiś element organizmu, który działa wadliwie. Zawsze jest coś, co można poprawić. W przeszłości człowiek czuł się całkiem zdrowy, o ile nie doskwierał mu ból albo nie cierpiał z powodu jakiegoś wyraźnego upośledzenia, na przykład gdy był kulawy. W 2050 roku jednak – dzięki czujnikom biometrycznym i algorytmom opartym na big data – choroby będzie można diagnozować i leczyć na długo przed tym, nim doprowadzą do bólu lub kalectwa. W efekcie zawsze będziemy cierpieć z powodu jakiegoś „schorzenia” i ciągle stosować się do tych albo innych algorytmicznych zaleceń. Jeśli ktoś chciałby się od nich wykręcić, może to spowodować nieważność jego ubezpieczenia albo utratę pracy – dlaczego ktoś inny miałby płacić za czyjś upór?
Osoba uzależniona od nikotyny może się nie przejmować ogólnymi statystykami wiążącymi palenie z rakiem płuc i po prostu palić dalej. Sytuacja będzie jednak wyglądała zupełnie inaczej, gdy ktoś nie rzuci palenia mimo skierowanego do niego precyzyjnego ostrzeżenia wysłanego przez biometryczny sensor, który wykryje siedemnaście komórek rakowych w górnym płacie jego lewego płuca. Co się stanie, jeśli taki palacz spróbuje zignorować dane płynące z czujnika, ale ten czujnik prześle ostrzeżenie dalej, do jego ubezpieczyciela, szefa, matki?
Komu starczy czasu i energii, by zajmować się tymi wszystkimi chorobami? Najprawdopodobniej będziemy po prostu mogli polecić swojemu algorytmowi zdrowotnemu, by sam rozwiązał większość z tych problemów od razu w chwili ich wykrycia. Pewnie będzie wysyłał nam co jakiś czas do smartfona aktualizacje dotyczące naszych danych, z których dowiemy się, że „wykryto i zniszczono siedemnaście komórek rakowych”. Być może te powiadomienia będą sumiennie czytać hipochondrycy, większość z nas jednak nawet nie rzuci na nie okiem, tak jak nie poświęcamy uwagi choćby denerwującym komunikatom programów antywirusowych w komputerach.
To, co zostało już zapoczątkowane w medycynie, przypuszczalnie będzie się również dokonywało w coraz większej liczbie innych dziedzin. Kluczowym w tym względzie wynalazkiem jest sensor biometryczny – czujnik, który człowiek może nosić na ciele lub mieć go wszczepionego gdzieś wewnątrz organizmu. Jego zadaniem jest przekształcanie procesów biologicznych w informacje w postaci elektronicznej, które mogą być magazynowane i analizowane przez komputery. Dysponując wystarczającą ilością danych biometrycznych oraz dostateczną mocą obliczeniową, zewnętrzne systemy przetwarzania danych mogą zhakować wszystkie twoje pragnienia, decyzje i opinie. Mogą cię poznać na wylot.
Większość ludzi nie zna siebie zbyt dobrze. Ja na przykład zdałem sobie sprawę, że jestem gejem, dopiero gdy miałem dwadzieścia jeden lat, po kilku latach wypierania się tego. I nie jest to nic wyjątkowego. Większość gejów przez cały okres nastoletni nie jest pewna własnej seksualności. Wyobraźmy sobie teraz sytuację w 2050 roku, kiedy będzie istniał algorytm, dzięki któremu każdy nastolatek dowie się dokładnie, w jakim miejscu spektrum homo/hetero się znajduje (a nawet na ile jego miejsce na tej skali jest elastyczne). Być może działanie takiego algorytmu będzie polegało na tym, że podczas oglądania zdjęć albo filmów z atrakcyjnymi mężczyznami i kobietami czujniki będą śledzić ruchy gałek ocznych, ciśnienie krwi i aktywność mózgu badanego – i po pięciu minutach pojawi się wynik w skali Kinseya49. Coś takiego mogło mi oszczędzić wielu lat frustracji. Być może nigdy nie przyszłoby ci do głowy, by zrobić sobie taki test, ale mogłoby się zdarzyć i tak, że na przykład nudzilibyście się z grupą przyjaciół na urodzinach koleżanki i ktoś zaproponowałby, aby wszyscy po kolei sprawdzili na sobie ten świetny nowy algorytm, oczywiście podglądając swoje wyniki i je komentując. Jak byś zareagował?
Nawet gdybyś po prostu wyszedł i schował się przed samym sobą oraz przed kolegami z klasy, i tak nie byłbyś w stanie ukryć się przed Amazonem, Alibabą ani tajną policją. W trakcie surfowania po sieci, oglądania YouTube’a albo aktywności w mediach społecznościowych algorytmy przez cały czas będą cię dyskretnie monitorowały, analizowały i mówiły Coca-Coli, że jeśli chce sprzedać ci jakiś napój gazowany, to powinna wykorzystać do tego raczej reklamę z chłopakiem bez koszulki niż z dziewczyną bez koszulki. Nawet ty sam nie będziesz o tym wiedział. Ale oni – owszem, a takie informacje będą warte miliardy.
No ale przecież może to wszystko będzie całkiem jawne, a ludzie chętnie będą się dzielili informacjami, aby dostawać lepsze rekomendacje – a ostatecznie aby otrzymać algorytm, który podejmie za nich różne decyzje. Zaczyna się od prostych spraw, takich jak wybór filmu. Gdy w gronie przyjaciół siadacie przed telewizorem, by spędzić miły wieczór przed ekranem, najpierw musicie zdecydować, co będziecie oglądać. Pięćdziesiąt lat temu nie było wyboru, ale dzisiaj – wraz z pojawieniem się serwisów oferujących oglądanie na życzenie – mamy dostęp do tysięcy tytułów.
W 2017 roku zespół ze Stanfordu opracował algorytm, który podobno potrafi ustalić preferencję seksualną mężczyzny z trafnością do 91 procent, opierając się wyłącznie na analizie kilku zdjęć twarzy (https://osf.io/zn79k/). Ponieważ jednak opracowano go na bazie zdjęć, które ludzie sami wybierali i przesyłali na strony randkowe, w rzeczywistości może być tak, że algorytm rozpoznaje różnice w zakresie ideałów kulturowych. Rzecz nie musi polegać na tym, że rysy twarzy homoseksualistów różnią się od rysów heteroseksualistów. Chodzi raczej o to, że geje wrzucający swoje zdjęcia na gejowską stronę randkową próbują się dopasować do innych ideałów kulturowych niż heteroseksualni mężczyźni wysyłający swe zdjęcia na portale randkowe dla osób heteroseksualnych.