Pioneer: Profesorze Harari, najwyraźniej miał pan koszmary podczas pisania swojej książki. Napisał pan w niej: „To, o czym mówimy, to prawdopodobnie koniec historii ludzkości — nie koniec historii, ale koniec zdominowanej przez człowieka części historii”. Dlaczego tak pan uważa? Harari: Tworzymy nowy rodzaj wysoce inteligentnego agenta. Nie tylko jednego, ale miliony, a nawet miliardy. Kiedy ubiegasz się o pożyczkę w banku lub miejsce na uniwersytecie, sztuczna inteligencja (SI) decyduje, czy je dostaniesz. Również w wojsku SI decyduje o tym, co należy zbombardować. Ci wysoce inteligentni agenci nie tylko podejmują decyzje, ale także potrafią wymyślać i tworzyć.
Pioneer: Tworzenie brzmi jak stwarzanie. Harari : Ten statek, ten mikrofon, nasz język, instrumenty finansowe, a także ideologie polityczne — wszystko to powstało w ludzkiej wyobraźni na przestrzeni tysięcy lat. Teraz, po raz pierwszy, istnieje coś, co nie jest ludzkie, a nawet organiczne, co może tworzyć takie rzeczy.
Pioneer: I to powinno nas przerażać? Harari : Zanim zaczniemy oceniać, czy jest to dobre, czy złe, czy nas zniszczy, czy uratuje, musimy zatrzymać się i pomyśleć o tym, co tak naprawdę oznacza to, że w przyszłości będziemy żyć w kulturze hybrydowej.
Pioneer: Czy to dlatego mówi pan o „obcej inteligencji”? Harari: Mówię o obcej kulturze, w której wszystkie artefakty kulturowe — od obiektów fizycznych po idee — pochodzą od nieorganicznej inteligencji.
Pioneer: Kultura, którą stworzyliśmy. Harari : Którą właśnie tworzymy i której nie możemy kontrolować ani przewidzieć. Samą definicją sztucznej inteligencji jest to, że może się uczyć i zmieniać na własną rękę. Jeśli robi tylko to, co jej każemy, to nie jest sztuczną inteligencją, tylko automatem. Staje się sztuczną inteligencją tylko wtedy, gdy sama zaczyna się uczyć, zmieniać i wymyślać rzeczy.
Pioneer: „Przełomowa” sztuczna inteligencja Microsoftu nie zostanie udostępniona. Harari : Jest „zbyt ludzka”
Pioneer: Nie wierzy pan w obietnicę gigantów technologicznych, że możemy zatrzymać tę sztuczną inteligencję w dowolnym momencie? Harari : Nie, nie możemy po prostu nacisnąć przełącznika i jej zatrzymać. Funkcjonujące SI istnieją dopiero od dziesięciu lat, a sam pomysł narodził się cztery dekady wcześniej. Ich rozwój będzie trwał wieki, a nawet miliony lat. Dzisiejsze SI są stosunkowo prymitywne — a już zmieniły świat.
Pioneer: Czy może pan podać jakiś przykład? Harari : Na przykład media społecznościowe są kontrolowane przez prymitywne SI. W przeszłości przepływ informacji był kontrolowany przez ludzi. Niektórzy z najważniejszych ludzi na świecie byli redaktorami wiadomości, jak Lenin czy Mussolini. Kolejność awansu była następująca: dziennikarz, redaktor, dyktator. A kim są dziś najpotężniejsi redaktorzy na świecie? Nie mają imion, ponieważ są algorytmami. Kto edytuje newsfeed na Facebooku? Kto decyduje, jaki będzie następny film na TikToku? Są to algorytmy, sztuczna inteligencja.
Pioneer: Porozmawiajmy o Biblii, która wywarła ogromny wpływ na historię ludzkości i jest również tematem pańskiej książki. Harari : Jeśli myśli się o religiach księgi, takich jak judaizm, chrześcijaństwo i islam, to dają one autorytet tekstowi. Problemem, z którym borykają się od tysięcy lat, jest to, że tekst nie może do nich przemówić.
Pioneer: To znaczy? Harari: Człowiek tworzy kierowaną przez człowieka instytucję, która interpretuje ten tekst.
Pioneer: Czyli mogę używać Biblii jako swego rodzaju cyfrowego asystenta, gdy nie wiem, co zrobić w danej sytuacji? Harari : Nie potrzebuje pan ludzkiego kapłana, który powie panu, co radzi Biblia. Może pan zwrócić się bezpośrednio do tekstu.
Pioneer: Napisał pan wiele zdań, które brzmią raczej negatywnie. Przykład: „Krzemowe czipy mogą tworzyć szpiegów, którzy nigdy nie śpią i nigdy nie umierają”. Opisałbym to jako dystopię. Harari : To zależy od decyzji, które podejmiemy. W przeszłości Stasi chciała monitorować każdego obywatela NRD 24 godziny na dobę, ale nie mogła, ponieważ aby monitorować wszystkich przez całą dobę, potrzebne są dwie rzeczy: po pierwsze, duża liczba agentów, dwóch lub trzech na osobę, ponieważ nawet oni muszą w pewnym momencie spać. Po drugie, ich raporty pisane na papierze muszą być analizowane, do czego nie było wystarczającej liczby analityków, dlatego pliki zwykle leżały i zbierały kurz w centrali. Dzięki sztucznej inteligencji można teraz stworzyć pierwszy w historii całkowity system nadzoru, który całkowicie eliminuje prywatność.
Pioneer: Z drugiej strony, ludzie nie oceniają świata tylko na podstawie tego, co mówią rządzący i co jest w internecie. Oceniają go na podstawie twardych faktów: czy jest im lepiej niż cztery lata temu? Harari: Nie można utożsamiać informacji z prawdą. Większość informacji to fikcja, fantazja, propaganda i kłamstwa — prawda jest tylko bardzo małym podzbiorem, ponieważ zazwyczaj jest bolesna, nieatrakcyjna i kosztowna.
Pioneer: A fikcja? Harari : Jest tania, po prostu piszesz to, co pierwsze przychodzi ci do głowy i dobrze brzmi. Rzeczywistość jest skomplikowana, a ludzie zazwyczaj nie lubią skomplikowanych wyjaśnień.
Pioneer: Ale umniejsza pan kondycję ludzką, mówiąc, że nie jest ona w stanie ocenić rzeczywistości i nieustannie daje się nabierać bajkopisarzom. Harari: Pomysł, że ja, jako pojedyncza jednostka, mogę odkryć prawdę o świecie, jest niebezpieczną fantazją, ponieważ podważa zaufanie do instytucji.
Pioneer: Wychwala pan skuteczność stalinizmu i nazizmu, ponieważ całe społeczeństwa nie były odpowiednio informowane za pomocą narracji, ale były formatowane zgodnie z kryteriami politycznymi. A powinnienem dodać też, że moje stanowisko jest inne.
Pioneer: Ale spójrzmy na komunizm w NRD: system był zepsuty, pomimo wielkich bajkopisarzy, którzy chcieli wyjaśnić ludziom, że są na fali wznoszącej i że komunizm jest ostatecznym celem ludzkości. Harari: Po pierwsze, mieliśmy szczęście z niektórymi przywódcami bloku komunistycznego, ponieważ byli oni przygotowani na zachowanie pokoju. Ponadto zajęło to bardzo dużo czasu: W późnych latach 40. i 50. ludzie myśleli, że mają szansę podbić świat. Było to bardzo trudne i w końcu się nie udało. Tym, co naprawdę pokonało komunizm w XX wieku, była jego dysfunkcjonalność gospodarcza.
Pioneer: Spójrzmy na pozytywne strony: dzięki rewolucji internetowej każdy ma dostęp do mediów. Politycy stoją teraz przed wyzwaniem, ponieważ można sprawdzić fakty w ciągu sekundy. Czy uważa pan, że jesteśmy świadkami pewnego rodzaju demokratyzacji demokracji? Harari : Sztuczna inteligencja ma zarówno pozytywny, jak i negatywny potencjał. A jeśli chodzi o demokrację, to w tej chwili nie wygląda to dobrze.
Pioneer: Ale 100 lat temu wszyscy wydawcy w Europie zmieścili się na jednym stadionie. Teraz każdy może wziąć udział w tej wielkiej rozmowie. To jest demokracja, prawda? Harari : Pan mierzy uczestnictwo, ja mierzę zdolność do osiągniėcia porozumienia.
Pioneer: Dziś mamy najbardziej liberalne społeczeństwo, jakie kiedykolwiek istniało w Europie. Po raz pierwszy mniejszości również mają głos i mogą brać udział w wielkiej demokratycznej rozmowie. Harari : To bardzo dobra rzecz, ale niewystarczająca.
Pioneer: Dlaczego miałby się załamać? Harari: Upadek oznacza, że każde wybory przypominają wojnę. W demokracji masz rywali politycznych, ale dziś zostajesz uznany za wroga szybciej niż zwykle.
Pioneer: Ale jak to się ma do sztucznej inteligencji? Harari : Musi pan zrozumieć, że demokracja opiera się na technologii informacyjnej. To jest infrastruktura. Jeśli dominująca technologia informacyjna zmieni się zasadniczo, nastąpi trzęsienie ziemi w opartej na niej strukturze. W ciągu ostatnich 20 lat byliśmy świadkami jednej z największych zmian w historii wraz z pojawieniem się mediów społecznościowych.
Pioneer: Jakie problemy się z tym wiążą? Harari : Media społecznościowe są coraz bardziej kontrolowane przez algorytmy, których celem nie jest promowanie racjonalnej konwersacji i wzmacnianie demokracji.
Pioneer: Ostatecznie nadal twierdzę, że mnogość nowych opcji komunikacyjnych wspiera demokrację. Mniejszości etniczne i społeczne, ale także dzieci, mają teraz głos, którego wcześniej nie miały.
Pioneer: Nie mówię, że sytuacja jest beznadziejna. Ale musimy podejmować wysiłek.
Pioneer: Oczywiście to dobrze, że o wiele więcej osób może dziś mieć coś do powiedzenia. Ale to, czego nauczyliśmy się przez tysiące lat historii, to to, że nie możemy pozostawiać jej samej sobie.
Pioneer: To bardzo dobra rzecz, ale niewystarczająca. Jeśli każdy ma głos, ale system się załamuje, to nadal nie jest to dobry wynik.
Pioneer: Musimy podjąć wysiłek. Oczywiście to dobrze, że o wiele więcej osób może dziś mieć coś do powiedzenia.
Pioneer: Musimy być sceptyczni. Ale czy nie musimy być również sceptyczni, jeśli chodzi o nasze obawy dotyczące przyszłości?
Pioneer: Harari: To, co mówię, nie jest proroctwem ani prognozą. To tylko ostrzeżenie.
Pioneer: Profesor