Jarosław Królewski: Dane internetowe to ropa XXI wieku. Algorytmy wkrótce będą decydowały o tym, jak się rozwija światowa gospodarka

Z kim właściwie rozmawiam? Czym się pan zajmuje na co dzień?
Jestem osobą, która chciałaby coś zrobić większego w zakresie nowych technologii. Większego niż pozwala teraz zrobić rynek polski. Moim marzeniem jest odnieść sukces na rynku globalnym - i żeby za tym sukcesem nie stała sprawność sprzedażowa, tylko wyjątkowa wartość intelektualna.

Co może być tą wartością intelektualną?
Właśnie pracuję razem z prof. Krzysztofem Rybińskim nad książką, której nadaliśmy tytuł „Algokracja”. Opisujemy w niej wpływ algorytmów na nasze życie, bo to one wkrótce będą decydowały o tym, jak się rozwija światowa gospodarka. Rozumieją to na przykład Chiny, które mocno inwestują w tę dziedzinę.

Chce pan teraz powiedzieć, że algorytmy to ropa XXI wieku?
Oczywiście, że tak - choć nie tyle algorytmy, co dane, które napędzają te algorytmy, czy których używa sztuczna inteligencja. W ten sposób coraz więcej czynności, wcześniej wykonywanych analogowo, przenosi się do świata cyfrowego. Ale to także ułatwia stawianie diagnoz w medycynie czy bardziej dokładne ustalanie marż przy sprzedaży produktów.

Pan siedzi w tym świecie. Proszę narysować swoją wizję świata za, powiedzmy, 10-15 lat.
Takie symulacje robią choćby w Arabii Saudyjskiej - i tam kreślą wizję, w której powstanie sztuczny księżyc czy w szkołach będą uczyć hologramowi nauczyciele. Ale zmiany będą zachodzić właściwie w każdym fragmencie naszego życia, na przykład upowszechnią się samochody autonomiczne. Już za trzy-pięć lat w wielu miejscach będzie się ono mocno różniło od tego, co widzimy teraz.

Jakiego typu zmiany pan się spodziewa?
To można opisać przez analogię. Proszę zwrócić uwagę, jakie możliwości miały telefony komórkowe pięć lat temu, a jakie mają teraz. Wszystko wskazuje na to, że w ciągu kolejnych pięciu lat dokonają takiego samego przeskoku technologiczno- cywilizacyjnego. Za pięć lat możliwe może stać się na przykład technologiczne rozszerzenie możliwości naszego mózgu. Oby tylko nie oznaczało to eugeniki - czyli wpływu technologii na ludzkie zachowania i fizjologię. Choć Chińczycy już testują możliwości poprawy inteligencji nienarodzonych jeszcze dzieci.

O sile państw decydować będą nie ich armie, tylko hakerzy skuteczniej włamujący się do sieci innych krajów

Debata o tym, czy w ogóle należy dopuszczać takie możliwości, już trwa.
I będzie trwała jeszcze długo. Natomiast znaczenie algorytmów w naszym życiu cały czas rośnie. W Estonii już testuje się rozwiązania, w którym w najprostszych sprawach sądowych wyroki feruje się na podstawie wskazań algorytmów.

Czyli najkrócej rzecz ujmując, w ciągu najbliższych pięciu lat zmienić się może wszystko. Jak się ma w tym odnaleźć zwykły Polak z klasy średniej? Osoba kompetentna w swojej dziedzinie, która jednak specjalnie zmian nie chce.
Akurat informatyka, branża IT to dziedzina, która skutecznie ruguje z życia ludzi rutynę. Choć może to też oznaczać sytuację, że każda z tych osób, o które pan pyta, będzie mieć mniej roboty - bo odpadnie im mniej lubiana papierkowa praca, będą mogli się skupić na tym, co w ich zajęciach najważniejsze.

Ile prawdy w powiedzeniu, że w przyszłości władzę będą mieli ci, którzy kontrolują algorytmy?
Już tak się dzieje, widać to na każdym kroku. Dlatego spodziewam się, że wkrótce rozpocznie się dyskusja o tym, w jaki sposób można kontrolować firmy tworzące najważniejsze algorytmy. Oddzielna sprawa, że trudno sobie wyobrazić sytuację, kiedy to się dzieje na poziomie krajowym.
Na razie nie ma prób tej regulacji na żadnym poziomie.
Tymczasem za chwilę o sile poszczególnych państw decydować będą nie ich armie, czołgi, tylko oddziały hakerów zdolnych skuteczniej włamać się do sieci informatycznych innych krajów. Ale to jedna strona medalu. Druga to sytuacja, w której - dzięki rewolucji cyfrowej - nasze życie staje się łatwiejsze i powstają nowe miejsca dobrze płatnej pracy.

A jakie jest ryzyko, że ludzkość zwyczajnie zwariuje? Już teraz tempo postępu jest tak szybkie, że percepcja wielu osób znajduje się na granicy ich wytrzymałości - a zdaje się, że to dopiero rozgrzewka, tempo zmian może jeszcze przyspieszyć.
Zgadza się, to dopiero rozgrzewka. Ale też każdy ma świadomość, że ludzie mają naturalny opór w przyswajaniu nowych zjawisk - a świat słucha tego. Nie zmienia to faktu, że należy się spodziewać zmian wielu paradygmatów.

Jakich na przykład?
Choćby nasze relacje w społeczeństwie - one istniały od zawsze, ale Facebook przemodelował sposób, w jaki na nie patrzymy. W podobny sposób nowoczesne technologie redefiniują właściwie wszystkie tradycyjne obszary życia.

Jak daleko te zmiany zajdą? Dziś istnieje granica między światem realnym i wirtualnym. Ona się kiedyś zatrze, czy zawsze będzie istnieć?
Technologicznie wkrótce pojawią się takie możliwości, które pozwolą nam całkowicie zatrzeć tę granicę. Ale czy ona rzeczywiście zniknie? Nie sądzę. Podejrzewam, że ludzie sami będą chcieli ją utrzymać. Pozostaną takie sfery życia, w których kontakt twarzą w twarz pozostanie najważniejszy, to pewnie nigdy nie zniknie - nawet jeśli pod względem technologicznym bez problemu będzie można z niego zrezygnować.

Zgodził się pan ze mną, że dane stają się ropą XXI wieku. A dlaczego właściwie firmy zabiegają o to, żeby gromadzić ich jak najwięcej? Po co to robią?
Choćby po to, żeby móc ułatwić procesy biznesowe, przedstawić klientom lepszą ofertę. Proszę zobaczyć, co się teraz dzieje w internecie. On stał się studnią bez dna, są w niej miliardy najróżniejszych ofert, propozycji, możliwości. Dzięki analizie danych można pomóc wyłowić ofertę pasującą do danej osoby - bo ona sama prawie na pewno nie byłaby w stanie się przebić przez to wszystko, co internet dziś oferuje. Na przykład, skoro jestem akcjonariuszem Wisły Kraków, to jaki jest sens zasypywać mnie ofertami karnetów na mecze Legii Warszawa? A bez analizy tych danych tak pewnie by się działo, bo jednak dużo czasu spędzam w stolicy. Personalizacja za zgodą użytkowników w internecie jest niezbędna, bo inaczej właściwie nie dałoby się z niego korzystać.

A jak często poprzez tę analizę danych internet wprowadza mnie w błąd? Na przykład sklep internetowy wie, że w ostatnich kilku latach kupowałem buty za 200 zł i podrzuca mi ofertę kolejnych w tej cenie - choć innym klientom proponuje je za 150 zł?
Oczywiście, taka sytuacja jest możliwa - pod względem technicznym nie ma z tym problemu. Ale też e-sklepy nie mogą korzystać z tego typu narzędzi w sposób prosty. Przede wszystkim one muszą umieć wyjaśnić, w jaki sposób wykorzystują dane, które pan im przekazuje. Wiadomo, że jedną z największych baz danych o użytkownikach internetu ma Google. Ale każdy z nas może bez problemu sprawdzić, jakiego rodzaju są to dane, można też bez problemu złożyć wniosek o usunięcie tych informacji. Każdy z nas ma prawo do tego, żeby Google o nas zapomniał.

Teoretycznie. W praktyce nikt o takich możliwościach nie wie. Każdy tylko klika szybko zgody na ekranie, żeby pozamykać banery zasłaniające połowę strony - bez świadomości nawet, na co się zgodził.
Wiadomo, że każda firma na świecie chciałaby zarabiać jak najwięcej. Dotyczy to też branży IT. Ale żadne znane mi przedsiębiorstwo z tej dziedziny nie chce manipulować swoimi klientami. Wiem, że każdy by chciał moją branżę w ten sposób postrzegać, wtłoczyć ją w taki schemat, ale to tak nie działa. Zwłaszcza po wszystkich aferach, które się ostatnio wydarzyły.

Mówi pan o takich sprawach jak firma Cambridge Analytica, która nieuczciwie wykorzystywała dane pozyskiwane do Facebooka?
Tak. Po tym skandalu możliwości podobnych oszustw zostały mocno ograniczone. Dziś branża IT ma świadomość, że musi pozyskać zaufanie użytkowników, bez niego niewiele osiągnie - i przywiązuje do tego dużą wagę. Firmy wykorzystujące dane nie chcą, żeby ich klienci czuli się oszukiwani.
Teraz mnie pan przekonuje, że branża IT jest najbardziej etyczną w historii. Pachnie utopią.
Ale naprawdę ona wkłada mnóstwo energii w to, żeby być możliwie jak najbardziej przejrzystą i godną zaufania. Zmienia się to bardzo.

Przejrzystą? Przecież nikt nie wie, na co wyraża zgodę, klikając kolejne banery w internecie.
Zawsze ma pan możliwość niewyrażenia tej zgody - przecież nie trzeba korzystać z usług internetowych, jeśli ma pan wątpliwości co do tego, czy one pana nie oszukują, czy panem nie manipulują.

Nie całkiem - bo w niektórych obszarach internetu najwięksi gracze mają status niemalże monopolisty. I rządzą się własnymi, nieczytelnymi zasadami. Niedawno mieliśmy przypadek, jak You Tube zawiesił konto Radia Maryja.
Ale zdaje się, że szybko zostało odblokowane.

Podobnych przykładów jest dużo. Nagle wewnętrzny regulamin You Tube staje się jednym z najważniejszych dokumentów świata - tak dominującą pozycję ma ten serwis. Przykład algokracji?
Odwrócę perspektywę. Proszę sobie wyobrazić, co by było, gdyby You Tube nie miał tego wewnętrznego regulaminu i nie istniałyby procedury umożliwiające blokowanie filmików wrzucanych do tego serwisu. Każdy by mógł tam zamieścić to, co chce - bez ograniczeń.

Pewnie serwis byłby pełny przemocy, seksu, wulgarności - i to w najostrzejszych odmianach.
Właśnie. Wyobraża pan sobie, jakby wyglądał dziś internet, gdyby nie było możliwości analizy tego, co się w nim pojawia?

W końcu powstanie coś na kształt ONZ internetu czy e-G20 i będzie regulować, co jest dozwolone w internecie, a co nie

Oczywiście, musi być jakaś forma kontroli. Ale czy sytuacja, w której You Tube sam sobie przyznał prawo do tej kontroli, jest normalna? Przy jego tak dużej dominacji?
Jednak firma podlega kontroli zewnętrznej. Gdy konto Radia Maryja zostało zablokowane, natychmiast podniosły się przeciwko temu protesty i serwis od razu je odblokował. Widać, że nie rości sobie on prawa do wszechwiedzy, liczy się z głosem społeczności swoich użytkowników.

W przypadku Radia Maryja tak było - ale mówimy o sytuacji głośnej. A w sprawach mniej spektakularnych You Tube też ma mieć pełną swobodę? Rozumiem blokowanie treści wulgarnych, drastycznych. Ale czy on powinien mieć prawo oceny też treści światopoglądowych?
Zgadzam się, to jest jedno z tych wyzwań, które teraz stoi przed całą branżą IT. Trzeba znaleźć sposób na to, żeby radzić sobie z wykorzystywaniem istniejących serwisów do manipulacji, dystrybucji fake newsów - ale jednocześnie nie doprowadzić do sytuacji, gdy większość kwestii jest blokowana.

Znowu kwestia, która zależy od algorytmów. Jeśli napisze go zwolennik LGBT, to będzie on odsiewał treści to środowisko krytykujące - a jeśli ten algorytm napisze nacjonalista, to otrzymamy przewagę treści nacjonalistycznych.
To tak nie działa. Istnieją możliwości przeglądu tych algorytmów, jest nadzór nad osobami piszącymi te kody.

Największych firm to nie dotyczy - one się same pilnują.
To też się powoli zmienia. Owszem, branża IT cały czas nie uporała się z wieloma wyzwaniami etycznymi - ale widać, jak ciężko pracuje nad tym, żeby to uporządkować, żeby stworzyć jak najlepsze, najbardziej przyjazne standardy funkcjonowania.

Właśnie - standardy dopiero się tworzą. Natomiast GAFA, najwięksi dostawcy usług branży IT (Google, Apple, Facebook, Amazon) już teraz mają rząd dusz.
Jestem przekonany, że w końcu powstanie organizacja, która zacznie je kontrolować. Tyle że nie będzie to organizacja krajowa, lecz pannarodowa. Coś na kształt internetowego ONZ, czy e-G20. I takie ciało będzie regulować, co jest dozwolone w internecie, a co nie. Bo kwestii do uregulowania będzie coraz więcej. Choćby kwestia eugeniki - bo zdolności do modyfikacji genów czy ludzkiego DNA będzie się pojawiać coraz więcej.
Na razie takiego ciała nie ma - a w internecie powstała oligarchia, karty rozdaje w niej GAFA.
Nie odbierałbym szans innym. Nawet jeśli teraz jesteśmy w fazie dominacji tych graczy, a my jako społeczeństwo znaleźliśmy się w defensywie, to ostateczne decyzje cały czas podejmujemy jednak my sami.

Niby tak - ale pozycja dominująca GAFA jest tak ogromna, że omijanie ich byłoby niemal tym samym co w ogóle rezygnacja z internetu.
Ale te firmy naprawdę chcą wyjaśnić użytkownikom końcowym sposób, w jaki działają. Poza tym społeczeństwa się zmieniają, ich oczekiwania. Przedsiębiorstwa z branży IT po prostu próbują za tym nadążyć.

Rozmawiałem rok temu z Luc Ferrym, francuskim filozofem zajmującym się nowoczesnymi technologiami. I on postawił mocną tezę: że amerykańskie koncerny IT dokonują kolonialnego podboju reszty świata, przede wszystkim Europy. Bo one tak mocno dominują w internecie, że inni nie mają nic do powiedzenia. Współczesna kolonializacja za pomocą algorytmów.
Jest w tym sporo racji. Chiny odrobiły lekcję, zauważyły, że w XXI wieku kluczowa jest kontrola nad przepływem danych. Stracony dystans próbuje nadrabiać Rosja, przejąć kontrolę nad tym, co się dzieje w internecie, mieć na to wpływ. Natomiast w Europie jesteśmy wyraźnie opóźnieni. To w pewnej części konsekwencja różnic kulturowych, Europejczycy są dużo bardziej przywiązani do prywatności, także w internecie, stąd właśnie ta strata dystansu do liderów.

Można ten dystans jeszcze nadrobić?
Właśnie próbujemy to robić, tym zajmuję się w swojej firmie. Wydaje mi się, że jest to ciągle możliwe - choć też mam świadomość, że to właściwie ostatni moment na to. Ostatni, żeby stać się firmą mającą coś do powiedzenia w tym świecie, a nie tylko być podwykonawcą największych.

Jest jeszcze szansa na to, żeby wejść do tej ligi, w której gra GAFA?
To cały czas nie jest branża, w której myśli się tylko o biznesie. Siedzę w niej już głęboko, poznałem wielu informatyków - i widzę, że to są osoby głęboko ideowe.

W sensie - że chcą zmieniać świat, a nie jeździć drogim kabrioletem?
Tak. Gdyby porozmawiać z kimkolwiek z branży technologicznej, od razu czuć, jak ideowe są to osoby.

Dziś absolwent informatyki - niemający doświadczenia zawodowego - dostaje od razu pensję w wysokości niemal 10 tys. zł. Stać ich na bycie ideowcami.
Może tak. Ale naprawdę wśród tych ludzi nie ma takich, którzy myślą źle. Oni mają zaszczepiony sposób myślenia o tym, żeby zmieniać świat na lepsze.

Na pewno? Właśnie mi pan snuł opowieść o wspaniałej wizji przyszłości Arabii Saudyjskiej. Przypomnę, że rządzący w tym kraju książę Muhammad ibn Salman, który finansuje te projekty, jest jednocześnie oskarżany o zlecenia zabójstwa i poćwiartowanie zwłok dziennikarza Dżamala Chaszukdżiego. To też idealizm?
Na pewno nie będę pana przekonywał, że na świecie dziś wszystko układa się wzorowo, nie ma na nim bólu, głodu i nieszczęścia. Ja powiedziałem tylko, że większość informatyków to ideowcy, którzy chcą lepszego świata.

Albo po prostu są pionkami w grze wielkich graczy. Widzą część algorytmu, nad którą pracują, nie mając pojęcia, jak właściciel tego algorytmu go wykorzysta.
Nie docenia ich pan. Przykład Edwarda Snowdena pokazuje, że wcale nie jest tak jak pan mówi.

Chodzi o tego Snowdena, który wykradł amerykańskie tajne bazy danych, a teraz otrzymał azyl w Rosji? Raczej potwierdzenie mojej tezy.
Wie pan, bez względu na to, jak bardzo zmieni się świat w czasie rewolucji cyfrowej, elementarnych potrzeb ludzkich i tak nie uda nam się zmienić. Człowiek zawsze będzie taki sam, miał te same marzenia, potrzeby i pokusy, jakie miał w przeszłości. Zawsze dążenia części ludzi rodziły opór innej części, to stare jak świat. Zmieniają się teraz narzędzia, coraz większą rolę odgrywa w tym wszystkim internet, który na przykład radykalnie zmienia sposób komunikowania się ludzi między sobą. Dlatego też trzeba doskonalić narzędzia, pozwalające nam lepiej kontrolować to, co się w internecie dzieje.