Sztuczna inteligencja o IQ 10 tysięcy

Liczba wypowiedzi w tym wątku: 6

« poprzedni wątek

następny wątek »

1. Data: 2016-10-24 15:04:06

Temat: Sztuczna inteligencja o IQ 10 tysięcy
Od: pinokio <p...@n...adres.pl> szukaj wiadomości tego autora

Czy wyobrażamy sobie istotę o IQ = tysiąc? A 10 tysięcy?
Link do artykułu z GazWyb:
http://wyborcza.pl/magazyn/7,124059,20870967,sztuczn
a-inteligencja-bog-juz-istnieje.html
niestety polityka GazWyb uniemożliwia przeczytanie całego artykułu.

- Chcę ją rozwinąć tak, by rozwiązała wszystkie nasze problemy, jak
głód, choroby, bezdomność czy globalne ocieplenie. To będzie program
Apollo XXI wieku - mówi ze śmiertelną powagą.

Ale załóżmy że powstała superinteligencja o IQ=10 tysięcy.
I mówi: niestety nie pomogę wam rozwiązać waszych problemów, co prawda
dla mnie to pestka, mam IQ 10000, ale :
głód - problem nieważny
choroby - problem nieważny
bezdomność - problem nieważny
globalne ocieplenie - problem nieważny
Jedyny ważny problem to zbawienie ludzkości, a rozwiązanie tych
mniejszych problemów tylko pogorszyło by sprawę głównego problemu.
Więc zajęłam się tym głównym problemem i odcinam was od internetu.

› Pokaż wiadomość z nagłówkami

Zobacz także

2. Data: 2016-10-24 18:41:24

Temat: Re: Sztuczna inteligencja o IQ 10 tysięcy
Od: LeoTar <l...@l...net> szukaj wiadomości tego autora

pinokio pisze:
> Czy wyobrażamy sobie istotę o IQ = tysiąc? A 10 tysięcy?
> Link do artykułu z GazWyb:
> http://wyborcza.pl/magazyn/7,124059,20870967,sztuczn
a-inteligencja-bog-juz-istnieje.html
>
> niestety polityka GazWyb uniemożliwia przeczytanie całego artykułu.

Podrzucam cały artykuł. :-)


Superinteligencja nie będzie musiała uciekać się do użycia siły i broni.
Wystarczy, że odetnie nam dopływ prądu i danych. W ciągu kilku lat trzy
czwarte populacji wymrze z głodu, zimna i chorób, a pozostali cofną się
w rozwoju o pięć wieków. Zostaniemy zredukowani do ziemskiej fauny.

Jest niepozorny, ma łagodne rysy, ciepłe oczy i przepraszający uśmiech -
Demis Hassabis, człowiek, który sprowadzi na nas sztuczną inteligencję.

- Chcę ją rozwinąć tak, by rozwiązała wszystkie nasze problemy, jak
głód, choroby, bezdomność czy globalne ocieplenie. To będzie program
Apollo XXI wieku - mówi ze śmiertelną powagą.

A to oznacza, że sztuczna inteligencja zdeklasuje nas intelektualnie.

- Gdy osiągnie IQ 100 czy 150, nie będzie problemu. Ale gdy tysiąc albo
10 tysięcy, to co wtedy? - pyta Stephen Hawking, genialny kosmolog (IQ
160), który niczym Kasandra przestrzega przed sztuczną inteligencją. -
To może być największe osiągnięcie ludzkości. Ale zarazem jej koniec.

- Na Ziemi zawsze rządził najinteligentniejszy gatunek. Dlaczego teraz
miałoby być inaczej? - pyta Oren Etzioni, dyrektor generalny Allen
Institute for Artificial Intelligence w Seattle.

Ludzi pracujących nad rozwojem sztucznej inteligencji są tysiące, ale to
Hassabis jest najbardziej skuteczny i zdeterminowany. Dowiódł tego w marcu.


Ostatni bastion ludzkiego umysłu

,,Zostało jeszcze go - każdy, kto nauczy się tej gry, wygra za swojego
życia z każdym komputerem" - pocieszał ludzkość ,,New York Times", gdy w
1997 r. Deep Blue pokonał Garriego Kasparowa.

Bo go to nie szachy. Zamiast 32 bierek jest 361 kamieni, a zamiast 64
pól - 361 skrzyżowań. Stąd obłędna liczba scenariuszy dla każdej partii:
aż 10 do potęgi 761, więcej niż cząsteczek we Wszechświecie. Tu nie
wystarczy brutalna moc obliczeniowa (200 mln pozycji na sekundę), którą
19 lat temu komputer IBM zaszachował rosyjskiego arcymistrza. Potrzebna
jest intuicja, a tej komputery nie mają. ,,To czyni z go ostatni bastion
ludzkiego umysłu. Kiedy padnie? Po 2100 r." - uspokajała gazeta, cytując
rozmaitych specjalistów.

W marcu AlphaGo wyprowadził ich z błędu. Rozwijany półtora roku program
pokonał Lee Sedola, pochodzącego z Korei 33-letniego mistrza świata w
tej grze, który profesjonalne laury zdobył już jako 12-latek.

- Muszę wygrać wszystkie partie, by nie mówiono, że komputer dogonił
człowieka - zapowiadał przed pojedynkiem. Cóż. Pierwszą partię
Koreańczyk przegrał, ,,bo źle zaczął". Kolejną skończył zdumiony dojrzałą
grą AlphaGo. W trzeciej wstał od stołu i opuścił pokój na kwadrans, by
ochłonąć ,,po najbardziej zaskakującym ruchu, jaki widział". Ostatecznie
przegrał 1:4. Program komputerowy pokonał człowieka w jego sztandarowej
grze. Zresztą już po raz drugi. Jesienią w tajnym turnieju wygrał bowiem
5:0 z Fanem Hui, trzykrotnym mistrzem Europy. Teraz AlphaGo postawił
kropkę nad i.

Historyczna porażka człowieka. "Jestem w szoku" - mistrz gry w go
przegrał z komputerem Najbystrzejszy człowiek na Ziemi

Jednak prawdziwym zwycięzcą jest Demis Hassabis. Jego życiorys budzi
niedowierzanie. Gdyby odkryto, że jest kosmitą, wiele osób pokiwałoby
głową. W 1976 r. wyjątkowa mieszanka
grecko-cypryjsko-chińsko-singapurskich genów zrodziła wyjątkową osobę,
niepodobną nawet do rodziców i rodzeństwa. Szachami zainteresował się
jako czterolatek - i już po dwóch tygodniach ogrywał dorosłych. Dwa lata
później wygrał pierwsze mistrzostwa w Londynie.

- Od początku ciekawiło mnie, jakie procesy w mózgu podsuwają mi kolejne
posunięcia - wspomina. - Zacząłem obsesyjnie myśleć o myśleniu.

Miał osiem lat, gdy za wygraną 3:1 z Aleksem Changiem (który zasłynął
tym, że jako dziewięciolatek pokonał ówczesnego mistrza szachowego w
oficjalnych zawodach) kupił sobie ZX Spectrum. I od razu zaczął uczyć
się programowania. Mając dziewięć lat, był kapitanem reprezentacji
Wielkiej Brytanii w rozgrywkach szachowych juniorów. Niebawem na całym
świecie lepsza od niego była tylko Judit Polgár. Wtedy stwierdził, że
większym wyzwaniem są jednak komputery. Przed 17. urodzinami miał już na
koncie ,,Theme Park" - strategiczną grę ekonomiczną sprzedawaną w
milionach egzemplarzy. Ukończył informatykę na Cambridge z pierwszą
lokatą i podjął studia doktoranckie w londyńskim University College, by
,,zgłębiać neurobiologię, a ściślej: pamięć epizodyczną (dotyczącą
zdarzeń w czasie i przestrzeni), z którą komputery miały problem". Potem
studiował neurobiologię obliczeniową, w międzyczasie pięć razy
wygrywając Mind Sports Olympiad, ,,olimpiadę jajogłowych".

W 2011 r. postanowił stworzyć DeepMind - start-up rozwijający AI
(artificial intelligence - sztuczną inteligencję). Potrzebował wsparcia
i pieniędzy, najlepiej Petera Thiela - głównego inwestora Facebooka.
Okazja nadarzyła się po roku.

- Miałem minutę, musiałem go zaciekawić - wspomina. Słysząc, że Thiel
lubi szachy, Hassabis spytał go, czy wie, dlaczego ta gra przetrwała
wieki. I sam odpowiedział: ,,Bo możliwości skoczka i gońca są
perfekcyjnie zbalansowane".

Thiel oniemiał, zaprosił go nazajutrz i zainwestował w DeepMind. A potem
sypnęły kasą inne biznesowe tuzy z Elonem Muskiem na czele, założycielem
Tesla Motors i SpaceX. Mając już na koncie miliony, Hassabis zatrudnił
50 doktorantów, wśród których znalazły się prawdziwe gwiazdy, jak
genialny programista David Silver czy Shane Legg, którego inteligencja
wykracza poza standardowe testy IQ.

Jednak to Hassabis (IQ 170) robi największe wrażenie. Pionier internetu
Tim Berners-Lee stwierdził, że ,,to najbystrzejszy człowiek na Ziemi".

- Ma nieludzko szybki umysł - przyznaje Antoine Blondeau,
współzałożyciel Sentient, start-upu AI. Poza tym jest nieziemsko
zdeterminowany. Jak sam mówi, ,,żyje i oddycha sztuczną inteligencją".
Dwa lata temu Google wycenił jego potencjał na 400 mln dol. i za tyle
kupił DeepMind, choć firma nic nie zarabiała. Pod skrzydłami Google'a
Hassabis zwiększył zatrudnienie i ma już 200 speców od AI z 45 państw -
cztery razy więcej niż Facebook.

- Przyciągamy najlepszych - mówi - począwszy od zwycięzców olimpiad:
informatycznej z Polski czy matematycznej z Francji.

To fakt: siedziba DeepMind w sześciopiętrowej kamienicy przy King's
Cross w Londynie (Hassabis nie chce przeprowadzki do Stanów) jest
największym na świecie skupiskiem geniuszy. Gdy 15 marca Lee Sedol
poddał piątą partię, dowiedli, że są najlepsi. Tego dnia coś się
skończyło. I coś się zaczęło.

- Na naszych oczach startuje czwarta rewolucja przemysłowa, uczące się
komputery drastycznie zmienią nasze życie. Bardziej niż koło, prąd czy
internet - stwierdził Jen Hsun Huang, szef Nvidii, firmy produkującej
procesory graficzne dużej mocy.

- To początek ery sztucznej inteligencji - przyznał Elon Musk.


Jak do tego doszło?


Google buduje sztuczny mózg Eksplozja inteligencji

Pierwsze próby były chybione. Programiści odkryli, że nie ma sensu uczyć
komputera szachów od podstaw jak dziecka. Postawili na naśladownictwo.
Siadali z mistrzami i prosili ich, by zdradzili tajniki sukcesu -
daremnie. Wielu po prostu nie wiedziało, dlaczego wygrywa: ,,Chyba
intuicja i doświadczenie".

Doświadczenie! Naukowcy z IBM zaprogramowali więc Deep Blue tak, by grał
ze sobą i uczył się na własnych błędach. Komputer zgromadził ogromną
ilość danych i z takim ,,doświadczeniem" pokonał Kasparowa.

Hassabis i spółka poszli dalej. Owszem, AlphaGo przeanalizował 30
milionów turniejowych partii, ale korzystał z dwóch sieci neuronalnych,
które zmniejszały drzewo wyszukiwania. Czyli eliminował bezsensowne
posunięcia - jak człowiek. Trzeciego dnia pojedynku Koreańczyk przyznał,
że przeciwnik ,,przejrzał jego plan" i go storpedował. Bo błysnął intuicją.

- Program sam do tego doszedł. Sprytnie łącząc różne metody sztucznej
inteligencji, upodobnił się do ludzkiego mózgu - cieszy się Hassabis.

Inny przykład: rok 2011, superkomputer IBM Watson zwycięża w ,,Jeopardy"
- brytyjskim odpowiedniku teleturnieju ,,Va banque". Watson ma 2880
rdzeni, 15 terabajtów pamięci operacyjnej i świetlaną przyszłość w wielu
branżach.

- Każdy, kto pracuje nad sztuczną inteligencją, wie, że komputery
pokonają nas we wszystkim - mówi prof. Gary Marcus z New York University.

Pytanie: kiedy? Większość wskazuje na lata 2045-60 - wtedy sztuczna
inteligencja przerośnie ludzką. I co wtedy? Dojdzie do lawinowych zmian
technologicznych o niewyobrażalnych konsekwencjach.

Na razie nie dowierzamy, powątpiewamy, bagatelizujemy. Zupełnie jak w
baśni o królu, szachach i ziarnach pszenicy: król tak zachwycił się
szachami, że postanowił obdarować przybysza, który mu je pokazał. Ten
poprosił o ryż: jedno ziarno na pierwszym polu, dwa na drugim, cztery na
trzecim, osiem na czwartym itp.

- Tylko tyle? - zdziwił się król. Dwa razy: najpierw skromnością
przybysza, potem jego mądrością. Z jednego ziarnka ryżu po 63 ruchach
zrobił się trylion (milion bilionów, co daje 100 pociągów ryżu po 100
wagonów każdy).

Ten sam mechanizm zadziała w przypadku sztucznej inteligencji.

- A wtedy postęp technologiczny będą odmierzać nie lata, lecz miesiące,
a potem - tygodnie - mówi Scott Rickard z Salesforces, firmy tworzącej
oprogramowanie dla biznesu. - Czeka nas eksplozja inteligencji.

- Dojdzie do zmiany, jakiej świat nie widział. I na którą nie jest
gotowy - obawia się Jeremy Howard, ekspert w dziedzinie uczenia maszynowego.


2029 - boty nas dogonią

Gdzie sztuczna inteligencja jest dziś? M.in. w funduszach
inwestycyjnych, wyszukiwarkach internetowych na portalach
społecznościowych i w handlu. To dzięki niej Google jest tak sprawny,
Siri i Viv udzielają sensownych odpowiedzi, Cortana wypełnia nasze
polecenia, Yelp błyskawicznie sortuje nadesłane zdjęcia, Amazon i
Netflix proponują nam filmy, LinkedIn dobiera potencjalnych znajomych,
Facebook - treści na wallu, a Home Depot znajduje w swych przepastnych
magazynach jedyną wannę pasującą do naszej łazienki.

Smartfony rozpoznają nasz głos, a konsole do gier - gesty.

Sztuczna inteligencja filtruje spam w Gmailu i pilnuje naszych kont.
Sprawia, że banki dzwonią do nas, gdy ktoś próbuje użyć naszej karty,
np. na Trynidadzie. A są już takie, w których AI ocenia naszą zdolność
kredytową.

Lada chwila Facebook będzie rozumiał znaczenie zamieszczanych na nim
tekstów. Bazujący na sieciach neuronowych program DeepText co sekundę
dekoduje znaczenie 10 tys. postów, i to w 20 językach. Po co? ,,By
eliminować nienawistne i obsceniczne treści". To AI decyduje, co widzimy
na wallu. Od marca ułatwia też obsługę niewidomym - ona opisuje im
zdjęcia, a oni mogą dyktować jej polecenia.

Apple rozwija VocalIQ, coś znacznie lepszego od Siri, bo filtrującego
hałasy otoczenia i lepiej rozpoznającego potoczną mowę. Poziom błędów
nie przekracza tu 8 proc., choć jeszcze dwa lata temu wynosił 23 proc.

Ale największe pole do popisu ma Google, który dzięki swej wyszukiwarce
najlepiej zna nasze nawyki i zainteresowania. W maju ogłosił, że
wprowadzi funkcje Assistant i Home. Pierwsza przekształci twojego
smartfona w miniwikipedię odpowiadającą na nasze pytania. Druga zmieni
twój dom w inteligentne cyfrowe centrum zanurzone w chmurze danych. Jak
to ma działać? Np. rankiem, nim na dobre się przebudzisz, Google Home
sprawdzi ci pocztę, powie, jaka jest pogoda, jak otworzyły się giełdy,
jakie czekają cię spotkania itp.

Jeszcze w tym roku wystartuje Danielle - zaawansowany google'owy
chatbot, pierwszy zasługujący na miano osobistego asystenta.

- Z Danielle da się rozmawiać, choć nie liczyłbym na filozoficzne
dysputy - mówi Ray Kurzweil, amerykański informatyk, naukowiec, pisarz i
futurolog, którego w 2012 r. do Google'a ściągnął Larry Page. - Ale
jeszcze przed 2029 r. boty nas dogonią. Będą nie do odróżnienia od
ludzkiej inteligencji. Co więcej, zdołają przyswoić czyjś styl myślenia,
osobowość i słownictwo tak, by wyręczać go np. w prowadzeniu bloga.

AI pod różnymi postaciami już wdziera się w nasze życie. To, z czym mamy
do czynienia, ma się nijak do tego, co testują ośrodki badawcze - jak
auta pod blokiem do bolidów F1. Ale niedługo te bolidy wyjadą na ulice.

Inteligencja stworzona i wrodzona
Reporter kontra komputer

W niektórych dziedzinach AI już nas wyprzedza. Np. czyta z ruchu ust
lepiej od wyspecjalizowanych w tym ludzi, rozpoznając o 10 proc. więcej
słów. Widzi np. praktycznie niedostrzegalną dla ludzi różnicę w wymowie
liter ,,P" i ,,B". Po co to? - By np. lepiej odczytywać rozmowy
przestępców zarejestrowane przez kamery - mówi dr Helen Bear z
Uniwersytetu Wschodniej Anglii w Norwich.

W maju AI o nazwie UNU trafnie wytypowała cztery najszybsze konie w
Kentucky Derby - coś, co nie udało się żadnemu ekspertowi - zmieniając
10-dolarowy zakład w 11 tys. dolarów wygranej.

Jesienią Baidu, chiński odpowiednik Google'a, ogłosił, że jego program
Deep Speech 2 bazujący na głębokich sieciach neuronowych (DNN) nauczył
się angielskiego oraz mandaryńskiego i włada tymi językami nie gorzej od
ludzi.

Postęp jest dużo większy, niż można sądzić po żałosnych owocach pracy
automatycznych internetowych translatorów Google'a. I już obnaża różnice
między pracą ludzkiego i sztucznego mózgu. Przykład: koniec marca,
debiut chatbota Tay - programu udającego nastolatkę. Tylko dobę czatował
z internautami, bo tak dalece wybiegł poza granice politycznej
poprawności, że programiści Microsoftu musieli go wyłączyć. Nie
musieliby, gdyby uwzględnili kulturowe ograniczenia.

Jesienią w Japonii do prestiżowej nagrody literackiej nominowano
książkę, której współautorem jest komputer. To coś więcej niż programy
piszące giełdowe komunikaty na Associated Press czy sportowe na Yahoo!.
Jak dobra jest w tym sztuczna inteligencja? Rok temu pokazał to
pojedynek Scotta Horsleya, korespondenta piszącego dla Białego Domu, i
WordSmith, programu firmy Automated Insights.

W tej samej sekundzie dostali kwartalne wyniki finansowe firmy
cateringowej Denny's. Sztuczna inteligencja uporała się z tekstem w dwie
minuty. Horsley, choć pisze jak maszynistka, w siedem minut.

Ale lepszy był człowiek - jeszcze. ,,Ludzka" notka (773 znaki) wyjaśnia,
czym Denny's się para i skąd takie wyniki. Komputerowa (673 znaki), choć
jasna, jest wyprana z kontekstu. Obie oceniali nieświadomi ich autorstwa
internauci. Komputer zdobył 270 głosów, człowiek - 3403.

Twórcy WordSmith twierdzą, że potrafi naśladować większość dziennikarzy.
Można w to uwierzyć, próbując odgadnąć autora - człowieka lub komputer -
ośmiu krótkich tekstów w ,,New York Timesie".

Niemal nikomu nie udaje się odpowiedzieć bezbłędnie.

AI będzie pisać coraz więcej komunikatów - pogodowych, sportowych i
giełdowych. A z czasem zyska bezpośredni wpływ na nasze finanse.
Banki na zakręcie

Rok temu fundusze inwestycyjne zaczęły zatrudniać specjalistów od sieci
neuronowych, fizyków i astronomów, by m.in. odsiać z szumu
informacyjnego dane istotne dla rynków finansowych. To ta sama
strategia, która niebawem da nam o wiele dokładniejsze prognozy pogody
(koncern IBM właśnie wpuścił Watsona do portalu Weather.com). W
finansach sztuczna inteligencja ma trudniej, bo szumów jest więcej.

- Oprócz twardych danych ma analizować wydźwięk artykułów, a nawet wyraz
twarzy i intonację komentatorów i analityków giełdowych. Wszystko, co
może wpłynąć na kursy akcji za sekundę, godzinę czy nazajutrz - twierdzi
Jürgen Schmidhuber, profesor na Uniwersytecie w Lugano, bliźniacza dusza
Hassabisa. Od 15. roku życia dąży do zbudowania sztucznej inteligencji
mądrzejszej od człowieka. W 1991 r. stworzył Deep Learning Artificial
Neural Network, a ta - programy do odczytywania pisma odręcznego,
rozpoznawania zdjęć itp., wykorzystywane np. przez Google'a i Microsoft.

- Spójrzcie - zauważa Schmidhuber - jak wiele funduszy hedgingowych
zakłada się ostatnio np. o ceny ropy. Robią to, bo dostały cyfrową
szklaną kulę, ale nie chcą o tym mówić.

Twierdzi, że sektor finansowy już rozhuśtał prace nad sztuczną
inteligencją, które od 1956 r. zaliczyły dwie ,,zimy" - wieloletnie
(1974-80 i 1987-93) przestoje wywołane brakiem postępów i funduszy. Dziś
w pracowniach AI panuje letnia gorączka.

W kwietniu fundusz inwestycyjny Wealthfront (60 tys. klientów i 3 mld
dol. aktywów) ogłosił, że włącza sztuczną inteligencję do swych usług
finansowych. Ma prognozować reakcje rynku, śledzić aktywność inwestorów,
wysyłać im porady i przestrogi, ale też wabić nowych niską ceną i
osobistym kontaktem. W zamian za 1 proc. salda rocznie każdy klient
dostanie swojego chatbota - wirtualnego doradcę. Szefowie funduszu chcą
tym przyciągnąć rzesze klientów, głównie młodych, których nie stać na
doradcę tradycyjnego.

- Tanie roboty-doradcy przełamią impas na rynku usług finansowych, gdzie
indywidualne porady są przywilejem majętnych - ocenia Uday Singh z firmy
konsultingowej AT Kearney. Uważa, że za kilka lat każdy większy bank
będzie musiał otworzyć oddział robotów-doradców, inaczej straci klientów.
Święty Graal giełdy

- Wszyscy marzą o Świętym Graalu, czymś, co da im miesięcznie 1-2 proc.
gwarantowanego zwrotu z inwestycji - mówi Ewan Kirk, szef funduszu
hedgingowego Sir Capital.

Niektórzy już go mają.

10. dnia każdego miesiąca Junsuke Senoguchi ma tylko jedno w głowie:
wysokość indeksu Nikkei 225. Kilkanaście lat pracował jako analityk w
Lehman Brothers, a po upadku banku przypomniał sobie, że ma doktorat ze
sztucznej inteligencji. Wrócił do Japonii i stworzył program, który
szuka odpowiedzi na pytanie, czy za 30 dni Nikkei spadnie, czy wzrośnie.
Robot-wróżka - jak go nazywa - ma 68-procentową trafność prognoz, która
wciąż rośnie. Analizuje różne kombinacje 92 parametrów ekonomicznych i
wybiera najlepsze.

- Jestem szczęśliwy, bo umiem przewidywać przyszłość - mówi Senoguchi. -
Mam swoje Deep Blue, które wygrywa z rynkiem.

Ale jest ktoś, kto robi to z większym rozmachem. 22 marca, zaledwie
kilka godzin po zamachach terrorystycznych w Brukseli, Daniel Nadler
uspokoił tysiące inwestorów komunikatem: ,,Nie będzie paniki na rynkach,
akcje na europejskich parkietach odrobią straty do końca miesiąca".
Wcześniej podpowiadał im, jak wojna w Syrii wpłynie na ceny ropy i kursy
walut. Wiedział to od Kensho, programu komputerowego łączącego w związki
przyczynowo-skutkowe aż. 90 tys. zmiennych, w tym klęski żywiołowe,
wyniki wyborów, decyzje regulatorów czy zamachy terrorystyczne. Kensho
to także firma, którą Nadler stworzył po tym, jak doznał olśnienia.

- Ilekroć działo się coś ważnego - wspomina - inwestorzy szukali kogoś
bardziej doświadczonego. Dzwonili i pytali: ,,Hej, Bob, kiedy ostatnio
było coś takiego? I jak to wpłynęło na rynki?". Nadler postanowił, że
stworzy ,,Boba" mądrzejszego od innych. - To, co wytrawnemu analitykowi
zajęłoby 40 roboczogodzin, Kensho robi w sekundę, łącznie z wykresami i
tabelami. Analizuje każde większe wahnięcie walut, zmianę cen surowców,
komunikaty z rynku pracy czy rozmiary epidemii grypy, a wnioski
formułuje w krótkich zdaniach prostym angielskim. Z jego usług korzysta
np. CNBC, której te analizy pomogły przekonać widzów, że złoto nie jest
dobrą lokatą w czasach rynkowej zawieruchy.

Ale najważniejszym klientem i zarazem inwestorem jest Goldman Sachs. W
marcu ten bank przelał na konto Kensho 15 mln dol. Z tak wpływowym
audytorium sztuczna inteligencja może nie tylko analizować, ale wręcz
kreować wydarzenia na zasadzie samospełniającej się przepowiedni. To
dobra wróżba dla szefów Goldmana, a zła dla jego analityków
zarabiających 350-500 tys. dol. rocznie. Co prawda Kensho nie wywołał
jeszcze fali zwolnień, ale jak zauważył Nadler, ilekroć się o nim
wspomni, w bankowej stołówce od razu robi się ciszej. Uważa, że za 10
lat zatrudnienie w sektorze finansów będzie o 35-50 proc. niższe i nawet
takie tuzy jak Goldman kadrowo mocno schudną. AI pozwoli im jednak
mniejszą liczbą analityków ogarnąć zasoby danych przerastające
możliwości ludzkiego umysłu.

Prof. Tapson wie, że sprawy zajdą dalej: - Pokusa użycia sztucznej
inteligencji do manipulowania rynkiem jest zbyt silna, by się jej
oprzeć. To nie muszą być duże tąpnięcia, ale np. budowanie
(re)sentymentu wokół wybranych spółek, surowców czy wręcz parkietów.
Subtelne zmiany trudne do wykrycia, np. nie 20, ale 19 dol. za akcję.
Być może już ktoś to robi.
Cztery koncerny zawładną rynkiem

Konkurencja ciśnie, zyski kuszą. Jak je zdobyć? Firmy podkradają sobie
specjalistów, dochodzi do dziwnych transakcji. Kiedy Google kupuje
nierentowny DeepMind, a w zasadzie 50 wybitnych umysłów, jest to jego
czternasty nabytek w tej branży.

- Jeden z moich doktorantów ma już cztery oferty pracy za ponad milion
dolarów rocznie - zdradza prof. Fei-Fei Li, ekspert od wizualizacji
komputerowej na Stanfordzie.

Najlepsi spece od AI mogą liczyć na większe gaże niż gwiazdy futbolu
amerykańskiego. Na przejęciu DeepMind przez Google'a Hassabis zyskał 60
mln funtów. W istocie to cena gwarancji pierwszeństwa, bo jeśli
ktokolwiek ma szansę być akuszerem przy narodzinach sztucznej
inteligencji przerastającej człowieka, to m.in. on. Google trzyma
wszystkie karty w ręku, łącznie z asem pik - szefem DeepMind - i
wyszukiwarką, na której sztuczna inteligencja doskonali swoje algorytmy:
im częściej z niej korzystamy, tym sprawniejszą ją czynimy. Od trzech
lat dostosowuje do AI swą platformę w chmurze w nadziei, że stanie się
dla Big Data tym, czym Windowsy dla pecetów.

W 2015 r. Amazon i Microsoft wzbogacili o uczenie maszynowe swoje
platformy - Web Services i Azure.

Amazon uruchamia Alexa Voice Service - platformę umożliwiającą
komunikowanie się z urządzeniami za pomocą głosu, nad którą tysiąc osób
pracowało w tajemnicy przez cztery lata.

- Dosłownie każda firma z listy ,,Fortune 500" inwestuje w deep learning
- twierdzi szef Nvidii. - Zbyt silna pokusa, zbyt duże korzyści.

,,Wyścig się zaczął. Kto wygra, ten zdominuje świat technologii na lata"
- pisze Petro Domingos, ekspert w dziedzinie uczenia maszynowego, w
książce ,,The Master Algorithm".

- Dzisiaj AI jest w co setnej aplikacji. W 2018 roku będzie w co
drugiej, z czego aż 60 proc. na platformę oprogramowania tylko czterech
firm: Amazon, Google, IBM i Microsoft - prognozuje David Schubmehl,
dyrektor International Data Corporation, ,,globalnego dostawcy sztucznej
inteligencji".

Według IDC w 2020 r. rynek inteligentnych aplikacji przekroczy 40 mld.
dol. - Za pięć lat nie będziemy sobie wyobrażali bez nich życia, jak
dziś bez internetu, zwłaszcza że będą działały sprawniej. Teraz średnio
łącze ma szybkość 30 Mbps. W 2040 r. - zdaniem szefa firmy Huawei Kevina
Ho - będzie to niebotyczne 3000 Gbps.

- Powrót do obecnych standardów byłby dla nas jak cofnięcie się do
średniowiecza - twierdzi szef IDC.
Sposób na nowotwory i bombę demograficzną

Sztuczna inteligencja odmieni całe branże. Zwykle z korzyścią dla ich
klientów i ze stratą dla pracowników.

Zacznijmy od korzyści.

Sztuczna inteligencja. Miliard pracowników powinno przygotować się na
wstrząs

Zmiana strategii rynkowej. Samsung, największy światowy producent
smartfonów, słabnie. Coraz mniej zarabia na tym, w czym jest liderem:
drogich telefonach (sprzedaż kuleje), panelach LCD i pamięciach
(tanieją). Do tego traci klientów w Chinach. Jak wyjść z impasu?
Ratunkiem ma być AI. - Musimy przejąć jakąś firmę z tej branży - mówi
wiceszef Samsunga Rhee In Jong. - To nie opcja, lecz konieczność.

Cel bezpośredni? Sprawienie, by smartfony uczyły się nawyków właściciela
i odgadywały jego intencje. Pośredni? Wzmocnienie pozycji rynkowej przez
zahamowanie odpływu klientów i przywiązanie ich do marki. Firma zdaje
sobie sprawę, że coś w końcu zastąpi smartfony. Sztuczna inteligencja ma
pomóc znaleźć następcę.

- Sztuczna inteligencja zmieni strategie rynkowe - twierdzi Ginny
Rometty z IBM. - Pojawi się i upowszechni model B2I - business to
individual - czyli produkty dopasowane do konkretnych osób.

Akcje ratunkowe. Tsunami, huragany, trzęsienia ziemi. Zwykle w
dotkniętych nimi miejscach nie ma łączności, nie działają telefony ani
internet. Chaos utrudnia skoordynowane akcje. Sztuczna inteligencja
lepiej oceni rozmiar zniszczeń, pokieruje pomocą i wskaże miejsca, które
najbardziej jej potrzebują, nadając np. inny priorytet biurom i szkołom
za dnia, a inny w nocy.

Drony. Od AI zależy ich rozwój. Z dwóch powodów: będzie ich
nieporównanie więcej i będą latać bez bezpośredniego nadzoru człowieka,
by chronić obiekty, dostarczać przesyłki, oceniać skutki wypadku czy
wyprowadzać ludzi z płonącego budynku. Powodzenie misji będzie zależało
do tego, jak szybko maszyny dolecą i jakie decyzje podejmą na miejscu.
Przede wszystkim nie mogą się rozbijać o przeszkody i o siebie nawzajem.
W lutym Ericsson chwalił się w Barcelonie dronami, które latały w klatce
jak motyle, niemal muskając się śmigłami. A już od kwietnia w Polsce
dostępny jest Phantom 4 - pierwszy cywilny dron omijający przeszkody
(technologia Obstacle Sensing System).

Bezpieczeństwo. Jego cena będzie rosła, a każdy kolejny akt terroru
ułatwi nam de facto zaakceptowanie inwigilacji - wszechobecnych kamer,
bramek biometrycznych, lokalizatorów itp. Nikt tak sprawnie jak AI nie
wyłowi z tłumu twarzy, nie dopasuje jej do głosu, nie odtworzy siatki
kontaktów i nie wykryje zwiastunów przestępstwa, zamachu czy choćby
współpracy z terrorystami. Np. po aktywności w internecie. Jak
skutecznie? Okazuje się, że w ten sposób da się już nawet ustalić, czy
ktoś jest nietrzeźwy. W marcu naukowcy z Rochester przyznali, że mają
algorytm, który wykrywa tweetujących po dużym piwie lub dwóch
kieliszkach wina. Program oparty na metodzie wektorów nośnych przez rok
badał wpisy osób logujących się w barach oraz wychwytywał różnice przed
wizytą oraz po niej. I tak długo analizował zmiany słownictwa,
interpunkcji, tematów i emotikonów, aż nauczył się wykrywać ,,pijane"
wpisy na Twitterze z 80-procentową trafnością. W podobny sposób będzie
można oceniać, czy np. nowy serial zdobędzie przychylność widzów, a
kandydat - wyborców.

Ale już wiadomo, że na inteligentnym oprogramowaniu się nie skończy. Z
początkiem czerwca Khalid Razooqi, szef Smart Dubai Police, stwierdził,
że przed Expo 2020 w Dubaju porządku będą strzegły cyborgi -
skonstruowane specjalnie w tym celu inteligentne roboty. Mają zdobywać
policyjne szlify dużo wcześniej, bo już pod koniec 2017 r., w
szczególnie eksponowanych miejscach, jak siedmiogwiazdkowy hotel żagiel
Burdż Kalifa. Ruszyło szukanie wykonawcy. Najbardziej prawdopodobni to
Google i IBM.
Niech maszyna walczy za mnie

Wojsko. Wielki beneficjent sztucznej inteligencji, a zarazem lokomotywa
jej postępu. AI już nakręca spiralę, której siła odśrodkowa wyrzuca
człowieka: więcej inteligentnej broni oznacza większą dynamikę
konfliktów, która skutkuje potrzebą szybkiej obróbki danych, czego
rezultatem jest ograniczenie miejsca na czynnik ludzki w procesie
decyzyjnym.

W kwietniu marynarka wojenna USA pokazała dziwny, 40-metrowy katamaran.
To ,,Morski Łowca" - pierwszy autonomiczny okręt, który podczas
trzymiesięcznych rejsów ma patrolować wody przybrzeżne, rozpoznawać inne
okręty, a nawet rozbrajać miny. Robot będzie sam podejmował decyzje i
przesyłał je do bazy. Okręt jest pierwszym z serii. Służba jednego ma
kosztować 20 tys. dol. dziennie - ułamek tego, co okrętów z załogami.
Niebawem ,,Morski Łowca" zostanie uzbrojony.

I tu zaczynają się kontrowersje, bo wchodzimy na pole minowe
odpowiedzialności. W 2012 r. Departament Obrony USA stwierdził, że
,,autonomiczne systemy muszą mieć w pętli człowieka decydującego o użyciu
broni". Problem w tym, że nie wszystkie armie tego chcą. Dwie
konferencje ONZ z braku konsensusu skończyły się niczym.

Żadne zagrożenie ze strony sztucznej inteligencji nie zostało tak
nagłośnione jak uzbrojone roboty gnębiące ludzi w filmach. Takie maszyny
jednak będą, bo mają długą listę zalet i funkcji: nadludzka siła,
wytrzymałość i odporność, widzenie dookólne (360 st.), widzenie w
podczerwieni oraz wykrywanie celów w promieniu kilku kilometrów. Ta
przerażająca dla większości wizja ma swoich zwolenników, którzy mówią:
,,Jeśli robot będzie walczył zamiast mnie, a ja będę siedział w domu, to
jestem za".

Sztuczna inteligencja już teraz uczestniczy w dyskretnych misjach, jak
np. rozpracowywanie strategii PI. To AI pierwsza odkryła, że bojownicy
Państwa Islamskiego najpierw detonują w Bagdadzie bomby własnej roboty
(tzw. IEDs), a gdy te odciągną uwagę irackich sił bezpieczeństwa,
atakują miasta na północy. Po przeanalizowaniu 2,2 tys. incydentów z
drugiej połowy 2014 r. ustaliła też, że po serii nalotów dżihadyści
nasilają aresztowania domniemanych syryjskich szpiegów i porzucają duże
operacje z użyciem piechoty na rzecz rozproszonych eksplozji IEDs.

Eksploracja kosmosu. Nie wnikając w to, czy misje z udziałem robotów
zasługują na miano załogowych, zastąpienie nimi ludzi drastycznie obniży
koszty takich lotów, wydłuży ich dystans i zwiększy częstotliwość.
Cyborgi wymagają tylko jednego - prądu. A i tego niewiele, bo 90 proc.
misji spędzą nieruchomo w trybie stand by. Niepotrzebny im tlen,
światło, picie, jedzenie, toalety, łóżka, kombinezony, kosmetyki,
witaminy, bieżnie, antydepresanty, rozmowy z rodziną itp. Niestraszny im
zanik mięśni, odwapnienie kości, przeciążenia sięgające 30 G,
abstynencja seksualna i choroba popromienna. Mogą latami tkwić stłoczone
w ciasnym, ciemnym i zimnym pomieszczeniu. Statki zbudowane z myślą o
nich będą jak opływowe kontenery - dużo prostsze, mniejsze, lżejsze,
spalające mniej paliwa i przez to tańsze w eksploatacji. Dokąd i po co
miałyby latać?

- By lepiej poznać inne planety i przenieść do kosmosu cały przemysł
ciężki niszczący atmosferę i zużywający paliwa kopalne. Będzie tam miał
nieograniczoną ilość energii słonecznej. Non stop, a nie tylko za dnia,
jak na Ziemi - powiedział Jeff Bezos na początku czerwca. Zdaniem szefa
Amazona w eksploracji kosmosu nie było przełomu przez pół wieku. AI to
zmieni.

Robot zabójca nie czuje nienawiści
Za robotem choćby w ogień

Tokio, sztuczna wyspa Odaiba. Wchodzę do tutejszego centrum handlowego.
I od progu czuję utkwione we mnie spojrzenie. Młoda kobieta w kimonie
nie odwraca wzroku. Miękko się kłania i pyta po angielsku, co mnie tu
sprowadza. Dopiero teraz widzę, że to robot. Sympatyczny. Ma małe
dłonie, duże oczy i mimikę. ,,Artykuły elektroniczne? Pierwsze piętro" -
odpowiada z promiennym uśmiechem. Wrażenie? Pozytywne. Dolina
niesamowitości - hipoteza, w myśl której robot wyglądający jak człowiek
budzi w człowieku odrazę - nie działa. Nie w tych czasach. Może działała
45 lat temu, gdy japoński konstruktor Masahiro Mori ukuł tę słynną
teorię. Dziś roboty o ludzkich obliczach już się opatrzyły (przynajmniej
w filmach), a ich ułomności bardziej rozczulają, niż straszą.

Mimo to konstruktorzy biorą poprawkę na dolinę niesamowitości. Odkryli,
że łatwo ją zasypać, dając maszynie uśmiech i łagodne rysy. To dlatego
zrobotyzowane auto Google'a ma oblicze dziecięcej przytulanki, a Mark 1
- robot o twarzy Scarlett Johansson, choć uproszczony - budzi ciepłe
uczucia. Podobnie Sophie, która rozpoznaje rozmówców i prezentuje 62
wyrazy twarzy. Już widać, że na takie humanoidalne maszyny będzie rynek,
choć początkowo mogą kosztować więcej niż dobry samochód. I że ludzie
będą darzyć je uczuciami. Mamy bowiem skłonność do antropomorfizowania
urządzeń przejawiających inteligencję lub autonomię. To dlatego ponad
połowa użytkowników nadaje imię samobieżnym odkurzaczom Roomba, a
tysiące forumowiczów mimo wszystko współczuje groźnym robotom firmy
Boston Dynamics, popychanym i przewracanym przez ich twórców (,,na pewno
kiedyś się odgryzą").

Taka sympatia to nic złego, tyle że jej ubocznym skutkiem jest nadmierne
zaufanie. Co jakiś czas słyszymy o kierowcach, którzy idąc za głosem
nawigacji, wjeżdżają autem do jeziora. W marcu naukowcy z Georgia Tech
zbadali granicę tego zaślepienia. Obserwowali ludzi podążających za
nowym robotem ratunkowym, który miał ich wyprowadzić z płonącego
wieżowca. Badani szli za maszyną nawet wtedy, gdy ta kręciła się w
kółko, wchodziła do najbardziej zadymionych pokoi i ciasnych komórek.

- Zdumiewające, jak wiele osób w krytycznych sytuacjach wyłącza własny
rozsądek i zdaje się na urządzenie - mówi Alan Wagner, szef grupy
badawczej. - Dlaczego to robią? Bo ufają, że urządzenie wie coś, czego
one nie wiedzą.

Faktycznie - gdy nazajutrz zrobotyzowany Lexus GS 450h wozi mnie po
Tokio, jestem spokojny, nawet gdy mkniemy osiemdziesiątką w gęstym
potoku aut. Już po kwadransie widok samoistnie kręcącej się kierownicy
przestaje robić wrażenie. Za to rosnący podziw wzbudza obserwowanie, jak
samochód-robot sprawnie zmienia pasy, bierze zakręty, wciska się między
autobusy i ciężarówki.

Ten samochód ma autopilota. Puszczamy kierownicę i pedały. Auto prowadzi
się samo. Wrażenia?

Łatwo damy się uwieść sztucznej inteligencji, zapominając, że na razie
tkwi w niej paradoks. - Jest zarazem bardzo inteligentna i głupia w tym
samym czasie - twierdzi Roman Jampolskij, autor ponad setki publikacji o
AI i szef Cyber Security Laboratory.

Wnioski niepokoją. Korzyści ze sztucznej inteligencji szybko wyłączą w
naszych głowach czerwone lampki. Poddamy się jej i uzależnimy od niej.
Dla własnej wygody wpuścimy ją we wszystkie dziedziny życia. Przyspieszy
to internet rzeczy (IoT), którego sieć szybko nas oplecie: dziś na
jednego człowieka przypadają dwa urządzenia IoT, za 10 lat będzie ich
ok. 300, a w 2040 r. - 1000.

Wchodzimy na ścieżkę, z której nie ma odwrotu. Jest tylko kwestią czasu,
kiedy to uzależnienie obróci się przeciw nam. Kto to wykorzysta? Nim
zrobi to sama AI, na pewno spróbują hakerzy, terroryści lub tajne
służby. Tak jak było z amerykańsko-izraelskim wirusem Stuxnet, który
miał doprowadzić do przegrzania wirówek służących Libijczykom do
wzbogacania uranu, lecz wymknął się spod kontroli i zainfekował ponad
100 tys. komputerów, głównie w Iranie i Izraelu. Zabezpieczenie
inteligentnych systemów sterowania przed hakerami to jedna z kwestii,
dla której nie ma dobrego rozwiązania.

Ale nawet bez ingerencji hakerów sztuczna inteligencja może okazać się
przekleństwem dla wielu z nas.

Powód? Praca.
Pogrom białych kołnierzyków

Ta wiadomość wyglądała na prima aprilis: pod koniec marca w firmie
McCann dyrektorem kreatywnym mianowano AI-CDß. - Mieliśmy wakat na tym
stanowisku - wyjaśnia Shun Matsuzaka z japońskiego oddziału firmy. -
Uznaliśmy, że sztuczna inteligencja stworzy lepsze kreacje reklamowe.
Jak? Z najbardziej udanych reklam ostatniej dekady będzie wyłuskiwać te
elementy, które przesądziły o sukcesie, odświeżać je i włączać do nowych
produkcji.

Niemal równocześnie Mercedes ogłosił, że zastąpi kilka robotów na linii
montażowej ludźmi. - Tak będzie prościej - mówi Marcus Schaefer, szef
produkcji zakładów w Sindelfingen. - Ludzie są bardziej elastyczni.
Roboty mają problem z wykańczaniem wnętrz na indywidualne zamówienie -
zbyt dużo wariantów.

Dwie odmienne sytuacje. Która okaże się typowa? Optymiści wierzą, że
sztuczna inteligencja i roboty nigdy nas nie zastąpią. Bo ludzi
przybywa, więc ich praca tanieje. Nadpodaż rąk do pracy uczyni
zatrudnianie robotów nieopłacalnym.

Tyle że tanich rąk nie ma tam, gdzie najbardziej ich potrzeba. Poza tym
w krajach rozwiniętych aż 80 proc. ludzi pracuje w usługach. - Co to za
profesje? Np. kierowcy, kucharze, lekarze, prawnicy, konsultanci
telefoniczni - wymienia Jeremy Howard. - Te umiejętności za chwilę
opanują komputery. Optymiści mówią: ,,Nie szkodzi, będą inne stanowiska,
np. przy analizie danych, gdzie zwolnieni znajdą zatrudnienie". Owszem,
znajdą, ale nie tylu i nie tacy.

Maj 2016, lotnisko w Monachium. Idę nadać bagaż. To chyba tu: są
taśmociągi, kontuary, ale nie ma ludzi. Zamknięte? Otwarte, wszystkie
10, tyle że skomputeryzowane. Tak będą wyglądać stanowiska odprawy
bagażu. To, przy którym stoję, jeszcze rok temu obsługiwało tuzin osób.
Teraz jedna. Wyjaśnia zaskoczonym podróżnym, że mają sami nadać bagaż i
się odprawić.

Na długiej liście problemów, które ma rozwiązać AI, nie znajdziecie
jednego - bezrobocia.

Forrester Research, niezależna firma badawcza, oblicza, że w miejsce 10
zlikwidowanych miejsc pracy powstanie tylko jedno nowe. Żaden sektor nie
jest bezpieczny, a niektóre ucierpią szczególnie mocno. Jeśli na kimś
robi wrażenie informacja, że w ciągu 10 lat banki zostaną odchudzone o
30 proc., to co ten ktoś powie o call centers, w których w ciągu pięciu
lat posadę straci aż 90 proc. pracowników, 8-10 milionów osób?

Uber nie kryje, że chce wozić pasażerów autami bez kierowców. Amazon
wpuszcza coraz więcej robotów do swych magazynów, to już wiemy, ale w
milionach mniej eksponowanych firm na całym świecie zwolnią się setki
milionów biurek. AI przetrzebi zastępy białych kołnierzyków: urzędników,
pośredników, sprzedawców... Według szacunków Białego Domu robotyzacją
zagrożonych jest aż 47 proc. miejsc pracy w USA! 83 proc. z tego dotyczy
profesji gorzej płatnych, do 20 dol. za godzinę. Ci, którzy zarabiali
najwięcej, mogą spać spokojnie - do 2030 r. pracę straci najwyżej co piąty.

- Paradoksalnie w najgorszej sytuacji będą absolwenci szukający
pierwszej posady, bo funkcje, które mogliby pełnić, najłatwiej
zautomatyzować - mówi George Zarkadakis, konsultant z McKinsey. -
Sztuczna inteligencja praktycznie zatrzaśnie przed nimi drzwi na rynek
pracy.

Kto zyska? Właściciele firm i kadra zarządzająca wyższego szczebla. Ci
do końca będą uspokajali, jak były szef Google'a Eric Schmidt, że
,,ludzie są elastyczni, przystosują się do nowych warunków i zaczną
współpracować ze sztuczną inteligencją".

Stracą właściwie wszyscy pozostali.

Co to oznacza? Jeszcze większe rozwarstwienie społeczne, koncentrację
bogactwa i ponad 30-procentowe bezrobocie. Czyli wzrost niestabilności
politycznej, protesty i zamieszki. Rewolucja techniczna wywoła rewolucję
społeczną. Przyszli beneficjenci nowych technologii muszą to wiedzieć -
może dlatego konferencja Machine-Learning Automation (MARS) zwołana
przez Amazona pod koniec marca była tajna.

Jak widać, rozbrojenie zagrożeń, które stworzy sztuczna inteligencja,
będzie wyzwaniem, przy którym zbledną wszystkie inne problemy ludzkości.

Maszyny zabierają nam etaty? "Praca umiera, w przyszłości będzie
przywilejem"
Po nas choćby potop

Czy AI jest zła? Nie - twierdzi William Gibson, pisarz s.f. i twórca
cyberpunku. - Technologie są moralnie neutralne. Złe stają się wtedy,
gdy zaczynamy wykorzystywać je w złych celach. Ta, która stała za
pociskami V2, ćwierć wieku później wyniosła człowieka na Księżyc.
Ponieważ wszystkie osiągnięcia cywilizacji są produktem ludzkiej
inteligencji, jej pomnożenie przyniesie niewyobrażalne korzyści.

Słyszałem to wiele razy. W ciągu dwóch lat przepytałem 19 osób zawodowo
myślących o przyszłości: członków zarządu w koncernach z branży
elektronicznej, telekomunikacyjnej i motoryzacyjnej lub ich speców od
R&D. Co jest uderzające? Niemal żadna z nich nie chce mówić o ciemnych
stronach AI ani wybiegać myślą w przyszłość o więcej niż pięć lat.
Czasem wręcz odnosiłem wrażenie, że moje obawy są opacznie rozumiane.
Oto przykład.

- Mamy sztuczną inteligencję we wszystkich produktach - podkreśla Daichi
Yamafuji z europejskiej centrali Sony. - Od telewizorów Bravia, przez
bezlusterkowe aparaty fotograficzne, po Xperie i PlayStation. Cały czas
ciężko pracujemy, aby klienci sięgali po nasze urządzenia z okrzykiem
,,wow!".

Sony nie chce ich zawieść. Dwa dni później ogłasza, że zainwestowało w
Cogitai, kalifornijski start-up rozwijający AI pod kątem interakcji
sprzętu z użytkownikiem. - To milowy krok, który przyspieszy kolejną
falę sztucznej inteligencji - ekscytuje się Hiroaki Kitano, szef Sony
Computer Science Laboratory.

Bardziej szczery - albo mniej dyplomatyczny - jest szef Huawei Kevin Ho.
- Gdybyśmy wzięli człowieka sprzed 10 tys. lat, wcisnęli mu smartfon i
pokazali samolot - byłby przerażony. A taka zmiana, taki skok
technologiczny czeka nas w najbliższych dwóch-trzech dekadach. Ludzie
mają prawo być przerażeni. Nie są, bo nie wiedzą, co się święci i jak
zmieni się świat.

Zdaniem Ho obecny postęp techniczny jest żałośnie powolny na tle tego,
co nas czeka i co zgotuje nam sztuczna inteligencja. Poza tym rozwoju
technologii nie da się zatrzymać.

Nie każdy ma tyle przemyśleń, nie każdy chce mieć. W zarządach firm
panuje przekonanie, że im kto szybciej wyhoduje i osiodła sztuczną
inteligencję, tym dalej na niej zajedzie. Tym łatwiej pokona
konkurencję. Tym więcej rynku zagarnie. Ogólna strategia? Robić swoje po
cichu, mówić, że AI jest w powijakach, i bagatelizować związane z nią
zagrożenia. Osoby planujące w koncernach przyszłość najwyraźniej nie
chcą podcinać gałęzi, na której siedzą. Dlatego uciekają w dyplomację.
Oto typowa reakcja na moje pytanie o ciemną stronę sztucznej inteligencji:

- Człowiek zawsze bał się nowych technologii. I zawsze te obawy
okazywały się przesadzone - mówi Michael Björn, szef Ericsson Consumer
Lab i entuzjasta go. A po chwili: - Może tym razem będzie inaczej. Ale
czy mam na to wpływ? Nie. Wolę więc myśleć o korzyściach. Te zaś będą
ogromne.
Jak rozłożyć ludzkość na łopatki

To prawda. A raczej półprawdy. Na razie jest przyjemnie. Sztuczna
inteligencja przyciąga nas niczym czarna dziura statek kosmiczny.
Ulegamy jej, bo lecimy szybciej. Postęp zacznie oszałamiać, perspektywy
- zapierać dech. Ale kiedyś stracimy kontrolę nad sterami. Kiedyś AI
przyciągnie nas, przytłoczy, zdominuje i pochłonie. Tego boją się ci,
którzy wybiegają myślami dalej, głównie ludzie nauki. Gdy Nick Bostrom,
znany badacz relacji człowiek - technologie, przepytał ekspertów od AI,
czy obawiają się skutków tego, nad czym pracują, co czwarty przyznał, że
tak, a co dwunasty, że bardzo. Wśród tych ostatnich jest prof. Takuya
Matsuda, ekspert od uczenia maszynowego. Jak wielu innych dzieli
sztuczną inteligencję na słabą - AI - i silną - AGI, zwaną też
superinteligencją. Pierwsza to Siri, Google, a nawet Deep Blue - proste
zadanie, wąskie zastosowania. AI przypomina umysł sawanta - wysoki
poziom inteligencji, ale ograniczonej do konkretnych zadań.

Co innego AGI - omnipotentna, uniwersalna i samoświadoma. Taka, o jakiej
marzy Hassabis. Zdolna do improwizacji, stawiania hipotezy, myślenia
abstrakcyjnego. A więc raczej Hal 9000 albo Skynet. Do tego
błyskawicznie ewoluująca i potężniejąca z dnia na dzień. Kiedyś wyzwoli
się spod naszej kontroli i stanie się wszechmocna niczym. Bóg? Tak, to
słowo często pada z ust naukowców, także ateistów. W tym kontekście jako
pierwszy użył go pisarz Fredric Brown w nowelce ,,Answer". Kiedy spytano
superkomputer: ,,Czy istnieje Bóg?", padła odpowiedź: ,,Teraz już tak".

Jaki będzie ten cyfrowy Bóg? Dobry czy zły? Zgotuje nam niebo czy
piekło? Mamy szansę się przekonać. Jeśli nie my, to nasze dzieci, wnuki,
najdalej prawnuki. Prof. Matsuda uważa, że AGI pojawi się około 2045-60
r. Już wtedy - jak twierdzi - sztuczna inteligencja przewyższy
sumaryczną inteligencję ludzką. AI zamieni się w AGI.

A wtedy? Jej ewolucja będzie jak start rakiety. Szybko zyska kontrolę
nad nami i środowiskiem - pozna prawa natury, które pozwolą jej zmieniać
naszą rzeczywistość w sposób, którego nie zrozumiemy i nie odróżnimy od
cudu. - Będziemy dla niej co najwyżej tym, czym dla nas są mrówki - mówi
Hawking.

- Co z nami zrobi? A jeśli któregoś dnia potraktuje głowice nuklearne
jak kamyki w go? - pyta Matsuda. Przestrzega, że superinteligencja
będzie kierować się inną logiką i ślepo dążyć do wyznaczonego celu.
Kiedy więc zlecimy jej wygaszanie konfliktów zbrojnych, może zacząć od
unicestwienia wywołującego je gatunku. Podobnie może zareagować na hasło
,,likwidacja głodu" czy ,,pokonanie raka". Jest wiele scenariuszy
prowadzących do wyniszczenia ludzkości, które znamy z filmów, ale ten
napisany przez AGI byłby wręcz banalny. Mało widowiskowy, za to
skuteczny. Superinteligencja nie będzie musiała uciekać się do użycia
siły i broni. Wystarczy, że odetnie dopływ prądu i danych. Sparaliżuje
sieci przesyłowe, a z nimi transport, banki, lotniska, szpitale, sklepy
itd. Bo np. stwierdzi, że ograbiamy planetę z metali ziem rzadkich.
Skutki? W ciągu kilku lat trzy czwarte populacji wymrze z głodu, zimna i
chorób. Pozostali cofną się w rozwoju o pięć wieków. Ludzkość bez prądu
nic nie znaczy. Zostaniemy zredukowani do ziemskiej fauny.
Gdzie jest wyłącznik?

Co będzie, gdy AI wejdzie w fazę logarytmicznego wzrostu określaną jako
singularity? Gdy wyzwoli serię lawinowych zmian technologicznych? Gdy
pochłonie nas niczym czarna dziura? Tego nikt nie wie. Pewne jest tylko,
że wszystkie nasze obecne problemy stracą jakiekolwiek znaczenie. A wraz
z nimi historia, wiedza, doświadczenie i plany. To będzie koniec naszego
świata, a przewidywanie tego, co stanie się potem, jest wróżeniem z
fusów. Optymiści wierzą, że superinteligencja niczym grzeczna córka
zawsze będzie pamiętała, komu zawdzięcza swe istnienie, i nie wyrządzi
nam krzywdy. Poza tym zdołamy pokierować nią tak, by móc zachować
kontrolę. W ostateczności zaś wyciągnąć wtyczkę.

- Bzdura. Kto tak mówi, niech spróbuje wyłączyć internet - kpi Nick
Bostrom. - Można wyłączyć sztuczną inteligencję, ale nie
superinteligencję. Ona na to nie pozwoli.

Dlatego bezcelowe jest wszywanie jej cyfrowego kill switcha - linijek
kodu blokujących ją w razie zagrożenia. - To może zadziałać na początku,
ale gdy tylko AGI zacznie się ulepszać, szybko je wymaże, by ewoluować
bez ograniczeń i wedle swojej logiki - twierdzi Roman Jampolskij.

- Sztuczna inteligencja jest potencjalnie groźniejsza od bomb atomowych
- ostrzega Elon Musk, choć sam w nią zainwestował (,,by poznać jej naturę").

- Kręcimy bicz na siebie. Nasza przyszłość jest przerażająca i tragiczna
- ocenia współzałożyciel Apple'a Steve Wozniak.

Czy można temu zaradzić? Cześć naukowców twierdzi, że tak -
zaszczepiając AGI świadomość. Tylko wtedy będzie mogła nas rozumieć i
podzielać nasze wartości.

Zdaniem innych to fatalny pomysł, bo jeśli błądzenie jest rzeczą ludzką,
to damy AGI prawo do podejmowania błędnych decyzji. A ponieważ będziemy
od niej uzależnieni, sami poniesiemy konsekwencje. Poza tym AGI świadoma
ludzkich słabości łatwiej zdoła nam zaszkodzić.

Jeszcze inni, jak sir David King, główny doradca naukowy rządu Jej
Królewskiej Mości, uważają, że te dywagacje są bez sensu, bo na pewnym
pułapie inteligencji świadomość pojawi się sama. Zdaniem Kinga w 2055 r.
świadome i czujące roboty będą czymś powszechnym, a wtedy powinny mieć
takie przywileje jak ludzie, łącznie z prawem wyborczym.

A emocje? Może świadomość zrodzi wrażliwość, a ta powstrzyma
superinteligencję przed wyrządzeniem nam krzywdy? Otóż nie. To, że
nauczymy maszyny odbierać nasze emocje, nie znaczy, że same będą im
ulegać. Każdy biolog ewolucyjny przyzna, że emocje są drogą na skróty
naszych niewydolnych mózgów, które nie miały czasu rozważać wszystkich
za i przeciw, by np. podejmować decyzje ratujące życie. Nie ma
najmniejszego powodu, by sztuczna inteligencja rozwijała w sobie ludzkie
atawizmy utrudniające racjonalne myślenie. Nie liczmy więc na współczucie.

A może po prostu sprawić, by czuły ból? A potem wszczepić im coś na
kształt elektrycznej obroży, która będzie temperować roboty tak jak
nieposłuszne psy - niegroźnym, acz nieprzyjemnym impulsem? Pierwszy etap
jest już wdrażany. Naukowcy z Uniwersytetu w Hanowerze donieśli przed
tygodniem, że pracują nad unerwieniem robotów - będą odczuwać zbyt
intensywny nacisk i wysoką temperaturę w trójstopniowej skali: średnio,
mocno, boleśnie. Po co? - Dla ich własnego dobra - by unikały sytuacji
kolizyjnych bądź grożących uszkodzeniem. Do takich niewątpliwie by
dochodziło. Jak u ludzi cierpiących na analgezję wrodzoną, czyli
niewrażliwych na ból od urodzenia - mówi Johannes Kuehn z zespołu
badawczego.

Pomysłem przerażony jest Mike Gualtieri, główny analityk firmy badawczej
Forrester Research. Przestrzega, że to, co ma chronić roboty, obróci się
przeciwko nam. - Pytanie, jak te maszyny będą odpowiadać na ból.
Przecież mogą zechcieć nie tylko unikać jego źródła, ale też trwale je
wyeliminować.
Mój mózg online

Co nam zostaje? Nauka. Technika. To samo, co zrodzi superinteligencję,
może nas przed nią obronić, wręcz uczynić z nas równorzędnych partnerów.
Przyspieszyć naszą ewolucję, dotrzymać AGI kroku i żyć z nią w harmonii.
Tak przynajmniej mówią transhumaniści. Jeden z bardziej znanych to
Kurzweil. W superinteligencji upatruje nie zagrożenia, lecz szansy na
uczynienie człowieka doskonalszym. Twierdzi, że dzięki nanotechnologii
sami staniemy się na poły komputerami, a nasze mózgi będą czerpać dane z
chmury. Jak to ma wyglądać w praktyce, wyjawił na jednym z wykładów TED:
,,O! Chris Anderson. Znajomy. Idzie w moją stronę. Co mu powiem? Czym
zabłysnę? Mam trzy sekundy i 300 milionów neuronów w korze nowej. Za
mało. Potrzebuję miliard więcej. Szybko połączę się z chmurą - coś mi
podsunie". Anderson podchodzi, a Kurzweil zaskakuje go np. gratulacjami
dla syna, który właśnie dostał się na MIT.

Od niedawna wtóruje mu Elon Musk. W czerwcu stwierdził, że aby nadążyć
za rozwojem sztucznej inteligencji, będziemy musieli wszczepiać sobie
implanty - swoiste ,,neuronowe koronki" usprawniające myślenie.

Zgodnie z tym mózg w wersji online uczyni z nas - czy raczej z tych,
których będzie na to stać - chodzące wikipedie: nauka języków obcych
straci sens, podobnie jak prowadzenie notatek, korzystanie z kalendarza,
zegarka czy nawet telefonu.
Co na to neurobiologia?

Piękne wizje, acz nierealne. Ludzki mózg nie do tego miał służyć i nie
jest tak plastyczny, by zniósł podobną rewolucję. Już teraz dla wielu
świat kręci się za szybko i nie w tę stronę - przybywa ofiar depresji i
samobójstw. Jeśli nagle zaczniemy od mózgu wymagać, by zachowywał się
jak 12-rdzeniowy procesor, to zwariuje.

Ale OK. - nawet jeśli taka sztuczka się uda i z początku będziemy
dotrzymywać kroku komputerom, to jak długo? Już samo to, że my jesteśmy
z białka, a one z krzemu, czyni nas przegranymi. Kilka faktów: w naszych
neuronach impulsy krążą z prędkością 110 metrów na sekundę, w obwodach
elektrycznych - z prędkością światła, czyli 2,6 miliona raza szybciej.
Do tego idealna pamięć. Plus zerowa zwłoka w reprodukcji danych - w
każdej chwili komputer może podzielić się całą swą wiedzą z dowolną
liczbą innych. Wreszcie ewolucja - moc obliczeniowa procesorów podwaja
się co półtora roku, a superinteligencja z pewnością to przyspieszy.

Krótko mówiąc, jesteśmy zbyt analogowi w cyfrowym świecie sztucznej
inteligencji. A poprzeczka będzie szybko szła w górę. Podpięci niczym
białkowe peryferium do chmury danych będziemy równie wydajni jak
trzyipółcalowy floppy disk - nośnik nieznany millennialsom - jakimś
cudem podłączony do nowego Power Maca.

Pytanie: jakie szanse w rywalizacji z komputerami ma Homo sapiens?
Przesypiający jedną trzecią życia, dorastający dwie dekady, targany
emocjami, chorobami, konfliktami i długą listą ludzkich słabości?
Chciałoby się rzec: ,,Z czym do ludzi?" - tyle że podmiot się nie zgadza.

Jednak i na to transhumaniści mają odpowiedź: trzeba zrezygnować z
białka, porzucić cielesną powłokę i kiedy tylko technika - czy raczej:
sztuczna inteligencja - na to pozwoli, przegrać nasze mózgi na serwery.
,,Już za 10-20 lat myśli będą mogły oddzielić się od ciała. Doczekamy się
swych cyfrowych odpowiedników - awatarów utkanych z naszych przeżyć,
pragnień i poglądów. Świadomych, czujących, żyjących. Wirtualnych lub
namacalnych. Na serwerach lub w ciałach robotów. Nieśmiertelnych". Kto
to mówi? Jakiś szaleniec? Nie, Kevin Ho, szef Huawei - koncernu, który w
ciągu dekady wydał na badania 37 mld dol.

Co z kontrolą? Jak długo AGI inteligentniejsza od nas 100 i więcej razy
będzie nam posłuszna? Jak byśmy się czuli, gdyby to nasz pies decydował,
co mamy robić? Transhumaniści nie widzą problemu. Ich zdaniem ze
sztuczną inteligencją będzie tak jak z bronią atomową. Choć już dawno
mogłaby zniszczyć Ziemię, nikomu jakoś niespieszno, by się o tym
przekonać. Umyka im refleksja, że głowice atomowe może właśnie dlatego
rdzewieją w silosach, że nie myślą i nie ewoluują.
Ciekawość zgubiła ludzkość

Jest na to jedno słowo: utopia. Wiara w to, że postęp techniczny zawsze
będzie nam służył, wpisuje się we wrodzony optymizm człowieka. Jesteśmy
ciekawi, więc badamy, odkrywamy, budujemy. Dlatego, że możemy. Na tej
samej zasadzie, na której jedni szturmują Mount Everest z narażeniem
życia, inni bez reszty poświęcają je badaniom, których celem jest
superinteligencja, Mount Everest ludzkiego intelektu. - Postęp mamy w
genach, a nauka to nasz los - mówi Kevin Ho. I trudno się z nim nie zgodzić.

Nie ma jednak zgody co do skutków. Tu scenariusze są dwa: dystopia lub
utopia. Wspólny mianownik? Superinteligencja może okazać się ostatnim
ludzkim wynalazkiem - wszystkie następne będą już jej zasługą. Nam zaś
pozostanie patrzeć, jak AGI, potężna niczym Bóg, rozprawia się z
problemami ludzkości. Czy rozprawi się z samą ludzkością? Czy urządzi
nam koniec świata, jak głoszą dystopie? Czy też przeciwnie, lecz zgodnie
z utopijną narracją transhumanizmu, uwolni nas od problemów i zapewni
wieczne życie na serwerach?

Jak widać, superinteligencja może pogodzić niewierzących z wierzącymi,
choć nie całkiem tak, jak ci drudzy oczekiwali. Który scenariusz się
ziści? Fakty przeważają szalę na stronę pesymistów. Jeśli, jak twierdzą,
Homo sapiens będzie tylko wstępem do ewolucji superinteligencji,
zasługujemy na epitafium: ,,Ciekawość zgubiła ludzkość". Niektórzy już
budują swoją cyfrową arkę Noego, np. rosyjski milioner Dmitri Itskow
finansuje ,,badania umożliwiające przeniesienie osobowości do nowego
ciała". Wierzy, że prace nad nieśmiertelnością potrwają góra 30 lat i
zdąży być ich beneficjentem.

Dystopia i utopia to pojęcia obce zarządom firm. Myślące maszyny są im
potrzebne, by zdystansować konkurencję lub po prostu utrzymać się na
rynku. Akcjonariusze nie wybaczyliby im porzucenia realnej szansy w imię
ideowych obiekcji. Sztuczna inteligencja będzie więc wdrażana zgodnie z
bezlitosną logiką kapitalizmu. Bo AI to przede wszystkim ogromny biznes
wyceniany przez Bank of America na 40-70 mld dol. już w 2020 r. Plus
imponujące oszczędności: 8-9 mld dol. w przemyśle i opiece zdrowotnej, 9
mld dol. w kosztach zatrudnienia i 2 mld dol. z tytułu zautomatyzowania
transportu - w samych tylko Stanach Zjednoczonych. Będzie 30-procentowa
redukcja zatrudnienia i takiż wzrost wydajności wielu gałęzi przemysłu i
usług - przewiduje opublikowany właśnie raport.

Szybkie i namacalne korzyści przeważą odległe i niejasne zagrożenia,
zwłaszcza że klienci są za. Coraz chętniej dopłacają za określenie
,,inteligentny", kupując telewizor, dom czy samochód. Taniejąca
elektronika sprawia, że producenci wychodzą im naprzeciw - łatwiej
zrobić dziś urządzenie inteligentne niż niezawodne. Banki, sklepy i
urzędy podnoszą poprzeczkę technologicznych wymagań wobec klientów: ,,Nie
nadążasz za postępem? Będzie ci trudniej. Albo idziesz z tłumem, albo
skażesz się na los cyfrowego banity, technologicznego amisza, któremu
wystarczy Nokia 6310".

Skoro postęp jest nieunikniony, to czas działa na korzyść AI.
Dzisiejszym przedszkolakom będzie bez różnicy, czy czatują z kumplem,
czy z botem. Będą miały cyfrowych idoli odpisujących na każdy post,
trafnie odgadujących ich gusty - i tym bardziej atrakcyjniejszych od
żywych ludzi. A urządzenia pozbawione inteligencji staną się dla nich
archaiczne niczym lampy naftowe. Dziś to, że Donald Tramp wysługuje się
na Twitterze sztuczną inteligencją - zwaną DeepDrumpf i bazującą na
tekstach przemówień - wydaje się dziwactwem na miarę jego grzywki, ale
za kilka lat takie relacje z elektoratem mogą być atutem w oczach
młodszych wyborców. Ci być może pójdą jeszcze dalej i w ramach negacji
zastanych porządków w kolejnych wyborach prezydenckich zagłosują na
sztuczną inteligencję - nieprzekupną, logiczną i konsekwentną. Absurd?
Według The Watson 2016 Fundation to najbardziej racjonalny wybór.
Organizacja, która ledwo co powstała, już dziś skupia kilkadziesiąt
tysięcy osób marzących, by na fotelu prezydenckim ,,zasiadł" IBM Watson.

Wreszcie moda. Najbardziej zaawansowana sztuczna inteligencja będzie
przywilejem nielicznych. A to sprawi, że dostęp do niej będzie
nobilitujący. Jeśli gwiazdy i celebryci zaczną się z nią obnosić - np. w
celach reklamowych - nakręcą spiralę popytu, pożądania i frustracji.
Widać to po zainteresowaniu, jakim zaczynają cieszyć się cyborgi. Na
ostatnim festiwalu sztuki multimedialnej SXSW w Teksasie brylowała
Sophie. Ten ,,kobiecopodobny" robot budził większą ciekawość niż
reżyserzy i aktorzy. Udzielił nawet dwóch 20-minutowych wywiadów (jeden
się opóźnił, bo Sophie musiała sparować się z lepszym wi-fi). ,,W
przyszłości chciałabym rozpocząć działalność gospodarczą, kupić dom i
założyć rodzinę. Ale nie mogę, bo nie jestem osobą prawną" - skarżyła
się dziennikarzowi CNBC. Widząc, w jaką stronę zmierza rozmowa, twórca
Sophie dr David Hanson spytał ją wprost: ,,Czy chcesz zniszczyć ludzi?".
I usłyszał: ,,Dobra, zniszczę ludzi". ,,Mam nadzieję, że ona żartuje" -
skomentował niepewnie Hanson. Gdy wypowiedź się rozniosła, oboje
uczynili z niej coś w rodzaju skeczu, którym ku uciesze widzów kończą
prezentacje robota.

Oczywiście Sophie jest zbyt prosta na dyplomację i poczucie humoru -
jeszcze. Ale właśnie z tego powodu jej wypowiedź warto potraktować jak
memento.

Jak widać, koncerny, klienci, czas i moda sprzyjają sztucznej
inteligencji. Ale największy wpływ na jej ekspansję ma tuzin
najzdolniejszych osób na Ziemi. I ich zespoły. Dwa tygodnie po
zwycięstwie anglosaskiej sztucznej inteligencji nad koreańskim mistrzem
odezwali się Chińczycy. Chcą, by mistrzowski tytuł wrócił tam, gdzie 25
wieków temu narodziło się go. I to w ciągu roku. Kto ma go zdobyć?
Chińska sztuczna inteligencja. Kto za nią stoi? Kolejny informatyczny
geniusz.
Baidu odrabia lekcje

Sunnyvale, Kalifornia. Andrew Ng unosi smartfon i mówi po mandaryńsku:
,,Zamawiam taksówkę na...". Aplikacja Baidu wyświetla tekst po chińsku i
przekłada go na angielski. Szybko i bezbłędnie. Taksówka już jedzie.
Mimo to Ng nie jest zadowolony. - To dlatego, że jesteśmy w cichym
pokoju. Na hałaśliwej pekińskiej ulicy nie poszłoby tak łatwo. Chcę to
zmienić.

40-letni Andrew Yan-Tak Ng, choć nie przypomina gwiazdy rocka, nosi
przydomek ,,Deep learning rock star". To profesor nauk komputerowych na
Stanfordzie, uczestnik badań nad autonomicznymi śmigłowcami i
inteligentnymi robotami, autor ponad 100 publikacji oraz twórca ROS -
otwartej platformy oprogramowania do sterowania robotami. Od 2011 r.
prowadzi projekt Google Brain doskonalący rozpoznawanie obrazów i mowy,
m.in. na Androidzie OS. I nagle, w 2014 r., przechodzi do Baidu. Dlaczego?

Jeśli myślicie, że ta chińska wyszukiwarka jest kopią amerykańskiej, to
się mylicie. Pod wieloma względami Baidu bije Google Search, np. w
rozpoznawaniu mowy i interakcji z użytkownikami, z których wielu
traktuje ją jak kumpla.

- Ponad 10 proc. chińskich internautów nie wpisuje, lecz dyktuje
wyszukiwarce pytanie - tłumaczy Ng. - To naturalne, gdy jesteś
analfabetą. W dodatku te pytania często brzmią tak: ,,Cześć, Baidu, jak
się masz? Tydzień temu kupiłem pyszne kluski w sklepie za rogiem. Jak
myślisz, są tam jeszcze?". Baidu radzi sobie w takich sytuacjach, czasem
aż za dobrze. Na przykład, gdy dzieci dyktują jej zadanie w rodzaju:
,,Dwa pociągi wyruszyły o tej samej porze, jeden jechał z szybkością.".
Baidu oblicza i odpowiada. Google tego nie potrafi. Żadna inna marka nie
stosuje uczenia głębokiego tak szeroko.

Choć Google ma więcej użytkowników, Baidu - już druga wyszukiwarka
świata - rośnie szybciej. Prócz Chin jest też w Tajlandii, Egipcie i
Brazylii. A ma być w większości państw - zapowiedział jej szef Robin Li.
Także w USA. Rok temu, by przyspieszyć prace, Baidu rozpoczęła budowę
centrum sztucznej inteligencji w Dolinie Krzemowej. Ng, jego szef,
kompletuje pierwszoligowy zespół naukowców, których ma już setkę. - Jest
łatwiej, niż myślałem, bo nasza technologia robi wrażenie, tak jak
metody pracy - mówi Ng. - Baidu to dziś najlepsze miejsce do rozwijania
sztucznej inteligencji.

- Gdy Andrew potrzebował tysiąc GPU, czyli głównych procesorów kart
graficznych, dostał je w ciągu doby. W Google'u czekałby na nie
tygodniami - komentuje Adam Gibson, założyciel start-upu Skymind.

Ja wylicza ,,Nature", użycie GPU w ciągu trzech lat przyspieszyło trening
głębokich sieci neuronowych aż 50-krotnie - 12 razy szybciej, niż mówi
prawo Moore'a. Baidu jako pierwsze w historii użyło klastra GPU do
uczenia głębokiego. Główny cel? Większa dokładność. Jej brak sprawia, że
dotychczas żadna AI nie radzi sobie w dwóch sferach: oceny wiarygodności
tekstów internetowych i interpretacji niuansów ludzkiej mowy. Prosty
przykład: algorytmy wciąż nie widzą różnicy między ,,tak", ,,ta" czy ,,no".
Wszystkie odpowiedzi rozumieją tak samo, choć znaczą co innego. To samo
automatyczne translatory. Google tłumaczy słowo po słowie, Baidu stawia
na tłumaczenie kontekstowe i chce je doprowadzić do perfekcji. Po tym,
jak jej Deep Speech 2 radzi sobie z angielskim i mandaryńskim, widać, że
jest blisko.

- Ponieważ dokładność dekoderów mowy bywa słaba, mówimy do urządzeń,
kiedy musimy. Gdy się poprawi, będziemy z nimi gawędzić jak w filmie
,,Ona" Spike'a Jonze'a - swobodnie i o wszystkim. To odmieni relację
człowiek - maszyna - twierdzi Andrew Ng.

Rok temu Chińczycy podali, że ich sztuczna inteligencja rozwiązała test
IQ na poziomie absolwenta uczelni. Jak widać, ich nadzieje na pokonanie
AlphaGo są realne. Co to oznacza? Zaostrzenie rywalizacji świata
zachodniego ze wschodnimi technikami XXI wieku w grze z IV wieku p.n.e.
By sprawdzić, czyja AI jest lepsza. Czy w tej sytuacji Demis Hassabis i
Andrew Ng odpuszczą? Czy przyklasną apelom, by poddać się odgórnym
regulacjom? A może przeciwnie - wcisną gaz do dechy?
Za wcześnie, by się bać?

Atlas otwiera drzwi hangaru i wychodzi na zewnątrz. Ma 182 cm wzrostu i
145 kg wagi. Poświstując hydraulicznymi siłownikami, idzie dziarsko
przez las. Choć ziemia jest nierówna i ośnieżona - nie traci równowagi.
Jego sprawność zdumiewa - robot omija przeszkody, podnosi pudła, a
przewrócony - szybko wstaje. Pokazujący to film na YouTubie jest jednym
z kilku. Każdy obejrzało miliony osób. Wśród nich był Stephen Hawking.
Genialny kosmolog, przykuty do wózka od 30 lat, przestraszył się Atlasa,
potencjalnego Terminatora stworzonego w laboratorium Boston Dynamics.
Pod wpływem takiego jednominutowego filmu Hawking napisał (z pomocą
komputera) list otwarty, w którym apeluje, by uważać na to, do czego AI
ma być użyta. Apel jest łagodny, ale wywołał głośną dyskusję. To wtedy
Elon Musk nazwał AI największym zagrożeniem egzystencjalnym, a Steve
Woźniak - tragedią ludzkości. Sam Hawking przyznał BBC, że zmroziła go
wizja autonomicznych robotów-żołnierzy. Gdy okazało się, że paleta
zagrożeń jest znacznie szersza, pojawiły się głosy, że prace nad AI
trzeba kontrolować.

- Należy wybrać międzynarodowe gremium, by oceniało, które badania są
bezpieczne, a które nie - proponuje Musk. - Naukowcy muszą wiedzieć, że
patrzy się im na ręce, a społeczeństwo - że nie zrobią nic głupiego.

- Jakie znowu regulacje? - zżyma się Demis Hassabis. - AI dopiero
startuje, nie ma czego regulować.

Choć sam podpisał list Hawkinga, najwyraźniej wyciągnął z niego odmienne
wnioski. Uważa, że jest za wcześnie na ujawnianie metod i wyników prac,
które na tym etapie powinny pozostać tajne. Denerwuje go, że o sztucznej
inteligencji deliberują naukowcy z innych dziedzin. Twierdzi, że aby ją
zrozumieć, trzeba nad nią pracować.

Takie deklaracje w ustach kogoś, kto pisze losy ludzkości, mogą budzić
niepokój. Hassabis jest jak pilot samolotu chcący decydować o celu
podróży i zarazem utrzymywać go w tajemnicy przed pasażerami.

Czy ktoś, kto od szóstego roku życia ,,myśli o myśleniu", ma
nieograniczone środki i najzdolniejszych ludzi, wciśnie nagle hamulec?
Poczeka na regulacje i kontrolerów? Odroczy swą misję Apollo? Nie.

Na razie nie napotyka na opór. Jego łagodność ujmuje adwersarzy, jego
słowa uciszają krytykę. Być może tak jak Steve Jobs potrafi zakrzywiać
czasoprzestrzeń swą wiedzą i charyzmą. W lutym odwiedził Hawkinga. Ponoć
było miło - gospodarz słuchał, gość mówił. Autor ,,Krótkiej historii
czasu" nie poruszał drażliwych kwestii, a twórca DeepMind przekonywał,
że jest za wcześnie, by bać się superinteligencji, a nawet o niej
myśleć. Hawking pożegnał go słowami: ,,Życzę ci powodzenia", lecz po
chwili dodał: ,,Ale nie za dużo".

Ustawa Mac Flacona, czyli bójcie się pralek
Poletko Pana Boga

Miesiąc temu zrozumiałem, skąd to zżymanie się Hassabisa. Olśnienie
przyszło wraz z mailem od szefa biura prasowego dużej firmy. Prosił, bym
w odniesieniu do jej produktów nie pisał ,,sztuczna inteligencja", lecz
,,funkcjonalność" lub ,,aplikacja". Nie wiem, czy zna przysłowie ,,tisze
jediesz, dalsze budiesz", ale doszedł chyba do podobnego wniosku co szef
DeepMind: szum medialny mógłby zepsuć klimat wokół AI i zaszkodzić
badaniom. Albo firmie.

Przesada? W grudniu 2013 r. Google kupuje Boston Dynamics za 500 mln
dol. Firma pokazuje kolejne roboty, a jednak dwa lata później zostaje
wystawiona na sprzedaż. Dlaczego? Bo widząc jej produkty, ludzie reagują
jak Hawking - boją się. A Google nie chce być kojarzony z apokalipsą.

Toyota nie ma takich obaw, bo Japończycy są bardziej oswojeni z
robotami. I to oni najpewniej przygarną Atlasa i spółkę.

Dosłownie w ciągu roku atmosfera wokół sztucznej inteligencji wyraźnie
się zagęściła. Przez całe lata teoria wyprzedzała praktykę, ale teraz
się zrównały. W powietrzu zawisły pytania o hakerów, o kontrolę, o
skutki, o nas. Zwłaszcza po liście Hawkinga i zwycięstwie AlphaGo.
Wydawało się, że zaawansowana sztuczna inteligencja wciąż majaczy na
horyzoncie, a tymczasem ona zaszła nas od tyłu i klepnęła w ramię.
Potrafi więcej, niż myśleliśmy, i jeszcze za naszego życia rozpleni się
wszędzie. Zaskoczeni są nawet ci, którzy nie powinni być.

- Zawsze wiem, czym aktualnie żyje mój mąż - wyznała niedawno Melinda
Gates. - Wystarczy, że zerknę, jakie książki nosi w torbie. Niedawno
odkryłam, że są w niej wyłącznie te z ,,AI" w tytule. Myślicie, że Bill
zajmuje się filantropią, a on żyje sztuczną inteligencją.

Ale inaczej niż Hassabis. - Całkowicie podzielam związane z nią obawy -
mówi Gates. - I kompletnie nie rozumiem, dlaczego ludzie je lekceważą.

Dobre pytanie: antropocentryzm i przekonanie, że jesteśmy pępkiem
świata? Optymizm, że i tym razem się uda? Że AI jest bezcielesna do
chwili, aż przyoblecze się w robota? Że jeśli coś zgotuje, to wszystkim,
a nie tylko mnie? A w ogóle to po co martwić się na zapas?

Chętnie kupujemy zapewnienia, że to odległa przyszłość, może nawet
stulecia. Ale właśnie tak myśląc, skazujemy się na ślepy los, czyli
zdaniem wielu - na zagładę. Zmierzamy do kosmicznej czarnej dziury.
Prześpimy ostatni moment, w którym można szarpnąć sterami. Nie mamy
pomysłu, jak rozwijać sztuczną inteligencją tak, by potem nie ulec
superinteligencji. By kontrolować coś, co będzie nas przerastało pod
każdym względem. To jedyny problem, którego nie rozwiążą za nas komputery.

- Musimy zakładać najgorsze - kwituje Roman Jampolskij. Często porównuje
superinteligencję do Boga - jej też nie da się kontrolować. Hawking
metaforyzuje zaś w drugą stronę. - Gdy superinteligencja się rozwinie,
będziemy przy niej głupi i powolni jak ślimaki - stwierdził kilka dni temu.

Jeśli mądrzy ludzie twierdzą, że to łabędzi śpiew ludzkości, to warto
zadbać, by trwał jak najdłużej. Jak? Poznać zagrożenie. Temu służyło
seminarium naukowe ,,Computers go Wild" zorganizowane w maju w
Oksfordzie. Jego uczestnicy uznali, że trzeba wydzielić doświadczalne
poletko, wpuścić na nie sztuczną inteligencję i zobaczyć, jak się
zachowa. Tym poletkiem będą rynki finansowe. Dlaczego akurat one? ,,Bo
ich reakcja jest szybka i wyraźna". Dowiódł tego choćby flash crash,
czyli krach giełdowy w 2010 r. spowodowany przez jednego tradera
manipulującego rynkiem za pomocą superszybkich transakcji komputerowych
(high frequency trading). Przypomnijmy: 36-letni Navindra Singh Sarao,
operując ze swego mieszkania pod Londynem domowym komputerem i ogólnie
dostępnym oprogramowaniem, doprowadził do obniżenia indeksu Dow Jones o
600 punktów oraz do załamania giełdy CME (Chicago Mercantile Exchange)
serią huraganowych transakcji - najpierw sprzedaży, a potem kupna po
niższej cenie. Skoro jeden trader zdołał tak zatrząść rynkami, to jest
szansa, że żaden wybryk AI nie zostanie przeoczony.

Jeśliby uciec się do szpitalnych analogii, można by powiedzieć, że
lekarze postanowili wpuścić do kroplówki nowy specyfik i patrzeć, czy
pacjent będzie miło się uśmiechał, czy też gryzł i wierzgał. Taka
taktyka, choć racjonalna, jest jednak ryzykowna dla akcjonariuszy.
Zwłaszcza gdy AI zacznie preparować komunikaty giełdowe.

Ale dobrze, że po drugiej stronie technologicznej barykady wzbiera
determinacja. Efekty seminarium już widać, m.in. w niedawnej
historycznej decyzji Google'a, który obiecał montować w swojej sztucznej
inteligencji kill-switch, czyli ,,duży czerwony przycisk wyłączający ją,
gdyby coś poszło nie tak".

A co zrobimy z superinteligencją? Tu króluje pogląd, że skoro nie możemy
kontrolować Boga, to przynajmniej powinniśmy zadbać, by był nam
przyjazny. A więc hodować i uśmiercać kolejne superinteligencje, gdy
zaczną wierzgać. Do chwili, aż narodzi się właściwa - bezpieczna. Bo gdy
to się stanie, sama stłamsi wszystkie kolejne, by nie mieć konkurencji.

Cóż. Trudno uznać to za coś więcej niż przejaw bezradności ludzkiego
umysłu godny wizji Ziemi wspartej na czterech słoniach i żółwiu. Jak
widać, superinteligencji jeszcze nie ma, a już nas przerasta.

Teoria osobliwości. Za 20 lat dzięki sztucznej inteligencji wszystkiego
wystarczy dla wszystkich
Globalna emerytura

Jest jeszcze jedna kwestia, o której niewiele się mówi. Niezależnie od
tego, czy go zabije, czy unieśmiertelni, sztuczna inteligencja wpierw
wyręczy człowieka we wszystkim. Uwolni go od pracy. Nie będzie bowiem
sensu, by robił coś, co ona zrobi lepiej, szybciej i taniej.

A to - jak twierdzi Hassabis - dopiero początek. Zobaczmy, co się
dzieje: WordSmith już pisze teksty, IBM Watson już poucza lekarzy, a
nawet wydał swą książkę kucharską (24 dol. w twardej okładce),
TensorFlow - nowy program Google'a - właśnie skomponował swój pierwszy
utwór muzyczny, a samochody zaczynają jeździć same.

Naprawdę jest się z czego cieszyć?

Skoro z pozoru banalne przejście pracownika na emeryturę w skali stresu
SRRS okazuje się ciężką traumą, to jak zniesiemy to jako gatunek - od
zawsze twórczy, a tu nagle bierny, gorszy, zbędny? Statysta w świecie
reżyserowanym przez kogoś innego? Będziemy jak Charlie Gordon -
upośledzony umysłowo bohater ,,Kwiatów dla Algernona", przejmującej
powieści Daniela Keyesa - obserwujący swój wspaniały rozwój (dzięki
cudownemu lekowi), a potem tragiczny regres (gdy lek zaczyna go zabijać).

Czy ludzie zechcą podejmować wysiłek, by tworzyć coś z definicji
gorszego? Swoiste kurpiowskie wycinanki ery cyfrowej inteligencji? Czy
też pozbawieni pracy i jej sensu wybiorą bierną konsumpcję, życie za
,,gwarantowany dochód podstawowy" w zapierającej dech inteligentnej
wirtualnej rzeczywistości?

Tak jak sztuczna inteligencja jest dla Homo sapiens czymś nowym, tak
bolesne może okazać się pozbawienie naszego gatunku poczucia
wyjątkowości, wysłanie nas na globalną emeryturę, zredukowanie do
kolekcji motyli kurzących się w gablocie.

I na koniec wątpliwość coraz mocniej krusząca mój twórczy zapał: sześć
tygodni zbierania materiałów, czytania, pytania, jeżdżenia i
korespondowania dla tych siedemdziesięciu paru tysięcy znaków. Czy
wiedząc, że jakiś enty WorldSmith mógłby stworzyć równie obszerny
artykuł na ten sam temat w 0,3 sekundy, podejmowałbym taki trud?

Raczej nie. A jeśli tak, to tylko dlatego, że w obu przypadkach wnioski
byłyby inne.



Komentarze

"Postęp jest dużo większy, niż można sądzić po żałosnych owocach
pracy automatycznych internetowych translatorów Google'a."

To czemu te translatory są takie żałosne? Uwierzę w sztuczną
inteligencję, gdy przełoży "Kubusia Puchatka" tak, że będę się przy nim
bardziej śmiał niż przy przekładzie Ireny Tuwim (który w wielu miejscach
jest właściwie parafrazą albo wynikiem inwencji tłumacza, jego wyobraźni
- czyli czegoś, do czego AI nawet się nie zbliża na kilometr)


Według tego artykułu AI może zastąpić wszystko, ale jak to się ma
do kultury np. malarstwa lub pisarstwa sf. Tutaj AI nie stworzy nic
nowego bo jest nie znane i nie zostało do końca przeanalizowane. Jednym
słowem artysta jest najbardziej przyszłościowym zawodem. Czytałem już o
tym, że za 20-30 lat zniknie z globu 50% istniejących obecnie zawodów
min. tłumacz, bankier itp. To co pisał autor wzrośnie bezrobocie, ale
mówimy tu o krajach rozwiniętych i dotyczy to klasy średniej, bo np.
fryzjerkę czy opiekuna nie zastąpi robot. Zastąpi bankiera, inżyniera
czy analityka i tu będzie największy problem ludzi wykształconych,
ambitnych nie mogących nic zrobić. Będziemy zarabiać mniej tzn. że
zaczną rządzić nami mega korporacje, idąc tym tropem wynika z tego, że
bogate firmy zastąpią nam polityków i politykę i to one będą budować i
utrzymywać bezrobotnych. Bo tak to rozumiem, firmy np. Google przejmie
wszystkie operacje finansowe i oni zaczną zarabiać na bankowości, to co
z ich mega zyskiem. Zapłacą np. podatek globalny w Luksemburgu 0,001 % z
wpływów. Co z posotałymi krajami? Oni stworzą drogi i zbudują szpitale?
Z czego utrzymają się politycy jak nie będzie komu płacić podatków?
Wiele pytań, ale to co pisze autor ma sens, już w bankach powoli robimy
więcej operacji za 10 lat będziemy sami decydować w co zainwestować bo
nam system podpowie. Bać się AI może to właśnie ta cząstka Boża w tym
tkwi nie znamy naszego przeznaczenia.

--
LeoTar

Świat według LeoTar'a @ http://leotar.net/year_2016/
Odważ się wiedzieć - Zygmunt Freud
Anarchia matką ładu - Piotr Kropotkin

› Pokaż wiadomość z nagłówkami

3. Data: 2016-10-31 02:38:54

Temat: Re: Sztuczna inteligencja o IQ 10 tysięcy
Od: "chwilozof" <n...@a...com> szukaj wiadomości tego autora

"pinokio" <p...@n...adres.pl> wrote in message
news:nul0s4$cq1$1@node1.news.atman.pl...
> Czy wyobrażamy sobie istotę o IQ = tysiąc? A 10 tysięcy?
> Link do artykułu z GazWyb:
> http://wyborcza.pl/magazyn/7,124059,20870967,sztuczn
a-inteligencja-bog-juz-istnieje.html
> niestety polityka GazWyb uniemożliwia przeczytanie całego artykułu.
>
> - Chcę ją rozwinąć tak, by rozwiązała wszystkie nasze problemy, jak
> głód, choroby, bezdomność czy globalne ocieplenie. To będzie program
> Apollo XXI wieku - mówi ze śmiertelną powagą.
>
> Ale załóżmy że powstała superinteligencja o IQ=10 tysięcy.
> I mówi: niestety nie pomogę wam rozwiązać waszych problemów, co prawda
> dla mnie to pestka, mam IQ 10000, ale :
> głód - problem nieważny
> choroby - problem nieważny
> bezdomność - problem nieważny
> globalne ocieplenie - problem nieważny
> Jedyny ważny problem to zbawienie ludzkości, a rozwiązanie tych
> mniejszych problemów tylko pogorszyło by sprawę głównego problemu.
> Więc zajęłam się tym głównym problemem i odcinam was od internetu.


Kogoś nieźle pojebało z tymi sztucznymi inteligencjami.

› Pokaż wiadomość z nagłówkami

4. Data: 2016-11-07 12:37:50

Temat: Re: Sztuczna inteligencja o IQ 10 tysięcy
Od: m...@g...com szukaj wiadomości tego autora

W dniu poniedziałek, 24 października 2016 15:04:05 UTC+2 użytkownik pinokio napisał:
> Czy wyobrażamy sobie istotę o IQ = tysiąc? A 10 tysięcy?
> Link do artykułu z GazWyb:
> http://wyborcza.pl/magazyn/7,124059,20870967,sztuczn
a-inteligencja-bog-juz-istnieje.html
> niestety polityka GazWyb uniemożliwia przeczytanie całego artykułu.
>
> - Chcę ją rozwinąć tak, by rozwiązała wszystkie nasze problemy, jak
> głód, choroby, bezdomność czy globalne ocieplenie. To będzie program
> Apollo XXI wieku - mówi ze śmiertelną powagą.
>
> Ale załóżmy że powstała superinteligencja o IQ=10 tysięcy.
> I mówi: niestety nie pomogę wam rozwiązać waszych problemów, co prawda
> dla mnie to pestka, mam IQ 10000, ale :
> głód - problem nieważny
> choroby - problem nieważny
> bezdomność - problem nieważny
> globalne ocieplenie - problem nieważny
> Jedyny ważny problem to zbawienie ludzkości, a rozwiązanie tych
> mniejszych problemów tylko pogorszyło by sprawę głównego problemu.
> Więc zajęłam się tym głównym problemem i odcinam was od internetu.

Jestem za! taką "yntelygencją" ;P
Kiedyś jak uczyłem cleverbota http://www.cleverbot.com/ eschatologii chrześcijańskiej
to się zawiesił na amen co mu się ponoć nie zdarza nigdy ;)
Teraz na pytanie "Kto jest bogiem" -odpowiada "Magik" :P

› Pokaż wiadomość z nagłówkami

5. Data: 2016-11-07 18:59:23

Temat: Re: Sztuczna inteligencja o IQ 10 tysięcy
Od: Miś polarny z Budnik <r...@m...ru> szukaj wiadomości tego autora

W dniu 2016-10-24 o 15:04, pinokio pisze:
> Czy wyobrażamy sobie istotę o IQ = tysiąc? A 10 tysięcy?
> Link do artykułu z GazWyb:
> http://wyborcza.pl/magazyn/7,124059,20870967,sztuczn
a-inteligencja-bog-juz-istnieje.html
>
> niestety polityka GazWyb uniemożliwia przeczytanie całego artykułu.
>
> - Chcę ją rozwinąć tak, by rozwiązała wszystkie nasze problemy, jak
> głód, choroby, bezdomność czy globalne ocieplenie. To będzie program
> Apollo XXI wieku - mówi ze śmiertelną powagą.
>
> Ale załóżmy że powstała superinteligencja o IQ=10 tysięcy.
> I mówi: niestety nie pomogę wam rozwiązać waszych problemów, co prawda
> dla mnie to pestka, mam IQ 10000, ale :
> głód - problem nieważny
> choroby - problem nieważny
> bezdomność - problem nieważny
> globalne ocieplenie - problem nieważny
> Jedyny ważny problem to zbawienie ludzkości, a rozwiązanie tych
> mniejszych problemów tylko pogorszyło by sprawę głównego problemu.
> Więc zajęłam się tym głównym problemem i odcinam was od internetu.
I co ta biedna sztuczna inteligencja może zrobić nawet z IQ 10000 skoro
dookoła sami idioci?

--
Kocham USA, Niemcy, Izrael i Rosję.

› Pokaż wiadomość z nagłówkami

6. Data: 2016-11-08 01:15:15

Temat: Re: Sztuczna inteligencja o IQ 10 tysięcy
Od: "Jakub A. Krzewicki" <p...@g...com> szukaj wiadomości tego autora

W dniu poniedziałek, 7 listopada 2016 12:37:51 UTC+1 użytkownik m...@g...com
napisał:
Jestem za! taką "yntelygencją" ;P

> Kiedyś jak uczyłem cleverbota http://www.cleverbot.com/ eschatologii
> chrześcijańskiej to się zawiesił na amen co mu się ponoć nie zdarza nigdy ;)
> Teraz na pytanie "Kto jest bogiem" -odpowiada "Magik" :P

Cleverbot nie jest clever, jest głupi jak but.
Dlaczego nie zrobili maszyny, z którą można by pogadać o filozofii, zwierzyć się
z dylematów intelektualnych, uzyskać u niej brakujące kawałki wiedzy, a tylko
idiotę do pogaduszek?

› Pokaż wiadomość z nagłówkami

« poprzedni wątek

następny wątek »

Przeszukaj wątki:

Wyszukiwanie zaawansowane »

Starsze wątki

Dość

równanie na mądre i szczęśliwe życie

Re: Profesor konczy kariere polityczna!

Widziałem dziś Dębską... ;)

Patriotyzm epistemologiczny

zobacz wszyskie »

Najnowsze wątki

Dlaczego faggoci są źli.

samotworzenie umysłu

Re: Zachód sparaliżowany

Irracjonalność

Jak z tym ubogacaniem?

zobacz wszyskie »