Dlaczego Stephen Hawking mówi „Sztuczna inteligencja nas wszystkich zabije”? [Zamknięte]

Cytat Stephena Hawkinga był w nagłówkach od dłuższego czasu:

Sztuczna inteligencja może wymazać ludzkość, gdy stanie się zbyt sprytna, ponieważ ludzie będą jak mrówki.

Dlaczego on to mówi? Mówiąc prościej: jakie są możliwe zagrożenia ze strony AI? Jeśli wiemy, że sztuczna inteligencja jest tak niebezpieczna, dlaczego nadal ją promujemy? Dlaczego nie jest zbanowany?

Jakie są negatywne konsekwencje tzw. Osobliwości technologicznej ?

To nie tylko Hawking, słyszysz różne wersje tego refrenu od wielu ludzi. Biorąc pod uwagę, że są to w większości bardzo inteligentni, dobrze wykształceni, dobrze poinformowani ludzie (na przykład Elon Musk), prawdopodobnie nie należy go lekceważyć.

W każdym razie podstawowa idea wydaje się następująca: jeśli stworzymy „prawdziwą” sztuczną inteligencję, w pewnym momencie będzie ona mogła się poprawić, co poprawi jej zdolność do doskonalenia się, co oznacza, że ​​może poprawić swoją zdolność do poprawy nawet więcej i tak dalej ... niekontrolowana kaskada prowadząca do „nadludzkiej inteligencji”. To znaczy, prowadząc do czegoś bardziej inteligentnego niż my.

Co się stanie, jeśli na tej planecie będzie istota, która jest dosłownie bardziej inteligentna niż my (ludzie)? Czy byłoby to dla nas zagrożeniem? Cóż, z pewnością wydaje się rozsądne spekulowanie, że tak może być. OTOH, nie mamy obecnie żadnego konkretnego powodu, aby sądzić, że tak będzie .

Wygląda więc na to, że Hawking, Musk itp. Schodzą na bardziej ostrożną / przerażającą stronę. Ponieważ nie wiemy, czy nadludzka sztuczna inteligencja będzie niebezpieczna, czy nie, a biorąc pod uwagę, że mogłaby być nie do powstrzymania, gdyby stała się złośliwa (pamiętaj, że jest mądrzejsza od nas!), Warto wziąć to pod uwagę.

Eliezer Yudkowsky napisał również sporo na ten temat, w tym wymyślił słynny eksperyment „AI Box”. Myślę, że każdy zainteresowany tym tematem powinien przeczytać niektóre z jego materiałów.

http://www.yudkowsky.net/singularity/aibox/

Ponieważ nie wiedział jeszcze, jak daleko jest obecna sztuczna inteligencja ... Pracując w medialnym laboratorium AI, często mam to pytanie. Ale tak naprawdę ... jesteśmy jeszcze daleko od tego. Roboty wciąż robią wszystko, co ich szczegółowo opisujemy. Zamiast postrzegać robota jako inteligentnego, chciałbym spojrzeć na programistę ludzi, gdzie naprawdę dzieje się kreatywność.

Mówiąc prościej, jakie są możliwe zagrożenia ze strony AI?

Obecnie nie ma zagrożenia.

Zagrożenie pojawia się, gdy ludzie stworzą tak zwaną ultrainteligentną maszynę, maszynę, która może przewyższyć wszelkie działania intelektualne każdego człowieka. Byłby to ostatni wynalazek, jaki musiałby zrobić człowiek, ponieważ ta maszyna lepiej wymyśla maszyny niż ludzie (ponieważ jest to aktywność intelektualna). Może to jednak spowodować, że maszyna wymyśli maszyny, które mogą zniszczyć ludzi, a my nie możemy ich zatrzymać, ponieważ są o wiele mądrzejsi od nas.

To wszystko jest hipotetyczne, nikt nie ma pojęcia, jak wygląda ultrainteligentna maszyna.

Jeśli wiemy, że sztuczna inteligencja jest tak niebezpieczna, dlaczego nadal ją promujemy? Dlaczego nie jest zbanowany?

Jak powiedziałem wcześniej, istnienie ultrainteligentnej maszyny jest hipotetyczne. Sztuczna inteligencja ma wiele przydatnych aplikacji (więcej niż ta odpowiedź może zawierać), a jeśli ją opracujemy, otrzymamy jeszcze bardziej przydatne aplikacje. Musimy tylko uważać, aby maszyny nas nie wyprzedziły.

Jak powiedział Andrew Ng , martwienie się o takie zagrożenie ze strony AI jest jak martwienie się przeludnieniem na Marsie. To science fiction.

Biorąc to pod uwagę, biorąc pod uwagę wzrost (znacznie słabszych) robotów i innych (pół) autonomicznych agentów, dziedziny prawa i etyki coraz częściej je uwzględniają, np. Patrz Roboethics .

Istnieje wiele długich zasobów, aby odpowiedzieć na tego rodzaju pytanie: rozważ książkę Stuarta Armstronga Smarter Than Us , książkę Nicka Bostroma Superintelligence , która wyrosła z odpowiedzi na edge.org , wyjaśnienia Tima Urbana lub wyjaśnienia Michaela Cohena .

Ale oto moja (nieco krótsza) odpowiedź: inteligencja polega na podejmowaniu decyzji, a my nie mamy powodu, by sądzić, że ludzie są prawie bliscy bycia najlepszym z możliwych w podejmowaniu decyzji. Gdy będziemy w stanie zbudować badacza AI AI (to znaczy komputer, który wie, jak uczynić komputery lepszymi w myśleniu), ekonomiczne i militarne znaczenie ludzi szybko zniknie, ponieważ każda decyzja, którą może podjąć człowiek, może zostać podjęta lepiej przez komputer. (Dlaczego ludzie mają generałów zamiast robotów, inżynierów zamiast robotów itd.)

To niekoniecznie katastrofa. Gdyby Wulkany pojawiły się jutro i przyniosły lepsze decyzje na Ziemi, moglibyśmy uniknąć wielu nieszczęść. Trudność polega na upewnieniu się, że otrzymujemy Wulkany, które chcą nas i są szczęśliwe, zamiast czegoś, co nie podziela naszych wartości.

Mówi to, ponieważ może się zdarzyć. Jeśli coś staje się mądrzejsze od nas, dlaczego nadal nam służy? W najgorszym przypadku przejmuje wszystkie procesy produkcyjne i zużywa całą materię, aby przekształcić ją w materiał zdolny do obliczeń, rozciągając się na zewnątrz w nieskończoność, aż cała materia zostanie zużyta.

Wiemy, że sztuczna inteligencja jest niebezpieczna, ale to nie ma znaczenia, ponieważ większość ludzi w nią nie wierzy. Jest to sprzeczne z wszelkimi wygodami, jakie religia ma do zaoferowania. Człowiek jest wszechobecnym wszechświatem i jeśli ten fakt zostanie zakwestionowany, ludzie poczują się nie na miejscu i bez celu.

Faktem jest, że większość ludzi po prostu nie przyznaje, że jest to możliwe lub że stanie się to za naszych wcieleń, mimo że wielu renomowanych ekspertów AI stwarza występowanie osobliwości w ciągu dwóch dekad. Jeśli ludzie naprawdę uznają, że inteligencja inteligentna od nich jest możliwa, czy nie żyliby inaczej? Czy nie będą chcieli robić rzeczy, które im się podobają, wiedząc, że cokolwiek robią, czego się obawiają, zostaną zautomatyzowane? Czy nie wszyscy domagaliby się powszechnego dochodu podstawowego?

Innym powodem, dla którego nie zakazujemy, jest to, że jego obietnica jest tak wspaniała. Jeden badacz może zostać powiększony o 1000 cyfrowych asystentów badawczych. Cała praca fizyczna może być zautomatyzowana. Po raz pierwszy technologia oferuje nam prawdziwą swobodę robienia tego, co chcemy.

Ale nawet w tym najlepszym scenariuszu, w którym nas nie dogoni, ludzie nadal muszą dostosować swój system gospodarczy i zmienić go na taki, w którym praca nie jest konieczna. W przeciwnym razie ci, którzy nie są przeszkoleni technicznie, będą głodować i buntować się.