Co miał na myśli Turing, mówiąc, że „maszyny nie mogą wywoływać niespodzianek” wynika z błędu?

29

Natknąłem poniżej rachunku przez Alana M. Turinga tutaj :

„Pogląd, że maszyny nie mogą wywoływać niespodzianek, jest, jak sądzę, spowodowany błędem, któremu szczególnie podoba się filozofów i matematyków. Jest to założenie, że jak tylko fakt zostanie przedstawiony umysłowi, wszystkie konsekwencje tego faktu stają się widoczne umysł jednocześnie z nim. Jest to bardzo przydatne założenie w wielu okolicznościach, ale zbyt łatwo można zapomnieć, że jest ono fałszywe ”.

Nie jestem rodzimym językiem angielskim. Czy ktoś mógłby to wyjaśnić zwykłym angielskim?

turing-machines computability computation-models smwikipedia
źródło
2
być może lepiej nadaje się na portal filozoficzny niż na twardą naukę, jak CS
Bulat
3
@Bulat Chciałem powiedzieć to samo - i przekierować do osób uczących się języka angielskiego - ale potem zdałem sobie sprawę, że istnieją pewne treści związane z CS, które można wyjaśnić w odpowiedzi, które prawdopodobnie nie zostaną zebrane w inne części Stack Exchange.
David Richerby
7
Dobrym przykładem jest iteracja transformacji z: = z² + c , gdzie z i c są liczbami zespolonymi. Co się stanie, jeśli wezmę dowolny punkt początkowy na płaszczyźnie z i iteruje, czy liczba osiągnie nieskończoność, czy nie? Zwykły człowiek powiedziałby: tak, da ci to dwa regiony, a może kilka innych, gdzie wartość spada do zera, a reszta do nieskończoności. Względnie nic dziwnego. Następnie pojawia się Mandelbrot i rysuje regiony na płaszczyźnie zdefiniowanej przez tę prostą „maszynę”. Gdy wynik wychodzi z drukarki dotmatrix, ta prosta „maszyna” okazuje się… dziwna.
David Tonhofer
Facebook i inne media społecznościowe są tego doskonałym przykładem ... Wiele konsekwencji ich algorytmów nie jest czymś, czego oczekiwali twórcy (lub ktokolwiek naprawdę).
azyl
Dość dziwaczna osoba, o której kiedyś wspomniała, używając metafory ognia: „Im większe budujesz ognisko wiedzy, tym więcej ciemności objawia się twojemu zaskoczonemu oku”
JacobIRR

Odpowiedzi:

30

Matematycy i filozofowie często zakładają, że maszyny (a tutaj prawdopodobnie oznacza „komputery”) nie mogą nas zaskoczyć. Jest tak, ponieważ zakładają, że gdy poznamy jakiś fakt, natychmiast rozumiemy każdą konsekwencję tego faktu. Jest to często przydatne założenie, ale łatwo zapomnieć, że jest fałszywe.

Mówi, że systemy z prostymi, skończonymi opisami (np. Maszyny Turinga) mogą wykazywać bardzo skomplikowane zachowanie i że zaskakuje to niektórych ludzi. Możemy łatwo zrozumieć koncepcję maszyn Turinga, ale potem zdajemy sobie sprawę, że mają one skomplikowane konsekwencje, takie jak nierozstrzygalność problemu zatrzymania i tak dalej. Termin techniczny tutaj brzmi: „wiedza nie jest zamknięta w ramach dedukcji”. Oznacza to, że możemy poznać trochę faktów  , ale nie wiem,  , choć implikuje  .ZAbZAb

Szczerze mówiąc, nie jestem pewien, czy argument Turinga jest bardzo dobry. Być może mam korzyść z pisania prawie 70 lat po Turingu i rozumiem, że typowy matematyk wie znacznie więcej o logice matematycznej niż za czasów Turinga. Wydaje mi się jednak, że matematycy w większości znają ideę prostych systemów o złożonym zachowaniu. Na przykład każdy matematyk zna definicję grupy , która składa się tylko z czterech prostych aksjomatów. Ale nikt - dziś czy później - nie pomyślałby: „Ach. Znam cztery aksjomaty, dlatego znam każdy fakt dotyczący grup”. Podobnie aksjomaty Peano podają bardzo krótki opis liczb naturalnych, ale nikt, kto je czyta, nie myśli: „Racja, znam teraz każde twierdzenie o liczbach naturalnych.

David Richerby
źródło
22
Historycznie na początku XX wieku mocno akademicką wiarę w „rozwiązywanie” matematyki. Np. Program Hilberta i Whitehead + Russel's Principia Mathematica . Praca Godela rozwiązała tę misję negatywnie, ale wydaje mi się, że zajęło to trochę czasu, aby środowisko akademickie w pełni przyjęło to pojęcie; nawet w pełni uznając poprawność Godela, ludzie wciąż pamiętają wielkie idee Hilberta. Myślę, że Turing, piszący zaledwie dwie dekady po Godelu, zwróciłby się do swoich odbiorców z myślą o tym kontekście.
BurnsBA
7
Chciałbym zapytać, czy większość matematyków wie „znacznie więcej na temat logiki matematycznej” niż Turing. Ale oczywiste jest, że prawie wszyscy współcześni ludzie mają znacznie bardziej praktyczne doświadczenie w zakresie tego, co potrafią maszyny (a zwłaszcza komputery), niż on.
alephzero
4
@alephzero Nie to powiedziałem! Powiedziałem, że przeciętny matematyk dzisiaj wie więcej o logice matematycznej niż przeciętny matematyk w czasach Turinga.
David Richerby
14
Twój argument wydaje się nie być taki, że argument Turinga nie jest dobry, ale że jest niepotrzebny lub skierowany do słomianego. Podejrzewam, że Turing zmusił prawdziwych ludzi do wysunięcia takich argumentów, więc nie sądzę, żeby robił z niczego słomianego. Jak stwierdza Discrete jaszczurka w komentarzu, Turing mówi tylko, że szczególny argument przeciwko zaskakującym nas maszynom jest zły. Twoja odpowiedź mówi tylko, że ten argument jest zły, z czasem stał się jeszcze bardziej oczywisty. To powiedziawszy, ludzie (choć zwykle nie są ekspertami) nadal argumentują w tym duchu.
Derek Elkins
Jest to brak epistemicznego zamknięcia.
Dan D.
19

Tylko przykład - biorąc pod uwagę zasady szachowe, każdy powinien od razu wybrać najlepszą strategię gry w szachy.

Oczywiście to nie działa. Nawet ludzie nie są równi, a komputery mogą nas przewyższyć ze względu na ich lepsze zdolności do wyciągania wniosków z faktów.

Bulat
źródło
1
Nie jestem pewien, czy to dobry przykład. Ludzie nie łatwo wymyślić strategii szachy, tak szybko, jak one właściwie pojąć zasady, a jeśli te strategie są oczywiście błędne i bezużyteczne przeciwko bardziej doświadczonych graczy i nowoczesnych silnikach, oni by były wystarczająco dobre na początku silników szachowych komputer.
lewo około
1
Chodzi mi dokładnie o to, że nie tylko ludzie są różni, ale także komputery są różne, więc głupie komputery z epoki Turinga nie oznaczają, że zawsze będą głupie. Być może trzeba wiedzieć, że Turing zmarł na długo przed tym, zanim komputery zaczęły grać w szachy.
Bulat
1
Myślę, że to dobry przykład i oddaje istotę akapitu Turinga.
copper.hat
@leftaroundabout Więc ... czy szachy to remis, gdy gra się optymalnie, czy wygrana przez białego lub czarnego? Co więcej: stosunkowo niedawne odkrycie, że wyjątkowo długie gry końcowe mogą doprowadzić do rewizji zasad losowania 50 ruchów - takie odkrycie byłoby liczone jako „niespodzianka” po cytacie
Hagen von Eitzen
12

Jest to idea pojawiania się , kiedy złożone zachowanie wynika z interakcji stosunkowo prostych reguł. Istnieje wiele takich przykładów, jak wskazuje ten link. Kolonie owadów, stada ptaków, ławice ryb i oczywiście świadomość. W stadzie ptaków lub ławicy ryb każda osoba w roju podejmuje decyzje wyłącznie na podstawie innych, którzy bezpośrednio ją otaczają, ale kiedy zgrupujesz grupę tych osób zgodnie z tymi zasadami, zaczniesz widzieć bardziej skoordynowane zachowanie niż można się spodziewać bez planu wyższego poziomu. Jeśli wejdziesz na YouTube i obejrzysz demonstracje rojów robotów, widzicie, że wszyscy unikają się nawzajem i działają zgodnie. Zaskakujące jest to, że nie trzeba tego robić za pomocą jednego centralnego komputera koordynującego zachowanie każdego robota, ale zamiast tego można to zrobić za pomocą robotyki roju, w której, podobnie jak owady, ptaki lub ryby, każdy robot podejmuje lokalne decyzje, które prowadzą do nowej koordynacji.

Inną ciekawą demonstracją zachowań wschodzących jest Gra Życia Conwaya . Zasady gry są niezwykle proste, ale mogą prowadzić do bardzo fascynujących rezultatów

Kuszącym argumentem przeciwko zdolności komputerów do zdobywania ludzkiej inteligencji jest stwierdzenie, że skoro potrafią robić dokładnie to, do czego zostali zaprogramowani, muszą jedynie wykazywać inteligencję, z jaką je programujemy. Gdyby to była prawda, nie spodziewalibyśmy się również stosunkowo prostego zachowania neuronów, które dałyby początek ludzkiej inteligencji. Jednak, o ile możemy powiedzieć, jest to przypadek, a świadomość jest wyłaniającą się właściwością przetwarzania neuronowego. Jestem pewien, że Turing chciałby zobaczyć, co stało się dzisiaj dzięki zastosowaniu sztucznych sieci neuronowych

mowwwalker
źródło
2
Dzięki za wzmiankę o pojawieniu się. Do mojego pesymizmu na temat sztucznej inteligencji dodajesz optymizmu poprzez obliczenia .
smwikipedia,
9

Ludzie mogą założyć, że jeśli piszę program i rozumiem algorytm całkowicie, i nie ma błędów, powinienem wiedzieć, jaki byłby wynik tego programu i że nie powinno mnie to dziwić.

Turing mówi (i zgadzam się), że tak nie jest: wyniki mogą być zaskakujące. Rozwiązanie problemu sprzedawcy podróżującego może być zaskakujące. Najlepszy sposób na zbudowanie pełnego sumatora może być zaskakujący. Najlepszy ruch w szachach może być zaskakujący.

gnasher729
źródło
To wyjaśnia, dlaczego komputery mogą być zaskakujące, co stanowi pierwszą połowę cytatu, ale nie odnosisz się do części cytatu, która wyjaśnia, dlaczego konkretny argument, którego maszyny nie mogą zaskoczyć, jest błędny.
Dyskretna jaszczurka