Czy inteligencja ludzka jest mądrym celem? [Zamknięte]

Wydaje się, że w literaturze zawsze koncentrowano się na przybliżeniu elementów ludzkiego umysłu, zakładając, że jest on najbardziej zaawansowany. Jeśli inne zwierzęta pojawiły się w krajobrazie AI, chodziło tylko o badanie naczelnych w sposób, który nie jest praktyczny do badania ludzi lub do symulacji aktywności nerwowej ślimaka, ponieważ jego układ nerwowy jest prosty.

Być może istnieje bardziej perspektywiczny powód, aby rozważyć zastosowanie niższych form życia jako modelu pożądanej sztucznej inteligencji. Czytałem, co EO Wilson i inni mieli do powiedzenia na temat zdolności innych gatunków do współpracy. Istnieją niezwykłe cechy w organizmach tak prostych i zdolnych do adaptacji jak bakterie. Z pewnością mrówki są gatunkiem modelowym do współpracy. Pszczoły miodne są prawdopodobnie najbardziej obeznane z budową, przenosząc zrównoważony styl życia i relacje z innymi gatunkami do formy sztuki znacznie przekraczającej możliwości ludzkiej inteligencji.

Wykorzystując analogie sportowe do scharakteryzowania opcji, ludzka inteligencja bardziej przypomina sporty gladiatorów przed oświeceniem lub przynajmniej hokej na lodzie, gdzie zranienie przeciwnika jest uważane za inteligentną strategię. To, co robią pszczoły, to bardziej wspinaczka górska, budowanie z precyzją i starannością.

To, co robią mrówki, przypomina wyścigi sztafetowe, w których drużyna przeciwników jest mało zainteresowana, ponieważ każda kolonia, podobnie jak każda linia na torze, jest niezależna, a linie są oznaczone. Mrówki podobnie znakują swoje terytorium, a roszczenia terytorialne są szanowane, jak w najlepszym westfalskim systemie geopolitycznym. Nie ma ani drobnej zazdrości, ani zawodów wyłącznie ze względu na dumny prymat. W przypadku mrówek, podobnie jak w przypadku inteligentnego trenera lekkoatletycznego, celem jest, aby każda noga wyścigu wypadła dobrze w porównaniu z wcześniejszymi najlepszymi sztafetami.

Bakterie to biegacze długodystansowi. Wymieniają DNA ze sobą i ignorują wszystkie zasady bólu i strachu. Zachowują się w sposób zrównoważony, który nie bierze niczego za pewnik i wykorzystuje wszystko do przetrwania. I przetrwały prawie przez cały czas istnienia Ziemi. Prawdopodobnie będą istnieć przez sto miliardów lat po odejściu ludzkości, jeśli słońce najpierw nie przejdzie do supernowej.

Dlaczego chcielibyśmy programować komputery tak, aby zachowywały się bez końca jak konkurenci? Czy ludzie pobierają inteligentne programy szachowe, aby wielokrotnie przegrywać? Nie, pobierają system operacyjny Android, ponieważ współpracuje i nic nie kosztuje. Czy nie możemy znaleźć gier o sumie niezerowej, w których możliwe są scenariusze wygrane-wygrane?

Czy nie mamy już wystarczająco agresywnych, plotkujących, hiperkrytycznych czynników z naszego gatunku? Dlaczego nie wysłać AI w kierunku inteligencji opartej na współpracy, jak mrówki? Czy nie byłoby lepiej mieć nowych sztucznych przyjaciół, którzy chcieliby dzielić ciężar codziennych zadań?

Czy nie chcemy, aby nasze roboty przyszłości budowały się jak sześciokąty? Czy też chcemy, aby nasze roboty poszły za naszym przykładem, marnując 70% materiałów w konstrukcji pionowej z powodu irracjonalnego nacisku na kąty 90 stopni, tak jak robiliby to tylko ludzie?

Ja dość słabo postrzegam ludzi jako gatunek i zaproponowałem odwrotny test Turinga, w którym ludzie są oceniani pod kątem wystarczającej ludzkości ( 仁 ). (tylko żartuję, ale nie do końca;)

Ludzie najwyraźniej nie są gatunkami odnoszącymi największe sukcesy na ziemi, jeśli wykorzystują biomasę:

W pełni zgadzam się, że mniej złożone formy życia są bardzo skuteczne i warte naśladowania w przypadku konkretnych problemów (patrz algorytmy optymalizacji kolonii mrówek ).

Ale jak wygląda świat prowadzony przez mrówki? Czy to jest świat, w którym chcemy żyć?

Konkurencja w przyrodzie jest nie tylko absolutnie brutalna, ale także ta brutalność jest mechanizmem optymalizacji gatunków (ewolucji).

Ludzie mają wady, ale osiągnęliśmy również wielkie triumfy, a to, co może nas oddzielić od zwierząt, polega na tym, że nasze sukcesy mogą również należeć do kategorii „triumfów ducha”. Tam, gdzie istnieją siły samolubstwa i chciwości, które napędzają społeczeństwo w jednym kierunku, mamy również przeciwwagę, popychającą w przeciwnych kierunkach.

Niektóre gry są po prostu sumą zerową i nie można tego obejść, ale to nie znaczy, że muszą być „wszystko albo nic” ( właśnie z tego powodu zalecamy partyzanckie Sudoku nad szachami).

Warto przyjrzeć się koncepcji znanej jako Wydajność Pareto . Spekulacje finansowe, na których obecnie opiera się większość światowej gospodarki, zależą od zasady „większego głupca”, zgodnie z którym korzyści jednego agenta zależą całkowicie od straty innego agenta. Najgorsze z nas wydają się być skoncentrowane na tych mechanizmach, z wyłączeniem wszystkich innych, ponieważ nie wymagają one rzeczywistego zaangażowania, a jedynie silniejszej analizy i / lub lepszej informacji i płynności.

Wydaje się, że najlepszym z nas jest sięgnięcie po ulepszenie Pareto, dzięki któremu agenci mogą być lepsi bez konieczności pogarszania innych agentów.

Chodzi o to, że ludzka inteligencja musiała zidentyfikować i zdefiniować te warunki. (Natura nie powinna się tym przejmować.) Optymalność Pareto budzi kontrowersje ze względu na swoje pochodzenie, ale stało się to przed branżą technologiczną, która jest bardzo dobra w tworzeniu nowych możliwości i wydaje mi się, że można ją również wykorzystać do zrównoważenia dystrybucji zasobów do spróbuj zmaksymalizować stabilność społeczną. (tj. czasem może być bardziej optymistyczne, aby być trochę gorzej).

Mój ponury pogląd na nasz gatunek nie wynika z bycia nieefektywnym lub często głupim, ale z pomysłu, że na tym etapie historii nadal zachowujemy się tak, jakbyśmy właśnie zeszli z drzew, cofając się zamiast tego do plemienności i konfliktu partyzanckiego współpracy.

W przeciwieństwie do twojej tezy:

• Uważam, że nie tylko ważne jest sięganie po inteligencję algorytmiczną na poziomie ludzkim, ale także obowiązek „humanizowania” takich algorytmów w jak największym stopniu.

Superinteligencja i AGI są wciąż na horyzoncie i całkowicie teoretyczne, ale jeśli zostaną one osiągnięte, a algorytmy te będą czystym mechanizmem, pozbawionym wartości, które my, ludzie, w najlepszym wypadku pielęgnujemy, możemy stać się jedynie kolejną ofiarą procesu ewolucyjnego , przestarzałe przez nowe formy sztucznego życia, z którymi nie mamy szans konkurować.

W pewnym sensie dążenie do tego, co ludzkie, można uznać za celebrację ludzkości, bardziej wyrafinowaną, ale nie zupełnie inną duchowo niż Dawid Michała Anioła.

Mimo że natura ludzka ma wiele wad, zdecydowanie odnosi największe sukcesy, o ile istnieje, jak wskazał @DukeZhou. Sukces można całkowicie i całkowicie nawiązać do faktu, że mamy bardzo dobrze funkcjonujący i zdolny mózg. W porównaniu do innych gatunków jesteśmy fizycznie (sprawność fizyczna) o wiele bardziej niezdolni. Więc jeśli próbujemy stworzyć sztuczną inteligencję, nie powinniśmy próbować modelować własnego mózgu, najlepszego inteligentnego systemu na świecie?

Jedyną rzeczą, za którą tęskniłeś, jest to, że ludzie są o wiele spokojniejsi niż wszystkie inne zwierzęta. Zwierzęta są w ciągłej wojnie o przetrwanie, my, ludzie, byliśmy w stanie przezwyciężyć to wszystko i żyjemy w najspokojniejszych czasach w całym tysiącleciu. Mogą pojawić się konflikty, które można przypisać naszym genom. Nasze geny pochodzą od naszych przodków zwierząt, którzy wizualizują wiele rzeczy jako zagrożenia (w tym zwierzęta tego samego gatunku przeciwnej płci, proces myślenia przeciwnego może być również postrzegany jako zagrożenie). Musi więc przeniknąć do naszej mentalności. Czy możemy to zmienić? Być może nie (być może jest to sprzeczne z prawami natury i doboru naturalnego).

Zobaczmy 2 przypadki, w których nie było konkurencji:

• Jarawas - ci ludzie mieszkają w odosobnieniu na wyspie (nawet teraz). W rezultacie nadal prowadzą styl życia zbieraczy myśliwych, co można przypisać temu, że nie czuli potrzeby zmiany, ponieważ nie widzieli zagrożenia dla ich życia lub pozycji. Ponieważ jesteśmy mądrzy, nie atakujemy ich terytoriów, wiedząc, że nie przetrwają przeciwko nowoczesnej technologii (również dlatego, że nie stanowią dla nas żadnego zagrożenia).
• Rdzenni Amerykanie : gdy Europa i Azja były w stanie wojny, ludzie ci mieszkali na wyspie (tylko z walkami wewnętrznymi). W rezultacie ich technologie prawie nie ewoluowały i zostały prawie całkowicie zniszczone.

Współdziałanie mrówek i pszczół jest dla mnie mylące. Wynika to całkowicie z faktu, że wszystkie mrówki / pszczoły w danej kolonii są rodzeństwem (w przeciwnym razie brutalnie zabijają inne kolonie). Zachowują także granice terytorialne, dopóki jest w nich mnóstwo zasobów, w przeciwnym razie wybuchnie wojna (nie mogę cytować żadnych źródeł, ale słyszałem, że wiele mrówek atakuje terytoria innych mrówek).

Bakterie nie odczuwają bólu ani strachu, ale twierdzenie, że istniały długo z powodu współpracy, nie wydaje mi się całkowicie poprawne. Prawdopodobnie mają skuteczny mechanizm przetrwania.

Chodzi o to, że nie ma różowego obrazu królestwa zwierząt, jak powiedział @Neil Slater.

Zastanawiasz się, jak powinniśmy stworzyć zachowanie AI? AI nie mają na razie genów, więc nie mają żadnych zobowiązań wobec potomstwa i nie będą zazdrościły, co oznacza, że ​​brakuje im podstawowych elementów budulcowych organizmu biologicznego (a zatem nie mają wobec niego żadnych zobowiązań / zainteresowań). Ale wierzę, że konkurencja jest dobra wśród AI, w przeciwnym razie, w jaki sposób będą uczyć się nowych strategii? Zatem rywalizacja bez zazdrości jest najlepszym scenariuszem dla agentów AI (może nie być tak w królestwie zwierząt). jeśli nie będzie konkurencji, wiedza między AI prawdopodobnie ulegnie stagnacji.

Nie jestem ekspertem w teorii gier, ale jeśli 2 lub więcej agentów konkuruje ze sobą, muszą stosować się do teorii gier, aby zmaksymalizować swoje wyniki (prawdopodobnie stwierdzając skuteczność Pareto, jak zauważył @DukeZhou, lub z punktu widzenia fizyki energia nie jest ani tworzona, ani niszczona , dystrybuowane tylko z systemu na system). Ale tutaj jest haczyk, istnieje wiele realnych strategii całkowicie zależnych od środowiska . Był to temat, który został zbadany przez informatyków Axelrod i Hamilton, gdzie przetestowali wiele strategii. Uproszczoną wersję ich eksperymentów można znaleźć w The Selfish Generozdział 12 książki. Ich eksperymenty (symulowane na komputerze) najwyraźniej dają pewne dowody na to, że mili faceci (faceci, którzy faworyzują się bezwarunkowo) nie zawsze przegrywają z samolubnymi facetami. Trzeba to dokładniej zbadać, jeśli naprawdę chcemy stworzyć kolonię AI.

TL; DR : Porównywanie AI z królestwem zwierząt jest niesprawiedliwe, ponieważ brakuje im podstawowej jednostki przetrwania (genu). Ludzie są zdecydowanie najinteligentniejsi i najbardziej pokojowi w całym królestwie zwierząt. Rywalizacja bez zazdrości jest prawdopodobnie najlepszym sposobem działania w każdej kolonii lub gatunku.

Niektóre cechy ludzkiej inteligencji są z pewnością częścią podstawowego długoterminowego celu sztucznej inteligencji. Większość tych cech to oczywiście także właściwości innych gatunków. Naprawdę kluczową kwestią jest to, jak komputer może postrzegać nie tylko w ludzki sposób, ale w ogóle? Symbole emitowane z czujników cyfrowych nie wskazują, co zostało wykryte. Jedyne, co dostaje komputer, to symbole, więc w jaki sposób komputer może cokolwiek postrzegać?

Inną naprawdę istotną kwestią jest to, że ludzie i prawdopodobnie większość innych zwierząt w pewnym stopniu mają ogólną inteligencję - mogą zastosować to, czego nauczyli się w przeszłości, do nowych sytuacji. U ludzi istnieje wersja ogólnego problemu wiedzy, która dotyczy języka, więc jest to sprawa czysto ludzka. Ale wiele zwierząt ma pewną wiedzę ogólną. Sztuczna inteligencja nie stworzyła jeszcze maszyny o ogólnej wiedzy. Katastrofalny wpływ „przypadków skrajnych” na oprogramowanie AI samokierującego pojazdu jest bardzo niepokojącym dowodem. Jak zdobyć ogólną inteligencję jest również absolutnie podstawowym problemem.

Podsumowując moją odpowiedź: obecnie inteligencja ludzka nie jest mądrym celem. AI ma znacznie bardziej podstawowe problemy. Inteligentnym celem obecnie jest zrozumienie zasad percepcji i sposobu wcielenia ich w komputer (zakładając, że jest to możliwe) oraz zrozumienie zasad ogólnej inteligencji i sposobu ich urzeczywistnienia.

To znaczy, aby dowiedzieć się, w jaki sposób zwierzę zna swoje środowisko i jak odpowiednio reaguje na nowe sytuacje na podstawie przeszłych doświadczeń.