Czy inteligencja ludzka jest mądrym celem? [Zamknięte]

9

Wydaje się, że w literaturze zawsze koncentrowano się na przybliżeniu elementów ludzkiego umysłu, zakładając, że jest on najbardziej zaawansowany. Jeśli inne zwierzęta pojawiły się w krajobrazie AI, chodziło tylko o badanie naczelnych w sposób, który nie jest praktyczny do badania ludzi lub do symulacji aktywności nerwowej ślimaka, ponieważ jego układ nerwowy jest prosty.

Być może istnieje bardziej perspektywiczny powód, aby rozważyć zastosowanie niższych form życia jako modelu pożądanej sztucznej inteligencji. Czytałem, co EO Wilson i inni mieli do powiedzenia na temat zdolności innych gatunków do współpracy. Istnieją niezwykłe cechy w organizmach tak prostych i zdolnych do adaptacji jak bakterie. Z pewnością mrówki są gatunkiem modelowym do współpracy. Pszczoły miodne są prawdopodobnie najbardziej obeznane z budową, przenosząc zrównoważony styl życia i relacje z innymi gatunkami do formy sztuki znacznie przekraczającej możliwości ludzkiej inteligencji.

Wykorzystując analogie sportowe do scharakteryzowania opcji, ludzka inteligencja bardziej przypomina sporty gladiatorów przed oświeceniem lub przynajmniej hokej na lodzie, gdzie zranienie przeciwnika jest uważane za inteligentną strategię. To, co robią pszczoły, to bardziej wspinaczka górska, budowanie z precyzją i starannością.

To, co robią mrówki, przypomina wyścigi sztafetowe, w których drużyna przeciwników jest mało zainteresowana, ponieważ każda kolonia, podobnie jak każda linia na torze, jest niezależna, a linie są oznaczone. Mrówki podobnie znakują swoje terytorium, a roszczenia terytorialne są szanowane, jak w najlepszym westfalskim systemie geopolitycznym. Nie ma ani drobnej zazdrości, ani zawodów wyłącznie ze względu na dumny prymat. W przypadku mrówek, podobnie jak w przypadku inteligentnego trenera lekkoatletycznego, celem jest, aby każda noga wyścigu wypadła dobrze w porównaniu z wcześniejszymi najlepszymi sztafetami.

Bakterie to biegacze długodystansowi. Wymieniają DNA ze sobą i ignorują wszystkie zasady bólu i strachu. Zachowują się w sposób zrównoważony, który nie bierze niczego za pewnik i wykorzystuje wszystko do przetrwania. I przetrwały prawie przez cały czas istnienia Ziemi. Prawdopodobnie będą istnieć przez sto miliardów lat po odejściu ludzkości, jeśli słońce najpierw nie przejdzie do supernowej.

Dlaczego chcielibyśmy programować komputery tak, aby zachowywały się bez końca jak konkurenci? Czy ludzie pobierają inteligentne programy szachowe, aby wielokrotnie przegrywać? Nie, pobierają system operacyjny Android, ponieważ współpracuje i nic nie kosztuje. Czy nie możemy znaleźć gier o sumie niezerowej, w których możliwe są scenariusze wygrane-wygrane?

Czy nie mamy już wystarczająco agresywnych, plotkujących, hiperkrytycznych czynników z naszego gatunku? Dlaczego nie wysłać AI w kierunku inteligencji opartej na współpracy, jak mrówki? Czy nie byłoby lepiej mieć nowych sztucznych przyjaciół, którzy chcieliby dzielić ciężar codziennych zadań?

Czy nie chcemy, aby nasze roboty przyszłości budowały się jak sześciokąty? Czy też chcemy, aby nasze roboty poszły za naszym przykładem, marnując 70% materiałów w konstrukcji pionowej z powodu irracjonalnego nacisku na kąty 90 stopni, tak jak robiliby to tylko ludzie?

Douglas Daseeco
źródło
3
Masz bardzo różową opinię na temat konkurencji między koloniami owadów społecznych. Stwierdzenie „nie ma zainteresowania drużyną przeciwną, ponieważ każda kolonia, podobnie jak każda linia na torze jest niezależna”, po prostu nie jest prawdą. Kolonie mrówek będą konkurować i walczyć z innymi członkami własnego gatunku, a na pewno z innymi gatunkami. Chociaż ja (i myślę, że wiele osób) zgodziłbym się na docenienie innych form zdolności / inteligencji równie dobrze przystosowanych jak ludzie, nadal istnieje zaciekła konkurencja międzygatunkowa, międzygatunkowa i często wzajemne relacje we wszystkich gatunkach.
Neil Slater,
1
@NeilSlater bardzo poprawnie ... Organizmy chcą po prostu, aby ich DNA się rozmnażało, a mrówki i pszczoły (robotnicy) dzielą 50% DNA z innymi pracownikami ... To jest ich główna motywacja
DuttaA
Tak jak mówiłem, dzielą geny tylko w swojej kolonii i zabijają mrówki z innej kolonii, nawet jeśli tego samego gatunku ... Ludzie nie dzielą genów, chyba że jest to członek rodziny, w którym widzisz bezinteresowną pomoc (ogólnie) ... Ale odkąd mamy tak duży mózg (mózg zdolny), gromadzimy doświadczenia, które zmieniają nasze zachowanie genetyczne i możemy stać się wrogo nastawieni do rodziny ... Chcę odpowiedzieć na twoje pytanie, ale będzie dość duże, więc zrobię to, kiedy dostanę czas
DuttaA,
Bakterie / mrówki / pszczoły, nie wiedzą, że to, co robią, jest inteligentne, nie mogą zastanowić się nad tym, co robią, i opracować bardziej wydajne metody. Czy potrafisz sprawić, by te proste istoty osiągnęły cele inne niż te, które już osiągnęły? Nie.
Ankur,
1
@Ankur Możesz jednak przestudiować zasady działania ich udanego zachowania i zastosować je sztucznie w przypadku nowego problemu. Jest to coś, co zostało zrobione, a pytanie PO zawiera kilka interesujących punktów, takich jak to, czy wystarcza to na pokrycie wszystkich pożądanych przypadków użycia AI i czy byłoby to bezpieczniejsze / lepsze podejście. Myślę, że „nie” i „nie” na te pytania, ale znalezienie odpowiedzi wymagałoby pewnego wysiłku.
Neil Slater,

Odpowiedzi:

6

Ja dość słabo postrzegam ludzi jako gatunek i zaproponowałem odwrotny test Turinga, w którym ludzie są oceniani pod kątem wystarczającej ludzkości ( ). (tylko żartuję, ale nie do końca;)

Ludzie najwyraźniej nie są gatunkami odnoszącymi największe sukcesy na ziemi, jeśli wykorzystują biomasę:

wprowadź opis zdjęcia tutaj

W pełni zgadzam się, że mniej złożone formy życia są bardzo skuteczne i warte naśladowania w przypadku konkretnych problemów (patrz algorytmy optymalizacji kolonii mrówek ).

Ale jak wygląda świat prowadzony przez mrówki? Czy to jest świat, w którym chcemy żyć?

Konkurencja w przyrodzie jest nie tylko absolutnie brutalna, ale także ta brutalność jest mechanizmem optymalizacji gatunków (ewolucji).

Ludzie mają wady, ale osiągnęliśmy również wielkie triumfy, a to, co może nas oddzielić od zwierząt, polega na tym, że nasze sukcesy mogą również należeć do kategorii „triumfów ducha”. Tam, gdzie istnieją siły samolubstwa i chciwości, które napędzają społeczeństwo w jednym kierunku, mamy również przeciwwagę, popychającą w przeciwnych kierunkach.

Niektóre gry są po prostu sumą zerową i nie można tego obejść, ale to nie znaczy, że muszą być „wszystko albo nic” ( właśnie z tego powodu zalecamy partyzanckie Sudoku nad szachami).

Warto przyjrzeć się koncepcji znanej jako Wydajność Pareto . Spekulacje finansowe, na których obecnie opiera się większość światowej gospodarki, zależą od zasady „większego głupca”, zgodnie z którym korzyści jednego agenta zależą całkowicie od straty innego agenta. Najgorsze z nas wydają się być skoncentrowane na tych mechanizmach, z wyłączeniem wszystkich innych, ponieważ nie wymagają one rzeczywistego zaangażowania, a jedynie silniejszej analizy i / lub lepszej informacji i płynności.

Wydaje się, że najlepszym z nas jest sięgnięcie po ulepszenie Pareto, dzięki któremu agenci mogą być lepsi bez konieczności pogarszania innych agentów.

Chodzi o to, że ludzka inteligencja musiała zidentyfikować i zdefiniować te warunki. (Natura nie powinna się tym przejmować.) Optymalność Pareto budzi kontrowersje ze względu na swoje pochodzenie, ale stało się to przed branżą technologiczną, która jest bardzo dobra w tworzeniu nowych możliwości i wydaje mi się, że można ją również wykorzystać do zrównoważenia dystrybucji zasobów do spróbuj zmaksymalizować stabilność społeczną. (tj. czasem może być bardziej optymistyczne, aby być trochę gorzej).

Mój ponury pogląd na nasz gatunek nie wynika z bycia nieefektywnym lub często głupim, ale z pomysłu, że na tym etapie historii nadal zachowujemy się tak, jakbyśmy właśnie zeszli z drzew, cofając się zamiast tego do plemienności i konfliktu partyzanckiego współpracy.

W przeciwieństwie do twojej tezy:

  • Uważam, że nie tylko ważne jest sięganie po inteligencję algorytmiczną na poziomie ludzkim, ale także obowiązek „humanizowania” takich algorytmów w jak największym stopniu.

Superinteligencja i AGI są wciąż na horyzoncie i całkowicie teoretyczne, ale jeśli zostaną one osiągnięte, a algorytmy te będą czystym mechanizmem, pozbawionym wartości, które my, ludzie, w najlepszym wypadku pielęgnujemy, możemy stać się jedynie kolejną ofiarą procesu ewolucyjnego , przestarzałe przez nowe formy sztucznego życia, z którymi nie mamy szans konkurować.

W pewnym sensie dążenie do tego, co ludzkie, można uznać za celebrację ludzkości, bardziej wyrafinowaną, ale nie zupełnie inną duchowo niż Dawid Michała Anioła.

DukeZhou
źródło
@DouglasDaseeco Naprawdę podoba mi się twoje pytanie b / c W 100% zgadzam się z Tobą odnośnie ogólnej użyteczności / korzyści funkcji „niskiego poziomu”. Część mojego projektu obejmuje ocenę wydajności uogólnionej heurystyki w porównaniu z algorytmami uczenia się w niektórych zestawach problemów, w których czas / zasoby są poważnie ograniczone, a w szczególności tam, gdzie topologia obecnego problemu nie jest wcześniej znana. Kiedy rozsądne, ale mniej optymalne decyzje gospodarcze są podejmowane szybciej, przynoszą więcej łącznych korzyści niż bardziej optymalne decyzje wymagające więcej zasobów i czasu?
DukeZhou
@DouglasDaseeco Na froncie „mitologii sztucznej inteligencji” kilku wiodących autorów, takich jak Stephenson i Gibson, ostatnio bardziej zainteresowało się opisywaną przez ciebie ograniczoną inteligencją. (Stephenson ma wykształcenie inżynierskie i nigdy nie był zainteresowany AGI, ale Gibson napisał o tym w swoich pierwszych książkach.)
DukeZhou
@DouglasDaseeco uzgodnione. Warto również zauważyć, że ogólny konsensus naszego gatunku wydaje się, że ludobójstwo jest przekleństwem, i zaczęliśmy myśleć o znaczeniu różnorodności biologicznej, starając się zachować gatunki zagrożone wyginięciem. Myślę, że jeśli kiedykolwiek spadniemy z naszej pozycji na szczycie łańcucha pokarmowego, byłoby bardzo dobrze, gdyby cokolwiek, co nas zastąpi, podzieliło te cele, to my potrzebujemy ochrony! (Uważam, że Philip K. Dick jest najbardziej znaczący, ponieważ jego hipoteza jest taka, że ​​empatia jest naturalną funkcją wystarczająco zaawansowanej inteligencji.)
DukeZhou
3

Mimo że natura ludzka ma wiele wad, zdecydowanie odnosi największe sukcesy, o ile istnieje, jak wskazał @DukeZhou. Sukces można całkowicie i całkowicie nawiązać do faktu, że mamy bardzo dobrze funkcjonujący i zdolny mózg. W porównaniu do innych gatunków jesteśmy fizycznie (sprawność fizyczna) o wiele bardziej niezdolni. Więc jeśli próbujemy stworzyć sztuczną inteligencję, nie powinniśmy próbować modelować własnego mózgu, najlepszego inteligentnego systemu na świecie?

Jedyną rzeczą, za którą tęskniłeś, jest to, że ludzie są o wiele spokojniejsi niż wszystkie inne zwierzęta. Zwierzęta są w ciągłej wojnie o przetrwanie, my, ludzie, byliśmy w stanie przezwyciężyć to wszystko i żyjemy w najspokojniejszych czasach w całym tysiącleciu. Mogą pojawić się konflikty, które można przypisać naszym genom. Nasze geny pochodzą od naszych przodków zwierząt, którzy wizualizują wiele rzeczy jako zagrożenia (w tym zwierzęta tego samego gatunku przeciwnej płci, proces myślenia przeciwnego może być również postrzegany jako zagrożenie). Musi więc przeniknąć do naszej mentalności. Czy możemy to zmienić? Być może nie (być może jest to sprzeczne z prawami natury i doboru naturalnego).

Zobaczmy 2 przypadki, w których nie było konkurencji:

  • Jarawas - ci ludzie mieszkają w odosobnieniu na wyspie (nawet teraz). W rezultacie nadal prowadzą styl życia zbieraczy myśliwych, co można przypisać temu, że nie czuli potrzeby zmiany, ponieważ nie widzieli zagrożenia dla ich życia lub pozycji. Ponieważ jesteśmy mądrzy, nie atakujemy ich terytoriów, wiedząc, że nie przetrwają przeciwko nowoczesnej technologii (również dlatego, że nie stanowią dla nas żadnego zagrożenia).
  • Rdzenni Amerykanie : gdy Europa i Azja były w stanie wojny, ludzie ci mieszkali na wyspie (tylko z walkami wewnętrznymi). W rezultacie ich technologie prawie nie ewoluowały i zostały prawie całkowicie zniszczone.

Współdziałanie mrówek i pszczół jest dla mnie mylące. Wynika to całkowicie z faktu, że wszystkie mrówki / pszczoły w danej kolonii są rodzeństwem (w przeciwnym razie brutalnie zabijają inne kolonie). Zachowują także granice terytorialne, dopóki jest w nich mnóstwo zasobów, w przeciwnym razie wybuchnie wojna (nie mogę cytować żadnych źródeł, ale słyszałem, że wiele mrówek atakuje terytoria innych mrówek).

Bakterie nie odczuwają bólu ani strachu, ale twierdzenie, że istniały długo z powodu współpracy, nie wydaje mi się całkowicie poprawne. Prawdopodobnie mają skuteczny mechanizm przetrwania.

Chodzi o to, że nie ma różowego obrazu królestwa zwierząt, jak powiedział @Neil Slater.

Zastanawiasz się, jak powinniśmy stworzyć zachowanie AI? AI nie mają na razie genów, więc nie mają żadnych zobowiązań wobec potomstwa i nie będą zazdrościły, co oznacza, że ​​brakuje im podstawowych elementów budulcowych organizmu biologicznego (a zatem nie mają wobec niego żadnych zobowiązań / zainteresowań). Ale wierzę, że konkurencja jest dobra wśród AI, w przeciwnym razie, w jaki sposób będą uczyć się nowych strategii? Zatem rywalizacja bez zazdrości jest najlepszym scenariuszem dla agentów AI (może nie być tak w królestwie zwierząt). jeśli nie będzie konkurencji, wiedza między AI prawdopodobnie ulegnie stagnacji.

Nie jestem ekspertem w teorii gier, ale jeśli 2 lub więcej agentów konkuruje ze sobą, muszą stosować się do teorii gier, aby zmaksymalizować swoje wyniki (prawdopodobnie stwierdzając skuteczność Pareto, jak zauważył @DukeZhou, lub z punktu widzenia fizyki energia nie jest ani tworzona, ani niszczona , dystrybuowane tylko z systemu na system). Ale tutaj jest haczyk, istnieje wiele realnych strategii całkowicie zależnych od środowiska . Był to temat, który został zbadany przez informatyków Axelrod i Hamilton, gdzie przetestowali wiele strategii. Uproszczoną wersję ich eksperymentów można znaleźć w The Selfish Generozdział 12 książki. Ich eksperymenty (symulowane na komputerze) najwyraźniej dają pewne dowody na to, że mili faceci (faceci, którzy faworyzują się bezwarunkowo) nie zawsze przegrywają z samolubnymi facetami. Trzeba to dokładniej zbadać, jeśli naprawdę chcemy stworzyć kolonię AI.

TL; DR : Porównywanie AI z królestwem zwierząt jest niesprawiedliwe, ponieważ brakuje im podstawowej jednostki przetrwania (genu). Ludzie są zdecydowanie najinteligentniejsi i najbardziej pokojowi w całym królestwie zwierząt. Rywalizacja bez zazdrości jest prawdopodobnie najlepszym sposobem działania w każdej kolonii lub gatunku.

DuttaA
źródło
1
W teorii gier równowaga Nasha jest punktem stabilnym, a wydajność Pareto jest miarą całkowitej użyteczności. Dylemat więźnia jest dobrym przykładem, gdy nie są one zmaksymalizowane tak samo; logiczny punkt minimax powoduje uszkodzenie obu więźniów, ale maksymalna łączna użyteczność ma miejsce, gdy obaj współpracują. Niestety, wiele konkurencyjnych systemów ma tę różnicę między optymami Pareto i Nash.
Neil Slater,
@NeilSlater axelrod badał dylemat więźniów w szerszym znaczeniu ... najwyraźniej miał kilka interesujących ustaleń
DuttaA
0

Niektóre cechy ludzkiej inteligencji są z pewnością częścią podstawowego długoterminowego celu sztucznej inteligencji. Większość tych cech to oczywiście także właściwości innych gatunków. Naprawdę kluczową kwestią jest to, jak komputer może postrzegać nie tylko w ludzki sposób, ale w ogóle? Symbole emitowane z czujników cyfrowych nie wskazują, co zostało wykryte. Jedyne, co dostaje komputer, to symbole, więc w jaki sposób komputer może cokolwiek postrzegać?

Inną naprawdę istotną kwestią jest to, że ludzie i prawdopodobnie większość innych zwierząt w pewnym stopniu mają ogólną inteligencję - mogą zastosować to, czego nauczyli się w przeszłości, do nowych sytuacji. U ludzi istnieje wersja ogólnego problemu wiedzy, która dotyczy języka, więc jest to sprawa czysto ludzka. Ale wiele zwierząt ma pewną wiedzę ogólną. Sztuczna inteligencja nie stworzyła jeszcze maszyny o ogólnej wiedzy. Katastrofalny wpływ „przypadków skrajnych” na oprogramowanie AI samokierującego pojazdu jest bardzo niepokojącym dowodem. Jak zdobyć ogólną inteligencję jest również absolutnie podstawowym problemem.

Podsumowując moją odpowiedź: obecnie inteligencja ludzka nie jest mądrym celem. AI ma znacznie bardziej podstawowe problemy. Inteligentnym celem obecnie jest zrozumienie zasad percepcji i sposobu wcielenia ich w komputer (zakładając, że jest to możliwe) oraz zrozumienie zasad ogólnej inteligencji i sposobu ich urzeczywistnienia.

To znaczy, aby dowiedzieć się, w jaki sposób zwierzę zna swoje środowisko i jak odpowiednio reaguje na nowe sytuacje na podstawie przeszłych doświadczeń.

Roddus
źródło
Bardzo powszechny widok zabójstwa drogowego dość wyraźnie pokazuje, że wiele zwierząt cierpi z powodu katastrofalnych skutków „przypadków skrajnych”. Stwierdzenie „Symbole emitowane z czujników cyfrowych nie wskazują, co zostało wykryte”. jest interesujący i porusza niektóre argumenty, które są pro lub antysilną AI. Neurobiolog może również powiedzieć „sygnały emitowane przez pręty oczne i stożki, a neurony ruchowe sterujące mięśniami nie wskazują na to, co zostało wykryte”. To głównie nasze osobiste świadome doświadczenie daje wskazówkę, że coś się dzieje. Nie rozumiemy, co to jest.
Neil Slater,
@Neil Slater Dokładnie, więc nie znamy też zasad, w jaki sposób mózg organiczny uzyskuje struktury semantyczne. W pulsach neuronowych jest coś, co wskazuje na to, co zostało wykryte. Ale mózgi organiczne mają semantykę. Można by pomyśleć, że ten fakt zainspiruje guru do wyjaśnienia, co jest nie tak z chińskim pokojem Searle i jego założeniem, że symbole są semantycznie puste. Jasne, że są. Ale podobnie są impulsy neuronowe.
Roddus,