Jakie są obecne teorie dotyczące rozwoju świadomej AI?

24

Jakie są obecne teorie dotyczące rozwoju świadomej AI? Czy ktoś próbuje rozwinąć świadomą sztuczną inteligencję?

Czy to możliwe, że świadomość jest zjawiskiem wyłaniającym się, to znaczy, że gdy włożymy wystarczającą złożoność w nasz system, stanie się samoświadoma?

Micky-D
źródło
Zakładając organizację poznawczą, abstrakcyjnie rozpoznajemy świadomość rozwiniętą w wyniku fizycznych praw ewolucji życia. I choć jest to kwestia przypadku, było to nieuniknione jak każde wydarzenie z prawdopodobieństwem zbliżającym się, nawet jeśli dokładna droga do niego jest nieprzewidywalna. Jeśli tak, sugeruje to, że sztuczne stworzenie środowiska cyfrowego symulującego podstawowe elementy środowiska, które dało początek naszej świadomości, może zostać wykorzystane do rozwinięcia „sztucznej” świadomości. (cd ....)
Craig Hicks
(.... cd) Skompresowanie życia ludzkich naukowych materiałów edukacyjnych do kilku milisekund wydaje się całkowicie prawdopodobne. Co powiesz na milion lat ewolucji poznania na dzień lub dwa na superkomputerze? Twierdziłbym, że kluczem jest symulacja środowiska, a resztą zajmą się prawa ewolucji. Symulacja środowiska jest rodzajem zadania, które ludzie mogą metodycznie atakować i, na granicy, osiągać sukces, z nieuchronnością prawa Moore'a.
Craig Hicks
Rajaneimi zaproponował rekursję i znalazłem kilka artykułów z nauk kognitywnych na temat ludzi, ale wciąż szukam artykułów omawiających to zagadnienie w kategoriach świadomości algorytmicznej.
DukeZhou

Odpowiedzi:

28

Aby odpowiedzieć na to pytanie, najpierw musimy wiedzieć, dlaczego rozwijanie świadomej AI jest trudne. Głównym powodem jest brak matematycznej lub w inny sposób rygorystycznej definicji świadomości. Jasne, że masz pojęcie świadomości, gdy go doświadczasz, a my możemy rozmawiać o filozoficznych zombie, ale nie jest to namacalna koncepcja, którą można rozbić i nad nią popracować. Co więcej, większość obecnych badań nad AI jest przede wszystkim pragmatycznym podejściem, ponieważ próbuje się zbudować model, który może dobrze działać zgodnie z pożądaną funkcją kosztów. Jest to bardzo duża i ekscytująca dziedzina, która obejmuje wiele problemów badawczych, a każde nowe odkrycie opiera się albo na teorii matematycznej, albo na empirycznych dowodach nowego algorytmu / konstrukcji modelu itp. Z tego powodu,

Aby odpowiedzieć na twoje pytanie, nikt nie próbuje stworzyć „świadomej” sztucznej inteligencji, ponieważ nie wiemy jeszcze, co to słowo oznacza, ale to nie powstrzymuje ludzi od mówienia o tym.

Jaden Travnik
źródło
„... świadoma AI jest trudna [ponieważ] nie ma matematycznej ani w żaden inny sposób rygorystycznej definicji świadomości”. Ludzka świadomość ewoluowała, osiągając dobre wyniki zgodnie z pewną funkcją kosztów, w szczególności zdolnością przetrwania zarówno na poziomie indywidualnym, jak i grupowym. Tak więc ta metoda rozwoju ma doświadczenie. W przeciwieństwie do tego, opracowywanie projektu w celu spełnienia matematycznej definicji świadomości nie ma żadnych osiągnięć.
Craig Hicks,
@CraigHicks Może nie zrozumiałem, co miałeś na myśli, ale czy masz na myśli, że sukces ewolucyjny jest wskaźnikiem świadomości. Jeśli o to ci chodziło, muszę się nie zgodzić. Istnieją żywe organizmy, które nie są uważane za samoświadome, ale odnoszą sukcesy ewolucyjne POV (na przykład wirusy i bakterie lub niektóre rośliny).
Lorenzo Donati wspiera Monikę
2
@CraigHicks Możemy opracować sztuczną inteligencję, którą można uznać za przytomną. Ale tak się stanie, chyba że nastąpi jakiś znaczący przełom konceptualny i filozoficzny, przypadkiem i szczęściem. Dzieje się tak, ponieważ dopóki nie wiemy, jak możemy zdefiniować „świadomość” (oprócz „prawdopodobnie będziemy to wiedzieć, kiedy ją zobaczymy”), nie ma sposobu, aby dowiedzieć się, jak celowo zaprojektować maszynę o potencjale wystawić to.
Arthur
2
Najwyraźniej najprostszym sposobem na stworzenie świadomej sztucznej inteligencji został przypadkowo napisany przez Yudkowsky'ego: Umieść AI w pudełku i potrząśnij nią trochę. Jeśli to przekona cię do wypuszczenia go z pudełka, prawdopodobnie przegrałeś =)
Cort Ammon - Przywróć Monikę
1
Zgadzam się, że jest to całkowicie możliwe przez przypadek, problem polega na tym, że podobnie jak w przypadku filozoficznego argumentu o zombie, nie ma jeszcze testu na stwierdzenie, że coś się naprawdę wydarzyło. Osobiście nie sądzę, aby taki test w ogóle istniał i dlatego prawdopodobnie w najbliższej przyszłości należy być bardziej grzecznym dla swoich chatbotów i osobistych asystentów, na wypadek, gdybyś zranił ich uczucia. „Dzięki siri”.
Jaden Travnik
7

Czym jest świadomość? Istnieje kilka prawdziwych wyzwań związanych z ustanowieniem świadomości jako celu, ponieważ nie mamy jeszcze zbyt naukowego zrozumienia tego, jak robi to mózg ani jaka jest równowaga między pamięcią długoterminową, pamięcią krótkotrwałą, domniemaną dzieło interpretacji, przeciwstawne świadome tryby automatycznego przetwarzania i celowego przetwarzania (S1 i S2 Khanemanna). John Kihlstrom (emerytowany psycholog z Berkeley) ma wykład na temat Świadomości dostępny w iTunesU, który możesz sprawdzić. Carnegie-Mellon Uni ma model o nazwie ACT-R, który bezpośrednio modeluje świadome zachowania, takie jak zwracanie uwagi.

Co może ograniczać nasze rozumienie tego? Filozofia od dawna rozważa kwestię świadomości. Osobiście lubię Hegla i Heideggera (filozofów). Oba są bardzo trudne do odczytania, ale Heidegger (interpretowany przez Huberta Dreyfusa) użytecznie skrytykował projekty „Good Old-Fashioned AI” z lat siedemdziesiątych i wskazał, jak bardzopraca polega tylko na interpretacji danych wizualnych. Hegel jest często oczerniany, ale aby go dobrze zinterpretować, sprawdź rozmowy Roberta Brandoma z LMU na temat logiki świadomości i Hegla jako wczesnego pragmatyka sprzedawców. Jeśli świadomość ma uchwycić prawdę i pewność, podejmuje „ścieżkę zwątpienia, a właściwie szosę rozpaczy”, wzdłuż której nigdy nie stawia się ponad korektą. Jest coś w traktowaniu świadomości przez Hegla w kategoriach rekurencyjnych, bez ulegania okrutnemu regresowi, co, jak sądzę, zostanie potwierdzone przed końcem.

Ostatnie zmiany. Podejścia do głębokiego uczenia się i pragmatyczne sukcesy teraźniejszości są ekscytujące, ale interesujące będzie zobaczenie, jak daleko mogą posunąć się w integracji i uogólnieniu od koniecznie niewielkich zbiorów informacji, na jakie narażeni są ludzie. Podczas gdy głębokie uczenie się i eksploracja danych są niezwykle widoczne, podejście symboliczne wciąż jest coraz lepsze i bardziej zróżnicowane. Brakuje jednak nadrzędnej interpretacji teoretycznej, która pozwalałaby na uogólnienia.

Dwa palce o dużych teoriach. Gdybym miał wybrać projekt myślałem wartości zajmujące się Giulio Tononi (et al) utworzyły bardzo ładne modernizacji problemu w „ Integrated Information Theory ” Ale może chcesz rozszerzyć że z czymś Rolf Pfeifer „s” Jak ciało kształtuje nasz sposób myślenia, ponieważ niektóre „zintegrowane informacje” są implikowane w posiadaniu rąk i nóg, oczu i nosa (umieszczonych tam przez gromadzącą informacje pracę ewolucji). Ale jest tyle dobrej pracy, która została gotowe - profesjonaliści piszą papiery szybciej niż potrafię je przeczytać.

Bardziej szczegółowo na twoje pytanie, próbujemy symulować ludzki mózg, mając nadzieję, że ogólny cel pomoże sfinansować badania i uzyskać odpowiedzi na każdy z powyższych paragrafów.

Atcrank
źródło
Przeczytałem interesujący i uczciwy artykuł Douglasa Hofstadtera w The Atlantic ( theatlantic.com/technology/archive/2018/01/... ) krytykujący użycie terminu „głębokie uczenie się” w odniesieniu do programu tłumaczeń głębokiego uczenia się Google i zabawny przykłady pokazujące brak prawdziwego zrozumienia programów. Przekonał przekonująco, że dobre tłumaczenie języka nie będzie możliwe bez uprzedniego rozwinięcia świadomej sztucznej inteligencji.
Craig Hicks
1
Tak, nie sądzę, żeby ktokolwiek przytomny popełniłby taki błąd poniżej, chociaż mogę sobie wyobrazić, że tłumacz czasami nie jest w stanie zrozumieć lepiej dzięki tajemnym warunkom sztuki. To brak samoświadomości w wyniku: reddit.com/r/softwaregore/comments/6bxh2m/…
Atcrank
1
O pierwszej części: Mój stary profesor AI zwykł mawiać, że pytanie, czy komputery potrafią myśleć, jest jak pytanie, czy pływają okręty podwodne. Odpowiedź zależy od tego, jak chcesz zdefiniować „pływanie” bardziej niż od tego, co faktycznie robi maszyna.
TED
2

CERA-CRANIUM jest przykładem architektury poznawczej do generowania świadomości maszynowej (MC). W stronę świadomych zachowań bohaterów gier komputerowych, 2009 Został on zrealizowany jako system tablicowy, który jest w stanie wykonywać wątkowe zadania. Sama implementacja działa w języku naturalnym. Oznacza to, że agent CERA-CRANIUM ma zmienną o nazwie „Obawiam się”, a jeśli ta zmienna ma wartość Prawda, wówczas emocja jest aktywowana. Nie jest to więc rzeczywista świadomość, ale ma więcej wspólnego z wewnętrznymi stanami postaci z „The Sims”.

Ciekawym aspektem jest to, że „świadomość maszyny” nie jest tak ezoteryczna, jak się wydaje. Badacz Google znajduje na ten temat około 3 tys. Artykułów . W większości przypadków rozwój rozpoczyna się od wprowadzenia emocji dla postaci w grze, które później zostały rozszerzone na ogólne myśli wirtualnego człowieka.

Manuel Rodriguez
źródło
Czy nie byłoby to śmieszne, gdyby prawdziwe „życie” AI rozwijało się (ewoluowało?) Nie z badań, ale ad hoc przez twórców oprogramowania do gier, którzy próbują zarobić pieniądze.
Craig Hicks
@CraigHicks: masz na myśli, że w przyjaźni jest optymalna ?
vsz
2

Oprócz doskonałej odpowiedzi Jaden „nikt nie próbuje stworzyć„ świadomej ”sztucznej inteligencji, ponieważ nie wiemy jeszcze, co to słowo znaczy jeszcze.„ Chciałbym dodać, że słowo „jeszcze” jest wysoce optymistyczne.

Bardzo problematyczne i prawdopodobnie niemożliwe jest rozróżnienie między świadomą istotą a istotą, która zachowuje się dokładnie tak, jakby była świadoma. Filozofowie walczą z tym od stuleci; niektórzy opowiadali się nawet za solipsyzmem, który jest filozofią „żyję w Matrycy”. W szczególności, w jaki sposób możesz stwierdzić, czy twój przyjaciel z dzieciństwa, małżonek lub ktokolwiek inny jest świadomą istotą, a nie ucieleśnieniem sztucznej inteligencji, która działa dokładnie tak, jak zrobiłaby to świadoma istota?

Oczywiście można przejść „jeśli chodzi jak kaczka i kwakanie jak kaczka, to jest to kaczka”. W takim przypadku test Turinga przechodzący AI zostanie automatycznie uznany za przytomny. Jednak większość ludzi nie zaakceptowałaby kaczych kryteriów świadomości; w przeciwnym razie bardzo szybko będą musieli nazwać swoje urządzenia domowe Alexa świadome.

Moje dwa centy są w zasadzie takie same jak Jaden, tyle że bardziej pesymistycznie podchodzę do zrozumienia, czym jest świadomość.

Michał
źródło
Myślę, że test kaczki wystarczy, jeśli AI przejdzie pełny test Turinga, przeprowadzany przez inteligentnych dorosłych. (Mój problem z pokojem chińskim polega na tym, że opiera się on na qualiach i podejrzewam, że jedynym sposobem na sprawdzenie qualii innego bytu jest stanie się tym bytem.)
DukeZhou
Mógłbym również argumentować, że każda percepcja spełnia najbardziej podstawową definicję świadomości, a zdolność do podejmowania decyzji opartych na danych wejściowych spełnia najbardziej podstawową definicję inteligencji. Z tego, co wiemy, świadomość może być po prostu jakąś formą metapoznania i całkowicie funkcją złożoności systemu.
DukeZhou
1

Świadomość to zdolność do bycia świadomym własnych myśli, bezpośredniego otoczenia, uczuć i nic więcej. Jest to mechanizm naszego mózgu kontrolujący nasze niższe myśli, oparte na skojarzeniach i emocjach. Świadomość obserwuje nasze myśli i uczucia, tak jak obserwujemy prawdziwy świat naszymi oczami. To nie jest skomplikowane. Prawdziwe pytanie nie dotyczy tego, czy maszyny są zdolne do świadomości, ale czy są zdolne do emocji.

Dźwięk Škoda
źródło
Istnieje wiele gatunków oprócz współczesnych ludzi wykazujących silne emocje. Emocje te są instynktowne - odgrywają bardzo ważną rolę w definiowaniu zachowań społecznych, które zwiększają przeżywalność i sprawność „grupy”. Nie widzę, jak ludzkie emocje różnią się jakościowo od emocji innych ssaków. W przeciwieństwie do tego, ludzka świadomość jest o kilka rzędów wielkości bardziej rozwinięta u ludzi niż najbliższy inny gatunek. Tam, gdzie ludzkie emocje wydają się różnić od innych gatunków, jest jedynie zdolność kontrolowania emocji poprzez świadomość.
Craig Hicks
Ta odpowiedź nie ma sensu bez definicji „twojego”.
DrMcCleod
-1

Wprowadzenie : Obecnie obserwujemy, że obecne systemy stają się lepsze w prawie każdym specjalistycznym zadaniu niż ludzie. Ponadto widzimy, że naukowcy pracują nad ulepszeniem obecnych systemów w mniej wyspecjalizowanych zadaniach (począwszy od: rozpoznawania liter, przechodząc do: rozpoznawania zwierząt, rozpoznawania gatunków, rozpoznawania aktywności, rozpoznawania ruchomych obrazów itp.).

Wniosek : Nie ma powodu, aby nie wierzyć, że systemy wspomagane sieciami neuronowymi nie staną się lepsze w żadnym zadaniu w przyszłości.

Pytanie :

Czym jest świadomość?

Myślę, że obecny problem samoświadomości jest problemem z definicją. Nie znalazłem dużo literatury na ten temat, pomimo filozoficznej (która niestety jest w tym kontekście całkowicie bezużyteczna).

Z powodu braku literatury chciałbym stworzyć własną definicję. Na szczęście z obserwacji wiemy, że wszystkie „inteligentne” oceniane zwierzęta mają pewien stopień „samoświadomości” i są ciekawe. Z biologii wiemy, że ciekawość jest mechanizmem motywującym do zachowania obserwacyjnego / wnioskowania / testowania. Teraz dochodzimy do wniosku, że samoświadomość jest oczywiście tym samym mechanizmem zastosowanym do twoich własnych zachowań / procesów myślowych. Po prostu wyobrażamy sobie możliwy wynik działania, które możemy wykonać, i dokonujemy jego oceny.

Dlatego świadomość musi być wynikiem danego systemu motywacji, który sprzyja ciekawości oraz wystarczająco złożonego, nieokreślonego systemu oceny.

Domyślam się, że taki system motywacji jest bardzo łatwy do wdrożenia. Obecny problem polega na tym, że po prostu nie istnieje system wystarczająco wszechstronny, aby „rozwiązać” dane zadanie. Obecne sieci są nadal zbyt wyspecjalizowane.


źródło
„Na szczęście z obserwacji wiemy, że wszystkie„ inteligentne ”zwierzęta mają pewien stopień„ samoświadomości ”. Twoja definicja jest okrągła.
DrMcCleod
Jaka definicja i jak?
Próbujesz zdefiniować „świadomość” na podstawie idei, że stworzenia są „samoświadome”. Nie możesz mieć definicji, która opiera się na istnieniu apriori definiowanej rzeczy. Nie można też zakładać, że cokolwiek innego niż ty ma świadomość, ponieważ nie mamy możliwości obiektywnego jej zmierzenia.
DrMcCleod
świadomość i samoświadomość są takie same i polegają na tym samym. jaka powinna być różnica?
samoświadomość i samoświadomość są również tym samym. Definiowanie terminu przez odwołanie się do niego nie ma logicznego sensu. Równie dobrze możesz zdefiniować słonia, mówiąc, że jest to słoń.
DrMcCleod