Jeśli ludzkość może stworzyć sztuczne życie w maszynie, kiedy zdefiniowalibyśmy jego śmierć?

9

Czy rzeczywiście można zabić maszynę? Nie tylko mamy problemy z definiowaniem życia, ale także mamy problemy z definiowaniem śmierci. Czy dotyczy to również sztucznego życia i sztucznej inteligencji?

D. Wade
źródło
Bardzo istotne pytanie . Nie głosuję jednak na zamknięciu tego pytania jako duplikatu, ponieważ ten pyta o konkretną definicję śmierci w gazecie.
Ben N
Tak, zgadzam się, że to służy jako ogólne pytanie, podczas gdy drugie dotyczy właśnie tego artykułu.
Matthew Graves,
Nie zauważyłem tego pytania wcześniej, ale zamieściłem tutaj odpowiedź na nieco to samo pytanie . Uprzejmie polecam.
Ébe Isaac

Odpowiedzi:

3

Śmierć, jaką znamy dla życia naturalnego, jest śmiertelna. To jest kiedyś martwe, naturalne życie nie może wrócić (przynajmniej w obecnym rozumieniu i przy obecnych technologiach - niektórzy ludzie wierzą inaczej).

Śmierć dla AI jest trudniejsza. Może istnieć tylko jeden scenariusz: Globalne zniszczenie: Ekstremalny scenariusz, w którym znika wszystko, co przemawia za istnieniem AI. Jest to równoznaczne ze śmiercią w życiu naturalnym i niskim prawdopodobieństwem. Oznacza to, że wszystkie AI umierają jednocześnie (tak samo jak my).

Nie znamy również stopnia i formy wykonania niezbędnych dla AGI. Możemy teraz założyć, że sprzęt można wymieniać w nieskończoność, „ograniczając” śmierć do powyższego ekstremalnego scenariusza. Ale „ciało” AGI może nie być w nieskończoność zastępowalne. Wtedy może być potrzebna definicja bliższa śmierci naturalnej.


Widzimy argumenty za dwoma innymi scenariuszami, które odrzucam poniżej:

„Śmierć statyczna”: AI jest nadal gdzieś „zdefiniowane” lub „zapisane” (cokolwiek to właściwie oznacza), ale nie jest autoryzowane ani nie może korzystać z zasobów. Zakładając, że sztuczna inteligencja składa się ze sprzętu i oprogramowania, przypomina program zapisany na dysku, ale bez pozwolenia na uruchomienie.

„Dynamiczna śmierć”: pod tą samą charakterystyką sztucznej inteligencji, co sprzęt i oprogramowanie, dynamiczna śmierć jest unieważnieniem postępu podobnego do silnych właściwości żywotności , w których AI jest uwięziona w nieskończonej pętli (lub pustej pętli) w postaci „ aktywna śmierć ”, jak dzieje się z Syzyfem w mitologii greckiej. Różni się to od śmierci statycznej, ponieważ AI wciąż korzysta z zasobów dynamicznych, chociaż nie może robić postępów. Kontynuując przy tych samych założeniach, taka sztuczna inteligencja może zostać „załadowana” do pamięci głównej lub zablokowana w oczekiwaniu na zakończenie wejść lub wyjść.

Zauważ, że w tych dwóch scenariuszach odrodzenie jest możliwe, a także zakładają, że istnieje byt, który może decydować o warunkach odrodzenia lub całkowicie mu zapobiec. Czy ta istota byłaby „administratorem”, bogiem, innymi AI lub człowiekiem, to naprawdę inna sprawa.

Terminy „śmierć” i „odrodzenie” można tutaj po prostu zmienić na „uwięzienie”, gdzie wersja dynamiczna byłaby podobna do naszych ludzkich więzień, a wersja statyczna byłaby jak kriogeneza SciFi. To trochę rozciąga się, ale widzimy równoważność i nie ma żadnego powodu, aby kwalifikować te dwa scenariusze jako zgony.

Podsumowując, śmierć dla AI wydaje się wyjątkowym, osobliwym scenariuszem, więc AI nie może umrzeć w praktyce , chyba że mylimy się co do tego, w jaki sposób możemy stworzyć AGI. AI można jednak uwięzić na zawsze .


Uwaga: powyższa terminologia została w całości opracowana dla postu. Nie mam cytatów na poparcie niektórych roszczeń, ale opiera się na odczytach i pracy osobistej (w tym na weryfikacji oprogramowania).

Eric Platon
źródło
2

Jeśli sztuczna inteligencja powstaje w wyniku powtarzalnego procesu produkcyjnego (np. Jak w przypadku nowoczesnych komputerów), prawdopodobnie możliwe będzie zrobienie migawki stanu sztucznej inteligencji i odtworzenie jej bezbłędnie na innym mechanizmie.

W przypadku takiego konstruktu „śmierć” nie oznacza tego samego, co obecnie dla nas, mięsistych związków organicznych: przypuszczalnie w dowolnym momencie można utworzyć wiele klonów AI.

Zatem potrzebny analog śmierci jest czymś bliższym „termodynamicznej śmierci cieplnej”, w której AI nie wykonuje już żadnej „użytecznej pracy”.

Stosując standardową charakterystykę percepcji / działania AI, wówczas (jak wskazano w komentarzu pod pytaniem) to pytanie AI SE podaje taką definicję śmierci dla AI: tj. Kiedy wchodzi w stan, z którego nie otrzymuje dalszych spostrzeżeń i nie podejmuje żadnych działań.

EDYCJA: Zauważ, że ta koncepcja śmierci jest bardziej terminalnym pojęciem dla AI niż „obecnie nie działa”. Zasadniczo można powiedzieć, że program jest „żywy”, nawet jeśli co 10 000 lat wykonywano tylko jedną instrukcję. Fascynującą dyskusję na ten temat można znaleźć w „Rozmowie z mózgiem Einsteina” Hofstadtera .

NietzscheanAI
źródło
Czy to jest martwe, czy tylko śpi, albo w śpiączce?
D. Wade,
Biorąc pod uwagę, że ponowne utworzenie klonu stanu sztucznej inteligencji nie przywróci go do działania, autorzy artykułu przypuszczalnie uznali, że „śmierć” jest odpowiednią analogią. Inni mogą się nie zgodzić. Zwróć też uwagę na użycie terminu „zakleszczenie” w współbieżnych systemach, w których procesy są nadal uruchomione, ale nie mogą już wykonywać pożytecznej pracy.
NietzscheanAI
1

„Śmierć” istnieje jako jedna koncepcja, ponieważ opisywana przez nią rzeczywistość jest ściśle połączona, a nasza definicja uległa zmianie wraz z naszą zdolnością do zmiany tej rzeczywistości.

Wydaje się bardziej rozsądne, że różne rzeczy, które można by uznać za „śmierć”, zostaną rozdzielone, a inne słowo zostanie użyte w odniesieniu do systemu bez uruchomionych kopii, w porównaniu do systemu, który nie ma zapisanej wersji, ale można odtworzyć (ponieważ kod i losowe ziarno do jego wygenerowania są nadal dostępne), w przeciwieństwie do systemu, który został całkowicie utracony. (I prawdopodobnie brakuje mi niektórych możliwości!)

Matthew Graves
źródło
0

Nie sądzę, by termin „śmierć” miał dla AI znaczenie. Powód, dla którego to mówię jest następujący: przy sztucznej inteligencji działającej (prawdopodobnie) na sprzęcie cyfrowym możemy w dowolnym momencie po prostu zrobić migawkę z pamięci. A potem w dowolnym dowolnym momencie w przyszłości możemy odtworzyć go z doskonałą wiernością.

Więc nawet jeśli zakończysz program, który ma być „martwy”, nigdy nie wiesz, czy ktoś przyjdzie później i przywoła go ponownie. I być może bardziej do rzeczy, możesz nie wiedzieć, czy inna kopia istnieje gdzie indziej.

Nienawidzę używać odniesień do science fiction, ale ta jest trafna: pamiętasz, jak w trylogii Matrix programy szukały wygnania w Matrixie, aby uniknąć usunięcia? Może to samo stanie się z naszymi AI ... skopiują się do innych miejsc i spróbują się ukryć, aby uniknąć ich usunięcia. Więc jeśli program jest wystarczająco sprytny, być może uda mu się uniknąć próby jego zakończenia.

przestępstwa umysłowe
źródło
0

Inne odpowiedzi wydają się dotyczyć „ostatecznej śmierci”… czyli stanu „końcowego końca”, z którego AI nie może się zregenerować. Innymi słowy, AI nie jest w stanie dalej funkcjonować.

Ale nie tak zdefiniowałbym śmierć. Zdefiniowałbym śmierć jako proces kończący się. Nie ma znaczenia, czy ktoś uruchomi ponownie ten sam proces, ponieważ istniejący proces jest już martwy. Sztuczna inteligencja mogła właśnie zrobić nową kopię, ale jest to tylko kopia , a nie oryginał. Śmierć to tylko śmierć.

Możemy nazwać ten rodzaj „śmierci” „chwilową śmiercią”… gdzie ciało fizyczne umiera, ale istnieje pewna „ciągłość psychologiczna” (np. Kod źródłowy używany do uruchomienia programu), który trwa między różnymi ciałami .

Ten rodzaj „tymczasowej śmierci” został zbadany w science fiction. PARANOIA i Eclipse Phase przedstawiają ludzi, którzy dość często umierają, ale później mogą zostać przywróceni przez „kopię zapasową pamięci”. Ludzie mogą być funkcjonalnie nieśmiertelni ... ale oryginał wciąż jest martwy, bez względu na to, jakie losy spotkały inne kopie. CGP Gray nakręcił także film o teleporterach Star Trek , który polega na zabiciu cię, a następnie odrodzeniu kolejnej kopii ciebie w innym obszarze. W rzeczywistości, fantasy również badają ideę „tymczasowej śmierci”, w której ludzie mogą umrzeć, aby później ożywić magicznym zaklęciem.

Moje zalecenie polega na przejściu gry filozoficznej Staying Alive , która uczy trzech różnych filozoficznych podejść do życia (i kiedy to życie się kończy):

Zasadniczo istnieją trzy rodzaje rzeczy, które mogą być wymagane do dalszego istnienia ciebie. Jedną z nich jest ciągłość cielesna, która w rzeczywistości może wymagać jedynie istnienia części ciała (tj. Mózgu). Kolejną jest ciągłość psychologiczna, która wymaga ciągłości twojej świadomości - przez którą rozumie się twoje myśli, pomysły, wspomnienia, plany, przekonania i tak dalej. Trzecią możliwością jest dalsze istnienie jakiejś niematerialnej części ciebie, którą można nazwać duszą *. Oczywiście może się zdarzyć, że połączenie jednego lub więcej rodzajów ciągłości jest konieczne, abyś mógł przetrwać.

Inne odpowiedzi zakładają, że życie opiera się na „ciągłości psychologicznej”, i patrzą na to, co może zakłócić tę „ciągłość”. Zakładam, że życie opiera się na „ciągłości cielesnej”, którą znacznie łatwiej jest zakłócić - po prostu zabij proces… nie ma znaczenia, czy nowy proces się odrodzi… ponieważ pierwotny proces jest nadal martwy. Grając w „Staying Alive” , będziesz w stanie wypracować swoją własną definicję życia i śmierci. Kiedy masz już swoją własną definicję, po prostu zastosuj ją do tego konkretnego przypadku, albo po stronie „ciągłości psychologicznej” (inne odpowiedzi), albo „ciągłości ciała” (moja własna opinia).

* Jeśli przyjmiesz, że życie wymaga duszy, cóż, nie jest jasne, czy AI ma dusze. Jeśli nie (i to wydaje się najbardziej rozsądnym założeniem tutaj), to oczywiście nie byliby żywi (i nie możesz umrzeć, jeśli nie żyjesz). Gdyby zrobić mają dusze jednak wtedy inne odpowiedzi, które zakładają „psychologiczną ciągłość” mogą nadal być stosowane, ponieważ wydaje się, że istnienie „duszy” jest zależna od „psychologicznej ciągłości”.

Left SE On 10_6_19
źródło
1
Niezła odpowiedź! Powinniśmy również rozważyć możliwość, że ciągłość psychologiczna jest nieredukowalnie uzależniona od funkcji organizmu. Coś w rodzaju formy wynika z argumentu funkcji.
Doxosophoi,
„Zakładam, że życie opiera się na„ ciągłości ciała ””. Chodzi o to, że w przypadku programów komputerowych, w których uruchomiony program ma identyczną migawkę stanu, pojęcie to może nie jest tak psychologicznie przekonujące. Ponadto, jeśli trzeba zabić AI, z pewnością nie jest to bardzo praktyczne pojęcie, kiedy jest martwa.
NietzscheanAI
0

Różnica między algorytmami / robotami a ludźmi polega na tym, że kiedy organizm ludzki przestaje funkcjonować, uważa się go za martwego.

Natomiast algorytm nadal istnieje, nawet gdy nie jest uruchomiony. (Miałem użyć „nawet gdy nie został wykonany”, ale unikałem tego z powodów semantycznych;) Algorytm może pozostać w tym „stanie zastoju”, dopóki istnieje nośnik pamięci dla informacji.

  • Zabicie algorytmu jest łatwe - usuń i opróżnij kosz.

Zasadniczo, aby zabić algorytm, musisz usunąć kod, który go zawiera.

DukeZhou
źródło
-1

Nie ma powodu, aby traktować twardą AI inaczej niż ludzi. Niektórzy mówią, że możesz zrobić migawkę AI, ale nie ma powodu, aby nie robić migawki również u ludzi. Nie mamy do tego technologii, ale nie ma żadnej magicznej bariery, która uniemożliwiłaby to (zapisz wszystkie dane biologiczne, a następnie wydrukuj kopię gdzie indziej. Dlaczego nie?).

Jest za wcześnie, aby o tym mówić, ponieważ nie rozumiemy naszego istnienia (Termin śmierci dla stworzeń biologicznych ewoluujących przez cały czas).

Założę się, że w przyszłości połączymy się z AI i jedynym pytaniem będzie, co oznacza śmierć dla każdej inteligentnej egzystencji.

Arrekin
źródło
Jednak tak naprawdę nie rozumiem, jak to odpowiada na pytanie ...
Mithical
1
Chociaż „pobieranie świadomości” jest powracającym tematem w science fiction i transhumanizmie, obecnie nie ma przekonujących dowodów sugerujących, że możliwe jest wykonanie migawki stanu rzeczywistego ludzkiego mózgu. Jeśli stan mózgu na małą skalę jest składnikiem świadomości, wówczas „Zasada nieoznaczoności” będzie prawdopodobnie przeszkodą (prawdopodobnie terminalną). Natomiast migawka stanu programu komputerowego jest niezwykle łatwa do osiągnięcia.
NietzscheanAI
Starałem się sugerować, że nie ma różnicy między śmiercią AI a śmiercią człowieka. @NietzscheanAI Ta zasada wpłynie również na twardą AI. Jeśli będzie trywialny sposób na zrobienie migawki AI, dotyczy to również ludzkiego umysłu. Dlaczego próbujesz to rozróżnić?
Arrekin
@Arrekin „Jeśli będzie sposób na robienie migawek AI, będzie to miało również zastosowanie do ludzkiego umysłu.”. Obecnie nie ma dowodów na poparcie tego.
NietzscheanAI
@NietzscheanAI Może się mylę, ale nie ma dowodów na to, że istniałby jakikolwiek rodzaj zachowania. Więc tylko spekulujemy. Nie rozumiem, dlaczego ludzie próbują odróżnić twardą AI od ludzi. Jest bardzo mało prawdopodobne, że zbudujemy dziką sztuczną inteligencję w oparciu o coś innego niż nasz umysł. Zawsze na początku naśladujemy to, co natura już wymyśliła. Można bezpiecznie założyć, że pierwsza twarda sztuczna inteligencja będzie oparta na ludzkim umyśle.
Arrekin