Jeśli ludzkość może stworzyć sztuczne życie w maszynie, kiedy zdefiniowalibyśmy jego śmierć?

Czy rzeczywiście można zabić maszynę? Nie tylko mamy problemy z definiowaniem życia, ale także mamy problemy z definiowaniem śmierci. Czy dotyczy to również sztucznego życia i sztucznej inteligencji?

Śmierć, jaką znamy dla życia naturalnego, jest śmiertelna. To jest kiedyś martwe, naturalne życie nie może wrócić (przynajmniej w obecnym rozumieniu i przy obecnych technologiach - niektórzy ludzie wierzą inaczej).

Śmierć dla AI jest trudniejsza. Może istnieć tylko jeden scenariusz: Globalne zniszczenie: Ekstremalny scenariusz, w którym znika wszystko, co przemawia za istnieniem AI. Jest to równoznaczne ze śmiercią w życiu naturalnym i niskim prawdopodobieństwem. Oznacza to, że wszystkie AI umierają jednocześnie (tak samo jak my).

Nie znamy również stopnia i formy wykonania niezbędnych dla AGI. Możemy teraz założyć, że sprzęt można wymieniać w nieskończoność, „ograniczając” śmierć do powyższego ekstremalnego scenariusza. Ale „ciało” AGI może nie być w nieskończoność zastępowalne. Wtedy może być potrzebna definicja bliższa śmierci naturalnej.

Widzimy argumenty za dwoma innymi scenariuszami, które odrzucam poniżej:

„Śmierć statyczna”: AI jest nadal gdzieś „zdefiniowane” lub „zapisane” (cokolwiek to właściwie oznacza), ale nie jest autoryzowane ani nie może korzystać z zasobów. Zakładając, że sztuczna inteligencja składa się ze sprzętu i oprogramowania, przypomina program zapisany na dysku, ale bez pozwolenia na uruchomienie.

„Dynamiczna śmierć”: pod tą samą charakterystyką sztucznej inteligencji, co sprzęt i oprogramowanie, dynamiczna śmierć jest unieważnieniem postępu podobnego do silnych właściwości żywotności , w których AI jest uwięziona w nieskończonej pętli (lub pustej pętli) w postaci „ aktywna śmierć ”, jak dzieje się z Syzyfem w mitologii greckiej. Różni się to od śmierci statycznej, ponieważ AI wciąż korzysta z zasobów dynamicznych, chociaż nie może robić postępów. Kontynuując przy tych samych założeniach, taka sztuczna inteligencja może zostać „załadowana” do pamięci głównej lub zablokowana w oczekiwaniu na zakończenie wejść lub wyjść.

Zauważ, że w tych dwóch scenariuszach odrodzenie jest możliwe, a także zakładają, że istnieje byt, który może decydować o warunkach odrodzenia lub całkowicie mu zapobiec. Czy ta istota byłaby „administratorem”, bogiem, innymi AI lub człowiekiem, to naprawdę inna sprawa.

Terminy „śmierć” i „odrodzenie” można tutaj po prostu zmienić na „uwięzienie”, gdzie wersja dynamiczna byłaby podobna do naszych ludzkich więzień, a wersja statyczna byłaby jak kriogeneza SciFi. To trochę rozciąga się, ale widzimy równoważność i nie ma żadnego powodu, aby kwalifikować te dwa scenariusze jako zgony.

Podsumowując, śmierć dla AI wydaje się wyjątkowym, osobliwym scenariuszem, więc AI nie może umrzeć w praktyce , chyba że mylimy się co do tego, w jaki sposób możemy stworzyć AGI. AI można jednak uwięzić na zawsze .

Uwaga: powyższa terminologia została w całości opracowana dla postu. Nie mam cytatów na poparcie niektórych roszczeń, ale opiera się na odczytach i pracy osobistej (w tym na weryfikacji oprogramowania).

Jeśli sztuczna inteligencja powstaje w wyniku powtarzalnego procesu produkcyjnego (np. Jak w przypadku nowoczesnych komputerów), prawdopodobnie możliwe będzie zrobienie migawki stanu sztucznej inteligencji i odtworzenie jej bezbłędnie na innym mechanizmie.

W przypadku takiego konstruktu „śmierć” nie oznacza tego samego, co obecnie dla nas, mięsistych związków organicznych: przypuszczalnie w dowolnym momencie można utworzyć wiele klonów AI.

Zatem potrzebny analog śmierci jest czymś bliższym „termodynamicznej śmierci cieplnej”, w której AI nie wykonuje już żadnej „użytecznej pracy”.

Stosując standardową charakterystykę percepcji / działania AI, wówczas (jak wskazano w komentarzu pod pytaniem) to pytanie AI SE podaje taką definicję śmierci dla AI: tj. Kiedy wchodzi w stan, z którego nie otrzymuje dalszych spostrzeżeń i nie podejmuje żadnych działań.

EDYCJA: Zauważ, że ta koncepcja śmierci jest bardziej terminalnym pojęciem dla AI niż „obecnie nie działa”. Zasadniczo można powiedzieć, że program jest „żywy”, nawet jeśli co 10 000 lat wykonywano tylko jedną instrukcję. Fascynującą dyskusję na ten temat można znaleźć w „Rozmowie z mózgiem Einsteina” Hofstadtera .

„Śmierć” istnieje jako jedna koncepcja, ponieważ opisywana przez nią rzeczywistość jest ściśle połączona, a nasza definicja uległa zmianie wraz z naszą zdolnością do zmiany tej rzeczywistości.

Wydaje się bardziej rozsądne, że różne rzeczy, które można by uznać za „śmierć”, zostaną rozdzielone, a inne słowo zostanie użyte w odniesieniu do systemu bez uruchomionych kopii, w porównaniu do systemu, który nie ma zapisanej wersji, ale można odtworzyć (ponieważ kod i losowe ziarno do jego wygenerowania są nadal dostępne), w przeciwieństwie do systemu, który został całkowicie utracony. (I prawdopodobnie brakuje mi niektórych możliwości!)

Nie sądzę, by termin „śmierć” miał dla AI znaczenie. Powód, dla którego to mówię jest następujący: przy sztucznej inteligencji działającej (prawdopodobnie) na sprzęcie cyfrowym możemy w dowolnym momencie po prostu zrobić migawkę z pamięci. A potem w dowolnym dowolnym momencie w przyszłości możemy odtworzyć go z doskonałą wiernością.

Więc nawet jeśli zakończysz program, który ma być „martwy”, nigdy nie wiesz, czy ktoś przyjdzie później i przywoła go ponownie. I być może bardziej do rzeczy, możesz nie wiedzieć, czy inna kopia istnieje gdzie indziej.

Nienawidzę używać odniesień do science fiction, ale ta jest trafna: pamiętasz, jak w trylogii Matrix programy szukały wygnania w Matrixie, aby uniknąć usunięcia? Może to samo stanie się z naszymi AI ... skopiują się do innych miejsc i spróbują się ukryć, aby uniknąć ich usunięcia. Więc jeśli program jest wystarczająco sprytny, być może uda mu się uniknąć próby jego zakończenia.

Inne odpowiedzi wydają się dotyczyć „ostatecznej śmierci”… czyli stanu „końcowego końca”, z którego AI nie może się zregenerować. Innymi słowy, AI nie jest w stanie dalej funkcjonować.

Ale nie tak zdefiniowałbym śmierć. Zdefiniowałbym śmierć jako proces kończący się. Nie ma znaczenia, czy ktoś uruchomi ponownie ten sam proces, ponieważ istniejący proces jest już martwy. Sztuczna inteligencja mogła właśnie zrobić nową kopię, ale jest to tylko kopia , a nie oryginał. Śmierć to tylko śmierć.

Możemy nazwać ten rodzaj „śmierci” „chwilową śmiercią”… gdzie ciało fizyczne umiera, ale istnieje pewna „ciągłość psychologiczna” (np. Kod źródłowy używany do uruchomienia programu), który trwa między różnymi ciałami .

Ten rodzaj „tymczasowej śmierci” został zbadany w science fiction. PARANOIA i Eclipse Phase przedstawiają ludzi, którzy dość często umierają, ale później mogą zostać przywróceni przez „kopię zapasową pamięci”. Ludzie mogą być funkcjonalnie nieśmiertelni ... ale oryginał wciąż jest martwy, bez względu na to, jakie losy spotkały inne kopie. CGP Gray nakręcił także film o teleporterach Star Trek , który polega na zabiciu cię, a następnie odrodzeniu kolejnej kopii ciebie w innym obszarze. W rzeczywistości, fantasy również badają ideę „tymczasowej śmierci”, w której ludzie mogą umrzeć, aby później ożywić magicznym zaklęciem.

Moje zalecenie polega na przejściu gry filozoficznej Staying Alive , która uczy trzech różnych filozoficznych podejść do życia (i kiedy to życie się kończy):

Zasadniczo istnieją trzy rodzaje rzeczy, które mogą być wymagane do dalszego istnienia ciebie. Jedną z nich jest ciągłość cielesna, która w rzeczywistości może wymagać jedynie istnienia części ciała (tj. Mózgu). Kolejną jest ciągłość psychologiczna, która wymaga ciągłości twojej świadomości - przez którą rozumie się twoje myśli, pomysły, wspomnienia, plany, przekonania i tak dalej. Trzecią możliwością jest dalsze istnienie jakiejś niematerialnej części ciebie, którą można nazwać duszą *. Oczywiście może się zdarzyć, że połączenie jednego lub więcej rodzajów ciągłości jest konieczne, abyś mógł przetrwać.

Inne odpowiedzi zakładają, że życie opiera się na „ciągłości psychologicznej”, i patrzą na to, co może zakłócić tę „ciągłość”. Zakładam, że życie opiera się na „ciągłości cielesnej”, którą znacznie łatwiej jest zakłócić - po prostu zabij proces… nie ma znaczenia, czy nowy proces się odrodzi… ponieważ pierwotny proces jest nadal martwy. Grając w „Staying Alive” , będziesz w stanie wypracować swoją własną definicję życia i śmierci. Kiedy masz już swoją własną definicję, po prostu zastosuj ją do tego konkretnego przypadku, albo po stronie „ciągłości psychologicznej” (inne odpowiedzi), albo „ciągłości ciała” (moja własna opinia).

_{* Jeśli przyjmiesz, że życie wymaga duszy, cóż, nie jest jasne, czy AI ma dusze. Jeśli nie (i to wydaje się najbardziej rozsądnym założeniem tutaj), to oczywiście nie byliby żywi (i nie możesz umrzeć, jeśli nie żyjesz). Gdyby zrobić mają dusze jednak wtedy inne odpowiedzi, które zakładają „psychologiczną ciągłość” mogą nadal być stosowane, ponieważ wydaje się, że istnienie „duszy” jest zależna od „psychologicznej ciągłości”.}

Różnica między algorytmami / robotami a ludźmi polega na tym, że kiedy organizm ludzki przestaje funkcjonować, uważa się go za martwego.

Natomiast algorytm nadal istnieje, nawet gdy nie jest uruchomiony. (Miałem użyć „nawet gdy nie został wykonany”, ale unikałem tego z powodów semantycznych;) Algorytm może pozostać w tym „stanie zastoju”, dopóki istnieje nośnik pamięci dla informacji.

• Zabicie algorytmu jest łatwe - usuń i opróżnij kosz.

Zasadniczo, aby zabić algorytm, musisz usunąć kod, który go zawiera.

Nie ma powodu, aby traktować twardą AI inaczej niż ludzi. Niektórzy mówią, że możesz zrobić migawkę AI, ale nie ma powodu, aby nie robić migawki również u ludzi. Nie mamy do tego technologii, ale nie ma żadnej magicznej bariery, która uniemożliwiłaby to (zapisz wszystkie dane biologiczne, a następnie wydrukuj kopię gdzie indziej. Dlaczego nie?).

Jest za wcześnie, aby o tym mówić, ponieważ nie rozumiemy naszego istnienia (Termin śmierci dla stworzeń biologicznych ewoluujących przez cały czas).

Założę się, że w przyszłości połączymy się z AI i jedynym pytaniem będzie, co oznacza śmierć dla każdej inteligentnej egzystencji.