Czy AI może nauczyć się cierpieć?

9

Najpierw miałem na myśli to pytanie „Czy AI może cierpieć?”. Cierpienie jest ważne dla ludzi. Wyobraź sobie, że niszczysz piętę. Bez bólu nadal będziesz go krzywdził. To samo dla AI. Ale potem powiedziałem sobie: „ Poczekaj chwilę. To już istnieje. Pojawiają się błędy i ostrzeżenia ”. Można powiedzieć, że ma podobny cel jak cierpienie. Czułam jednak, że czegoś brakuje. Odczuwamy ból Błędy i błędy to tylko dane. Powiedzmy, że robot może ewoluować przy użyciu uczenia maszynowego i programowania genetycznego.

Czy AI może nauczyć się cierpieć? I nie tylko znać to jako zwykłą informację.

bmwalide
źródło

Odpowiedzi:

8

Na bardzo wysokim poziomie, jeśli chodzi o ewolucyjną teorię gier i algorytmy genetyczne, jest absolutnie możliwe, że sztuczna inteligencja może rozwinąć stan analogiczny do cierpienia, chociaż, jak słusznie zauważyłeś, wiązałoby się to z warunkami, na których zależy komputerowi. (Na przykład może rozwinąć się poczucie analogiczne do „bycia zasmuconym” z powodu nieoptymalności w sensie algorytmicznym lub „frustracji” przy równaniach nie sumujących się lub „niezadowolenia” z nieosiągniętych celów).

Robota dręczonego przez małe dzieci w centrum handlowym można z pewnością powiedzieć, że „cierpi”, ponieważ dzieci blokują wykonywanie funkcji robota, ale robot nie jest przytomny i można powiedzieć, że cierpienie wymaga świadomości. Jednak nawet bez świadomości ten bardzo prosty robot może nauczyć się nowych zachowań, dzięki którym łagodzi lub unika „cierpienia” spowodowanego niemożnością spełnienia swojej funkcji.

Na pewno chcesz przyjrzeć się koncepcji cierpienia w kontekście filozoficznym, a Epikur byłby bardzo przydatnym miejscem do rozpoczęcia.

Epikur jest bezpośrednio istotny w sensie algorytmicznym, ponieważ używa terminu „ ataraksja ” oznaczającego spokój i pochodzi od czasownika „ tarasso ”, co oznacza pobudzenie lub zakłócenie.

Ataraksja może być wyrażona matematycznie jako równowaga. Tarasso można matematycznie wyrazić jako nierównowagę.

Odnosi się to bezpośrednio do teorii gier, ponieważ brak równowagi można uznać za podstawowe wymagania gier, a do sztucznej inteligencji w tej teorii gier można powiedzieć, że jest ona źródłem wszystkich AI.

Ataraksja jest również rozumiana w sensie „wolności od strachu”, który w tym czasie jest strachiem funkcji niepewności, ponieważ odnosi się do przyszłości w sensie predykcyjnym i obejmuje stan obecny w porównaniu z możliwymi, mniej optymalnymi warunkami przyszłymi.

Zatem strach, który jest formą cierpienia, jest zakorzeniony w obliczeniowej trudności, nawet jeśli „komputerem” jest mózg ludzki.

Pierwsi filozofowie, tacy jak Demokryt, są szczególnie przydatni, ponieważ badali krytyczne, podstawowe pojęcia, z których wiele można obecnie wyrazić za pomocą nowoczesnej matematyki.

Innymi słowy: nie możesz dojść do cierpienia, dopóki nie zdefiniujesz najpierw „dobra” i „zła”, co jest relacją binarną, w której nie można powiedzieć, że żaden termin ma znaczenie bez przeciwności. (Matematycznie można to wyrazić w najprostszej formie jako skończony, jednowymiarowy wykres.) To zrozumienie jest dość starożytne.


Warto zauważyć, że ciągła wartość pierwszych filozofów jest po części czynnikiem mądrości, który nie jest zależny od ilości wiedzy, co pokazał Sokrates, że mądrość może być tak prosta, jak wiedza, że ​​czegoś nie wiesz.

Starożytni mędrcy nie mieli zalet potężnych narzędzi pomiarowych, zaawansowanej matematyki ani metod naukowych, ale byli bardzo mądrzy, a co ważniejsze, mądrzy.

DukeZhou
źródło
2
Nigdy nie myślałem o znalezieniu bardziej wnikliwej odpowiedzi. Dziękuję
bmwalide
Inne formy cierpienia maszyny mogą być analogiczne do: „dyskomfortu”, gdy sprzęt robi się zbyt gorący; „głód” w przypadku niewystarczającej ilości, mocy przetwarzania, danych; „uduszenie” związane z brakiem energii elektrycznej, kinetycznej lub chemicznej wymaganej do obliczeń.
DukeZhou
@DukeZhou Remeber, system śledzi bieżące komentarze, odpowiedzi ... itd. Całkowicie przywołaj komentarz opublikowany na to pytanie Czy AI może odczuwać emocje? i to był twój komentarz; „W tej chwili żaden naukowiec nie jest w stanie odpowiedzieć na to pytanie, choć filozofowie będą się nad tym zastanawiać. Dla moich pieniędzy Czy Androids Dream of Electric Sheep? Jest cenną medytacją na ten temat, mimo że autor, oprócz bycia dość przewidywalnym w innych dziedzinach, jest głęboko zaniepokojony ludzką kondycją i naturą życia ”
kwintumnia
@quintumnia dzięki za twój przemyślany komentarz. Podejrzewam, że tak naprawdę nie opublikowałem odpowiedzi na ogólny wątek „emocje” (w porównaniu z tym konkretnym wątkiem „cierpienia”), ponieważ był on tak szeroko odbierany. Więcej opracowań na temat elektrycznych owiec w tej odpowiedzi .
DukeZhou