Czy powinienem używać języka antropomorficznego podczas omawiania sztucznej inteligencji?

Język angielski nie nadaje się do mówienia o sztucznej inteligencji, co utrudnia ludziom komunikowanie się na temat tego, co sztuczna inteligencja „robi”. Dlatego bardziej sensowne może być użycie terminów „ludzkich”, aby opisać działanie maszyn, nawet jeśli wewnętrzne właściwości maszyny nie przypominają wewnętrznych właściwości ludzkości.

Język antropomorficzny był często używany w technologii (patrz definicja antropomorfizacji w Słowniku hakera , która próbuje uzasadnić użycie przez programistów komputerowych terminów antromorficznych przy opisywaniu technologii), ale w miarę postępów sztucznej inteligencji przydatne może być rozważenie kompromisów przy użyciu języka antropomorficznego w komunikacji z odbiorcami technicznymi i nietechnicznymi. Jak możemy sobie poradzić z AI, jeśli nie potrafimy nawet opisać, co robimy?

Załóżmy, że chcę opracować algorytm, który wyświetla listę powiązanych artykułów. Istnieją dwa sposoby wyjaśnienia laikowi działania algorytmu:

1. Bardzo antropomorficzny - algorytm odczytuje wszystkie artykuły na stronie i wyświetla artykuły, które są bardzo podobne do oglądanego artykułu.
2. Bardzo techniczne - algorytm konwertuje każdy artykuł na „worek słów”, a następnie porównuje „worek słów” każdego artykułu, aby ustalić, które artykuły mają najczęstsze słowa. Artykuły, które dzielą najwięcej słów w workach, to te, które są wyświetlane użytkownikowi.

Oczywiście nr 2 może być bardziej „technicznie poprawny” niż nr 1. Szczegółowa implementacja algorytmu ułatwia komuś zrozumienie, jak naprawić algorytm, jeśli daje on wynik, z którym się bardzo nie zgadzamy.

Ale nr 1 jest bardziej czytelny, elegancki i łatwiejszy do zrozumienia. Daje ogólne wyobrażenie o tym, co robi algorytm, zamiast tego, jak algorytm to robi. Poprzez wyodrębnienie szczegółów implementacji tego, jak komputer „czyta” artykuł, możemy następnie skupić się na użyciu algorytmu w scenariuszach rzeczywistych.

Czy powinienem zatem preferować język antropomorficzny, jak podkreślono w stwierdzeniu nr 1? Jeśli nie, dlaczego nie?

PS: Jeśli odpowiedź zależy od publiczności, z którą rozmawiam (nietechniczna publiczność może preferować nr 1, podczas gdy publiczność techniczna może preferować nr 2), daj mi również znać.

Jeśli twoim celem jest klarowność, powinieneś unikać języka antropomorficznego - grozi to nawet wprowadzeniem siebie w błąd co do możliwości programu.

Jest to zgubna pułapka w badaniach nad sztuczną inteligencją, przy wielu przypadkach, w których nawet doświadczeni badacze przypisywali programowi większy stopień zrozumienia niż jest to faktycznie uzasadnione.

Douglas Hofstadter opisuje tę kwestię dość długo w rozdziale zatytułowanym „Niepowtarzalny efekt Elizy i jego niebezpieczeństwa”, a także słynny artykuł Drew McDermota, zatytułowany „Sztuczna inteligencja spotyka naturalną głupotę” .

Dlatego na ogół należy dołożyć szczególnych starań, aby uniknąć antropomorfizmu w AI. Jednakże, rozmawiając z nietechniczną publicznością, akceptowalne są opisy „zgryzu” (jak w każdej złożonej dyscyplinie), pod warunkiem, że poinformujesz odbiorców, że otrzymali wersję uproszczoną .

Problem, na który się powołujesz, to nie tylko problem sztucznej inteligencji, ale ogólnie problem w wysoce technicznych dziedzinach. W razie wątpliwości zawsze zalecałbym używanie prostego języka .

Istnieje jednak inny powód, dla którego społeczność AI często unika antropomorficznych konotacji dla AI. Niektóre oprawy AI często lubią ostrzec nas, że sztuczna inteligencja ogólna może zachowywać się w obcy sposób, który przeczy naszym ludzkim oczekiwaniom, potencjalnie prowadząc do apokalipsy robotów.

Ten pomysł na złe AGI przypominające kosmitów wywodzi się jednak z powszechnego nieporozumienia w społeczności AI, które łączy dwa różne pojęcia ogólności:

• Ogólność maszyny Turinga, oraz
• ogólna domena ludzka

Co zwykli ludzie mają na myśli, mówiąc, że ogólność jest późniejsza. Nawet oficjalna definicja AGI opiera się na tym zależnym od człowieka kontekście:

... wykonuj dowolne zadanie intelektualne, które człowiek może wykonać.

Ale z tej definicji uogólniające zachowanie nie czyni go bardziej obcym. Uogólniać to antropomorfizować. Jak powiedział Nietzche,

„Tam, gdzie widzisz idealne rzeczy, rozumiem… niestety, ludzkie! Zbyt ludzkie rzeczy.”

Myślę, że poprawna odpowiedź jest łatwa, ale nieprzydatna: „To zależy”.

Nawet kiedy rozmawiam z innymi technikami, często używam antropomorficznego języka i metafor. Zwłaszcza na początku rozmowy. „Komputer musi się dowiedzieć…” „Jak możemy zapobiec myleniu komputera…” itd. Jasne, możemy to stwierdzić w bardziej poprawny technicznie sposób. „Musimy zmodyfikować algorytm, aby zmniejszyć liczbę i różnorodność przypadków nieodpowiednich danych, które powodują niedokładne ustawienie ...” lub niektórych podobnych. Ale wśród ludzi technicznych wiemy, co mamy na myśli, i łatwiej jest używać języka metaforycznego.

Próbując rozwiązać techniczne problemy z komputerem, często zaczynam od niejasnej, antropomorficznej koncepcji. „Powinniśmy sporządzić listę wszystkich słów w tekście i przypisać każdemu słowu wagę na podstawie częstotliwości jego występowania. Och, ale powinniśmy zignorować krótkie, pospolite słowa, takie jak„ i ”. Następnie wybierzmy liczba słów, może dziesięć lub więcej, które mają największą wagę ... „To wszystko jest daleko od tego, jak komputer faktycznie manipuluje danymi. Ale często o wiele łatwiej jest najpierw pomyśleć o tym po ludzku, a potem wymyślić, jak zmusić komputer do robienia tego.

Gdy rozmawiam z nietechniczną publicznością, myślę, że problem polega na tym, że język antropomorficzny ułatwia zrozumienie, ale często sprawia wrażenie, że komputer jest bardziej ludzki niż jest w rzeczywistości. Musisz tylko oglądać filmy science fiction, aby zobaczyć, że najwyraźniej wiele osób uważa, że ​​komputer lub robot myśli tak jak człowiek, z wyjątkiem tego, że jest bardzo precyzyjny i nie ma emocji.