Jakie są niezbędne składniki, aby agent AI mógł sam się programować?

Często uważa się, że agent AI ma „czujniki”, „pamięć”, „procesory uczenia maszynowego” i „reakcję”. Jednak maszyna z nimi niekoniecznie staje się samoregulującym agentem AI. Czy poza częściami wymienionymi powyżej istnieją inne elementy lub szczegóły niezbędne do tego, aby maszyna mogła być samoregulującym agentem AI?

Na przykład w dokumencie z 2011 r. Zadeklarowano, że rozwiązanie problemu optymalizacji polegającego na maksymalizacji inteligencji jest niezbędną cechą procesu samoregulacji, jak cytowano poniżej:

Mówi się, że system realizuje instancję samoprogramowania, gdy przechodzi naukę dotyczącą jakiegoś elementu swojej „infrastruktury poznawczej”, przy czym ten ostatni jest definiowany jako zamazany zestaw „krytycznych dla inteligencji” cech systemu; a krytyczność inteligencji funkcji systemowej jest definiowana jako „jakość funkcji” rozpatrywana z perspektywy rozwiązania problemu optymalizacji polegającego na maksymalizacji inteligencji systemu wielofunkcyjnego.

Jednak opis „optymalizacji inteligencji” jest niejasny. Czy ktoś może podać jasną definicję lub lepsze podsumowanie niezbędnych komponentów dla agentów samoregulujących?

_{To pytanie pochodzi z zamkniętej wersji beta 2014, a pytający ma UID równy 23.}

Na najwyższym poziomie wystarczy, aby różne omówione wcześniej systemy zawierały obiekty kodu. Jeśli potrafi zinterpretować architekturę kodu źródłowego / modelu na podstawie sformatowanych obiektów tekstowych, na których się opiera, może „zrozumieć” je pod kątem posiadania użytecznego modelu ML i zmienić kod wraz z reakcją, to może sam się zaprogramować.

Oznacza to, że podstawowa pętla rekurencyjnie poprawiającej się inteligencji jest prosta. Bada się, pisze nową wersję, a następnie ta nowa wersja bada się i pisze nową wersję i tak dalej.

Trudny element występuje na niższych poziomach. Nie musimy wymyślać nowej koncepcji, takiej jak „czujnik”, musimy jedynie zbudować bardzo, bardzo wyrafinowane czujniki, które są równoznaczne z zadaniem zrozumienia kodu na tyle dobrze, aby wykryć i napisać ulepszenia.