Czy neurony biologiczne są również zorganizowane w kolejne warstwy?

Czytam teraz książkę zatytułowaną Hands-On Machine Learning with Scikit-Learn i TensorFlow, aw rozdziale 10 książki autor pisze:

Architektura biologicznych sieci neuronowych (BNN) 4 jest nadal przedmiotem aktywnych badań, ale niektóre części mózgu zostały zmapowane i wydaje się, że neurony są często zorganizowane w kolejne warstwy, jak pokazano na rycinie 10-2.

Wydaje się jednak, że nie ma tam żadnego powiązania z żadnymi badaniami. I autor nie powiedział tego asertywnie, biorąc pod uwagę, że użył „ wydaje się, że neurony są często zorganizowane w kolejne warstwy” .

Czy to prawda i jak mocno się w to wierzy? Z czego to jest badanie?

Naprawdę krótka odpowiedź: tak

Nieco dłuższa odpowiedź: trochę

Długa odpowiedź:

Konwolucyjne sieci neuronowe (CNN), które są obecnie standardem w modelach przetwarzania obrazu, zostały zainspirowane pracami Hubela i Wiesela w latach 1950-60. Wykazali, że kora wzrokowa kotów i mokeów zawiera neurony, które indywidualnie reagują na małe obszary pola widzenia.

Aby dać trochę tła, musimy najpierw zacząć od prętów i stożków w oczach. Te światłoczułe komórki są połączone z kilkoma warstwami komórek, zanim opuści siatkówkę przez komórki zwojowe.

Te komórki zwojowe są następnie łączone z kilkoma regionami mózgu, ale przede wszystkim z płatem potylicznym zlokalizowanym z tyłu mózgu. Płat potyliczny jest odpowiedzialny za przetwarzanie wizualne i jest podzielony na warstwy korowe, pierwsza o nazwie V1, która jest głównym obszarem wizualnym. Większość prac Hubela i Wiesela dotyczyła komórek w V1 i pokazała, jak te komórki były wrażliwe na orientację i kolor z ich odpowiednich obszarów recepcyjnych na siatkówce.

Komórki w V1 są połączone z komórkami w V2, które są wrażliwe na jeszcze bardziej specyficzne bodźce, takie jak ruch z orientacją, a ten trend swoistej wrażliwości utrzymuje się od V2 do wyższych obszarów w mózgu.

To warstwowe podejście do widzenia było intensywnie wykorzystywane w CNN, do tego stopnia, że ​​kiedy wyświetla się wrażliwość neuronów w wyszkolonych CNN, można znaleźć podobne odpowiedzi (orientację).

Istnieją wyraźne dowody istnienia warstw w biologicznych układach optycznych i podobnych strukturach warstwowych w innych zmysłach. Chociaż istnieje wiele powiązań między różnymi strukturami mózgu, główna struktura warstw w mózgu pomogła zrozumieć, co robią różne obszary mózgu i pomogła zainspirować wiele (jeśli nie wszystkie) postępy w badaniach sieci neuronowych.

Czy neurony biologiczne są zorganizowane w kolejne warstwy?

Uwzględnianie rzeczywistości złożoności

Powiedzenie „tak” byłoby ogromnym uproszczeniem, podobnie jak cyfrowe uczenie się wynikające z prostej formy rekurencji stosowanej do zbioru reguł logiki predykatów pierwszego rzędu było jak bieganie wzdłuż tęczy krasnoludka do garnka złota.

Ostatni zestaw pytań brzmi: „Czy to prawda i jak mocno się w to wierzy? Z czego to jest badanie?” Potrzebujesz sondażu, aby ustalić, jak silnie uważa się, że neurony w mózgu mają strukturę głównie warstwową. Odniesienia do warstw w rzeczywistych badaniach nie wydają się twierdzić, że warstwy są kolejne w większości, jeśli w ogóle. Na skórze znajdują się kolejne warstwy, ale w skórze z tylko warstwami brakowało porów, włosów, interfejsów z otworami ciała i wielu innych cech. W ludzkim mózgu (lub mózgach zwierząt) złożoność trójwymiarowa jest znacznie większa niż w przypadku skóry.

Z perspektywy badacza AI byłoby miło, gdyby

• Heurystyczny lub udowodniony teoretycznie schemat rekurencyjny zastosowany do systemu eksperckiego może prowadzić do uczenia się lub inteligencji lub
• Mapa ludzkiego (lub ptasiego) mózgu może zostać zredukowana do zestawu podobnych neuronów w rzędach identycznych neuronów, ułożonych warstwami.

Obraz zamieszczony w pytaniu nie ilustruje takiej prostoty. W rzeczywistości ilustruje to odwrotność, że natura rzadko jest tak przejrzysta w zawiłościach.

Charakterystyka „Ponieważ wydaje się, że neurony często są zorganizowane w kolejne warstwy”, nie jest dokładna. Poniżej bardziej rozsądna charakterystyka pokazanego konkretnego wycinka wskazuje na dwa regiony, które mogą być dyskretnie odrębne, siatkę na skraju lewej 8% i połączenie w dużej mierze poziomej w pozostałych 92%.

Inżynier elektryk lub matematyk prawdopodobnie nie nazwałby tych dwóch sekcji warstwami. Można przypuszczać, że lewa strona jest macierzą jakiejś formy, a prawa 92% może być uważana za złożony obwód przetwarzania.

Charakterystyka struktury 2D

• Aksony są skierowane głównie wzdłuż kierunku opisanego przez wektor jednostkowy (-1, 0, 0), inaczej określane jako od prawej do lewej.
• Gęstość aksonów wzrasta dla mniejszych wartości x, ze względu na wysoki udział aksonów, które kończą się przy niższych wartościach x.
• Gęstość jądra jest względnie równa w zakresie proporcjonalności 0,1 do 1,0 x.
• Rozmiary jądra i związana z nimi złożoność dendrytu są zgodne w przybliżeniu z gradientem, z pierwotnymi maksimami przy 0,8 proporcjonalnej wartości x i wtórnymi maksimami przy 0,55 proporcjonalnej wartości x
• Co najmniej dwa aksony dzielą się między tymi proporcjonalnymi miejscami x.
• Istnieją prawie jednakowo odległe aksjomaty, wszystkie w przybliżeniu równoległe do osi Z w zakresie od 0,0 do 0,08 wartości proporcjonalnej x.
• Dalsze wzory strukturalne są albo niejasne, albo nieistniejące.

Kolejny obraz o chaotycznej strukturze

Miliony razy złożoność

Zastanów się ponadto, że znaczna część złożoności jest ukryta przed widzem w jednym wycinku trójwymiarowej struktury neurologicznej. Jeśli arbitralnie zdecydujemy, że obraz jest wycięciem wyciętym równolegle do płaszczyzny xz, możemy zobaczyć relacje w tym planie xz, ale ani w xy, ani w yz. Każdy inny wycinek z innego kierunku lub lokalizacji w mózgu będzie tak unikalny, jak dowolne okno na Zestaw Mandelbrota.

Więcej fałszywych wyników badań

Zwrot „Niektóre części mózgu zostały zmapowane” również wprowadza w błąd. Odwzorowano ogólną łączność między podbudowami ludzkiego mózgu, a nie sygnały i kryteria propagacji sygnału i siły w poszczególnych neuronach. Obwody różnią się radykalnie na poziomie neuronów między dwoma mózgami, z których oba wykazują inteligencję in vivo (u żywej istoty).

Analogia jest jak osoba wielkości drobnoustroju z mapą kontynentów, głównych miast i szlaków żeglugowych, ale bez wcześniejszej wiedzy o systemach transportu, bez GPS i żadnej innej szczegółowej mapy, która chciałaby podróżować z wieży Eiffla do centrum miasta w Sidney w Australii. Niewystarczający zestaw ewolucji systemu transportu lub szczegółowe kierunki, którymi można z powodzeniem odbyć podróż.

W przypadku osiągnięcia poziomu szczegółowości w strukturze i funkcji ludzkiego mózgu wystarczającego do zbudowania jego elektronicznej wersji, brakujące elementy obejmują brak zrozumienia

• Warunki, w których akson lub dendryt rośnie i rozrasta się
• Warunki, w których neuron strzela w oparciu o wewnętrzne struktury, o których wiadomo, że przechowują informacje o stanie w cytoplazmie.
• Wiązanie między ludzkim genomem i jego odmianami oraz wpływ na strukturę różnych genów, mechanizmy ekspresji genów oraz związane z nimi enzymy i białka
• Inne złożoności wykraczające poza mój poziom wykształcenia w dziedzinie neuronauki.
• Inne złożoności wykraczające poza poziom wykształcenia wszystkich w dziedzinie neuronauki.

Warstwy i hierarchie

W nauce powszechne jest poszukiwanie warstw lub hierarchii do wykorzystania w edukacji i praktyce, ponieważ mogą one pomóc w zrozumieniu budowy anatomicznej. Ta tendencja pojawiła się w inżynierii oprogramowania w projektowaniu systemu operacyjnego, projektowaniu języka programowania, projektowaniu aplikacji, a teraz projektowaniu AI. W miarę ewolucji tych obszarów technologii trend faktycznie odchodzi od czysto zorientowanego zorientowanego warstwowo lub zhierarchizowanego projektowania w kierunku bardziej nieskrępowanej sieci połączonych części. Prostota jest pożądana, ale czasami wymagana jest złożoność.

Symulacja inteligencji jest wymagającym celem, a ponieważ prostota zawiodła w pierwszej połowie wieku przy projektowaniu inteligentnych systemów cyfrowych, jasne jest, że działające rozwiązania będą wymagały złożoności, a zatem znacznej wiedzy specjalistycznej.

Rozsądne jest założenie, że nie ma ograniczeń kierujących ewolucją ludzkiej inteligencji w kierunku struktury charakteryzującej się przede wszystkim strukturą warstwową lub hierarchiczną. Procesy ewolucyjne nie zwracają uwagi na prostotę w celu ułatwienia studiów akademickich. Nie ma nic w ekspresji genów DNA ani w sposobach wzrostu neuronów na etapie płodowym lub późniejszym, które egzekwowałyby takie zasady prostoty dotyczące struktury lub funkcji.

Jak złożone są ekspresje DNA, które prowadzą do cech mózgu, które uważamy za inteligencję? Jak złożone są układy neuronowe, które powstają w tych wyrażeniach? Niektórzy uważają, że ludzkość będzie musiała ewoluować, zanim ludzkie umysły będą mogły się symulować. Takie przypuszczenie może być prawdziwe lub fałszywe. Trudno to przewidzieć, nawet według wielkości.

Analiza numeryczna prognoz optymistycznych

Oczekiwano wzrostu wykładniczego w odniesieniu do oczekiwanej długości życia, rozmieszczenia paneli słonecznych w Niemczech, szybkości procesora (wykonywanie instrukcji mikroprocesorowych na sekundę), gęstości tranzystora („prawo” Moore'a), wielkości partii komunistycznej i wielu innych wskaźników, ale chociaż tempo wzrostu w przyrodzie i wysiłki ludzkie są często wykładnicze we wczesnych stadiach, nigdy nie okazało się to możliwe do utrzymania. Szybkości wzrostu są w przybliżeniu liniowe przez krótki czas i stają się bardziej zbliżone do łuku, gdy zbliża się nasycenie. Od nasycenia wartości metryki mają tendencję do zmniejszania się i zwiększania chaotycznych ataków i rozpoczyna się w długich przedziałach czasu.

W kwietniu 2005 r. Gordon Moore (autor „Prawa” Moore'a) stwierdził: „[Wzrost wykładniczy] nie może trwać wiecznie. Charakter wykładniczych polega na tym, że wypychasz je i ostatecznie dochodzi do katastrofy”. Później stwierdził: „Pod względem wielkości [tranzystorów] widać, że zbliżamy się do wielkości atomów, co stanowi podstawową barierę”.

Ważne jest, aby zrozumieć, że Moore nie wynalazł prawa. Spojrzał na ponad dwie dekady danych i zauważył, że gęstość tranzystorów jest w przybliżeniu proporcjonalna do e ^t , gdzie t jest czasem, jaki upłynął od pierwszego wejścia układów scalonych na rynek masowy, a następnie przewidział dalszy wykładniczy wzrost w oparciu o wyraźne dane trendu.

Realistyczna prognoza

Ludzie nigdy nie próbowali czegoś tak fundamentalnie przekraczającego progi, jak stworzenie symulacji siebie. Bez powiązanego doświadczenia, z którego można by dowiedzieć się, czy wzrost wykładniczy, wzrost liniowy, wzrost stycznej łuku lub jakaś inna forma jest najbardziej prawdopodobnym modelem, najbezpieczniejszym modelem jest prawdopodobnie ten, który zaleciłby Razor Razor, prognoza liniowa.

Aby dokonać jakiejkolwiek prognozy, należy zebrać punkty danych. Chociaż jest to realistyczna prognoza, nie jest ona zbyt sumienna. Być może można by zrobić więcej pracy, aby znaleźć model bardziej prawdopodobny niż liniowy, opracować system teorii i mierników w celu określenia postępu w dowolnym momencie lub zebrać więcej punktów danych w celu ustalenia dopasowania najmniejszych kwadratów. Na potrzeby tej odpowiedzi wykorzystamy po prostu dwa punkty danych i dokonamy ekstrapolacji liniowej.

W 1660 roku Blaise Pascal napisał w swoich Pensées („Myśli”): „Maszyna arytmetyczna wywołuje efekty, które zbliżają się do myślenia bardziej niż wszystkie działania zwierząt. Ale nie robi nic, co pozwoliłoby nam przypisać jej wolę, co do zwierzęta ”, więc w tym czasie trwały już poszukiwania mechanicznych symulacji ludzkiej inteligencji.

Od tego czasu programiści komputerowi opracowali kod, który osiąga wiele ludzkich możliwości.

• Uogólnienie obliczeń numerycznych i logicznych (CPU)
• Automatyki biurowej
• Rozpoznawanie wzorców (stosowane do pisania, mowy i scen)
• Konwergencja w obwodach optymalnie funkcjonalnych (sieci neuronowe)
• Zastosowanie prawdopodobieństwa do decyzji (twierdzenie Bayesa itp.)
• Zasady rządzą doskonałością w grach dyskretnych

Funkcje, których obecnie brakuje cyfrowej symulacji inteligencji systemów cyfrowych, są ważne i liczne.

• Intuicja w wyliczaniu ogólnych podejść do problemu
• Doskonała znajomość języka naturalnego
• Ekspresyjność emocjonalna w sztuce
• Ekspresja polityczna w sztuce
• Dobra gra sportowa (w systemach robotycznych)
• Wykonywanie dobrej pracy w pracy (udzielanie dowolnych instrukcji)
• Nauka robienia nowych rzeczy w pracy
• Rozpoczęcie projektu bez wcześniejszego doświadczenia w dziedzinie
• Kompleksowa analiza redukcyjna
• Skomplikowane projektowanie dowolnych urządzeń fizycznych według wymagań)
• Tworzenie oprogramowania (oprogramowanie do tworzenia oprogramowania według wymagań)
• Oświecone rozszerzenie obszaru badań
• Identyfikacja podstępu w czasie rzeczywistym
• Emocjonalna intymność
• Współczucie i empatia
• Kompleksowa samoocena
• Opracowanie nowych dziedzin matematyki w celu potwierdzenia hipotezy
• Idź na zajęcia i dowiedz się więcej
• Wybierz książki i artykuły na wybranej ścieżce uczenia się i przeczytaj je
• Inne możliwości w tym zakresie

Biorąc pod uwagę, że lista ta jest skrócona, a elementów, które nie zostały jeszcze osiągnięte w oprogramowaniu, nie można tak mechanicznie opisać w języku naturalnym, jak te, które zostały już z powodzeniem zaprogramowane, możemy być stosunkowo pewni, że w 2017 r. Mamy systemy cyfrowe, które osiągnęły jedynie ułamek funkcji pełnego zestawu, którego ludzie oczekują od człowieka bez nazywania osoby wyzwaniem umysłowym. Sądząc z listy osiągnięć, nie więcej niż 10% tego, co robią inteligentni ludzie, zostało zasymulowane przez oprogramowanie komputerowe.

Bez żadnego powodu, aby sądzić, że szybkość odkrywania spadnie lub zwiększy się (pomimo twierdzeń, że postęp człowieka był wykładniczy ¹ ), proste liniowe przybliżenie umieszcza stosunkowo kompletny elektroniczny mózg na horyzoncie na rok 5 587.