Z kodu Tensorflow : Tensorflow. RnnCell.
num_units: int, The number of units in the LSTM cell.
Nie mogę zrozumieć, co to oznacza. Jakie są jednostki komórki LSTM. Bramy wejściowe, wyjściowe i zapomnienia? Czy to oznacza „liczbę jednostek w rekurencyjnej warstwie projekcyjnej dla Deep LSTM”. Dlaczego więc nazywa się to „liczbą jednostek w komórce LSTM”? Co to jest komórka LSTM i jaka jest różnica VS blok LSTM, co to jest minimalna jednostka LSTM, jeśli nie komórka?
neural-network
tensorflow
rnn
Brans Ds
źródło
źródło
Odpowiedzi:
Jak mówią pomocne komentarze w tej funkcji,
Zasadniczo warstwa będzie zawierać wiele równoległych jednostek LSTM, strukturalnie identycznych, ale każda ostatecznie „uczy się zapamiętywać” coś innego.
źródło
Większość diagramów LSTM / RNN pokazuje tylko ukryte komórki, ale nigdy ich jednostki. Stąd zamieszanie. Każda ukryta warstwa ma ukryte komórki, tyle ile kroków czasowych. Co więcej, każda ukryta komórka składa się z wielu ukrytych jednostek, jak na poniższym schemacie. Dlatego wymiarowość macierzy ukrytej warstwy w RNN wynosi (liczba kroków czasowych, liczba ukrytych jednostek).
źródło
W Keras, który znajduje się na górze TensorFlow lub Theano, gdy wywołujesz
model.add(LSTM(num_units))
, num_units to wymiarowość przestrzeni wyjściowej ( stąd linia 863). Dla mnie oznaczanum_units
to liczbę ukrytych jednostek, których aktywacje są wysyłane do następnego kroku czasowego.źródło
Liczba jednostek w RNN jest liczbą jednostek pamięci RNN na każdym wejściu sekwencji w sposób pionowy połączonych ze sobą i każda z nich przekazuje przefiltrowane informacje do następnych jednostek pamięci.
Pamiętaj, że ta koncepcja została zainspirowana koncepcją informatyczną przepływu alokacji pamięci do różnych jednostek wielkości bitów.
źródło