Pytania oznaczone «loss-functions»

Zrozumienie funkcji utraty GAN

Usiłuję zrozumieć funkcję utraty GAN przedstawioną w Understanding Generative Adversarial Networks (post na blogu napisany przez Daniela Seity). W standardowej stracie entropijnej mamy wyjście, które zostało przepuszczone przez funkcję sigmoidalną i wynikową klasyfikację binarną. Stwierdza Sieta...

Strata gwałtownie skacze, gdy zmniejszam tempo uczenia się za pomocą optymalizatora Adama w PyTorch

Trenuję auto-encodersieć z Adamoptymalizatorem (z amsgrad=True) i MSE lossdla zadania Separacja źródła dźwięku jednokanałowego. Ilekroć zmniejszam współczynnik uczenia się czynnikowo, utrata sieci gwałtownie skacze, a następnie maleje aż do następnego spadku współczynnika uczenia się. Używam...