Jakie są zalety i wady różnych algorytmów demaskowania Bayera?

25

Czujniki Bayer wykorzystują wzór czerwonych, zielonych i niebieskich pikseli i łączą je w końcowy obraz kolorowy, z jednym pikselem na każdy czujnik koloru . Można tego dokonać poprzez „naiwne” łączenie sąsiadujących czujników, ale słyszałem o bardziej skomplikowanych podejściach z nazwami takimi jak AHD, HPHD i AMaZE.

Jakie są te inne podejścia i jakie przynoszą korzyści? Czy mają słabości przekraczające złożoność obliczeniową?

Wyobrażam sobie, że podejście stosowane w aparacie JPEG jest ściślej strzeżone, ale wyraźnie wiele badań i prac rozwojowych dotyczy tego obszaru. Czy ograniczona moc przetwarzania dostępna w kamerze wymusza jakiekolwiek kompromisy w tym obszarze?

mattdm
źródło
Mogłem się mylić, ale miałem wrażenie, że demosaiacing odbywa się w kamerze, w przeciwnym razie obraz cierpiałby na aliasing. Interesujący artykuł był na ten temat w jednej z ostatnich Popular Photography, mówiącej o Sigmie (matrycy Foveon X3), która jest jedną z niewielu kamer, które nie mają czujnika Bayera.
Jakub Sisak GeoGraphics
1
Cóż, szybkie śledztwo wskazuje, że AHD, czyli adaptacyjne demozaikowanie ukierunkowane na homogeniczność, jest „standardem branżowym” i wydaje się być stosowane przez ACR / LR (przynajmniej od kilku wersji temu ... kto wie, czy mają wprowadzono coś bardziej zaawansowanego w ACR 6.x i LR4.x). Wydaje się, że jest to algorytm ważony, który ma na celu zmniejszenie fałszywych kolorów.
jrista
7
@Jakub: Demosykacja występuje w aparacie w przypadku zdjęć JPEG. Cały sens obrazu RAW polega na tym, że NIE został jeszcze zdemaskowany, a jest to „surowe” nagrywanie danych pikseli bezpośrednio z czujnika bez dodatkowego przetwarzania (poza podstawowym wzmocnieniem w celu uzyskania niezbędnego ISO). Niski poziom optyczny -przepustowy filtr (filtr AA) eliminuje aliasing poprzez fizyczne „rozmycie” częstotliwości przestrzennych poniżej częstotliwości Nyquista czujnika.
jrista
Należy pamiętać, że filtry „czerwony”, „zielony” i „niebieski” w naszych tablicach Bayer nie są równe emitentom czerwonym, zielonym i niebieskim w naszych urządzeniach RGB. Szkoda, że ​​używamy tych samych nazw dla obu.
Michael C
Ech, naprawdę są wystarczająco blisko, aby traktować w ten sposób. Nie uzyskasz idealnego koloru, ale jest on na boisku. Zobacz na przykład powiększony widok na petapixel.com/2013/02/12/… - tylko wizualnie kolory filtrów są zdecydowanie tymi, które identyfikujemy.
mattdm

Odpowiedzi:

19

Kilka miesięcy temu byłem zaskoczony, gdy odkryłem, że moja kamera SDK użyła „interpolacji” najbliższego sąsiada we wbudowanej funkcji Bayera. Jest to najszybszy, ale najgorszy typ, dający twarde krawędzie, szczególnie gdy zaczynasz robić matematykę na kanałach obrazu, aby uzyskać stałość kolorów lub niezmienność jasności. Znalazłem tę recenzję algorytmów:

http://www.arl.army.mil/arlreports/2010/ARL-TR-5061.pdf

Następnym krokiem w górę są interpolacje dwu- i dwubiegunowe, które można obliczyć dość szybko, ponieważ sprowadzają się one do jąder splotu. Dają kolorowe zęby piły na skośnych krawędziach - dwuliniowe więcej niż bicubic.

Można to zobaczyć w tym artykule oraz z ilościowymi danymi jakościowymi dotyczącymi 5 różnych algorytmów:

http://research.microsoft.com/en-us/um/people/lhe/papers/icassp04.demosaicing.pdf

Dlatego wykonali interpolacje w oparciu o kierunek krawędzi. Jednak traktują zieleń jako bardziej „ważny kanał” (ponieważ ma najlepszą rozdzielczość i odpowiada za większość naszej wrażliwości wizualnej i rozdzielczości oczu). Następnie tworzą niebieski i czerwony jako funkcję kanału zielonego w sposób zachowujący odcień. To z kolei sprawia, że ​​treści wysokiej częstotliwości kanału zielonego są bardziej podatne na błędy. Złożoność jest większa, ponieważ muszą wykryć, co się dzieje i wymagają wielu przejść. Mora i kukurydza są powszechnymi artefaktami z tego rodzaju interpolacji.

Tutaj pokazują przykłady Adaptacyjnej homogeniczności Demosaicing i wersje dwuliniowe z dodatkami lub bez zachowania odcienia i zachowania krawędzi:

http://math.auburn.edu/~kilgota/ahd_bayer.pdf

Ten artykuł faworyzuje AHD i nie wykazuje negatywnej strony. Na tej stronie można zobaczyć różne artefakty wzorca z Adaptacyjnego homogeniczności Demosaicing, Wzorzyste grupowanie pikseli i Zmienna liczba gradientów (najedź myszką na nazwy):

http://www.ruevski.com/rawhistogram/40D_Demosaicing/40D_DemosaicingArtifacts.html

Podsumowując, istnieje wiele założeń zastosowanych w tych algorytmach, a artefakty występują, gdy założenie się nie zachowuje:

  • Płynność na kanał. Jeśli najbliżsi sąsiedzi nie są tacy sami, wykonaj płynne przejście. Artefakt: piły / zamki, miękkość
  • Stała jasność z ukierunkowanymi krawędziami (kierunek dwuliniowy). Artefakty: mora teksturowa o wysokiej częstotliwości, kolorowe frędzle
  • Odcień stałości. jeśli w okolicy odcień jest taki sam, więc jeśli jeden kanał się zmieni, pozostałe muszą podążać. Artefakty: kolorowe zamki na kolorowych krawędziach
  • Stałość można przewidzieć na podstawie zieleni. Artefakt: labirynty
Michael Nielsen
źródło
Szybkie pytanie - w ostatniej linii masz na myśli „kukurydzę” (rodzaje kukurydzy?) Czy „labirynty”? W obu przypadkach byłbym bardziej wdzięczny za rozszerzenie tego rodzaju artefaktu.
mattdm
mysz w labiryncie.
Michael Nielsen
Fajnie :) Myślę, że znam artefakt, do którego się odnosi, ale nie jestem do końca pewien. To losowy wzór na poziomie pikseli krótkich linii poziomych i pionowych (być może zmieszanych z szumem), prawda? Ciekawe, skąd to się bierze - w rzeczywistości prawie kiedyś zadałem pytanie na ten temat, ponieważ zakładałem, że jest to artefakt NR.
mattdm
są to wiersze tak i pochodzą ze sposobu, w jaki algorytm Bayera próbuje odgadnąć dane.
Michael Nielsen
5

Zacząłem trochę z tym grać i odkryłem, że naiwne podejście nie jest wcale takie złe. To po prostu traktowanie każdego koloru osobno i interpolacja w celu uzyskania odstępu między pikselami. Główną wadą tego jest to, że jeśli podglądasz piksele w miejscu o wysokim kontraście, możesz zobaczyć kolorowe obramowanie. Innymi słowy, jeśli masz jasnoszary obszar przylegający do czarnego obszaru, zobaczysz kilka kolorowych pikseli na granicy. Na szczęście wartości te są ogólnie uśrednione, ale jeśli krawędź jest prawie pionowa lub prawie pozioma, uśredniają się przy niskiej częstotliwości. Ten sam efekt może być jeszcze bardziej widoczny na cienkich jasnych liniach, które są prawie pionowe lub poziome.

Oto przykład. To zdjęcie zostało celowo wykonane jako zdjęcie próbne:

Zwróć uwagę na pozorne pasy linii chromowanych wykończeń. Aby ująć to w perspektywie, oto pełna klatka:

Myślałem o alternatywnym podejściu, ale jak dotąd zawsze były inne rzeczy do zrobienia. Ten schemat miałby na celu przede wszystkim znalezienie jasności . Byłby to pojedynczy kanał danych obrazu, gdyby obraz był czarno-biały. Każdy sensel przyczynia się do tego, chociaż kolory nie mają jednakowego znaczenia. Po określeniu intensywności interpolujesz kolory jak w naiwnej metodzie, ale wykorzystujesz wynik tylko do ustawiania kolorów w taki sposób, aby zachować intensywność. Intensywność miałaby większą przepustowość lub byłaby ostrzejsza pod względem fotograficznym niż informacje o odcieniu. Telewizja analogowa wykorzystała tę sztuczkę, aby zmniejszyć wymagania dotyczące przepustowości obrazu kolorowego. Uciekli, ponieważ ludzki system wizualny przywiązuje większą wagę do intensywności niż kolorów, szczególnie czerwonych.

W każdym razie to tylko niektóre przemyślenia. Tak jak powiedziałem, tak naprawdę jeszcze tego nie próbowałem ani nie opracowałem szczegółów. Pewnego dnia.

Olin Lathrop
źródło
3

Rozumiem, że różne wersje procesu w Lightroomie (do tej pory mamy 2003, 2010 i 2012) odpowiadają między innymi różnym algorytmom demaskowania. Innym interesującym oprogramowaniem jest UFRaw, który oferuje następujące (cytat ze strony internetowej):


Po ustawieniu balansu bieli UFRaw interpoluje wzór Bayera.

  • Interpolacja AHD to interpolacja sterowana przez homogeniczność adaptacyjną. Jest to domyślna interpolacja.
  • Interpolacja VNG korzysta z interpolacji zmiennej liczby gradientów opartej na wartości progowej. To była domyślna interpolacja i nadal jest bardzo dobra .
  • Należy użyć interpolacji czterokolorowej VNG, jeśli na zdjęciu pojawiają się artefakty wzoru Bayera ( więcej szczegółów w FAQ DCRaw ).
  • Interpolacja PPG oznacza interpolację z wykorzystaniem wzorzystego grupowania pikseli. Jest prawie tak dobry jak wszystkie powyższe i znacznie szybszy.
  • Interpolacja dwuliniowa jest interpolacją bardzo podstawową, ale jest znacznie szybsza.

Może to dostarczyć materiału do eksperymentów. Nawiasem mówiąc, UFRaw wydaje się być Open source, co pozwala zerknąć na same algorytmy.

Francesco
źródło
0

W astrofotografii ten temat jest badany dogłębnie, ponieważ w przypadku korzystania z czujnika koloru z jednym strzałem rozdzielczość jest często tracona przez rozbijanie. Z drugiej strony, użycie pliku RAW nadal zapewnia dostęp do oryginalnych danych i może być przetwarzane przed aplikacją koloru. Ten temat ściśle dotyczy strony oprogramowania.

Krótko mówiąc, jeśli masz dostęp do wielu zdjęć z tymi samymi danymi podmiotowymi (co jest zrobione w celu zmniejszenia szumu czujnika), możesz zamienić konwersję pojedynczej klatki za pomocą AHD na podejście mżawkowe, które może odzyskać utraconą rozdzielczość. Wybór zależy od rodzaju dostępnych danych źródłowych. Większość fotografów ma tylko jedno zdjęcie do wykorzystania.

Niektóre programy, których użyłem z opcjami do debayeringu to: Deep Sky Stacker i Pix Insight. Są też inni. Wiele bazuje na DCRAW .

Oto link do artykułu na stronie Deep Sky Stacker, w którym omawiają niektóre opcje: Wybory debayering

Smigol
źródło
1
To interesujące (dzięki!), Ale nie sądzę, że odpowiada na pytanie. Ten ostatni link wydaje się obiecujący, ale w ogóle koncentruje się na alternatywach do demaskowania. W omawianym temacie jest napisane tylko: „Dostępnych jest wiele różnych metod interpolacji, które dają złe lub dobre wyniki (liniowe, gradientowe ...), ale wszystkie obniżają jakość końcowego obrazu, zgadując, jakie powinny być brakujące kolory. „ Ale nie idzie dalej do praktycznych szczegółów.
mattdm