Rozważamy zbudowanie serwera pamięci o pojemności ~ 16 TB. W tej chwili rozważamy zarówno ZFS, jak i XFS jako system plików. Jakie są zalety, wady? Czego musimy szukać? Czy jest trzecia, lepsza opcja?
filesystems
storage
zfs
xfs
Tamas Czinege
źródło
źródło
Odpowiedzi:
Odkryłem, że XFS jest bardziej odpowiedni dla bardzo dużych systemów plików z możliwie wieloma dużymi plikami. Mam działający system plików XFS 3.6 TB od ponad 2 lat bez żadnych problemów. Zdecydowanie działa lepiej niż ext3 itp. W tym rozmiarze (szczególnie w przypadku wielu dużych plików i wielu operacji we / wy).
To, co zyskujesz dzięki ZFS, to pula urządzeń, paskowanie i inne zaawansowane funkcje wbudowane w sam system plików. Nie mogę rozmawiać o szczegółach (pozwolę innym komentować), ale z tego, co mogę powiedzieć, chciałbyś użyć Solaris, aby uzyskać jak najwięcej korzyści tutaj. Nie jest też dla mnie jasne, jak bardzo ZFS pomaga, jeśli już używasz sprzętowej macierzy RAID (tak jak ja).
źródło
xfs_fsr„defragmentacji”.ZFS zapewni Ci korzyści wykraczające poza oprogramowanie RAID. Struktura poleceń jest bardzo starannie zaprojektowana i intuicyjna. Ma również kompresję, migawki, klonowanie, wysyłanie / odbieranie systemu plików oraz pamięć podręczną (te nowe, wymyślne dyski SSD), aby przyspieszyć indeksowanie metadanych.
Kompresja:
Obsługuje proste tworzenie migawek kopiowania przy zapisie, które można montować na żywo:
Klonowanie systemu plików:
System plików wysyłaj / odbieraj:
Przyrostowe wysyłanie / odbieranie:
Urządzenia buforujące:
To tylko wierzchołek góry lodowej, gorąco polecam zakup instalacji Open Solaris i wypróbowanie tego.
http://www.opensolaris.org/os/TryOpenSolaris/
Edycja : Jest to bardzo stary, Open Solaris został wycofany, najlepszym sposobem korzystania z ZFS jest prawdopodobnie na Linuksie lub FreeBSD .
Pełne ujawnienie: Byłem architektem pamięci masowej firmy Sun, ale nie pracowałem dla nich od ponad roku, jestem tylko podekscytowany tym produktem.
źródło
http://opensolaris.org/os/TryOpenSolaris/używanie migawek lvm i xfs na żywych systemach plików to przepis na katastrofę, szczególnie przy użyciu bardzo dużych systemów plików.
Przez ostatnie 6 lat działałem wyłącznie na LVM2 i xfs na moich serwerach (w domu, nawet jeśli Zfs-Fuse jest po prostu zbyt wolny) ...
Jednak nie mogę już liczyć różnych trybów awarii napotkanych podczas używania migawek. Przestałem ich całkowicie używać - to po prostu zbyt niebezpieczne.
Jedynym wyjątkiem, który zrobię teraz, jest moja osobista kopia zapasowa serwera poczty / serwera WWW, w której wykonam kopie zapasowe w ciągu nocy przy użyciu efemerycznej migawki, która jest zawsze równa rozmiarowi źródłowego pliku fs, i jest natychmiast usuwana.
Najważniejsze aspekty, o których należy pamiętać:
źródło
Kilka dodatkowych rzeczy do przemyślenia.
Jeśli dysk umrze w sprzętowej macierzy RAID niezależnie od systemu plików, który jest na nim, wszystkie bloki urządzenia muszą zostać odbudowane. Nawet te, które nie zawierały żadnych danych. ZFS jest natomiast menedżerem woluminów, systemem plików oraz zarządza redundancją i rozłożeniem danych. Dzięki temu może inteligentnie odbudować tylko bloki zawierające dane. Powoduje to szybszy czas przebudowy inny niż wtedy, gdy wolumin jest pełny w 100%.
ZFS ma czyszczenie w tle, które zapewnia spójność danych na dysku i naprawia wszelkie znalezione problemy, zanim doprowadzi to do utraty danych.
Systemy plików ZFS są zawsze w spójnym stanie, więc fsck nie jest potrzebny.
ZFS oferuje także większą elastyczność i funkcje dzięki swoim migawkom i klonom w porównaniu do migawek oferowanych przez LVM.
Po uruchomieniu dużych pul pamięci do produkcji wideo w dużym formacie na stosie Linux, LVM i XFS. Z mojego doświadczenia wynika, że łatwo jest popaść w mikro-zarządzanie pamięcią masową. Może to spowodować duże ilości niewykorzystanego przydzielonego miejsca i czasu / problemy z zarządzaniem woluminami logicznymi. To może nie być wielka sprawa, jeśli masz pełnoetatowego administratora pamięci masowej, którego zadaniem jest mikro-zarządzanie pamięcią. Odkryłem jednak, że metoda przechowywania puli w ZFS usuwa te problemy z zarządzaniem.
źródło
ZFS jest absolutnie niesamowity. Używam go jako mojego domowego serwera plików dla serwera plików HD 5 x 1 TB, a także używam go w produkcji z prawie 32 TB miejsca na dysku twardym. Jest szybki, łatwy w użyciu i zawiera jedne z najlepszych zabezpieczeń przed uszkodzeniem danych.
Używamy OpenSolaris na tym serwerze, w szczególności dlatego, że chcieliśmy mieć dostęp do nowszych funkcji oraz ponieważ zapewnił on nowy system zarządzania pakietami i sposób aktualizacji.
źródło
Który system operacyjny zamierzasz uruchomić? Czy to kolejna część rozważań? Jeśli korzystasz z systemu Solaris, XFS nie jest nawet opcją, o ile wiem. Jeśli nie korzystasz z systemu Solaris, jak zamierzasz korzystać z ZFS? Wsparcie jest ograniczone na innych platformach.
Jeśli mówisz o serwerze Linux, osobiście trzymałbym się Ext3, choćby dlatego, że otrzymuje najwięcej testów. Zfs-fuse jest wciąż bardzo młody. Miałem też problemy z XFS, kiedy błąd spowodował uszkodzenie danych po aktualizacji jądra. Przewagi XFS nad Ext3 zdecydowanie nie przeważały nad kosztami związanymi z przywracaniem komputera, który znajdował się w zdalnym centrum danych.
źródło
Nie sądzę, że powinieneś skupić się na wydajności. Czy Twoje dane są bezpieczne w XFS, ext4 itp.? Nie. Przeczytaj tezy doktorskie i prace badawcze:
XFS nie jest bezpieczny przed uszkodzeniem danych: pages.cs.wisc.edu/~vshree/xfs.pdf
I nie jest też ext3, JFS, ReiserFS itp .: zdnet.com/blog/storage/how-microsoft-puts-your-data-at-risk/169?p=169&tag=mantle_skin%3bcontent „Natknąłem się na fascynującą pracę doktorską Vijayana Prabhakarana, IRON File Systems, który analizuje, w jaki sposób pięć systemów plików z księgowaniem towarów - NTFS, ext3, ReiserFS, JFS i XFS - radzi sobie z problemami z pamięcią.
W skrócie stwierdził, że wszystkie systemy plików mają
Ale ZFS skutecznie chroni twoje dane. Oto artykuł badawczy na ten temat: zdnet.com/blog/storage/zfs-data-integrity-tested/811
źródło
Nie jest to odpowiedź zorientowana na FS, ale pamiętaj, że wiele kontrolerów dysków nie poradzi sobie z> LUNS / dyskami logicznymi o pojemności 2 TB - może to znacznie ograniczyć sposób organizacji pamięci. Chciałem tylko, abyś był świadomy, abyś mógł sprawdzić swój system od końca do końca, aby upewnić się, że poradzi sobie z 16 TB przez cały czas.
źródło
Zależy, jakie funkcje chcesz ..., dwa rozsądne wybory to xfs i zfs, jak powiedziałeś, kod xfs jest dość dobrze przetestowany. Po raz pierwszy użyłem go 8 lat temu w systemie IRIX
Możliwe jest uzyskanie migawek z XFS (przy użyciu lvm i xfs_freeze)
Możliwe jest posiadanie osobnego urządzenia rejestrującego, np. SSD
Duże XFS tradycyjnie wymagają dużej ilości pamięci do sprawdzenia
Problem z pojawianiem się zer był funkcją „bezpieczeństwa”, która, jak sądzę, zniknęła jakiś czas temu.
źródło
Oprócz tego, co już wspomniano, z punktu widzenia wydajności xfs na MD Raid działa lepiej niż zfs na streamingu mediów. Używam tego samego sprzętu przez pół dekady z XFS i mniej więcej tyle samo czasu z ZFS na moim serwerze medialnym. Na procesorze Intel Atom 330 z XFS nigdy nie doświadczam twardszego, na ZFS w złożonych scenach ten sam sprzęt nie może nadążyć i zaczyna upuszczać klatki.
źródło
Zamiast budować własne, alternatywą jest Sun 7410 aka Toro. Ma bardzo przydatne oprogramowanie, które jest dołączone do rozwiązania.
źródło
Cóż, nie zapomnijmy o najnowszym dodatku do ZFS: deduplikacji. I porozmawiajmy o dzieleniu się w locie iscsi, nfs lub smb. Jak już powiedzieli inni, eksport systemów plików ZFS, migawki, suma kontrolna bloków raidz (= raid5), szerokość pasków dynamicznych, zarządzanie pamięcią podręczną i wiele innych. Głosuję na ZFS.
źródło