Dlaczego IOPS ma znaczenie?

Rozumiem, czym są IOPS i przepustowość. Przepustowość mierzy przepływ danych w MB / si IOPS mówi, ile operacji we / wy dzieje się na sekundę.

Nie rozumiem, dlaczego wiele usług pamięci masowej pokazuje tylko IOPS, które zapewniają. Naprawdę nie widzę żadnego scenariusza, w którym wolałbym poznać IOPS zamiast przepustowości.

Dlaczego IOPS ma znaczenie? Dlaczego AWS pokazuje głównie swoje zasady przechowywania w IOPS? Gdzie IOPS jest ważniejszy niż przepustowość (MB / s)?

EDYTOWAĆ:

Niektóre osoby zastanawiają się nad tym pytaniem, jak gdybym zapytał, czym jest dostęp losowy i jak wpływa on na wydajność lub jak działa HDD i SSD ... chociaż myślę, że ta informacja jest przydatna dla osób, które nie znają się na pamięci masowej, dużo uwagi poświęcamy do tego i to nie jest celem pytania, pytanie dotyczy „Jakie nowe informacje otrzymam, gdy zobaczę numer IOPS, że nie dostanę numeru przepustowości (MB / s)?”

Wydajność

Przepustowość jest przydatna, gdy wykonujesz czynności takie jak kopiowanie plików. Kiedy robisz prawie cokolwiek innego, losowo czyta i zapisuje na dysku, co Cię ogranicza.

IOPS

IOPS zazwyczaj określa rozmiar każdego pakietu danych. Na przykład AWS gp2 może wykonać 10 000 IOPS przy rozmiarze ładunku 16 KiB . To mnoży się do 160 Mb / s. Jednak jest mało prawdopodobne, abyś cały czas używał pełnego ładunku, więc rzeczywista przepustowość prawdopodobnie będzie niższa. NB KiB ma 1024 bajty, KB to 1000 bajtów.

Ponieważ IOPS określa rozmiar pakietu, który daje również całkowitą przepustowość. Natomiast wysoka przepustowość nie oznacza, że ​​masz wysoki IOPS.

Scenariusze

Rozważ te scenariusze:

• Uruchamianie komputera. Zastanów się nad różnicą między dyskiem SSD a wirującym dyskiem w komputerze, z którym wiele osób ma doświadczenie z pierwszej ręki. W przypadku wirującego dysku czas rozruchu może wynosić minutę, podczas gdy w przypadku dysku SSD może to spaść do 10–15 sekund. Wynika to z faktu, że wyższe IOPS prowadzą do mniejszych opóźnień, gdy wymagane są informacje. Przepustowość wirującego dysku jest dość dobra, 150 MB / s, chociaż SSD jest prawdopodobnie wyższy, nie dlatego jest szybszy - to mniejsze opóźnienie w zwrocie informacji.
• Uruchamianie aktualizacji systemu operacyjnego. To działa na całym dysku, dodając i łatając pliki. Gdybyś miał niski IOPS, byłby wolny, niezależnie od przepustowości.
• Uruchamianie bazy danych, na przykład wybieranie niewielkiej ilości danych z dużej bazy danych. Odczytuje z indeksu, odczytuje z wielu plików, a następnie zwraca wynik. Znowu idzie po całym dysku, aby zebrać informacje.
• Granie w grę na komputerze. Prawdopodobnie ładuje dużą liczbę tekstur z całego dysku. W takim przypadku prawdopodobnie wymagane są IOPS i przepustowość.

Taśma LTO

Zastanów się przez chwilę nad systemem tworzenia kopii zapasowych na taśmie. LTO6 może robić 400 MB / s, ale (chyba tutaj) chyba nie może nawet zrobić jednego losowego procesora IOP, może on wynosić zaledwie kilka sekund na procesor IOP. Z drugiej strony prawdopodobnie prawdopodobnie wykona całą sekwencję IOPS, jeśli IOPS jest zdefiniowany jako odczyt lub zapis paczki danych na taśmie.

Jeśli spróbujesz uruchomić system operacyjny z taśmy, zajmie to dużo czasu, jeśli w ogóle zadziała. Dlatego IOPS jest często bardziej pomocny niż przepustowość.

Aby zrozumieć urządzenie pamięci masowej, prawdopodobnie chcesz wiedzieć, czy jest to losowy lub sekwencyjny IOPS oraz rozmiar IO. Z tego można uzyskać przepustowość.

AWS

Należy zauważyć, że AWS publikuje na tej stronie zarówno dane IOPS, jak i dane dotyczące przepustowości dla wszystkich typów pamięci . SSD ogólnego zastosowania (gp2) może wykonać 10 000 operacji IOPS 16 kB, co daje maksymalnie 160 MB / s. Provisioned IOPS (io1) to 20 000 IOPS 16 kB, co daje maksymalnie 320 MB / s.

Pamiętaj, że w przypadku woluminów gp2 otrzymujesz 30IOPS na GB, więc aby uzyskać 10 000 IOPS, potrzebujesz 333,33 GB woluminu. Nie pamiętam, czy woluminy io1 mają podobne ograniczenie (minęło trochę czasu, odkąd zrobiłem powiązane egzaminy, w których testowane są tego rodzaju rzeczy), ale podejrzewam, że tak, a jeśli tak, to prawdopodobnie 60IOPS na GB.

Wniosek

Wysoka przepustowość sekwencyjna jest użyteczna, aw niektórych przypadkach jest czynnikiem ograniczającym wydajność, ale wysoki IOPS może być ważniejszy w większości przypadków. Oczywiście nadal potrzebujesz rozsądnej przepustowości niezależnie od IOPS.

Wynika to z faktu, że sekwencyjna przepływność nie jest sposobem, w jaki występuje większość aktywności we / wy.

Losowe operacje odczytu / zapisu są bardziej reprezentatywne dla normalnej aktywności systemu, i jest to zwykle związane z IOPS.

Przesyłanie strumieniowe pornografii z jednego z moich serwerów do naszych klientów (lub przesyłanie do naszego CDN) ma bardziej sekwencyjny charakter i zobaczysz tam wpływ przepustowości.

Ale utrzymywanie bazy danych, która kataloguje pornografię i śledzi aktywność użytkownika za pośrednictwem witryny, będzie miało charakter losowy i będzie ograniczony przez liczbę małych operacji we / wy / sekundę, które jest w stanie wykonać w podstawowej pamięci.

Mogę potrzebować 2000 IOPS, aby móc uruchomić bazy danych przy maksymalnym zużyciu, ale widzę przepustowość 30 MB / s na poziomie dysku z powodu rodzaju aktywności. Dyski mają prędkość 1200 MB / s, ale IOPS stanowią ograniczenie w środowisku.

Jest to sposób opisania potencjału pojemnościowego systemu pamięci masowej. Dysk SSD może mieć zdolność do wykonania 80 000 operacji IOPS i przepustowości 600 MB / s. Możesz uzyskać tę przepustowość dzięki 6 zwykłym dyskom SAS 10k, ale przyniosłoby to jedynie około 2000 IOPS.

Chociaż odpowiedź ewwhite jest całkowicie poprawna, chciałem podać bardziej konkretne liczby, aby pomóc wyjaśnić, dlaczego różnica ma znaczenie z perspektywy czasu.

Jak już słusznie stwierdzono w ewwhite, większość aplikacji niezwiązanych z przesyłaniem strumieniowym wykonuje przede wszystkim niesekwencyjne operacje dyskowe, dlatego IOPS ma znaczenie oprócz teoretycznej szczytowej przepustowości.

Kiedy współpracownik i ja po raz pierwszy zainstalowaliśmy dyski SSD w naszych systemach programistycznych, aby zastąpić dyski HDD, z których wcześniej korzystaliśmy, przeprowadziliśmy na nich pomiary wydajności, które naprawdę podkreśliły, dlaczego to jest ważne:

Wyniki SATA HDD:

Sekwencyjna przepustowość odczytu: ~ 100 MB / s
Niessekwencyjna przepływność odczytu (2k bloków, IIRC): ~ 1 MB / s

Wyniki SSD dołączone do PCIe:

Sekwencyjna przepływność odczytu: ~ 700 MB / s
Niessekwencyjna przepływność odczytu (2k bloków, IIRC): ~ 125 MB / s

Jak wyraźnie widać z przykładu, samo podanie maksymalnej przepustowości dla każdego urządzenia dałoby wyjątkowo niedokładny obraz ich porównania. Dysk SSD jest tylko około 6-7 razy szybszy niż dysk twardy podczas sekwencyjnego odczytu dużych plików, ale jest ponad 100 razy szybszy podczas odczytu małych porcji danych z różnych części dysku. Oczywiście w przypadku dysków twardych ograniczenie to wynika głównie z faktu, że dyski HDD muszą fizycznie przesunąć głowicę r / w na żądaną ścieżkę, a następnie poczekać, aż żądane dane wirują pod głową, podczas gdy dyski SSD nie mają żadnych fizycznych części do ruchu.

Nasze czasy kompilacji poprawiły się znacznie bardziej niż sugerowałoby to proste porównanie maksymalnej przepustowości. Kompilacje, które wcześniej zajmowały ponad 30 minut, teraz kończą się za około minutę, ponieważ dyskowe operacje we / wy podczas dużej kompilacji polegają na odczytywaniu i zapisywaniu wielu oddzielnych plików źródłowych, które nie są indywidualnie bardzo duże i mogą być fizycznie rozproszone na całym dysku .

Podając zarówno przepustowość, jak i numery IOPS, możesz uzyskać o wiele lepsze wyobrażenie o tym, jak dane obciążenie będzie działać na danym urządzeniu magazynującym. Jeśli przesyłasz po prostu duże ilości danych, które nie są pofragmentowane, zbliżysz się do maksymalnej przepustowości. Jeśli jednak wykonujesz wiele małych odczytów i / lub zapisów, które nie są przechowywane sekwencyjnie na dysku, będziesz ograniczony przez IOPS.

Aby wykonać operację we / wy, napędy muszą przejść szereg operacji. W przypadku mechanicznego dysku twardego muszą to zrobić.

1. Poszukaj właściwej ścieżki i wybierz właściwą głowę.
2. Poczekaj, aż talerz obróci się do właściwej pozycji.
3. Właściwie przenieś dane.

Czas potrzebny na 3 zależy od wielkości bloku danych, ale czas potrzebny na 1 i 2 jest niezależny od wielkości żądania.

Dane dotyczące wydajności nagłówka i IOP reprezentują skrajne przypadki. Nagłówkowe wartości przepustowości przedstawiają przypadek, w którym każda operacja obejmuje duży blok danych, więc napęd spędza większość czasu na przenoszeniu danych.

Nagłówek IOP przedstawia przypadek, w którym bloki danych są bardzo małe, więc większość czasu spędza się na szukaniu głowic i oczekiwaniu na obrót talerzy.

W przypadku wielu obciążeń bloki są wystarczająco małe, aby liczba bloków do przesłania była o wiele ważniejsza niż rozmiar bloków.

Istnieją dwa rodzaje wąskiego gardła, których można doświadczyć na woluminach IO (lub ogólnie IO).

Rzeczywista wydajność jest rzeczywiście mierzona w celu uwzględnienia komponentu opartego na ilości przenoszonych danych, skalowanego według dostępnego pasma lub podobnego rozmiaru kosztu jednostkowego *, ale istnieje również narzut związany z żądaniami, który jest stały, taki jak dysk, sieć lub wiele innych rzeczy.

koszt jednostkowy * rozmiar + koszty ogólne. równanie linii.

Jeśli koszt jednostkowy jest duży lub rozmiar jest duży, wówczas rozsądne jest ładowanie w oparciu o te wolumeny, takie jak sieci telefonii komórkowej, z drugiej strony czasami koszty ogólne są znacznie bardziej krytyczne.

Możesz sam zrobić prosty eksperyment, utworzyć katalog z kilkoma plikami 1 GB (lub cokolwiek praktycznego, coś tak dużego, że odczytanie / zapisanie zajmuje kilka sekund), a następnie utworzyć folder z milionem plików 100 bajtów (zauważ, że to 0,1 GB danych), a następnie sprawdź, co stanie się z Twoją przepustowością, gdy zaczniesz próbować przenosić wszystkie te rzeczy, powiedzmy między różnymi partycjami / dyskami - wydajność zostanie zmniejszona przez przepustowość dużych plików, a przepustnica przez liczba plików dla mniejszych rzeczy.

Zakładam, że amazon zna oba modele ładowania i po prostu stwierdził, że jeden z nich lepiej reprezentuje możliwości ich infrastruktury.

Istnieje limit wielkości procesora IOP, który jest zasadniczo związany z kwotą, którą sklep może i tak przenieść w „cyklu”, w związku z czym duże żądania nadal kosztują wiele IOPS.

Jest tu ciekawy kawałek od samych Amazon o IOPS i kosztach, a „oszczędności” są przekazywane przez optymalizacje

Charakterystyka i monitorowanie we / wy

Nie przeczytałem wszystkiego, ale wygląda interesująco, jeśli jesteś ciekawy tego obszaru.

Odpowiadając na twoje pytanie

„Jakie nowe informacje otrzymam, gdy zobaczę numer IOPS, że nie dostanę numeru przepustowości (MB / s)?”

bezpośrednio, to ile operacji IO o określonej głębokości kolejki i rozmiarze pliku może wykonać pamięć na sekundę . Przepustowość można obliczyć w danych warunkach przy użyciu następującego wzoru:

Rozmiar pliku IOPS * = przepustowość

Testy pamięci mogą generować różną liczbę IOPS w zależności od rozmiaru pliku i głębokości kolejki. Przy głębokości kolejki = 1 lub 2 kontroler nie korzysta z buforowania, podczas gdy przy głębokości kolejki 32, 256, 512 liczba rośnie kilkakrotnie i niewiele się zmienia. Przy rozmiarze pliku liczba IOPS 128 KB może być niższa przy plikach 4KB, ale przepustowość - wyższa.

Najlepszym sposobem oceny wydajności pamięci jest poszukiwanie testów IOPS i przepustowości przy różnych rozmiarach bloków i głębokości kolejki.

Ogólnie rzecz biorąc, IOPS jest trudniejszy do uzyskania niż przepustowość. Jeśli masz dużo IOPS, będziesz miał wystarczającą przepustowość przez większość czasu.

W przypadku klasycznych dysków twardych liczba osi jest czynnikiem ograniczającym, ponieważ głowa musi być fizycznie poruszana na każdym dysku: i jest strasznie powolna. Dyski SSD mają znacznie lepszą pojemność IOPS.

Jeśli masz tylko jednego użytkownika, który kopiuje jeden duży plik do sieci, możesz mieć tylko kilkanaście prób uzyskania danych, a reszta będzie przesyłana strumieniowo tylko z dysku.

Jeśli jednak trafiasz do bazy danych lub masz wielu współbieżnych użytkowników, będziesz musiał uzyskać dostęp do różnych części pamięci w tym samym czasie, dzięki szybkiemu wzrostowi IOPS.

Wystarczy zaktualizować 10 wierszy równolegle w relacyjnej bazie danych, co może zakończyć się wygenerowaniem setek operacji wejścia / wyjścia: odczytywanie indeksów, odczytywanie danych, dołączanie pliku dziennika, aktualizowanie indeksów i danych. Większość systemów operacyjnych i baz danych bardzo mocno stara się ograniczyć liczbę operacji we / wy poprzez buforowanie i opóźnianie / grupowanie operacji we / wy, jeśli to możliwe.

Odpowiem też na własne pytanie, ponieważ myślę, że większość odpowiedzi poszła nie na temat, a odpowiedź może być o wiele prostsza:

Jeśli spojrzysz tylko na przepustowość urządzeń magazynujących, możesz przegapić to, co się dzieje ... Jeśli masz niską przepustowość (niskie MB / s), możesz mieć wolne urządzenie LUB mieć dużo losowego dostępu na HDD lub innym urządzeniu który nie obsługuje ładnego dostępu losowego.

Analizując IOPS i znając wielkość porcji każdej operacji I / O, możesz dowiedzieć się, ile dostępu urządzenie pamięci jest w stanie obsłużyć i jaka jest przepustowość tych IOPS (wielkość porcji * IOPS).

Patrząc na wysokie IOPS, możesz stwierdzić, że twoje urządzenie pamięci masowej obsługuje wiele losowego dostępu, nawet jeśli wiąże się to z niską przepustowością .... a może szukasz niskich IOPS, które mają tę samą niską przepustowość, co oznacza, że ​​twoje urządzenie jest po prostu bezczynny.

Tak więc, patrząc na IOPS, możemy uzyskać wgląd w to, co tak naprawdę oznacza przepływność, oba się uzupełniają.