Wymagania dotyczące zasilania centrum danych. A = W / V… Muszę robić coś głupiego

12

Okay, nasze centrum danych nie pobiera od nas opłat w oparciu o nasze „wykorzystanie” tylko o to, ile amperów dostarczyliśmy na nasz stojak. Planuję wprowadzić nowy stojak w nadchodzącym roku na rozbudowę serwerów, na podstawie tego artykułu. Każdy serwer ma crapload dysków, a z kolei używa crapload mocy.

Ten stojak będzie obejmował.

1 router Cisco.

1 przełącznik światłowodowy

1 kontroler pamięci 1U, standardowy serwer Dell 850.

11 serwerów pamięci 3U, każdy z podwójnym zasilaczem o mocy 750 W.

Więc ... Próbuję obliczyć, ile wzmacniaczy powinienem teoretycznie potrzebować. Nie mam jeszcze przykładowego serwera, aby zobaczyć, ile pociąga serwer 3U - 45 dysków. Sądzę więc, że potrzebuje dwóch zasilaczy, więc wypuśćmy z 1000 watów. Dużo na dyski twarde, mnóstwo na rzeczy na pokładzie. 11 x 1000 watów to oczywiście 11000 watów mocy.

A = W / V. W = 11000. V = 120 V. A = 91.

To właśnie mój mózg trochę się potknął. 91 amperów mocy to zwykłe szaleństwo. (najwięcej, jakie przepłynąłem do bankomatu szafowego to 40, a jego pojemność wynosi tylko 60%.

I to przy zużyciu tylko 1000 watów na serwer - jeśli zasilacz pobiera pełny prąd przy 1500 watów dla systemu, to jest coś w rodzaju melodii 140 amperów.

.... To brzmi dobrze, czy jestem po prostu szalony? Z pewnością zrobiłem coś złego, 140 amperów mocy to szaleństwo.

**** Edycja: Box to w rzeczywistości 4U, więc liczby są inne niż wyświetlane tutaj, ale niewiele.

grufftech
źródło
+1 za wskazanie mi naprawdę fajnego artykułu.
phoebus
Czy znalazłeś obudowy napędów 3U 45? Obudowy Equalogic oparte są na podwoziu napędowym xyratex 4U 48 IIRC. Wszystkie inne znane mi rozwiązania z napędami pionowymi to 4U lub 5U, a nie 3U.
wazoox
Tak - pudełka 3U nie istnieją - nie pisałem, kiedy pisałem ten artykuł, moje pytanie wciąż było sensowne w sensie obliczeń mocy przy maksymalnym obciążeniu.
grufftech,

Odpowiedzi:

10

Twoje liczby brzmią, jakby ogólnie były na dobrej drodze, podwójny dysk, dwuprocesorowe pudełko, takie jak HP DL380, pobiera średnio około 350-450 w, więc dodaj 43 x 15-20 w dla dysku i nie jesteś daleko Kw na podwozie. Daje to ci dwa problemy, będziesz potrzebował 4 x 32A PDU do obsługi podwójnych zasilaczy i będziesz mieć rozsądną ilość ciepła z tyłu, jeśli stelaż wymaga szorowania. Podejrzewam również, że twoja firma hostingowa może się z tym pogryźć i nalegać, abyś zamiast tego podzielił swój zestaw na 2 lub więcej szaf.

To powiedziawszy, nie mogę wymyślić żadnego innego sposobu na umieszczenie takiej ilości dysków w tej gęstości, jakie marki / modele są przy okazji 3U boxami?

Edycja - czy wykonałeś już obliczenia masy? Ty też powinieneś to kontrolować, ten frajer będzie dość ciężki.

Siekacz 3
źródło
Dobre punkty - naprawdę to doceniam.
grufftech,
Mistyped - jego 4U.
grufftech,
5

Cóż, celem podwójnego zasilacza jest zapewnienie nadmiarowości, a nie dodatkowej mocy jako takiej, aby Twoje jednostki 750 Watt wyglądały dla mnie na niewymiarowe. Konfiguracje serwera, które opisujesz, są wyjątkowo gęste - 350-350 dla podstawowego serwera + 45 * 10-15 Watów dla napędów i patrzysz na kilowat na serwer i powinieneś zainstalować 1,2kW zasilaczy, które mogą to uruchomić nieco nad głową.

Konieczne będzie również bezwzględne rozłożenie faz na napędy, pobór mocy podczas rozruchu na napędach jest o około 50% wyższy niż pobór mocy szczytowej pod obciążeniem roboczym.

Jeśli chodzi o ogólny pobór mocy, liczby te nie są aż tak szalone - tak dzieje się, gdy stajesz się gęsty. Stelaż z 4 w pełni zaludnionymi obudowami Dell M1000E Blade pobierze około 16 (+ -5) kW, czyli 130 A przy napięciu 120 V. Zasilacz dla tych, są oceniane na dostarczenie 2360 watów @ 12V tak maks AC losowanie wynosi około 2500 watów i trzeba minimum 3 do zasilania podwozia górę. Ich zalecana konfiguracja ma 6 zasilaczy zapewniających awarię obwodu prądu przemiennego i wiele awarii zasilacza.

Drugą rzeczą, na którą chcesz zwrócić szczególną uwagę, gdy idzie się gęsto, jest chłodzenie. Przy tych gęstościach jesteś szalony, jeśli nie wybierasz układu gorących i zimnych przejść, a zestaw do regałów musi być do tego zaprojektowany. 20 kilowatów to dużo ciepła w czymś tak małym, jak stojak 42u, i chcesz mieć pewność, że możesz go skutecznie wypompować z pewnym poziomem redundancji. O ile nie umieścisz tego stelaża na zewnątrz w Arktyce, powinieneś upewnić się, że masz nadmiarowe [idealnie wymienialne na gorąco] wentylatory zdolne do manewrowania około 150 stóp sześciennych na minutę, nawet jeśli jeden wentylator zawiedzie (zakładając, że chłodzisz 1 kW na serwer i możesz żyć) z różnicą 20 :: gorący :: zimny)

Wreszcie będą to naprawdę ciężkie systemy. Twoja jednostka serwerowa waży około 160 funtów. Z 11 z nich i wszystkim innym, co planujesz, a także sam stojak, całość dosłownie waży tonę.

Koncepcja Backblaze korzysta z tego, że jest jednym składnikiem zintegrowanego stosu rozwiązań, który pozwala traktować każdy serwer jako jednostkę z możliwością wymiany podczas pracy, z nadmiarowością wypalaną wyżej w stosie, oprócz podstawowej nadmiarowości RAID \ PSU \ Fan w samych jednostkach pamięci. To pozwala im korzystać z dość tanich komponentów i nie musi wkładać żadnych wysiłków w wymianę typu „hot-swap” na awarie pojedynczych komponentów - co zwykle jest kolejną cechą naprawdę gęstych systemów i chcesz mieć pewność, że możesz żyć z takim podejściem.

Helvick
źródło
3

Dane wydają mi się rozsądne. Mamy kilka stojaków z 150 AMPS na 208 woltów. jedna bestia z szafy pobiera obecnie ponad 200 AMPS na 208 woltów. Jak już wspomnieli inni, sprawdź wagę stojaka, który będzie ciężki. kilka naszych regałów magazynowych ma ponad 1000 kg. Pamiętaj, że wzmacniacze będą się zmieniać w zależności od obciążenia serwera. Może to być od około 1 ampera do ewentualnie 8-10 amperów z przyspieszeniem 40 amperów w ciągu kilku ms, jednak kilka ms to wystarczająco dużo czasu, aby zrobić paskudne rzeczy, jeśli twoje usługi na stojaku są zbyt małe. Podobnie, jakbyś potrzebował więcej do myślenia, musisz mieć sekwencję mocy na stojaku, aby ta cholerna rzecz nie próbowała zacząć wszystkiego od razu i naprawdę ssała wzmacniacze.

Liam
źródło
+1 szalona kompilacja, naprawdę pod wrażeniem.
grufftech,
2

Widzę, że twoim kontrolerem pamięci jest Dell. Jeśli twoje serwery pamięci również są Dellami, może okazać się przydatne narzędzie Dell Data Center Capacity Planner . Udzieli wskazówek dotyczących zużycia energii, a także masy!

Hmallett
źródło
serwer oparty na Dell wyłącznie dlatego, że dają nam najlepsze oferty bankomatów. może być niestandardowym pudełkiem dla wszystkich, na których mi zależy.
grufftech,
0

Obliczenia są prawidłowe, oparte na maksymalnej mocy znamionowej zasilaczy.

Prawdopodobnie przekonasz się, że każdy serwer faktycznie pobiera od 0,5A do 3A podczas średniego zużycia. Prąd rozruchowy może wynosić nawet 40 A na serwer, ale trwa to naprawdę bardzo krótko, na przykład 20 ms.

Podejrzewam, że będziesz szukał szafy bliżej 20-35 A. Ale mogę się mylić.

Z innej notatki, myślę, że to interesujące zobaczyć kogoś, kto używa metody backblaze z tego papieru. Chciałbym wiedzieć, jak to się skończy!

Tom O'Connor
źródło
0

Brzmi rozsądnie. Dla porównania: W większości szaf korzystam z podwójnych (jeden zasilany olejem napędowym, jeden zasilacz UPS) 38 KVA PDU (potrójne wejście 400 V, każda faza 32A). Pamiętaj, że moc znamionowa na zasilaczach jest nominalna i że system może działać tylko z jednym zasilaczem z sokiem.

pfo
źródło
1
ten system nie jest przeznaczony do działania tylko z jednym zasilaczem - w rzeczywistości wykorzystuje oba zasilacze do zasilania różnych obszarów systemu. (Mówimy o 46 dyskach twardych w jednej obudowie)
grufftech,
PFO, twoje liczby wydają się odpowiednie dla USA. (Firma, dla której pracuję, produkuje oprogramowanie do analizy obciążenia elektrycznego i są to bardzo znane liczby) Cholera, twój problem będzie się ochłodzić, a Twin 32A-3 fazy zasila :)
Tim Williscroft
@GruffTech: Więc półki wcale nie są zbędne ?!
pfo
tak, konstrukcja Backblaze traktuje półki jako jednostkę, która ma zostać wymieniona, wspominają, że w tym artykule nie są to więc rozwiązania do przechowywania ogólnego przeznaczenia, ale część większego stosu z redundancją zapewnianą przez rozłożenie na wielu półkach.
Helvick
0

Oto kilka opcji, które pomogą Ci właściwie zmierzyć swoje wymagania.

Niedrogo możesz podłączyć Kill-A-Watt do każdego urządzenia i uzyskać pomiary w prawdziwym świecie. (uważaj, aby tego nie robić w LAB, załadowany serwer przenosi znacznie wyższe obciążenie mocy niż serwer bezczynny)

Serwer często zwiększa obciążenie przy pierwszym uruchomieniu. Miej to w pamięci. (jeśli nastąpi przerwa w dostawie prądu i wszystko włączy się za jednym razem, możesz się przewrócić)

Alternatywnie, zdobądź PDU, takie jak APC 7901 (lub podobne urządzenie), który ma odczyt LED bieżącego pobierania AMP. (7901 to tylko model z 20 amperami)

Nasze przełączniki górne i przełączniki światłowodowe Cisco rzadko przekraczają 80 W. * YMMV

Twój DC może oferować tylko opcje 20 i 30 amperów, więc może być sporny.

Twój prąd stały może również opcjonalnie zapewniać zasilanie 208 V.

Żart: Myślę, że wszyscy obciążani za dostarczaną moc w porównaniu do zużytej mocy powinni podłączyć niektóre promienniki kosmiczne, aby mieć pewność, że wykorzystasz wszystko, za co płacisz. :)

Mam nadzieję, że to pomoże.

Joel K.
źródło
Założę się, że autorzy bloga byliby w stanie powiedzieć ci o ich faktycznym zużyciu energii ...
Joel K
0

Dane na tabliczce znamionowej na sprzęcie IT są danymi dotyczącymi bezpieczeństwa / zgodności z przepisami, a będziesz nadużywał, jeśli użyjesz ich do projektowania. Zapytaj swojego dostawcę o „Raport termiczny urządzeń ASHRAE” dla danego sprzętu. Każdy większy sprzedawca to będzie miał.

Ten raport da ci pewne liczby, które będą bardziej realistyczne.

duffbeer703
źródło