Tymczasowo wyłączam ochronę pamięci ECC w NVIDIA K20m (urządzenie 0 w moim węźle) i teraz nie mogę przywrócić jej do pracy. Wcześniej działało poprawnie z włączoną funkcją ECC. Oto, co zrobiłem: wyłączyłem ECC za pomocą
nvidia-smi -i 0 --ecc-config=0
i ponownie uruchomiony. Kiedy się pojawił, pokazał 100% wykorzystania GPU i nie uruchomiłby żadnych jąder (tak naprawdę już nie powiódł się podczas tworzenia kontekstu). Powodem był podwójny błąd. Resetuję za pomocą
nvidia-smi -i 0 --reset-ecc-errors=0
i ponownie uruchomiłem węzeł. Po restarcie wykorzystanie urządzenia wyniosło 0% i mogłem rozpocząć zadania jak zwykle. Kilka godzin później urządzenie ponownie wykazało wykorzystanie 100% GPU. Tym razem nie zgłosił błędu podwójnego bitu (nawet błędu jednego bitu). Ponieważ jednak nie mogłem uruchomić żadnego zadania, zrestartowałem węzeł i pojawił się on w 100% z wykorzystaniem GPU, nie mogę go użyć, ale nie zgłasza żadnych błędów. O co w tym chodzi?
GPU 0000:02:00.0
Product Name : Tesla K20m
Display Mode : Disabled
Persistence Mode : Enabled
Driver Model
Current : N/A
Pending : N/A
Serial Number : 0324512044699
GPU UUID : GPU-9bfe1aba-1628-a406-3ed5-2af49462a997
VBIOS Version : 80.10.11.00.0B
Inforom Version
Image Version : 2081.0208.01.07
OEM Object : 1.1
ECC Object : 3.0
Power Management Object : N/A
GPU Operation Mode
Current : Compute
Pending : Compute
PCI
Bus : 0x02
Device : 0x00
Domain : 0x0000
Device Id : 0x102810DE
Bus Id : 0000:02:00.0
Sub System Id : 0x101510DE
GPU Link Info
PCIe Generation
Max : 2
Current : 2
Link Width
Max : 16x
Current : 16x
Fan Speed : N/A
Performance State : P0
Clocks Throttle Reasons
Idle : Not Active
User Defined Clocks : Not Active
SW Power Cap : Not Active
HW Slowdown : Not Active
Unknown : Not Active
Memory Usage
Total : 4799 MB
Used : 12 MB
Free : 4787 MB
Compute Mode : Default
Utilization
Gpu : 100 %
Memory : 0 %
Ecc Mode
Current : Enabled
Pending : Enabled
ECC Errors
Volatile
Single Bit
Device Memory : 0
Register File : 0
L1 Cache : 0
L2 Cache : 0
Texture Memory : 0
Total : 0
Double Bit
Device Memory : 0
Register File : 0
L1 Cache : 0
L2 Cache : 0
Texture Memory : 0
Total : 0
Aggregate
Single Bit
Device Memory : 0
Register File : 0
L1 Cache : 0
L2 Cache : 0
Texture Memory : 0
Total : 0
Double Bit
Device Memory : 0
Register File : 0
L1 Cache : 0
L2 Cache : 0
Texture Memory : 0
Total : 0
Temperature
Gpu : 30 C
Power Readings
Power Management : Supported
Power Draw : 49.51 W
Power Limit : 225.00 W
Default Power Limit : 225.00 W
Min Power Limit : 150.00 W
Max Power Limit : 225.00 W
Clocks
Graphics : 758 MHz
SM : 758 MHz
Memory : 2600 MHz
Applications Clocks
Graphics : 705 MHz
Memory : 2600 MHz
Max Clocks
Graphics : 758 MHz
SM : 758 MHz
Memory : 2600 MHz
Compute Processes : None
źródło
Odpowiedzi:
Czy moja GPU umiera?
Mówię, że już nie żyje. Nie zgłasza już błędów bitów, ponieważ wyłączyłeś element, który je wykrywa. (ECC wykrywa więcej, niż jest w stanie poprawić). Jednak może to być pamięć na karcie (lub samej karcie fizycznej), która rozwinęła się.
Zanim wrzuciłem go do kosza na śmieci, są jeszcze dwaj podejrzani: chłodzenie i zasilanie. Chłodzenie jest wystarczająco łatwe do sprawdzenia; moc, nie tyle.
źródło