Różne wyniki z podsumowaniem Java w porównaniu do zewnętrznych narzędzi

194

Napisałem prostą klasę Java, aby wygenerować wartości skrótu pliku kalkulatora Windows. Używam Windows 7 Professional with SP1. Próbowałem Java 6.0.29i Java 7.0.03. Czy ktoś może mi powiedzieć, dlaczego otrzymuję inne wartości skrótów od Java w porównaniu do (wielu!) Zewnętrznych narzędzi i / lub stron internetowych? Wszystko zewnętrzne pasuje do siebie, tylko Java zwraca inne wyniki.

import java.io.File;
import java.io.FileInputStream;
import java.io.FileNotFoundException;
import java.io.IOException;
import java.util.LinkedHashMap;
import java.util.Map;
import java.util.Map.Entry;
import java.util.zip.CRC32;
import java.security.DigestInputStream;
import java.security.MessageDigest;
import java.security.NoSuchAlgorithmException;

public class Checksum 
{
    private static int size = 65536;
    private static File calc = new File("C:/Windows/system32/calc.exe");

    /*
        C:\Windows\System32\calc.exe (verified via several different utilities)
        ----------------------------
        CRC-32b = 8D8F5F8E
        MD5     = 60B7C0FEAD45F2066E5B805A91F4F0FC
        SHA-1   = 9018A7D6CDBE859A430E8794E73381F77C840BE0
        SHA-256 = 80C10EE5F21F92F89CBC293A59D2FD4C01C7958AACAD15642558DB700943FA22
        SHA-384 = 551186C804C17B4CCDA07FD5FE83A32B48B4D173DAC3262F16489029894FC008A501B50AB9B53158B429031B043043D2
        SHA-512 = 68B9F9C00FC64DF946684CE81A72A2624F0FC07E07C0C8B3DB2FAE8C9C0415BD1B4A03AD7FFA96985AF0CC5E0410F6C5E29A30200EFFF21AB4B01369A3C59B58


        Results from this class
        -----------------------
        CRC-32  = 967E5DDE
        MD5     = 10E4A1D2132CCB5C6759F038CDB6F3C9
        SHA-1   = 42D36EEB2140441B48287B7CD30B38105986D68F
        SHA-256 = C6A91CBA00BF87CDB064C49ADAAC82255CBEC6FDD48FD21F9B3B96ABF019916B    
    */    

    public static void main(String[] args)throws Exception {
        Map<String, String> hashes = getFileHash(calc);
        for (Map.Entry<String, String> entry : hashes.entrySet()) {
            System.out.println(String.format("%-7s = %s", entry.getKey(), entry.getValue()));
        }
    }

    private static Map<String, String> getFileHash(File file) throws NoSuchAlgorithmException, IOException {
        Map<String, String> results = new LinkedHashMap<String, String>();

        if (file != null && file.exists()) {
            CRC32 crc32 = new CRC32();
            MessageDigest md5 = MessageDigest.getInstance("MD5");
            MessageDigest sha1 = MessageDigest.getInstance("SHA-1");
            MessageDigest sha256 = MessageDigest.getInstance("SHA-256");

            FileInputStream fis = new FileInputStream(file);
            byte data[] = new byte[size];
            int len = 0;
            while ((len = fis.read(data)) != -1) {
                crc32.update(data, 0, len);
                md5.update(data, 0, len);
                sha1.update(data, 0, len);
                sha256.update(data, 0, len);
            }
            fis.close();

            results.put("CRC-32", toHex(crc32.getValue()));
            results.put(md5.getAlgorithm(), toHex(md5.digest()));
            results.put(sha1.getAlgorithm(), toHex(sha1.digest()));
            results.put(sha256.getAlgorithm(), toHex(sha256.digest()));
        }
        return results;
    }

    private static String toHex(byte[] bytes) {
        String result = "";
        if (bytes != null) {
            StringBuilder sb = new StringBuilder(bytes.length * 2);
            for (byte element : bytes) {
                if ((element & 0xff) < 0x10) {
                    sb.append("0");
                }
                sb.append(Long.toString(element & 0xff, 16));
            }
            result = sb.toString().toUpperCase();
        }
        return result;
    }

    private static String toHex(long value) {
        return Long.toHexString(value).toUpperCase();
    }

}
Mike Viens
źródło
Chyba twój toHex jest zły. Jeśli to zrobisz int newElement = ((int) element) & 0xffi użyjesz tego, czy to rozwiąże problem?
zapl
64
Równolegle do obliczania sumy kontrolnej skopiuj plik do pliku tymczasowego, abyś mógł porównać, co Java dostaje z tym, co dostajesz, gdy korzystasz z innych narzędzi. Windows może być taki dziwny ... Nigdy nie widziałem, żeby Java popełniła błąd przy obliczaniu skrótów ...
Paweł Veselov
3
Wszyscy programiści powinni programować w ten sposób! Kod jest bardzo czysty i schludny.
Martijn Courteaux,
2
@ user567496: za ile jest wart twój kod podaje poprawne skróty SHA-1 w porównaniu do innych implementacji Java SHA-1 i w porównaniu do wiersza polecenia sha1sum util ... (testowane z plikami w systemie Linux, a nie z programem calc.exe)
TacticalCoder
1
@Fido: w tym przypadku nie może to być problem z zestawem znaków, ponieważ OP odczytuje surowe bajty: nie dekoduje znaków.
TacticalCoder

Odpowiedzi:

239

Rozumiem. System plików Windows zachowuje się inaczej w zależności od architektury twojego procesu. Ten artykuł wyjaśnia wszystko - w szczególności:

Ale co z 32-bitowymi aplikacjami, w których ścieżka systemowa jest na stałe zakodowana i działa w 64-bitowym systemie Windows? Jak mogą znaleźć nowy folder SysWOW64 bez zmian w kodzie programu, może się wydawać. Odpowiedź jest taka, że ​​emulator przekierowuje połączenia do folderu System32 w sposób przezroczysty, więc nawet jeśli folder jest zakodowany na stałe w folderze System32 (np. C: \ Windows \ System32), emulator upewni się, że zamiast niego zostanie użyty folder SysWOW64 . Tak więc ten sam kod źródłowy, który korzysta z folderu System32, można skompilować zarówno do 32-bitowego, jak i 64-bitowego kodu programu bez żadnych zmian.

Spróbuj skopiować calc.exew inne miejsce ... a następnie ponownie uruchom te same narzędzia. Otrzymasz takie same wyniki jak Java. Coś w systemie plików Windows przekazuje innym narzędziom inne dane niż Java ... Jestem pewien, że ma to coś wspólnego z tym, że znajduje się w katalogu Windows, a zatem prawdopodobnie jest obsługiwany „inaczej”.

Ponadto odtworzyłem go w C # ... i odkryłem, że zależy to od architektury uruchomionego procesu . Oto przykładowy program:

using System;
using System.IO;
using System.Security.Cryptography;

class Test
{
    static void Main()
    {
        using (var md5 = MD5.Create())
        {
            string path = "c:/Windows/System32/Calc.exe";
            var bytes = md5.ComputeHash(File.ReadAllBytes(path));
            Console.WriteLine(BitConverter.ToString(bytes));
        }
    }
}

A oto sesja konsoli (bez gadania z kompilatora):

c:\users\jon\Test>csc /platform:x86 Test.cs    

c:\users\jon\Test>test
60-B7-C0-FE-AD-45-F2-06-6E-5B-80-5A-91-F4-F0-FC

c:\users\jon\Test>csc /platform:x64 Test.cs

c:\users\jon\Test>test
10-E4-A1-D2-13-2C-CB-5C-67-59-F0-38-CD-B6-F3-C9
Jon Skeet
źródło
64
Istnieją dwie wersje calc.exe: 64bit w C:\Windows\system32` and 32bit in C: \ Windows \ SysWOW64`. Dla kompatybilności w 32- C:\Windows\system32` is mapped to bitowym procesie C: \ Windows \ SysWOW64`. 64-bitowe procesy uruchomią 64-bitową kalkulację, 32-bitowe przetwarza 32-bitową kalkulację. Nic dziwnego, że ich sumy kontrolne są różne. Jeśli trzymasz plik otwarty i patrzysz za pomocą handles.exelub Process Explorer, zobaczysz inną ścieżkę.
Richard
25
@Jon To coś nazywa się przekierowaniem systemu plików.
David Heffernan,
9
@DavidHeffernan Opinie różnią się, być może wraz z definicją „opłacalne”. Cała ta wirtualizacja narusza zasadę najmniejszego zaskoczenia i powoduje dodatkowe koszty (alokacja i czas działania). Innym systemom operacyjnym udaje się zapewnić zarówno lepszą obsługę 32 na 64, jak i lepszą wirtualizację aplikacji z mniejszą liczbą zaczepów / nieszczelnych abstrakcji (spróbuj uruchomić programy do odśmiecania na Wow64 lub spróbuj porównać sumy md5, takie jak OP, i kilka innych niszowych przypadków).
patrz
5
Czasami zastanawiam się, czy ludzie głosują za tobą, ponieważ jesteś skeet, nie tylko z powodu odpowiedzi. Nie twierdzę, że odpowiedź nie jest dobra ani nic, ale 145 pozytywnych opinii, gdy odpowiedź brzmi „Coś się dzieje w oknach” (aby być uczciwym podajesz link, ale nadal) wydaje się, że ludzie rozważają coś więcej niż tylko twoją odpowiedź, kiedy głosują. Nie nienawidzę cię, ale to oznacza, że ​​minie trochę czasu, zanim cię dogonię: P
Jason Ridge
5
Blog jest, jak go znalazłem. Miałem nadzieję na magię Jona Skeeta, ale czułem się tak: „Hej, mogłem to zrobić”. Prawdopodobnie nie tak szybko, ale proszę bardzo. Ok, może nie mogłem, ale nadal. Jeśli chodzi o czapkę, nie ma w niej pocieszenia, ponieważ oznacza to, że każdego dnia ją osiągniesz, a zatem nigdy nie mogę cię dogonić. No cóż ...
Jason Ridge