Javaのダイジェストと外部ユーティリティで異なる結果


194

Windows Calculatorファイルのハッシュ値を生成する単純なJavaクラスを作成しました。使用していWindows 7 Professional with SP1ます。私が試してみましたJava 6.0.29Java 7.0.03。Javaと(多くの!)外部ユーティリティやWebサイトから異なるハッシュ値を取得している理由を誰かが教えてもらえますか?外部はすべて互いに一致し、Javaだけが異なる結果を返します。

import java.io.File;
import java.io.FileInputStream;
import java.io.FileNotFoundException;
import java.io.IOException;
import java.util.LinkedHashMap;
import java.util.Map;
import java.util.Map.Entry;
import java.util.zip.CRC32;
import java.security.DigestInputStream;
import java.security.MessageDigest;
import java.security.NoSuchAlgorithmException;

public class Checksum 
{
    private static int size = 65536;
    private static File calc = new File("C:/Windows/system32/calc.exe");

    /*
        C:\Windows\System32\calc.exe (verified via several different utilities)
        ----------------------------
        CRC-32b = 8D8F5F8E
        MD5     = 60B7C0FEAD45F2066E5B805A91F4F0FC
        SHA-1   = 9018A7D6CDBE859A430E8794E73381F77C840BE0
        SHA-256 = 80C10EE5F21F92F89CBC293A59D2FD4C01C7958AACAD15642558DB700943FA22
        SHA-384 = 551186C804C17B4CCDA07FD5FE83A32B48B4D173DAC3262F16489029894FC008A501B50AB9B53158B429031B043043D2
        SHA-512 = 68B9F9C00FC64DF946684CE81A72A2624F0FC07E07C0C8B3DB2FAE8C9C0415BD1B4A03AD7FFA96985AF0CC5E0410F6C5E29A30200EFFF21AB4B01369A3C59B58


        Results from this class
        -----------------------
        CRC-32  = 967E5DDE
        MD5     = 10E4A1D2132CCB5C6759F038CDB6F3C9
        SHA-1   = 42D36EEB2140441B48287B7CD30B38105986D68F
        SHA-256 = C6A91CBA00BF87CDB064C49ADAAC82255CBEC6FDD48FD21F9B3B96ABF019916B    
    */    

    public static void main(String[] args)throws Exception {
        Map<String, String> hashes = getFileHash(calc);
        for (Map.Entry<String, String> entry : hashes.entrySet()) {
            System.out.println(String.format("%-7s = %s", entry.getKey(), entry.getValue()));
        }
    }

    private static Map<String, String> getFileHash(File file) throws NoSuchAlgorithmException, IOException {
        Map<String, String> results = new LinkedHashMap<String, String>();

        if (file != null && file.exists()) {
            CRC32 crc32 = new CRC32();
            MessageDigest md5 = MessageDigest.getInstance("MD5");
            MessageDigest sha1 = MessageDigest.getInstance("SHA-1");
            MessageDigest sha256 = MessageDigest.getInstance("SHA-256");

            FileInputStream fis = new FileInputStream(file);
            byte data[] = new byte[size];
            int len = 0;
            while ((len = fis.read(data)) != -1) {
                crc32.update(data, 0, len);
                md5.update(data, 0, len);
                sha1.update(data, 0, len);
                sha256.update(data, 0, len);
            }
            fis.close();

            results.put("CRC-32", toHex(crc32.getValue()));
            results.put(md5.getAlgorithm(), toHex(md5.digest()));
            results.put(sha1.getAlgorithm(), toHex(sha1.digest()));
            results.put(sha256.getAlgorithm(), toHex(sha256.digest()));
        }
        return results;
    }

    private static String toHex(byte[] bytes) {
        String result = "";
        if (bytes != null) {
            StringBuilder sb = new StringBuilder(bytes.length * 2);
            for (byte element : bytes) {
                if ((element & 0xff) < 0x10) {
                    sb.append("0");
                }
                sb.append(Long.toString(element & 0xff, 16));
            }
            result = sb.toString().toUpperCase();
        }
        return result;
    }

    private static String toHex(long value) {
        return Long.toHexString(value).toUpperCase();
    }

}

あなたのtoHexは間違っていると思います。int newElement = ((int) element) & 0xff代わりにそれを使用すると、問題が解決しますか?
zapl

64
チェックサムの計算と並行して、ファイルを一時ファイルにコピーして、他のツールを使用したときに得られるものとJavaが得られるものを比較できるようにします。Windowsはそのように奇妙かもしれません... Javaがハッシュの計算を間違っているのを見たことがありません...
Pawel Veselov

3
すべてのプログラマはこのようにプログラミングする必要があります!コードは非常にクリーンで端正です。
Martijn Courteaux 2012年

2
@ user567496:他のJava SHA-1実装やコマンドラインのsha1sumユーティリティと比較して、コードに価値のある正しいSHA-1ハッシュを提供します(calc.exeではなくLinux上のファイルでテストされています)
TacticalCoder

1
@Fido:OPは生のバイトを読み取っているので、この場合は文字セットの問題ではない可能性があります。彼は文字をデコードしていません。
TacticalCoder

回答:


239

とった。Windowsファイルシステムの動作は、プロセスのアーキテクチャによって異なります。この記事ではそれについてすべて説明します -特に:

しかし、システムパスがハードコーディングされ、64ビットWindowsで実行されている32ビットアプリケーションはどうでしょうか。プログラムコードを変更せずに新しいSysWOW64フォルダーを見つけるにはどうすればよいでしょうか。答えは、エミュレータがSystem32フォルダへの呼び出しをSysWOW64フォルダに透過的にリダイレクトするため、フォルダがSystem32フォルダ(C:\ Windows \ System32など)にハードコードされている場合でも、エミュレータは代わりにSysWOW64フォルダが使用されることを確認します。 。したがって、System32フォルダーを使用する同じソースコードを、変更せずに32ビットと64ビットの両方のプログラムコードにコンパイルできます。

calc.exe別の場所にコピーしてみてください...同じツールをもう一度実行してください。Javaと同じ結果が得られます。何かWindowsファイルシステムのが、Javaに与えるデータとは異なるデータをツールに与えています... Windowsディレクトリにあることと関係があるため、おそらく「異なる方法で」処理されていると思います。

さらに、私はそれをC#で再現しました... 実行しているプロセスアーキテクチャに依存することがわかりました。だからここにサンプルプログラムがあります:

using System;
using System.IO;
using System.Security.Cryptography;

class Test
{
    static void Main()
    {
        using (var md5 = MD5.Create())
        {
            string path = "c:/Windows/System32/Calc.exe";
            var bytes = md5.ComputeHash(File.ReadAllBytes(path));
            Console.WriteLine(BitConverter.ToString(bytes));
        }
    }
}

そして、これがコンソールセッションです(コンパイラからのチャタリングを差し引いたもの):

c:\users\jon\Test>csc /platform:x86 Test.cs    

c:\users\jon\Test>test
60-B7-C0-FE-AD-45-F2-06-6E-5B-80-5A-91-F4-F0-FC

c:\users\jon\Test>csc /platform:x64 Test.cs

c:\users\jon\Test>test
10-E4-A1-D2-13-2C-CB-5C-67-59-F0-38-CD-B6-F3-C9

64
C:\ Windows \ SysWOW64`にcalc.exe64ビットの2つのバージョンがありますC:\Windows\system32` and 32bit in 。32ビットプロセスでの互換性のためにC:\Windows\system32` is mapped to C:\ Windows \ SysWOW64`。64ビットプロセスは64ビット計算を起動し、32ビットプロセスは32ビット計算を起動します。彼らのチェックサムが違うのも当然です。ファイルを開いたままにして、handles.exeまたはProcess Explorerで確認すると、別のパスが表示されます。
Richard

25
@ジョンその何かはファイルシステムリダイレクターとして知られています。
David Heffernan 2012年

9
@DavidHeffernan意見は、おそらく「実行可能」の定義とともに変化します。このすべての仮想化は、最小の驚きの原則に違反し、コスト(割り当てと実行時間)が追加されます。他のオペレーティングシステムは、32-on-64のサポートを改善し、障害やリークの少ない抽象化でアプリケーションの仮想化を改善しています(Wow64でガベージコレクションプログラムを実行するか、OPなどのmd5の合計と他のいくつかのニッチなケースを比較してみてください)。
sehe

5
時々私はあなたがジョン・スキートだからという理由だけでなく、答えのためだけではなく人々があなたを賛成するのではないかと思います。私は答えが良いとか何かと言っているのではありませんが、答えが「ウィンドウで何かが起こっている」である場合、145の賛成票を投じます彼らは賛成票を投じます。私はあなたを憎んでいませんが、これは私があなたに追いつくまでにしばらくかかることを意味します:P
Jason Ridge

5
ブログは私がそれを見つけた方法です。ジョンスキートの魔法を期待していたのですが、「ねえ、私はそれができただろう」と感じました。おそらくそれほど速くはありませんが、あなたはそこに行きます。できなかったかもしれませんが、まだです。キャップに関しては、それがあなたに到達することを意味するので、それに対する慰めはほとんどありません、そしてそれゆえ私はあなたに追いつくことが決してできません。ええと...
Jason Ridge
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.