파일을 내려받은 뒤 'MD5 해시 값을 확인하세요'라는 안내를 본 적이 있을 것입니다. 오픈소스 배포 페이지나 펌웨어 다운로드 화면에 적힌 32자리 문자열이 바로 그 값입니다. 이 짧은 문자열이 무엇을 보장하고 무엇은 보장하지 못하는지, 그리고 지금도 어디까지 써도 괜찮은지 차근차근 정리해 보겠습니다.
MD5 해시란 무엇인가
MD5(Message-Digest Algorithm 5)는 길이가 얼마든 상관없이 입력 데이터를 항상 128비트(16바이트) 고정 길이 값으로 압축하는 해시 함수입니다. 결과를 16진수로 표기하면 언제나 32자리 문자열이 됩니다. 1991년 로널드 리베스트가 설계했고, 계산이 빠르고 구현이 단순하다는 장점 때문에 아직도 수많은 시스템 안에 남아 있습니다.
해시 함수의 핵심 성질은 세 가지로 요약됩니다.
- 고정 길이 출력: 1바이트짜리 텍스트든 10GB 영상 파일이든 결과는 똑같이 32자리입니다.
- 결정성: 같은 입력은 언제, 어떤 운영체제에서 계산해도 완전히 같은 값이 나옵니다.
- 민감성: 입력에서 한 글자만 바뀌어도 출력 전체가 뒤바뀝니다. 이를 눈사태 효과라고 부릅니다.
실제로 hello의 MD5는 5d41402abc4b2a76b9719d911017c592이지만, 첫 글자만 대문자로 바꾼 Hello는 8b1a9953c4611296a827abf8c47804d7이 됩니다. 두 값 사이에 비슷한 구석이 전혀 없다는 점이 중요합니다. 덕분에 파일이 1비트라도 손상되면 해시 비교만으로 즉시 알아챌 수 있습니다.
MD5 값이 계산되는 3단계
내부 동작을 알아 두면 왜 MD5가 빠른지, 그리고 왜 취약해졌는지 이해하기 쉬워집니다. 계산 과정은 크게 세 단계입니다.
- 패딩: 전체 길이가 512비트의 배수가 되도록 데이터 뒤에 1과 0을 채우고, 마지막 64비트에 원본 데이터의 길이를 기록합니다.
- 블록 분할과 초기화: 패딩된 데이터를 512비트 블록으로 자르고, A, B, C, D 네 개의 32비트 레지스터를 규격에 정해진 상수로 초기화합니다.
- 압축 반복: 블록마다 64회의 라운드 연산(비트 회전, 모듈러 덧셈, 논리 함수)을 수행하면서 레지스터 값을 계속 갱신합니다. 마지막 블록까지 처리하고 나면 A, B, C, D를 이어 붙인 128비트가 최종 해시가 됩니다.
이 구조에는 실용적인 장점이 하나 있습니다. 블록 단위로 이어서 갱신하는 방식이라 파일 전체를 메모리에 올릴 필요가 없다는 점입니다. 앞에서부터 조금씩 읽어 들이며 계산하기 때문에 수십 GB 크기의 백업 이미지도 적은 메모리로 검사할 수 있습니다.
지금도 MD5를 쓰는 것이 합리적인 곳
보안 결함이 널리 알려졌지만, 공격자가 끼어들 여지가 없는 상황에서 '내용이 같은지'를 빠르게 판별하는 용도로는 여전히 실용적입니다. 대표적인 사용처는 다음과 같습니다.
- 다운로드 무결성 확인: 배포 페이지에 적힌 값과 내가 받은 파일의 값을 비교해 전송 중 손상 여부를 확인합니다.
- 중복 파일 탐지: 사진 수만 장의 해시를 구해 같은 값끼리 묶으면 파일명이 달라도 동일한 파일을 골라낼 수 있습니다.
- 캐시 키와 ETag: 콘텐츠 해시를 파일명이나 응답 헤더에 넣어 브라우저가 변경 여부를 판단하게 합니다.
- 증분 백업과 동기화: 백업 도구가 블록별 해시를 비교해 실제로 바뀐 부분만 전송합니다.
별도 프로그램 없이 운영체제 기본 명령으로도 바로 확인할 수 있습니다.
| 환경 | 명령어 |
|---|---|
| Windows | certutil -hashfile 파일명 MD5 |
| macOS | md5 파일명 |
| Linux | md5sum 파일명 |
| PowerShell | Get-FileHash 파일명 -Algorithm MD5 |
다만 텍스트 몇 줄이나 짧은 문자열의 값을 급하게 확인할 때는 터미널을 여는 것보다 브라우저에서 처리하는 편이 빠릅니다. 이런 경우 해시 생성기를 이용하면 같은 입력에 대한 MD5와 SHA 계열 결과를 한 화면에서 비교해 볼 수 있어 편리합니다.
MD5를 비밀번호와 전자서명에 쓰면 안 되는 이유
MD5가 신뢰를 잃은 결정적인 이유는 충돌 저항성이 무너졌기 때문입니다. 충돌이란 서로 다른 두 입력이 똑같은 해시 값을 갖는 상황을 말합니다. 2004년 왕 샤오윈 연구팀이 실제 충돌 사례를 발표한 이후 공격 기법이 빠르게 개선되어, 지금은 일반적인 노트북에서도 몇 초 만에 충돌 쌍을 만들어낼 수 있습니다.
이것이 이론적인 문제로만 그치지 않았다는 사실도 확인되었습니다. 2008년에는 MD5 충돌을 이용해 위조 인증기관 인증서를 만들어내는 실험이 공개되었고, 2012년 발견된 Flame 악성코드는 MD5 충돌을 악용해 정상 소프트웨어로 위장한 서명을 사용했습니다. 즉 악의를 가진 상대가 개입하는 상황에서는 MD5가 같다는 사실이 내용이 같다는 근거가 되지 못합니다.
비밀번호 저장에서는 문제가 하나 더 있습니다. MD5의 최대 장점인 속도가 그대로 단점이 됩니다. GPU 한 장으로 초당 수십억 번 계산할 수 있으니, 유출된 해시 목록을 무작위 대입으로 뚫는 데 시간이 거의 걸리지 않습니다.
MD5와 SHA-256 비교, 상황별 선택 기준
대안을 고를 때는 속도와 안전성 가운데 무엇이 필요한지 먼저 정해야 합니다. 주요 알고리즘을 비교하면 다음과 같습니다.
| 알고리즘 | 출력 길이 | 속도 | 충돌 저항성 | 권장 용도 |
|---|---|---|---|---|
| MD5 | 128비트 | 매우 빠름 | 깨짐 | 손상 여부 확인, 중복 탐지 |
| SHA-1 | 160비트 | 빠름 | 깨짐 | 신규 도입 비권장 |
| SHA-256 | 256비트 | 보통 | 안전 | 배포 검증, 전자서명, 블록체인 |
| BLAKE3 | 가변(기본 256비트) | 매우 빠름 | 안전 | 대용량 파일 검증 |
| Argon2, bcrypt | 가변 | 의도적으로 느림 | 해당 없음 | 비밀번호 저장 전용 |
판단 기준은 단순합니다. 누군가 값을 조작할 동기가 있는 자리라면 MD5를 쓰지 말고 SHA-256 이상을 선택합니다. 반대로 네트워크 오류나 디스크 불량처럼 우연한 손상만 잡아내면 되는 자리, 그리고 수십만 개 파일을 빠르게 분류해야 하는 작업이라면 MD5도 충분히 제 역할을 합니다.
기존 시스템에 MD5가 박혀 있다면 한 번에 걷어내기보다 용도별로 나누어 접근하는 편이 현실적입니다. 비밀번호와 서명 검증 경로는 우선순위를 높여 즉시 교체하고, 캐시 키나 중복 판별처럼 위험도가 낮은 경로는 리팩터링 일정에 맞춰 옮기면 됩니다. 새로 만드는 코드에서는 처음부터 SHA-256을 기본값으로 두는 것이 가장 안전한 선택입니다.