지난 강좌에서 윈도우와 메시지 대해서 이야기를 하였습니다. 키보드로 타이핑을 하거나 마우스로 클릭을 하는 등의 행위가 메시지로 바뀌어 윈도우 프로시저로 전달이 된다고 하였습니다. 이번 강좌에서는 윈도우 메시지의 종착점인 윈도우 프로시저를 후킹하는 방법에 대해서 이야기를 하겠습니다. 윈도우 프로시저로 메시지를 전달하는 것을 붕어빵이 다 익었을 때 손님에게 전달하는 것으로 비유를 했었습니다. 만약에 손님이 장사꾼이 내미는 붕어빵을 받기 바로 직전에 붕어빵 안에 든 단팥이 싫어서 다른 소스로 바꾸어 달라고 한다면 어떻게 해야 할까요? 이미 장사꾼은 다 만든 붕어빵을 손님 앞에 내밀었는데……. 이럴 때에는 그 붕어빵을 다시 어디론가 가져가서 붕어빵에 든 단팥을 다 빼고, 다른 소스로 넣어서 다시 손님에게 가져다 주어야 합니다(손님이 왕이라고 생각합시다. “손님 맞을래요?”라고 하지 마시고^^). 메시지(붕어빵)가 윈도우 프로시저(손님)로 전달되기 전에 다른 일(붕어빵 소스를 바꾸는 일)을 처리하고 싶다면 그 전에 메시지를 가로채서 일을 수행하고, 다시 윈도우 프로시저로 전달해 주면 되겠죠. 이런 방법으로 메시지가 윈도우 프로시저로 전달되기 전에 메시지를 가로채서 자신이 원하는 일을 할 수 있게 하는 기법을 서브클래싱(SubClassing)이라고 합니다. 위에서 설명한 내용을 요약하면 아래 그림과 같습니다.
그림 1. 서브클래싱(SubClassing)
서브클래싱의 용도는 무궁무진합니다. 윈도우 프로시저로 가는 메시지를 제어할 수 있기 때문에 서브클래싱한 윈도우를 제어할 수 있습니다. 마음만 먹으면 윈도우 프로시저로 메시지를 보내지 않아 윈도우 고유의 기능을 수행하지 못하게도 할 수 있고, 윈도우 프로시저에서 지원하는 기능 외에 다른 기능을 추가하여 윈도우의 기능을 확장 시킬 수도 있습니다. 메시지를 미리 받기 때문에 메시지의 흐름을 알 수 있어서 디버깅용으로도 사용할 수 있고, 메시지를 엉뚱하게 처리하여 사용자를 혼란에 빠뜨리게 할 수도 있습니다. 서브클래싱은 양날의 검처럼 사용하기에 따라서 프로그램을 향상시키거나 사용자를 못살게 구는 악성 프로그램으로 만들 수도 있습니다.
양날의 검 같은 서브클래싱을 어떻게 적용하는지, 코드로 살펴보도록 하겠습니다. 아래는 edit 윈도우를 서브클래싱한 모습니다.
그림 2. edit 윈도우 서브클래싱(그림을 다른이름으로 저장해서 보시면 그림이 크게 보입니다.)
위 소스를 간단하게 설명하자면,
191줄 : 서브클래싱 기법을 적용하기 위해 SetWindowLongPtr() 함수를 호출하였습니다.
197줄 : 문자열을 출력합니다. (중요하지는 않습니다.)
202줄 : 종료하기 전에 서브클래싱한 것을 돌려놓으려고 SetWindowLongPtr() 함수를 호출하였습니다. 돌려놓지 않으면 프로그램이 정상 종료가 안 되는 경우가 발생할 수 있습니다.
Win32 API 중에 GetWindowLong(), SetWindowLong() 함수가 있습니다. 이 두 함수는 윈도우 클래스 정보를 가져오고, 설정하는 기능을 합니다. 서브클래싱은 이 함수를 이용해서 윈도우 클래스에서 윈도우 프로시저를 저장하는 변수의 값을 바꿉니다. GetWindowLong() 함수의 원형은 다음과 같습니다.
LONG GetWindowLong(
HWND hWnd,
int nIndex
);
첫 번째 인자는 정보를 가져올 윈도우 핸들입니다. 두 번째 인자는 윈도우 클래스에서 가져올 변수의 오프셋입니다. 이 값은 MSDN을 참고하면 됩니다. 리턴 값은 해당 윈도우 클래스 변수 값입니다. 다음으로 SetWindowLong() 함수의 원형은 다음과 같습니다.
DWORD SetClassLong(
HWND hWnd,
int nIndex,
LONG dwNewLong
);
첫 번째 인자는 정보를 가져올 윈도우 핸들입니다. 두 번째 인자는 윈도우 클래스에서 가져올 변수의 오프셋입니다. 이 값은 MSDN을 참고하면 됩니다. 세 번째 변수에 덮어씌울 값입니다. 리턴 기존에 있던 값입니다.
※ 위에서 사용한 SetWindowLongPtr() 함수는 64bit와 호환을 위한 것이고 기능과 함수 사용법은 SetWindowLong() 함수와 같습니다. GetWindowLong() 함수도 마찬가지로 GetWindowLongPtr() 함수가 있고 기능과 함수 사용법이 같습니다.
위 소스에서 서브클래싱을 적용한 코드 191번째 줄은 다음과 같습니다.
OldEditProc = (WNDPROC)SetWindowLongPtr(hEdit1, GWL_WNDPROC, (LRESULT) EditSubClassingProc);
hEdit1은 edit 윈도우 핸들이고, GWL_WNDPROC는 윈도우 프로시저의 값을 바꾸겠다는 것입니다. 세 번째는 윈도우 프로시저 대신 들어갈 값입니다. 세 번째 인자로 넣은 함수가 나중에 윈도우 프로시저 보다 먼저 호출되는 함수가 되는 것입니다. 이 함수를 호출함으로써 edit 윈도우의 윈도우 프로시저가 메시지를 받기 전에 EditSubClassingProc() 함수가 먼저 메시지를 받습니다. 브레이크 포인트를 걸고 윈도우 클래스의 값이 바뀌는지 확인을 해 보겠습니다.
그림 3. 서브클래싱 적용 확인
176번째 줄에서 F10을 한 번 누른 것입니다. OldEditProc 에 edit 윈도우의 lpfnWndProc 변수에 기존 값이 들어가고, edit 윈도우에 lpfnWndProc에는 EditSubClassingProc() 함수의 주소 값이 들어갔습니다. 그렇다면 0x77d1b3d4 가 정말 edit 윈도우의 윈도우 프로시저일까요? 확인을 하기 위해서 WinDbg로 직접 보겠습니다. WinDbg는 윈도우 커널 디버거인데 윈도우를 공부할 때도 유용하게 사용할 수 있습니다. Debugging Tools for Windows을 설치하면 WinDbg가 들어 있습니다. WinDbg에 대한 설명은 나중에 기회가 되면 하기로 하겠습니다. 이번에는 간단하게 값만 확인하고 넘어가겠습니다. 아래 캡쳐 화면을 보면 0x77d1b3d4 함수는 EditWndProcA() 함수의 주소 값인 것을 알 수 있습니다.
그림 4. 0x77d1b3d4 주소 값 확인
다음으로 서브클래싱이 잘 되었는지, EditSubClassingProc() 함수에서 edit 윈도우로 들어오는 메시지와 WPARAM, LPARAM 값을 확인해 보겠습니다. 값을 확인하기 위해서 디버그뷰(DebugView)를 사용하도록 하겠습니다. 콘솔에서 값을 확인할 때 printf 로 값을 출력하여 확인하듯이 윈도우에서 OutputDebugString() 함수를 사용하여 값을 출력하면 디버그뷰 툴을 이용하여 값을 확인할 수 있습니다. 일일이 메시지 박스를 띄울 수고를 덜 수 있습니다. 아래 코드를 보겠습니다.
그림 5. EditSubClassingProc
28번째 줄에 CallWindowProc() 함수가 있는데, 서브클래싱 함수에서 처리가 끝난 뒤 윈도우 프로시저를 호출하는 부분입니다. 이 함수는 마지막에 꼭 호출해야 합니다. 기본적인 것을 윈도우 프로시저에서 처리하도록 해줘야 하는데, 그렇지 않을 경우 프로그램이 제멋대로 동작하는 것을 볼 수 있을 겁니다. 원형은 윈도우 프로시저와 같고 맨 첫 번째 인자에 SetWindowLong() 함수의 결과값을 넣어 주면 됩니다. 이제 프로그램을 컴파일하고 실행을 합니다. 그리고 디버그뷰를 실행합니다. 이제 edit 윈도우에 값을 입력하면 디버그뷰에 값이 찍히는 것을 볼 수 있습니다.
그림 6. DebugView로 값 확인
디버그뷰를 통해서 엄청나게 많은 메시지가 edit 윈도우로 전달되는 것을 알 수 있습니다. edit 위로 마우스를 움직이기만 하면 마우스 오버 메시지가 계속 날라옵니다. 값을 입력해도 메시지가 전달됩니다. 만약에 서브클래싱 함수에서 전달 받은 메시지가 어떤 메시지인지 출력을 한다면 디버깅할 때 요긴하게 사용할 수 있겠죠? 실제로 이와 비슷한 기능을 하는 디버깅용 툴이 존재합니다. 지난 강좌에서 사용했던 Spy++ 도 (서브클래싱을 이용한 건 아니지만) 어떤 메시지가 전달되었는지 알려주는 기능이 있습니다.
서브클래싱은 한 윈도우에 여러 번 적용할 수 있습니다. SetWindowLong() 함수를 사용하여 윈도우 클래스 변수에 값을 덮어 쓰더라도 OS에서 기존 값들을 관리하기에 가능합니다. 그렇다면 메시지를 어느 서브클래싱 함수에서 먼저 가져갈까요? 맨 나중에 서브클래싱을 적용한 함수가 먼저 메시지를 가져갑니다. 그 다음 서브클래싱 함수로 메시지를 넘기는 겂은 CallWindowProc() 함수가 담당합니다. 이 함수를 호출하지 않으면 다음 서브클래싱 함수로 메시지가 전달되지 않죠. 갑자기 장난을 치고 싶은 생각이 드나요? 혼자 테스트를 하는 것은 좋지만 남들이 사용하는 프로그램에는 안 하는 것이 좋겠죠~^^
서브클래싱을 이용해서 edit 윈도우에 욕 방지 기능을 넣는 예제로 이 강좌를 마무리 하도록 하겠습니다. “ㅅㅂ”를 입력한 경우 edit 윈도우에서 “ㅅㅂ”을 지우도록 예제를 준비하였습니다. “ㅅ”과 “ㅂ”이 어떤 형식으로 edit 윈도우에 전달이 되는지 알아내려고 edit 윈도우를 서브클래싱하여 KEYDOWN 메시지가 발생하였을 때 WPARAM과 LPARAM 값을 분석하였습니다.
그림 7. 욕(ㅅㅂ) 방지 코드
“ㅅ” 다음에 “ㅂ”이 입력되면 백스페이스를 2번 입력하도록 하였습니다. 백스페이를 입력하는 효과를 내기 위해서 keybd_event() 함수를 사용하였습니다.
위에서 사용한 기법은 윈도우를 대상으로 서브클래싱을 하였습니다. 윈도우 클래스를 대상으로 서브클래싱을 할 경우 해당 윈도우 클래스로 만든 모든 윈도우를 서브클래싱할 수 있습니다. 그리고 기존 윈도우 클래스를 그대로 가져와서 수정을 가하여 새로운 이름에 윈도우 클래스로 만들 수도 있습니다. 관심이 있다면 SetClassLong() 와 GetClassInfo() 함수를 공부해 보시기 바랍니다.
@ 참고자료
l 윈도우 클래스 관련 함수
GetWindowLong() : 윈도우 클래스 정보를 가져옵니다.
http://msdn.microsoft.com/en-us/library/ms633584(VS.85).aspx
GetWindowLongPtr() : GetWindowLong() 함수의 64bit 호환용 함수입니다.
http://msdn.microsoft.com/en-us/library/ms633585(VS.85).aspx
SetWindowLong() : 윈도우 클래스 정보를 설정합니다.
http://msdn.microsoft.com/en-us/library/ms633591(VS.85).aspx
SetWindowLongPtr() : SetWindowLong() 함수의 64bit 호환용 함수입니다.
http://msdn.microsoft.com/en-us/library/ms644898(VS.85).aspx
l CallWindowProc() : 다음 윈도우로 메시지와 WPARAM, LPARAM 을 전달합니다.
http://msdn.microsoft.com/en-us/library/ms633571(VS.85).aspx
l keybd_event() : 키 이벤트를 발생시킵니다. 실제 키를 누른 것과 비슷한 효과를 냅니다.
http://msdn.microsoft.com/en-us/library/ms646304(VS.85).aspx
l 유용한 툴
WinDbg: 커널을 디버깅할 때 사용하는 툴입니다.
http://www.microsoft.com/whdc/DevTools/Debugging/default.mspx
기사 : 박래신(컴퓨터학부 04학번)
편집 : 이창근(lck85@nate.com)
박래신학생 경력사항
2005. 02 ~ 2005. 03 : Log 분석기 개발
2006. 12 ~ 2007. 03 : 임베디드 장비(DVR) 개발 (회사 : 성진씨앤씨)
2006. 01 ~ 2006. 03 : InfoMicro(하드웨어 및 사용자가 필요한 정보를 모니터 밖에서 볼 수 있도록 함) 개발
2006. 03 : IT-Festival에 InfoMicro 전시(삼성 SDS 주관)
2006. 05 : 교내 공개 보안 세미나 발표 (주제: "웹 해킹의 기초")
2006. 10 : 전국대학CERT연합(U.U.U) 제 3회 정기 워크샵 발표(주제: "Ajax 보안")
2006. 12 : 대학정보보호연합회(KUCIS)에서 홈페이지 취약점 우수 보고서 수상
2007. 03 : 웹 어플리케이션 개발 보안 교육 수료 (KISA 주최)
2008. 08 : KISA, 취약점 찾기 대회 장려상
http://www.etnews.co.kr/news/detail.html?id=200808070083
2008. 08 : 세계해킹대회 Defcon CTF 4위(팀 Taekwon-V)
http://www.boannews.com/media/view.asp?idx=10935&kind=4
2008. 09 : 삼성 SDS 해킹/보안 강의 (주제: Reversing with ida)
2008. 12 : 숭실대 COMTIMES 기고( 주제: 전 세계 해커들의 전장~! Defcon CTF 참가기)
http://www.comtimes.kr/news/69
2007. 06 ~ 현재(2009. 02) : 키보드 보안 프로그램(nProtect KeyCrypt) 개발 (회사 : 잉카인터넷)
http://www.comtimes.kr/news/109
Powered by Newsbuilder
