RPC 파이프를 이용한 브라우저와의 통신

개발환경 : Visual Studio 2013 / Windows 7 x64

Active X, 후킹모듈과 같은 브라우저용 DLL을 개발하다보면 로그 처리 및 타 프로세스와 연동할 일이 생기는데 기본적으로 브라우저는 낮은 Integrity를 가지고 있으므로 temp폴더 정도의 자원만 사용할 수 있습니다.

제가 만든 프로그램 (PIPESERVER.exe - High Integrity)에서 생성한 파이프는 브라우저(iexplore.exe - Low Integrity)에서 사용할 수 없습니다.

이를 해결하기 위해 각종 핸들(PIPE 등)을 생성할 때 SECURITY 관련 속성을 인자로 주어야 합니다. 

아래 예제 소스는 RPC 파이프를 이용하여 브라우저 DLL에서 EXE의 함수를 호출하는 것을 보여줍니다.

(아래 참조사이트들을 참고하여 작성하였습니다.)

# EXE (서버) Side

RPC_STATUS CALLBACK SecurityCallback(RPC_IF_HANDLE /*hInterface*/, void* /*pBindingHandle*/) { return RPC_S_OK; // Always allow anyone. } void RunRPCServer() { unsigned char pszSecurity[SECURITY_DESCRIPTOR_MIN_LENGTH] = { 0, }; PSECURITY_DESCRIPTOR pSD = NULL; PACL pSacl = NULL; BOOL bSaclPresent = FALSE; BOOL bSaclDefaulted = FALSE; // 초기화 InitializeSecurityDescriptor(pszSecurity, SECURITY_DESCRIPTOR_REVISION); SetSecurityDescriptorDacl(pszSecurity, TRUE, 0, FALSE); // LOW Integrity에서 접근하기 위한 설정 ConvertStringSecurityDescriptorToSecurityDescriptor(L"S:(ML;;NW;;;LW)", SDDL_REVISION_1, &pSD, NULL); GetSecurityDescriptorSacl(pSD, &bSaclPresent, &pSacl, &bSaclDefaulted); SetSecurityDescriptorSacl(pszSecurity, TRUE, pSacl, FALSE); // 파이프 설정 RPC_STATUS status = RpcServerUseProtseqEp((RPC_CSTR)"ncacn_np", RPC_C_PROTSEQ_MAX_REQS_DEFAULT, (RPC_CSTR)"\\pipe\\program1", pszSecurity); if (status != RPC_S_OK) { // 에러 처리 } // 인터페이스 등록 - 첫번째 인자엔 생성한 인터페이스를 등록하세요. status = RpcServerRegisterIf2(InterfaceName_v1_0_s_ifspec, NULL, NULL, RPC_IF_ALLOW_CALLBACKS_WITH_NO_AUTH, // Forces use of security callback. RPC_C_LISTEN_MAX_CALLS_DEFAULT, // Use default number of concurrent calls. (unsigned)-1, // Infinite max size of incoming data blocks. SecurityCallback); // Naive security callback. // ... 에러 처리 생략 // 대기 상태 (루프 상태가 됨) status = RpcServerListen(1, RPC_C_LISTEN_MAX_CALLS_DEFAULT, FALSE); // ... 에러 처리 생략 }

# DLL (클라이언트) Side

UCHAR* bindingStr = NULL; handle_t handleBinding = NULL; RPC_STATUS status = NULL; status = RpcStringBindingCompose( NULL, (RPC_CSTR)"ncacn_np", (RPC_CSTR)"\\\\.", (RPC_CSTR)"\\pipe\\program1", NULL, &bindingStr); // ... 에러 처리 생략 status = RpcBindingFromStringBinding(bindingStr, &handleBinding); // ... 에러 처리 생략 RpcTryExcept { // ... 정의한 함수 호출 생략 } RpcExcept(1) { // .. 예외 처리 생략 } RpcEndExcept RpcStringFree(&bindingStr); RpcBindingFree(&handleBinding);

주의하여야 할 점은 RpcStringBindingCompose 함수의 인자로 local을 의미하는 "\\\\."을 사용하였는데 일반적인 경우는 "localhost"를 사용해도 상관 없지만 브라우저 DLL의 경우 반드시 "\\\\."을 사용해야 정상 동작합니다.

도움이 되는 참조 사이트

RPC 기본 샘플 예제

http://www.codeproject.com/Articles/4837/Introduction-to-RPC-Part

VISTA에서 Active X와 통신

https://www.blackhat.com/presentations/bh-usa-08/Kim/BH_US_08_Kim_Vista_and_ActiveX_control_WhitePaper.pdf