VMWare Workstation を使用して kernel debug をする

前準備

仮想マシンを設定する

1. パワーオフされていないマシンにはハードウェアが追加できないため、仮想マシンがパワーオンの場合はシャットダウンする
2. ハードウェアの追加で [シリアル ポート] を追加する
3. [シリアルポートの種類] で [名前付きパイプに出力する] を選択
4. [ソケットの指定] に次のように設定する
   1. <適当な名前> (たとえば \.\pipe\win8x86)
   2. [この端末はサーバーです。] を選択
   3. [接続先はアプリケーションです。] を選択
5. 入出力モードで [ポーリングで CPU を開放する] にチェックする

注意 : VMWare の初期設定では、シリアル ポート1 はプリンタが使用しているので、シリアル ポート2 以降が使用される

Windows を設定する

管理者権限でコマンド プロンプトを開き、次のコマンドを入力する。設定完了後は PC を再起動すること。

bcdedit /debug on
bcdedit /dbgsettings serial debugport:2 baudrate:115200
:: 再起動する場合は下記のコマンドを実行
shutdown /r /t 0

デバッグの開始

WinDbg を使用してデバッグをする場合には、コマンド プロンプトを開き、次のように入力する。

windbg -k com:pipe,port=\\.\pipe\win8x86,resets=0,reconnect

Enjoy kernel debug!