Microsoft Child Process Debugging Powertoolをインストール
プロジェクトを開いて子プロセスのデバッグを有効にする。
違うプロジェクトの実行ファイルを起動する場合は、起動元のプロジェクトが.NETならまず初めにプロジェクトの設定のデバッグ欄でで、「ネイティブコードデバッグを有効にする」をチェックする。
次に拡張機能の設定で２番目のプロジェクトタイプを設定する。
CreateProcessでブレークポイントを設定するには、新規ブレークポイントで以下のように入力する。
|
1 |
{,,kernel32.dll}_CreateProcessW@40 |
kernel32.dllはこの関数を実装しているDLL40、はこの関数の引数のバイト数だと思われる。
プログラムの最初の方で適当なブレークポイントを設定し、以下のコードの結果を調べる。
|
1 |
void* addr = (void*)CreateProcess; |
このアドレス値でブレークポイントを設定する。
ShellExecuteExなどはCreateProcessを他のスレッドで呼ぶらしい。その場合はデバッグの場所でメインスレッドを指定する。
スタックトレースがうまく表示されないときはシンボルのロードをする。
関数ブレークポイントの設定で以下のように入力する（アンダーバーと@以下を削除する）。
|
1 2 |
{,,kernel32.dll}CreateProcessW {,,user32.dll}CreateWindowExW |
デバッグモードでのデフォルトのコンパイルフラグに/JMCが追加されていて、これが有効になっているとstdのソースコードにステップ・インできない。よってこれを無効にする（以下の画像を参照）
デバッグオプションのJust My Codeはモジュールごとに区分けしていると思うので、どうでもいいはず。
コールバック関数（これは自分で定義したもの）のデバッグを効率良く行うには/JMCを有効にしたほうが良い。このフラグを有効にすると、コールバックを引数にするAPIを呼んだときに、そのコールバックにステップ・インしてくれる。