【DirectX11】デバッグレイヤーとは？｜描画されない原因をERRORメッセージで特定できるか8ケースで実測して、拾えないケースも整理

▼デバイスの作成(実験用プログラムから抜粋)
UINT flags = useDebug ? D3D11_CREATE_DEVICE_DEBUG : 0;
HRESULT hr = D3D11CreateDevice(nullptr, D3D_DRIVER_TYPE_HARDWARE, nullptr, flags, nullptr, 0, D3D11_SDK_VERSION, &dev, &fl, &ctx);
if (FAILED(hr)) { std::printf("デバイス作成に失敗: 0x%08X\n", (unsigned)hr); return 1; }

▼溜まったメッセージを取り出す関数
static void DumpMessages(ID3D11Device* dev)
{
    ID3D11InfoQueue* q = nullptr;
    if (FAILED(dev->QueryInterface(__uuidof(ID3D11InfoQueue), (void**)&q)))
    {
        std::printf("(デバッグレイヤー無し: メッセージを取り出す窓口がありません)\n");
        return;
    }
    UINT64 n = q->GetNumStoredMessages();
    std::printf("デバッグレイヤーのメッセージ: %llu 件\n", (unsigned long long)n);
    for (UINT64 i = 0; i < n; ++i)
    {
        SIZE_T len = 0;
        q->GetMessage(i, nullptr, &len);
        std::vector<char> buf(len);
        D3D11_MESSAGE* m = (D3D11_MESSAGE*)buf.data();
        q->GetMessage(i, m, &len);
        const char* sev = m->Severity == D3D11_MESSAGE_SEVERITY_ERROR ? "ERROR"
                        : m->Severity == D3D11_MESSAGE_SEVERITY_WARNING ? "WARNING"
                        : m->Severity == D3D11_MESSAGE_SEVERITY_INFO ? "INFO" : "CORRUPTION";
        std::printf("  [%s] %s\n", sev, m->pDescription);
    }
    q->Release();
}

▼シェーダー(プログラム内の文字列)
static const char* kShader = R"(
cbuffer Params : register(b0) { float4 tint; };
struct VSIn  { float3 pos : POSITION; };
struct VSOut { float4 pos : SV_POSITION; };
VSOut VS(VSIn i) { VSOut o; o.pos = float4(i.pos, 1); return o; }
float4 PS(VSOut i) : SV_TARGET { return tint; }
)";

▼描画の部分(ケースごとに、1つだけ飛ばす)
// 描画
float clear[4] = { 0.0f, 0.0f, 0.5f, 1.0f };                  // 背景は暗い青
ctx->ClearRenderTargetView(rtv, clear);
if (cs != 3) ctx->OMSetRenderTargets(1, &rtv, nullptr);
D3D11_VIEWPORT vp{ 0, 0, 64, 64, 0, 1 };
if (cs != 4) ctx->RSSetViewports(1, &vp);
if (cs != 1) ctx->IASetInputLayout(layout);
ctx->IASetPrimitiveTopology(D3D11_PRIMITIVE_TOPOLOGY_TRIANGLELIST);
UINT stride = 12, offset = 0;
if (cs != 2) ctx->IASetVertexBuffers(0, 1, &vb, &stride, &offset);
ctx->VSSetShader(vs, nullptr, 0);
ctx->PSSetShader(ps, nullptr, 0);
if (cs != 6) ctx->PSSetConstantBuffers(0, 1, &cb);
ctx->Draw(3, 0);

ケース1: 入力レイアウトを設定し忘れた / デバッグレイヤー: 無効
定数バッファのCreateBuffer: hr=0x00000000 (成功)
描画後の中央のピクセル: R=0 G=0 B=127  (背景の青のまま(何も描かれていない))
(デバッグレイヤー無し: メッセージを取り出す窓口がありません)

ケース1: 入力レイアウトを設定し忘れた / デバッグレイヤー: 有効
定数バッファのCreateBuffer: hr=0x00000000 (成功)
描画後の中央のピクセル: R=0 G=0 B=127  (背景の青のまま(何も描かれていない))
デバッグレイヤーのメッセージ: 1 件
  [ERROR] ID3D11DeviceContext::Draw: The Vertex Shader expects application provided input data (which is to say data other than hardware auto-generated values such as VertexID or InstanceID). Therefore an Input Assembler object is expected, but none is bound.

ケース5: 定数バッファのサイズが16の倍数でない(20バイト) / デバッグレイヤー: 有効
定数バッファのCreateBuffer: hr=0x80070057 (失敗)
描画後の中央のピクセル: R=0 G=0 B=0  (黒く塗られている(三角形は描かれたが、色が0))
デバッグレイヤーのメッセージ: 2 件
  [ERROR] ID3D11Device::CreateBuffer: The Dimensions are invalid. For ConstantBuffers, marked with the D3D11_BIND_CONSTANT_BUFFER BindFlag, the ByteWidth (value = 20) must be a multiple of 16.
  [ERROR] ID3D11Device::CreateBuffer: CreateBuffer returning E_INVALIDARG, meaning invalid parameters were passed.

ケース3: レンダーターゲットを設定し忘れた / デバッグレイヤー: 有効
定数バッファのCreateBuffer: hr=0x00000000 (成功)
描画後の中央のピクセル: R=0 G=0 B=127  (背景の青のまま(何も描かれていない))
デバッグレイヤーのメッセージ: 1 件
  [WARNING] ID3D11DeviceContext::Draw: The Pixel Shader expects a Render Target View bound to slot 0, but none is bound. This is OK, as writes of an unbound Render Target View are discarded. It is also possible the developer knows the data will not be used anyway. This is only a problem if the developer actually intended to bind a Render Target View here.

ケース4: ビューポートを設定し忘れた / デバッグレイヤー: 有効
定数バッファのCreateBuffer: hr=0x00000000 (成功)
描画後の中央のピクセル: R=0 G=0 B=127  (背景の青のまま(何も描かれていない))
デバッグレイヤーのメッセージ: 1 件
  [WARNING] ID3D11DeviceContext::Draw: There are no viewports currently bound.  If any rasterization to RenderTarget(s) and/or DepthStencil is performed, results will be undefined.

ケース2: 頂点バッファを設定し忘れた / デバッグレイヤー: 有効
定数バッファのCreateBuffer: hr=0x00000000 (成功)
描画後の中央のピクセル: R=0 G=0 B=127  (背景の青のまま(何も描かれていない))
デバッグレイヤーのメッセージ: 0 件

ケース6: 定数バッファをシェーダーに設定し忘れた / デバッグレイヤー: 有効
定数バッファのCreateBuffer: hr=0x00000000 (成功)
描画後の中央のピクセル: R=0 G=0 B=0  (黒く塗られている(三角形は描かれたが、色が0))
デバッグレイヤーのメッセージ: 0 件

--- 生きているオブジェクトを報告させる ---
  [WARNING] Live ID3D11Device at 0x000001F84B03B610, Refcount: 6
(中略: デバイスの内部で使われるオブジェクトが、7行続く)
  [WARNING] 	Live ID3D11InputLayout at 0x000001F84F477FC0, Refcount: 1, IntRef: 0
  [WARNING] 	Live ID3D11Buffer at 0x000001F84F547900, Refcount: 1, IntRef: 0
(中略: 種類ごとの集計のうち、関係する行だけ)
  [WARNING] Live              ID3D11InputLayout :      1
  [WARNING] Live                   ID3D11Buffer :      1

▼ERRORが出た瞬間にブレークする設定
if (useDebug && argc > 3 && std::strcmp(argv[3], "break") == 0)
{
    ID3D11InfoQueue* iq = nullptr;
    dev->QueryInterface(__uuidof(ID3D11InfoQueue), (void**)&iq);
    iq->SetBreakOnSeverity(D3D11_MESSAGE_SEVERITY_ERROR, TRUE);     // ERRORが出た瞬間に、ブレークする
    iq->Release();
    std::printf("SetBreakOnSeverity(ERROR) を有効にした\n");
    std::fflush(stdout);
}

終了コード: 0x87a
--- 標準出力 ---
ケース1: 入力レイアウトを設定し忘れた / デバッグレイヤー: 有効
SetBreakOnSeverity(ERROR) を有効にした