#0の出力解像度は設定により変更ができず、入力された解像度のまま出力されます。
これは、#0のフレームレートが上限60fpsまで設定できることに対する制約事項となります。

#0の出力解像度を変更するためには、入力側のデバイスの設定を変更してください。

なお、上記のようにDashboard上のカスタム設定では「1080p」でグレーアウトされていますが、1080pで出力されているわけではございません。