問題
HX Edgeクラスタ上で動作してるvCenter(nested vCenter)と、vCenterの動作しているESXiの管理インタフェースが通信できない場合があります。
通常時から発生する場合や、アップリンクスイッチの片系ダウン中に発生する場合があります。

診断
vCenterとESXiの管理インタフェースは、
になっています。この時、vCenterとESXiの管理インタフェースは、標準では内部的に直接通信できません。
このため、アップリンクスイッチを経由する必要がありますが、同一ポートでの折り返しになるような経路の場合、L2通信の同一ポートでの折り返しはできないため、パケットはドロップしてしまいます。

解決策
以下のいずれかの解決方法が考えられます。
- vCenterを管理インタフェース(vmk0)と同じポートグループへ接続して、内部的に直接通信させる。
- vCenterと管理インタフェースを異なるネットワークアドレスにして、L3通信にする。
以下のドキュメントにも同様のことが記載されています。
Cisco HyperFlex Edge Deployment Guide - Preinstallation Checklist
Due to the nature of the Cisco VIC carving up multiple vNICs from the same physical port,
it is not possible for guest VM traffic configured on vswitch-hx-vm-network to communicate
L2 to interfaces or services running on the same host. It is recommended to either a) use
a separate VLAN and perform L3 routing or b) ensure any guest VMs that need access to
management interfaces be placed on the vswitch-hx-inband-mgmt vSwitch. In general,
guest VMs should not be put on any of the HyperFlex configured vSwitches except for
the vm-network vSwitch. An example use case would be if you need to run vCenter
on one of the nodes and it requires connectivity to manage the ESXi host it is running on.
In this case, use one of the recommendations above to ensure uninterrupted connectivity.
その他
- vCenterとSCVM、SyslogサーバとESXiなど、vCenterとESXi以外の組み合わせの通信障害も発生し得ます。
- 本問題は、HyperFlex Standard構成(Fabric Interconnectを使用した構成)では発生しません。