HX クラスタの正常性を判断するために、HX Connect での確認ポイントを紹介します。 1. ダッシュボード（Dashboard） ダッシュボードメニューでは、以下の点を確認します。 - 動作ステータス（OPERATIONAL STATUS）が Online 。 - 復元力の状態（RESILIENCY HEALTH）が Healthy 。   2. アラーム（Alarms） アラームメニューでは、アラームが何も発生していないことを確認します。   3. システム情報（System Information） システム情報では、以下の点を確認します。 - HXクラスタステータスが ONLINE 。 - ノードステータスが オンライン 。 - ハイパーバイザステータスが オンライン 。 - ディスクステータスで異常が発生しているディスクがないこと。   ディスクに問題が発生している場合は、以下のように赤いマークが付きます。   4. データストア（Datastores） データストアでは、以下の点を確認します。 - マウントサマリーが MOUNTED 。 - ステータスが Normal 。   ... View more

Tetration UI の Service Status Tree は、Tetration の状態を把握する上で非常に役立ちます。   この Service Status Tree と同等の内容が、snapshot ログの assets ディレクトリの中の service_status.json 記録されています。   そのままの状態では、JSON形式で記録されているため、可読性がよくないので、Web上で公開されているツールや linux のモジュールなどを利用して、見やすくすることをお勧めします。 %%%%% 通常の出力 $ cat service_status.json [{"status": "healthy", "service": "activesensorinfo", "debug_string": "", "tags": [["Pipelines", 1]], "instances_up": 1, "max_instances": 1, "instances": [{}]}, {"status": "down", "service": "TetrationAppsMinutePipeline", "debug_string": "Cannot reach any TSD servers..\n Please check dependencies!", "tags": [["DataPlatformTetrationApps", 1]], "instances_up": 1, "max_instances": 1, "instances": []}, {"status": "healthy", "service": "keepalived", "debug_string": "", ＜省略＞ %%%%% pythonモジュールで整形 $ cat service_status.json | python -m json.tool [ { "debug_string": "", "instances": [ {} ], "instances_up": 1, "max_instances": 1, "service": "activesensorinfo", "status": "healthy", "tags": [ [ "Pipelines", 1 ] ] }, { "debug_string": "Cannot reach any TSD servers..\n Please check dependencies!", "instances": [], "instances_up": 1, "max_instances": 1, "service": "TetrationAppsMinutePipeline", "status": "down", "tags": [ [ "DataPlatformTetrationApps", 1 ] ] }, ＜省略＞   ここから、ステータスが down や unhealthy になっているサービスを検索して、問題が発生していないかを確認できます。 $ cat service_status.json | python -m json.tool | grep -1 down "service": "TetrationAppsMinutePipeline", "status": "down", "tags": [ -- "service": "flinkPipeline", "status": "down", "tags": [ $ cat service_status.json | python -m json.tool | grep -1 unhealthy "service": "Batchmover-MachineInfo", "status": "unhealthy", "tags": [ -- "service": "BosunServer", "status": "unhealthy", "tags": []   ... View more

英語版はこちら。 はじめに 本ドキュメントは、Hypercheck Health & Pre-Upgrade ツールの使用方法について説明しています。このツールでは、HyperFlexの安定性と復旧性を確認できます。HyperFlexのヘルス状態とアップグレード前チェックの結果を自動的にリストで表示してくれるので、HyperFlexのアップグレードやメンテナンスに必要な時間を削減可能です。 対象のHXシステム HyperFlex version 1.8, 2.0, 2.1, 2.5, 2.6, 3.0, 3.5, 4.0 VMWare ESXi版 HyperFlex HyperFlex Standard クラスタ HyperFlex Edge クラスタ（3 ノード、4 ノード） 用途 HyperFlexのアップグレード前のチェック HyperFlexメンテナンス前と後のヘルスチェック 定期的なヘルスチェック 問題が発生しているドライブ・ディスクの特定 Cisco TACへ問い合わせ時   使用方法 以下の手順で、ここからファイルをダウンロードします（ Hyperflex-Hypercheck.zip のようなファイル名でダウンロードされます ）。常に最新版をダウンロードして、使用してください。 ダウンロードしたZIPファイルを、Cluster Management IPを持ったStorage Controller VM (SCVM)にアップロードします。Cluster Management IPの確認方法はこちらのドキュメントを確認してください。 scp/sftp/ftp/tftpなどを使用して、/tmpにアップロードしてください。 MACの場合 CLIからSCPを使用します。 Windowsの場合 WinSCPを利用した例です。 SCVM上で、 Hyperflex-Hypercheck.zipを解凍します。 ### /tmp ディレクトリに移動します。 root@SpringpathController7PVQWP6WV1:~# cd /tmp/ ### Hyperflex-Hypercheck.zip を解凍します。 root@SpringpathController7PVQWP6WV1:/tmp# unzip Hyperflex-Hypercheck.zip Archive: Hyperflex-Hypercheck.zip b61c59f7962b72902692ce70548ba3d760efdf06 creating: Hyperflex-Hypercheck/ inflating: Hyperflex-Hypercheck/HXTool.py inflating: Hyperflex-Hypercheck/LICENSE.txt inflating: Hyperflex-Hypercheck/ReadMe.txt inflating: Hyperflex-Hypercheck/TestInfo.txt inflating: Hyperflex-Hypercheck/prettytable.py inflating: Hyperflex-Hypercheck/progressbar.py root@SpringpathController7PVQWP6WV1:/tmp# 　 HXTool.pyを実行します。 ### Hyperflex-Hypercheck ディレクトリに移動します。 root@SpringpathControllerABCDE01234:/tmp# cd Hyperflex-Hypercheck ### HXTool.py を実行します。 root@SpringpathControllerABCDE01234:/tmp/Hyperflex-Hypercheck# python HXTool.py 　 パスワードを入力します。 Please enter below info of HX-Cluster: Enter the HX-Cluster Root Password: Enter the ESX Root Password: 　 Hypercheckツールがチェックを開始します。完了までの時間は、コンバージド ノードの数に依存しますが、3分から10分程度になります。 　 ツールで実行されるチェックは以下の通りです。 HyperFlex チェック： Cluster services check - storfs, stMgr, stNodeMgrサービスのステータスを確認。 Enospc state check - クラスタの容量が閾値以上使用されていないかを確認。 Zookeeper check - Zookeeperが動作しているかどうかを確認。 Exhibitor check - Zookeeperを管理しているExhibitorサービスのステータスを確認。 HDD health check - blacklistedになっているディスクがないか確認。 DNS check - DNSの設定とIP接続性があるかどうかを確認。 vCenter reachability check - vCetnerと適切なポートで通信できるかどうかを確認。 Timestamp check - 全てのSCVMの時刻が同じかどうかを確認。 NTP sync check - NTPサーバへの接続性と同期されているかどうかを確認。 Check package & versions - SCVMのパッケージとバージョンを確認。 Check Iptables count - iptable の数がSCVM間で同じかどうかを確認。 Cluster upgrade check - 以前の失敗したアップグレードの状態が残っていないかを確認。 Extra pnodes check - 不必要なpNodeの設定がないか確認。 Disk usage(/var/stv) check - /var/stv の使用率が80%以上になっていないか確認。 Out of memory check - OOM (Out of Memory, メモリ不足) が発生していなかったか確認。 Supported vSphere versions - 現在のHXバージョンと互換性のある全てのvSphereバージョンをリストアップ。 Network Checks - MgmtネットワークとStorageネットワークの接続性を確認。 ESXi チェック： HX User Account check - HXUserが全てのESXiホストで作成されていて、適切な権限を持っているかを確認。 vMotion enabled check - vMotionネットワークが設定されているかどうかを確認。 Check for ESXI Failback timer - ESXi Failback timer が適切な値になっているかどうかを確認。 Check ping to vmk0, eth0, eth1 - MgmtネットワークとStorageネットワークの接続性を確認。 No extra controller vm folders check - 不要なSCVM用フォルダが作成されていないか確認。 Check the dumpfile in springpathDS - coredumpの設定がされているかどうかを確認。   　 実行結果を収集します。 ノード毎の詳細なレポートがディレクトリに保存されています。ディレクトリは、HX_Report_<日時>という名前で /tmp/Hyperflex-Hypercheck ディレクトリの中に作成されています。 ### HX_Report_<日時>ディレクトリに作成されたファイルを確認します。 root@SpringpathControllerABCDE01234:/tmp/Hyperflex-Hypercheck# ls HX_Report_13_02_2019_16_15 HX_Tool_13-02-2019_04-15-49 PM.log HX_Tool_Main_Report.txt HX_Report_10.197.163.179.txt HX_Report_10.197.163.180.txt HX_Report_10.197.163.181.txt HX_Report_10.197.163.182.txt ### HX_Report_<日時>ディレクトリをTar形式で圧縮します。 root@SpringpathControllerABCDE01234:/tmp/Hyperflex-Hypercheck# tar -cvf report.tar HX_Report_13_02_2019_16_15/ HX_Report_13_02_2019_16_15/ HX_Report_13_02_2019_16_15/HX_Report_10.197.163.181.txt HX_Report_13_02_2019_16_15/HX_Report_10.197.163.179.txt HX_Report_13_02_2019_16_15/HX_Tool_13-02-2019_04-15-49 PM.log HX_Report_13_02_2019_16_15/HX_Report_10.197.163.180.txt HX_Report_13_02_2019_16_15/HX_Report_10.197.163.182.txt HX_Report_13_02_2019_16_15/HX_Tool_Main_Report.txt ### Tarファイルが作成されているかどうかを確認します。 root@SpringpathControllerABCDE01234:/tmp/Hyperflex-Hypercheck# ls report.tar prettytable.py HXTool.py prettytable.pyc HX_Report_13_02_2019_16_15 TestInfo.txt progressbar.pyc progressbar.py ReadMe.txt 　 作成したreport.tarをSCVMからエクスポートします。必要ならば、Cisco TACと共有します。 以下は、3ノードのHyperFlexクラスタにおける、HXTool.pyの実行結果例です。 root@SpringpathControllerABCDE01234:/tmp/Hyperflex-Hypercheck# python HXTool.py Please enter below info of HX-Cluster: Enter the HX-Cluster Root Password: Enter the ESX Root Password: SSH connection established to HX Cluster: 10.X.X.79 SSH connection established to HX Cluster: 10.X.X.80 SSH connection established to HX Cluster: 10.X.X.81 HX Cluster Nodes: +-------+---------------+--------------------------------+ | Nodes | IP Address | HostName | +-------+---------------+--------------------------------+ | 1 | 10.X.X.79 | SpringpathControllerABCD123456 | +-------+---------------+--------------------------------+ | 2 | 10.X.X.80 | SpringpathControllerABCD123457 | +-------+---------------+--------------------------------+ | 3 | 10.X.X.81 | SpringpathControllerABCD123458 | +-------+---------------+--------------------------------+ SSH connection established to ESX Host: 10.X.X.76 SSH connection established to ESX Host: 10.X.X.75 SSH connection established to ESX Host: 10.X.X.77 HX Controller: 10.X.X.79 Cluster services check [########################] PASS ZooKeeper & Exhibitor check [########################] PASS HDD health check [########################] PASS Pre-Upgrade Check [########################] PASS Network check [########################] PASS HX Controller: 10.X.X.80 Cluster services check [########################] PASS ZooKeeper & Exhibitor check [########################] PASS HDD health check [########################] PASS Pre-Upgrade Check [########################] PASS Network check [########################] PASS HX Controller: 10.X.X.81 Cluster services check [########################] PASS ZooKeeper & Exhibitor check [########################] PASS HDD health check [########################] PASS Pre-Upgrade Check [########################] PASS Network check [########################] PASS HX Controller: 10.X.X.79 Test Summary: +----------------------------+-----------+----------+ | Name | Result | Comments | +----------------------------+-----------+----------+ | Cluster services check | PASS | | +----------------------------+-----------+----------+ | Enospc state check | PASS | | +----------------------------+-----------+----------+ | Zookeeper check | PASS | | +----------------------------+-----------+----------+ | Exhibitor check | PASS | | +----------------------------+-----------+----------+ | HDD health check | PASS | | +----------------------------+-----------+----------+ | DNS check | PASS | | +----------------------------+-----------+----------+ | vCenter reachability check | PASS | | +----------------------------+-----------+----------+ | Timestamp check | PASS | | +----------------------------+-----------+----------+ | NTP sync check | PASS | | +----------------------------+-----------+----------+ | Cluster upgrade status | PASS | | +----------------------------+-----------+----------+ | Extra pnodes check | PASS | | +----------------------------+-----------+----------+ | Disk usage(/var/stv) check | PASS | | +----------------------------+-----------+----------+ | Memory usage check | PASS | | +----------------------------+-----------+----------+ | Incidence of OOM | PASS | | +----------------------------+-----------+----------+ | Supported vSphere versions | 6.0.0-U3 | | | | 6.5.0-U1 | | | | 6.5.0-U2 | | | | 6.7.0-UGA | | | | 6.7.0-U1 | | +----------------------------+-----------+----------+ HX Controller: 10.X.X.80 Test Summary: +----------------------------+-----------+----------+ | Name | Result | Comments | +----------------------------+-----------+----------+ | Cluster services check | PASS | | +----------------------------+-----------+----------+ | Enospc state check | PASS | | +----------------------------+-----------+----------+ | Zookeeper check | PASS | | +----------------------------+-----------+----------+ | Exhibitor check | PASS | | +----------------------------+-----------+----------+ | HDD health check | PASS | | +----------------------------+-----------+----------+ | DNS check | PASS | | +----------------------------+-----------+----------+ | vCenter reachability check | PASS | | +----------------------------+-----------+----------+ | Timestamp check | PASS | | +----------------------------+-----------+----------+ | NTP sync check | PASS | | +----------------------------+-----------+----------+ | Cluster upgrade status | PASS | | +----------------------------+-----------+----------+ | Extra pnodes check | PASS | | +----------------------------+-----------+----------+ | Disk usage(/var/stv) check | PASS | | +----------------------------+-----------+----------+ | Memory usage check | PASS | | +----------------------------+-----------+----------+ | Incidence of OOM | PASS | | +----------------------------+-----------+----------+ | Supported vSphere versions | 6.0.0-U3 | | | | 6.5.0-U1 | | | | 6.5.0-U2 | | | | 6.7.0-UGA | | | | 6.7.0-U1 | | +----------------------------+-----------+----------+ HX Controller: 10.X.X.81 Test Summary: +----------------------------+-----------+----------+ | Name | Result | Comments | +----------------------------+-----------+----------+ | Cluster services check | PASS | | +----------------------------+-----------+----------+ | Enospc state check | PASS | | +----------------------------+-----------+----------+ | Zookeeper check | PASS | | +----------------------------+-----------+----------+ | Exhibitor check | PASS | | +----------------------------+-----------+----------+ | HDD health check | PASS | | +----------------------------+-----------+----------+ | DNS check | PASS | | +----------------------------+-----------+----------+ | vCenter reachability check | PASS | | +----------------------------+-----------+----------+ | Timestamp check | PASS | | +----------------------------+-----------+----------+ | NTP sync check | PASS | | +----------------------------+-----------+----------+ | Cluster upgrade status | PASS | | +----------------------------+-----------+----------+ | Extra pnodes check | PASS | | +----------------------------+-----------+----------+ | Disk usage(/var/stv) check | PASS | | +----------------------------+-----------+----------+ | Memory usage check | PASS | | +----------------------------+-----------+----------+ | Incidence of OOM | PASS | | +----------------------------+-----------+----------+ | Supported vSphere versions | 6.0.0-U3 | | | | 6.5.0-U1 | | | | 6.5.0-U2 | | | | 6.7.0-UGA | | | | 6.7.0-U1 | | +----------------------------+-----------+----------+ ################################################################################ Network check: ################################################################################ ESX vmk0: 10.X.X.75, 10.X.X.76, 10.X.X.77 ESX vmk1: 10.X.X.102, 10.X.X.103, 10.X.X.104 SCVM eth0: 10.X.X.79, 10.X.X.80, 10.X.X.81 SCVM eth1: 10.X.X.98, 10.X.X.99, 10.X.X.100 ESX Host: 10.X.X.76 +--------------------------------------+--------+---------------------------------------------------------------------------------+ | Name | Result | Comments | +--------------------------------------+--------+---------------------------------------------------------------------------------+ | HX User Account check | PASS | | +--------------------------------------+--------+---------------------------------------------------------------------------------+ | vMotion enabled check | PASS | | +--------------------------------------+--------+---------------------------------------------------------------------------------+ | Check for ESXI Failback timer | PASS | If Failed, Change the failback timer to 30secs | | | | esxcli system settings advanced set -o /Net/TeamPolicyUpDelay --int-value 30000 | +--------------------------------------+--------+---------------------------------------------------------------------------------+ | Check ping to vmk0, eth0, eth1 | PASS | | +--------------------------------------+--------+---------------------------------------------------------------------------------+ | No extra controller vm folders check | PASS | | +--------------------------------------+--------+---------------------------------------------------------------------------------+ ESX Host: 10.X.X.75 +--------------------------------------+--------+---------------------------------------------------------------------------------+ | Name | Result | Comments | +--------------------------------------+--------+---------------------------------------------------------------------------------+ | HX User Account check | PASS | | +--------------------------------------+--------+---------------------------------------------------------------------------------+ | vMotion enabled check | PASS | | +--------------------------------------+--------+---------------------------------------------------------------------------------+ | Check for ESXI Failback timer | PASS | If Failed, Change the failback timer to 30secs | | | | esxcli system settings advanced set -o /Net/TeamPolicyUpDelay --int-value 30000 | +--------------------------------------+--------+---------------------------------------------------------------------------------+ | Check ping to vmk0, eth0, eth1 | PASS | | +--------------------------------------+--------+---------------------------------------------------------------------------------+ | No extra controller vm folders check | PASS | | +--------------------------------------+--------+---------------------------------------------------------------------------------+ ESX Host: 10.X.X.77 +--------------------------------------+--------+---------------------------------------------------------------------------------+ | Name | Result | Comments | +--------------------------------------+--------+---------------------------------------------------------------------------------+ | HX User Account check | PASS | | +--------------------------------------+--------+---------------------------------------------------------------------------------+ | vMotion enabled check | PASS | | +--------------------------------------+--------+---------------------------------------------------------------------------------+ | Check for ESXI Failback timer | PASS | If Failed, Change the failback timer to 30secs | | | | esxcli system settings advanced set -o /Net/TeamPolicyUpDelay --int-value 30000 | +--------------------------------------+--------+---------------------------------------------------------------------------------+ | Check ping to vmk0, eth0, eth1 | PASS | | +--------------------------------------+--------+---------------------------------------------------------------------------------+ | No extra controller vm folders check | PASS | | +--------------------------------------+--------+---------------------------------------------------------------------------------+ Main Report File: HX_Tool_Main_Report.txt 　   ツール実行後のアクション 全てのテストにパスしていれば、特に問題ありません。 もし失敗しているテストがある場合は、TACにケースオープンする前に、本ドキュメントの最後にリストしているCLIコマンドを実行して、問題を特定します。 このツールは、既知の問題に該当しているかどうかを確認していません。従いまして、アップグレードやメンテナンス作業を実行する前に、HyperFlexのリリースノート、および、アップグレードガイドを確認することを強く推奨します。   CLI コマンド 全てのSCVM上で実行 # service_status.sh # sysmtool --ns cluster --cmd enospcinfo # echo srvr | nc 0 2181 # pidof exhibitor # stcli disk list --ip <ESXi Mgmt IP Address> |grep -B 2 -A 8 blacklisted # stcli services dns show この後、表示されるDNS ServerのIP Addressにpingします。 # ping <vCenter IP Address> # date 全てのSCVMの時刻を比較して、ほぼ同一であることを確認します。 # stcli services ntp show # ntpq -p -4 # stcli cluster upgrade-status # stcli cluster info # df -h  /var/stvの使用率が80%以上になっていないかを確認します。 # zgrep -i “out of memory” /var/log/debug-storfs.* # ping -I eth0 <他のSCVMのeth0のアドレス> 他の全てのSCVMにpingできるかどうかを確認する。 # ping -I eth1 <他のSCVMのeth1のアドレス> 他の全てのSCVMにpingできるかどうかを確認する。   全てのESXiで実行 #esxcli system account list #esxcfg-vmknic -l vMotion用のvmk2が作成されていることを確認します。 #vmkping -I vmk0 <他のSCVMのeth0のアドレス> 他の全てのSCVMにpingできるかどうかを確認する。 #vmkping -I vmk1 <他のSCVMのeth1のアドレス> 他の全てのSCVMにpingできるかどうかを確認する。 #cd /vmfs/volumes/Springpath-XXXXXXXXXX   ... View more

本ドキュメントでは Tetration Analytics 製品を構成する Leaf スイッチの交換方法を説明します。   前提条件 Leaf スイッチのコンフィグバックアップがあること。 コンソール接続が可能なこと。 SCP等、ファイル転送可能なサーバがあること。   交換手順 IPアドレスの設定 コンフィグファイルやNXOSをダウンロードするために、新規 Leaf に仮のIPアドレスを設定します。 　 NXOSバージョンの変更。 新規 Leaf のNXOSバージョンを現在使用しているバージョンに変更します。 変更方法は以下のドキュメントをご参照ください。 Cisco Nexus 9000 Series NX-OS Software Upgrade and Downgrade Guide 　 ライセンスファイルの確認 新規 Leaf にライセンスファイルがインストールされているか、show license usage コマンドで確認します。 LAN_ENTERPRISE_SERVICES_PKG が、以下のように Yes になっていれば問題ありません。 # show license usage Feature Ins Lic Status Expiry Date Comments Count -------------------------------------------------------------------------------- FCOE_NPV_PKG No - Unused - TP_SERVICES_PKG No - Unused - NETWORK_SERVICES_PKG No - Unused - LAN_ENTERPRISE_SERVICES_PKG Yes - In use Never - -------------------------------------------------------------------------------- 　 ライセンスがインストールされていない場合は、リホストによるライセンス発行リクエストを行います。 ライセンスを取得したら、以下のドキュメントを参照して、ライセンスをインストールしてください。 Installing the License Key File 　 コンフィグ リストア 以下のコマンド（例としてSCPを使用）を実行して、バックアップしていたコンフィグをリストアします。 # copy scp: running-config ### SCPサーバにあるコンフィグバックアップをrunning configにコピー # copy running-configuration startup-config ### running configをstartup configに保存 　 元通りにケーブリング ケーブリング完了後、Leaf スイッチにPingして、応答があることを確認します。   その他 Leaf スイッチのコンフィグバックアップ方法に関しましては、TAC にお問い合わせください。     ... View more

問題 通常、SCVMの時刻はNTPで同期されています。しかし、何らかの理由で同期されていなかった場合、手動で時刻を同期させようとすると、データが壊れてしまう可能性があります。 対応方法 時刻を同期させるには、一度HyperFlexのファイルシステムを停止させる必要があります。 手順は以下の通りです。 全ての仮想マシン（SCVMを除く）を停止。 全てのノードのSCVMでstorfsを停止。 # service storfs stop 全てのノードのSCVMで時刻を同期。 # ntpsync -yfs 全てのノードのSCVMでNTPサーバと同期していることを確認。 # ntpq -p -4 remote refid st t when poll reach delay offset jitter ============================================================================== *ntp-server 1.1.1.1 3 u 315 1024 377 0.266 3.022 0.535 「*」が付いていれば、同期しています。 同期には10分程度かかることもあります。 全てのノードのSCVMで、以下のコマンドでstorfsを起動。 # service storfs start   合わせて、以下のドキュメントの「How to synchronize SCVM clock after an installation」もご参照ください。 https://www.cisco.com/c/en/us/td/docs/hyperconverged_systems/HyperFlex_HX_DataPlatformSoftware/HX_TroubleshootingGuide/2-6/b_HyperFlexSystems_TroubleshootingGuide_2_6/b_HyperFlexSystems_TroubleshootingGuide_2_6_chapter_0100.html     ... View more

 HyperFlexセットアップ後にVLANを追加するには、以下の2つの方法があります。 手動で追加 VLANを新規追加 UCSMにログインして、LANタブ > VLAN Cloud > VLANsメニューに移動して、Addをクリックします。 VLANを新規追加できるので、VLANの名前（VLAN Name/Prefix）とVLAN（VLAN IDs）を設定します。その他はデフォルトのままで問題ありません。 vNIC templateにVLANを追加 引き続きUCSMで LANタブ > Policies > root > Sub-Organizations > hx-cluster > vNIC Templates > vNIC Template vm-network-a を選択し、Modify VLANsをクリックします。"hx-cluster" という名前は別の名前の可能性があります。 先程新規追加したVLANのチェックボックスにチェックを入れて、OKをクリックします。 vNIC Template vm-network-bに対しても、同様の操作を行い新規作成したVLANのチェックボックスにチェックを入れます。 ポートグループを作成 vSphere Web Clientにログインして、HXノードを選択します。右画面で設定タブ > ネットワーク > 仮想スイッチ を選択し、仮想マシン用の仮想スイッチ（下の例ではvswitch-hx-vm-network）を選択し、ホストネットワーク追加アイコンをクリックします。 標準スイッチの仮想マシンのポートグループを選択します。 既存の標準スイッチの選択で、仮想マシン用の標準スイッチが選択されていることを確認します。 ネットワークラベルを入力し、新規追加したVLANをVLAN IDに入力します。 この設定を全HXノードで繰り返します。 以上で手動でのVLAN新規追加は完了です。   Installer VMで追加 この方法は、HX 3.0以降で使用可能です。 HXDP Installer VMへログイン HXシステムと同じバージョンのInstaller VMを用意し、Installer VMへログインします。 post_installスクリプトを実行 以下のコマンドを実行します。 post_install --cluster-ip ＜HXクラスタのIPアドレス＞ --vlan --vc-url ＜vCenterのIPアドレス＞ --ucsm-ip ＜UCSMのIPアドレス＞ SCVM, vCenter, UCSMのパスワードの入力が求められますので、それらを入力すると追加したいポートグループ名とVLANの入力が求められます。 Port Group Name to add (VLAN ID will be appended to the name): vmnet2 VLAN ID: (0-4096) 1234 入力が完了すると、必要な設定がUCSMと全HXノードに対して入力されます。 Adding VLAN 1234 to FI Adding VLAN 1234 to vm-network-a VNIC template Adding vmnet2-1234 to 1.15.89.37 Adding vmnet2-1234 to 1.15.89.38 Adding vmnet2-1234 to 1.15.89.39 Add additional VM network VLANs? (y/n) n 他に追加したいVLANがなければ、n でスクリプトを終了します。 以上でInstaller VMによるVLANの新規追加は完了です。     最後に、新しいVLANへ移動したい仮想マシンのネットワークアダプタのポートグループを、新規作成したポートグループに変更することにより、仮想マシンは新規追加したVLANを使用するようになります。       ... View more

 HyperFlexのインストールやクラスタ拡張時には、HXDP Installerを使用します。この際に問題が発生した場合、そのまま以下の手順でHXDP InstallerのUIからログ取得します。この時、UCS Managerのログも一緒に取得することが可能です。   1. 右上の？マークをクリック。   2. Create New Bundleをクリック。     3. UCSMの情報を入力。 Create New Bundleをクリックしてもログファイルの作成は開始されず、代わりにUCSMの情報入力画面が表示されます。 入力後にCreate New Bundleを再度クリックします。 UCSMのログが不要な場合は、何も入力せずにCreate Bundle without UCS Dataをクリックします。     4. 作成されたファイルをクリックしてダウンロード。     作成されたログは、毎週日曜日に自動的に削除されます。 ... View more

 Support Bundleとは、ESXiとSCVMログが全ノード分入っている、HyperFlexの障害解析のためのログファイルになります。以下の方法で取得します。 ※ HX 3.0 以降では、HX Connectでの取得のみ可能です。   1. HX Connectによる取得方法 右上のギアアイコン > Support Bundle をクリック "Gererate"をクリック ログファイル作成中は、"Generating"という表示に変わります。 ファイル名をクリックしてダウンロード ログファイルの作成が完了すると、ログファイルがリストされます。 HX 3.0 以降では、以下のようにノード毎にログファイルが作成されますので、各ノードのログファイルをダウンロードしてください。   2. vSphere Web Clientによる取得方法 ※ HX 3.0以降では、この方法では取得できません。  クラスタアイコンを右クリック > Cisco HX Data Platform > Support をクリック "Generate Support Bundle"を実行 "Download Support Bundle"を実行 Support Bundleの作成が完了すると、Download Support Bundleボタンをクリックできるようになります。   ... View more

 HyperFlexに関するイベントを、vCenter (vSphere Web Client) 上で確認することが可能です。 このイベントは、以下の方法でエクスポートできます。   1. vCenterアイコン > 右画面のMonitorタブ > Events > エクスポートアイコン 2. Export Eventsウィンドウで以下を実行 2-1. Typeを選択（User, System両方を取得） 2-2. Timeで取得したい対象時間を設定 2-3. Generate CSV Reportで作成 Step2-1のTypeでは、両方を同時に選択することができないので、2度エクスポートする必要があります。     また、予めWeb UIを英語表示にしておくことで、エクスポートされるイベントも英語となるため、検索する際により多くのナレッジベースを利用することが可能になります。英語表示への変換もご検討ください。 [HyperFlex] Web版の管理ツールを英語表示する方法 ... View more

※ 本機能は HyperFlex 3.5(2a) から無効になっています。   ブラウザ上で http://<SCVM_IP>/mssh へアクセスすると、そのHXクラスタの全SCVMへのターミナルをブラウザ上で開くことが可能です。  [SCVMへのターミナル]   左上の Select All を押してからコマンドを入力すると、全てのSCVMターミナルにコマンドが入力されます。 ["stcli about"コマンドを同時実行]   右上のShortcutsには、予め用意されているコマンドセットがあります。メニューをクリックすると、それに対応したコマンドが入力されます。Select Allを事前に選んでおけば、全ターミナルに入力されます。 [ShortcutsからCheck NTPを選択] [Check NTP選択後]   右上のCVMの部分をクリックすると、全ノードのESXiへのターミナルに切り替えることができます。 [ESXiへのターミナル]   トラブルシューティングで、全SCVM上や全ESXi上で〇〇を実行する、という対応が必要になるような場合にはご利用ください。 ... View more

Symptoms Usually, we can access ESXi Shell by pressing Alt+F1 from ESXi DCUI (Direct Console User Interface). But on HyperFlex system, it just shows black window. Diagnosis This is expected behavior because HyperFlex redirects ESXi Shell output to SoL (Serial over LAN). Solution To use ESXi Shell, please access CIMC CLI via SSH instead. login as: admin <--------- UCSM Username admin@1.15.89.33's password: <--------- UCSM Password Connecting to host CISCO Serial Over LAN: Press Ctrl+x to Exit the session (Press Enter) hx-cluster-esxi-n01 login: root <-------- ESXi Username Password: <-------- ESXi Password The time and date of this login have been sent to the system logs. VMware offers supported, powerful system administration tools. Please see www.vmware.com/go/sysadmintools for details. The ESXi Shell can be disabled by an administrative user. See the vSphere Security documentation for more information. [root@hx-cluster-esxi-n01:~]   CIMC IP Address is shown left below in vKVM Console window. ... View more

Symptoms RBAC users like administrator@vsphere.local may fail HX Connect login. At that time, "Incorrect user name or password(100005)" is shown as a failure reason.   Diagnosis RBAC users can login to vCenter server. So, RBAC username and password is not incorrect. pre-defined users (local/admin, local/root) can login to HX Connect. So, HX Connect seems to work. "date" command shows quite different time between Storage Controller VMs and vCenter server. Time is not syncted.   Solution By syncing time between Storage Controller VMs and vCenter server, RBAC users can login to HX Connect.   This notice is mentioned in the following HX Connect document: https://www.cisco.com/c/en/us/td/docs/hyperconverged_systems/HyperFlex_HX_DataPlatformSoftware/AdminGuide/2_5/b_HyperFlexSystems_AdministrationGuide_2_5/b_HyperFlexSystems_AdministrationGuide_2_5_chapter_010001.html === Ensure that the time on the vCenter and the controller VMs are in sync or near sync. If there is too large of a time skew between the vCenter time and the cluster time, AAA authentication will fail. === ... View more

問題  HyperFlexのESXi Shellへアクセスするために、DCUI（Direct Console User Interface）からAlt+F1を押しても、画面が真っ暗なままになります。   診断  これは、HyperFlexのESXi Shellの出力をSoL（Serial over LAN）にリダイレクトしていることが原因であり、HyperFlexの実装どおりの動作となります。   解決策  ESXi Shellを使用する場合は、そのホストが動作しているUCSのCIMCへSSHでアクセスします。 すると、UCSMのアカウントでログインした後に、ESXi Shellにアクセスできます。 login as: admin <--------- UCSMのログインアカウント admin@1.15.89.33's password: <--------- UCSMのログインパスワード Connecting to host CISCO Serial Over LAN: Press Ctrl+x to Exit the session （リターンキーを1度入力） hx-cluster-esxi-n01 login: root <-------- ESXiのログインアカウント Password: <-------- ESXiのログインパスワード The time and date of this login have been sent to the system logs. VMware offers supported, powerful system administration tools. Please see www.vmware.com/go/sysadmintools for details. The ESXi Shell can be disabled by an administrative user. See the vSphere Security documentation for more information. [root@hx-cluster-esxi-n01:~] CIMCのIPアドレスは、KVMコンソールの左下に表示されています。 ... View more