2020-02-20 08:16 PM 2020-04-08 08:13 PM 更新
本ドキュメントは DCNM LAN Fabric モードと仮想L3スイッチである Nexus 9000v を使用した VXLAN Fabric の自動構築機能 (Easy Fabric) による構築手順を紹介します。
このドキュメントは Underlay と Overlay で2部に分かれています。Overlay については以下をご参照ください。
DCNM LAN Fabric と Nexus 9000v を用いた VXLAN Fabric 構築 後編 (Overlay)
LAN Fabric モード の DCNM をインストール済みであること (DCNM インストール方法)
- 試験利用のため DCNM の OVA デプロイ時に Small (Lab/PoC) でマシンリソースが節約可能
- 試験利用のため DCNM Server および管理対象 Nexus 9000v のライセンスは不要
Nexus 9000v の展開方法、およびDCNM からの Discovery までのセットアップは以下のドキュメントを参照
- DCNM LAN Fabric と Nexus 9000v を用いた Discovery 動作環境構成手順
ESXi ホストがおおよそ以下のパフォーマンス要件(目安)を満たすこと
- DCNM : 8vCPU / 24GB RAM / 550GB (シックプロビジョニング)
- Nexus 9000v (4台分) : 16vCPU / 32GB / 100GB
- 試験用VM : 任意
- DCNM ver 11.3(1)
- Nexus 9000v ver 9.3(3)
- VMware vCenter ver 6.7.0 / ESXi ver 6.7.0
Nexus 9000v 4台と試験用 VM をデプロイし、必要なセットアップを実施
Nexus 9000v と 試験用 VM に対してそれぞれ必要な Link 分のネットワークを割り当て
DCNM で新規に Fabric を定義
DCNM から Nexus 9000v を Discovery して登録
登録した Nexus 9000v に対して VXLAN Fabric の Underlay 設定をデプロイ
展開する VM :
- Leaf用 Nexus 9000v 3 台
- Spine用 Nexus 9000v 1台
- 試験通信用 ホスト VM 3 台 (本ドキュメントでは1台の Nexus 9000v の VRF を3つに分けて使用 ※設定方法は後編の最後に記載)
展開手順 :
ESXi に VM 間(Nexus 9000v 間)の通信用ネットワークを作成する ※ Promiscuous Mode が必須 (別記事参照)
論理構成に記載されている各々のリンクに対し、1つの VLAN を vSwitch 上に作成する
(論理構成には合計 6つのデータリンクがあるため、6つのネットワークを作成する)
ネットワークラベル、VLAN ID は任意
上記 VM をデプロイ (デプロイ方法は別記事参照)
※ VM をクローン作成すると、System MAC や S/N が重複してしまうため、OVA から展開したほうがよい(クローン作成した場合重複回避方法は別記予定)
デプロイした VM に対しそれぞれ 1. で作成したネットワークを割り当て
例) Spine のVM設定 ネットワークアダプタ 2-4 が Nexus 9000v の Ethernet 1/1-3 に該当する
Nexus 9000v をすべてパワーオン
デプロイしたすべての Nexus 9000v に対して以下を設定
Nexus 9000v に対してCLI ログイン
ホスト名とBoot 変数を設定
switch# configure terminal
switch(config)# hostname N9Kv-Leaf1
N9Kv-Leaf1(config)# boot nxos bootflash:nxos.9.3.3.bin
管理ポート (mgmt0)の設定 ※本ドキュメントはそれぞれの Nexus 9000v に対して 192.168.119.151-154 をアサイン
N9Kv-Leaf1(config)# interface mgmt 0
N9Kv-Leaf1(config-if)# ip address 192.168.119.151/24
N9Kv-Leaf1(config-if)# copy run start
管理ネットワークの疎通確認 一度 DCNM に対して ping が成功することを確認
N9Kv-Leaf1(config-if)# ping 192.168.119.1 vrf management
PING 192.168.119.1 (192.168.119.1): 56 data bytes
64 bytes from 192.168.119.1: icmp_seq=0 ttl=63 time=1.06 ms
64 bytes from 192.168.119.1: icmp_seq=1 ttl=63 time=0.486 ms
64 bytes from 192.168.119.1: icmp_seq=2 ttl=63 time=0.45 ms
64 bytes from 192.168.119.1: icmp_seq=3 ttl=63 time=0.417 ms
64 bytes from 192.168.119.1: icmp_seq=4 ttl=63 time=0.503 ms
Nexus 9000v のデータプレーン通信確認
一度展開した Nexus 9000v 間に暫定的な IP アドレスをアサインして疎通を確認する
※ Nexus 9000v を Clone で作成した場合や、vswitch の Promiscous mode を設定していない場合などはここで ping が失敗する
N9Kv-Leaf1(config-if)# interface e1/1
N9Kv-Leaf1(config-if)# no switchport
N9Kv-Leaf1(config-if)# ip address 1.1.1.1/24
N9Kv-Leaf1(config-if)# no shut
N9Kv-Spine1(config-if)# interface e1/1
N9Kv-Spine1(config-if)# no switchport
N9Kv-Spine1(config-if)# ip address 1.1.1.2/24
N9Kv-Spine1(config-if)# no shut
N9Kv-Spine1(config-if)# ping 1.1.1.1
PING 1.1.1.1 (1.1.1.1): 56 data bytes
64 bytes from 1.1.1.1: icmp_seq=0 ttl=254 time=2.566 ms
64 bytes from 1.1.1.1: icmp_seq=1 ttl=254 time=1.656 ms
64 bytes from 1.1.1.1: icmp_seq=2 ttl=254 time=1.411 ms
64 bytes from 1.1.1.1: icmp_seq=3 ttl=254 time=1.509 ms
64 bytes from 1.1.1.1: icmp_seq=4 ttl=254 time=1.172 ms
DCNM に GUI アクセス
https://[DCNM Server Address]
[ Control > Fabrics > Fabric Builder ] を開く
Create Fabric を選択
Fabric 情報を設定する
Fabric Name : 任意
Fabric Template : EasyFabric11_1 を選択
General タブ > BGP ASN : 65000 (任意)
Replicatioin タブ > Replicatioin Mode : Ingress (任意)
その他は Default のまま (任意)
作成した Fabric の画面の Actions より Add switches を選択
Discover Existing Switches タブ で以下を設定し Start discovery を実行
Seed IP : 192.168.119.151-154
Username : admin
Password : (任意)
Preserve Config : no ※ no にした場合、Discovery 完了後の対象のNexus スイッチの設定はクリアされる
Scan 完了後、デプロイ済みの Neuxs 9000v が表示されるので、対象を選択し Import into fabric を実行
ここで OK を選択すると Import プロセスが動作し、しばらくたつと対象スイッチのリロード後、設定がクリアされた状態で起動 (5-10分必要)
すべてのスイッチの Progress が Done になったことを確認し Close
トポロジに Discovery に成功したノードが表示される
Spine スイッチを右クリックし、Set role から Spine を選択
※その他ノードは default で Leaf なので設定は不要
Tabular view を開く
※ SSH: Session に関連するエラーが出力されている場合、対象スイッチを選択し、rediscovery を実行することで解消
Spine スイッチの Role が spine になっていることを確認
Save & Deploy を実行
Progress が 100% になった後 Deploy を実行
Deploy 前に設定変更行数や内容を以下で確認可能
Progress が 100% となり Status Descriptioin が Deployed successfully になっていることを確認
Fabric Status が In-Sync になっていることを確認
Nexus 9000v の CLI にて Underlay 関連の設定が追加ていることを確認
N9Kv-Leaf1# show run
feature nxapi
nv overlay evpn
feature ospf
feature bgp
feature interface-vlan
feature vn-segment-vlan-based
feature lacp
feature dhcp
feature lldp
feature nv overlay
feature ngoam
ngoam install acl
fabric forwarding anycast-gateway-mac 2020.0000.00aa
route-map fabric-rmap-redist-subnet permit 10
match tag 12345
interface nve1
no shutdown
host-reachability protocol bgp
source-interface loopback1
interface Ethernet1/1
description connected-to-ESXi-N9Kv-Spine1-Ethernet1/1
no switchport
mtu 9216
ip address 10.4.0.5/30
ip ospf network point-to-point
ip router ospf UNDERLAY area 0.0.0.0
no shutdown
interface loopback0
description Routing loopback interface
ip address 10.2.0.1/32
ip router ospf UNDERLAY area 0.0.0.0
interface loopback1
description VTEP loopback interface
ip address 10.3.0.3/32
ip router ospf UNDERLAY area 0.0.0.0
router ospf UNDERLAY
router-id 10.2.0.1
router bgp 65000
router-id 10.2.0.1
neighbor 10.2.0.4
remote-as 65000
update-source loopback0
address-family l2vpn evpn
send-community
send-community extended
Spine からそれぞれの Leaf に対し l2vpn peer が貼れていることを確認
N9Kv-Spine1# show bgp l2vpn evpn summary
BGP summary information for VRF default, address family L2VPN EVPN
BGP router identifier 10.2.0.4, local AS number 65000
BGP table version is 5, L2VPN EVPN config peers 3, capable peers 3
0 network entries and 0 paths using 0 bytes of memory
BGP attribute entries [0/0], BGP AS path entries [0/0]
BGP community entries [0/0], BGP clusterlist entries [0/0]
Neighbor V AS MsgRcvd MsgSent TblVer InQ OutQ Up/Down State/PfxRcd
10.2.0.1 4 65000 19 19 5 0 0 00:13:12 0
10.2.0.2 4 65000 19 19 5 0 0 00:13:13 0
10.2.0.3 4 65000 18 18 5 0 0 00:12:56 0
Overlay のデプロイと通信確認については後編を参照
DCNM LAN Fabric と Nexus 9000v を用いた VXLAN Fabric 構築 後編 (Overlay)
検索バーにキーワード、フレーズ、または質問を入力し、お探しのものを見つけましょう
シスコ コミュニティをいち早く使いこなしていただけるよう役立つリンクをまとめました。みなさんのジャーニーがより良いものとなるようお手伝いします