キャンセル
次の結果を表示 
次の代わりに検索 
もしかして: 
cancel
1285
閲覧回数
0
いいね!
0
コメント
Daijiro Kido
Cisco Employee
Cisco Employee

 

はじめに

本ドキュメントは DCNM LAN Fabric モードと仮想L3スイッチである Nexus 9000v を使用した VXLAN Fabric の自動構築機能 (Easy Fabric) による構築手順を紹介します。

このドキュメントは Underlay と Overlay で2部に分かれています。Overlay については以下をご参照ください。
DCNM LAN Fabric と Nexus 9000v を用いた VXLAN Fabric 構築 後編 (Overlay)

 

前提条件

LAN Fabric モード の DCNM をインストール済みであること (DCNM インストール方法)
- 試験利用のため DCNM の OVA デプロイ時に Small (Lab/PoC) でマシンリソースが節約可能
- 試験利用のため DCNM Server および管理対象 Nexus 9000v のライセンスは不要

Nexus 9000v の展開方法、およびDCNM からの Discovery までのセットアップは以下のドキュメントを参照
DCNM LAN Fabric と Nexus 9000v を用いた Discovery 動作環境構成手順

ESXi ホストがおおよそ以下のパフォーマンス要件(目安)を満たすこと
- DCNM : 8vCPU / 24GB RAM / 550GB (シックプロビジョニング)
- Nexus 9000v (4台分) : 16vCPU / 32GB / 100GB
- 試験用VM : 任意

試験環境

環境条件

- DCNM ver 11.3(1)
- Nexus 9000v ver 9.3(3)
- VMware vCenter ver 6.7.0 / ESXi ver 6.7.0

 

ESXi 構成イメージ

2020-02-20_155431.png

 

 

VXLAN Fabric 論理構成イメージ

2020-03-10_203854.png

構築手順概要

  1. Nexus 9000v 4台と試験用 VM をデプロイし、必要なセットアップを実施

  2. Nexus 9000v と 試験用 VM に対してそれぞれ必要な Link 分のネットワークを割り当て

  3. DCNM で新規に Fabric を定義

  4. DCNM から Nexus 9000v を Discovery して登録

  5. 登録した Nexus 9000v に対して VXLAN Fabric の Underlay 設定をデプロイ

  6. Overlay をデプロイ (後編)
  7. 通信確認

 

1. Nexus 9000v / 試験用 VM の展開

展開する VM :

- Leaf用 Nexus 9000v 3 台
- Spine用 Nexus 9000v 1台
- 試験通信用 ホスト VM 3 台 (本ドキュメントでは1台の Nexus 9000v の VRF を3つに分けて使用 ※設定方法は後編の最後に記載)

 

展開手順 :

  1. ESXi に VM 間(Nexus 9000v 間)の通信用ネットワークを作成する Promiscuous Mode が必須 (別記事参照)

    • 論理構成に記載されている各々のリンクに対し、1つの VLAN を vSwitch 上に作成する
      (論理構成には合計 6つのデータリンクがあるため、6つのネットワークを作成する)

    • ネットワークラベル、VLAN ID は任意

  2. 上記 VM をデプロイ (デプロイ方法は別記事参照)
    VM をクローン作成すると、System MAC や S/N が重複してしまうため、OVA から展開したほうがよい(クローン作成した場合重複回避方法は別記予定)

  3. デプロイした VM に対しそれぞれ 1. で作成したネットワークを割り当て
    例) Spine のVM設定 ネットワークアダプタ 2-4 が Nexus 9000v の Ethernet 1/1-3 に該当する
    2020-02-20_160551.png

  4. Nexus 9000v をすべてパワーオン

 

2. Nexus 9000v の初期設定

デプロイしたすべての Nexus 9000v に対して以下を設定

  1. Nexus 9000v に対してCLI ログイン

  2. ホスト名とBoot 変数を設定

    switch# configure terminal
    switch(config)# hostname N9Kv-Leaf1
    N9Kv-Leaf1(config)# boot nxos bootflash:nxos.9.3.3.bin

     

  3. 管理ポート (mgmt0)の設定 ※本ドキュメントはそれぞれの Nexus 9000v に対して 192.168.119.151-154 をアサイン

    N9Kv-Leaf1(config)# interface mgmt 0
    N9Kv-Leaf1(config-if)# ip address 192.168.119.151/24
    N9Kv-Leaf1(config-if)# copy run start

     

  4. 管理ネットワークの疎通確認 一度 DCNM に対して ping が成功することを確認

    N9Kv-Leaf1(config-if)# ping 192.168.119.1 vrf management 
    PING 192.168.119.1 (192.168.119.1): 56 data bytes
    64 bytes from 192.168.119.1: icmp_seq=0 ttl=63 time=1.06 ms
    64 bytes from 192.168.119.1: icmp_seq=1 ttl=63 time=0.486 ms
    64 bytes from 192.168.119.1: icmp_seq=2 ttl=63 time=0.45 ms
    64 bytes from 192.168.119.1: icmp_seq=3 ttl=63 time=0.417 ms
    64 bytes from 192.168.119.1: icmp_seq=4 ttl=63 time=0.503 ms

     

  5. Nexus 9000v のデータプレーン通信確認
    一度展開した Nexus 9000v 間に暫定的な IP アドレスをアサインして疎通を確認する
    ※ Nexus 9000v を Clone で作成した場合や、vswitch の Promiscous mode を設定していない場合などはここで ping が失敗する

    N9Kv-Leaf1(config-if)# interface e1/1
    N9Kv-Leaf1(config-if)# no switchport
    N9Kv-Leaf1(config-if)# ip address 1.1.1.1/24
    N9Kv-Leaf1(config-if)# no shut

    N9Kv-Spine1(config-if)# interface e1/1
    N9Kv-Spine1(config-if)# no switchport
    N9Kv-Spine1(config-if)# ip address 1.1.1.2/24
    N9Kv-Spine1(config-if)# no shut

    N9Kv-Spine1(config-if)# ping 1.1.1.1
    PING 1.1.1.1 (1.1.1.1): 56 data bytes
    64 bytes from 1.1.1.1: icmp_seq=0 ttl=254 time=2.566 ms
    64 bytes from 1.1.1.1: icmp_seq=1 ttl=254 time=1.656 ms
    64 bytes from 1.1.1.1: icmp_seq=2 ttl=254 time=1.411 ms
    64 bytes from 1.1.1.1: icmp_seq=3 ttl=254 time=1.509 ms
    64 bytes from 1.1.1.1: icmp_seq=4 ttl=254 time=1.172 ms

 

3. DCNM の Fabric 設定

  1. DCNM に GUI アクセス
    https://[DCNM Server Address]

  2. [ Control > Fabrics > Fabric Builder ] を開く
    4-3-2-1.png

  3. Create Fabric を選択

  4. Fabric 情報を設定する

    • Fabric Name : 任意

    • Fabric Template : EasyFabric11_1 を選択

    • General タブ > BGP ASN : 65000 (任意)
      4-3-4-1.png

    • Replicatioin タブ > Replicatioin Mode : Ingress (任意)
      4-3-4-2.png

    • その他は Default のまま (任意)

 

4. Nexus 9000v の Discovery

  1. 作成した Fabric の画面の Actions より Add switches を選択
    4-4-1-1.png

  2. Discover Existing Switches タブ で以下を設定し Start discovery を実行

    • Seed IP : 192.168.119.151-154

    • Username : admin

    • Password : (任意)

    • Preserve Config : no ※ no にした場合、Discovery 完了後の対象のNexus スイッチの設定はクリアされる
      4-4-2-1.png

  3. Scan 完了後、デプロイ済みの Neuxs 9000v が表示されるので、対象を選択し Import into fabric を実行
    4-4-3-1.png

    ここで OK を選択すると Import プロセスが動作し、しばらくたつと対象スイッチのリロード後、設定がクリアされた状態で起動 (5-10分必要)
    4-4-3-2.png

  4. すべてのスイッチの Progress が Done になったことを確認し Close
    4-4-4-1.png

  5. トポロジに Discovery に成功したノードが表示される
    4-4-5-1.png

  6. Spine スイッチを右クリックし、Set role から Spine を選択
    ※その他ノードは default で Leaf なので設定は不要
    4-4-6-1.png

  7. Tabular view を開く
    4-4-7-1.png

    ※ SSH: Session に関連するエラーが出力されている場合、対象スイッチを選択し、rediscovery を実行することで解消
    4-4-7-2.png

  8. Spine スイッチの Role が spine になっていることを確認
    4-4-8-1.png

5. Underlay の展開

  1. Save & Deploy を実行
    4-5-1-1.png

  2. Progress が 100% になった後 Deploy を実行
    4-5-2-1.png
    Deploy 前に設定変更行数や内容を以下で確認可能
    4-5-2-2.png

  3. Progress が 100% となり Status Descriptioin が Deployed successfully になっていることを確認
    4-5-3-1.png

  4. Fabric Status が In-Sync になっていることを確認
    4-5-4-1.png

  5. Nexus 9000v の CLI にて Underlay 関連の設定が追加ていることを確認

    N9Kv-Leaf1# show run
    feature nxapi
    nv overlay evpn
    feature ospf
    feature bgp
    feature interface-vlan
    feature vn-segment-vlan-based
    feature lacp
    feature dhcp
    feature lldp
    feature nv overlay
    feature ngoam

    ngoam install acl

    fabric forwarding anycast-gateway-mac 2020.0000.00aa

    route-map fabric-rmap-redist-subnet permit 10
    match tag 12345

    interface nve1
    no shutdown
    host-reachability protocol bgp
    source-interface loopback1

    interface Ethernet1/1
    description connected-to-ESXi-N9Kv-Spine1-Ethernet1/1
    no switchport
    mtu 9216
    ip address 10.4.0.5/30
    ip ospf network point-to-point
    ip router ospf UNDERLAY area 0.0.0.0
    no shutdown

    interface loopback0
    description Routing loopback interface
    ip address 10.2.0.1/32
    ip router ospf UNDERLAY area 0.0.0.0

    interface loopback1
    description VTEP loopback interface
    ip address 10.3.0.3/32
    ip router ospf UNDERLAY area 0.0.0.0

    router ospf UNDERLAY
    router-id 10.2.0.1
    router bgp 65000
    router-id 10.2.0.1
    neighbor 10.2.0.4
      remote-as 65000
      update-source loopback0
      address-family l2vpn evpn
        send-community
        send-community extended

     

  6. Spine からそれぞれの Leaf に対し l2vpn peer が貼れていることを確認

    N9Kv-Spine1# show bgp l2vpn evpn summary 
    BGP summary information for VRF default, address family L2VPN EVPN
    BGP router identifier 10.2.0.4, local AS number 65000
    BGP table version is 5, L2VPN EVPN config peers 3, capable peers 3
    0 network entries and 0 paths using 0 bytes of memory
    BGP attribute entries [0/0], BGP AS path entries [0/0]
    BGP community entries [0/0], BGP clusterlist entries [0/0]

    Neighbor       V   AS MsgRcvd MsgSent   TblVer InQ OutQ Up/Down State/PfxRcd
    10.2.0.1       4 65000     19     19       5   0   0 00:13:12 0        
    10.2.0.2       4 65000     19     19       5   0   0 00:13:13 0        
    10.2.0.3       4 65000     18     18       5   0   0 00:12:56 0        

     

Overlay のデプロイと通信確認については後編を参照

DCNM LAN Fabric と Nexus 9000v を用いた VXLAN Fabric 構築 後編 (Overlay)

Getting Started

検索バーにキーワード、フレーズ、または質問を入力し、お探しのものを見つけましょう

シスコ コミュニティをいち早く使いこなしていただけるよう役立つリンクをまとめました。みなさんのジャーニーがより良いものとなるようお手伝いします