Problem in stacking two 9300 - BootLoader

[wesleyribeiro]

Good evening !

I would like your help , Switch new I put their priority 1 Switch Priority 10 another priority 5 .
But always when turned off or reset the switches do not boot , entering Bootloader mode , I execute the Boot command , thus booting . I'm sending everything that has been executed and message appears. Same iOS versions all right, Stackwise cables, stackpower all working.

Initializing Hardware...

Initializing Hardware...

System Bootstrap, Version 16.12.2r, RELEASE SOFTWARE (P)
Compiled Wed 10/23/2019 16:35:17.50 by rel

Current ROMMON image : Primary
Last reset cause : PowerOn
C9300-48P platform with 8388608 Kbytes of main memory

switch: boot
boot: attempting to boot from [flash:cat9k_iosxe.16.12.02.SPA.bin]
boot: reading file cat9k_iosxe.16.12.02.SPA.bin
########################################################################################################################################################################################################

witch#
*Oct 26 14:18:57.773: %IOSXE_REDUNDANCY-6-PEER: Active detected switch 2 as standby.
*Oct 26 14:18:57.770: %STACKMGR-6-STANDBY_ELECTED: Switch 1 R0/0: stack_mgr: Switch 2 has been elected STANDBY.
Switch#
*Oct 26 14:19:02.860: %REDUNDANCY-5-PEER_MONITOR_EVENT: Active detected a standby insertion (raw-event=PEER_FOUND(4))

*Oct 26 14:19:02.860: %REDUNDANCY-5-PEER_MONITOR_EVENT: Active detected a standby insertion (raw-event=PEER_REDUNDANCY_STATE_CHANGE(5))

Switch#show
*Oct 26 14:19:56.180: %HA_CONFIG_SYNC-6-BULK_CFGSYNC_SUCCEED: Bulk Sync succeeded
*Oct 26 14:19:57.184: %RF-5-RF_TERMINAL_STATE: Terminal state reached for (SSO)
*Oct 26 14:20:38.530: %PLATFORM_FEP-1-FRU_PS_ACCESS: Switch 2: power supply B is not responding
% Type "show ?" for a list of subcommands
Switch#
Switch#sh sw
Switch#sh switch de
Switch#sh switch detail
Switch/Stack Mac Address : 00a5.bf35.9300 - Local Mac Address
Mac persistency wait time: Indefinite
H/W Current
Switch# Role Mac Address Priority Version State
-------------------------------------------------------------------------------------
*1 Active 00a5.bf35.9300 10 V02 Ready
2 Standby 0077.8dec.4a00 5 V03 Ready

Stack Port Status Neighbors
Switch# Port 1 Port 2 Port 1 Port 2
--------------------------------------------------------
1 OK OK 2 2
2 OK OK 1 1

Switch#sh sw
Switch#sh switch sta
Switch#sh switch stack-po
Switch#sh switch stack-ports s
Switch#sh switch stack-ports summary
Sw#/Port# Port Status Neighbor Cable Length Link OK Link Active Sync OK #Changes to LinkOK In Loopback
-------------------------------------------------------------------------------------------------------------------
1/1 OK 2 50cm Yes Yes Yes 1 No
1/2 OK 2 50cm Yes Yes Yes 1 No
2/1 OK 1 50cm Yes Yes Yes 1 No
2/2 OK 1 50cm Yes Yes Yes 1 No

Switch#show
Switch#show mo
Switch#show mo
% Ambiguous command: "show mo"
Switch#sh
Switch#sh
Switch#show mo
Switch#show mo
% Ambiguous command: "show mo"
Switch#show module
Switch Ports Model Serial No. MAC address Hw Ver. Sw Ver.
------ ----- --------- ----------- -------------- ------- --------
1 65 C9300-48P FCW2227E0B1 00a5.bf35.9300 V02 16.12.02
2 65 C9300-48P FCW2304G16T 0077.8dec.4a00 V03 16.12.02
Switch#show pla
Switch#show platform ha
Switch#show platform hardware au
Switch#show platform hardware authentication sta
Switch#show platform hardware authentication status
Switch 1:
Mainboard Authentication: Passed
FRU Authentication: Passed
Stack Cable A Authentication: Passed
Stack Cable B Authentication: Passed

Switch 2:
Mainboard Authentication: Passed
FRU Authentication: Passed
Stack Cable A Authentication: Passed
Stack Cable B Authentication: Passed

[balaji.bandi]

Can you post below output :

show boot 

show version

dir

[wesleyribeiro]

Switch#show boot
---------------------------
Switch 1
---------------------------
Current Boot Variables:
BOOT variable does not exist

Boot Variables on next reload:
BOOT variable = flash:cat9k_iosxe.16.12.02.SPA.bin;
Manual Boot = yes
Enable Break = no
Boot Mode = DEVICE
iPXE Timeout = 0
Switch#show ver
Cisco IOS XE Software, Version 16.12.02
Cisco IOS Software [Gibraltar], Catalyst L3 Switch Software (CAT9K_IOSXE), Version 16.12.02, RELEASE SOFTWARE (fc2)
Technical Support: http://www.cisco.com/techsupport
Copyright (c) 1986-2019 by Cisco Systems, Inc.
Compiled Tue 19-Nov-19 10:04 by mcpre

Cisco IOS-XE software, Copyright (c) 2005-2019 by cisco Systems, Inc.
All rights reserved. Certain components of Cisco IOS-XE software are
licensed under the GNU General Public License ("GPL") Version 2.0. The
software code licensed under GPL Version 2.0 is free software that comes
with ABSOLUTELY NO WARRANTY. You can redistribute and/or modify such
GPL code under the terms of GPL Version 2.0. For more details, see the
documentation or "License Notice" file accompanying the IOS-XE software,
or the applicable URL provided on the flyer accompanying the IOS-XE
software.

ROM: IOS-XE ROMMON
BOOTLDR: System Bootstrap, Version 16.12.2r, RELEASE SOFTWARE (P)

Switch uptime is 26 minutes
Uptime for this control processor is 27 minutes
System returned to ROM by PowerOn
System image file is "flash:cat9k_iosxe.16.12.02.SPA.bin"
Last reload reason: PowerOn

This product contains cryptographic features and is subject to United
States and local country laws governing import, export, transfer and
use. Delivery of Cisco cryptographic products does not imply
third-party authority to import, export, distribute or use encryption.
Importers, exporters, distributors and users are responsible for
compliance with U.S. and local country laws. By using this product you
agree to comply with applicable laws and regulations. If you are unable
to comply with U.S. and local laws, return this product immediately.

A summary of U.S. laws governing Cisco cryptographic products may be found at:
http://www.cisco.com/wwl/export/crypto/tool/stqrg.html

If you require further assistance please contact us by sending email to
export@cisco.com.

Technology Package License Information:

------------------------------------------------------------------------------
Technology-package Technology-package
Current Type Next reboot
------------------------------------------------------------------------------
network-advantage Smart License network-advantage
dna-advantage Subscription Smart License dna-advantage
AIR License Level: AIR DNA Advantage
Next reload AIR license Level: AIR DNA Advantage

Smart Licensing Status: UNREGISTERED/EVAL MODE

cisco C9300-48P (X86) processor with 1343980K/6147K bytes of memory.
Processor board ID FCW2227E0B1
1 Virtual Ethernet interface
104 Gigabit Ethernet interfaces
16 Ten Gigabit Ethernet interfaces
4 TwentyFive Gigabit Ethernet interfaces
4 Forty Gigabit Ethernet interfaces
2048K bytes of non-volatile configuration memory.
8388608K bytes of physical memory.
1638400K bytes of Crash Files at crashinfo:.
1638400K bytes of Crash Files at crashinfo-2:.
11264000K bytes of Flash at flash:.
11264000K bytes of Flash at flash-2:.
0K bytes of WebUI ODM Files at webui:.

Base Ethernet MAC Address : 00:a5:bf:35:93:00
Motherboard Assembly Number : 73-18274-04
Motherboard Serial Number : FOC22256ZJP
Model Revision Number : A0
Motherboard Revision Number : A0
Model Number : C9300-48P
System Serial Number : FCW2227E0B1

Switch Ports Model SW Version SW Image Mode
------ ----- ----- ---------- ---------- ----
* 1 65 C9300-48P 16.12.02 CAT9K_IOSXE BUNDLE
2 65 C9300-48P 16.12.02 CAT9K_IOSXE BUNDLE

Switch 02
---------
Switch uptime : 28 minutes

Base Ethernet MAC Address : 00:77:8d:ec:4a:00
Motherboard Assembly Number : 73-18274-05
Motherboard Serial Number : FOC230307V7
Model Revision Number : H0
Motherboard Revision Number : A0
Model Number : C9300-48P
System Serial Number : FCW2304G16T
Last reload reason : Reload Command

Configuration register is 0x142 (will be 0x102 at next reload)

Switch# dir
Switch# dir
Directory of flash:/

65552 -rw- 2097152 Oct 26 2021 14:17:03 +00:00 nvram_config
65539 -rwx 2097152 Oct 26 2021 14:17:03 +00:00 nvram_config_bkup
65540 -rw- 25711560 Sep 11 2018 15:50:56 +00:00 cat9k-cc_srdriver.16.08.01a.SPA.pkg
65541 -rw- 78484420 Sep 11 2018 15:50:56 +00:00 cat9k-espbase.16.08.01a.SPA.pkg
65542 -rw- 1598408 Sep 11 2018 15:50:56 +00:00 cat9k-guestshell.16.08.01a.SPA.pkg
65543 -rw- 404104132 Sep 11 2018 15:50:56 +00:00 cat9k-rpbase.16.08.01a.SPA.pkg
65544 -rw- 27681732 Sep 11 2018 15:50:56 +00:00 cat9k-sipbase.16.08.01a.SPA.pkg
65545 -rw- 52220868 Sep 11 2018 15:50:57 +00:00 cat9k-sipspa.16.08.01a.SPA.pkg
65546 -rw- 31130564 Sep 11 2018 15:50:57 +00:00 cat9k-srdriver.16.08.01a.SPA.pkg
65547 -rw- 14783424 Sep 11 2018 15:50:57 +00:00 cat9k-webui.16.08.01a.SPA.pkg
65548 -rw- 9152 Sep 11 2018 15:50:57 +00:00 cat9k-wlc.16.08.01a.SPA.pkg
65549 -rw- 6701 Sep 11 2018 15:50:57 +00:00 packages.conf
65550 -rw- 31663077 Sep 11 2018 15:50:57 +00:00 cat9k-rpboot.16.08.01a.SPA.pkg
114689 drwx 4096 Oct 26 2021 14:15:43 +00:00 .installer
65551 -rw- 2775 Oct 26 2021 14:15:44 +00:00 bootloader_evt_handle.log
122882 drwx 4096 Sep 11 2018 15:56:50 +00:00 core
131073 drwx 4096 Oct 26 2021 14:09:30 +00:00 .prst_sync
147457 drwx 4096 Sep 11 2018 15:53:09 +00:00 .rollback_timer
155649 drwx 4096 Sep 11 2018 15:53:12 +00:00 gs_script
163841 drwx 4096 Oct 5 2021 11:49:47 +00:00 tech_support
163845 drwx 4096 Oct 26 2021 14:15:48 +00:00 dc_profile_dir
65538 -rw- 395 Oct 26 2021 14:15:49 +00:00 boothelper.log
65553 -rw- 132108 Oct 26 2021 14:16:05 +00:00 memleak.tcl
65554 -rw- 4212 Oct 5 2021 12:31:29 +00:00 tam_client_app.log
172033 drwx 4096 Sep 11 2018 15:59:02 +00:00 .dbpersist
180225 drwx 4096 Sep 11 2018 15:56:30 +00:00 onep
65556 -rw- 35 Oct 26 2021 13:36:16 +00:00 pnp-tech-time
65557 -rw- 107621 Oct 26 2021 13:36:21 +00:00 pnp-tech-discovery-summary
65564 -rw- 556 Oct 26 2021 14:02:47 +00:00 vlan.dat
65558 -rwx 1953 Oct 26 2021 14:16:05 +00:00 svl_ipc.tcl
65560 -rw- 806715284 Oct 26 2021 12:51:23 +00:00 cat9k_iosxe.16.12.02.SPA.bin
65561 -rw- 16090 Oct 26 2021 14:17:06 +00:00 rdope_out.txt
65562 -rw- 89 Oct 26 2021 14:17:05 +00:00 rdope.log
65563 -rw- 0 Oct 26 2021 14:17:06 +00:00 dope_hist
65559 -rw- 556 Oct 26 2021 14:19:14 +00:00 stby-vlan.dat

11353194496 bytes total (9267261440 bytes free)

[Kasun Bandara]

Hi,

can be a issue with boot command. use below steps

Switch#configure terminal
Enter configuration commands, one per line.  End with CNTL/Z.

Switch(config)#sh run

find boot commands in configuration and ,
Switch(config)#no boot system bootflash:xxxxxx (old boot commands)
Switch(config)#boot system bootflash:cat9k_iosxe.16.12.02.SPA.bin (pointing to correct image)
Switch(config)#end

Switch(config)#write

reload the switch and test.

use below link to get process of setting boot variable

https://www.cisco.com/c/en/us/support/docs/switches/catalyst-9300-series-switches/216231-upgrade-guide-for-cisco-catalyst-9000-sw.html#anc7

rate and  mark as answer, if this resolved your concern

[wesleyribeiro]

There seems to be no other active IOS

Switch 1
---------------------------
Current Boot Variables:
BOOT variable does not exist

Boot Variables on next reload:
BOOT variable = flash:cat9k_iosxe.16.12.02.SPA.bin;
Manual Boot = yes
Enable Break = no
Boot Mode = DEVICE
iPXE Timeout = 0

---------------------------
Switch 2
---------------------------
Current Boot Variables:
BOOT variable does not exist

Boot Variables on next reload:
BOOT variable = flash:cat9k_iosxe.16.12.02.SPA.bin;
Manual Boot = no
Enable Break = no
Boot Mode = DEVICE
iPXE Timeout = 0

[balaji.bandi]

boot system {filesystem : /file-url ... | switch {number | all}}

https://www.cisco.com/c/en/us/td/docs/switches/lan/catalyst9300/software/release/16-6/configuration_guide/sys_mgmt/b_166_sys_mgmt_9300_cg/b_166_sys_mgmt_9300_cg_chapter_01.html

[Leo Laohoo · Accepted solution]

---

@wesleyribeiro wrote:

Manual Boot = yes

---

This is the reason why Switch 1 always boots into ROMMON.

[wesleyribeiro]

Gentlemen after changing the Boot as the image below , the equipment it worked normally-

did not go into bootloader again

I didn't change from Switch 2 at all

Switch 1
---------------------------

Current Boot Variables:
BOOT variable does not exist

Boot Variables on next reload:
BOOT variable = flash:cat9k_iosxe.16.12.02.SPA.bin;
Manual Boot = no
Enable Break = no
Boot Mode = DEVICE
iPXE Timeout = 0

Switch>enable
Switch#reload
Reload command is being issued on Active unit, this will reload the whole stack
Proceed with reload? [confirm]

Switch console is now available

Press RETURN to get started.

Chassis 2 reloading, reason - Reload command
reload fp action requested
rp processes exit wi

Initializing Hardware...

System Bootstrap, Version 16.12.2r, RELEASE SOFTWARE (P)
Compiled Wed 10/23/2019 16:35:17.50 by rel

Current ROMMON image : Primary
Last reset cause : SoftwareReload
C9300-48P platform with 8388608 Kbytes of main memory

boot: attempting to boot from [flash:cat9k_iosxe.16.12.02.SPA.bin]
boot: reading file cat9k_iosxe.16.12.02.SPA.bin
#######################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################

Waiting for 120 seconds for other switches to boot
##
Switch number is 2
All switches in the stack have been discovered. Accelerating discovery

console is now available

Press RETURN to get started.

Switch>
*Oct 27 12:30:57.652: %SYS-6-BOOTTIME: Time taken to reboot after reload = 235 seconds
*Oct 27 12:30:58.830: %PNP-6-PNP_DISCOVERY_STOPPED: PnP Discovery stopped (Startup Config Present)
*Oct 27 12:31:01.875: %HMANRP-6-EMP_NO_ELECTION_INFO: Could not elect active EMP switch, setting emp active switch to 0: EMP_RELAY: Could not elect switch with mgmt port UP
*Oct 27 12:31:01.884: %HMANRP-6-EMP_NO_ELECTION_INFO: Could not elect active EMP switch, setting emp active switch to 0: EMP_RELAY: Could not elect switch with mgmt port UP
Switch>
*Oct 27 12:31:10.432: %PKI-2-NON_AUTHORITATIVE_CLOCK: PKI functions can not be initialized until an authoritative time source, like NTP, can be obtained.
*Oct 27 12:31:10.675: %CRYPTO_ENGINE-5-KEY_ADDITION: A key named CISCO_IDEVID_SUDI_LEGACY has been generated or imported by pki-sudi
*Oct 27 12:31:10.699: %CRYPTO_ENGINE-5-KEY_ADDITION: A key named CISCO_IDEVID_SUDI has been generated or imported by pki-sudi
*Oct 27 12:31:15.755: %PLATFORM_PM-6-FRULINK_INSERTED: 8x10G uplink module inserted in the switch 2 slot 1
*Oct 27 12:31:16.430: %PLATFORM_PM-6-FRULINK_INSERTED: 8x10G uplink module inserted in the switch 1 slot 1
Switch>
Switch>
Switch>enable
Switch#sh sw
Switch#sh switch de
Switch#sh switch detail
Switch/Stack Mac Address : 00a5.bf35.9300 - Local Mac Address
Mac persistency wait time: Indefinite
H/W Current
Switch# Role Mac Address Priority Version State
-------------------------------------------------------------------------------------
*1 Active 00a5.bf35.9300 10 V02 Ready
2 Member 0077.8dec.4a00 5 V03 Ready

Stack Port Status Neighbors
Switch# Port 1 Port 2 Port 1 Port 2
--------------------------------------------------------
1 OK OK 2 2
2 OK OK 1 1

Switch#
*Oct 27 12:31:21.178: %LINK-3-UPDOWN: Interface AppGigabitEthernet2/0/1, changed state to up
*Oct 27 12:31:21.815: %LINK-3-UPDOWN: Interface AppGigabitEthernet1/0/1, changed state to up
*Oct 27 12:31:22.179: %LINEPROTO-5-UPDOWN: Line protocol on Interface AppGigabitEthernet2/0/1, changed state to up
*Oct 27 12:31:22.814: %LINEPROTO-5-UPDOWN: Line protocol on Interface AppGigabitEthernet1/0/1, changed state to up
Switch#

[marce1000]

 - Looks like a software a bug , you may consider these versions for trying :

       https://software.cisco.com/download/home/286313862/type/282046477/release/Gibraltar-16.12.6

 or   https://software.cisco.com/download/home/286313862/type/282046477/release/Amsterdam-17.3.4 (advisory release)

 M.