nixx Posted December 9, 2021 Posted December 9, 2021 требуется консультация/совет уже прошедших по граблям ) есть циска из темы, cat4500-entservicesk9-mz.150-2.SG11.bin есть 45 vlan-интерфейсов на ней, на каждом висит сетка /24, в каждой сетке до 30 активных arp-записей. все интерфейсы засунуты в один vrf (в дальнейшем планируется еще один vrf, поэтому так). после полутора часов работы с момента поднятия 45-го интерфейса получаю в логе такое: %C4K_L3HWFORWARDING-4-FWDCAMOUTOFSPACEFORVRFROUTINGTABLE: Insufficient TCAM resources to load VRF MY routing table. Switching to software forwarding for this VRF. ну и софт-роутинг во всей красе, у всех мега-потери пакетов. выключаю последние два интерфейса, в логе всплывает %C4K_L3HWFORWARDING-6-SUCCEEDEDTOLOADVRFROUTINGTABLETOFWDCAM: Successfully loaded VRF MY routing table to TCAM. Switching to hardware forwarding for this VRF. ну то есть всё вернулось в железо и стало всё хорошо. смотрю инфу по роутам. ну да, TCAM заканчивается. но с какого перепугу? гугл подсказывает, что в 12.2 ветке были проблемы с TCAM'ом в vrf, и советовали лить более свежий IOS. попробовать поменять 15.0 на 12.2 последний? или я чего-то очевидного не вижу? избавиться от vrf можно, но это крайняя мера. хотелось бы, всё же, с vrf жить. блин, как эту простыню под спойлер засунуть? #show platform hardware ip route detail block utilization by region: Region Name eu first last total used free util N Special routes 0 0 7 8 8 0 100.00% 0 ICMP Flow Cache 0 0 0 0 0 0 0.00% 1 TCP w/ flags Flow Cache 0 0 0 0 0 0 0.00% 2 TCP/UDP Flow Cache 0 0 0 0 0 0 0.00% 3 L4 Flow Cache 0 0 0 0 0 0 0.00% 4 L3 Flow Cache 0 0 0 0 0 0 0.00% 5 Fastdrops 0 0 0 0 0 0 0.00% 6 MC S,G routes 0 0 0 0 0 0 0.00% 7 MC link local routes 0 0 0 0 0 0 0.00% 8 MC S/32,224/4 routes 0 0 0 0 0 0 0.00% 9 MC S/31,224/4 routes 0 0 0 0 0 0 0.00% 10 MC S/30,224/4 routes 0 0 0 0 0 0 0.00% 11 MC S/29,224/4 routes 0 0 0 0 0 0 0.00% 12 MC S/28,224/4 routes 0 0 0 0 0 0 0.00% 13 MC S/27,224/4 routes 0 0 0 0 0 0 0.00% 14 MC S/26,224/4 routes 0 0 0 0 0 0 0.00% 15 MC S/25,224/4 routes 0 0 0 0 0 0 0.00% 16 MC S/24,224/4 routes 0 0 0 0 0 0 0.00% 17 MC S/23,224/4 routes 0 0 0 0 0 0 0.00% 18 MC S/22,224/4 routes 0 0 0 0 0 0 0.00% 19 MC S/21,224/4 routes 0 0 0 0 0 0 0.00% 20 MC S/20,224/4 routes 0 0 0 0 0 0 0.00% 21 MC S/19,224/4 routes 0 0 0 0 0 0 0.00% 22 MC S/18,224/4 routes 0 0 0 0 0 0 0.00% 23 MC S/17,224/4 routes 0 0 0 0 0 0 0.00% 24 MC S/16,224/4 routes 0 0 0 0 0 0 0.00% 25 MC S/15,224/4 routes 0 0 0 0 0 0 0.00% 26 MC S/14,224/4 routes 0 0 0 0 0 0 0.00% 27 MC S/13,224/4 routes 0 0 0 0 0 0 0.00% 28 MC S/12,224/4 routes 0 0 0 0 0 0 0.00% 29 MC S/11,224/4 routes 0 0 0 0 0 0 0.00% 30 MC S/10,224/4 routes 0 0 0 0 0 0 0.00% 31 MC S/9 ,224/4 routes 0 0 0 0 0 0 0.00% 32 MC S/8,224/4 (short) routes 0 8 23 16 16 0 100.00% 33 MC *,G routes 0 0 0 0 0 0 0.00% 34 per-vlan punt region 0 24 39 16 16 0 100.00% 35 UC VRF Rx region 5338 40 408 369 337 32 91.32% 36 UC VRF /32 routes 22728 409 1902 1494 1421 73 95.11% 37 UC VRF /31 routes 0 0 0 0 0 0 0.00% 38 UC VRF /30 routes 0 0 0 0 0 0 0.00% 39 UC VRF /29 routes 42 1903 1905 3 3 0 100.00% 40 UC VRF /28 routes 0 0 0 0 0 0 0.00% 41 UC VRF /27 routes 0 0 0 0 0 0 0.00% 42 UC VRF /26 routes 0 0 0 0 0 0 0.00% 43 UC VRF /25 routes 0 0 0 0 0 0 0.00% 44 UC VRF /24 routes 1723 1906 2024 119 108 11 90.75% 45 UC VRF /23 routes 0 0 0 0 0 0 0.00% 46 UC VRF /22 routes 0 0 0 0 0 0 0.00% 47 UC VRF /21 routes 0 0 0 0 0 0 0.00% 48 UC VRF /20 routes 0 0 0 0 0 0 0.00% 49 UC VRF /19 routes 0 0 0 0 0 0 0.00% 50 UC VRF /18 routes 0 0 0 0 0 0 0.00% 51 UC VRF /17 routes 0 0 0 0 0 0 0.00% 52 UC VRF /16 routes 0 0 0 0 0 0 0.00% 53 UC VRF /15 routes 0 0 0 0 0 0 0.00% 54 UC VRF /14 routes 0 0 0 0 0 0 0.00% 55 UC VRF /13 routes 0 0 0 0 0 0 0.00% 56 UC VRF /12 routes 0 0 0 0 0 0 0.00% 57 UC VRF /11 routes 0 0 0 0 0 0 0.00% 58 UC VRF /10 routes 0 0 0 0 0 0 0.00% 59 UC VRF /9 routes 0 0 0 0 0 0 0.00% 60 UC VRF /8 routes 43 2025 2030 6 6 0 100.00% 61 UC VRF /7 routes 0 0 0 0 0 0 0.00% 62 UC VRF /6 routes 0 0 0 0 0 0 0.00% 63 UC VRF /5 routes 0 0 0 0 0 0 0.00% 64 UC VRF /4 routes 43 2031 2033 3 3 0 100.00% 65 UC VRF /3 routes 0 0 0 0 0 0 0.00% 66 UC VRF /2 routes 0 0 0 0 0 0 0.00% 67 UC VRF /1 routes 0 0 0 0 0 0 0.00% 68 UC VRF /0 routes 0 2034 2036 3 3 0 100.00% 69 UC Rx region 1 2037 2037 1 1 0 100.00% 70 WCCP Region 1 0 0 0 0 0 0 0.00% 71 WCCP Region 2 0 0 0 0 0 0 0.00% 72 WCCP Region 3 0 0 0 0 0 0 0.00% 73 WCCP Region 4 0 0 0 0 0 0 0.00% 74 WCCP Region 5 0 0 0 0 0 0 0.00% 75 WCCP Region 6 0 0 0 0 0 0 0.00% 76 WCCP Region 7 0 0 0 0 0 0 0.00% 77 WCCP Region 8 0 0 0 0 0 0 0.00% 78 PBR region 0 2038 2038 1 1 0 100.00% 79 UC /32 routes 0 0 0 0 0 0 0.00% 80 UC /31 routes 0 0 0 0 0 0 0.00% 81 UC /30 routes 0 0 0 0 0 0 0.00% 82 UC /29 routes 0 0 0 0 0 0 0.00% 83 UC /28 routes 0 0 0 0 0 0 0.00% 84 UC /27 routes 0 0 0 0 0 0 0.00% 85 UC /26 routes 0 0 0 0 0 0 0.00% 86 UC /25 routes 0 0 0 0 0 0 0.00% 87 UC /24 routes 0 0 0 0 0 0 0.00% 88 UC /23 routes 0 0 0 0 0 0 0.00% 89 UC /22 routes 0 0 0 0 0 0 0.00% 90 UC /21 routes 0 0 0 0 0 0 0.00% 91 UC /20 routes 0 0 0 0 0 0 0.00% 92 UC /19 routes 0 0 0 0 0 0 0.00% 93 UC /18 routes 0 0 0 0 0 0 0.00% 94 UC /17 routes 0 0 0 0 0 0 0.00% 95 UC /16 routes 0 0 0 0 0 0 0.00% 96 UC /15 routes 0 0 0 0 0 0 0.00% 97 UC /14 routes 0 0 0 0 0 0 0.00% 98 UC /13 routes 0 0 0 0 0 0 0.00% 99 UC /12 routes 0 0 0 0 0 0 0.00% 100 UC /11 routes 0 0 0 0 0 0 0.00% 101 UC /10 routes 0 0 0 0 0 0 0.00% 102 UC /9 routes 0 0 0 0 0 0 0.00% 103 UC /8 routes 1 2039 2039 1 1 0 100.00% 104 UC short routes 0 2040 2047 8 8 0 100.00% 105 TCAM running in 144 bit mode. (16 routes per block) 1932 blocks used out of 2048 (94.33%) 30431 K2Fib TCAM entries used out of 32768 (92.86%) (592 entries are fixed overhead) 554 K2FibAdjs used out of 32768 (1.169%) 737 IrmFibEntries used out of 262144 (0.28%) 1 IrmMfibEntries used out of 65536 (0.00%) 565 IrmFibAdjs used out of 49152 (1.114%) K2FibAdj allocation failures: 0 K2FibEntry allocation failures: 0 K2FibRegion block reshuffles: 0 IrmFibAdj allocation failures: 0 Number of Entries using RpfFloodSet:0 VRF Vlans using software forwarding due to resource exhaustion: 0 Consistency Checker failures: reported: cam: 0 mask: 0 fte: 0 suppressed: cam: 0 mask: 0 fte: 0 Adjacency Information: --------- ------------ Special Unicast Flowcache Pbr Wccp Total --------- --------- --------- --------- --------- --------- Normal: 0 22770 0 0 0 22770 Glean: 0 1765 0 0 0 1765 Punt: 0 0 0 0 0 0 Drop: 0 139 0 0 0 139 Discard: 0 0 0 0 0 0 Receive: 0 5383 0 0 0 5383 Unresolved: 0 0 0 0 0 0 NoMacLen: 0 0 0 0 0 0 Zombie: 0 0 0 0 0 0 PbrPunt: 0 0 0 0 0 0 Load-balanced: 0 0 0 0 0 0 Non-Load-balanced: 0 30170 0 0 0 30170 Вставить ник Quote
passer Posted December 9, 2021 Posted December 9, 2021 Когда-то на свитче 4948-10GE я точно также встрял в занятый на 99% tcam при использовании pbr. Отличная причина была для переделки топологии сети. show platform hardware acl statistics utilization brief вам в помощь, там меньше букв пролистывать до искомых: 1932 blocks used out of 2048 (94.33%) 30431 K2Fib TCAM entries used out of 32768 (92.86%) Вставить ник Quote
nixx Posted December 9, 2021 Author Posted December 9, 2021 у меня нет pbr. и ацлек у меня нет. и в приведенной вами команде статистики занятости tcam'а тоже нет. Вставить ник Quote
nixx Posted December 10, 2021 Author Posted December 10, 2021 вопщем, сам спросил - сам и отвечу. избавился от vrf - 4% tcam'а занято. как оказалось (пичалька, однако), 4924 в принципе не может работать с vrf в более-менее серьезных масштабах, потому как VRF’s FIB size increases based on (# routes) x (# VLANs in the VRF) говорит нам Cisco Catalyst 4500 Switch Architecture. Вставить ник Quote
nixx Posted December 28, 2021 Author Posted December 28, 2021 допишу сюда, вдруг кому-то пригодится. внезапно оказалось, что 4924 косеют аж на 20-30% CPU при появлении в сети ethertype 0x8899 (RRCP, как говорит гугл) - из-за древних свитчей-мыльниц. причем поток таких фреймов достаточно мал, его даже потоком не назовешь. так, единичные пакеты в секунду. Вставить ник Quote
vipro Posted January 3, 2022 Posted January 3, 2022 А по asr1001x кто-ниюудь сталкивался с таким: IOSXE-4-PLATFORM: R0/0: kernel: ERROR: LPM Failed to insert into VLAN TCAM. IOSXE-4-PLATFORM: R0/0: kernel: ERROR: LPM Failed to set outer vlan 100 inner vlan 800 on port 1 ? Вставить ник Quote
zhenya` Posted January 6, 2022 Posted January 6, 2022 В 03.01.2022 в 07:16, vipro сказал: А по asr1001x кто-ниюудь сталкивался с таким: IOSXE-4-PLATFORM: R0/0: kernel: ERROR: LPM Failed to insert into VLAN TCAM. IOSXE-4-PLATFORM: R0/0: kernel: ERROR: LPM Failed to set outer vlan 100 inner vlan 800 on port 1 ? hw-module subslot .. ethernet vlan unlimited? Вставить ник Quote
vipro Posted January 6, 2022 Posted January 6, 2022 В 06.01.2022 в 16:15, zhenya` сказал: hw-module subslot .. ethernet vlan unlimited? Пробовал, пишет, что невозможно применить данную команду, хотя она и есть. А еще там какие-то проблемы с обработкой трафика могут быть после этой команды. На ASR1001 без "X" такого не требовалось делать. Вставить ник Quote
zhenya` Posted January 7, 2022 Posted January 7, 2022 8 часов назад, vipro сказал: Пробовал, пишет, что невозможно применить данную команду, хотя она и есть. А еще там какие-то проблемы с обработкой трафика могут быть после этой команды. На ASR1001 без "X" такого не требовалось делать. Счётчиков не будет, а так ок. Значит уменьшайте число вланов/ ренджи в случае qinq. что за ошибка то при применении? Вставить ник Quote
Recommended Posts
Join the conversation
You can post now and register later. If you have an account, sign in now to post with your account.