sanyasi

Кто-то справился с задачей выдать список маршрутов (full view) по SNMP? В документации на frr так и написано, что "Маршрутизаторы с большим количеством маршрутов (например, полная таблица BGP) могут время от времени испытывать проблемы с зависанием vtysh, 100% CPU на snmpd или даже сбоями демона(ов) frr из-за зависаний в AgentX. Как только агенты snmp подключаются, они начинают получать большое количество данных SNMP (все маршруты), которые не могут быть обработаны достаточно быстро." https://docs.frrouting.org/en/latest/snmp.html#getting-and-installing-an-snmp-agent Может как-то кэшировать записи и отдавать другим способом, не через AgentX?

Может кому будет полезным. При экспорте на два адреса (себе и на съемник), наблюдались потери трафика на одном из сокетов. На втором, думаю. Решилось отключением второго экспортёра нетфлоу и копированием трафика на съемник, без изменения заголовков. Они им там не нужны. -A OUTPUT -d 1.1.1.1 -p udp --dport 9996 -j TEE --gateway 2.2.2.2 Где 1.1.1.1 мой коллектор, 2.2.2.2 — не мой :) Версия git b049e91on Jan 18

66 81 5 14 11 Снял iproute правила. Загрузка снизилась. Но не до тех значений, как у 4.15 ядра.

Засунули. Но смена на legacy не уменьшает загрузку. Да и fib_rules_lookup, fib_table_lookup — к iproute2 относятся. И именно эта система грузит процессор.

Да, всё сохранилось, как и было. PBR, похоже, сломали в новом ядре. Вот теперь интересно как в ядре debian 11. Пока поддержка ubuntu 18.04 есть, можно и откатиться. Просто на долго этого не хватит.

82599ES performance 8 ядер. i7-9700K, прерывания разбросаны также, как и в 18.04. Настройки все сохранились. Поменялись только ядро, и соответственно iproute2 iptables. Драйвер дистрибутивный в обоих случаях.

Никто не сталкивался с таким: обновил ubuntu 18.04 до 22.04. Ядро 14.15 до 5.15 с резким увеличением загрузки на процессор. Трафик до 7 гигов, работаeт pbr. Оно же и грузит процессор. Неужели такая деградация на ровном месте? 13,00% [kernel] [k] fib_rules_lookup 5,39% [kernel] [k] hash_net4_test_cidrs 4,36% [kernel] [k] fib_table_lookup 3,23% [kernel] [k] fib4_rule_match 3,12% [kernel] [k] nft_do_chain 2,40% [kernel] [k] _raw_spin_lock 1,41% [kernel] [k] ixgbe_clean_tx_irq 1,33% [kernel] [k] __dev_queue_xmit

2022-11-21 01:23:31 fstrim[669683]: /boot/efi: 502.4 MiB (526753792 bytes) trimmed on /dev/disk/by-uuid/F 2022-11-21 01:23:31 fstrim[669683]: /: 221.5 GiB (237825269760 bytes) trimmed on /dev/disk/by-uuid/af 2022-11-21 01:23:31 systemd[1]: fstrim.service: Deactivated successfully. 2022-11-21 01:23:31 systemd[1]: Finished Discard unused blocks on filesystems from /etc/fstab. 2022-11-21 01:23:31 kernel:[551633.449924] ipt_NETFLOW: natevents already disabled. Похоже, что дисковая активность как-то дергает ipt_NETFLOW.

Вот еще странное после обновления на 5.15 ядро. Там что-то переделали как в ядре, так и в ipt_NETFLOW по поводу nat трансляций: Nov 17 09:35:44 nas kernel: [90222.292436] ipt_NETFLOW: natevents already disabled. Nov 18 02:47:33 nas kernel: [152131.610011] ipt_NETFLOW: natevents already disabled. Nov 19 04:36:43 nas kernel: [245081.347848] ipt_NETFLOW: natevents already disabled. Пока полностью сохранность всех nat сессий в нетфлоу не проверил, но есть пропуски. Причем, не только в nat трансляциях, но и в данных по трафику в v9. ipt_NETFLOW 2.6, srcversion 5ADB82C68DDC8702D2DC6AE; llist nel Protocol version 9 (netflow), refresh-rate 20, timeout-rate 30, (templates 8, active 8). Timeouts: active 300s, inactive 15s. Maxflows 2000000 Natevents enabled, count start 376833198, stop 376709087. Flows: active 90995 (peak 166399 reached 1d13h46m ago), mem 19337K, worker delay 1/250 [1..25] (4 ms, 0 us, 296:0 1 [cpu2]). Hash: size 655360 (mem 5120K), metric 1.09 [1.05, 1.00, 1.00]. InHash: 45194226 pkt, 44087306 K, InPDU 57, 7040. Rate: 4110016356 bits/sec, 528850 packets/sec; Avg 1 min: 4002725667 bps, 511619 pps; 5 min: 3938182797 bps, 501906 pps cpu# pps; <search found new [metric], trunc frag alloc maxflows>, traffic: <pkt, bytes>, drop: <pkt, bytes> Total 528848; 13007076146 125206488126 1113689444 [78.88], 0 0 0 0, traffic: 126320177570, 115120753 MB, drop: 0, 0 K cpu0 93799; 2250082842 21603383069 191332615 [1.05], 0 0 0 0, traffic: 21794715684, 19809514 MB, drop: 0, 0 K cpu1 79647; 2241730454 21571386162 191974628 [1.03], 0 0 0 0, traffic: 21763360790, 19764019 MB, drop: 0, 0 K cpu2 94887; 2114437035 20540645579 180678225 [1.07], 0 0 0 0, traffic: 20721323804, 18967542 MB, drop: 0, 0 K cpu3 84775; 2147643481 20789567715 180329874 [1.05], 0 0 0 0, traffic: 20969897589, 19176022 MB, drop: 0, 0 K cpu4 88878; 2124267566 20439057273 185251417 [1.04], 0 0 0 0, traffic: 20624308690, 18858125 MB, drop: 0, 0 K cpu5 86862; 2128914768 20262448332 184122685 [1.05], 0 0 0 0, traffic: 20446571017, 18545528 MB, drop: 0, 0 K Export: Rate 629506 bytes/s; Total 107873488 pkts, 144291 MB, 1867247088 flows; Errors 0 pkts; Traffic lost 0 pkts, 0 Kbytes, 0 flows. sock0: 192....:9996, sndbuf 3145728, filled 1, peak 211969; err: sndbuf reached 0, connect 0, cberr 0, other 0 sock1: 192....:9996, sndbuf 3145728, filled 1, peak 211969; err: sndbuf reached 0, connect 0, cberr 0, other 0 PS. Каждый раз сообщение было одновременно с этим. Вот это подземный стук, я понимаю. Nov 17 09:35:44 nas systemd[1]: plocate-updatedb.service: Deactivated successfully. Nov 17 09:35:44 nas systemd[1]: Finished Update the plocate database. Nov 17 09:35:44 nas kernel: [90222.292436] ipt_NETFLOW: natevents already disabled.

Спасибо! Работает!

Ubuntu 22.04 5.15.0-52-generic Компилируется, но что-то идёт не так. ./configure --disable-snmp-agent --enable-natevents --disable-dkms --ipt-lib=/usr/lib/x86_64-linux-gnu/xtables ipt_NETFLOW 2.6, srcversion D591EC4E9D437B9AA55C498; llist nel Protocol version 9 (netflow), refresh-rate 20, timeout-rate 30, (templates 7, active 7). Timeouts: active 300s, inactive 15s. Maxflows 2000000 Natevents enabled, count start 85508, stop 82498. Flows: active 544 (peak 5811 reached 0d0h11m ago), mem 5205K, worker delay 25/250 [1..25] (36 ms, 0 us, 222:0 0 [cpu2]). Hash: size 655360 (mem 5120K), metric 1.00 [1.00, 1.00, 1.00]. InHash: 3126 pkt, 330 K, InPDU 110, 9727. Rate: 109712 bits/sec, 113 packets/sec; Avg 1 min: 331455 bps, 123 pps; 5 min: 124177251 bps, 11440 pps cpu# pps; <search found new [metric], trunc frag alloc maxflows>, traffic: <pkt, bytes>, drop: <pkt, bytes> Total 110; 100059 24133332 121675 [1.00], 0 0 0 0, traffic: 24255007, 31772 MB, drop: 0, 0 K cpu0 19; 15719 2309574 15359 [1.00], 0 0 0 0, traffic: 2324933, 2822 MB, drop: 0, 0 K cpu1 10; 44368 3881864 15442 [1.00], 0 0 0 0, traffic: 3897306, 5279 MB, drop: 0, 0 K cpu2 10; 322 4271910 15429 [1.00], 0 0 0 0, traffic: 4287339, 5669 MB, drop: 0, 0 K cpu3 18; 17070 2642426 15045 [1.00], 0 0 0 0, traffic: 2657471, 3545 MB, drop: 0, 0 K cpu4 9; 8268 2454532 15330 [1.00], 0 0 0 0, traffic: 2469862, 3111 MB, drop: 0, 0 K cpu5 16; 9344 2862800 14976 [1.00], 0 0 0 0, traffic: 2877776, 3676 MB, drop: 0, 0 K cpu6 14; 309 2903448 15169 [1.00], 0 0 0 0, traffic: 2918617, 3877 MB, drop: 0, 0 K cpu7 14; 4659 2806778 14925 [1.00], 0 0 0 0, traffic: 2821703, 3790 MB, drop: 0, 0 K Export: Rate 2108 bytes/s; Total 16590 pkts, 21 MB, 289127 flows; Errors 0 pkts; Traffic lost 0 pkts, 0 Kby sock0: 192.168.1.1:9996, sndbuf 3145728, filled 1, peak 32257; err: sndbuf reached 0, connect 0, cberr 0, other 0 2022-11-11 12:18:17 kernel:[ 7177.814466] ================================================================================ 2022-11-11 12:18:17 kernel:[ 7177.814471] UBSAN: shift-out-of-bounds in /usr/src/ipt-netflow/ipt_NETFLOW.c:4857:13 2022-11-11 12:18:17 kernel:[ 7177.814473] shift exponent 32 is too large for 32-bit type 'int' 2022-11-11 12:18:17 kernel:[ 7177.814476] CPU: 4 PID: 0 Comm: swapper/4 Tainted: G OE 5.15.0-52-generic #58-Ubuntu 2022-11-11 12:18:17 kernel:[ 7177.814466] ================================================================================ 2022-11-11 12:18:17 kernel:[ 7177.814471] UBSAN: shift-out-of-bounds in /usr/src/ipt-netflow/ipt_NETFLOW.c:4857:13 2022-11-11 12:18:17 kernel:[ 7177.814473] shift exponent 32 is too large for 32-bit type 'int' 2022-11-11 12:18:17 kernel:[ 7177.814476] CPU: 4 PID: 0 Comm: swapper/4 Tainted: G OE 5.15.0-52-generic #58-Ubuntu 2022-11-11 12:18:17 kernel:[ 7177.814477] Hardware name: Gigabyte Technology Co., Ltd. B560 HD3/B560 HD3, BIOS F10 11/03/2021 2022-11-11 12:18:17 kernel:[ 7177.814478] Call Trace: 2022-11-11 12:18:17 kernel:[ 7177.814479] <IRQ> 2022-11-11 12:18:17 kernel:[ 7177.814481] show_stack+0x52/0x5c 2022-11-11 12:18:17 kernel:[ 7177.814484] dump_stack_lvl+0x4a/0x63 2022-11-11 12:18:17 kernel:[ 7177.814487] dump_stack+0x10/0x16 2022-11-11 12:18:17 kernel:[ 7177.814488] ubsan_epilogue+0x9/0x49 2022-11-11 12:18:17 kernel:[ 7177.814489] __ubsan_handle_shift_out_of_bounds.cold+0x61/0xef 2022-11-11 12:18:17 kernel:[ 7177.814491] ? alloc_skb_with_frags+0x4e/0x1e0 2022-11-11 12:18:17 kernel:[ 7177.814493] ? ip_route_input_slow+0x807/0xa10 2022-11-11 12:18:17 kernel:[ 7177.814496] ? hash_ip4_test+0x136/0x160 [ip_set_hash_ip] 2022-11-11 12:18:17 kernel:[ 7177.814499] netflow_target.cold+0x30/0x3e [ipt_NETFLOW] 2022-11-11 12:18:17 kernel:[ 7177.814502] ? hash_ip4_kadt+0xc8/0x120 [ip_set_hash_ip] 2022-11-11 12:18:17 kernel:[ 7177.814504] ? ratelimit_mt+0x152/0x3f0 [xt_ratelimit] 2022-11-11 12:18:17 kernel:[ 7177.814507] nft_target_eval_xt+0x5e/0xa0 [nft_compat] 2022-11-11 12:18:17 kernel:[ 7177.814509] nft_do_chain+0x169/0x600 [nf_tables] 2022-11-11 12:18:17 kernel:[ 7177.814513] ? icmp_push_reply+0xeb/0x130 2022-11-11 12:18:17 kernel:[ 7177.814516] nft_do_chain_ipv4+0x65/0x80 [nf_tables] 2022-11-11 12:18:17 kernel:[ 7177.814521] nf_hook_slow+0x41/0xc0 2022-11-11 12:18:17 kernel:[ 7177.814522] ip_forward+0x4dc/0x550 2022-11-11 12:18:17 kernel:[ 7177.814524] ? ipv4_mtu+0x52/0xa0 2022-11-11 12:18:17 kernel:[ 7177.814525] ? ip_expire+0x1a0/0x1a0 2022-11-11 12:18:17 kernel:[ 7177.814526] ip_sublist_rcv_finish+0x6f/0x80 2022-11-11 12:18:17 kernel:[ 7177.814528] ip_sublist_rcv+0x17c/0x200 2022-11-11 12:18:17 kernel:[ 7177.814529] ? ip_sublist_rcv+0x200/0x200 2022-11-11 12:18:17 kernel:[ 7177.814531] ip_list_rcv+0xf9/0x120 2022-11-11 12:18:17 kernel:[ 7177.814532] __netif_receive_skb_list_core+0x218/0x240 2022-11-11 12:18:17 kernel:[ 7177.814534] netif_receive_skb_list_internal+0x18e/0x2a0 2022-11-11 12:18:17 kernel:[ 7177.814536] napi_complete_done+0x7a/0x1c0 2022-11-11 12:18:17 kernel:[ 7177.814537] ixgbe_poll+0x124/0x260 [ixgbe] 2022-11-11 12:18:17 kernel:[ 7177.814544] __napi_poll+0x30/0x190 2022-11-11 12:18:17 kernel:[ 7177.814545] net_rx_action+0x126/0x280 2022-11-11 12:18:17 kernel:[ 7177.814546] __do_softirq+0xd6/0x2e7 2022-11-11 12:18:17 kernel:[ 7177.814548] irq_exit_rcu+0x94/0xc0 2022-11-11 12:18:17 kernel:[ 7177.814550] common_interrupt+0x8e/0xa0 2022-11-11 12:18:17 kernel:[ 7177.814553] </IRQ> 2022-11-11 12:18:17 kernel:[ 7177.814553] <TASK> 2022-11-11 12:18:17 kernel:[ 7177.814554] asm_common_interrupt+0x26/0x40 2022-11-11 12:18:17 kernel:[ 7177.814556] RIP: 0010:cpu_idle_poll.isra.0+0x33/0xd0 2022-11-11 12:18:17 kernel:[ 7177.814558] Code: 53 65 8b 15 37 c7 a6 56 66 90 e8 f8 01 3b ff fb 66 0f 1f 44 00 00 65 48 8b 1c 25 c0 fb 01 00 48 8b 03 a8 08 74 0b eb 1c f3 90 <48> 8b 03 a8 08 75 13 8b 05 70 c8 48 01 85 c0 75 ed e8 17 a1 3d ff 2022-11-11 12:18:17 kernel:[ 7177.814559] RSP: 0018:ffffb588c0163ed8 EFLAGS: 00000202 2022-11-11 12:18:17 kernel:[ 7177.814560] RAX: 0000000000000001 RBX: ffff97e500826000 RCX: 0000000000000000 2022-11-11 12:18:17 kernel:[ 7177.814561] RDX: 000000000040a4bd RSI: 0000000000000000 RDI: 000000000040a4be 2022-11-11 12:18:17 kernel:[ 7177.814562] RBP: ffffb588c0163ee0 R08: 0000068736dcfe1a R09: 0000000000000000 2022-11-11 12:18:17 kernel:[ 7177.814562] R10: 0000000000000000 R11: 0000000000000000 R12: ffff97e500826000 2022-11-11 12:18:17 kernel:[ 7177.814563] R13: 0000000000000000 R14: 0000000000000000 R15: 0000000000000000 2022-11-11 12:18:17 kernel:[ 7177.814564] ? cpu_idle_poll.isra.0+0x18/0xd0 2022-11-11 12:18:17 kernel:[ 7177.814565] do_idle+0x45/0xf0 2022-11-11 12:18:17 kernel:[ 7177.814567] cpu_startup_entry+0x20/0x30 2022-11-11 12:18:17 kernel:[ 7177.814568] start_secondary+0x12a/0x180 2022-11-11 12:18:17 kernel:[ 7177.814570] secondary_startup_64_no_verify+0xc2/0xcb 2022-11-11 12:18:17 kernel:[ 7177.814572] </TASK> 2022-11-11 12:18:17 kernel:[ 7177.814572] ================================================================================ 2022-11-11 12:18:17 kernel:[ 7177.814477] Hardware name: Gigabyte Technology Co., Ltd. B560 HD3/B560 HD3, BIOS F10 11/03/2021 2022-11-11 12:18:17 kernel:[ 7177.814478] Call Trace: 2022-11-11 12:18:17 kernel:[ 7177.814479] <IRQ> 2022-11-11 12:18:17 kernel:[ 7177.814481] show_stack+0x52/0x5c 2022-11-11 12:18:17 kernel:[ 7177.814484] dump_stack_lvl+0x4a/0x63 2022-11-11 12:18:17 kernel:[ 7177.814487] dump_stack+0x10/0x16 2022-11-11 12:18:17 kernel:[ 7177.814488] ubsan_epilogue+0x9/0x49 2022-11-11 12:18:17 kernel:[ 7177.814489] __ubsan_handle_shift_out_of_bounds.cold+0x61/0xef 2022-11-11 12:18:17 kernel:[ 7177.814491] ? alloc_skb_with_frags+0x4e/0x1e0 2022-11-11 12:18:17 kernel:[ 7177.814493] ? ip_route_input_slow+0x807/0xa10 2022-11-11 12:18:17 kernel:[ 7177.814496] ? hash_ip4_test+0x136/0x160 [ip_set_hash_ip] 2022-11-11 12:18:17 kernel:[ 7177.814499] netflow_target.cold+0x30/0x3e [ipt_NETFLOW] 2022-11-11 12:18:17 kernel:[ 7177.814502] ? hash_ip4_kadt+0xc8/0x120 [ip_set_hash_ip] 2022-11-11 12:18:17 kernel:[ 7177.814504] ? ratelimit_mt+0x152/0x3f0 [xt_ratelimit] 2022-11-11 12:18:17 kernel:[ 7177.814507] nft_target_eval_xt+0x5e/0xa0 [nft_compat] 2022-11-11 12:18:17 kernel:[ 7177.814509] nft_do_chain+0x169/0x600 [nf_tables] 2022-11-11 12:18:17 kernel:[ 7177.814513] ? icmp_push_reply+0xeb/0x130 2022-11-11 12:18:17 kernel:[ 7177.814516] nft_do_chain_ipv4+0x65/0x80 [nf_tables] 2022-11-11 12:18:17 kernel:[ 7177.814521] nf_hook_slow+0x41/0xc0 2022-11-11 12:18:17 kernel:[ 7177.814522] ip_forward+0x4dc/0x550 2022-11-11 12:18:17 kernel:[ 7177.814524] ? ipv4_mtu+0x52/0xa0 2022-11-11 12:18:17 kernel:[ 7177.814525] ? ip_expire+0x1a0/0x1a0 2022-11-11 12:18:17 kernel:[ 7177.814526] ip_sublist_rcv_finish+0x6f/0x80 2022-11-11 12:18:17 kernel:[ 7177.814528] ip_sublist_rcv+0x17c/0x200 2022-11-11 12:18:17 kernel:[ 7177.814529] ? ip_sublist_rcv+0x200/0x200 2022-11-11 12:18:17 kernel:[ 7177.814531] ip_list_rcv+0xf9/0x120 2022-11-11 12:18:17 kernel:[ 7177.814532] __netif_receive_skb_list_core+0x218/0x240 2022-11-11 12:18:17 kernel:[ 7177.814534] netif_receive_skb_list_internal+0x18e/0x2a0 2022-11-11 12:18:17 kernel:[ 7177.814536] napi_complete_done+0x7a/0x1c0 2022-11-11 12:18:17 kernel:[ 7177.814537] ixgbe_poll+0x124/0x260 [ixgbe] 2022-11-11 12:18:17 kernel:[ 7177.814544] __napi_poll+0x30/0x190 2022-11-11 12:18:17 kernel:[ 7177.814545] net_rx_action+0x126/0x280 2022-11-11 12:18:17 kernel:[ 7177.814546] __do_softirq+0xd6/0x2e7 2022-11-11 12:18:17 kernel:[ 7177.814548] irq_exit_rcu+0x94/0xc0 2022-11-11 12:18:17 kernel:[ 7177.814550] common_interrupt+0x8e/0xa0 2022-11-11 12:18:17 kernel:[ 7177.814553] </IRQ> 2022-11-11 12:18:17 kernel:[ 7177.814553] <TASK> 2022-11-11 12:18:17 kernel:[ 7177.814554] asm_common_interrupt+0x26/0x40 2022-11-11 12:18:17 kernel:[ 7177.814556] RIP: 0010:cpu_idle_poll.isra.0+0x33/0xd0 2022-11-11 12:18:17 kernel:[ 7177.814558] Code: 53 65 8b 15 37 c7 a6 56 66 90 e8 f8 01 3b ff fb 66 0f 1f 44 00 00 65 48 8b 1c 25 c0 fb 01 00 48 8b 03 a8 08 74 0b eb 1c f3 90 <48> 8b 03 a8 08 75 13 8b 05 70 c8 48 01 85 c0 75 ed e8 17 a1 3d ff 2022-11-11 12:18:17 kernel:[ 7177.814559] RSP: 0018:ffffb588c0163ed8 EFLAGS: 00000202 2022-11-11 12:18:17 kernel:[ 7177.814560] RAX: 0000000000000001 RBX: ffff97e500826000 RCX: 0000000000000000 2022-11-11 12:18:17 kernel:[ 7177.814561] RDX: 000000000040a4bd RSI: 0000000000000000 RDI: 000000000040a4be 2022-11-11 12:18:17 kernel:[ 7177.814562] RBP: ffffb588c0163ee0 R08: 0000068736dcfe1a R09: 0000000000000000 2022-11-11 12:18:17 kernel:[ 7177.814562] R10: 0000000000000000 R11: 0000000000000000 R12: ffff97e500826000 2022-11-11 12:18:17 kernel:[ 7177.814563] R13: 0000000000000000 R14: 0000000000000000 R15: 0000000000000000 2022-11-11 12:18:17 kernel:[ 7177.814564] ? cpu_idle_poll.isra.0+0x18/0xd0 2022-11-11 12:18:17 kernel:[ 7177.814565] do_idle+0x45/0xf0 2022-11-11 12:18:17 kernel:[ 7177.814567] cpu_startup_entry+0x20/0x30 2022-11-11 12:18:17 kernel:[ 7177.814568] start_secondary+0x12a/0x180 2022-11-11 12:18:17 kernel:[ 7177.814570] secondary_startup_64_no_verify+0xc2/0xcb 2022-11-11 12:18:17 kernel:[ 7177.814572] </TASK> 2022-11-11 12:18:17 kernel:[ 7177.814572] ================================================================================

Добрый день! Удалось разобраться с неправильным форматом?

https://bugs.launchpad.net/ubuntu/+source/iptables-netflow/+bug/1960164 На ядре с ubuntu 22.04 5.15.0-33 не собирается. В самой убунте сделали патч.

решено: neighbor 1.2.3.4 route-map NEXTHOP in route-map NEXTHOP permit 10 set ip next-hop 3.3.3.3 !

Транзитная сеть на ядре отправляется в null0, в таком виде и приходит как маршрут на BGP сервер по ospf. Прямого линка между кваггой этой автономки нет, она за маршрутизаторами. При удалении перенаправления в null0 на ядре, полученная по bgp сеть не добавляется в таблицу маршрутизации, %Network not in table. По всей видимости, ebgp как-то не работает.