roma33rus Опубликовано 19 мая, 2020 · Жалоба Всем привет. Поставил на HP DL360 G6 debian 10, завел туда vlan. и на этом виртуальном интерфейсе идут странные дропы, причем на физическом интерфейсе и на порту со стороны коммутатора порты чисты: Скрытый текст ens1f0: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500 inet6 fe80::92e2:baff:fe1b:9114 prefixlen 64 scopeid 0x20<link> ether 90:e2:ba:1b:91:14 txqueuelen 10000 (Ethernet) RX packets 960705 bytes 111830032 (106.6 MiB) RX errors 0 dropped 0 overruns 0 frame 0 TX packets 34740 bytes 5727011 (5.4 MiB) TX errors 0 dropped 0 overruns 0 carrier 0 collisions 0 device memory 0xfbfe0000-fbffffff ens1f0.4: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500 inet 1.1.1.1 netmask 255.255.255.0 broadcast 1.1.1.255 inet6 fe80::92e2:baff:fe1b:9114 prefixlen 64 scopeid 0x20<link> ether 90:e2:ba:1b:91:14 txqueuelen 10000 (Ethernet) RX packets 959419 bytes 98314532 (93.7 MiB) RX errors 0 dropped 11139 overruns 0 frame 0 TX packets 33731 bytes 5671885 (5.4 MiB) TX errors 0 dropped 0 overruns 0 carrier 0 collisions 0 ethtool -S ens1f0 тоже чистый: Скрытый текст NIC statistics: rx_packets: 973720 tx_packets: 35724 rx_bytes: 120759858 tx_bytes: 6176447 rx_broadcast: 935912 tx_broadcast: 9 rx_multicast: 1673 tx_multicast: 68 multicast: 1673 collisions: 0 rx_crc_errors: 0 rx_no_buffer_count: 0 rx_missed_errors: 0 tx_aborted_errors: 0 tx_carrier_errors: 0 tx_window_errors: 0 tx_abort_late_coll: 0 tx_deferred_ok: 0 tx_single_coll_ok: 0 tx_multi_coll_ok: 0 tx_timeout_count: 0 rx_long_length_errors: 0 rx_short_length_errors: 0 rx_align_errors: 0 tx_tcp_seg_good: 0 tx_tcp_seg_failed: 0 rx_flow_control_xon: 0 rx_flow_control_xoff: 0 tx_flow_control_xon: 0 tx_flow_control_xoff: 0 rx_long_byte_count: 120759858 tx_dma_out_of_sync: 0 tx_smbus: 0 rx_smbus: 0 dropped_smbus: 0 os2bmc_rx_by_bmc: 0 os2bmc_tx_by_bmc: 0 os2bmc_tx_by_host: 0 os2bmc_rx_by_host: 0 tx_hwtstamp_timeouts: 0 tx_hwtstamp_skipped: 0 rx_hwtstamp_cleared: 0 rx_errors: 0 tx_errors: 0 tx_dropped: 0 rx_length_errors: 0 rx_over_errors: 0 rx_frame_errors: 0 rx_fifo_errors: 0 tx_fifo_errors: 0 tx_heartbeat_errors: 0 tx_queue_0_packets: 2773 tx_queue_0_bytes: 259564 tx_queue_0_restart: 0 tx_queue_1_packets: 4536 tx_queue_1_bytes: 403732 tx_queue_1_restart: 0 tx_queue_2_packets: 6511 tx_queue_2_bytes: 2669154 tx_queue_2_restart: 0 tx_queue_3_packets: 3207 tx_queue_3_bytes: 303544 tx_queue_3_restart: 0 tx_queue_4_packets: 4979 tx_queue_4_bytes: 947099 tx_queue_4_restart: 0 tx_queue_5_packets: 6113 tx_queue_5_bytes: 597629 tx_queue_5_restart: 0 tx_queue_6_packets: 2994 tx_queue_6_bytes: 275093 tx_queue_6_restart: 0 tx_queue_7_packets: 4611 tx_queue_7_bytes: 406066 tx_queue_7_restart: 0 rx_queue_0_packets: 441018 rx_queue_0_bytes: 27338079 rx_queue_0_drops: 0 rx_queue_0_csum_err: 0 rx_queue_0_alloc_failed: 0 rx_queue_1_packets: 4571 rx_queue_1_bytes: 805373 rx_queue_1_drops: 0 rx_queue_1_csum_err: 0 rx_queue_1_alloc_failed: 0 rx_queue_2_packets: 3102 rx_queue_2_bytes: 842645 rx_queue_2_drops: 0 rx_queue_2_csum_err: 0 rx_queue_2_alloc_failed: 0 rx_queue_3_packets: 171201 rx_queue_3_bytes: 26365213 rx_queue_3_drops: 0 rx_queue_3_csum_err: 0 rx_queue_3_alloc_failed: 0 rx_queue_4_packets: 6959 rx_queue_4_bytes: 3166158 rx_queue_4_drops: 0 rx_queue_4_csum_err: 0 rx_queue_4_alloc_failed: 0 rx_queue_5_packets: 171130 rx_queue_5_bytes: 26708756 rx_queue_5_drops: 0 rx_queue_5_csum_err: 0 rx_queue_5_alloc_failed: 0 rx_queue_6_packets: 169942 rx_queue_6_bytes: 27020495 rx_queue_6_drops: 0 rx_queue_6_csum_err: 0 rx_queue_6_alloc_failed: 0 rx_queue_7_packets: 5797 rx_queue_7_bytes: 725831 rx_queue_7_drops: 0 rx_queue_7_csum_err: 0 rx_queue_7_alloc_failed: 0 Как это понимать вообще? куда пакеты дропаться могут в таком случае? На серваке нагрузки никакой, сетевого обмена тоже никакого, просто сижу и по ssh его настраиваю. стоит вообще бить тревогу? Сетевая стоит Intel Corporation 82576 Gigabit Network Connection (rev 01), двухголовая. Переключался на встроенные сетевые, там те же самые дропы. Вставить ник Цитата Ответить с цитированием Поделиться сообщением Ссылка на сообщение Поделиться на других сайтах More sharing options...
jffulcrum Опубликовано 19 мая, 2020 · Жалоба Возьмите tcpdump да и посмотрите, что там прилетает из сети. Чаще всего у какого-то устройства в сети jumbo кадры были включены. Вставить ник Цитата Ответить с цитированием Поделиться сообщением Ссылка на сообщение Поделиться на других сайтах More sharing options...
roma33rus Опубликовано 20 мая, 2020 · Жалоба 20 часов назад, jffulcrum сказал: Возьмите tcpdump да и посмотрите, что там прилетает из сети. Чаще всего у какого-то устройства в сети jumbo кадры были включены. Смотрел tsharkом. Бывают прилетают icmpv6 и dhcpv6. Как там вообще распознать то, что будет дропаться системой? на других железках в этой сети дропов таких нет, отличие этих железок в том, что на других стоит centos 6, а здесь debian 10. Может что-то в сетевой подсистеме изменилось, так, что некоторые отброшенные пакеты, стали учитываться в дропах? Вставить ник Цитата Ответить с цитированием Поделиться сообщением Ссылка на сообщение Поделиться на других сайтах More sharing options...
jffulcrum Опубликовано 20 мая, 2020 · Жалоба Раз еthtool -S пустое, значит на L2 порядок. Ставьте что-то вроде https://github.com/nhorman/dropwatch (может в репе уже есть, в красношапочных есть) и смотрите, в какой очереди дропы прирастают Вставить ник Цитата Ответить с цитированием Поделиться сообщением Ссылка на сообщение Поделиться на других сайтах More sharing options...
roma33rus Опубликовано 21 мая, 2020 · Жалоба Вот так dropwatch отработал: dropwatch> start Enabling monitoring... Kernel monitoring activated. Issue Ctrl-C to stop monitoring 1 drops at location 0xffffffffb2a30f07 [software] 1 drops at location 0xffffffffb29e3801 [software] 1 drops at location 0xffffffffb2a30f07 [software] 1 drops at location 0xffffffffb29e3801 [software] 1 drops at location 0xffffffffb2a30f07 [software] 1 drops at location 0xffffffffb2a30f07 [software] 1 drops at location 0xffffffffb2a30f07 [software] 1 drops at location 0xffffffffb29e3801 [software] 1 drops at location 0xffffffffb2a30f07 [software] 1 drops at location 0xffffffffb2a30f07 [software] 2 drops at location 0xffffffffb2a30f07 [software] 1 drops at location 0xffffffffb29e3801 [software] 1 drops at location 0xffffffffb2a30f07 [software] 1 drops at location 0xffffffffb2a30f07 [software] 1 drops at location 0xffffffffb29e3801 [software] ^CGot a stop message dropwatch> exit Shutting down ... как понять из этого кто пакеты дропает? Вставить ник Цитата Ответить с цитированием Поделиться сообщением Ссылка на сообщение Поделиться на других сайтах More sharing options...
jffulcrum Опубликовано 21 мая, 2020 · Жалоба 2 часа назад, roma33rus сказал: 1 drops at location 0xffffffffb2a30f07 [software] Такое вижу впервые...уж не поломали ли вас? Попробуйте захватить эти дропнутые пакеты и посмотреть, что в них, методика захвата в https://github.com/Mellanox/mlxsw/wiki/Packet-Drops-Monitoring#packet-dissection-using-wireshark Вставить ник Цитата Ответить с цитированием Поделиться сообщением Ссылка на сообщение Поделиться на других сайтах More sharing options...
roma33rus Опубликовано 21 мая, 2020 · Жалоба Какая-то у меня прям неудача с железкой. rsync не копирует большие файлы, при этом винты отваливаются. в инете вычитал, что это проблема с драйверами контроллера hp smart array. Сейчас решил free поставить. Сервак быстрее надо привести в рабочее состояние. Времени на эксперименты нет к сожалению. P.S.: dwdump попробовал по быстрому. Не взлетело. Утилита собралась скорее всего без чего-то нужного. Вставить ник Цитата Ответить с цитированием Поделиться сообщением Ссылка на сообщение Поделиться на других сайтах More sharing options...
hsvt Опубликовано 25 мая, 2020 · Жалоба А мне тоже интересно стало, есть CentOS7, на интерфейс em2 летит зеркало трафика с коммутатора с двух VLAN. em2: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500 ether X:X:X:X:X:X txqueuelen 10000 (Ethernet) RX packets 894616 bytes 1025401074 (977.8 MiB) RX errors 0 dropped 202700 overruns 0 frame 0 TX packets 2 bytes 92 (92.0 B) TX errors 0 dropped 0 overruns 0 carrier 0 collisions 0 и в ethtool -S тоже по нулям. dropwatch Initalizing null lookup method dropwatch> start Enabling monitoring... Kernel monitoring activated. Issue Ctrl-C to stop monitoring 2 drops at location 0xffffffff815d3521 1 drops at location 0xffffffff815c2d40 1 drops at location 0xffffffff815d3521 1 drops at location 0xffffffff815c2d40 1 drops at location 0xffffffff81593858 2 drops at location 0xffffffff815d3521 1 drops at location 0xffffffff815c2d40 1 drops at location 0xffffffff81593858 1 drops at location 0xffffffff81593858 2 drops at location 0xffffffff8160d6e9 2 drops at location 0xffffffff8160d6e9 2 drops at location 0xffffffff815c2d40 1 drops at location 0xffffffff815c2d40 1 drops at location 0xffffffff81593858 2 drops at location 0xffffffff815d3521 1 drops at location 0xffffffff81593858 1 drops at location 0xffffffff81593858 1 drops at location 0xffffffff815c2d40 3 drops at location 0xffffffff815d3521 2 drops at location 0xffffffff815d3521 После недолгих запусков tcpdump 382 packets received by filter 0 packets dropped by kernel44 packets dropped by interface em2: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500 ether X:X:X:X:X:X txqueuelen 10000 (Ethernet) RX packets 898386 bytes 1027319612 (979.7 MiB) RX errors 0 dropped 203942 overruns 0 frame 0 TX packets 2 bytes 92 (92.0 B) TX errors 0 dropped 0 overruns 0 carrier 0 collisions 0 Дропы растут именно после запусков tcpdump, при этом FC выключен с обоих сторон.. Вставить ник Цитата Ответить с цитированием Поделиться сообщением Ссылка на сообщение Поделиться на других сайтах More sharing options...
roma33rus Опубликовано 26 мая, 2020 · Жалоба Может что-то с работой вланов связано. интересное поведение в общем Вставить ник Цитата Ответить с цитированием Поделиться сообщением Ссылка на сообщение Поделиться на других сайтах More sharing options...
roma33rus Опубликовано 1 июня, 2020 · Жалоба В 25.05.2020 в 16:44, hsvt сказал: А мне тоже интересно стало, есть CentOS7, на интерфейс em2 летит зеркало трафика с коммутатора с двух VLAN. em2: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500 ether X:X:X:X:X:X txqueuelen 10000 (Ethernet) RX packets 894616 bytes 1025401074 (977.8 MiB) RX errors 0 dropped 202700 overruns 0 frame 0 TX packets 2 bytes 92 (92.0 B) TX errors 0 dropped 0 overruns 0 carrier 0 collisions 0 и в ethtool -S тоже по нулям. dropwatch Initalizing null lookup method dropwatch> start Enabling monitoring... Kernel monitoring activated. Issue Ctrl-C to stop monitoring 2 drops at location 0xffffffff815d3521 1 drops at location 0xffffffff815c2d40 1 drops at location 0xffffffff815d3521 1 drops at location 0xffffffff815c2d40 1 drops at location 0xffffffff81593858 2 drops at location 0xffffffff815d3521 1 drops at location 0xffffffff815c2d40 1 drops at location 0xffffffff81593858 1 drops at location 0xffffffff81593858 2 drops at location 0xffffffff8160d6e9 2 drops at location 0xffffffff8160d6e9 2 drops at location 0xffffffff815c2d40 1 drops at location 0xffffffff815c2d40 1 drops at location 0xffffffff81593858 2 drops at location 0xffffffff815d3521 1 drops at location 0xffffffff81593858 1 drops at location 0xffffffff81593858 1 drops at location 0xffffffff815c2d40 3 drops at location 0xffffffff815d3521 2 drops at location 0xffffffff815d3521 После недолгих запусков tcpdump 382 packets received by filter 0 packets dropped by kernel44 packets dropped by interface em2: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500 ether X:X:X:X:X:X txqueuelen 10000 (Ethernet) RX packets 898386 bytes 1027319612 (979.7 MiB) RX errors 0 dropped 203942 overruns 0 frame 0 TX packets 2 bytes 92 (92.0 B) TX errors 0 dropped 0 overruns 0 carrier 0 collisions 0 Дропы растут именно после запусков tcpdump, при этом FC выключен с обоих сторон.. Вам удалось как-то победить такую проблему? Вставить ник Цитата Ответить с цитированием Поделиться сообщением Ссылка на сообщение Поделиться на других сайтах More sharing options...
hsvt Опубликовано 1 июня, 2020 · Жалоба 3 часа назад, roma33rus сказал: Вам удалось как-то победить такую проблему? Да, в моём случае на em2 летели кадры с VLAN который сервер не ждал и видимо срабатывал какой то ingress checking. Создал интерфейс в том VLAN который в тесте зеркалирую и всё в порядке стало. tcpdump: listening on em2.777, link-type EN10MB (Ethernet), capture size 262144 bytes ^C2938 packets captured 2938 packets received by filter0 packets dropped by kernel Вставить ник Цитата Ответить с цитированием Поделиться сообщением Ссылка на сообщение Поделиться на других сайтах More sharing options...
