Pedalik Posted January 21, 2015 · Report post Всем привет! Прошу вашей помощи в понимании некоторых механизмов работы QOS на коммутаторах Cisco. Схему прилагаю. Есть сеть, в ядре которой стоят Cisco 3750 и Cisco 3550. Подключены между собой через Etherchannel из трех гигабитных портов. (Самое узкое место). Со всех сторон в них подключены коммутаторы преимущественно Длинки, но это не важно. В один из портов 3750 прилетает около 300 мбит IPTV в виде мультикаста. Задача: Установить IPTV трафику абсолютный приоритет на выходе с коммутатора. С классификацией трафика разобрался без проблем. По IP адресам задаю DSCP = af41, по умолчанию мапится в COS = 4. Пакеты на доступ прилетают с измененной меткой, длинки ей верят, и обрабатывают согласно настройкам по умолчанию очередь, в которую попадает IPTV Траффик с абсолютным приоритетом. Проверял на 10 Мбитном порту с включенным торрентом, согласно iptvanalyzer ни один пакетик не потерялся. Проблемы начинаются ближе к вечеру, когда загрузка на портах, входящих в etherchannel приближается к 70%. В статистике порта interface Po1 "Total output drops" растут с огромной скоростью, кртинка кубит и рассыпается. Выключаю mls qos, ситуация значительно улучшается, но от всплесков трафика никуда не деться.. Пытался курить и официальные документы от Cisco, и it-admin.org, везде красиво расписано как распределять в процентных соотношениях память между очередями, шейпить траффик, соотнести cos и dscp с очередями, изменять значения Threshold. Но как это всё соотнести с реальными ситуациями - я никак не пойму. Есть простая задача: Не обрабатывать никакие другие пакеты, пока пакеты с COS=4 есть в очереди. Подскажите у кого есть опыт как это реализовать, или хотя бы направьте мои мылси в нужное русло :) И ещё вопрос: Есть ли какие-то особенности работы QOS с etherchannel? Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
Telesis Posted January 21, 2015 · Report post В основном проблемы с очередями и buffers. Смотри куда попадают пакеты мультикаста. Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
rus-p Posted January 21, 2015 · Report post Output drops при трафике >= 200-300 мбит это стандартная грабля на 3750 с берстом. Никакими трешхолдами и буферами не лечится. Причина в малом буфере на чипе. Если из мануала все сделано - http://www.cisco.com/c/en/us/support/docs/switches/catalyst-3750-series-switches/116089-technote-switches-output-drops-qos-00.html, а дропы идут, то только замена на, например, 4948. Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
Butch3r Posted January 21, 2015 · Report post Четвертый порт добавляйте в po Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
tartila Posted January 21, 2015 · Report post А еще лучше мультик не гонять в po... Ибо все равно flooding port есть. Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
s.lobanov Posted January 21, 2015 · Report post А еще лучше мультик не гонять в po... Ибо все равно flooding port есть. flooding port и мультикаст не связанные вещи, когда выстроены l2/l3 multicast forwarding таблицы Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
s.lobanov Posted January 21, 2015 · Report post Output drops при трафике >= 200-300 мбит это стандартная грабля на 3750 с берстом. Никакими трешхолдами и буферами не лечится. Причина в малом буфере на чипе. Если из мануала все сделано - http://www.cisco.com/c/en/us/support/docs/switches/catalyst-3750-series-switches/116089-technote-switches-output-drops-qos-00.html, а дропы идут, то только замена на, например, 4948. Ну почему-же не лечатся. Выкручивание буферов и порогов помогает на трафике ~200 мбит/с, сам лично выкручивал на подобном трафике, помогало. Ну и вообще это(помогает или не помогает) зависит от мбит/с, а от бёрстов, т.е. насколько кривые у вас мультикаст-источники (например vlc даёт нехилые бёрсты) или насколько говённая/ненастроенная магистраль. Если на магистрале не настроен qos под мультикаст как под rt-трафик, да ещё и большие буферы на порты, то за счёт транспорта через неё могут возникнуть нехилы бёрсты, не дай бог вам принять такой мультикаст по десятке и раздать по гигу-двум Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
tartila Posted January 21, 2015 · Report post А еще лучше мультик не гонять в po... Ибо все равно flooding port есть. flooding port и мультикаст не связанные вещи, когда выстроены l2/l3 multicast forwarding таблицы Пример? Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
s.lobanov Posted January 21, 2015 · Report post пример чего? что мультикаст не флудит на порт-ченеле во все порты? ну настройте портченел и igmp-snooping или pim и сами в этом убедитесь Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
tartila Posted January 22, 2015 · Report post пример чего? что мультикаст не флудит на порт-ченеле во все порты? ну настройте портченел и igmp-snooping или pim и сами в этом убедитесь Не не, пример того, что мультик не избирает себе 1 порт из po и хреначит только там, а равномерно растекается по po :) Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
s.lobanov Posted January 22, 2015 · Report post На современном оборудовании такого уже нет То, о чём вы говорите видел один раз на старушке c76 с дешёвой лайнкартой и старым софтом Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
tartila Posted January 22, 2015 · Report post На современном оборудовании такого уже нет То, о чём вы говорите видел один раз на старушке c76 с дешёвой лайнкартой и старым софтом Ну может быть... Я просто всегда отдельный порт выделяю, дабы не усложнять жизнь. Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
Telesis Posted January 23, 2015 · Report post Есть вопрос немного в сторону по каталистам. Что будет финальным фактором определяющий в какую очередь отправить пакет с меткой 802.1P или IP DSCP Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
rdntw Posted January 23, 2015 · Report post Что будет финальным фактором определяющий в какую очередь отправить пакет с меткой 802.1P или IP DSCP маппинг DSCP-COS? Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
Telesis Posted January 23, 2015 · Report post имелось ввиду egress. Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
s.lobanov Posted January 23, 2015 · Report post Есть вопрос немного в сторону по каталистам. Что будет финальным фактором определяющий в какую очередь отправить пакет с меткой 802.1P или IP DSCP dscp->queue или cos->queue mapping'и (см. чему вы доверяете на порту куда приходит трафик) На c7600 на ios 15 это можно посмотреть командой show mls qos queuing interface gigabitEthernet 1/1 на старых ios что-то типа show qos... или show queuing... Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
g3fox Posted January 23, 2015 · Report post А у Вас, действительно, нагрузка распределяется по 3-м портам пропорционально? Я, если честно, не очень верю. На физических портах у вас тоже растут дропы? Не помню на какой железке у нас случилось, что один порт из четырёх портов в LAG сломался, и трафик растёкся так: 50%, 25%, 25% по трём портам. Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
Butch3r Posted January 24, 2015 · Report post А у Вас, действительно, нагрузка распределяется по 3-м портам пропорционально? Я, если честно, не очень верю. На физических портах у вас тоже растут дропы? Не помню на какой железке у нас случилось, что один порт из четырёх портов в LAG сломался, и трафик растёкся так: 50%, 25%, 25% по трём портам. Именно по этому я сразу и написал что нужно добавить 4ый линк Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
s.lobanov Posted January 24, 2015 · Report post А у Вас, действительно, нагрузка распределяется по 3-м портам пропорционально? Я, если честно, не очень верю. На физических портах у вас тоже растут дропы? Не помню на какой железке у нас случилось, что один порт из четырёх портов в LAG сломался, и трафик растёкся так: 50%, 25%, 25% по трём портам. Именно по этому я сразу и написал что нужно добавить 4ый линк Нельзя быть столь категоричным. Нужно смотреть на конкретную железку, какие платы в ней и т.д. Например, на ASR1k и ASR9k отлично балансируется трафик по 3ём линкам. Чем больше букетов умеет железо, тем лучше балансируется. Вот описание балансинга для asr1k http://www.cisco.com/c/en/us/td/docs/ios-xml/ios/lanswitch/configuration/xe-3s/lanswitch-xe-3s-book/lnsw-flow-portchannel-load.pdf Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
Butch3r Posted January 24, 2015 · Report post Но лучше делать четное количество линков. А 1к/9к совсем другой уровень чем 3750 Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
s.lobanov Posted January 24, 2015 · Report post Butch3r Тогда уж не чётное, а чтоб log2(количества линков) было целым числом попробуйте 6 линков на том же оборудовании, что плохо балансирует по 3ём линкам, ничего хорошего не получится я видел современные "недорогие" свитчи(т.е. с уровнем цен не как у asr1k), которые нормально балансируют по 3ём линкам Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
Butch3r Posted January 25, 2015 · Report post Butch3r Тогда уж не чётное, а чтоб log2(количества линков) было целым числом попробуйте 6 линков на том же оборудовании, что плохо балансирует по 3ём линкам, ничего хорошего не получится я видел современные "недорогие" свитчи(т.е. с уровнем цен не как у asr1k), которые нормально балансируют по 3ём линкам Может быть, больше 4г ни разу не собирал, потребности не было. Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
tehmeh Posted January 26, 2015 · Report post пример чего? что мультикаст не флудит на порт-ченеле во все порты? ну настройте портченел и igmp-snooping или pim и сами в этом убедитесь Не не, пример того, что мультик не избирает себе 1 порт из po и хреначит только там, а равномерно растекается по po :) po между 7609 и 6509, PIM SP. И там, и там WS-X6704-10GE. Растекается не совсем равномерно: из 8kps в один 6, в другой 2. Но растекается. Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...