Перейти к содержимому
Калькуляторы

Как мы 10Gigabit на Linux роутере маршрутизировали

2JMan

Дайте пожалуйста ссылку

http://forum.nag.ru/forum/index.php?s=&amp...st&p=566114 смотреть конец сообщения

 

Либо небольшая потеря производительности за счёт потенциально небольшого повышения точности статистики.
А вот сколько дает LOCK# перед инструкцией ? Я что-то не нашел точные цифры в тактах для разных процессоров.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

А вот сколько дает LOCK# перед инструкцией ? Я что-то не нашел почные цифры в тактах для разных процессоров.
Зависит от реализации.

В той же фряхе их штуки 3 или больше различных.

Есть варианты со спинлоком, это когда один поток крутится в цикле проверяя освободился ресурс или нет - те может быть дохрена циклов.

Есть с засыпанием потока, есть гибридные: вначале спин n циклов, потом сон.

 

Но применительно именно к статистике потребуется мало спин циклов проводить в ожидании.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

А вот сколько дает LOCK# перед инструкцией ? Я что-то не нашел почные цифры в тактах для разных процессоров.
Зависит от реализации.

Я про инструкцию x86 процессора.

 

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Гость Eug

Почему первые два графика получаются полностью одинаковыми, если их наложить друг на друга?

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

<br />Почему первые два графика получаются полностью одинаковыми, если их наложить друг на друга?<br />
<br /><br /><br />

Ну не знаю не накладывал, но поидей есть же зависимость между пакетами в секунду и трафиком (В среднем при большом количестве абонентов).

На тему тестирования. Провели синтетические тесты теперь всех платформ включая интелы разных поколений до самых топовых. Интересные результаты получили теперь могу уже все изложить в продолжении, ожидайте очень скоро будет.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Гость Чертов Ганс

Небось с Линухе всё как обычно: RSS работает, а TOE - фигушки?

(Другими словами, не всю акселерацию сетевухи, судя по статье, удалось включить).

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

<br />Небось с Линухе всё как обычно: RSS работает, а TOE - фигушки?<br />(Другими словами, не всю акселерацию сетевухи, судя по статье, удалось включить).<br />
<br /><br /><br />

А причем тут TOE к маршрутизации ? (Та и не хотят включать поддержку его в ядро по многим причинам). Вместо него продвигают LRO, которое дает практически такое же ускорение, но сам производитель пишет что надо вырубать её при маршрутизации, та и памяти в чипе маловато, абы столько сразу потоков разгрузить :). Та и сам интел говорит что надо выключать.

Выдержка из readme

 

А когда просто сервер с End user соединениями, типа веб сервера, то LRO работает проверял еще давненько.

Изменено пользователем JMan

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Гость Eug

Цитата(Eug @ 14.12.2010, 14:37)

 

Почему первые два графика получаются полностью одинаковыми, если их наложить друг на друга?

 

 

 

Ну не знаю не накладывал, но поидей есть же зависимость между пакетами в секунду и трафиком (В среднем при большом количестве абонентов).

 

 

Просто, если взять любую точку на этих двух графиках, то средний размер пакета равен ~672 байта(хотя возможно это и нормально)

Кроме того, настораживает то что трафик очень симметричный, т.е. значения входящих и исходящих параметров равны между собой.

Разве это возможно?

Еще вопрос по третьему графику: это все ядра грузятся до 50% или только нулевое?

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

<br />Цитата(Eug @ 14.12.2010, 14:37)<br /> <br />Почему первые два графика получаются полностью одинаковыми, если их наложить друг на друга?<br /><br /> <br /> <br />Ну не знаю не накладывал, но поидей есть же зависимость между пакетами в секунду и трафиком (В среднем при большом количестве абонентов).<br /><br /> <br /> Просто, если взять любую точку на этих двух графиках, то средний размер пакета равен ~672 байта(хотя возможно это и нормально)<br /> Кроме того, настораживает то что трафик очень симметричный, т.е. значения входящих и исходящих параметров равны между собой.<br /> Разве это возможно?<br /> Еще вопрос по третьему графику: это все ядра грузятся до 50% или только нулевое?<br />
<br /><br /><br />

Не внимательно читаем статью это сума вход трафика + исход трафика ибо нам же важно пакетов в секунду. Не важно через какую сетевую (наружную или внутреннюю) вошел пакет, главное сам факт что пакет пропустили через себя (как и у любого коммутатора есть значение пакетов в секунду). Я же написал что все ядра одинаково были загружены + - 2-5%, кроме 8 последних на них не было прерываний. Вторую часть все не как не допишу, там выложу конфиги.

Изменено пользователем JMan

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Еще отвлеченный вопрос а интересно ли людям модифицированный ipset таблица, которая проверяет айпи на наличие и если есть айпи, то возвращает что есть, и кроме того делает классификацию куда отправить трафик. То есть при добавление айпи в таблицу надо указывать и номер класса куда слать трафик.

Пример ipset -A test_tbl 10.13.56.7 1:ab56. Может добавить удобства когда нужно в iptables быстро посмотреть открыт ли доступ для айпи и сразу промаркировать в нужный класс трафик.

более чем интересно

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Гость Andy52280

Очень сильно надеюсь, что продолжение появится. Тема очень актуальна.

Особенно ценно мнение человека, разбирающегося в архитектуре ядра.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Крайне интересная статья, респект.

Жду второй части тестирования на интеле, и если есть возможность, ещё и на FreeBSD проверить.

 

Вдобавок было бы здорово увидеть ещё статистику по "netstat -s".

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Здравствуйте!

Извиняюсь что беспокою вас, моя задача конечно куда скромней чем 10 гигабит на линуксе но всеже,

не могли бы вы поддержать мою тему своим советом. Сам глубоких познаний в linux не имею но передо мной стала задача, поставить на сервер AquaServer T222 линуксовый роутер а именно vyatta и сразу возникли проблемы.

 

Вот ссылка на тему http://forum.nag.ru/forum/index.php?showto...mp;#entry570580

Заранее спасибо!!!

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Активное обсуждение замерло в ожидании результатов тестирования.

Подскажите, долго ещё ждать? Очень нуждаемся в этой информации!

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Сори за долгое молчание, до нового года слег с тяжелым грипом, и реально до середины месяца был не совсем в трудовом духе, сейчас вроде разгреб что накопилось на работе и возьмусь за продолжение, тем более за месяц еще информации под накопилось.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

HTB в линухе может работать только на одном проце и лочит отправку всех очередей, я писал в статье нарезка скорости стандартными средствами не работает на всех ЦПУ. Есть у меня одна идея как это можно обойти но слишком костыльный метод.
А как это можно узнать? Стоит у нас сейчас серверок, в качестве шейпящего бриджа, 2 с хвостиком гигабита нарезает на 10к очередей, и ни загрузки ни тормозов незаметно. Больше загрузки нету, и взять негде, но даже существующая загрузка процов довольно равномерно раскидана... Шейпер именно htb, дисциплины - pfifo и sfq, на обоих интерфейсах.
 mpstat -P ALL
Linux 2.6.36-gentoo-r5 (nbs)    27.01.2011      _x86_64_        (12 CPU)

17:30:41     CPU    %usr   %nice    %sys %iowait    %irq   %soft  %steal  %guest   %idle
17:30:41     all    0,01    0,00    0,02    0,00    0,00    0,34    0,00    0,00   99,62
17:30:41       0    0,03    0,00    0,04    0,01    0,00    0,52    0,00    0,00   99,41
17:30:41       1    0,02    0,00    0,02    0,00    0,00    0,71    0,00    0,00   99,25
17:30:41       2    0,01    0,00    0,02    0,00    0,00    0,28    0,00    0,00   99,70
17:30:41       3    0,01    0,00    0,01    0,00    0,00    0,26    0,00    0,00   99,72
17:30:41       4    0,01    0,00    0,01    0,00    0,00    0,26    0,00    0,00   99,71
17:30:41       5    0,01    0,00    0,01    0,00    0,00    0,27    0,00    0,00   99,71
17:30:41       6    0,02    0,00    0,03    0,00    0,00    0,51    0,00    0,00   99,44
17:30:41       7    0,01    0,00    0,02    0,00    0,00    0,31    0,00    0,00   99,65
17:30:41       8    0,01    0,00    0,01    0,00    0,00    0,26    0,00    0,00   99,72
17:30:41       9    0,01    0,00    0,01    0,00    0,00    0,24    0,00    0,00   99,74
17:30:41      10    0,01    0,00    0,01    0,00    0,00    0,24    0,00    0,00   99,74
17:30:41      11    0,01    0,00    0,01    0,01    0,00    0,25    0,00    0,00   99,71

 

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

А как это можно узнать? Стоит у нас сейчас серверок, в качестве шейпящего бриджа, 2 с хвостиком гигабита нарезает на 10к очередей, и ни загрузки ни тормозов незаметно.

А вы попробуйте выжать из HTB больше 2.5 Гиг.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Стоит у нас сейчас серверок, в качестве шейпящего бриджа, 2 с хвостиком гигабита нарезает на 10к очередей, и ни загрузки ни тормозов незаметно. Больше загрузки нету, и взять негде, но даже существующая загрузка процов довольно равномерно раскидана... [/code]

Какой проц? сколько памяти?

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

какие сетевухи?

В счетчики классов трафик вообще попадает? :)

Изменено пользователем drv_sevstar

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

А вы попробуйте выжать из HTB больше 2.5 Гиг.
Ну, как кто-то из магистралов сделает расширение и даст нам больше - попробуем. Счас просто физически нету больше 2,3 гиг, и расширение никто не дает - нет техвозможности.
Какой проц? сколько памяти?
Два Х5650, памяти 12 гиг.
какие сетевухи?
Набортные 82559
В счетчики классов трафик вообще попадает?
Конечно попадает, и шейпит довольно точно. Единственное - quantum стоит 3000.

 

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

какие сетевухи?
Набортные 82559

как на 100 мб-ной сетевухе раскачал 2 гбита?

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

как на 100 мб-ной сетевухе раскачал 2 гбита?

это наверное шутка такая =) бортовых обычно 2х1000 ,

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

какие сетевухи?
Набортные 82559

как на 100 мб-ной сетевухе раскачал 2 гбита?

Опечатался. 82599 естественно. Платформа Supermicro 6016T-6RFT+

 

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Join the conversation

You can post now and register later. If you have an account, sign in now to post with your account.

Гость
Ответить в тему...

×   Вставлено в виде отформатированного текста.   Вставить в виде обычного текста

  Разрешено не более 75 смайлов.

×   Ваша ссылка была автоматически встроена.   Отобразить как ссылку

×   Ваш предыдущий контент был восстановлен.   Очистить редактор

×   Вы не можете вставить изображения напрямую. Загрузите или вставьте изображения по ссылке.