Перейти к содержимому
Калькуляторы
  

398 пользователей проголосовало

  1. 1. Ось для бордера



Vote. Система для бордера Кто что держит на бордерах?

Ну извращенцев в нашем мире хватает, может BSDMBSD?

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

А зачем jail на бордере?

Думал услышать версию что FreeBSD 2Gbps не проживает.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Можно нескромный вопрос? А зачем там эти 12 ядер, если используется 4 интерфейса и загружено 4 ядра? :)

Можно. Там многоочередки (по 8 очередей) + RPS (только вот не надо нескромных вопросов, зачем такая комбинация - нашли плюсы от RPS даже в случае тонны очередей :) ).

Плюс в самой обозримой перспективе планируется добавить еще несколько гигабитных портов, текущие забиты на 70%.

Сейчас нагрузка, как уже говорил, редко выскакивает за 25% общей. Просто высокий заложенный потенциал, до 1-1.2Mpps при текущем числе портов.

Насчёт 4 ядер - видимо, планировщики и irqbalance решили, что 8 оставшихся ядер надо запихнуть в Idle для экономии энергии.

 

Есть еще другой аналог (софт _абсолютно_ тот же, вплоть до билда) с всего 4 ядрами послабее и двумя одноочередками bnx2 (RPS спасает), потенциал до 250-300Kpps - там хитрее (на снимке - 150Kpps, ~700 сессий):

Tasks: 811 total,   2 running, 809 sleeping,   0 stopped,   0 zombie
Cpu0  :  1.3%us, 12.7%sy,  0.0%ni, 54.6%id,  0.0%wa,  0.0%hi, 31.4%si,  0.0%st
Cpu1  :  0.6%us,  1.6%sy,  0.0%ni, 60.1%id,  0.0%wa,  0.0%hi, 37.7%si,  0.0%st
Cpu2  :  0.3%us,  1.0%sy,  0.0%ni, 53.1%id,  0.0%wa,  0.0%hi, 45.6%si,  0.0%st
Cpu3  :  1.6%us,  4.9%sy,  0.0%ni, 58.6%id,  0.0%wa,  0.3%hi, 34.6%si,  0.0%st
Mem:   2053144k total,  1487484k used,   565660k free,   140500k buffers
Swap:  2096472k total,     2144k used,  2094328k free,   490332k cached

Изменено пользователем Alex/AT

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Почему перешли на Linux?

Из-за NAT. В отличие от pf, в iptables он (а) многопоточный и (б) умеет не блокировать ftp, pptp и прочее.

Изменено пользователем Ilya Evseev

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

в линуксе есть OpenVZ который в разы лучше jail'а.

1) В отличие от Jails во FreeBSD, OpenVZ в Линуксе не входит в официальное ядро.

Из-за этого OpenVZ редко удаётся запустить на современном железе.

Если искать для Jails аналог в Линуксе, то это предельно убогий LXC.

 

2) Для масс-хостинга непригодно ни то, ни другое, ни третье, хотя и в разной степени.

 

3) На бордере ничего из перечисленного не нужно вообще.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Из-за этого OpenVZ редко удаётся запустить на современном железе.

Простите - но бред. OpenVZ работает везде, где работает RHEL/CentOS, поскольку его stable-ядра являются модификациями ядер искомых систем. Единственное что верно - так это то, что на бордере VZ не нужен.

Изменено пользователем Alex/AT

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Простите - но бред. OpenVZ работает везде, где работает RHEL/CentOS, поскольку его stable-ядра являются модификациями ядер искомых систем.

Прощаю :)

Недавний пример из жизни: на Supermicro 5016I свежее ядро увидело обе встроенных сетевых карты,

альтовское 2.6.27 с OpenVZ - ни одной, редхатовское 2.6.18 с OpenVZ - одну.

Пришлось ставить 2.6.32, объявленное мантейнерами нестабильным, со всеми вытекающими.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Простите - но бред. OpenVZ работает везде, где работает RHEL/CentOS, поскольку его stable-ядра являются модификациями ядер искомых систем.

Прощаю :)

Недавний пример из жизни: на Supermicro 5016I свежее ядро увидело обе встроенных сетевых карты,

альтовское 2.6.27 с OpenVZ - ни одной, редхатовское 2.6.18 с OpenVZ - одну.

Пришлось ставить 2.6.32, объявленное мантейнерами нестабильным, со всеми вытекающими.

 

 

Что помешало подключить eprepo и поставить kmod-e1000e ?

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Что помешало подключить eprepo и поставить kmod-e1000e ?

Если Вы про ELRepo, то к altlinux'у он не подходит, к сожалению :)

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Вы же говорили про CentOS/RHEL 5 в том числе

 

редхатовское 2.6.18 с OpenVZ - одну.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Вы же говорили про CentOS/RHEL 5 в том числе

 

редхатовское 2.6.18 с OpenVZ - одну.

Оно есть в альтовском репозитории. Что-то обсуждение уползло от бордеров к vps-фермам.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Почему перешли на Linux?

Из-за NAT. В отличие от pf, в iptables он (а) многопоточный и (б) умеет не блокировать ftp, pptp и прочее.

 

А как же ipfw kernel nat?

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

А как же ipfw kernel nat?

1) не нравится сваливание правил для фильтрации и трансляции в одну кучу.

2) нет поддержки для ftp, pptp и прочего.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

1) не нравится сваливание правил для фильтрации и трансляции в одну кучу.

2) нет поддержки для ftp, pptp и прочего.

NAT сам по себе - зло и RIPE неоднократно указывал на необходимость IPv6, в пользу его искоренения.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

NAT сам по себе - зло и RIPE неоднократно указывал

Интернет сам по себе - зло. А кибернетика - служанка мракобесов.

 

К сожалению, внутри этого зла приходится иногда выбирать - между NAT прямо сейчас и IPv6 после тотальной перестройки сети.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Интернет сам по себе - зло.

Кощунство. :)

Относя интернет ко злу - записываешь себя в "служители зла, злом кормящиеся и на него уповающие." :)

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

NAT сам по себе - зло и RIPE неоднократно указывал на необходимость IPv6, в пользу его искоренения.

 

А мне RIPE неоднократно ( лет 15 подряд ) указывал на необходимость NAT для экономии IPv4. Может у нас разные RIPE ?

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

А мне RIPE неоднократно ( лет 15 подряд ) указывал на необходимость NAT для экономии IPv4. Может у нас разные RIPE ?

Может за 15 лет что-то изменилось? Что-то назревает, не находите? Может RIPE уже не торт?

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Может за 15 лет что-то изменилось? Что-то назревает, не находите? Может RIPE уже не торт?

 

Ну если и назревает, то только экспроприация неиспользуемых адресов у жирных котов имеющих по /8 на рыло. IPv6 точно не назревает.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Может за 15 лет что-то изменилось? Что-то назревает, не находите? Может RIPE уже не торт?

 

Ну если и назревает, то только экспроприация неиспользуемых адресов у жирных котов имеющих по /8 на рыло. IPv6 точно не назревает.

Большинство "жирных котов", к сожалению, не в зоне RIPE NCC :)

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Большинство "жирных котов", к сожалению, не в зоне RIPE NCC :)

 

И что ? Поплачут, и IANA им выделит с барского плеча. Все виденные мной процессы выдачи нормерной емкости заканчивались одинаково, ренамберингами, уплотнениями,

экспроприацией, и ни один не закончился сменой технологии.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

и ни один не закончился сменой технологии.

И этот не закончится(TCP/IP никуда не денется), закончится модернизацией, неизбежной.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Может за 15 лет что-то изменилось? Что-то назревает, не находите? Может RIPE уже не торт?

 

Ну если и назревает, то только экспроприация неиспользуемых адресов у жирных котов имеющих по /8 на рыло. IPv6 точно не назревает.

Что интересно, многие из них даже не анонсят адреса в паблик интернет.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Hyperthreading выключен как я понял? IRQbalance используете?

В среднем тарифы от 8 до 40 Мбит/с, двухголовый Xeon X5650 @ 2.67GHz, 2 x igb/2 x e1000e, гонит на данный момент 350Kpps, нагрузка по каждому ядру в отдельности не превышает 25-30%.

top - 21:42:38 up 170 days, 10:51,  2 users,  load average: 4.62, 4.24, 4.20
Tasks: 1977 total,   4 running, 1973 sleeping,   0 stopped,   0 zombie
Cpu0  :  1.6%us,  2.3%sy,  0.0%ni, 83.1%id,  0.0%wa,  0.0%hi, 13.0%si,  0.0%st
Cpu1  :  1.0%us,  1.3%sy,  0.0%ni, 79.5%id,  0.0%wa,  0.0%hi, 18.2%si,  0.0%st
Cpu2  :  0.3%us,  0.3%sy,  0.0%ni, 93.4%id,  0.0%wa,  0.0%hi,  6.0%si,  0.0%st
Cpu3  :  0.7%us,  0.0%sy,  0.0%ni, 97.0%id,  0.0%wa,  0.0%hi,  2.3%si,  0.0%st
Cpu4  :  1.3%us,  2.3%sy,  0.0%ni, 95.3%id,  0.0%wa,  0.0%hi,  1.0%si,  0.0%st
Cpu5  :  0.0%us,  0.0%sy,  0.0%ni, 94.7%id,  0.0%wa,  0.0%hi,  5.3%si,  0.0%st
Cpu6  :  0.0%us,  0.0%sy,  0.0%ni, 70.0%id,  0.0%wa,  0.7%hi, 29.3%si,  0.0%st
Cpu7  :  0.0%us,  1.3%sy,  0.0%ni, 93.4%id,  1.6%wa,  0.3%hi,  3.3%si,  0.0%st
Cpu8  :  1.0%us, 14.7%sy,  0.0%ni, 61.1%id,  0.0%wa,  0.0%hi, 23.2%si,  0.0%st
Cpu9  :  0.0%us,  0.3%sy,  0.0%ni, 98.4%id,  0.0%wa,  0.0%hi,  1.3%si,  0.0%st
Cpu10 :  0.0%us,  0.0%sy,  0.0%ni, 99.0%id,  0.0%wa,  0.3%hi,  0.7%si,  0.0%st
Cpu11 :  0.0%us,  0.0%sy,  0.0%ni, 99.7%id,  0.0%wa,  0.0%hi,  0.3%si,  0.0%st
Mem:   8183116k total,  2226612k used,  5956504k free,   134680k buffers
Swap:  8387568k total,        0k used,  8387568k free,   164884k cached

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Да, от гипертрединга для задач роутинга/концентрации больше вреда, чем пользы. irqbalance используется.

 

Для интересующихся распараллеливанием: вот из последних снимков более наглядно по процам:

 

Tasks: 2142 total,   3 running, 2139 sleeping,   0 stopped,   0 zombie
Cpu0  :  0.6%us,  2.9%sy,  0.0%ni, 66.8%id,  0.0%wa,  0.0%hi, 29.7%si,  0.0%st
Cpu1  :  5.1%us,  6.1%sy,  0.0%ni, 58.7%id,  0.0%wa,  0.0%hi, 30.1%si,  0.0%st
Cpu2  :  4.8%us,  3.5%sy,  0.0%ni, 74.6%id,  0.0%wa,  0.0%hi, 17.1%si,  0.0%st
Cpu3  :  1.3%us, 14.4%sy,  0.0%ni, 67.9%id,  0.0%wa,  0.0%hi, 16.3%si,  0.0%st
Cpu4  :  1.6%us, 17.9%sy,  0.0%ni, 62.9%id,  0.0%wa,  0.0%hi, 17.6%si,  0.0%st
Cpu5  :  1.0%us,  1.0%sy,  0.0%ni, 88.7%id,  0.0%wa,  0.0%hi,  9.3%si,  0.0%st
Cpu6  :  0.3%us,  0.6%sy,  0.0%ni, 54.8%id,  2.9%wa,  2.6%hi, 38.7%si,  0.0%st
Cpu7  :  1.9%us,  3.5%sy,  0.0%ni, 64.1%id,  0.0%wa,  1.6%hi, 28.8%si,  0.0%st
Cpu8  :  2.6%us, 11.9%sy,  0.0%ni, 69.1%id,  0.0%wa,  1.3%hi, 15.1%si,  0.0%st
Cpu9  :  2.7%us, 11.8%sy,  0.0%ni, 61.9%id,  0.0%wa,  0.6%hi, 23.0%si,  0.0%st
Cpu10 :  0.6%us, 13.8%sy,  0.0%ni, 63.5%id,  0.0%wa,  0.3%hi, 21.7%si,  0.0%st
Cpu11 :  0.0%us,  0.0%sy,  0.0%ni, 88.9%id,  0.0%wa,  1.0%hi, 10.2%si,  0.0%st
Mem:   8183116k total,  2407612k used,  5775504k free,   141976k buffers
Swap:  8387568k total,        0k used,  8387568k free,   370244k cached

 PID PR  NI  VIRT  RES  SHR S %CPU %MEM    TIME+  COMMAND
4803 20   0 11396 1284  688 D 17.8  0.0   0:00.55 tc
4811 20   0 11396 1196  608 R 16.5  0.0   0:00.51 tc
4814 20   0 11036 3468  576 R 12.9  0.0   0:00.40 ifconfig
9219 20   0  9816 1384  472 S 10.0  0.0   1:15.63 irqbalance
4797 20   0  144m  12m 7104 S  3.2  0.2   0:00.10 ssg_wrapper
3517 20   0 16552 2888  972 R  2.6  0.0   0:01.19 top
4813 20   0  144m  12m 6896 S  2.6  0.2   0:00.08 ssg_coa
4766 20   0  144m  12m 7104 S  2.3  0.2   0:00.07 ssg_wrapper
   4 20   0     0    0    0 S  1.6  0.0   9:47.05 ksoftirqd/0
  22 20   0     0    0    0 S  1.6  0.0   7:12.58 ksoftirqd/6
26243 20   0  645m 3980 1064 S  1.3  0.0  18:17.55 radiusd
   7 20   0     0    0    0 S  1.0  0.0   7:32.32 ksoftirqd/1
2038 20   0 2906m 127m 6172 S  1.0  1.6  33:54.83 mysqld
  13 20   0     0    0    0 S  0.6  0.0   4:23.09 ksoftirqd/3
2665 20   0 29624 2788 2468 S  0.6  0.0   0:00.24 pppd
9133 20   0 29624 2108 1788 S  0.6  0.0   0:00.09 pppd
  10 20   0     0    0    0 S  0.3  0.0   5:34.59 ksoftirqd/2
  16 20   0     0    0    0 S  0.3  0.0   3:40.63 ksoftirqd/4
  19 20   0     0    0    0 S  0.3  0.0   2:48.02 ksoftirqd/5
  21 RT   0     0    0    0 S  0.3  0.0   0:00.69 migration/6
  24 RT   0     0    0    0 S  0.3  0.0   0:10.16 migration/7
  28 20   0     0    0    0 S  0.3  0.0   3:02.87 ksoftirqd/8
  37 20   0     0    0    0 S  0.3  0.0   1:51.27 ksoftirqd/11
  45 20   0     0    0    0 S  0.3  0.0   3:01.96 events/6
 367 20   0 29624 2588 2272 S  0.3  0.0   0:00.18 pppd
 553 20   0     0    0    0 S  0.3  0.0   6:10.52 md1_raid1
 618 20   0     0    0    0 S  0.3  0.0   0:59.57 jbd2/md1-8
1709 20   0  242m 1464  908 S  0.3  0.0   2:07.67 rsyslogd
1761 20   0 12104 4360  588 S  0.3  0.1  69:30.16 bird

 

Изменено пользователем Alex/AT

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Join the conversation

You can post now and register later. If you have an account, sign in now to post with your account.

Гость
Ответить в тему...

×   Вставлено в виде отформатированного текста.   Вставить в виде обычного текста

  Разрешено не более 75 смайлов.

×   Ваша ссылка была автоматически встроена.   Отобразить как ссылку

×   Ваш предыдущий контент был восстановлен.   Очистить редактор

×   Вы не можете вставить изображения напрямую. Загрузите или вставьте изображения по ссылке.