makalah Posted January 16, 2015 · Report post Всем привет! Есть ли на форуме люди, кторые имеют опыт построения больших систем ip видонаблюдения? Ну скажем так на 300-500 камер. А вопрос вот в чем. Я представитель заказчика и моя задача чтобы видеонаблюдние работало. И есть у нас подрядчик и задача у него такая же. И ничего не работает. Вот в чем собственно дело. Дано: около 400Poe камер. Скс 6 категории. Около 30 кроссовых, со шкафами и умными коммутаторами Poe. В кроссовых от 4 до 40 камер. В каждой кроссовой коммутатор, подключен к ядру сети 10гигобит. К тому же ядру подключен коммутатор (10гигобит), к которому подключен сервер видеонаблюдения. На сервере есть 4 сетевых карты и они объединены в агрегацию (динамическая), и еще там стоит серверная часть МАКРОСКОП. Помимо этого есть клиентские машины — те что показывают картинку охранникам, к каждой подключено по два дисплея и там тоже МАКРОСКОП. Помимо этого во всей этой СПД (ядро и коммутаторы) работает еще несколько систем (суммарный трафик около 2 гигобит) каждая система находится в своем VLAN. Все хосты системы видеонаблюдения (400 камер, сервер, клиентские машины) находтся в одном VLAN и логически являются членами одной сети с диапазоном 192.168.0.0 mask 255.255.252.0. Вреде бы все хорошо и с точки зрения математики всего должно хватать т. к. каждая камера генерит траффик H.264 HD(1280x720) по 30 кадров в секунду и на сервере загрузка сетевой всего 1.5гигобита. Да вот незадача камеры отваливаются, до 30% может вылететь, при этом процентов 10 гуляющие, то появятся, то пропадут, а остальные появляются только после переподключения. И еще, если следить за сетевой картой на сервере, то можно увидеть как падает производительность сетевой карты от 1.5гигобита до 0 и опять вверх. И во время этого падения, картинка на всех клиентских машинах замирает. И запись происходит так же, если картинка замерла, то на сервере записи нет. В это же время, если открыть камеру в браузере, с той же клиентской машины, никаких замираний нет. И если пускать пинги (максимального размера) на сервер из любой части сети, то они не пропадают. Пробовали запустить сниффер и посмотреть что происходит в сети. Сниффер показал кучу UDP траффика и кучу БРОДКАСТ трафика с кучи хостов. Мнения разделились: Первое звучит так: МАКРОСКОП говно, а если не макроскоп, то тот кто его ставил т. к. не может один сервер справится с 400 камерами. Второе звучит так: СПД говно, в ней происходят какие-то падения каналов потому что хабы не справляются с длинными UDP пакетами. Третье звучит так: исполнение говно, надо разбить камеры по 80 штук на канал и/или логическую сеть (чтобы они не перебивали друг друга БРОДКАСТОМ) и завернуть их на сервер, или на несколько серверов. Вот собственно все. Кто сталкивался с подобным, или увидел причину проблемы, или может подсказать у кого спросить? Буду весьма признателен. Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
stas_k Posted January 16, 2015 · Report post Вот в чем собственно дело. Дано: около 400Poe камер. Скс 6 категории. Около 30 кроссовых, со шкафами и умными коммутаторами Poe. В кроссовых от 4 до 40 камер. В каждой кроссовой коммутатор, подключен к ядру сети 10гигобит. К тому же ядру подключен коммутатор (10гигобит), к которому подключен сервер видеонаблюдения. На сервере есть 4 сетевых карты и они объединены в агрегацию (динамическая), один сервер на 400 IP камер? Со стороны заказчика кто утверждал проект? Кто ставил задание и усливия? Сколько откат? Какова сумма этого контракта? Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
makalah Posted January 16, 2015 · Report post Со стороны заказчика кто утверждал проект? Кто ставил задание и усливия? Сколько откат? Какова сумма этого контракта? Со стороны заказчика по части видеонаблюдения инженер СБ, к сожалению уволен. И условия он же. По сумме не могу знать. По сухим цифрам. 4гигабита сеть на сервере. 32 оперативки. схд подключенная оптическим линком к серверу. Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
SergioDeMaster Posted January 16, 2015 · Report post первое и третье. второе маловероятно по любому разделять камеры на несколько вланов. для начала,если прокатит, создать на сетевом интерфейсе сервера вланы и скормить макроскопу эти сабинтерфейсы. если прокатит - хорошо. не прокатит-дробить на несколько серверов Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
makalah Posted January 16, 2015 · Report post SergioDeMaster - вринципе с этого и хотим начать, можешь подсказать где раздобыть научное обоснования данной процедуры? Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
stas_k Posted January 16, 2015 · Report post А что вы будете делать, когда этот единственный сервер внезапно сломается? Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
SergioDeMaster Posted January 16, 2015 · Report post научное обоснования данной процедуры что-что, простите? Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
SergioDeMaster Posted January 16, 2015 · Report post Все хосты системы видеонаблюдения (400 камер, сервер, клиентские машины) находтся в одном VLAN и логически являются членами одной сети с диапазоном 192.168.0.0 mask 255.255.252.0. И в первую очередь вынесите клиентские машины в отдельный влан. Нечего им торчать вместе с камерами. Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
maxlapshin Posted January 16, 2015 · Report post А чего такого проблемного в 400 камерах на один сервер? =) Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
kapa Posted January 16, 2015 · Report post Все хосты системы видеонаблюдения (400 камер, сервер, клиентские машины) находтся в одном VLAN и логически являются членами одной сети с диапазоном 192.168.0.0 mask 255.255.252.0. И в первую очередь вынесите клиентские машины в отдельный влан. Нечего им торчать вместе с камерами. И что такого может мешать в 400+ хостов в одном вилане? Покажите характеристики машины, на которую пишется. Её top. Какой рейд, харды. Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
dr Tr0jan Posted January 17, 2015 · Report post Какая версия макроскопа, общались ли с их саппортом? Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
makalah Posted January 19, 2015 · Report post что-что, простите? На что можно сослаться для разбития камер на разные каналы. На что сослаться для добавления серверов. Кроме логичного ничего не работает :), нужно что-то более четкое. Видимиых проблем по статусу железа не наблюдается. И в первую очередь вынесите клиентские машины в отдельный влан. Нечего им торчать вместе с камерами. Смысла выносить не вижу, располагаются в спец помещении. Помимо этого есть привязка mac-порт. Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
SergioDeMaster Posted January 19, 2015 · Report post На что можно сослаться для разбития камер на разные каналы. На что сослаться для добавления серверов. Кроме логичного ничего не работает :), нужно что-то более четкое. Видимиых проблем по статусу железа не наблюдается. Если контора интегратора еще живая, есть гарантийные обязательства и учитывая общую сметную стоимость проекта - то лучше всего сослаться на "Пи****сы е**ные, ни**я ничо не работает, ж**у в руки взяли и починили все на**й, а то по судам затаскаю" Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
makalah Posted January 19, 2015 · Report post Если контора интегратора еще живая, есть гарантийные обязательства и учитывая общую сметную стоимость проекта - то лучше всего сослаться на "Пи****сы е**ные, ни**я ничо не работает, ж**у в руки взяли и починили все на**й, а то по судам затаскаю" К сожалению, не вызывает эффекта. Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
stas_k Posted January 20, 2015 · Report post А чего такого проблемного в 400 камерах на один сервер? =) А что вы будете делать, когда этот единственный сервер внезапно сломается? Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
maxlapshin Posted January 20, 2015 · Report post Окей, вы имеете ввиду, что если ставится классическая виндовая программа, то сделать с неё бекап так, что бы переразвернуть за 10 минут невозможно. Тут я понял. Как два сервера помогут задаче, если одного не хватает на 400 камер? Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
stas_k Posted January 21, 2015 · Report post Окей, вы имеете ввиду, что если ставится классическая виндовая программа, то сделать с неё бекап так, что бы переразвернуть за 10 минут невозможно. Тут я понял. Вот как раз нет. Совершенно спокойно делается дублируюший сервер, при аварии перетыкаются usb ключи защиты, из резервной копии восстанавливается конфигурационный файл и запускается программа. Займет конечно не 10 минут, но относительно быстро. Как два сервера помогут задаче, если одного не хватает на 400 камер? Я имею в виду, что если сломается один сервер ваша охране мгновенно "ослепнет". Вся охрана. Помимо этого есть клиентские машины — те что показывают картинку охранникам, к каждой подключено по два дисплея и там тоже МАКРОСКОП. То есть постов с живыми охранниками у вас несколько. Все эти охранники будут вынуждены вместо теплой караулки посвятит время пробежкам по периметру. Вспоминая добрым словом компьютерщиков инженерную службу. Если серверов два, их можно полностью продублировать, и охрана продолжит сидеть в теплых норках. а у тебя будет время на спокойный ремонт. По описанию я так понял что у вас там разгул анархия и откаты отсутствует административный регламент, понимание планы и инструкции что и как делать в различных ситуациях. Было бы проще, если бы ты сказал что за объект. Хотя бы класс объекта. 400 камер, это не так много на самом деле. пол ашана. Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
maxlapshin Posted January 21, 2015 · Report post Ну, не 10 минут — это значит пара часов =) Наш флюссоник отнимет 10 минут с установкой убунты. Но в целом я вас понял. Мы это решаем кластерным захватом с камер с автопереключением камер между серверами. Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
-sf- Posted January 22, 2015 · Report post У меня на работе макроскоп и 350 камер. Все нормально.Трафик в среднем гигабит, ради теста гоняли на 2-3 гигабита неделю, пото убедившись что все ок снизили до нужного. Какой город? Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
alexalex66 Posted February 18, 2015 (edited) · Report post ну скажем так для начала - 1.калькулятор на сайте макроскопа не обещает что обойдетесь одним сервером 2. локалку для видеонаблюдения так не строят 3. сервер успевает переваривать такой трафик на запись - 1.5 Гб ??? 4. UDP пакеты в данной сети совершенно нормальное явление 5. какие сетевые карты в сервере 6. а что потоки на рабочие станции ретранслируются через сервер? это весьма странное решение 7. на чем построена сеть? (перечислите оборудование) 8. коммутаторы не мониторили? Edited February 18, 2015 by alexalex66 Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
shader Posted February 19, 2015 · Report post Всем привет! Мнения разделились: Первое звучит так: МАКРОСКОП говно, а если не макроскоп, то тот кто его ставил т. к. не может один сервер справится с 400 камерами. Второе звучит так: СПД говно, в ней происходят какие-то падения каналов потому что хабы не справляются с длинными UDP пакетами. Третье звучит так: исполнение говно, надо разбить камеры по 80 штук на канал и/или логическую сеть (чтобы они не перебивали друг друга БРОДКАСТОМ) и завернуть их на сервер, или на несколько серверов. Вот собственно все. Кто сталкивался с подобным, или увидел причину проблемы, или может подсказать у кого спросить? Буду весьма признателен. Если есть возможность: скинуть с сервера часть камер и посмотреть как он будет себя вести. Скинуть до такого количества пока система не начнёт устойчиво функционировать. Понаблюдать.Сначала менять одни камеры на другие, с целью выяснить где проблема: со стороны сервера или камеры\канала. Потом добавлять по немногу камеры, изучать логи, загрузку сервера (Hdd, mem, cpu). На сеть посматривать конечно же. И искать ту критическую точку, откуда начинаются проблемы. Я бы так поступил, если бы помощи от кого-либо (в т. ч. со стороны подрядчика) не было. Собсно, что-то похожее исполнять и не раз, только не в видеонаблюдении. Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
maxlapshin Posted February 19, 2015 · Report post > СПД говно, в ней происходят какие-то падения каналов потому что хабы не справляются с длинными UDP пакетами. Камеры не шлют длинные UDP пакеты, они фрагментируют их до обычного MTU на уровне нарезки H264. Что, впрочем, не мешает пакетам теряться. Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...
dsk Posted February 19, 2015 · Report post А чего такого проблемного в 400 камерах на один сервер? =) А все зависит от того, что этот сервер делает с потоками. Если тупо кладет на винты - это одно, а если там какая-нибудь аналитика, ну или прочее залезание внутрь потоков с декомпрессиями, перекодировками - то это уже совсем другое. Вставить ник Quote Ответить с цитированием Share this post Link to post Share on other sites More sharing options...