[rm_]

А какие там эксплуатационные расходы?

Электричество.

Менять выходящие из строя диски (на сотнях-тысячах штук это будет по нескольку каждый месяц).

Менять отслужившие батареи ИБП.

 

Поставил, настроил и забыл. Сторадж сделать не проблема.

А вы считали сколько его нужно делать? http://nag.ru/articles/article/29513/-yarkulyator-kalkulyator-yarovoy.html

Вот сколько сейчас типичная ёмкость покупаемых у апстримов каналов для среднего оператора?

Исходя из того что 1 гигабит, даже при оверселлинге 1:100, это всего одна тысяча клиентов со 100-мегабитными тарифами.

[SpheriX]

Так это когда он у тебя 1-2-5 оно обычно работает без проблем, а когда у тебя 1-2-5 сотен то начинается: то провод отошёл, то девайс сдох то ещё какая херня, которая на единичных экземплярах маловероятна.

Ты в куркулятор вообще заглядывал? У тебя и так будет дохера железа.

 

Вот сколько сейчас типичная ёмкость покупаемых у апстримов каналов для среднего оператора?

 

Судя по куркулятору, почти половина стоимости стораджа идёт на серверную платформу. Вопрос, какая там нагрузка и нет ли возможности обойтись чем-то дешевым. Я предполагаю, что можно обойтись, IOps'ов на систему в целом много, но они линейные для одинарных дисков, на один диск немного, если формировать крупные блоки для записи. Крупные блоки для записи можно формировать из нескольких пакетов в FPGA подключенном к сети, который держит таблицу активных малопроизводительных нод и раскидывает по ним Jumbo frame'ы, в которые пишется сразу несколько обычных пакетов с TimeStamp'ами. Задача на мозгах ноды - принять JumboFrame и целиком записать на диск его полезную нагрузку. Если диск закончился, записать на другой. Всё. То есть хранилище - round-robin на ПЛИСе пишущийся на N JBODов.

[Sergey Gilfanov]

Судя по куркулятору, почти половина стоимости стораджа идёт на серверную платформу. Вопрос, какая там нагрузка и нет ли возможности обойтись чем-то дешевым.

Не понимаю я само существование этого рассуждения. Ну да, можно даже придумать микро-плату, которая прямо из буфера сетевой карты кадры берет и сразу их на диск заливает. Но, блин, независимо от стоимости обвязки объем указан в петабайтах на гигабит (и да, теорию массового обслуживания и все наблюдения о загрузке каналов, очевидно, не изобрели - емкость взята с каким-то диким запасом, из расчета что вот каждый порт будет почти постоянно в полку забит). А эти петабайты недешевые назависимо ни от чего. У операторов что, деньги лишние? Ну так скидывайтесь сразу на покупку завода по производству этих накопителей, что ли - все больше пользы будет.

[SpheriX]

У операторов что, деньги лишние? Ну так скидывайтесь сразу на покупку завода по производству этих накопителей, что ли - все больше пользы будет.

Дык у нас ныли, что своей электронной промышленности нет - нате, распишитесь. Рубль опустили и ещё опустят. Ведь для информации что нужно? Хранение, обработка, защита. Безопасники есть? Есть. Обработка есть? Появилась. Хранение? Нету. Нужно создать в кратчайшие сроки индустрию. За чей счет? Да за счет самих информационных наркоманов.

[Ivan_83]

Ты в куркулятор вообще заглядывал? У тебя и так будет дохера железа.

Так в моём подходе есть полки с винтами, которые пишут трафик. Как только диски заполнились - запись начинается на следующую полку, а записанные винты вытаскиваются, убираются в подписанный ящег на склад, со склада приносят старые с ненужными данными/новые из магаза, ставят и на следующий день/неделю история повторяется с другой полкой.

Держать все 100500 хардов онлайн смысла нет, вроде как по закону же нет к ним онлайн доступа?

[vovanfz]

Коллеги, про расчеты по железу все более менее понятно, льем трафик зеркалом на сервера.

Непонятно что за софт должен стоять на серверах? если порядок цен на софт, просьба написать.

[Sergey Gilfanov]

Держать все 100500 хардов онлайн смысла нет, вроде как по закону же нет к ним онлайн доступа?

6. Запрос необходимого содержания сообщений осуществляется по команде с пункта управления оперативно-розыскными мероприятиями (далее – ОРМ) при организации круглосуточного удаленного доступа к хранилищу содержания сообщений.

[Ivan_83]

Ну тогда печально.

Но всё равно можно сколхозить дёшего полку.

На мозги я бы брал амд на ам1 сокете, всё лучше невнятных кирквудов а по деньгам походу так же.

Ну и вероятно 1-2 контроллера сата + сата бэклейты или как их, чтобы на каждый порт вешать по десятку дисков.

[BeHalf]

Всё это конечно хорошо, а если через полгодика в поправках появится что всё железо должно быть купленно у конторы А, тобишь сертифицированное железо для наших целей? Им один хрен какой-то софт еще под это надо запилить, так что скорее всего железо будет строго то, которое скажут. Мы же все в курсе сколько стоит СОРМ?) а тут такой простор для распила деятельности!

 

P.S. уменьшаем каналы в X раз, уменьшаем кол-во мегабит в тарифах в X раз, и увеличиваем стоимость тарифов. Вот только что скажут нам абоненты и наше родненькое государство (помним о том, что цены низзяя повышать вы чо!).

 

P.P.S. Серые схемы по покупке трафика, пока не прикроют, и прочее.

Изменено 10 января, 2017 пользователем BeHalf

[Sergey Gilfanov]

Уменьшать тарифы и каналы не поможет. В проекте постановления обьем хранения не от реально используемого, а от того, на сколько уже построенный узел рассчитан. Причём, кажется, не требуется, чтобы узел вообще эксплуатировался или даже включён был. И, кстати, официальная процедура вывода узла из эксплуатации, с доведением этого факта до Надзора - есть? А то,поди, у народа полно узлов, которые существуют уже только на бумаге.

[BeHalf]

Уменьшать тарифы и каналы не поможет. В проекте постановления обьем хранения не от реально используемого, а от того, на сколько уже построенный узел рассчитан. Причём, кажется, не требуется, чтобы узел вообще эксплуатировался или даже включён был. И, кстати, официальная процедура вывода узла из эксплуатации, с доведением этого факта до Надзора - есть? А то,поди, у народа полно узлов, которые существуют уже только на бумаге.

Ну во первых проекты есть не у всех, у кого-то возможно просто ТМ, на кол таких?)

Во вторых кто ж мешает сделать даунгрейд узла?)) звучит конечно по дурацки, но чтобы не было портов выше 100мбит :) изменения в проекте...

В любом случае первое время пока будут подобные дырки в законе, их будут использовать. После будет два пути, первый закрутят гайки так что проще будет закрыть контору, второй власть имущие сквозь пальцы будут смотреть на наши ухищрения.

[Jaguar77]

Seagete анонсировала SSD на 60 Тб, так что для 1Пб надо всего то 17 дисков, и 1 сервер :-)

 

60tb-ssd-36pb-storage-pod-next

Изменено 11 января, 2017 пользователем Jaguar77

[Tosha]

Так в моём подходе есть полки с винтами, которые пишут трафик. Как только диски заполнились - запись начинается на следующую полку, а записанные винты вытаскиваются, убираются в подписанный ящег на склад, со склада приносят старые с ненужными данными/новые из магаза, ставят и на следующий день/неделю история повторяется с другой полкой.

Держать все 100500 хардов онлайн смысла нет, вроде как по закону же нет к ним онлайн доступа?

Вот как раз ложить на полку похоже не выйдет. Придется держать это все онлайн. Все N петабайт + как-то оперативно искать нужные данные в этом объеме.

Вот придет запрос вида кто там передавал сообщение о подготовке теракта (текст неизвестен, кто - неизвестно) - и ищи...

[SpheriX]

http://www.opennet.ru/opennews/art.shtml?num=45838

Состоялся релиз Node-to-Node copy (NNCP), набора утилит для store-and-forward передачи файлов и электронной почты. Поддерживается работа на POSIX-совместимых операционных системах. Утилиты написаны на языке Go и распространяются под лицензией GPLv3+.

 

Утилиты ориентированы на помощь в построении небольших одноранговых friend-to-friend сетей (дюжины нод) со статической маршрутизацией для безопасной передачи файлов в режиме fire-and-forget, запросов на файлы и электронной почты. Все передаваемые пакеты зашифрованы (end-to-end) и явно аутентифицируются по известным публичным ключам знакомых. Луковое (как в Tor) шифрование применяется для всех промежуточных пакетов. Каждый узел может выступать как в роли клиента, так и сервера и использовать и push и poll модель поведения.

 

Главным отличием NNCP от решений UUCP и FTN (FidoNet Technology Network), кроме вышеупомянутого шифрования и аутентификации, является поддержка из коробки сетей флоппинет и компьютеров, физически изолированных (air-gapped) от небезопасных локальных и публичных сетей. Особенностью NNCP также является лёгкая интеграция (наравне с UUCP) с текущими почтовыми серверами, такими как Postfix и Exim.

 

Из возможных областей применения NNCP отмечается организация отправки/приема почты на устройства без постоянного подключения к интернету, передачи файлов в условиях нестабильного сетевого соединения, безопасной передачи очень больших объёмов данных на физических носителях, создание защищённых от MitM-атак изолированных сетей передачи данных, обхода сетевой цензуры и слежки. Так как ключ для дешифровки находится только у получателя, независимо от путей доставки пакета по сети или через физические носители, третье лицо не может прочитать содержимое, даже перехватив отправление. В свою очередь аутентификация по цифровой подписи не позволяет сформировать фиктивное отправление по видом другого отправителя.

[Sergey Gilfanov]

Вот придет запрос вида кто там передавал сообщение о подготовке теракта (текст неизвестен, кто - неизвестно) - и ищи...

А, кстати, требований по поводу того, что и как оно искать должно - вроде бы нет. С другой стороны - помнится, в требованиях к оборудованию СОРМ что-то такое было. Так что искать сами будут, надо будет только данные отдать (внедряем iSCSI доступ ко всем этим дискам со стороны серверов СОРМ) Но еще с другой стороны - неоднократно было замечено, что СОРМ(ФСБ) и прочие полиции друг с другом не дружат и информацией не делятся, поэтому провайдеру приходится искать самому.

 

Что напомнило - а правила доступа ко всему этому богатству написаны? Кто имеет право смотреть напрямую, кто может искать через интерфейс, может провайдер и по чему запросу данные из этих хранилищ выдавать, нужно ли шифровать(и чем) как хранилище, так и доступ к нему, нужны ли корочки/допуски/проверки на лояльность обслуживающему персоналу. Что делать с данными клиентов, которые сами сильно государственно-специальные и нервно реагируют на попытки к ним в трафик заглянуть.

[Sergey Gilfanov]

Главным отличием NNCP от решений UUCP и FTN (FidoNet Technology Network), кроме вышеупомянутого шифрования и аутентификации, является поддержка из коробки сетей флоппинет и компьютеров, физически изолированных (air-gapped) от небезопасных локальных и публичных сетей.

Ну, флоппинет сейчас изврат. А вот со смарта на смарт - самое то. Шпионский сценарий: приходим в условленное место, встаем у нужного булыжника и смарт свежую порцию почты передает/забирает.

 

EDIT: Страничка проекта явно на соответствующую технику ссылается.

EDIT2: Use cases просто замечательные. Надо Temych-у перевод сделать и выложить, ради нагнетания паранойи.

[Tosha]

Ну во первых проекты есть не у всех, у кого-то возможно просто ТМ, на кол таких?)

Если есть лицензия - значит должны оказывать услуги - значит должен быть сдан хотя бы один узел. С перечнем оборудования. А уж по оборудованию ясно какая производительность этого узла. Например, стоит коммутатор 24 порта 1G - значит со скоростями все ясно - 24G (они явно привыкли считать по максимуму возможного) :)

[SpheriX]

Sergey Gilfanov Опять же интернеты голубями заработают.

[Tosha]

У каждого провайдера будет копия актуальной чести всего Интернета (то что хотя бы раз в полгода кому-то понадобилось). Причем не в одном жкземпляре. Особо популярное будет лежать сотнями и тысячами копий. Т.е. каждый провайдер понесет почти такие же затраты как Гугл, но без его доходов. Печально...

[telematic]

У каждого провайдера будет копия актуальной чести всего Интернета

 

Можно кэш сделать, раз на хранилище потратились :-)

[SpheriX]

Каждый раз когда будут смотреть один и тот же ролик с проном, это будет писаться на диск.

[SpheriX]

Надо Temych-у перевод сделать и выложить, ради нагнетания паранойи.

Всё немного проще:

NNCP -- Node to Node copy, utilities for store-and-forward data exchange

Copyright © 2016-2017 Sergey Matveev <stargrave@stargrave.org>

UPD

http://www.stargrave.org/About.html#About

[Sergey Gilfanov]

Всё немного проще:

NNCP -- Node to Node copy, utilities for store-and-forward data exchange

Copyright © 2016-2017 Sergey Matveev <stargrave@stargrave.org>

А, ну тем более, можно сразу статью на русском просить.

[Tosha]

Можно кэш сделать, раз на хранилище потратились :-)

Оно неудобное, плюс половина трафика (ютуб) зашифрована.

[Sergey Gilfanov]

Оно неудобное, плюс половина трафика (ютуб) зашифрована.

Так это. Поставить диски/сервера и сразу в управление Гуглу и отдать.