Всё начинается и заканчивается антенной:
Антенна, кроме, собственно, зеркала и облучающей системы, имеет в своём составе волноводные тракты, МШУ и (по варианту) систему автосопровождения, антиобледенения, осушки волноводного тракта. Осторожно, трафик.
В непосредственной близости от антенны располагается радиооборудование: передатчики (усилители мощности СВЧ), конвертеры, системы резервирования активного оборудования, контроллеры систем автосопровождения и антиобледенения. Между радиооборудованием на крыше и модемами в аппаратной идут «сигналы ПЧ» (промежуточная частота, низкая 70/140 МГц, или L-Band 1 ГГц). ПЧ подаётся по кабелям или с применением специальных устройств «ПЧ через оптику».
Итак, давайте ещё раз пробежимся по тому, что и как здесь работает в виде короткого FAQ.
— Что за данные передаются чаще всего?
Поскольку «ВымпелКом» более известен как оператор сотовой связи, то неудивительно, что значительную часть трафика составляет именно трафик мобильной сети. Тем не менее, очень существенную часть трафика составляет «не мобильный» трафик: корпоративные сети, магистральный голос, интернет. Если же брать не принадлежность трафика, а его тип, то мы тут не уникальны: существенная часть трафика — это данные, включая тот же интернет. Как, впрочем, и на любой другой современной сети связи.
— Сколько спутников использует сеть?
У нас одна из наиболее крупных спутниковых сетей в России, если смотреть с точки зрения суммарной скорости каналов. И для её работы сейчас используется десяток спутников, раскиданных по дуге от 57 до 183 градусов восточной долготы. Для пытливых: 183 градуса восточной долготы — да, на самом деле это уже 3 градуса западной. Но спутник имеет «зону обслуживания» в восточном полушарии, поэтому и числится за этим полушарием.
— Для чего нужно такое большое зеркало антенны?
Вообще-то, это тема для отдельной статьи, под названием «Энергетика спутниковых линий». Но если коротко, то так: чем больше диаметр зеркала, тем более узкий луч формирует антенна. И тем больше энергии уходит именно в этот луч, а не разлетается во все стороны. Обычный карманный фонарик: чем больше отражатель у лампочки, тем дальше будет бить такой фонарик. Тут все то же самое. Зачем это нужно и почему нельзя просто поставить «лампочку» (т. е. передатчик в нашем случае) помощнее? Можно. Но при этом вы улучшите энергетику только на линии «Земля — космос». А сигнал, отправленный спутником назад, надо ведь ещё умудриться поймать. И если на стороне приёма у вас будет маленькая антенна, то для получения требуемого соотношения «сигнал — шум» на входе приёмника вы будете отбирать от спутника больше энергии (ресурсов, если хотите). А бортовой ресурс — это самое дорогое во всей этой схеме. Для иллюстрации — диаграмма из легендарного справочника «Спутниковая связь и вещание» под редакцией (не менее легендарного) Л. Я. Кантора:
Всё, что вверх — это усиление/прибавка сигнала; всё, что вниз — это потери/затухание. Видите всплески вверх около каждой из антенн? Это как раз и есть выигрыш в энергетике, который тем больше, чем больше диаметр антенны. Внимательным: на диаграмме изображён только один пролёт: «Земля — космос» или «космос — Земля» (на выбор). Но для второго пролёта — всё то же самое. Усиление антенны зависит ещё и от диапазона частот, в котором она работает. И чем выше частота, тем больше усиление. Поэтому антенна диаметром 3,5 м, работающая в диапазоне Ku (11/14 ГГц), имеет примерно такое же усиление, как антенна 7 м, работающая в диапазоне С (4/6 ГГц). Теперь понятно, почему подавляющее большинство систем непосредственного телевещания использует именно диапазон Ku?
— Чем ограничен минимальный размер рефлектора? Почему на машинах телевизионщиков «тарелки» меньше?
— Что нужно знать про диапазоны и поляризацию на пальцах?
Наиболее распространены два частотных диапазона: C (средняя частота вверх, на линии «Земля — космос» в районе 6 ГГц, частота вниз — 4 ГГц) и Ku (14 ГГц вверх, 11 ГГц вниз). Вся доступная полоса на спутнике поделена на транспондеры (или стволы), разнесённые по частотам. Для простоты можно считать, что транспондер — это комплект из приёмника, преобразователя частоты, который переносит сигнал с частоты вверх на частоту вниз, и передатчика, настроенных на определённый диапазон частот. И таких транспондеров на спутнике несколько (несколько десятков, если мы говорим о современных «тяжелых» спутниках). Для возможности использовать одни и те же частоты дважды сигнал разделяется по поляризации. В диапазоне С обычно используется круговая (правая и левая) поляризация, в Ku — линейная (горизонтальная и вертикальная). В итоге частотно-поляризационное распределение транспондеров на спутнике выглядит примерно так:
Вверху — приём спутником сигналов от Земли, внизу — передача на Землю. Указаны центральные частоты транспондеров, и их условные номера. Внутри каждого из транспондеров организуются каналы. Какие и сколько — зависит от энергетики, типа используемой системы, требуемой полосы канала (каналов), и самое главное — от потребности в каналах и имеющихся у оператора денег.
— Почему частота линии вверх всегда выше частоты линии вниз? И почему вообще частоты разные?
Чем выше частота, тем сложнее её усиливать. И тем меньшей эффективностью обладает такой усилитель (в плане выходной мощности, потребляемой мощности, массогабаритных характеристик). Понятно, что при равных выходных мощностях на спутник вы поставите тот усилитель, который поменьше весом, потребляет меньше энергии и выделяет меньше тепла. И это будет усилитель, работающий на более низкой частоте. А частоты разные потому, что в малом объёме (а внутри спутника очень тесно) невозможно обеспечить большой коэффициент усиления на одной частоте. Попытка сделать такое приведёт к самовозбуждению усилителя. Используя разные частоты для приёма и передачи, мы делим весь усилительный тракт спутника пополам. И для каждой из половинок задача становится вполне решаемой.
— Каков путь голоса от спутникового абонента до абонента во Франции? Через какие узлы проходят данные?
От телефона до базовой станции, от базовой станции до станции спутниковой связи, далее — на спутник, с него — на центральную станцию, работающую в паре с этой (Хабаровск, Красноярск, Москва...). Далее канал со звонком приходит на свой зоновый коммутатор. Причем если БС уральская, а канал приземляется в Москву, то ему придётся идти обратно на Урал — так требует протокол работы сетей GSM/3G. Коммутатор распаковывает данные, вычленяет из них, собственно, звонок. А далее — то же самое, что и в обычной АТС: по номеру видно, куда надо этот звонок отправить дальше (в данном примере — во Францию). Опять в магистраль до Москвы, в Москве — в «межгород», до коммутатора во Франции, там — до вызываемого абонента.
Что самое смешное, интернет в GSM/3G ходит по такому же принципу. Нерационально? Да, но таковы требования стандартов и архитектуры сетей GSM/3G: dura lex sed lex. И двойное использование наземной магистрали — это ещё не самое печальное. Гораздо печальнее, когда спутниковая БС подсоединяется к своему коммутатору, который, в свою очередь, имеет аплинк тоже через спутник. А такая ситуация возникает практически во всех крупных городах, не имеющих выхода во внешний мир через наземные каналы (уже упоминавшиеся Анадырь, Магадан, Камчатка). В этом случае звонок (или данные) абонента идут через «два скачка». А это не только двойная стоимость, но и двойные задержки. Но такова жизнь, и ко всему можно привыкнуть — даже к разговору с задержкой в 1,5 секунды. Замечу, что в сетях LTE передача данных организована более рационально.
— Как определять, куда «приземлять» сигнал, если спутник виден из Хабаровска и Иркутска?
Если источник трафика (или, наоборот, его конечный потребитель) находится, к примеру, в Москве, то, естественно, лучше выбрать Иркутск, отыграв на этом около 50 мс задержки. Благодаря тому, что у нас большая сеть, много возможных точек приземления, свои наземные магистрали и много спутников — для каждого случая можно подобрать наиболее оптимальный вариант. Не так давно Intelsat презентовал свою инновационную схему для приземления каналов пользователей — Intelsat One. А мы это делаем уже минимум лет десять, и без особого шума.
Пока всё. Следующая часть не так романтична — мы спустимся в аппаратную и посмотрим, зачем инженеру в двадцать первом веке нужен осциллограф, а заодно внимательно изучим путь сигнала дальше.
Оборудование
Мы спускаемся с холодной высокой крыши в тёплый уютный аппаратный зал. Он расположен в достаточно большом помещении, где установлено не только «чисто спутниковое» оборудование, но и много чего ещё: канальное и каналообразующее оборудование, АТС, оптические и медные кроссы, системы низковольтного питания и их батареи. И, естественно, системы климатики и кондиционирования. Причем это вовсе не единственная аппаратная, расположенная в этом здании.
На входе, как требуют правила хорошего тона, нужно сдать волыны и вытереть ноги. Для ускорения последнего сделана специальная липкая площадка, которая тщательно отнимает всю грязь, оставшуюся после коврика:
Кабели ПЧ из контейнеров приходят в отдельную стойку. Вот они, узнаёте?
В этой же стойке установлены «групповые сплиттеры» ПЧ, разводящие сигналы по стойкам с модемами:
Каждая пара сплиттеров — это приём и передача одного транспондера.
Для «Rx #55»: отводы с группового сплиттера приёма на две стойки и на систему мониторинга спектра (разъём, помеченный красным маркером).
Аналогичная схема применяется и для разводки сигналов на отдельные модемы внутри модемных стоек:
Если в какой-то стойке живут модемы, работающие в нескольких стволах, то в такую стойку устанавливается соответствующее число пар сплиттеров приёма и передачи:
Это всё хорошо работает для «ПЧ 70/140». А вот для по L-Band затухание на кабелях между крышей и аппаратной становится неприемлемо высоким. И мы используем устройства, позволяющие засунуть аналоговый радиочастотный сигнал в оптику:
Кроме заметно меньшего затухания — ещё и полное отсутствие радиопомех и наводок на кабелях!
Параметры всех сигналов можно проконтролировать анализатором спектра. Установлен тут же, в стойке групповой разводки ПЧ. Для контроля для каждого из стволов предусмотрены специальные отводы, оканчивающиеся разъёмами на передней панели этой стойки.
Ладно, пойдём-ка мы к модемам…
Модем — это устройство, предназначенное для сопряжения некоего цифрового интерфейса с неким аналоговым каналом. Просто? Для спутниковых модемов — не совсем. Спутниковый канал — это не канал «релейки», держать здесь приличную энергетику — непозволительная роскошь. А чтобы по такому шумному каналу можно было работать, модемы оснащены очень продвинутыми кодеками. Задача кодека — на этапе кодирования добавить к полезной информации «избыточные» проверочные биты. А на этапе декодирования — восстановить по этим проверочным битам присланную информацию, убрав из неё ошибки. Причем закодировать информацию нужно с минимальными добавками, а декодировать — максимально правильно и за минимальное время. Практически все алгоритмы, по которым работают декодеры, известны достаточно давно. Но если реализация простого декодера по Виттерби была доступна ещё в последней четверти прошлого века, то современные кодеки (TPC, LDPC, VersaFec) смогли появиться только после существенных прорывов в вычислительной технике, случившихся в последнее десятилетие. Современные коды, применяющиеся в спутниковой связи, всего на какие-то доли децибела не доходят по производительности до теоретического предела Шеннона.
Вверху — самые первые модемы, которые были способны работать с модуляцией 16QAM. Ниже — их более современные, более быстрые и более производительные аналоги. Заодно они заметно меньше, легче и экономичнее.
Это были модемы, способные делать «закреплённые каналы». А вот аппаратура предоставления каналов по требованию:
С виду вроде бы те же кабели и те же карты. Но на самом деле — это более суперкомпьютер и мощный маршрутизатор, нежели классический модем. Ведь его задача — не просто организовать безошибочный канал, а ещё и поделить этот канал между всеми страждущими. Учитывая при этом «классы обслуживания», установленные для конкретного пользователя и для конкретного типа трафика. Причём сделать это, опять же, с минимальной задержкой на обработку. И поделить так, чтобы вне зависимости от числа выделяемых таймслотов и количества переданных пакетов у пакетов для каждого конечного пользователя был минимальный джиттер.
Ещё дальше в цепочке — каналообразующее оборудование. Много чего размещено в тех же стойках, где установлены модемы. Так минимизируется длина интерфейсных кабелей.
Спутниковые каналы могут приходить на различные пакетные коммутаторы.
Ну, «про циски знают все». А вот это — Nortel Passport. Достаточно древняя машина. Но, пожалуй, она лучше (бережнее и нежнее) всех справляется с голосовым трафиком.
Каналы могут уходить дальше, через оптику:
И коммутироваться из одной сети в другую:
Тут ещё осталось несколько совсем уж ископаемых TDM-мультиплексоров Newbridge, по праву считавшихся лучшими в своём классе. “A long time ago, in a galaxy far, far away...”
Что ещё тут есть из интересного? Ну….
Посмотрите, как у нас весело под фальшполом. Причём это ещё не самое заполненное место. За годы эксплуатации кабелей прибывало и пространство внизу стремительно расходовалось. Вот тут, например, можно поднять плитку и спокойно опустить её обратно. Но я знаю пару мест, где плитку поднимаешь, а потом чувствуешь себя человеком, запихивающим зубную пасту обратно в тюбик.
Чуть ли не первые кроссы во «внешний мир», которые появились в этой аппаратной:
Шкаф внизу — телефонные «эхозаградители»:
Медные кроссы спереди…
…и сзади:
А ещё — оптические:
Батареи низковольтного питания и их система мониторинга:
Да, всё это великолепие было установлено уже в расширенную аппаратную. Когда всё начиналось, тут была небольшая комнатка. Потом прямо при работающем оборудовании аккуратно ломались стены и зал расширялся. Ну как, готовы сегодня на такой эксперимент?
А это — натурально, старый добрый осциллограф, продолжающий жить в стойке с первыми модемами для 16QAM.
Старые модемы были сделаны инженерами и для инженеров. Да, у них была встроенная диагностика, которая говорила, что модему плохо. Но в чём конкретно плохо — она не говорила (да и сейчас не особо говорит, если честно).
И что же делал истинный инженер? Правильно: откидывал переднюю панель модема…
подключал осциллограф к контрольным точкам I и Q (ключевые контрольные точки для стандартной схемы демодулятора по Костасу)…
и рассматривал вид глазковой диаграммы, получаемой модемом:
Вот это — очень хорошо.
Вот это — просто хорошо.
А вот это — очень плохо. Всем всё понятно?
К слову сказать, только в последних версиях модемов разработчики снова вернулись к возможности просмотра глазковых диаграмм. Правда, сейчас это реализовано на качественно новом уровне. Осциллограф больше не нужен, достаточно web-интерфейса.
А наши древние модемы используются время от времени в качестве простого, удобного и надёжного инструмента для измерения трактов.
Мониторинг и эксплуатация сети
Нормальная работа любой сети невозможна без систем мониторинга. Не исключение и наша спутниковая сеть, работающая в 9 часовых поясах и использующая спутники, часть из которых не видна из Москвы (Земля ведь круглая; Дальний Восток, считай, уже на «той стороне»).
Для спутниковой сети мы используем три таких системы: «многоточечную» систему мониторинга несущих и частотных полос транспондеров (помните разъёмы, покрашенные маркером?), «фирменную» систему управления и мониторинга систем «предоставления каналов по требованию» и самописную систему контроля и мониторинга спутникового оборудования.
Вот, например, наш самописный мониторинг. Ну да, он не без огрехов, в нём нет особых красот и сервисных возможностей, зато присутствует энное количество глюков. Зато он позволяет делать то, на что неспособны некоторые «фирменные» системы мониторинга. В конце концов он достаточно удобный, потому что его делали мы сами и под свои конкретные задачи.
Кстати, обратите внимание на суровые будни сети и температуру на передатчике. На секундочку, это температура радиатора мощного каскада передатчика, потребляющего из розетки (и почти полностью превращающего в тепло — к вопросу об эффективности высокочастотных усилителей) чуть меньше киловатта мощности.
Об отделе
Несмотря на достаточно большой размер сети и большие объёмы работы, собственно «спутниковых специалистов» у нас всего два десятка человек. А ведь это и текущая эксплуатация сети, и расчёт частотно-энергетических параметров, и включение новых каналов, и строительство новых станций и узлов, и подготовка проектной, эксплуатационной и разрешительной документации… А ещё круглосуточная инженерная смена, ведь самое главное — это предотвратить возникновение проблемы, а не ударно устранять потом её последствия.
В последнее время мы достаточно широко используем услуги подрядных организаций, особенно для решения типовых задач строительства и эксплуатации спутниковой сети. Тем не менее практически все монтажи крупных узлов или какие-то существенные переделки уже работающих делаются либо с нашим участием и под нашим непосредственным контролем, либо нашими собственными силами. Не в обиду, но это гораздо проще, быстрее и лучше, чем сначала пару дней объяснять, а потом всё равно переделывать.
Также приходится выезжать и на какие-то нетипичные или непонятные аварии и поломки. Опыт, конечно, подсказывает, в чём там может быть дело, и что — хотя бы приблизительно — надо иметь с собой. Но если поломка нетипичная, то кроме правильных запчастей и прямых рук нужно иметь ещё и соображающую голову. Головы вполне хорошо взращиваются в собственном коллективе: молодой специалист, пришедший к нам два года назад, стал за это время высококлассным специалистом, способным решить практически любую задачу или проблему.
Естественно, мы работаем не в вакууме, а в тесном взаимодействии с другими подразделениями и службами. И не только в Москве, но и по всей стране. В конце концов, если где-нибудь в Сибири антенну начинает заваливать снегом, то только кто-то из «аборигенов» физически сможет успеть скинуть с неё снег до того, как связь окончательно прервется.
Поэтому, как и в любом большом деле, работа спутниковой сети зависит не от конкретных людей — и даже не от конкретного подразделения. Тут работает хорошо сплочённая команда, члены которой знают друг друга и помогают друг другу уже очень много лет.
Про спутники, спутниковую сеть и спутниковое «хозяйство» я могу рассказывать очень долго. Возможно, звучит это очень пафосно, но спутниковая сеть — мой первый (а значит, любимый) ребёнок: она всего на 4 месяца старше моего сына.
Комментарии (19)
redcactus
09.04.2015 12:14+2А вот это — очень плохо. Всем всё понятно?
Естественно — запредельный джиттер. На приемной стороне при таких условиях ничего принято не будет. Оно и «хорошо» там достаточно условное, но работать должно.
А вы сигнальное (оно же фазовое) созвездие называете глазковой диаграммой — это у вас такая устоявшаяся терминология?
AnatV Автор
09.04.2015 12:43Строго говоря, на картинках — действительно «созвездие» (constellation). А «глазковая диаграмма» (eye pattern) — это его развертка по времени. И за всех не скажу, но лично мне — более привычен именно термин «глазковая диаграмма». Аналогично с «джиттером»: джиттер для меня — это, скорее, «дрожание фронтов в цифровом сигнале». А для демодулятора — мне бы было более привычно услышать «фазовое дрожание». НИИРовская школа дает о себе знать…
r00tGER
09.04.2015 14:01+1И вновь очень интересно. Спасибо!
а вот тут стрёмное местоAnatV Автор
09.04.2015 14:47Да, это разводка питания 48 вольт.
Но даже для «безопасных» 48 вольт — тут есть защита. Если приглядеться, то видно, что вся клеммная колодка — закрыта прозрачной пластмассовой крышкой. Т.е. в клеммник — пальцем (или отверткой) просто так не попасть.r00tGER
09.04.2015 14:56Я имел ввиду, что провода не закреплены, на случай если «вырвуться» из клемника.
«Висячий» провод такой длины легко на корпус может коротнуть.
Обычно питалово фиксируют дополнительно, что-бы «повисший» конец никуда не мог дотянуться.
Nubus
10.04.2015 03:36Вопрос, а штат всего в 20 человек это которая из ситуаций:
-А нам больше и не надо!
или
-Хорошую голову тяжело найти!
?
evg_krsk
10.04.2015 07:52(пока не читал, только картинки пролистал) Спасибо за статью.
SDM8000 и SMS700 ещё в работе? Прям музейное что-то :-)AnatV Автор
10.04.2015 11:03Нет, не в работе. Но не демонтированы, потому что иногда используются в виде стенда.
А вообще, «музейная редкость» — это Comstream CM-701. Последний — убрали всего-то лет пять назад, работал на одну из клиентских станций.evg_krsk
10.04.2015 11:14Знакомая смесь старого и нового. В дельта-окрестности тут пара SDM300A и 4-6 PSM4900. Вроде бы даже в работе :-)
evg_krsk
10.04.2015 11:21Жалко только про самописную NMS маловато.
AnatV Автор
10.04.2015 14:47Пожалуй, основная особенность нашей монитрилки в том, что у нее нет централизованного сервера сбора данных. И любой комп внутри TMN с установленным на нем ПО — в принципе, может и производить опрос подключенного к нему оборудования, и управлять другой станцией, и монитрить всю сеть (или ее часть).
Еще одна хитрость — модули общаются между собой по собственному протоколу. Тоже пакетному, но не ip. Это дает возможность использования для управления каналов через RS-232, а так же позволяет использовать «чужие» TMN, никак не связанные с моей. При этом — никаких дыр в безопасности не возникает в принципе: в образовавшийся «backdoor» может влезть только эта мониторилка, и ничего более.
Можно ли было обойтись без подобных выкрутасов? Наверное, можно. Но мы делали монитроилку под себя и под свою сеть, и решили, что так нам будет удобнее…
mayorovp
10.04.2015 12:07+1И для её работы сейчас используется десяток спутников, раскиданных по дуге от 57 до 183 градусов восточной долготы. Для пытливых: 183 градуса восточной долготы — да, на самом деле это уже 3 градуса западной.
Разве не 177?
reff
21.04.2015 14:04Нет проблем с липкими желтыми листочками? Точнее, с их отклеиванием? Не дай Бог человек чихнёт в сторону «Владивосток ТТК backup» и всё.
AnatV Автор
21.04.2015 17:51+1Сейчас сверился с записями. Конкретно этот канал — был включен 23 сентября 2004 года. Тогда же — был наклеен и этот листок.
Канал был отключен пять лет назад, за ненадобностью. А листок — все еще держится!
kolu4iy
Я так понимаю, это жестокое наследие канальной организации передачи данных вместо пакетной?