Расскажите, как долго вы занимаетесь хостингом? Как к этому пришли и с чего начинали?
Хостингом занимаюсь с 2007 года. Первым проектом была текстовая онлайн-игра для телефонов, и мне не нравилось большое количество проблем на разных площадках, где её размещал. В то время знакомые делали небольшой хостинг, после общения с ними решил сделать свой. Начинал с услуг реселлинга на базе панели управления DirectAdmin. Работает это просто — покупаете виртуальный хостинг с возможностью формирования своих тарифов и продаете их на своём сайте. Это удобная схема для тех, кто только начинает, потому что требуются минимальные затраты. В дальнейшем можно наращивать мощности, переходить на виртуальные серверы, а затем на выделенные. Крупные компании на тот момент не предлагали реселлинг, пользовался реселлингом от inhoster.ru и clickhost.ru. Обе эти компании в настоящее время не работают, знакомые свой хостинг тоже закрыли. Стоит отметить, что хостинг на базе реселлинга проблем онлайн-игры не решил, она недолго простояла на хостинге и была перенесена на отдельный сервер в связи с ростом онлайна.
Какая панель управления тогда была, каким пользовались биллингом?
Начинал с DirectAdmin, со временем появился хостинг с Cpanel и ISPmanager. Если сравнивать данные панели, то DirectAdmin для меня остается до сих пор лучшей, как с точки зрения стабильности, так и администрирования. ISPmanager очень не люблю из-за нестабильной работы. В качестве биллинговой системы вначале использовал Bpanel, но она практически перестала развиваться, поэтому в 2011 году заменил ее на WHMCS, которой пользуюсь до настоящего времени.
Первый тикет после смены биллинговой системы
Как у вас начали появляться клиенты? Как вы сейчас привлекаете клиентов и пользуетесь ли рекламой?
Первые 3 года число клиентов было минимальным, в месяц было не более 10 заказов, дальше число стало расти. Пробовал рекламировать проект в Яндекс.Директ и Google Ads, но это никогда не окупалось. Стоимость клика в Яндекс.Директ значительно выше месячной стоимости большинства тарифов хостинга, что крайне невыгодно. В Google Ads стоимость клика выходит комфортной, но возникает ощущение, что переходят по рекламе только боты. Недавно попробовал рекламировать хостинг в ВКонтакте, стоимость клика вышла самой выгодной, но эффективность оценить сложно, так как показов и переходов немного. Сейчас продолжаю размещать новости на тематических форумах, хоть трафик с них и небольшой, но узнаваемость это повышает. Реклама хостинга минимальна (только брендовые запросы и ретаргетинг), основной приток клиентов происходит за счет «сарафанного радио».
Как происходило дальнейшее развитие?
В какой-то момент ресурсов максимальных тарифов стало недостаточно, также клиенты стали просить различные изменения, которые в рамках реселлинга сделать было невозможно (например, в DirectAdmin до сих пор на уровне клиента нельзя подключить поддомен вида *.example.com). В тот момент я совсем не разбирался в администрировании, но это не помешало мне перейти на виртуальный сервер. Путем проб и ошибок набирался опыта, при этом на стабильность работы это влияло минимально. Со временем перешел на выделенные серверы в Hetzner и OVH. Переход на собственные серверы позволил продавать услуги реселлинга, так как буквально недавно я сам пользовался такими услугами, то это казалось очень крутым. После валютного кризиса в 2014 году пришлось сокращать расходы для сохранения стоимости тарифов. Было принято решение об отказе от аренды серверов за границей и переводе всей инфраструктуры в Россию. Сначала я арендовал серверы в renter.ru, но из-за проблем с DDoS-атаками перешел в Селектел на размещение собственных серверов и подключил защиту от атак.
Один из первых серверов
Правильно ли я понимаю, что основное направление вашей деятельности — это виртуальный хостинг?
Да, преимущественно это виртуальный хостинг, на виртуальные серверы перевожу чаще всего клиентов, которым перестает хватать ресурсов или имеющих плохо оптимизированные сайты. Тарифы подбираются индивидуально, чтобы было выгодно клиенту. Сами по себе виртуальные серверы с сайта продаются плохо. Выделенные серверы не продаю, так как с моей аудиторией на них нет спроса.
Расскажите про сайт: как появился, делали сами или заказывали где-то?
Первый сайт я запустил в 2007 году на домене lite-host.in. Он был примитивный, по сути сделан на коленке. В 2011 году обновил сайт, дизайн и верстку заказывал у фрилансеров, а серверную часть писал сам.
В 2014 году произвел очередное обновление сайта, в этот раз делал все сам на базе популярного шаблона Unity.
Через год приобрел доменное имя lite.host и обновил сайт еще раз, в таком виде он существует по настоящий момент.
Со старым доменом связано несколько историй. Через несколько лет после его регистрации кто-то зарегистрировал такой же адрес в другой зоне, и клиенты начали путаться. Именно это было толчком к регистрации нового домена lite.host, но другой сервис снова отличился и зарегистрировал доменное имя lite.hosting. Однако стоимость его продления выросла до 20 000 рублей в год, из-за чего они от него отказались (это предположение, истинная причина отказа от продления мне неизвестна). Два года назад попробовал запустить англоязычный сайт, но за год кроме десятка клиентов из Китая привлечь никого не удалось, и данная версия сайта была закрыта.
Вы работаете один или в команде?
Я работаю один, и меня часто спрашивают, как я всё успеваю, так как сейчас на серверах размещено более 4 700 услуг и 9 000 сайтов. Для меня в этом нет ничего странного и удивительного, так как большинство процессов автоматизировано. Клиент может самостоятельно сделать заказ, разместить сайт, поменять версию PHP, подключить сертификат и сделать прочие необходимые действия. Мониторинг всех серверов за многие годы отлажен за счет большого числа собственные наработок, которые в случае проблем автоматически их решают, либо, если произошло что-то нестандартное, уведомляют меня в любое время суток. Стоит отметить, что какие-либо проблемы случаются редко. В случае, если мне требуется куда-либо уехать, я привлекаю техническую поддержку на аутсорсе от isplicense.ru. Немного статистики: за прошедший год обработано 4 695 тикетов, это примерно 13 в день, на каждое обращение приходится в среднем по 2 сообщения от клиента. На помощь клиентам уходит не более 4 часов в день (это с тем учетом, что иногда приходится разбираться в сайтах клиентов). В связи с этим, я пока что не вижу необходимости в найме дополнительных сотрудников, потому что их просто нечем будет занять.
Как вы распределяете свое время? Работаете ли где-нибудь или хостинг — это основное занятие?
Мой день обычно начинается с обработки обращений в поддержке. В отличие от аутсорса, стараюсь предугадать последующие вопросы клиента и даю развернутые ответы, чтобы полностью решить его проблему как можно скорее и избежать повторных обращений. На это обычно уходит не больше нескольких часов, дальше я оказываю услуги администрирования, либо решаю какие-то задачи по программированию, параллельно обрабатывая новые обращения из поддержки. При этом, основным проектом для меня является хостинг. Свой проект не могу назвать бизнесом, так как не ставлю для себя цель извлечения максимальной прибыли. Для меня главное предоставить качественную услугу для клиента, чтобы он работал со мной длительное время. Работаю из дома, график в целом свободный, при этом без дела сидеть не могу. В свободное время всегда изучаю новые вещи, экспериментирую или что-то разрабатываю для личных целей. Путешествовать не люблю, для поддержания физической формы и сохранения здоровья катаюсь на велосипеде.
Чем еще занимаетесь кроме ответов на тикеты?
За полные 12 лет работы в сфере хостинга накопил огромный опыт, который позволяет решать практически любые задачи в сфере программирования и администрирования. Я обычно не берусь разрабатывать какие-то проекты на заказ (при этом есть ряд клиентов с которыми работал в этом направлении 5 лет назад, с ними работаю до сих пор). Сейчас ко мне обычно обращаются в авральных ситуациях. У кого-то не работает сервер или сайт, команда администраторов или программистов не может определить причины неработоспособности длительное время, пишут мне, я за короткое время определяю и решаю проблему. В остальное время дорабатываю внутренние системы хостинга, либо делаю что-то новое. Например, в марте запустил новую систему резервного копирования, клиентам очень понравилась возможность создания резервных копий и восстановления сайтов в несколько кликов независимо от используемой панели управления. Сейчас занимаюсь разработкой панели управления серверами, основной функционал (установка сервера, включение и выключение, удаленный рабочий стол) реализован, часть клиентов в тестовом режиме работают с ней. Параллельно, очень медленным темпом идет разработка собственной системы мониторинга, так как готовых решений не хватает. Внутренняя часть уже готова и работает, однако интерфейса до сих пор нет. Надеюсь, со временем удастся довести до ума и представить систему сообществу для сбора обратной связи.
Сколько у вас своих серверов размещено, где и почему? Сколько клиентов размещается на сервере?
У меня сейчас 8 собственных серверов, размещаю их в Селектел (Санкт-Петербург), арендую 2 сервера в OVH (Европа) и один сервер для резервных копий в PinSPB (Санкт-Петербург). Резервные копии всегда размещаю в отдельном дата-центре, в этом плане я немного параноик. Количество клиентов на сервере зависит от конфигурации, на старых серверах примерно по 500 учетных записей виртуального хостинга, на новых более 1000. Виртуальные серверы сейчас размещаю на трех физических, на каждом около 30 клиентов. OVH был выбран с точки зрения соотношения цены и качества. Селектел выбрал именно в Санкт-Петербурге, так как бываю в этом городе чаще, чем в других, и есть знакомые, которые могут помочь с доставкой серверов и комплектующих. Сам дата-центр привлек историей (работают давно, имеют много точек размещения, стабильная компания с хорошей репутацией), качеством услуг и стоимостью. Размещение одного сервера обходится в 3 200 рублей в месяц.
Есть ли какие-то проблемы с нехваткой или стоимостью IP-адресов?
Раньше арендовал адреса в дата-центре Селектел, цена была около 60 рублей в месяц, но со временем они повысили стоимость, и сдавать сервер за 300 рублей в месяц, отдавая треть этой суммы за IP-адрес, стало невыгодно. Недавно арендовал в сторонней организации блок на 256 адресов и анонсировал его в Селектел, стоимость адреса снизилась до 20 рублей. Теперь с адресами проблем нет, текущего объема мне хватит надолго.
Расскажите про динамику роста количества клиентов.
Как рассказывал ранее, первое время число клиентов было минимальным. Однако, в конце 2012 года число новых заказов выросло в 4 раза, за счет чего в течение следующего года клиентская база выросла в несколько раз. Были также моменты, когда роста клиентской базы практически не было, но этот период удалось переломить за счет начала сотрудничества с веб-студиями. В прошлом году отказался от дешевых тарифов с помесячной оплатой, это снизило нагрузку на отдел поддержки и улучшило показатель оттока клиентов. Основной поток клиентов идет по рекомендациям тех, кто уже пользуется услугами. На рекламу сейчас уходит не более 1% от ежемесячного оборота, так как она малоэффективна.
У вас есть клиенты, которые с вами с самого начала работают?
К сожалению, статистики за 2007 год не осталось в связи со сменой биллинга в 2011 году, однако 11 клиентов до сих пор работают с 14 января 2011 года, когда был переход на новый биллинг. Еще в 2014 году был запущен бесплатный хостинг, которым можно воспользоваться в образовательных целях. Есть люди, которые его используют до сих пор, при этом на сайтах отсутствует реклама, и они не заплатили ни одного рубля.
Как чаще всего платят? Есть ли какие-то трудности с приемом платежей? Сами ли ведете бухгалтерию?
Большинство клиентов оплачивает услуги банковской картой, дальше по популярности Яндекс.Деньги, WebMoney, Сбербанк.Онлайн и QIWI (это статистика за последний год, раньше WebMoney был популярнее Яндекс.Денег, а QIWI обходил Сбербанк.Онлайн). Платежи принимаю через UnitPay, Яндекс.Кассу и Робокассу (платежный агрегатор зависит от способа оплаты). Когда делал англоязычную версию сайта, добавил прием платежей через PayPal, но им пользуются только 1% покупателей. Прием всех платежей автоматизирован, это важная часть ведения бухгалтерии.
До 2018 года не работал с юридическими лицами из-за невозможности полной автоматизации обработки платежей на расчетный счет, а также формирования отчетных документов без необходимости отправки бумажного экземпляра. Сейчас работа с юридическими лицами полностью автоматизирована, документы подписываются квалифицированной электронной подписью и доступны для скачивания в личном кабинете. В первое время к таким документам относились настороженно, но потом привыкли. В свете последних событий многие только сейчас начинают понимать, как удобен электронный документооборот. Бухгалтерию веду сам, это совсем не сложно за счет автоматизации. Достаточно сверить цифры, подписать и отправить отчет по упрощенной системе налогообложения раз в год.
Как часто бывают технические проблемы с серверами? С какими трудностями сталкивались?
За все годы работы из строя выходили чаще всего диски, один раз была проблема с блоком питания. Проблем с другими составляющими сервера не припоминаю. Когда арендовал серверы в OVH, и вышел из строя блок питания, его меняли несколько недель. Основная проблема была в том, что сервер работал, но периодически зависал. Объяснить это поддержке было очень сложно, в итоге я просто заказал новый сервер и перенес клиентов на него, а старый сервер закрыл после истечения срока оплаты. Проблемы с дисками были в основном во времена использования Hetzner, но при выходе из строя их меняли без вопросов и достаточно оперативно.
Есть ли у вас запасной сервер на случай поломки какого-либо из существующих? Хранятся ли у вас какие-либо ЗИП в дата-центре? Как будет происходить замена или ремонт?
Да, в дата-центре стоит запасной сервер, в котором собраны различные диски. Такое решение принято в связи с тем, что аренда ячейки для хранения комплектующих стоит почти половину размещения сервера, при этом в ячейку не поместится даже блок питания для замены. В случае, если выйдет из строя диск, сотрудники дата-центра по запросу заменят именно его, при выходе из строя иных комплектующих сервера, диски просто переставят в резервный сервер, после чего я буду решать вопрос с ремонтом вышедшего из строя сервера. Стоит отметить, что в дата-центре Селектел я был только один раз, заносил документы, при этом серверы никогда сам не доставлял.
Какие серверы и комплектующие используете? Сколько все это стоит?
В начале марта приобрел новый сервер SuperMicro на базе Intel Xeon E2288G и NVMe SSD накопителей Samsung PM983, обошелся сервер в 223 000 рублей. На момент этого интервью данный процессор находится в тройке лидеров однопоточного тестирования www.cpubenchmark.net/singleThread.html#server-thread. Скорость работы сайтов обычно зависит от частоты одного ядра, поэтому можно смело сказать, что на новом сервере с E2288G сайты будут работать быстрее всего.
Ранее брал поддержанное оборудование через galtsystems.com, но так как стоимость сервера на базе процессоров Intel Xeon E5-2XXX сопоставима по стоимости и общей мощности с Intel Xeon E2288G, то под виртуальный хостинг принял решение взять новый сервер. Под виртуальные серверы буду определенно пользоваться услугами Галт Системс, так как Intel Xeon E5-2XXX через них брать выгоднее.
Для хостинга использую серверы с процессорами Intel Xeon E5530, E5-2665, E5-2670 и E-2288G и объемом оперативной памяти от 64 до 128 GB. В качестве резервного сервера стоит Intel Xeon E5-2670 v2. Когда собирал первые серверы, использовал SSD накопители Samsung EVO 850 по 500 GB, но они исчерпали ресурс записи за 2 года. Потом взял Toshiba HK4R по 1.92 TB, за 2 года ресурс записи израсходован только на 2.5%. В этом году взял Kioxia HK6-R (это новый бренд Toshiba) на 1.92 TB, а также решил попробовать NVMe накопители Samsung PM983 по 1.92 TB, сейчас они стоят на новых серверах виртуального хостинга.
Хватает ли трафика? Как часто случаются DDoS-атаки и насколько дорого обходится защита? Пользуетесь ли какими-то сторонними сервисами для мониторинга доступности?
С трафиком проблем нет, дата-центр на каждый сервер предоставляет 1 Гбит/c канал с лимитом трафика 30 ТБ в месяц, его использую для передачи резервных копий. Сайты работают через сервис защиты от атак, где суммарная средняя нагрузка по всем серверам не превышает 50 Мбит/c (это около 15 ТБ в месяц). В течение дня число запросов по всем серверам доходит до 520 в секунду.
До 2017 года с атаками практически не сталкивался, они были, но простейшие, их отражали дата-центры. Но с мая 2017 года начался поток атак, скорее всего этим занимались какие-то недобросовестные конкуренты, потому что атаковали все серверы случайным образом. Если бы атаковали какого-то конкретного клиента, то атаки были бы на один сервер. Сначала я пробовал проксировать трафик через дата-центры с защитой от атак (ihor.ru, databor.ru, ovh.ie и прочие), но это было малоэффективно. Стоит отметить, что OVH неплохо справлялся с атаками, но из-за увеличения пинга клиенты жаловались на скорость работы. В конце лета я обратился в team-host.ru, они организовали защищенный канал по локальной сети между дата-центрами, и это полностью закрыло вопрос атак. Хочу выразить огромную благодарность Александру Чернышеву, очень выручил в непростой момент! Защита от атак обходится в половину стоимости размещения всех серверов. Для внешнего мониторинга использую сервис monitorus.ru, который отправляет запрос на каждый сервер и проверяет ответ. За 2018-2019 годы, средний UPTIME всех серверов составил 99.995%.
Сетевой порт виртуального хостинга
С кем из крупных игроков сотрудничаете, где регистрируете домены? Не возникало ли каких-либо спорных ситуаций?
Доменные имена в зонах RU и РФ регистрирую в reg.ru. Они устраивают меня как по качеству услуг, так и по стоимости. Поддержка отвечает быстро и по делу. Из неприятного могу только вспомнить недавнее увеличение стоимости доменов без каких-либо уведомлений. Зарубежные домены регистрирую через resellerclub.com, тоже отлично выполняют свою работу.
Можете дать какой-нибудь совет будущим клиентам?
Советую не брать виртуальные серверы для небольших сайтов, это невыгодно. Панель управления, мониторинг и администрирование стоят денег, либо требуют времени. В стоимость хостинга это всё обычно включено, при этом его конечная цена ниже. Современный, правильно настроенный виртуальный хостинг мало отличается от сервера в плане выделения ресурсов. Вы также получаете определенный объем ресурсов и можете использовать их по своему назначению.
- Декабрь 2007 года — запуск проекта на домене lite-host.in. Тарифы были от 0.3$ за 25 мегабайт до 4$ за 500 мегабайт. Хостинг был на базе реселлинга DirectAdmin и Cpanel.
- 2011 год — запуск нового сайта. Переход в Hetzner и запуск услуги реселлинга. Замена Bpanel на WHMCS. В конце года было около 100 клиентов.
- 2012 год — добавление поддержки IPv6, с тех пор данная адресация доступна для всех услуг при наличии технической возможности. В конце года добавлена возможность регистрации доменных имен. Домены с тех пор продаются с минимальной наценкой для оплаты налогов. Продажа доменов по большей части предназначена для удобства пользователей, заработка на них практически нет.
- 2013 год — добавление возможности смены версии PHP от 5.2 до 5.4 через файл .htaccess. Стоит отметить, что в тот период панели управления смену версии PHP не поддерживали, это были собственные наработки. Начало работы с CloudLinux для разделения ресурсов, данное решение используется до сих пор. Запуск первого сервера с ISPmanager 4 и переход на SSD накопители, что позволило очень сильно увеличить производительность. Летом была запущена продажа виртуальных серверов. Этот год стал резким толчком к развитию сервиса. В начале года было 150 клиентов, а в конце года стало 450.
- 2014 год — запуск нового сайта. Добавлена поддержка по телефону, которая оказалась не слишком эффективной, так как очень много времени уходило на идентификацию клиента и дальнейший разбор проблемы (узнать точный домен, где проблема, получить доступ для входа в панель администратора и так далее). В конечном итоге от поддержки по телефону отказался. По телефону можно только морально поддержать, но не оперативно решить проблему. Запуск бесплатного хостинга. Получение сертификата «Хостинг-партнер» от Битрикс. В декабре из-за резкого роста курса валют принято решение о переносе услуг из Европы в Россию.
- 2015 год — в апреле произошло первое повышение цен для клиентов из-за того, что renter.ru не сдержал обещание и поднял стоимость аренды в полтора раза. Пришлось поднять стоимость продления услуг для существующих клиентов на 30%, а новые заказы принимать с 50% наценкой. Переход на LSPHP от CloudLinux, ранее использовал FastCGI подключение. 1 сентября был запущен новый сайт, который имеет текущий дизайн, а также осуществлен переход на домен lite.host.
- 2016 год — добавление поддержки HTTP/2 и сертификатов Let's Encrypt на все серверы. В первый год было выпущено более 1000 бесплатных сертификатов. Покупка первого собственного сервера в squadra-group.com и его размещение в pinspb.ru. Из-за того, что дата-центр был расположен в жилом здании, о надежности говорить было сложно. В апреле переехал в Селектел, а в конце года взял еще один сервер для переноса на него услуг виртуального хостинга из renter.ru.
- 2017 год — установка на серверы антивируса AI-BOLIT, тот самый revisium.com/ai. С тех пор сканирование всех файлов выполняется в режиме реального времени, при заражении система вводит ограничения на выполнение ряда функций PHP и высылает отчет о заражении для клиента. На тот момент это было новшество, практически без аналогов у других хостеров, хотя и по сей день сканирование в режиме реального времени у многих конкурентов отсутствует. С мая по август происходит борьба с DDoS-атаками, которая заканчивается подключением решения от team-host.ru, сначала в режиме проксирования трафика с renter.ru, а после полного переезда в Селектел и подключением защиты напрямую, что позволило повысить качество услуг.
- 2018 год — попытка запуска англоязычной версии сайта, подключение PayPal для приема платежей, добавление возможности автоматизированной работы с юридическими лицами.
- 2019 год — обновление тарифной сетки виртуального хостинга, отказ от дешевых тарифов с помесячной оплатой. В апреле получил свидетельство о регистрации товарного знака lite.host.
- 2020 год — покупка нового сервера на базе Intel Xeon E2288G и NVMe накопителей Samsung PM983 для запуска новых серверов виртуального хостинга. Аренда первого блока на 256 адресов, до этого использовались маленькие блоки /29 в Селектел, что было невыгодно. Запуск новой системы резервного копирования, теперь на услугах виртуального хостинга хранится более 10 копий за последние 30 дней, а данные отдельных сайтов можно создавать и восстанавливать в несколько кликов.
Буду рад услышать ваши отзывы. Евгений yoh присутствует на Хабре, желающие могут задать ему вопросы.
bzzz00
спасибо за интервью, интересно было читать.
какое ПО используется для виртуализации? как виртуализируется NVME?
Yoh
Виртуализация KVM. Использую в том числе для серверов виртуального хостинга. Удобнее мигрировать между физическими серверами и обслуживать, плюс на начальных этапах позволяет увеличить плотность размещения.
На NVME создаю LVM том и пробрасываю внутрь виртуальной машины с помощью VirtIO драйвера. По скорости вроде неплохо serverscope.io/trials/zxWA (до 3 000 мб/c). С NVME работаю только месяц, возможно все тонкости еще не успел познать.
Мне больше интересно, почему тест UnitBench внутри виртуальной машины падает с
2737 до 1242 баллов. Отключал HT, закреплял ядра в конфигурации виртуальной машины, менял значение модели cpu (host-passthrough и host-model), результат почти не меняется.
Tangeman
Такое падение производительности может быть связано с защитой от spectre/meltdown. Ради эксперимента, можете попробовать её отключить (как на хосте, так и в KVM) и сравнить результаты.
Мои эксперименты показали разницу примерно в 2 раза (в основном на вводе-выводе включая сетку, cpu-bound почти не затрагивается), что примерно соответствует вашим результатам. Проблема в том что для публичного хостинга отключение защит вряд-ли приемлемо.
Yoh
Вы были правы, отключил spec_ctrl в инструкциях виртуальной машины + внес необходимые параметры для ядра. UnixBench показал нормальне результаты, без просадки производительности внутри виртуальной машины serverscope.io/trials/MJjD#system (на хосте при этом защита была полностью включена).
С учетом того, что E-2288G выпущен в прошлом году, не ожидал такой просадки от spectre/meltdown.
Благодарю за информацию, определенно сэкономили мне много часов на поиск источника проблемы.