В хвост бодро прошедшему в субботу боткэмпу не могу не написать злобного юридически-подобного пасквиля. (на самом деле нет).

Понятно, что мода на боты — некий вполне понятный след будущего, в виде голосовых интерфейсов. Или нет, жизнь покажет. А пока неплохо бы присмотреться, что эта жизнь может показать разработчику в плане внезапных проблем, о которых он может и не подумать заранее.

Проектируя боты (ну да, я уже вполне ввязался в методологию этого дела, предсказуемо, системных методологов на рынке не завал) все начинается с плоских предсказуемых историй с формальной лидогенерацией на экзотической теме. Будет работать какое-то время, дальше будем смотреть, насколько рынок ответит инструментами первого среза воронки — как загонять людей на бота. Дальше появятся боты с древовидной логикой, а дальше и сложные истории. В этом месте надо пафосно вспоминать нейронные сети, машинное обучение, Гитику Валеры Бардина, iii Ашманова с мегалингвистами вовнутре. И все это с неонкой, само собой.

И чем сложнее вся эта байда будет, тем внимательнее надо смотреть на пункт договора об ответственности за ущерб, который вы, золотые мои разработчики, наивно игнорируете в каждом первом договоре, потому как «ну какой ущерб еще может нанести сайт, магазин и тд и тп.
Понимаете к чему я?


Давайте для выпуклости возьмем крайний случай — робота автоводителя. Вот есть у нас автомобиль, он совершил ДТП, будучи под управлением автопилота. Кому вменим вину?

На сегодня по отечественному законодательству все довольно тривиально — виноват владелец авто. В том числе, если за рулем во время ДТП была его несовершеннолетняя любовница. В некоторых случаях вину удается повесить на водителя, но ущерб обычно возмещает именно владелец. Я лично таким образом поимел радость взыскания ущерба с компании-помойки, на которую был оформлен Бентли, приехавший мне в хвост. Фиг взыскал, кстати…

Уже немецкое законодательство сильно веселее, немцы разделяют разные виды оснований ответственности за брак:
— за дефекты при производстве товара;
— за дефекты в конструкции товара;
— за ошибки в инструкциях и руководствах по эксплуатации;
— за дефекты, которые выявляются лишь по мере развития технологий

И в зависимости от этого разные подходы к ответственности. Причем бегло по практике разобраться не получилось, но понятно, что там есть еще своя цепочка регресса, потому как есть автопроизводитель, а есть производитель софта автопилота, и он не всегда внутри компании.
Америкосы — это вообще космос, там глубоко копают, типа несколько случаев разбирается — смотря какой водитель типа за рулем — если инвалид (слепой, например) слишком старый или молодой, то это отличается от разумного водителя за рулем.

Главный вопрос — в какой пропорции поделить ответственность между производителем автомобиля и прокладкой между рулем и сиденьем. Например, описываются случаи, когда компьютер может затупить и отдать управление человеческому водителю, который в таких случаях должен забрать управление.
nplus1.ru/news/2016/02/10/real-human-being


Вот тут вот вообще говорится, что гуглопилота будут признавать Живым. Видимо посадят если что…
Месяц назад Толя Ализар писал, что у нас в КоАП уже вносят изменения. ООООК, будем посмотреть. geektimes.ru/post/273646
Вернемся к нашим баранам.

В самом простом случае разработчику ничего особенного не грозит. Логическая цепочка просто аналог алгоритма движения по заказу из функциональных требований, ничего неожиданного мы не ждем. А вот чем глубже, тем больше ожидаем претензий и вопросов от заказчика. Алгоритм бота откуда берем? У заказчика? Что-то сомневаюсь, будем проектировать сами, а осмысление большой карты взаимосвязей, если мы реализуем сложную логику — дело небанальное. Будем подписывать и актировать ее? Да, ок, но не факт что спасет.


(Слайд Михаила Бурцева, фото Андрея Колесникова)

Занятным выходом из ситуации будет, кстати, обязательное внедрение конструктора с большим мотивированием клиента к экспериментам. При том, что результат подобных экспериментов, конечно, малопредсказуем, но как минимум самостоятельное вмешательство клиента в алгоритм должно снять ответственность с разработчика изначального алгоритма. Но с возможностью ухудшения качества. Будет очень занятно, если именно угроза завышенной ответственности за потенциальный ущерб/убытки будут существенным тормозом перед разработкой на самом деле сложных коммерческих систем.

Чем сложнее разработка и чем более авторский алгоритм, тем большую ответственность за внезапные проблемы могут повесить на разработчика те, кто этот алгоритм будут использовать. Фактически мы выпускаем на волю обезьяну, будучи совершенно уверенными в том, что гранату она нигде не добудет. Правда жизни, напротив, подсказывает нам, что правило Мерфи работает почти всегда.

Пока вы Гугл — вы можете позволить себе написать многостраничную юридическую отмазку, мол если что, разбирайтесь сами. Но большинство даже довольно крутых разрабов — не Гугл, и юридическая служба заказчиков такие вольности будет старательно разворачивать.

И вот тут самым ценным опытом окажется опыт Темы Лебедева, многие годы старательно выкручивающий руки заказчикам.
Поделиться с друзьями
-->

Комментарии (6)


  1. mwambanatanga
    16.05.2016 10:42
    +2

    Очень тяжело читается. Некоторые фрагменты, типа

    > начинается с плоских предсказуемых историй с формальной лидогенерацией на экзотической теме

    вообще ломают парсер.


    1. maxzhurkin
      24.05.2016 18:38

      Ну так практикуется товарищ в составлении своих юридических капканов.


  1. ServPonomarev
    16.05.2016 11:01
    +1

    Тема про ответственность рабов так и не раскрыта. А если ДТП будет с трупами, то и отвечать по любому будет человек, а не мифический конгломерат прикрытых юридической казуистикой корпораций. Даже если машина вообще одна ехала, без людей на борту (типа, сбежала покататься).

    А по чат ботам — до первого случая доведения до самоубийства. Опыт Майкрософта наглядно показал, что интернет-тролли бота плохому завсегда научат. А тот потом затроллит до шага из окна какого-нибудь несчастного. Кто будет отвечать в этом случае? Выставивший в публичный доступ инструкции по самоубийствам — то есть, хозяин бота.


    1. msado
      16.05.2016 13:10

      в этом и вопрос — кто конкретно будет этот человек


    1. site6893
      16.05.2016 22:22

      отвечать будет врач который недосморел пациента (если он был на учете) который при общении с ботом хочет в окно.


    1. pda0
      16.05.2016 22:22

      А в авиации как сейчас? Скажем, после крушения самолёта, когда выяснилось, что имел место дефект в конструкции? Про выплаты слышал. Про сроки вроде нет.