Первый случай, когда люди обратились в суд по поводу потери инвестиций, к которой привела работа автономных машин, станет проверкой пределов надёжности

С каждым днём роботы становятся всё больше похожими на людей, но судиться с ними до сих пор нельзя.

Поэтому гонконгский магнат выбрал иной вариант за неимением лучшего. Он судится с продавцом, убедившим его доверить часть своего капитала суперкомпьютеру, торговля на бирже которого обошлась ему в более чем $20 млн.

В деле столкнулись Саматур Ли Кин-кан, отец которого – один из крупнейших инвесторов компании Shaftesbury Plc, владеющей большей частью лондонского чайна-тауна, Ковент-Гардена и Карнаби-стрит, против Рафаэля Коста, который большую часть карьеры занимался продажами инвестиционных фондов таким компаниям, как Man Group Plc and GLG Partners Inc. Это первый случай, когда люди обратились в суд по поводу потери инвестиций, к которой привела работа автономных машин, станет проверкой пределов надёжности, и вытаскивающей на свет проблему «чёрного ящика»: если люди не знают, как компьютер принимает решения, кто отвечает, когда что-то пойдёт не так?

«Люди считают, что алгоритмы работают быстрее людей и лучше их принимают решения», — сказал Марк Лемли, профессор юриспруденции из Стэнфордского университета, руководящий местной программой «Закон, наука и технологии». «Часто так и есть, но когда это оказывается не так, или когда алгоритмы сбиваются с пути, инвесторы ищут козла отпущения».


Рафаэль Коста

Сроки, предшествовавшие судебной тяжбе, были взяты из документов, отправленных в суд по коммерческим вопросам в Лондоне, где слушание дела должно начаться в апреле следующего года. А всё началось за обедом в ресторане в Дубае 19 марта 2017-го. Тогда Ли, 45-и лет, повстречался с Костой, 49-летним итальянцем, известным в своей среде, как «капитан Волшебник». Во время еды Коста описал роботизированный хедж-фонд, услуги которого по полностью автоматическому управлению деньгами при помощи ИИ скоро начнёт предлагать его лондонская компания Tyndaris Investments.

Суперкомпьютер K1, разработанный австрийской компанией 42.cx, будет прочёсывать в онлайне такие источники информации, как новостные статьи и соцсети, чтобы оценивать настроение инвесторов и делать предсказания по поводу будущей стоимости фьючерсов. Затем он будет отправлять брокеру инструкции по управлению акциями, со временем подстраивая стратегию на основе полученной информации.

Идея полностью автоматического управляющего деньгами мгновенно вдохновила Ли. Он встретился с Костой за ужином через три дня, а до этого в емейле писал ему, что ИИ-фонд «именно то, что мне нужно».

В следующие месяцы Коста делился с Ли результатами симуляций, в которых K1 достигал двузначных прибылей на вложенные деньги, хотя теперь они спорят по поводу тщательности исторического тестирования. Ли в итоге доверил K1 управление $2,5 млрд — из них $250 млн были его собственными, а остаток – рычагом от Citigroup Inc. Эту сумму планировалось удвоить.

Однако увлечение K1 у Ли сразу же прошло, когда компьютер начал торги в конце 2017. К февралю 2018 он устойчиво терял деньги, включая случай, когда за один день было потеряно $20 млн – 14 февраля – из-за стоп-лосса [«лося» на жаргоне трейдеров / прим. перев.], который, как утверждают адвокаты Ли, не был бы приведён в исполнение, если бы K1 был настолько навороченным, как утверждал Коста.

Сейчас Ли подал иск к Tyndaris на сумму в $23 млн из-за преувеличения возможностей суперкомпьютера. Юристы Tyndaris, подавшей в суд на Ли за $3 неуплаченных штрафов, отрицают тот факт, что Коста преувеличивал возможности K1. Они утверждают, что он никогда не гарантировал, что стратегия ИИ будет давать прибыль.

Сара Макатомайни, юрист инвестиционной компании Ли, судящейся с Tyndaris, отказалась давать комментарии. Роб Уайт, представитель Tyndaris, отказался связать редакцию с Костой для интервью.

Юридические баталии – предвестник того, что может случиться, когда ИИ будет включён во все сферы жизни, от робомобилей до виртуальных помощников. Когда технология даёт осечку, вопрос о том, кого в этом обвинять, оказывается спорным. В марте прокуроры США оправдали Uber Technologies Inc., обвиняемую в смерти 49-летнего пешехода, погибшего под колёсами одного из её робомобилей.


Прибыль в 2019-м году на каждые $100 инвестиций, вложенных в 2014-м; прибыль S&P 500 указана с учётом повторно инвестированных дивидендов.

В мире хедж-фондов попытки использовать ИИ стали необходимостью после многих лет неудовлетворительной работы людей-управляющих. Количественные инвесторы – компьютеры, специально разработанные для поиска и реализации торгов – уже популярны. Реже встречаются чисто ИИ фонды, автоматически обучающиеся и улучшающие эффективность на основе опыта, не имеющие специально запрограммированных данных. Как только ИИ вырабатывает собственное понимание ситуации, даже его создатели перестают понимать, почему он принимает те или иные решения.

«Вы можете оказаться в такой ситуации, что не сможете объяснить, почему вы удерживаете данную позицию», — сказал Энтони Тодд, сооснователь лондонской компании Aspect Capital, экспериментирующей с ИИ-стратегиями перед тем, как позволять им работать с клиентскими инвестициями. «Одно из наших опасений, связанных с применением техник машинного обучения, состоит в потере чётких гипотез о поведении рынка».

Адвокаты Ли утверждают, что Коста завоевал доверие, раздувая квалификацию техников, писавших алгоритм K1, и говорил, к примеру, что они занимались разработкой Deep Blue, шахматного компьютера IBM, ознаменовавшего рассвет эры ИИ в тот момент, когда он обыграл чемпиона мира в 1997-м.


Гарри Каспаров играет против IBM Deep Blue в 1997

В разговоре с «Блумберг» основатель 42.cx Дэниэл Мэттс сказал, что ни один из консультировавших его специалистов по информатике не имел отношения к Deep Blue, однако один из них, Владимир Львович Арлазаров, в СССР в 1960-х разработал шахматную программу «Каисса» [она победила в 1-м чемпионате мира среди компьютеров в Стокгольме в 1974 г. / прим. перев.]. Он признал, что такой опыт, возможно, не особенно сильно связан с инвестициями. Алгоритмы довольно хорошо научились выигрывать у людей в игры, поскольку в них существуют чёткие правила, поддающиеся симуляции – чего не скажешь о фондовых рынках. Алазаров сказал «Блумберг», что он давал Мэттсу консультации общего характера, но не работал над K1.

Вдохновившись исследованием Европейского центробанка от 2015 года, где изучали настроение инвесторов на основе записей в твиттере, 42.cx создала ПО, способное выдавать сигналы о настроении, сказал Мэттс, согласившийся недавно выплатить $17 млн комиссии по ценным бумагам США, чтобы урегулировать судебный иск об обмане инвесторов своей компании мобильных платежей Jumio Inc., совершённом в начале 2010-х. А как реагировать на эти сигналы, решали в Tyndaris, сказал он.

«Это была прекрасная программа, — сказал нам Мэттс по телефону. – Выдаваемые нами сигналы имели чёткие научные обоснования. Я думаю, что мы довольно неплохо сработали. Я знаю, что способен улавливать настроения. Я не трейдер».

В судебных документах содержится много споров по поводу того, обманывали ли Ли касаемо возможностей K1. К примеру, машина создавала единственную заявку по утрам, если получала чёткий сигнал о настроении инвесторов, хотя Ли заявляет, что считал, будто она будет заниматься торговлей в течении дня. Адвокаты Коста говорят, будто он сообщил Ли, что покупка или продажа фьючерсов на основе нескольких торговых сигналов входили в планы компании, но не планировались с самого начала работы.

Бывали периоды в несколько дней, когда K1 вообще не торговал, поскольку не находил достаточно сильных трендов. В одном из сообщений к Косте Ли жаловался, что K1 отдыхает, при этом спокойно пропуская неблагоприятные события, в надежде, что не дойдёт до активации приказа стоп-лосс (предустановленного уровня, по достижению которого брокер будет продавать акции, чтобы ограничить потери при внезапном падении цен).

Это и произошло в день св. Валентина в 2018-м. Утром K1 разместил заявку у брокера Goldman Sachs Group Inc. На $1,5 млн фьючерсов S&P 500, предсказав рост индекса. Но тот пошёл в обратном направлении, когда выяснилось, что инфляция в США выросла быстрее, чем ожидалось, что привело к активации стоп-лосс K1 на 1,4% и потере фондом $20,5 млн. Однако через несколько часов S&P восстановил позиции – и это, по утверждению адвокатов Ли, показывает, что граница стоп-лосса для K1 была установлено «грубо и неправильно».

Ли заявляет, что его уверили, что K1 будет использовать собственные «возможности глубокого обучения» ежедневно для определения правильной границы стоп-лосса на основе таких факторов рынка, как волатильность. Коста отрицает, что говорил такое, и заявляет, что сказал Ли, что этот уровень всегда будут назначать люди.

В интервью Мэттс сказал, что в K1 не закладывали возможность самостоятельной установки стоп-лосса – он умеет лишь выдавать два типа сигналов о настроении: обобщённый, который Tyndaris может использовать для входа в позицию, и динамический, который можно использовать для выхода или изменения позиции. Хотя Tyndaris рекламировал фонд, управляемый K1, другим инвесторам, представитель отказался отвечать на вопрос о том, управлял ли он какими-то реальными средствами. А все упоминания о суперкомпьютере исчезли с его сайта в прошлом месяце.

Инвесторы, и, в частности, Маркус Сторр, говорят, что беспокоятся о входе ИИ-фондов на биржу, особенно учитывая, что фонды, использовавшие ИИ в качестве основной стратегии, заработали за три года менее половины прибыли от S&P 500, согласно данным по индексам от Eurekahedge AI Hedge Fund.

«Мы не можем судить код, — сказал Сторр, принимающий решения об инвестициях в Bad Homburg, немецком трастовом фонде. – Так что нам остаётся лишь судить об исследовательских возможностях и структуре».

Но что происходит, когда компании используют чатботов для продажи продуктов клиентам? Возможно, тут даже не получится засудить продавца, добавила Каришма Пароха, лондонский юрист из компании Kennedys, специализирующийся на ответственности за продукты. «Недопонимание относится к тому, что вам говорит человек, — сказала она. – Что происходит, когда вам что-то продаёт не человек?»