Некоммерческая независимая организация Watson 2016 Foundation пропагандирует интересную идею: вместо того, чтобы выбирать одного из кандидатов в президенты США, они предлагают сделать выбор в пользу аналитической машины IBM Watson, возможности которой напоминают работу искусственного интеллекта.
Отстаивая свою точку зрения, члены фонда (никак не связанного с компанией IBM) пишут, что возможности системы Watson по оценке информации и вынесению информированных и прозрачных решений делают её идеальным кандидатом на пост президента.
На сайте фонда утверждается, что Watson – это компьютерная система, умеющая отвечать на вопросы, заданные на естественном языке, изначально разработанная компанией IBM для телевикторины «Jeopardy!». Watson собирает информацию из разных источников и на её основе выдаёт ответ – причём, чем больше этой информации, тем более информированным получается ответ.
Также членам фонда нравится интерфейс системы – в частности, визуальное представление текущего состояния работы аналитического алгоритма и демонстрация уровня уверенности системы в правильности данного ею ответа.
По сути, авторы проекта предлагают своим согражданам сделать первые шаги по направлению к технократии – власти технологических экспертов, эффективно выполняющих административные функции, в данном случае – при помощи автоматической системы принятия решений. Одним из возможных пределов развития технократии является автократия искусственного интеллекта – передачи управления государством сложной интеллектуальной компьютерной системе.
Система Watson, названная так по фамилии первого директора корпорации IBM, действительно была разработана специально с целью сыграть в викторину «Jeopardy!» (известная передача «Своя игра» – лицензионная адаптация этой викторины для российского ТВ). Попытка увенчалась успехом – в результате, Watson выиграла у двух наиболее успешных американских эрудитов, распознавая вопросы, заданные на английском языке и выдавая ответы.
Однако и в этой игре не обошлось без различных глюков и курьёзов. Например, в категории «Города США» на вопрос «Крупнейший аэропорт этого города назван в честь героя Второй Мировой, а второй по размерам – в честь битвы Второй Мировой». Люди-участники правильно ответили, что этот город – Чикаго, а Watson в качестве ответа написал «What is Toronto?????». При этом из-за сложности системы руководитель проекта смог лишь выдвинуть предположения о том, по какой причине Watson дал такой странный ответ.
Кроме участия в телевикторине, разработчики настраивали Watson для создания новых рецептов еды, выбора наилучшего подарка к празднику, предсказание вероятности появления хронических заболеваний у людей на основании их медицинских показателей, анализ психологического портрета участников соцсетей.
Первым коммерческим применением системы стал анализ состояния пациентов с раком лёгких, который должен помочь принять решения, связанных с их лечением.
Однако все эти применения системы основаны на её способности собирать и анализировать готовые данные и работать со статистикой – что вряд ли составляет серьёзную часть работы президента. Задача президента государства схожа с задачами директора крупной фирмы (если говорить о настоящих, а не марионеточных президентах) – это принятие решений на основе имеющейся информации.
Однако возможность компьютерной системы принимать осмысленные решения в рамках управления целой страной вызывает сомнения. Ведь принятие решения – это не простой ответ на конкретный вопрос, как в «Своей игре». К тому же, в телевикторине все вопросы имеют единственный правильный ответ.
Принятие государственных решений обычно сводится к выбору наименьшего из зол, осложнённому недостатком достоверной информации. Кроме этого необходимо учитывать наличие различных противоборствующих сил в иерархии правящей верхушки и другие весьма нелинейные факторы, которые будут препятствовать претворению решений в жизнь.
Разработчики системы Watson потратили несколько лет лишь на её настройку и отладку для участия в викторине. Сколько времени и усилий потребуется, чтобы система стала надёжно работать с вопросами, ответы на которые влияют на судьбы миллионов людей – сказать сложно. Необходимо при этом учесть такие факторы, как возможность атак на компьютерную систему со стороны недоброжелателей.
Конечно, можно представить себе вариант, при котором человек, управляющий страной, при принятии решений консультируется с подобной системой. Но захотят ли облечённые властью люди полагаться на компьютерную систему, разрабатываемую коммерческой компанией – это тоже большой вопрос.
А об опасностях, подстерегающих на пути доверия искусственному интеллекту нас уже предупреждал даже Стивен Хокинг.
О различных формах правления можно почитать здесь:
Комментарии (38)
AlexanderS
07.02.2016 22:44+2В каком-то фантастическом рассказе МДС я уже что-то подобное читал…
Там вроде комп выбирал человека, который потом выбирал президента. Учитывалось абсолютно всё (предпочтения человека и т.д. и т.п.), поэтому всегда президент выбирался тот, который «нужен» =) Общество было в восторге, а сам выборщик просто счастлив и горд от своей пользы и миссии в обществе.
Жаль названия не помню… За 5 лет почти всю МДС отслушал, сюжеты рассказов как-то помню, а вот с названиями и авторами печаль, конечно.
geher
07.02.2016 23:12+1Не знаю, тот же ли рассказ я читал, или другой, но в том, что я читал, во-первых, выборщик не выбирал, а отвечал на кучу неочевидных вопросов, после чего компьютер сам принимал решение о том, кто будет президентом.
Во-вторых, радость у общества была только в том случае, если с президентом угадывали. Если же не угадывали, то весь гнев общества направлялся на несчастного «выборщика», который на самом деле ничего не выбирал.
А потому каждый боялся стать выборщиком.
Roma1879
09.02.2016 13:05Не совсем по теме. Помню книгу где президенту надевали ошейник со взрывчаткой. Один косяк и прощай голова.
EugeneButrik
07.02.2016 23:33+6Почему я представляю себе робота в овальном кабинете Белого дома, который с криком «What is Toronto?????» методично молотит по красной кнопке в чемоданчике? Я пессимист, да?
Error_403_Forbidden
08.02.2016 01:58да.
Есть такая штука как тестирование. Благодаря ей компании сохраняют свои деньги из-за плохого кода.
Здесь ТО ЖЕ самое
Iqorek
08.02.2016 23:00При этом из-за сложности системы руководитель проекта смог лишь выдвинуть предположения о том, по какой причине Watson дал такой странный ответ.
ответ зависит не от кода, который да, можно протестировать, а от «опыта» полученного при обучении ИИ, а тут все варианты проверить не получится.
mkovalevich
08.02.2016 04:02+1Если он подумав выдаст «We choose to go to
the MoonMars. Not because it's easy but because it's hard», то можно и взять в президенты.EugeneButrik
08.02.2016 04:41+2И зачем? Чтобы он потом начал крутить романы со всякими актрисами, тем самым обижая любимицу страны, очаровательнейшую миссис Watson, а в конечном итоге чтоб ему вынесли половину слоев нейронной сети в каком-нибудь Далласе, разбив сердце нации? Они ещё раз подобного не вынесут.
dotmeer
09.02.2016 10:51А потом со своими друзьями-роботами построит автономную станцию и свалит на пролетающую мимо комету…
(если что, отсылка к Человек-плюс/Марс-плюс)
temppp
08.02.2016 06:36+1Скайнет, залогинься! )
Andrusha
08.02.2016 06:53Скорее Джон Генри Эдем.
zorge_van_daar
08.02.2016 21:33Здравствуй, дорогая Америка.)
Soulveig
08.02.2016 23:42Это твой президент — Джон Генри Эден. Нам нужно кое о чём поговорить, если ты, конечно, не против.
cyber_genius
08.02.2016 16:15+1Я всегда думал что по технакратическому пути первые пойдут японцы, ну поспотрим вдруг американцы решатся, хотя они всегда были довольно консервативны
Nihonjin
08.02.2016 19:16+1Японцы еще более консервативны. У скандинавских стран куда больше шансом на технократическое будущее.
cyber_genius
08.02.2016 19:23нда, но у них и проблем гораздо меньше, а значит и нет смысла что-либо менять
websurfer
09.02.2016 02:00Смотря какую функцию отдать «цифровому президенту». Выдавать советы, способы, решения, но, окончательное решение принимают люди. Надеюсь, «в напёрстки» не захочется поиграть «сильным мира сего».
vsapronov
09.02.2016 03:58+1Может!
if myParty == DEMOCRATIC { whiteHouse.changeCarpet(color: BLUE) } else if myParty == REPUBLICAN { whiteHouse.changeCarpet(color: RED) } else { whiteHouse.throwCarpetAway() } sleep(30 * 24 * 60 * 60) if healthcare.shittyFactor() > 0.8 { healthcare.declareHealthcareReform(name: «ObamaCare») sleep(6 * 30 * 24 * 60 * 60) healthcare.screwRefoorm() people.introduceNewTax(name: «ObamaCare») }
Crr
09.02.2016 06:35«Я могу представить себе такое будущее, в котором мы будем для роботов тем, кем сейчас являются собаки для людей». Клод Шеннон.
Alexey2005
09.02.2016 09:58Это было бы очень большим шагом вперёд, т.к. сейчас власть имущие зачастую к собакам лучше относятся, чем к населению страны.
Togran
09.02.2016 13:02Да здравствует Джон Генри Эдем!
Оптимист обрадуется, что этот президент будет работать на благо народа, пессимист — что на благо программистов и админов. Идея хороша, но лучше было бы протестировать её сначала на какой-то небольшой стране, которой хуже точно не станет
Bobromir
09.02.2016 13:02Вспомнился мне Президент Джон Генри Эдем из третьего Фоллаута.
А почему бы и нет?
DrMorphine
09.02.2016 13:02Машина будет принимать решение, а армия аналитиков и программистов будет копаться в логах и исходном коде и объяснять простым людям, почему именно это решение было принято.
key_a1tos
09.02.2016 13:07Вспомнил Гетов из вселенной Mass Effect.
Особенно мне нравилось как они принимают решения — соединяются в единую сеть и голосуют (своеобразная демократия)
jcksmt
09.02.2016 13:08Была тут статья «Отдайте всю власть айтишникам». К сожалению комментарий к ней я не смог тогда написать. (правила не позволяли)
Нас еще в школе учили марксизму ленинизму. Рабовладельческий, феодальный, капиталистический. Каждый характеризуется производственными отношениями. Рабы, крестьяне, пролетариат. И мы видим что старый капиталистический строй уже исчерпал и ему на смену идет новый. Мы видим уже первые признаки его появления. Уже сейчас роботы работают на заводах и в полях. В скором времени появятся робомобили для перевозки пассажиров и грузов. Роботы будут входить в нашу жизнь. Ну и президентом тоже будет робот (ИИ) это только вопрос времени.
Lure_of_Chaos
09.02.2016 13:17Может, когда интеллект обычных людей, продолжая падать, снизится до уровня собачьего.
(даже не знаю, пошутил ли я или нет)
AntonSor
Это уже было у Айзека Азимова. Впрочем, работу 95% бюрократов, выдачу справок и тому подобного, вполне в состоянии выполнять компьютер. Слава роботам! :)
NetBUG
Или, как говорят в более свежих байках, скрипт на Питоне заменяет чиновника.
VenomBlood
Вот было бы хорошо, после доведения системы до кондиции в предметной области — заставить сенат и президента обязательно использовать ее при принятии решений и публично объяснять свою мотивацию если решение не совпадает с экперным советом, данным подобным watson'ом.