Эта поучительная история, о том, как результаты компьютерного анализа больших данных могут вводить нас в заблуждение, произошла полвека назад. Примерно в середине монументального документального фильма Линна Новика и Кена Бёрна о Вьетнамской войне, диктор рассказывает анекдот, в котором отражены взаимоотношения между военными и компьютерами в середине 60-х.
«Есть старая апокрифичная история о том, что в 1967 они спустились в подвал Пентагона, тогда компьютеры занимали целые подвалы, и ввели через перфокарты всё, что могли подсчитать: количество кораблей, танков, вертолётов, артиллерии, пулемётов, боеприпасов — всё, что поддавалось исчислению» — говорит Джеймс Уилбэнкс с кафедры военной истории Командно-штабного колледжа армии США. «Они заложили всё это в устройство и спросили “Когда мы победим во Вьетнаме?”. Это было в пятницу, компьютер считал все выходные, а когда они вернулись в понедельник, то в лотке перфокарт с результатами лежала только одна карточка. Она гласила: “Вы победили в 1965”.»
Конечно, в первую очередь это шутка. Но учитывая, что министр обороны Роберт МакНамара подчеркнул обработку таких данных, меня заинтересовало, действительно ли в те годы использовалось ПО для точного расчёта времени победы США в войне. И возможно ли, что оно действительно дало такой ответ.
Самое заметное упоминание вышеописанной истории можно найти в исследовании Гарри Саммерса “American Strategy in Vietnam: A Critical Analysis”. Но там говорится, что компьютерный анализ выполнялся администрацией президента Никсона, а не Джонсона:
«В 1969-м администрация Никсона взяла все данные по Северному Вьетнаму и США и скормила их компьютеру в Пентагоне — размер населения, ВНП, объём производства, количество танков, кораблей и самолётов, размер вооружённых сил и так далее. Затем компьютер спросили: «Когда мы победим?». Через мгновение он ответил: “Вы победили в 1964-м!”»
Саммерс утверждает, что об этой «горькой маленькой истории» стало известно «в последние дни Вьетнамской войны». Он отмечает, что «война, пусть даже ограниченная, это нечто большее, чем простое измерение, оценка и вычисления». Несомненно, что возможности Вьетнама оценивались и более точными способами. МакНамара ввёл в обиход методики, которые историк назвал «компьютерными количественными методами бизнес-анализа», «предложившими новые и оригинальные процедуры сбора, манипулирования и анализа военных данных».
На практике это означало сбор огромных объёмов данных, которые нужно было отправлять в компьютерные центры и вводить с помощью перфокарт. Одной из больших компьютерных программ была Hamlet Evaluation System, которая пыталась количественно оценить, как осуществляется американская программа «умиротворения» посредством наблюдения за 12 000 вьетнамских деревень. Как говорится в отчёте RAND, «каждый месяц HES генерировала около 90 000 страниц данных и отчётов». «Это означает, что в течение четырёх лет полного функционирования системы она сгенерировала более 4,3 млн страниц информации».
Данные, сгенерированные программой Hamlet Evaluation System (Dave Young).
После выбора исходной точки люди, отвечающие за принятие решений, могли наблюдать прогресс. И их желание видеть прогресс приводило к давлению на тех, кто занимался сбором данных, и к генерированию радужной картины. Несоответствие реальности и модели этой реальности, основанной на данных, стало одной из ключевых тем той войны.
«Решающими факторами всегда были намерения Ханоя, воля Вьетконга, состояние южновьетнамской политики и лояльность крестьян. Не только потому, что мы глубоко игнорировали эти факторы, но и по причине невозможности сведения их до уровня таблиц и вычислений, не было предпринято никаких серьёзных усилий по их анализу», писал Ричард Гудвин, автор речей для президентов Кеннеди и Джонсона. «За столом не было ни одного эксперта по вьетнамской культуре. Отравленные таблицами и компьютерами, Пентагоном и военными играми, мы мы публично полагались на вычисления невычисляемого».
Но был ли на самом деле в Пентагоне компьютер, занимавшийся расчётами на тему «Когда мы выиграем войну»?
27 октября 1967-го газета The Wall Street Journal вышла со статьей из своего вашингтонского бюро на первой странице, где рассказывалось об «индексе победы».
Стратеги США ищут «индекс победы» для измерения прогресса во Вьетнамской войне. Им нужно единичное статистическое отражение вражеского проникновения, потерь, призыва, умиротворения местного населения, очищенных дорог. Руководство разведки США втайне обеспокоено тем, что не получается выработать этот индекс. Приказано продолжать работы в этом направлении.
Что ж, индекс победы — это не компьютерная программа, которую можно спросить «Когда мы победим в войне?». Но довольно близко! Таблицу можно распечатать. На основании текущих результатов можно спрогнозировать будущий успех. По крайней мере можно сказать, что чиновники пытались построить систему, которая может быть тем самым ядром истины посреди этой приукрашенной истории.
И не исключено, что конкретная ошибка — сообщение об уже одержанной США победе — действительно была. Разведка пыталась использовать разные модели, чтобы придать смысл своим данным, и, возможно, были попытки компьютерного анализа, в результате которого получалось, что пик индекса победы уже пройден. Что война уже была выиграна.
В мире, заполонённом данными, эта история о компьютере Пентагона напоминает нам, что модель — это не реальный мир, и что игнорирование реальности чревато ужасными последствиями.
Комментарии (49)
Goodkat
26.10.2017 12:24+1Шутки-шутками, а я лет 15-20 назад писал на дельфи или даже паскале программы расчёта победы в бою на основе данных о численности, вооружении и других факторов и коэффициентов.
iig
26.10.2017 14:59Написать что-то считающую программу несложно.
Arkafon
26.10.2017 17:01И сразу в Excel
lightman
27.10.2017 09:12Кстати некоторое время назад краем уха слышал что программирование будущего есть таблично-ориентированное. То есть все программы будут представлять Excel-подобные таблицы связанные-пересвязанные вдоль и поперёк формулами и ссылками. Меняешь значения в ячейках — всё мгновенно (ну или почти) пересчитывается. И любую программу можно свести к такой таблице.
Кто-нибудь слышал?vlsinitsyn
27.10.2017 10:42Не только слышал — но и видел. Вбили миллионы во внедрение OBIEE, после чего ключевые пользователи решили, что скачать все в Excel и уж там… им гораздо удобнее.
Все менеджеры получили свои бонусы, архитектор прославился успехом и уехал в крутой американский банк внедрять подобное. MS успешно продолжает продавать свои лицензии корпоративного офиса. Оракл тоже не в накладе — серверы с OBIEE надежно греют окружающую среду, работая утилитой по конвертации таблиц БД в Excel. Я так понимаю, проигравших вообще нет. Так что да, очевидно, это перспективный патерн на будущее.
Carbonade
27.10.2017 11:31С легким ужасом представляю себе спутник с экселем на борту. Или какую-нибудь SCADA.
Igor_O
27.10.2017 16:39А ничего, что SCADA на Excel делают уже десятки лет?
Издана куча книг о том, как сделать SCADA на Excel.
Конечно, часто где-то в глубинах прячется отдельно живущий OPC-сервер. Но не всегда.
Alyoshka1976
27.10.2017 04:12В одном из выпусков «Популярной механики» в начале этого года была статья о подобных расчетах. Если память не изменяет, там был пример расчета необходимой численности атакующих для прорыва обороны, учитывая интенсивность сопротивления противника.
vconst
26.10.2017 12:59+1Программа все посчитала верно, но не учла того, что в войну вступит СССР.
asoukhoruchko
26.10.2017 13:46В таком случае получается, что это было неизвестно американской разведке.
Либо, что она специально игнорировала эти данные.
Мне кажется, уровень подготовки американских разведчиков исключает подобные базовые просчёты.vconst
26.10.2017 13:50Скорее узость кругозора тех, что его программировал. Они решали абстрактную задачу, как в поговорке: «гладко было на бумаге...».
StjarnornasFred
27.10.2017 10:52Ещё шведы в прошлом веке пели про то, как и почему ошиблись американские компьютеры.
Nu kliar Nixons strangar sina skallar
och hans experter jobbar for sitt liv,
och hans datorer klacker teorier —
vad ar val hemligheten bakom folkets offensiv?
Kan dom forsta hur bonder blir soldater?
Kan dom forsta hur omhet smids till stal?
Kan dom forsta att drommar blir granater?
Kan dom forsta att imperialismen aldrig nar sitt mal?
Nej att dom aldrig, aldrig, aldrig nansin nar sitt mal…
Nej, dom kan aldrig nagonsin begripa,
nej, dom kan aldrig nagonsin forsta.
Och dom ska tro att Vietnam kan besegras
tills marken exploderar under stolen som dom sitter pa.
А вот и сама песня.BeppeGrillo
27.10.2017 13:48?????????????
vvmtutby
27.10.2017 14:07?????????????
Watashi wa nanika o rikai shite imasen
I do not understand something
( Сэкономлю-ка я леса Амазонки Ж-) и увековечу Google перевод )
В переводе на «globish»:
Now Nixon's strings scratch their skulls
and his experts work for their lives,
and his computers hatch theories — what is the secret of the people's offensive?
Can they understand how farmers become soldiers?
Can they understand how tenderness is thrown into steel?
Can they understand that dreams become grenades?
Can they understand that imperialism never reaches its goal?
No, they never never, never, never reach their goal…
No, they can never ever understand,
no, they can never ever understand.
And they'll think Vietnam can be defeated
until the ground explodes under the chair on which they are sitting.
saboteur_kiev
26.10.2017 15:02А такая интерпретация- если бы USA начали в 1962, то они бы победили. А в 1965 — уже никак, поздно думать, и компьютер правильно указал — в прошлом да, сейчас — уже поздно.
iig
26.10.2017 15:34В 1965 году не было ИИ, который, самообучившись на неверных данных, мог бы выдать такой поэтичный результат. Неверная математическая модель, недостоверные входные данные, произвольная интерпретация результатов расчета… И без программиста, изнасиловавшего журналиста, тоже не обошлось.
vbif
26.10.2017 17:17Почему же, вполне мог бы выдать на выходе кривую, искомый экстремум которой находился бы в 1964-м, что можно истолковать как «чем дальше, тем дальше от победы».
saboteur_kiev
26.10.2017 17:43Именно поэтому, он выдал непоэтичный результат, а поняли его неправильно =)
dinoth
26.10.2017 20:30Не совсем — в войну вступил и СССР и Китай (о чем у нас не пишут — а они оказали достаточно серьезную поддержку). Это, кстати, было достаточно неожиданно — они могли предположить, что находящиеся в не очень хороших отношениях страны вместе будут помогать Северному Вьетнаму.
yurisv3
26.10.2017 14:09собственно, компьютер прав: вердикт давно вынесен Историей, США одержали военную победу во Вьетнаме, но всухую проиграли Вьетнаму политически у себя дома.
как и СССР в Афганистане.Cront
26.10.2017 17:11Даже интересно стало, что Вы назывете победой — если по Вашей версии в той войне победили США?
BalinTomsk
26.10.2017 19:54----США одержали военную победу во Вьетнаме
Так Сайгон американский сейчас?
PavelMSTU
26.10.2017 16:54Компьютер, предсказавший победу США во Вьетнаме
<занудство>«Предсказывают» гадалки, а эксперты / алгоритмы и т.д. дают прогнозы</занудство>
third112
26.10.2017 20:55Ничего удивительного. Основное свойство всякой мат. модели, что она всегда проще прототипа. Использует не все свойства, а только те которые кажутся значимыми. На тему философии моделирования написано много книг, см., нпр., Блехман И.И., Мышкис А.Д., Пановко Я.Г. Механика и прикладная математика. Логика и особенности приложений математики. 1990.
ilmarin77
26.10.2017 22:06Всё выглядит как сказка для младших научных работников — компьютер у тут универсальный чёрный ящик, в который данные запихиваются страницами, а на выходе получается ответ.
В оригинальной статье на atlantic есть ссылка на описание системы анализа данных которую применяли: Computing War Narratives: The Hamlet Evaluation System in Vietnam
На самом деле это система для статистической обработки данных о состоянии дел в каждой географической локации (на уровне деревни). А потом уже для отчёта о состояннии дел делали красивый график о прогрессе войны.
Правда, потом оказалось, что люди заполнявшие вопросники по состоянии дел в каждой деревне были немного «оптимистичны».GermanRLI
27.10.2017 21:48В каждой отдельной географической локации американцы победили, в военном смысле. А вот "кампанию за сердца и умы" (в том числе — дома) и войну в целом — проиграли.
lxsmkv
27.10.2017 00:51Я до сих пор считал, что компьютерные системы прогнозирования сравнительно слабы, поскольку опираются на математическую модель, в которой невозможно всего учесть. Да и база классического теорвера для таких прогнозов мне видится не достаточно пригодной.
Процитирую из Станислава Лема «О невозможности жизни»:
… все это вздор — чтобы, произошло нечто крайне маловероятное, вовсе не нужно, чтобы множество событий, к которому оно принадлежит, представляло собой непрерывную серию. Если я бросаю десять монет разом, зная, что вероятность выпадения одновременно десяти орлов или десяти решек составляет лишь 1:1024, мне вовсе не обязательно бросать по меньшей мере 1024 раза, чтобы вероятность выпадения десяти орлов или решек стала равна единице. Ведь я всегда могу сказать, что мои бросания — продолжение эксперимента, в который входят все прошлые бросания десяти монет сразу. За последние пять тысяч лет их было, конечно, без счету...
Я верю в то, что предсказание сколько-нибудь значительно сложнозависимых событий — неподвластная человеческому сознанию задача в принципе. Но люди упорно продолжают веками дурачить себя. И будут продолжать. Ведь и в бизнесе тратяться серьезные деньги на прогнозирование. Какие-то консалтинговые фирмы пишут отчеты о будущем индустрии, основаные на симуляциях и прочее и прочее. Можно пойти к гадалке, с той лишь разницей, что она не носит галстук, а работает быстрее и дешевле. А зачем людям эти прогнозы — им страшно. Вот и находятся шарлатаны которые продают им уверенность. Или они сами этих шарлатанов назначают, и приказывают им работать. Вобщем, вселенский бред — слов нет.Vkuvaev
27.10.2017 01:17Вне всякого сомнения, физически возможно строить прогнозные модели и иметь мощности для оперирования оными, что помогут анализировать сложные системы, наподобие многофакторной карты боевых действий.
Это всего лишь задача построения корректной модели, и ее дальнейшего улучшения. Если вообразить существование идеальной (но значительно более простой чем реальность) модели боевых действий, полагаю можно упростить ее до более примитивной которая может быть расчитана при текущих мощностях, но которая все еще имеет смысл для прогноза каких-то величин. Я бы сравнил это с фрагментом голограммы. Детали теряются но общий контур виден.
Убежден, что фундаментальная проблема многих прогнозных моделей в неверном толковании важности тех или иных факторов моделируемого процесса для его исхода.lxsmkv
27.10.2017 03:36совершенно согласен, если бы мы знали какие факторы влияют на исход сражения, нам не нужно было бы прогнозирование. Вот я слежу за киберспортом (cs:go), и там часто играет роль то, что называют моралью — боевой дух. Одна и та же команда, с одним и тем же противником, на одной и той же карте и стороне, может сыграть совершенно по-разному в зависимости от боевого настроя, фазы луны, и того отцвела сакура или еще нет. И есть записи всех игр за последние года, с подробной статистикой, но никто еще не построил модель которая могла бы предсказывать исход противостояния двух команд. А казалось бы тут пространство вариантов куда меньше. Да в конце концов, наши головы полны совершенно необоснованных суеверий, когнитивных искажений, суждений, предельно далеких от объективности, куда нам предсказывать будущее. Не в том измерении человек мыслит для этого. Мы видим только проекции, берем ногу слона и говорим что это дерево, хватаемся за хобот и говорим что это змея. Смешно.
dimka11
27.10.2017 09:09Это говорит, лишь о том, что в случае игры двух команд нам просто недостаточно данных для правильного прогнозирования.
Vkuvaev
27.10.2017 11:30Согласен, просто в модель, скорее всего, не включено физическое состояние каждого игрока, что, к примеру, может привести к морганию не вовремя, к потной ладони из-за чего мышь неточно спозиционирована, не учитываются гормональные состояния, что тоже может влиять.
Короче, неизвестны факторы от которых это зависит. Если бы мы могли собирать все данные, думаю каждую конкретную мелкую неудачу можно будет отследить до факторов, а тут и статистика появится.
cesium
27.10.2017 11:32Я думаю что на 100% предсказать невозможно, а вот сделать прогноз значительно выше 50% вполне.
Почему бы, для начала, не начать с предсказания итогов боя например боксеров или борцов, затем перейти на командные игры типа футбола или хоккея, и только потом переходить к боевым действиям? Иначе это выглядит просто осваиванием бюджета министерства обороны.
geher
27.10.2017 09:48В данном случае речь идет о неверном использовании модели.
Данная модель может в лучшем случае рассчитать вероятность положительного исхода, а не предсказать его однозначно (естественно, даже это возможно только при учете всех данных, причем данные должны быть корректными).
И цель данной модели не в радостном осознании близкой победы или горестном осознании поражения, а в оценке необходимости перераспределения ресурсов для снижения рисков или, если при любом раскладе риск поражения неоправданно велик, необходимости прекратить безобразие и перестать тратить ресурсы на слишком рискованный проект.
bomjOB
27.10.2017 11:32!!! "… вычисления невычисляемого..." ??? См. х\ф «Ключи от неба»!
Там сняты ЗРК, которые ВЫНУДИЛИ США отказаться от Вьетнама!!!
В статье описаны Первые_Попытки запрограммировать на ЦЭВМ IBM
алгоритмы (Исследования_Операций) принуждения к капитуляции!
Реально-полезные моделирования военных действий были сделаны
перед операцией «Буря в пустыне», которую провёл Шварцкопф!erebusss
27.10.2017 21:48Машина нашептала Шварцкопфу надо запиннать Ирак всеми странами с этого чертового шарика? Проще сказать какие страны не участвовали в нападении, если даже СССР был на стороне США. Там абсолютное численное и техническое превосходство. Были эксцессы вроде Браво 2.0, когда группа САС нарвалась на двух братьев и их отца бедуинов, у которых на троих опыта участия в войнах было больше, чем у всей группы САС вместе взятой, которые их и загнали в плен, просто так вышло.
Old_Chroft
27.10.2017 11:35… заложили всё это в устройство и спросили «Когда мы победим во Вьетнаме?»… считал все выходные...
42?
gsd2009
27.10.2017 12:14Мне скромно кажется, что если социо-прогнозы еще могут быть с той или иной степенью достоверности произведены (от того, конечно, что люди в общей массе достаточно предсказуемы для обобщения их в одну переменную типа человечество), то вот войны ставят каждого на иную, отличную от быта и налаженной жизни ступень — и любой прогноз перестает быть прогнозом и становится гаданием
при наличии сведений об оружии смешно строить планы — ибо! держит его рука
блин пафосно — но верно
какая мотивация у амеров была? пограбим? бабы вино и возможность убивать?
и как мотивировались вьетконги? знанием об убитой родне, горелыми трупами?
какие мысли о возможности прогнозирования по нациям у кого появились?
исходные вводные — немцы, французы, китай ;-))erebusss
29.10.2017 16:22Не знаю менталитет вьетнамцев, но арабу объяснить что такое родина очень сложно, может быть и у вьетнамцев так же. Родина это чисто европейское понятие, для араба это место рождения, в котором сакральности не больше, чем в записи в паспорте о выдаче его Ленинским РОВД города Мухина. Руководители стран, конечно, очень хотят имень подданных и что бы у подданных был их портрет, но бедуину это не объяснишь. Так что мотивация стрелять у людей с племенным устройством крайне низкая, даже друг в друга они стрелять не будут. Сейчас, конечно, у кого есть портативное средство получения пропаганды знают куда надо стрелять и почему, а у кого нет газет, те даже не знают, что человека можно грабить. Как говорил де Голль о своих молодцах с радиоприемниками в Алжире, сейчас те же молодцы с смартфонами, в еще большем количестве, чем «полмиллиона молодцев», таким можно запросто насвистеть и о родине, и о каких-то врагах, и вообще о чем угодно.
geher
29.10.2017 21:43-1Родина это чисто европейское понятие
Совершенно неверно. Понятие "родина" автоматически появляется у людей при закреплении их в некоторой географической локации.
Естественно, входящее в это понятие подвержено изменениям с течением времени и не обязательно оно определено строго географически даже для представителей одного народа (от родной деревни до всей Земли), но все же наличествует не только у европейцев.
Те же арабы весьма разнообразны, и у большинства из них вопрос, что такое родина, проблем не вызывает. Разве только у сохранивших кочевой образ жизни оно не выработалось еще.
Ну и с потерей географической привязки (по любым причинам) понятие "родина", естественно, размывается. И в результате для многих европейцев это понятие значит меньше, чем для большинства арабов, а порой вообще ничего не значит.
yarric
И кто в итоге сейчас победил во Вьетнаме?
vlanko
Китай
VladimirUA
Это почему?
Пишу из Вьетнама
BeppeGrillo