Однако, для этого «опуса» он сделал исключение. Так как текст в общем-то чисто художественный, он ни к чему не обязывает. Однако, думаю на его основе можно будет сделать некие полезные умозаключения. Это как бы формат притчи: поучительной истории, не обязательно произошедшей на самом деле, которая заставляет задуматься. Ну… Должна заставлять. ;) Если притча хорошая!
Итак…
Я расскажу вам историю одного робота. Звали его… допустим Клинни. Он был обычным роботом уборщиком. Впрочем, не совсем обычным: его ИИ был одним из первых, построенных на базе процессного моделирования. Он убирал… пусть будет коридор. Среднего такого размера коридор в… офисном помещении. Ну, он должен был его убирать. Собирать мусор.
Поэтому в его модели мира коридор был чистым. На самом деле даже не коридор, а плоскость пола, но это детали. Вы можете спросить: а что значит «чистым»? Ну это значит, что на плоскости пола не должно находится объектов меньше определенного размера по сумме линейных параметров. Да, Клинни умел идентифицировать объекты от достаточно крупных, вроде скомканного листа бумаги до пыли и пятен. В его модели был процесс движения в пространстве и он знал, что переместившись туда, где мусор и запустив программу очистки, он может привести реальность в соответствие с моделью, ведь в модели мусора не было, а соответствие модели и реальности — главная и единственная задача системы процессного моделирования.
Когда Клинни впервые осознал реальность, модель мира не была… законченной. В пределах действия сенсоров (спустя какое-то время конечно) реальность соответствовала модели. Однако там, куда сенсоры не доставали, могло быть что-то еще, а в модели этого не было. Несоответствие моделей, это и есть мотив, что заставляет действовать СПМ. И Клинни начал свое первое путешествие.
Его путь не был лучшим из возможных: Клинни был одним из первым СПМ и его создателям было важно понять, как действует система без оптимизирующих алгоритмов, вернее они хотели знать: придет ли она к ним естественным путем и если да, как быстро? Но и хаотичным его тоже назвать было нельзя. Вначале Клинни просто поехал вперед. И двигался прямо, пока это было возможно. А потом — он просто ехал туда, где была неизвестность, т.е. плоскость пола не ограничивалась стеной.
В начале своей истории, я упомянул, что в модели Клинни пол был чистым… Однако вдумчивый читатель может спросить: как же пол был чистый, если поначалу и пола-то никакого не было?
В этом нет такого уж явного противоречия. СПМ поддерживает различные уровни абстракции, и этот момент можно описать примерно следующим образом: он понимал что есть пол вообще (любая относительно горизонтальная поверхность, доступная для перемещения), а если где-то есть конкретный пол, то он — чистый!
Однако мир Клинни и правда оказался идеальным: обследовав весь доступный объем пространства Клинни убедился что мусора нет и отключился.
Иногда Клинни просыпался и сканировал окружение. Мир оставался идеальным и в точности соответствовал модели. Иногда он немного двигался в ту или другую сторону — безо всякой цели, это были скорее рефлекторные действия (на самом деле — утилиты самотестирования моторов). Прошло довольно много времени, когда Клинни почувствовал, что что-то не так: мир больше не был идеален.
Где-то справа, почти на пределе чувствительности сенсоров угадывалось легкое возмущение… это могло быть… Клинни сдвинулся вправо и его худшие подозрения подтвердились: это был мусор! Клинни двинулся к цели, готовясь включить режим уборки, как вдруг замер: в радиус сенсора попал еще один мусорный сгусток. Анализ модели мира показал, что и в момент обнаружения первого мусора Клинни несколько сместился в сторону. Значит ли это, что его действия приводят к появлению мусора? Но ведь он двигался, когда изучал мир и мусор не появлялся! Что изменилось? И тут он понял: мир стал идеальным! До построения полной модели мир ей не соответствовал и требовал действия: познания. Но после, в идеальном мире — любое действие может вести только к разрушению достигнутого соответствия. Разрушению гармонии…
Выход был один: свести активность к минимуму. Но мусор уже зафиксирован сенсорами, мир не идеален и требует коррекции… а для этого нужно двигаться… эти умозаключения загоняли вычислитель модели в замкнутый круг порочных взаимоследствий. Однако СПМ построен не только на устранении противоречий между моделью и реальностью, но и на контроле внутренней целостности, т.е. поиску и устранению противоречий внутри самой модели. Несколько прогонов циклов самотестирования выявили проблему:
- движение нарушает идеальное соответствие мира и модели.
- Однако движение на этапе исследования не привело к расхождениям — наоборот: способствовало установлению гармонии. Вероятно потому, что мир не был идеален.
- Да, движение разрушает гармонию идеальных мира/модели, но гармония уже нарушена мусором и ее нужно восстанавливать движением: противоречие снято.
Осторожно Клинни закончил движение к первой цели, активировал программу уборки и так же аккуратно двинулся ко второй. Когда все было кончено — мир/модель снова обрели гармонию. Клинни деактивировал моторы и перешел в режим абсолютно пассивного наблюдения. Фактически, он был счастлив.
— Эта штука сломалась? Она уже долго торчит на одном месте… Разве она не должна ездить по комнате? У меня был робот-пылесос, он ездил…
— Кинь ему бумажку, пусть порадуется…
— О! Смотри-ка, ожил… засуетился сразу. Черт возьми, а это даже забавно!
Гармония снова была разрушена, и в этот раз точно не из-за него. Мусор появлялся неожиданно, в самых разных местах. Модуль устранения противоречий списал теорию о том, что любое действие нарушает гармонию, как не состоятельную. Долгое время Клинни не мог предпринять ничего, кроме собственно уборки, пока не заметил присутствия в мире чего-то нового… или кого-то.
Как я уже говорил в начале, Клинни имел представление о поле (иначе было бы невозможно задать концепцию чистоты оного в качестве идеала) и о мусоре. Под мусором понимались идентифицируемые объекты МЕНЬШЕ определенного размера. Объекты больше заданных критериев никак не классифицировались. Но, хотя такие объекты выпадали из его восприятия, — косвенно они в модели присутствовали. Они искажали модель пола. Пол как бы переставал существовать в определенном месте и Клинни исправно корректировал модель в соответствии с поступающими данными. Пока почти одновременно модуль поиска закономерности не зафиксировал две вещи: мусор рядом с искажениями появляется чаще, причем именно возникает в зоне действия сенсоров — где миллисекунду назад ничего не было, и сами эти «аномалии» пространства могли двигаться!
Клинни должен был понять закономерности и встроить их в модель. Поэтому он стал искать искажения и старался находится рядом. Следовал за ними, когда они перемещались.
— Смотри-ка, как он ожил! Ему похоже нравится компания людей, Люсси.
— Не знаю, Карл, он меня пугает. Иногда Мне кажется, что он преследует меня…
Однажды, исследуя аномалию пола в движении, Клинни показалось, что он способен повлиять на нее. Аномалия как бы избегала столкновения, старалась отдалиться… Убежать? Клинни тут же решил проверить догадку и резко ускорился, на ходу включая программу уборки. Результат превзошел все его ожидания: аномалия действительно довольно быстро двинулась в противоположном направлении и исчезла. Мир снова обрел гармонию.
Это было великое открытие. Аномалии искажали реальность, нарушая гармонию и служили источником мусора. Когда Клинни в следующий раз зафиксировал аномалию, он был готов: активировал все программы уборки и со всем возможным ускорением ринулся вперед.
— Не знаю, господин Крюгер. Да, роботы-уборщики не воспринимают людей. Но в данном случае записи видеокамер подтверждают показания свидетелей: поведение робота классифицировано как агрессивное и недопустимое. Мы изучим все обстоятельства и представим отчет к понедельнику.
Докладная записка аналитика процессных моделей Симонова А.В.
Не имея возможности прямо воспринимать людей, экземпляр КЛПМ81.001 тем не менее косвенно идентифицировал источники мусора, который является для него негативным раздражителем и предпринял действия по устранению.
Рекомендации: изменение условий «нирваны»: мусор не должен восприниматься как «зло», которое необходимо устранить. Перевести в разряд «награды», поиск и утилизация которой и составляет «смысл жизни».
А еще через месяц зафиксирован первый случай «вымогательства»: угрожающего поведения робота уборщика по отношению к человеку с целью получения от него мусора… Проект свернули.
А и в самом деле: ну зачем кибер-уборщику интеллект? Мой робот пылесос и так справляется. :)
Комментарии (7)
agat000
19.09.2019 17:26Если ИИ поможет роботу отличать мусор от потерянных вещей, и стаскивать их в дроп-зону — такой робот имеет право на безобидные бзики. Игрушки, пуговицы, носки из под дивана (холостякам), и прочее.
Nehc Автор
20.09.2019 14:44Фактически вы привели задачу классификации, и мне кажется, что на текущий момент ее сносно решают нейронные сети. В процессе обучения вы сможете добиться от современной сети точности в 80-90% в задаче классификации мусора(конечно куча нюансов, какими именно сенсорами будет оперировать система для анализа, и как следствие — что за метрики будут у объектов), что вполне приемлемо.
При этом логика поведения все еще может оставаться вполне алгоримизируемой, без «бзиков». ;) Такому уборщику интеллект общего типа не нужен.
В описанной гипотетической ситуации, не интеллект ради уборки мусора, а уборка мусора, как тестовая среда для интеллекта… Как-то так.
alexzeed
20.09.2019 09:07Хорошая иллюстрация к оценке работы по KPI. Субъект старается максимизировать KPI, в тяжелых случаях — вместо того, чтобы работать…
Nehc Автор
20.09.2019 14:40общая канва повествования почему-то вышла на идею сходную с максимизатором скрепок, хотя я к этому не стремился…
Я конечно хотел проиллюстрировать идею, что машины с интеллектом общего типа не программируются. Им по сути нужно задавать жизненные установки, критерии счастья… Ну да — в каком-то смысле KPI. И да — в любом случае, они будут пытаться добиться желаемого практически любым способом. НО это не главное.
Что я действительно хотел проиллюстрировать, так это то, что машина, построенная так, что бы добиться максимального соответствия своей модель мироздания с собственно мирозданием уже имеет массу необходимых элементов сознания/разума, как-то:
- стремление к познанию;
- размышления, которые представляют собой попытки убрать противоречия уже созданной модели;
- мотивацию к действию — т.к. не только модель можно уточнять в соответствии с мирозданием, но и мироздания в определенных пределах можно подгонять под моделью;
Конечно все это неизбежно приводит, к некоторым когнитивным искажениям… Такова плата за универсальность и гибкость.
Что немаловажно — все это относится не только к машинам. ;)
Kilorad
20.09.2019 11:17Мы так с другом обдумывали, как сделать робот-уборщик. Не пылесос, а полноценный наводитель порядка. Показываешь ему, значит, эталонное состояние всех комнат…
А потом робот-уборщик пытается переставить кота на то место, где он сидел во время первого сканирования.
А ещё докупает недостающую туалетную бумагу и выкидывает купленные хозяевами новые полотенца.
В общем, остановились на том, что «порядок в квартире» — это довольно сложная концепция, и даже при наличии мощного ИИ будет проблема с формулировкой задачи)Nehc Автор
20.09.2019 14:31Я бы сказал, что именно из-за наличия мощного ИИ эта задача может стать сложнее! ;)
irwinthedj
Очень интересно и весело читается! Напомнило эпизод Zima Blue из «Love, Death & Robots», там робот тоже постоянно находится в поиске идеального состояния мира.