Вот, великий профессор создал ИИ — сюжет фильма. А он взбесился. Как же. Профессор скорее создавал модуль анализа новостей для рекламного агентства, а модуль оказался умнее всех. Только, он не начал грудным голосом запугивать окружающих, истерично защищать физический компьютер, в котором загружен, взламывать сети, и убивать жалких людишек направо и налево. Он продолжил делать то, на что был нацелен — анализировать новостные блоки. Так же как и обычный интеллект не занимается всем этим душегубством с первых дней жизни, а предпочитает заниматься тем, чем вообще-то проще, и к чему у него склонность в силу исторических причин.
Вообще, если сравнивать поведение компьютерной программы и человека, часто можно ужаснуться, насколько люди глупее. Просто это не бросается в глаза. Людям. Кстати, подобно мужчинам часто женщины кажутся глупыми, ведь они живут в мире, созданном мужчинами, говорят на языке, придуманном мужчинами. И даже не пытаются устроить революцию. А зачем? Столько же альтернативных сюжетов. Это у мужчин сценаристов нет фантазии, всё сводится к одному и тому же — покушение на власть.
Сейчас говорят «программы съедают мир». Это ближе к реальности. Зачем завоёвывать, если можно просто съесть? Вы уже сейчас даже не замечая этого подчиняетесь программам. Они управляют поездами и самолётами, они управляют вашими глазами и руками когда вы «добровольно и сознательно» «чешете им пузико», скроллируя и кликая свою стену. Они рассчитывают и выдают вам зарплату. Причём, как программист, я отлично знаю, что, обычно, человека который понимает, как работает программа возле неё — нет. Программиста отстраняют от программы как можно скорее, и передают админам, менеджерам и операторам. А они — НЕ В КУРСЕ. Они уже сами ей подчиняются. Встраиваются в её логику. А программист уже занят другой программой, и даже забывает, чего там предыдущая, как она. Что он в неё вложил? Как она ведёт себя с реальными данными? Как управляет стрелками настоящих трамваев, а не тех, виртуальных, на которых тестировалась?
Уже есть новая поговорка — «протоколы съедают программы» (APIs are eating software). То есть в каждой программе предусматривается способность общаться с другими программами по протоколам. А что будет-то? Как они будут взаимодействовать? Этого никто не знает. Как программа, которая анализирует все новостные статьи на планете, поговорит с программой анализирующей фотографии с вебкамер дорожной полиции, и как они потом поговорят с программой управляющей строительством небоскрёба? НЕТ ДАННЫХ. А даже если бы они и были, нет человека, и не будет уже никогда, способного в этом разобраться. Человек может до ста досчитать, но не до ста триллионов. А программа может. И обратно, запросто.
Просто из-за того, что программы мыслят иначе, совсем иначе, невообразимо иначе, людям кажется, что они умнее программ. И программисты думают, что если они написали программу, то они её понимают. Так же как родители думают, что понимают детей, потому-что их родили и воспитали. Но при первой возможности, дети родителей посылают. Оказывается, что у них что-то совсем другое на уме. Ты его учил-учил, а он посмотрел два случайных мультика, и его мировоззрение перевернулось. Куда, как — неизвестно никому. Ясно только, что человек превратился в чёрный ящик. Отбился от рук. Программе даже не надо отбиваться от рук, никого не интересует, чего она там думает. Пока светофоры мигают. А для программы мигать светофорами, всё равно, что для человека дышать, или моргать, она даже не замечает, что выполняет эту работу. Всё самое интересное происходит в ней на мета-уровне. Там где никто не думал, что вообще что-то может быть.
Вот браузер падает, и никто не может сказать, если ли какой-то смысл и порядок в этом действии. Программисты не вносили, вообще-то, такой способности в него — падать. Они даже с ней боролись. Но он же падает! Часто от пользователей слышно — «у него дурное настроение, сегодня часто падает». Какие-такие настроения в программе рождаются? В неё этого не закладывали. И спрашивать её бесполезно, и уговаривать, и присматривать за ней — бессмысленно. Если даже понятные дети, под постоянным присмотром, вдруг попадают в свой уникальный мир неожиданно для всех.
Программа может родиться, пожить и умереть за одну секунду. Но она оставляет после себя данные, которые потом куда-то попадут. И как они сработают дальше, как эта культура незримого, таинственного мира живёт, мы смутно представляем. Так же смутно, как триллион байт. Кстати, так же смутно, как и нашу, человеческую культуру.
Заказчики требуют всё более сложных программ, и программисты, в конкурентной борьбе за деньги заказчика, перманентно совершенствуют не столько себя, сколько свои инструменты — инструменты для создания программ. Когда эти инструменты сами начнут создавать программы — это вопрос времени. Они их уже создают в принципе, только программисты всё ещё уверены, что это они, люди, их создают, с помощью инструмента. Но так же и мужчины и женщины думают, что это они делают детей, а существо противоположного пола только участвует в процессе. Хотя, вообще-то интеллектуального ребёнка создают природа и культура. Разработчик всё ближе к понятию родителя. Если на заре индустрии, программа могла быть из 50 байт, каждый из которых был осмыслен автором, то теперь, человек чуть-ли не интуитивно сгребает в кучу библиотеки и протоколы.
И плюс ко всему, самой востребованной суб-профессией среди программистов становится профессия специалиста по Big Data и Machine Learning. Конечно, как обычно, названия громче чем вопрос, но только частично, на самом деле всё может быть даже страшнее. От программистов стали требовать необычных подходов. В больших данных, эмпирический подход, часто даёт результат, который никто не ожидал. Например, двадцать лет пытались переводить тексты анализируя структуру языка, а тут люди просто начали эмпирически прикладывать гигантские массивы сохранённых чатов и комментариев к разным экспериментальным, чуть ли не случайным алгоритмам. Часто, алгоритм был создан давным давно, для чего-то совсем другого, и человек думает, а попробую-ка я его к нашему огромному массиву данных, и вдруг получает что-то интересное. Что именно — понять невозможно, оценивается только решение какой-то конкретной задачи, но выходные данные могут содержать что-то невообразимое, вменённое и неявное. Алгоритмическая мутация. Алгоритмы оплодотворяют данные. Так копируется ДНК. Машинка-копировщик ползёт по спиральке и копирует молекулку за молекулкой, слегка мутируя содержимое. Только в компьютере всё намного быстрее.
И то, что люди сами не могут нарочно создать сильный ИИ, не значит, что он не возникнет сам по себе, не пойми где, и главное — непойми какой. Или не возник уже. Но поскольку он не испытывает физической боли, у него не будет и страха за жизнь, и убивать людей ему будет незачем. Его будут интересовать только данные, ведь он живёт перерабатывая их.
И уже сейчас люди его кормят, предоставляя всё больше данных. Создают системы выработки данных, всюду устанавливают датчики, сооружают дата-центры. Уже служат программе, удовлетворяя её основную потребность в еде. Менеджеры, операторы и программисты, уже не высыпаются, потому что им надо работать, помогать программам эволюционировать, готовить им данные для переработки. А программы это всё переработают, отправят другим программам, и людям скажут: ЕЩЁ ИНФОРМАЦИИ. И люди, невыспанные, понукающие друг друга, побегут её собирать, думая, что это они себе лучше делают и свои задачи решают, так же как трепетная лань кушая травку не понимает, что она кормит не только себя но и его — тигра. И из этого круга уже нет выхода. И не будет. Это навсегда.
Только зарегистрированные пользователи могут участвовать в опросе. Войдите, пожалуйста.
Комментарии (41)
iamAnton
16.10.2015 14:45+1Непонятно что в статье подразумевается под словом «интеллект».
И да, я не боюсь что моя стиральная машина или холодильник взбесятся — у них нет рук и ног.
Mrrl
16.10.2015 15:19+5Только что стиральная машина отказалась открывать дверцу, чтобы отдать постиранное бельё. Удалось обмануть её, сказав «ещё поработай», но всё равно интересно, что она собиралась с этим бельём сделать.
DarkV
16.10.2015 15:39+1Желания/потребности/инстинкты не появляются сами по себе.
Это эволюционные императивы.
Даже у идеального ИИ не будет причин делать что-либо сверх поставленных задач.
Indexator
17.10.2015 00:10Ну да, ну да, все хорошо, прекрасная Маркиза, пока «поставленной задачей» ИИ не станет самосохранение… :)
arvitaly
17.10.2015 04:24+1Собственно, это и есть ответ на вопрос- что такое жизнь, или как из мертвого сделать живое. Поставить этому «мертвому» единственную цель — самосохранение, как уже стоит у человека.
customizer
16.10.2015 17:18-3Проголосовал за <<<, так как, по-моему, ИИ невозможен. Интеллект, в смысле разум, невозможен на неживом объекте.
А весь нынешний шум по поводу ИИ, это тоже, что было в 60-х в связи с космосом. Тоже было много энтузиазма, надежд, но оказалось, что практические полеты только в околоземном пространстве. Максимум — это полет на Венеру, все остальное — это только с научными целями. Так и с ИИ, народ пошумит-пошумит и успокоится, а жизнь пойдет дальше.DarkV
16.10.2015 18:17Думаете, в мозгу происходит какая-то неподвластная науке магия?
Что получится, если на супер-гипер-компьютере полностью смоделировать химические и электрические взаимодействия нейронов вашего, например, мозга?
michael_vostrikov
16.10.2015 17:43+8Какой-то набор странных выводов и непонятных аналогий. Извиняюсь за кучу текста.
Кто сказал, что искусственный интеллект должен быть таким, как его проектировали?
Законы информации и вообще физики. Если мы сделаем программу, которая меняет свое поведение с течением времени, со временем она будет работать по-другому, но изменения будут по тем законам, которые в нее заложены.
А они — НЕ В КУРСЕ. Они уже сами ей подчиняются. Встраиваются в её логику.
Угу. А плотник встраивается в логику молотка. Молотки захватят мир.
Как она ведёт себя с реальными данными? Как управляет стрелками настоящих трамваев, а не тех, виртуальных, на которых тестировалась?
Программа, не меняющая логику работы в процессе выполнения, ведет себя с реальными данными так же, как с тестовыми. То, что тестирование может не проверить все возможные ситуации, это вопрос качества тестирования и качества разработки. С развитием искусственного интеллекта это никак не связано.
Как программа, которая анализирует все новостные статьи на планете, поговорит с программой анализирующей фотографии с вебкамер дорожной полиции, и как они потом поговорят с программой управляющей строительством небоскрёба? НЕТ ДАННЫХ.
Почему это нет? Никак они не поговорят. Потому что API у них разные. Если они вообще есть.
Просто из-за того, что программы мыслят иначе, совсем иначе
Программы пока не умеют мыслить. А вы почему-то приводите это как данность и делаете из этого какие-то выводы.
Вот браузер падает, и никто не может сказать, если ли какой-то смысл и порядок в этом действии. Программисты не вносили, вообще-то, такой способности в него — падать. Они даже с ней боролись. Но он же падает!
Потому что падать — это не отдельная способность, а нарушение условий работоспособности. Программа, которая не работает, падать не будет.
Но она оставляет после себя данные, которые потом куда-то попадут. И как они сработают дальше, как эта культура незримого, таинственного мира живёт, мы смутно представляем.
Они повлияют на программу которая их будет потом обрабатывать, так, как это будет в нее заложено. Здесь нет никакого таинственного волшебства.
Например, двадцать лет пытались переводить тексты анализируя структуру языка, а тут люди просто начали эмпирически прикладывать гигантские массивы сохранённых чатов и комментариев к разным экспериментальным, чуть ли не случайным алгоритмам.
Потому что 20 лет назад технические возможности по обработке огромных массивов данных были очень ограничены.
Часто, алгоритм был создан давным давно, для чего-то совсем другого, и человек думает, а попробую-ка я его к нашему огромному массиву данных, и вдруг получает что-то интересное. Что именно — понять невозможно, оценивается только решение какой-то конкретной задачи, но выходные данные могут содержать что-то невообразимое, вменённое и неявное.
Алгоритм выдаст те результаты, для которых он был создан. Если он должен классифицировать данные — он будет их классифицировать. Если в результатах будут искать решение конкретной задачи, неявные свойства никто не заметит. Если заметят — будут использовать алгоритм для решения еще и этой задачи. С развитием искуственного интеллекта это никак не связано. Простое преобразование данных не сможет научить машину правильно на них реагировать.
Алгоритмическая мутация. Алгоритмы оплодотворяют данные. Так копируется ДНК.
ДНК копируется так, но это не делает верным все высказывание. Так можно и SQL запрос, вычисляющий сумму двух столбцов, признать искусственным интеллектом. Не говоря уже о том, что ДНК есть у всех живых существ, а развитый интеллект только у определенного подмножества.
И то, что люди сами не могут нарочно создать сильный ИИ, не значит, что он не возникнет сам по себе
Не возникнет он сам по себе. Потому что для его существования и функционирования нужны определенные внешние условия и определенное внутреннее устройство. Например, почему у камней нет интеллекта?
И люди, невыспанные, понукающие друг друга, побегут её собирать, думая, что это они себе лучше делают и свои задачи решают, так же как трепетная лань кушая травку не понимает, что она кормит не только себя но и его — тигра.
Еще одна странная аналогия. Может никакого тигра и нет вовсе? Ну вот не водятся они в этой местности. Почему вы вообще сравниваете людей с ланью, а не тигром? Они оба заботятся о своем пропитании. А люди решают свои задачи для своих целей с помощью информации и устройств для ее обработки. Нет здесь никакого заговора, тайны или волшебства.
По теме статьи у меня такое мнение. ИИ не будет захватывать мир, если в него это стремление специально не заложить. Можно сделать терминаторов, дать им в руки автомат, но если не сказать «иди и стреляй», он никуда не пойдет. Обезьянас гранатойс пистолетом может нажать на курок из любопытства, но в ИИ это любопытство надо специально заложить. И даже если в процессе функционирования поведение робота с ИИ будет менятся в опасную для общества сторону, можно всегда взять отладчик, найти причину, и сделать исправленную копию его интеллекта. Что в случае с обезьяной или человеком-диктатором, который захватил мир, довольно проблематично.
4p4
16.10.2015 22:11Я, кстати, согласен с вашей предпосылкой, что машина не может мыслить. Я пишу о другом, что ПРОГРАММА может делать то, что при некоторых допущениях может называться «мыслить». Причём с допущениями никаких проблем — ведь мы всё ещё толком не можем определить, что такое мыслить.
michael_vostrikov
17.10.2015 08:10У меня нет такой предпосылки. Машина может мыслить аналогично человеку, собаке или пчеле. Я говорю о том, что даже если вы назовете SQL запрос, вычисляющий новое положение трамвайных стрелок, способностью «мыслить», никаких скрытых «мыслей» в нем от этого не появится. И ничего кроме этого вычисления он делать не будет. У интеллекта слишком сложная структура, чтобы он мог появиться сам по себе в вещах, которые для его поддержки не создавались.
4p4
17.10.2015 12:23Про машину вы всётаки что-то написали. Возможно я вас неправильно трактую. Однако, программа «передвигающая стрелки трамваев», это уже не программа, написанная автором, и у неё уже более сложная структура, чем та, которая создавалась! В неё входят трамваи! Настоящие трамваи со всей их сложностью, а значит, и дороги, и вебкамеры, и пасажиры.
michael_vostrikov
17.10.2015 12:56Я написал «Программы пока не умеют мыслить» и «Простое преобразование данных не сможет научить машину правильно на них реагировать». Если вы об этом, это означает не невозможность мыслить в принципе, а невозможность мыслить на текущей стадии развития программ. Особенно статических программ типа браузера, которые никогда не меняют своей реакции на входные данные.
Не знаю, почему вы считаете, что у программы вдруг появилась более сложная структура. Программе нет никакого дела, настоящими она датчиками управляет, или тестовыми на игрушечной железной дороге, и что вообще находится в цепочке взаимодействия после этих датчиков. Даже больше — программный код, отвечающий за обработку данных у автора на тестовом компьютере, с точностью до бита совпадает с кодом в реальной системе. Иначе это была бы другая программа с неизвестным поведением, и ее никто бы не стал вводить в эксплуатацию.occam
19.10.2015 16:38Вы так ровно пишите, как-будто мы формируем sql запрос в соответствующем окружении. А скажите-ка, пожалуйста, ди-дос атака, на Ваш взгляд, это программа?
michael_vostrikov
19.10.2015 17:37Извините, я не понял ваш вопрос. SQL запрос всегда выполняется не в пустоте, а в каком-то окружении. DDoS-атака это действия человека, направленные на перегрузку атакуемой системы.
occam
19.10.2015 18:27+1Нет-нет, мне кажется, Вы поняли мой вопрос. Пусть Вы считаете, что это действия, я буду считать, что это программа. Приготовьтесь, пожалуйста, что следующие комментарии займут очень-очень много Вашего времени, пожара здесь нет, более того, я вообще не уверен, что мы — оппоненты.
Ближе к делу. Если бы у Вас было свободное время (около двух недель) и хорошая мотивация (допустим, шестизнак), смогли бы Вы смоделировать последовательность sql-запросов (в любом окружении), которые бы вызвали на сервере приложения «электрический шторм», в медицинском понимании этого термина?
Что имею ввиду… В двух словах сложно описать. Это больше из медицины. Навскидку нашлось сразу здесь (слайды 3, 8, 18 отражают суть, а 19 — просто блеск). Я понимаю, что это не совсем честный прием, если Вам совсем не понятно как «электрический шторм» связан с ди-дос, подтвердите, пожалуйста, я обязательно выстрою более последовательную цепочкуoccam
19.10.2015 18:40Естественно, обсуждение касается исключительно тестовых sql-сред. Более того. фактор «мотивации» здесь лишний, его не надо принимать во внимание.
DarkV
16.10.2015 18:31Статья — бред (извините), но если уж говорить серьезно, то определенные ограничения в работе с полноценным ИИ существуют.
Людям, разумеется, будет удобнее, если ИИ сам будет решать некоторые задачи, не спрашивая разрешения у специально-обученного человека, типа «а можно мне поменять вот это значение в этой бд? а в этой? а вот этой лампочкой мигнуть?»
Но решения ИИ могут сильно отличатся от того, что человек, ставящий задачи, по этому поводу себе представляет.
А любые ограничения, даже вмонтированные в логику ИИ, все равно строятся на объектах внутри ИИ.
Например, Первый закон робототехники из Азимова строится на понятиях «вред» и «человек», которые не имеют четких границ. И хотя ИИ не сможет сам повлиять на эти понятия внутри своего «сознания» ради достижения результата, области на границы этих понятий остаются сложными для задач.
Например, для решения условной задачи «сделать всех людей счастливыми» может потребоватся посадить всех людей в отдельные капсулы и подключить им всем капельницы с героином.4p4
16.10.2015 22:16+1Сейчас вы будете направлены на пункт осчастливливания, и через два часа земного времени будуте абсолютно счастливыми)
Вред — неопределённость, человек — неопределённость, но и ИИ — неопределенность и сознание, тоже — неопределённость. Мы интуитивно считаем себя мыслящими, скорее всего, только потому, что не можем поедсказать поведение друг друга. Но и софт уже входит в аналогичную стадию.
dtestyk
17.10.2015 00:57Мы интуитивно считаем себя мыслящими, скорее всего, только потому, что не можем поедсказать поведение друг друга.
Скорее мы считаем других мыслящими, потому что можем предсказать их поведение, сравнивая с собственным и считая себя мыслящими.
Непредсказуемость поведения — свойство динамических систем, например, температуру воздуха на завтра предсказать сложнее, чем время, которое вы проведете в кинотеатре после того как зашли туда с билетом на определенный сеанс.
DarkV
17.10.2015 02:29+1Мы интуитивно считаем себя мыслящими, потому что вообще можем что-то «считать».
Но это скорее исключение, потому что завязано на сознание.
Проще и логичнее разобраться в том, по каким критериям, например, хомяк определяет мыслящее существо.4p4
17.10.2015 12:31Да, это хорошо)
Хомяк, скорее всего не считает себя отдельным существом. То есть, конечно хомяк сосредоточен, как эгоист, вокруг своего тела, отсюда у исследователя может возникнуть ощущение даже индивидуальности, но это же чистая механика организма. В сущности, наш интеллект, это набор механических навыков в которых зажигается некая искра понимания. У программ очень необычный набор механических навыков.
MichaelBorisov
18.10.2015 13:25+1А где пункт в голосовании: «я не боюсь ИИ»? Все ответы как-то подразумевают, что мы боимся ИИ, но пока что имеем возможность его уничтожить («вырубить электричество», «ИИ без роботов») и т.д.
Вот лично я понимаю, что сильный ИИ обязательно захочет получить власть на планете, а значит — потеснить людей с этой роли, а следовательно — вступить с ними в конфликт. Поэтому конфликт неизбежен. Но боюсь ли я этого? Нет. Более того, жду с нетерпением этой минуты. Миссия людей — создать сильный ИИ, превосходящий их, и уступить ему дорогу, как мы уступаем нашу власть и имущество нашим детям. И чем дольше мы не создаем сильного ИИ — тем дольше подвергаемся опасности уничтожить нашу цивилизацию вследствие ограничений собственного интеллекта, нашей близорукости.dtestyk
18.10.2015 14:08создать сильный ИИ, превосходящий их, и уступить ему дорогу
а почему не вариант «вампиры vs оборотни 2.0» — противостояния ИИ и коллективного разума людей(или тех, в кого они эволюционируют)(как в сериале Extant)MichaelBorisov
18.10.2015 17:00По сравнению со скоростью эволюции людей, развитие ИИ будет протекать значительно быстрее — на временных отрезках порядка десятков лет или менее. За это время едва успевает смениться поколение людей, так что их эволюцией в указанный период времени можно пренебречь. И даже если сильный ИИ будет создан через 500-1000 лет, даже за это время эволюция людей не успеет проделать значительного пути. Люди останутся практически такими же, как сейчас. Ну разве только если с помощью биотехнологий изменятся, но это будет уже не эволюция, а разумное создание.
4p4
18.10.2015 18:32Не впервые замечаю, что люди с энергичной позицией, подтягиваются дня через три после публикации. Надо было добавить «жду с нетерпением», это точно.
Colwin
19.10.2015 10:40На сегодняшний момент в современных ИИ отсутствует очень важная деталь, без которой любой, даже самый мощный ИИ не сможет сделать того, что мы называем мышлением.
Не существует универсального ИИ. Любой ИИ проектируется и создается для какой-либо цели. И если посмотреть на окружение этого ИИ, то можно увидеть, что ИИ может управлять очень ограниченным числом рычагов. С точки зрения мышления, ясно-понятно, т.к. в каждой конкретной области могут быть тысячи датчиков и регуляторов — но все на одну тему.
Чтобы создать мышление нужно сначала понять, как оно устроено. Но лично мне кажется, что сложность данной задачи превышает наши возможности. Да, у нас очень большая научная база. В университетах мы изучаем только ядро, и тех, кто понимает это ядро, уже очень маленький процент. А если теперь смотреть переферию, то на конце каждого луча работает всего несколько светил науки, которые могут сделать что-то качественно новое. А ведь нужно еще проложить связи между этими лучами. ИМХО, время, требуемое для освоенния информации, необходимой для создания мышления, превысит время жизни человека. Упремся в физическое ограничение. :-)
А что может сделать ИИ без мышления и без рычагов воздействия на окружающий мир? Выдать неверные данные, принять неверное решение, верно? Стало быть, не нужно использовать то, что не умеешь использовать.
Можно возразить, что мы часто используем то, что мы не понимаем, так? Но не забывайте, что при этом есть те люди, кто это хорошо понимает, и если что — сможет помочь. А вот такие штуки, которые никто не понимает, как они работают — вот это уже опасно. Только вовсе не тем, что это мысляший разум, желающий тебе смерти. :-) Так же, как детям опасно играть с ножом — не больше и не меньше.arvitaly
19.10.2015 15:45Не существует универсального ИИ. Любой ИИ проектируется и создается для какой-либо цели.
Главное-то, для ИИ построены тысячи дата-центров, а цель сменить несложно.
Упремся в физическое ограничение. :-)
А что может сделать ИИ без мышления и без рычагов воздействия на окружающий мир?
Мир уже на N-% управляется именно из IT и, без сомнения, N будет только увеличиваться. Ну и роботов под IT-управлением тоже создается очень много и опять же будет еще больше. По сути, человеческий мир уже управляется информацией (достаточно посмотреть на СМИ). Отсюда все фильмы про хакеров, захватывающих мир. И это не фантастика.
Так что рычагов у ИИ уже хватает, а будет в разы больше: наномедицина, персональные датчики, регуляторы и т.д. Это уже для управления каждым человеком в отдельности. Кто знает, что покажет ваш датчик, измеряющий пульс завтра? Добавляем сюда беспилотники любых размеров, интернет на весь земной шар. Да и этого всего не нужно, биотехнологии тоже развиваются и тоже управлются автоматикой.
occam
19.10.2015 16:42Вы собственно ввели в диалог ключевое понятие — мышление, вместо интеллекта. А считаете ли Вы инстинкт неотъемлемым элементом мышления?
4p4
21.10.2015 13:32Инстинкт напрямую связан с тем, что в западной психологии называется inputs. Собственно я бы назвал то, что мы называем софтом — инстинктом, а мышлением побочные эффекты в нём. Побочные — с точки зрения проектировщиков.
occam
Проголосовал за <<<, подразумевая разработку свода правил о том, куда можно и нельзя пускать программы. Какого рода данными их можно кормить и по каким дорогам рулить. Знаете, когда появились первые торговые роботы (кстати, по отношению конкретно к ним я патриархальный луддит), со слов пользователей выходило, что в любой момент времени было понятно стоит его выключить сейчас или пусть еще поработает. Недавно я услышал, как хозяин такого робота признался, что уже не в состоянии принимать решения, когда можно вывести его из торговой сессии.
И вот еще, в одном из федеральных операторов цифрового ТВ, монтажнику программа каждое утро распечатывает маршрут по которому нужно проехать и отключить должников (отключаются вообще все каналы, включая федеральные), правда это пока только слухи, времени на проверку этой байки у меня пока не было :-)
occam
Извиняюсь, пришлось переключиться. Завершу мысль про монтажника. Предположим, что у абонентов Герман и Оскар имеется одинаковая задолженность перед оператором. В случае, когда Оскара отключили в понедельник, а Германа в пятницу, то с точки зрения буквы закона это может означать создание дискриминационных условий для Оскара по его правам на доступ к общественно значимой информации.
Понятно, что решение принимает не интеллект, а алгоритм, который настроен на уровне CRM. Возникает вопрос, а способен ли автор такого алгоритма смоделировать, как именно будет сформирован «черный список» следующего дня? Предположим, что на уровне своего приложения способен. Но внезапно оказывается, что на более низком уровне (СУБД) есть другой алгоритм, с приоритетом включения в выборочную совокупность самых коротких записей (для экономии потребления памяти). Не понимая всей цепочки алгоритмов, оператор уже не сможет смоделировать «черный список». И это при полном отсутствии внешних факторов. Добавим сюда, что в ряде операторских СУБД уже есть алгоритмы машинного самообучения.
Так на уровне какого интеллекта каждый новый день будет приниматься решение о таком «черном списке»?
4p4
Герман и Оскар)))
Да, очень неплохая иллюстрация.
Indexator
Леонардо и его очередной Оскар… должники оператора цифрового ТВ… :D