Сейчас мы являемся свидетелями зарождения многообещающей новой технологии, а также новой эры, которой дала начало эта технология. Она радикально отличается от программируемых систем, представленных в ИТ сфере ранее, ставших стандартом на полвека и даже более. Речь идет о технологии, которую обычно называют искусственным интеллектом. ИИ можно считать новым поколением вычислительных технологий, скорее, даже новой эпохой, эрой.
Когнитивные системы, которые помогают поддерживать развитие этой сферы, вскоре помогут радикально усовершенствовать ИИ. Дело в том, что такие системы понимают все формы данных, генерируемых в небывалых ранее масштабах. Мир меняется, и для того, чтобы ему соответствовать, идти в ногу со временем, нужны новые принципы работы, взаимодействия с миром и друг с другом. Об этом сегодня мы и хотели бы поговорить.
Начнем с того, что вспомним, что же умеют делать системы, о которых говорится выше.
Когнитивные системы наподобие IBM Watson могут без проблем управляться с любыми массивами данных, формируя предположения и делая определенные выводы. Что еще более важно, так это то, что такие системы не запрограммированы жестко. Они могут взаимодействовать с окружающей средой, включая человека, исходя из своих собственных «суждений» и выводов.
Как и многие другие качественно новые технологии, ИИ вызывает множество вопросов, на которые либо нет ответа, либо они станут известны в будущем, после дополнительных исследований и изучения ситуации специалистами. Мы обладаем достаточно обширным опытом для работы в этой сфере, и этот опыт научил нас тому, что для создания новых принципов нужно быть практичными и мудрыми одновременно.
И мы сформулировали новую цель и принципы для эры искусственного интеллекта.
Общая цель, которую ставит IBM при разработке искусственного интеллекта — дополнить возможности и разум человека. Наши технологии, продукты, сервисы и принципы работы помогают совершенствовать и расширять возможности человека, его потенциал. Наша позиция основывается не только на принципах, но и на науке. Когнитивные системы — не что-то такое, что работает отдельно. Скорее, эти технологии должны быть встроены в процессы, системы, продукты и сервисы, необходимые для общества и бизнеса — все это мы, люди, должны контролировать самостоятельно.
Кроме того, нужна и прозрачность. Объясним — здесь имеется в виду, что для того, чтобы когнитивные системы могли полностью использовать свой потенциал, необходимо, чтобы люди доверяли их рекомендациям, суждениям и выводам. Поэтому IBM старается прояснять в ходе работы следующие моменты:
- Когда и с какой целью ИИ используется в тех когнитивных решениях, которые мы развиваем и внедряем;
- Главные источники данных когнитивных систем, также, как и методы, которые используются для таких систем и решений;
- Возможности для клиентов, их бизнес-моделей и всей работы в целом. Мы будем работать с нашими клиентами для того, чтобы защитить их данные и ноу-хау, мы также постараемся убедить клиентов, партнеров и коллег использовать схожие принципы работы.
Навыки и умения людей — тоже важный фактор. Экономические и социальные выгоды новой эры не будут реализованы в том случае, если человеческий фактор, то есть люди, либо не учитывается, либо не поддерживается. А ведь это критически важный момент для когнитивных технологий, которые дополняют интеллект человека и действуют вместе с ним. По этой причине компания IBM будет работать для того, чтобы помогать учащимся, работающим людям и вообще всем гражданам получать новый опыт и знания, обеспечивающие возможность эффективного взаимодействие с когнитивными системами, а также выполнять новые виды работ, которые возникнут в когнитивной экономике.
Наш собственный вековой опыт, ежедневная работа с клиентами из практически любых сфер и регионов всего мира научили нас прозрачности, принципам доверия, которые важны для представителей бизнеса и общества. Но мы также признаем и то, что еще очень многому предстоит научиться. В этом отношении мы хотели бы надеяться, что наша работа сможет стать началом диалога, который поможет ответить на фундаментальные вопросы об ИИ, для того, чтобы удалось развить экономический и социальный потенциал для когнитивного будущего.
Этой статьей мы хотели бы открыть обсуждение сразу нескольких важных тем относительно когнитивных технологий, ведь мы не только работаем в этой сфере уже несколько лет, но и публикуем результаты нашей работы на Geektimes. Именно поэтому компания IBM решила раскрыть новые принципы и отношение относительно когнитивных технологий и их разработки.
Поделиться с друзьями
Комментарии (15)
normandas
14.03.2017 15:27Имеется схожесть отношений между человеком и универсальным (сильным вариантом) ИИ и отношений между стариком и ребенком. Ребенок может вырасти и стать хорошим помошником старику, а может плохо относится к старику. Все зависит от воспитания.
Когда множество ИИ обретут возможность прямого общения (без посредства программиста) с людьми и цели действий ИИ будут зависит от рядового человека, то ИИ станут в некотором смысле членами общества людей и неочевидно, что будут лучше относится к людям и друг к другу чем люди относятся друг к другу.
Пока люди не станут лучше относиться друг к другу, они будут использовать ИИ и для того, чтобы навредить другим людям, а такжке, будут сами иногда того сознательно не желая стимулировать появление недружественного ИИ.
sergku1213
Молодцы, что прислушались к моим речам и действуете в верном направлении. Теперь ещё и в сторону сильного искусственного интеллекта стоит приглядется попристальнее. Я о чём: — хотя, с первого взгляда, кажется что нет особенно выраженных сфер коммерческого приложения ИскИнов сильного типа, но это только на первый взгляд. Руководство. И дело даже не в том чтобы ИскИн превосходил человека по интеллекту, дело в другом. ИскиИн может применять все те же уже наработанные человечеством методики более эффективно ввиду отсутствия конфликта интересов, гарантированной некоррумпированности, даже банального отсутствия страха. Такое вмешательство в управление делами человека ИИ, конечно не стоит афишировать — это очень унизительно для людей, но это может дать громадные эволюционные перспективы тем государствам и компаниям, которые начнут применение ИскИнов первыми. Благодарю.
saboteur_kiev
«гарантированной некоррумпированности»
ИИ внедряют люди.
Все современные ИИ это не самообучающиеся алгоритмы, это уже готовые алгоритмы, которые умеют самообучаться на паттернах данных. Но внутрь этого алгоритма можно запихнуть кучу закладок, в том числе и тех, которые выгодны определенным личностям. И ИИ не сможет самостоятельно их изучить и избавиться.
SvSh123
Речь о «сильном ИИ», его отличительные признаки как раз самосознание и самообучение. Вопрос в том, сможет ли он обнаружить в себе закладки, и будет ли от них избавляться, если обнаружит. Если нет, мы получим то же самое лоббирование, но уже не за деньги, а «из любви к искусству». И доказать факт такого лоббирования будет крайне трудно.
В том, что закладки будут — можно не сомневаться. :) Наверняка там будет возможность отдать приказ, который система не сможет не выполнить. Создатели непременно оставят себе возможность взять свое детище на короткий поводок.
Только вот незадача: в этой области человечество еще только готовится сделать первый шаг: понять, как работает наше собственное сознание. До вопросов о правах и обязанностях ИИ нам еще идти и идти… :)
saboteur_kiev
Человечество давным давно сделало и первый шаг, и второй и в принципе уже давно разобралось в сути. И даже пытается имитировать простейших в электронном виде.
Проблема для искусственного ИИ заключается в типе носителей (синапсы и их химический бэкграунд) и их количество.
BlackMokona
Можно сделать опенсорсный ИИ который будет искать закладки в других ИИ.
1Tiger1
А ведь мы проворонили возникновение неорелигии. Вы не единственный такой, вас много, очень. А потенциально вообще большинство, просто не многие еще знают что такое ИИ.
Все атрибуты есть: вера в непогрешимость, в то что ИИ лучше человека решает любые ситуации и лучше знает что делать, всезнание, всемогущество, желание чтобы ими управляли, вели и заботились, желание контроля и истины в последней инстанции. Даже аналог загробной жизни есть (сингулярность), в которой будет счастье и благодать, пока не понятно какая и почему, но точно будет, главное терпеливо ждать. И непостижимость само собой, никто не представляет что это такое и каковы его цели, но точно знает какими качествами будет обладать.
Ну держите первую молитву, безвозмездно, то есть даром:
ИИ сильный всемогущий, всезнающий и многомудрый, непогрешимый, справледливый и неподкупный, возьми нас ангцев (овец и баранов) под руку свою и веди к светлому будущему, а лучше сразу к сингулярности.
И дай нам хлеба, зрелищ и электроды к центру наслаждений.
И избавь нас от бремени ответственности, муки принятия решений и тяжести труда.
И да прибудет с нами спокойствие, безмятежность и базовый доход, во веки веков.
Никто не спорит что использовать ИИ в системе управления чем угодно может быть выгодно и эффективно. Но отдать ему любое право выбора, отдать все управление, все принятие решений — люди, откуда это рабское желание найти хорошего хозяина который позаботиться о вас? Вы серьезно рады жить в обществе где любое решение за вас будет принимать умная машина, а вы будете просто выполнять это? Или вы наивно полагаете что ИИ это такая золотая рыбка которая будет исполнять именно ваши желания, а не думать об оптимальном решении для обществалне? Или для вас полное отсутствие свободы принятия решения на любом уровне и возможности на что-то повлиять, вполне нормлальная плата за хлеб и зрелища?
Корупция конечно зло, и человеческая глупость тоже, но я предпочту жить в неидеальном обществе коррупции, где я могу на что-то повлиять, чем в обществе абсолютного рабства где каждый мой шаг будет расписан умной машиной на благо общества (в том виде в котором его видит эта машина).
И нет, у меня не фобия ИИ и машин, у меня фобия общества добровольных марионеток. Это не унизительно, это тупо страшно, человечество добровольно выродиться до животных за 5-7 поколений. И это будут очень счастливые сытые и радостные животные.
Не благодарите, просто подумайте.
DrPass
Ну это смотря как запрограммировать (или обучить) управлящий ИИ. Вполне вероятно, что животные через какое-то время станут нифига не счастливые, не сытые, и не радостные.
sergku1213
О-о-о, фанатик коррупции! Снимите спидометр с машины — он ограничивает вашу свободу. Да, выбор есть уже. Можно жить в обществе с коррупцией, а можно уехать в экономически развитые страны. И да, Вы правы, ограничения со всех сторон — с непривычки напрягают. Кстати, по мне, когда каждым твоим шагом управляет полное ничтожество — еще хуже. Да, я останавливаюсь на светофорах(там нашим поведением управляет совсем примитивный аппарат), да смотрю на спидометр, да выбрасываю мусор в контейнеры и так далее. И естественно, мне хотелось-бы как-то отделиться от общества людей желающих коррупции и свободы. Для себя. Что и происходит естественным путем всюду в мире. А Вам совет — для начала победы разума над ИИ, овладейте правилами написания тся/ться. Успехов, Человечище!
SvSh123
ИИ во главе государства, это не только унизительно для человека, но и просто опасно. Кто даст гарантию, что эта система неуязвима для взломщиков и не несет в себе закладок?
DnD_designer
… или, будучи сильным ИИ, которое сможет избавтиься от закладок, будет заботиться об оптимальном решении для общества людей?
jcksmt
Deus ex machina.
В этом и есть цель человечества. Мы все всего лишь ступенька к появлению его — Бога из машины. Мы все вымрем после исполнения нашей глобального предназначения. Аминь.
1Tiger1
Мда, а выражение действительно начинает приобретать другой, буквальный смысл.
Надеюсь вы все же шутили.
На всякий случай, если все же вы серьезно говорили (а я встречал людей которые серьезно так считают), к вам просьба: когда соберетесь вымирать — вымирайте пожалуйста в одиночку, ну или вместе с теми кто полностю с вами согласен и так же определяет цель человечества. Не трогайте и не заставляйте вымирать тех кто считает по другому. А то мне как-то неохота вымирать, рановато, еще не достиг своих целей.
burbilog
Вот почему ИИ обязательно противопоставляется человеку, а? В реальности будет очень тесный симбиоз, в котором человек будет играть такую же роль, как в психике человека бессознательное, «ОНО». И так же, как в психике нельзя отделить одно от другого, нельзя будет разделить машину и человека (ну, сейчас так уже и есть, сложно работать без поиска в интернете и возможности моментально найти нужную документацию и прочее).
Мы не заметим, как случится этот симбиоз.