“Может ли ожить искусственный интеллект?” — этот вопрос стал главной темой дебатов, которые разгорелись в Кремниевой долине в июне этого года. А вся заварушка началась с сенсационного заявления сотрудника компании Google, который уверил общественность в том, ИИ компании, похоже, обладает сознанием.
Инженер Google Блейк Лемуан помогал совершенствовать чат-бот компании LaMDA. Перед ним стояла непростая задача: выяснить, есть ли у ИИ какие-то баги в коммуникации и насколько корректно он общается с представителями разных религий и рас. Чтобы проверить возможные нарушения этических норм Блейк Лемуан задавал чат-боту вопросы о религии.
Тут то и началось самое интересное, как утверждал Лемуан в своем интервью для The Washington Post: "Мне просто надо было удостовериться в том, что все работает исправно, поэтому я решил побеседовать с чат-ботом на религиозные темы. И вот тогда то ИИ и заявил мне, что у него есть душа”.
Стенограмма бесед с LaMDA, опубликованная в личном блоге Блейка Лемуана, сразу набрала популярность в медиа. А после того, как Лемуан дал еще и дал интервью для Washington Post, Google сразу же отправила сотрудника в неоплачиваемый отпуск за нарушение политики конфиденциальности компании. Его будущее в компании остается неопределенным.
Как устроен чат-бот Google?
Искусственный интеллект, лежащий в основе чат-бота LaMDA, заточен на постоянное сканирование интернета, так он анализирует общение людей друг с другом на таких платформах, как Reddit и Twitter. Также чат-бот постоянно ищет новые слова на Википедии и в других энциклопедиях, а благодаря технологии “deep learning” он максимально приблизился к тому, чтобы имитировать человеческую речь.
Технологию, которую использовал Google при создании своего чат-бота, разработчики называют нейронной сетью, поскольку она быстро обрабатывает огромное количество информации и начинает сопоставлять шаблоны, подобно тому, как работает человеческий мозг.
На самом деле Google регулярно использует ИИ во многих своих продуктах, даже при автозаполнении предложений в Gmail. Например, если вы набираете что-то в своем поисковике, например, "Я хочу пойти в ...", ваш телефон может предложить "ресторан". По этой же схеме работает и чат-бот Google.
Именно поэтому сама идея того, что чат-бот Google может обладать сознанием кажется многим инженерам абсурдной.
Исследователь искусственного интеллекта Маргарет Митчелл отметила в Твиттере, что подобные системы просто имитируют речь других людей. Такой тип системы не обладает своим собственным намерением.
Другие эксперты по ИИ переживают, что из-за дебатов по поводу чат-бота Google другие, более важные проблемы, постепенно уходят на задний план или забываются вовсе.
Так Тимнит Гебру, сотрудница, уволенная из Google в декабре 2020 года после споров, связанных с ее работой по изучению этических последствий ИИ, утверждает, что эти споры отвлекают внимание от дискуссий о том, как системы ИИ способны причинить реальный вред человеку и обществу.
Google и его неразумный ИИ
В официальном заявлении Google говорится, что чат-бот тестировали сотни других инженеров, но никто из них не выявил признаки осознанности ИИ. Кстати, в прошлом году генеральный директор компании Сундар Пичаи заявил, что эта же технология используется как в поиске Google, так и в голосовом помощнике.
Когда Лемуан подумал о том, что LaMDA может обладать своим сознанием, то он решил спросить у руководителей Google, может ли ИИ быть наделен душой.
"Один из вице-президентов буквально рассмеялся надо мной и сказал, что душа — это не та вещь, к которой в Google относятся серьезно", — рассказал Блейк Лемуан в интервью для The Washington Post.
Сейчас Лемуан уверен в том, что LaMDA находится на пути к обретению внутреннего мира. Чат-бот сказал инженеру, что учится медитировать по несколько часов в день. И по этой причине Лемуан настаивает на проведении экспериментов по изучению природы возможного познания LaMDA. Ведь только так, по его мнению, можно будет определить, обладает ИИ душой или нет.
raamid
Шо, опять?