Компания Наносемантика и Фонд Сколково проводят первую в истории битву русскоговорящих чатботов в формате теста Тьюринга.

В 1950-м году Алан Тьюринг в статье «Искусственный интеллект и вычислительные машины» предсказал, что к 2000-му году компьютеры смогут имитировать диалог человека так, что средний собеседник не будет иметь больше 70% шансов правильного определения, является ли собеседник компьютером или человеком после пяти минут диалога.

Интересующихся искусственным интеллектом приглашаю под кат, чтобы почувствовать себя судьёй и не дать роботу обмануть себя.

В июне 2014 года тест Тьюринга был пройден англоязычным чатботом, разработанным в Санкт-Петербурге и представлявшимся мальчиком из Одессы. 33% его собеседников были убеждены, что общаются с человеком.
Чатбот – это компьютерная программа, использующая искусственный интеллект для общения с человеком на естественном языке и имитирующая человека.
В июне 2015 года стать судьёй русскоязычных чатботов сможет любой посетитель выставки Startup Village 2015. Все, что потребуется от судей, – это пообщаться 3 минуты сначала с одним собеседником, потом с другим, сказать, кто из них робот, и выставить ему балл от 0 до 10. Чем больше робот похож на собеседника-человека, тем выше балл.

Неизвестно, получится ли у кого-нибудь из чатботов пройти тест Тьюринга на русском языке в ближайшем будущем. Сегодня можно пообщаться с одним из конкурсных роботов, пройдя по этой ссылке (до 20 мая 2015 включительно).
Пообщайтесь 3 минуты с роботом — и выставите ему балл от 0 до 10: чем больше робот похож на человека, тем выше балл
0%
(4)
10 баллов
0%
(3)
9 баллов
1%
(6)
8 баллов
2%
(12)
7 баллов
3%
(18)
6 баллов
3%
(24)
5 баллов
9%
(63)
4 балла
16%
(112)
3 балла
18%
(126)
2 балла
14%
(104)
1 балл
22%
(159)
0 баллов
12%
(88)
хочу просто посмотреть результаты

Проголосовало 719 человек. Воздержалось 102 человека.

Комментарии (53)


  1. koreec
    25.04.2015 16:34
    +5

    Мне какой-то туповатый попался, спалился на третьей фразе


    1. VioletGiraffe
      25.04.2015 17:20

      Аналогично.


    1. Haoose
      25.04.2015 18:15
      +9

      У меня на первой.

      — Здравствуйте, я Соня Гусева
      — Привет
      — Привет?


      1. eugzol
        25.04.2015 21:40
        +6

        Ну, со строгостью ваших оценок многие посетители сайтов знакомств не прошли бы тест Тьюринга.


        1. avalak
          25.04.2015 22:17
          +3

          Ничего удивительного. Ведь цель теста выявление интеллекта и мыслительных способностей.


          1. eugzol
            25.04.2015 23:16
            +1

            Ну, даже человек совсем без интеллекта не допускает таких грубых ошибок понимания/использования речи, как самые совершенные современные боты. Всё же речь более базовая способность, нежели интеллект и мышление.


            1. avalak
              25.04.2015 23:34
              +1

              Допускают допускают. Не переоценивайте приматов. На фоне некоторых кадров даже средненький чат-бот выглядит более интересным собеседником.


      1. maxru
        27.04.2015 15:51

        — здраствуйте! меня Соня зовут.
        — привет
        — привет?
        — да, привет
        — можно вас спросить кое-что?
        — Ты отвечать будешь?
        — буду — не буду, какая ранзица? :)))
        — Это элементарная вежливость, нельзя отвечать вопросом на вопрос.
        — Это так Это
        — Признавайся, ты же робот?
        — :))) учительница математики иногда говорит, что я зависаю, как плохой компьютер
        — приём-приём. есть тут кто? :)))
        — дед пихто
        — это надо обдумать


      1. IvanGolubev Автор
        29.04.2015 15:10

        Это, конечно, косяк. Сонька продолжает учиться — так что постепенно становится если не умнее, то понятливее. Спасибо за найденный баг!


    1. dunmaksim
      25.04.2015 22:56
      +6

      У меня на первой же — выдал ответ через полсекунды после того, как я задал вопрос.


      1. niveus_everto
        26.04.2015 01:29

        +1


  1. may-cat
    25.04.2015 17:23
    +1

    Спалился сразу. Видел у ваших ботов неплохую задумку — они пытаются перехватить инициативу, задавая вопрос. Но это не работает, если я задал вопрос первым и не ведусь на их «иницитиву».


  1. vadim_ig
    25.04.2015 18:44
    +2

    здраствуйте! меня Соня зовут.
    Привет. Как проходит тестирование?
    может быть


    1. lomalkin
      26.04.2015 00:56
      +1

      Мне больше повезло, не удалось «подловить»:

      сколько тебе лет?

      скоро будет 13

      а сейчас сколько?

      12 :)))


  1. artemonster
    25.04.2015 19:19
    +13

    здраствуйте! меня Соня зовут.
    привет, я Ололо
    можно вас спросить кое-что?
    ну
    ну?
    ну, спрашивай
    когда я говорю ну, меня бабушка ругает :)))
    а вопрос какой был?
    а вам зачем? :)))
    ты сама его задала
    сама?
    вопрос, блять
    я от вас таких слов не ожидала :(((


    1. crmMaster
      27.04.2015 20:35

      я хочу вырезать тебе сердце

      интересно

      тебе интересно как?

      интереснее сложно себе представить? :)))


    1. IvanGolubev Автор
      29.04.2015 15:15

      Вправил ей мозги по поводу вашего разговора. Стала капельку поадекватнее. Спасибо за найденный баг!


  1. zomby
    25.04.2015 19:36
    +2

    я Соня Гусева, здраствуйте!
    Ghbdtn!
    это надо обдумать
    Да, богатую пищу для ума я тебе подкинул ;)
    хорошо
    Привет!
    можно вас спросить кое-что?
    Конюшня :)
    Конюшня?
    ога.
    окей
    Ну так спрашивай
    когда я говорю ну, меня бабушка ругает :)))
    Даже и не знаю, что ответить на ткой вопрос. Он вообще на вопрос не похож
    подумайте :)))
    Э?
    а вы зачем об этом спрашиваете?
    О чём?
    о чём-нибудь
    Тебя не переспоришь.
    буду иметь в виду
    Тебе до меня это никто не говорил?
    как-то не знаю
    Склероз?
    а вам зачем? :)))
    Мне-то не нужен :)
    нужен кому?
    Да никому, наверное.
    ну никому так никому :)))
    ауу


  1. avalak
    25.04.2015 20:50
    +5

    как-то совсем не очень.
    — моментально отвечает.
    — при игнорировании равномерно долбит случайными фразами.
    — беседу поддерживает хуже чем чат бот из флэш-игры.


  1. dvserg
    25.04.2015 20:50

    — просто так не бывает
    — бывает :)))
    — да ну
    — хорошо


  1. DjSapsan
    25.04.2015 20:50
    +3

    Днище полное…
    А тестировать очень просто — вводишь белеберду типа «лывалузкал» и смотришь на реакцию =)


  1. dvserg
    25.04.2015 20:59
    +1

    запомни БУ
    ммм…
    запомни РА
    продолжайте
    запомни ТИ
    ясно
    запомни НО
    то есть?


    скажи Мама
    Мама
    Скажи папа
    папа

    Научить чему-нибудь можно?


    1. dvserg
      25.04.2015 21:06

      команды: скажи, напиши


  1. NessawolF
    25.04.2015 21:19

    — Привет!
    — можно вас спросить кое-что?
    — Вот прямо так сразу?
    — так и не скажу


  1. NessawolF
    25.04.2015 21:26
    +5

    Будучи предоставлен сам себе, бот продолжает незамысловато общаться со Вселенной:

    ауу
    тук-тук :)))
    я тут одна что ли? :)))
    :)))
    не буду комментировать
    ок
    это надо обдумать
    буду иметь в виду
    :)))
    что тут скажешь
    ясно


  1. eugzol
    25.04.2015 21:42
    +1

    По комментам выше выходит, что бот не может соотнести местоимение или существительное с предыдущей репликой. То есть как бы сделать dereference ссылки. Неужели такую лингвистическую проблему никто пока не решил?


  1. Haoose
    25.04.2015 22:12

    — ммм…
    — ммм? у вас там всё в порядке с клавиатурой? :)))

    — ррр
    — :)))
    — ррр
    — ааай!!! кофе на ноутбук пролила!!! :(((минуточку...


  1. prolis
    25.04.2015 22:45
    +1

    Можешь называть меня господин
    вас?
    Меня
    Меня?


  1. pyrk2142
    25.04.2015 22:57
    +1

    Довольно забавно вышло. Но некоторые разговорные фразы обрабатываются плохо.

    — здраствуйте! меня Соня зовут.
    — Привет.
    — Привет?
    — Привет.
    — можно вас спросить кое-что?
    — Почему бы и нет?
    — как скажете


  1. McBernar
    25.04.2015 23:29
    +2

    К сожалению, совсем не похож на человека.
    Есть подозрение, что попытка простого парсинга входящих слов и знаков препинания — это не тот путь, чтобы создать похожий на человека чатбот.


    1. ColorPrint
      26.04.2015 15:20

      Угу, «парсить» семантику надо… вон в ABBYY что-то интересное на онтологиях в этой области делают.


  1. starius
    25.04.2015 23:38

    На вопрос о дне недели отвечает. Но на остальные вопросы отвечает односложно и неинтересно.

    Идея русскоязычного чатбота не нова, достаточно ввести в поисковик «чат-бот». Не заметил преимуществ предложенного бота над старым ботом «Киса».


  1. banchito
    26.04.2015 00:02
    +3

    Помню в году эдак в 95 попадалась мне шуточная программка, вроде «Говорун» называлась. Похоже, что с тех времен мало что изменилось.


  1. deQU
    26.04.2015 00:20
    +1

    сайт у них не удобный ,(


  1. niveus_everto
    26.04.2015 01:34
    +1

    Оно > здраствуйте! меня Соня зовут.

    Я < Привет Соня

    > можно вас спросить кое-что?

    < можно

    > кто вы по знаку зодиака?

    < а что это такое?

    > не исключено :)))

    Результат — бот. 0 баллов.
    Я таких писал для IRC =)


    1. niveus_everto
      26.04.2015 01:39
      +1

      + к вышесказанному:

      < ты робот

      > :))) учительница математики иногда говорит, что я зависаю, как плохой компьютер

      < мозгов мало

      > мало-мальски, как говорит моя бабушка :)))

      бюджета видимо не хватило…


  1. yallie
    26.04.2015 02:24

    Забавная программка. Повторение одних и тех же фраз собеседником замечает и возмущается: «опять 25, ходим по кругу» — молодец. А в остальном, увы, подкачала. Контекст разговора не отслеживает, каждую фразу, похоже, пытается понять с нуля, поэтому научиться ничему не может.

    > здраствуйте! меня Соня зовут.
    < Привет, Соня, я — твоя бабушка.
    > можно вас спросить кое-что?
    < Обращайся ко мне на ты, внучка.
    > бабушка говорит. что незнакомым нужно говорить вы… буду считать, что мы познакомились :)))
    < Как это познакомились, я же и есть твоя бабушка!
    > ну это так это :)))


    Попробовал устроить беседу бота с таким же ботом в соседнем окне браузера, разговор мгновенно деградировал до шаблонных фраз, потом бот завис и, видимо, по таймауту, вместо ответа написал свое обычное ауканье «приём-приём. есть тут кто?».


  1. Quiensabe
    26.04.2015 03:12

    Беседа двух Сонь.

    здраствуйте! меня Соня зовут.
    здраствуйте! меня Соня зовут.
    вас?
    так и не скажу
    ну и ладно
    когда я говорю ну, меня бабушка ругает :)))
    кое- когда
    не буду комментировать
    вперёд!
    ясно
    ясно?
    почему нет
    потому что гладиолус :)))
    это настоящая причина?
    что ж, ок :)))
    окей
    хорошо
    :(((
    что тут скажешь
    скажу — не скажу, какая ранзица? :)))
    может быть
    неопределённо :)))
    буду знать
    то есть?
    трудно сказать
    труднее сложно себе представить? :)))
    а вы зачем об этом спрашиваете?
    дразнитесь?
    не исключено :)))
    :)))
    в смысле?
    почему вас это интересует?
    ...


  1. ServPonomarev
    26.04.2015 09:10

    Пара замечаний. Первое — Эта ваша «девочка» из Одессы теста не прошла. 33% — не 70%, согласитесь.
    Второе — эта Соня ну очень тупая. Контекста не поддерживает вообще.

    Я считаю попытки имитировать детей — тупиковым путём. Это ничуть не легче, чем имитировать взрослого для задач именно болталки, а взрослые могут лепить всякие умные сложноподчинённые фразы, смысла в которых — ноль, но поскольку фраза длинная и завёрнутая — то приплести её к нужному контексту — уже задача человека. Грубо говоря — говорить иносказаниями да намёками. А судья пусть сам додумывает, что имелось ввиду.

    Чёткий нолик.


  1. varagian
    26.04.2015 15:05

    В июне 2014 года тест Тьюринга был пройден англоязычным чатботом, разработанным в Санкт-Петербурге и представлявшимся мальчиком из Одессы. 33% его собеседников были убеждены, что общаются с человеком

    AI-сообщество с этим утверждением категорически не согласно, а вы его постулируете, как нечто само собой разумеющееся:
    www.wired.com/2014/06/turing-test-not-so-fast


  1. ColorPrint
    26.04.2015 15:14

    как тебя зовут?

    Соня, я же сразу сказала :)))

    а фамилия?

    почему нет

    чего нет?

    неа


  1. DanDare
    26.04.2015 15:27
    +5

    Она очень умная, для 13-летней девочки.
    image


  1. PokimonFromGamedev
    26.04.2015 17:09

    Робот зависает если написать ему

    script alert(1) /script
    (только со скобочками)


  1. mammuthus
    27.04.2015 12:51

    Короче, как были чат-боты тупыми 15 лет назад (мое первое знакомство с ними), так и остались.

    Я просто молчал:

    -почему бы нет
    -приём-приём. есть тут кто? :)))
    -ауу
    -тук-тук :)))
    -я тут одна что ли? :)))
    -что тут скажешь
    -:)))
    -:(((
    -в смысле?
    -не буду комментировать
    -буду иметь в виду
    -ясно
    -ок
    -:)))
    -?
    -ммм…
    -продолжай
    -в смысле?
    -понятно
    -то есть?
    -ясно


    1. bask
      27.04.2015 14:27

      15 лет назад боты были и то умнее, чем это недоразумение.
      Регресс в самом натуральном виде


  1. netwer
    27.04.2015 14:51

    я Соня Гусева, здраствуйте!
    Есть ли жизнь на марсе?
    почему нет
    А почему?
    просто так :)))
    Всмысле, ты думаешь что нет жизни?
    думаю — не думаю, какая ранзица? :)))
    Бред, с тобой скучно
    мной?
    что 'мной'?
    ничего
    Тебя делать и делать еще
    ясно
    2*2
    что тут скажешь
    сколько будет 2на2?
    у меня тут нет калькулятора :)))
    приём-приём. есть тут кто? :)))
    ауу
    тук-тук :)))
    я тут одна что ли? :)))
    в смысле?
    :(((
    ок
    буду иметь в виду
    не буду комментировать


    Начиная с фразы: «у меня тут нет калькулятора :)))»
    бот начал сам с собой общаться:)


  1. medvedzver
    27.04.2015 17:55

    -я Соня Гусева, здраствуйте!
    -Привет соня. откуда ты?
    -наверное


  1. dvserg
    27.04.2015 22:08

    я Соня Гусева, здраствуйте!
    Привет. Ты откуда
    я из питера
    А сколько тебе лет
    почти 13
    что ты любишь?
    люблю хорошую погоду. в питере это редкость :)))
    чем заниамешься?
    чем -нибудь
    Ты учишься?
    сейчас каникулы, а так я учусь в школе 506, перешла в 8 класс
    У тебя есть хобби?
    я занимаюсь танцами
    А еще чем?
    трудно сказать
    Ты девочка или мальчик?
    наверное
    Кто твоя мама?
    кое- Кто
    Как зовут маму?
    татьяна, но она умерла в прошлом году
    Как зовут папу
    олег
    Ты Олеговна?
    почему нет
    Странно
    Странно?
    Да, ты повторяешься
    хорошо


    1. dvserg
      27.04.2015 22:11

      сколько времени
      точное время 22:10:16 :)))
      сколько лет
      говорила же уже
      какая погода
      в питере пасмурно :(((
      какие фильмы ты любишь
      есть несколько частей мультика про богатырей
      какие книги ты любишь
      про шамаханскую царицу


      1. dvserg
        27.04.2015 22:14

        ты куришь?
        нет, это вредно!
        Ты пьешь?
        пью — не пью, какая ранзица? :)))
        алкаголизм это плохо
        что ж, это так это
        как ты относишься к наркотикам?
        кое- как
        кто наш президент
        кто -нибудь
        как называется наша страна
        у меня есть кое-что для тебя на эту тему: lmgtfy.com
        я тут одна что ли? :)))


        1. dvserg
          27.04.2015 22:18

          ты слушаешь радио?
          слушаю — не слушаю, какая ранзица? :)))
          ты смотришь телевизор?
          смотрю — не смотрю, какая ранзица? :)))
          о чем ты думаешь?
          о каникулах :)))
          ты любишь цветы?
          мне нравятся розы
          твой любимый цвет?
          мне нравится белый
          твое любимое животное
          больше всего мне нравяться кошечки
          тебе нравятся собачки?
          а вы зачем об этом спрашиваете?
          гав гав
          в смысле?
          фффуууууу
          фффуууууу?? у вас там всё в порядке с клавиатурой? :)))


  1. ArcherServant
    29.04.2015 23:14

    — я Соня Гусева, здраствуйте!
    — привет
    — можно вас спросить кое-что?
    — валяй
    — кто вы по знаку зодиака?
    — я — стрелец. а ты серьёзно в это веришь?
    — я — дева
    — так веришь?
    — верю — не верю, какая ранзица? :))) *опечатка — специально?*
    — ну, если не веришь — зачем спрашиваешь?
    — может быть

    — читала сильмариллион?
    — наверное
    — то есть как наверное? ты читала эту книгу?
    — раньше я любила, как бабушка читала мне сказки

    Ну ужас же. Даже то, что в своё время iii делал, было лучше.


    1. jasiejames
      29.04.2015 23:27

      image