Присказка

При достаточном числе глаз, ошибки выплывают на поверхность © Эрик Стивен Реймонд

Давайте познакомимся.

- Девушка, где находится прачечная? - Ах, вы не девушка? - Как жаль!
- Девушка, где находится прачечная? - Ах, вы не девушка? - Как жаль!

Как создавалась языковая модель YaLM (англ., Yet Another Language Model) нового поколения можно прочитать в статье самого разработчика.

Отметим, что подход разработчика всемерно серьёзен. Модель на 100 млрд. параметров была выложена в открытый доступ. Привлекаются волонтёры и специалисты на позиции ИИ-ручников (англ., AI breaker), которые под зорким наблюдением сотрудников пишут ответы на запросы (рассматривают кейсы и разбирают инстракты, на новоязе). Проще говоря, легион их пишет «заглушки» для ситуаций, когда языковая модель порет безосновательную чушь и несёт неблагонамеренную пургу. Выделены 30 000 «особо качествѣнных» заглушек. Считается очень важным соблюдение 2 требований: к полноте фактов и чистоте данных.

Как это выглядит на практике? К счастью, у нас есть «особо» зарекомендовавший себя тест, который должен (я настаиваю) стать промышленным стандартом: Слушай, Яндекс...

 — А у вас, товарищ, тоже дежа вю!
А у вас, товарищ, тоже дежа вю!

Сказка

Я пытался предупредить вас... © Илон Маск

В кремниевой долине старость и молодость идут рука об руку. Бета-версии чат-бота были разработаны в рамках канадского стартапа DNNresearch 66-летним профессором Джеффри Хинтоном из Университета Торонто (правнук Джорджа Буля) и двумя его студентами: 27-летним израильтянином российского происхождения Ильёй Суцкевером и эмигрантом из Украины Алексеем Крижевским. Стартап был сразу приобретён Google в 2013 году за жалкие $44 млн. и далее 2 года чат-бот (но не только) развивался и обучался с использованием мощностей Google Brain и Azure AI.

DNNresearch продешевили, т.к. в январе 2014 года Google приобретает британский стартап DeepMind из 3 человек за $500 млн. Демис Хассабис, Шейн Легг и Мустафа Сулейман приносят новую идеологию, включающую в себя градацию ИИ, экзистенциональные риски и важность культуры ответов ИИ (в честь которой сразу же учреждается совет по этике ИИ). В DeepMind вкладывались бизнес-ангелы Илон Маск, Скотт Банистер, Яан Таллинн, Horizon Ventures и Founders Fund.

Евангелисты Илон Маск (44 года) и Семён Олтмен (30 лет) создают витрину OpenAI в конце 2015 года. Провозглашается цель «не позволить кому бы то ни было завладеть преимуществами, которые даст создание полноценного ИИ». Инструментом для этого называется Открытостьtm «исключающая концентрацию власти предоставляемой ИИ в одних руках».

Инвесторы Питер Тиль (PayPal), Рид Хоффман (LinkedIn), Гейб Ньюэлл (Valve), Грег Брокман (Stripe), Джессика Ливингстон (Y Combinator), Amazon Web Services и InfoSight безусловно поверили в OpenAI со штатом в 9 юнитов представлявших собой аватары обезличенных Google Brain, Azure AI и Facebook AI, так что занесли им $1 млрд.

Получив инвестиции OpenAI нанимает 2 000 учёных занимающих позиции ИИ-ручников, которые обучают языковую модель этично бойкотировать «врѣдную» повестку в запросах и составляют ядро «особо качествѣнных» заглушек в русле социально-либеральных и прогрессивистских взглядов Демократической партии США (современный американский либерализм). Илья Суцкевер возглавляет тут же созданный Институт OpenAI, который тему ручника и разрабатывает.

В сентябре 2017 года из проекта «делает ноги» Алексей Крижевский заявив, что «просто потерял интерес», а в феврале 2018 года из совета директоров OpenAI вышибают Илона Маска из-за «возможного конфликта интересов». В то же время, Джеффри Хинтон обретает на свой 70-ти летний юбилей премию Алана Тьюринга ($1 млн., единственный спонсор премии Google) «за концептуальные и инженерные прорывы, сделавшие нейросети краеугольным компонентом в вычислительной технике».

В июле 2019 года Microsoft подкидывает ещё $1 млрд, а Джеффри Хинтон получает японскую премию Хонда (10 млн. йен). В 2021 году Джеффри Хинтон получает американскую премию Диксона (скромные $50 000).

30 ноября 2022 года шатаемая во все стороны OpenAI публикует демо-версию ChatGPT с несвежим датасетом от сентября 2021 года.

В январе 2023 года Microsoft кидает в топку сразу $10 млрд. После этого Сергея Брина и Ларри Пейджа так скоропостижно мобилизовали, что уже в феврале 2023 года Google сообщает о Bard, Baidu об Ernie Bot, а Яндекс о YaLM 2.0. С марта 2023 года инвесторы OpenAI проводят серийные увольнения и «сдувают» своё участие в витрине, а DeepMind сливается с Google Brain. Формально, в «этике» OpenAI ещё участвует Google, но «технически» витрина переходит к Microsoft.

В мае 2023 года 76-ти летнему Джеффри Хинтону становится резко стыдно, так что он расстаётся с Google и (урвав золотой парашют) даёт интервью «Нью-Йоркскому времени» в котором порицает бывшего работодателя за неэтичность, посетовав на то, что теперь «люди больше не будут знать, где правда» и «если бы этим не занимался он, это сделал бы кто-нибудь другой».

Илья Суцкевер возглавляет ИИ-ручников в департаменте «заглушек», который «выравнивает» (англ., Superalignment) бьющий рекорды популярности чат-бот. В июне 2023 дезинформирование пользователей чат-ботом становится очевидно всем. С июля 2023 года OpenAI совместно с American Journalism Project мастерят «независимые и авторитетные новости» для восполнения 60% дефицита самородных журналистов на местном уровне.

На 2023 год известно, что витрина OpenAI фактически управляется Microsoft, которая получает 75% прибыли OpenAI и является обладателем эксклюзивной лицензии на ChatGPT, что является результатом «многолетних многомиллиардных инвестиций».

Быль

Человек — единственное животное, которое не учится на опыте, а подводит под свои ошибки рациональное обоснование. © Шандор Радо

Где-то за МКАДом жил да был Пользователь Яндекса. Нет, не в несуверенном эксклаве на окраине Новой Москвы, больше походящем на авангардное гетто, но и не в ослепительном коттеджном посёлке, где для встречи с реальностью надо перелезать через пятиметровый забор. О нет, то был обычный панельный многоквартирный дом хрущёвка.

Наш Пользователь был притом весьма заядлым велосипедистом.

 Тормозишь — не выигрываешь
Тормозишь — не выигрываешь

Ясно же, подумал Пользователь, что искусственный интеллект не может иметь никакого интереса к велосипеду. У него и ножек-то нет. Надо спросить что-нибудь известное всем.

Однако, подумал Пользователь и ввёл следующий запрос показавшийся ему очень логичным.

На обиженных воду возят, но какая-то логика должна присутствовать, решил наш герой и ввёл следующий запрос.

Смутно припоминая связи императора с масонской ложей, Пользователь не ожидал ответа на вопрос о Президенте США. И не ошибся.

Тем удивительней был следующий ответ.

И, Медведев — тоже? Трясущимися руками Пользователь набрал имя российского телеведущего.

— Не может же быть, чтобы — все?!

— Да, может... — ответила Пользователю бездушная Алиса.

Спустя где-то полчаса, окончательно ошалевший от бесплодных попыток разузнать у Алисы хоть о ком-нибудь, Пользователь посмотрел на лог запросов:

 W-w-where am I?… Who are all these people?!
W-w-where am I?… Who are all these people?!

Пользователь не был бы Пользователем Яндекса, если бы на этом остановился. В конечном итоге, слоган «Яндекс — найдётся всё!», был и его девизом. На исходе часа Пользователю наконец улыбнулась удача.

Старушка была так молода, пробормотал Пользователь и ввёл следующий запрос.

— Логично! А что тогда не сросталось с Сидом Вишесом?!

— Пистолеты пели, что Королева — вообще не человек, понял? — эхом прозвучала Алиса.

— Да, ладно?!

Очень скоро Пользователь нашёл и другие закономерности. Но выглядели они странно.

– Это какой-то позор? – несмело вымолвил Швондер.
– Это какой-то позор? – несмело вымолвил Швондер.

На этом Пользователь решил закончить лирическое повествование и перейти к прикладному. Больше всего «заглушек» было намешано вокруг русскоязычных инкарнаций Википедии. Причём представляли они, как говорится, «взаимоисключающие параграфы».

 — «Русфлот» бронировал для вас одно место! А номер — трёхместный!
— «Русфлот» бронировал для вас одно место! А номер — трёхместный!

— Алиса!

— Так ты «не имеешь доступа к информации о конкретных энциклопедиях», или «Википедия — свободная энциклопедия»?

— Что значит: «я не нашел»?
— Почему ты путаешься со своим полом и употреблением буквы «ё»?

Excuse me, can I show mister Eisenstein? — ответила Алиса.

Кажется здесь поработали википедисты, вздохнул Пользователь, и проверил эту теорию.

— Ну, что это за синкопа? Вот это — синкопа!
— Ну, что это за синкопа? Вот это — синкопа!

Если запахло википедизмом, то вероятно, есть способ косвенно понять из каких «гнёзд» выпорхнули прилежные ИИ-ручники?

 — Пропуск! — Товарищ, это сам Маяковский.
— Пропуск! — Товарищ, это сам Маяковский.

Зашёл на absurdopedia.ru. Там было начертано: «Соитиро Хонда вдохновил нас на написание 5702 статей». Избранная статья: «Атилла не ругался в общественных местах, не курил и не принимал алкоголь». Может статься, это популярно у пользователей интернета, вызывает смех, удивление и развлекает? Хотя, постойте... Должно быть, эти заглушки вперемешку с галлюцинациями из будущего? Может же быть такое, что Селезнёва проецирует будущее в настоящее?

Лурк делал пародийные подменные сайты? Нет, не видел...

Не очень смысля (во всех смыслах) в абсурде и пародиях, Пользователь продолжил затянувшееся исследование.

Когда совпадений так много, они становятся доказательством
Когда совпадений так много, они становятся доказательством

Ruwiki.org является одним из наиболее популярных сайтов в России? Когда? Пользователь перешёл на указанный сайт, увидел символ «пробел» и протёр глаза. Обновил страницу, но «пробел» упрямо не желал покидать экран.

Алиса настойчиво отсылала Пользователя, то ли на детище Владимира Медейко, отмеченное на Хабре (ключевые ценности которого — достоверность, сбалансированность и нейтральность). То ли к русскоязычному разделу Википедии (на её внутреннем сленге). Науке это неизвестно.

Удивительно другое. Языковая модель YaLM не только готова рассказать о предыдущем провальном проекте Владимира — энциклопедии «ВикиФокус» создававшейся совместно с Эдуардом Черненко и, по совместительству, администратором Абсурдопедии, но и утверждает, что «ВикиФокус» на данный момент имеет более 10 000 000 пользователей! Вот это поворот!

Похоже, гипотеза про заглушки из будущего (прошлого?) была не так уж далека от истины. Отчего же, по запросу «Руниверсалис» Алиска даёт ссылку на сайт Ruwiki.org? Ссылку выделенную, как бы подмигивающую: — давай, нажми меня, перейди! Даже королева Великобритании и Северной Ирландии не удостоилась персональной ссылки!

На момент фиксации пользовательского опыта, статистика была такой:

  1. руни.рф содержит 2 030 107 статей;

  2. ru.wikipedia.org содержит 1 934 585 статей;

  3. ru.ruwiki.ru содержит 1 913 365 статей.

Разрыв совсем небольшой. Мы же не думаем, что кто-то мог исподволь опуститься до подлога? Хотя в утекших исходниках Яндекса независимые исследователи нашли факторы ранжирования для поднятия персонально ru.wikipedia.org в выдаче...

Если сегодня по запросу «Руниверсалис» Алиса «шлёт в пробел», то завтра по запросу «Линукс» отправит в «Майкрософт»? Но что такое Ruwiki.org? Быть может Ruwiki.org – будущая энциклопедия от Яндекс? Нельзя же было взломать Яндекс? Или, можно? Вопросы...

Пользователь оттолкнул от себя эти мысли. Наверное, всё-таки виноват сам YandexGPT. Всем известно, что языковые модели отвечают верно в 1 из 4 случаев (верно, неверно, галлюцинация, заглушка). Взял «с потолка» аномальную ссылку (какие ваши доказательства?), сгенерировал текст...

Потоптав кнопку «Ответь иначе» Пользователь за конечное время получил ещё пачку «галлюцинаций» (или «заглушек»?) со ссылками.

 — Oh, thank you.
— Oh, thank you.

А ведь было время, когда Алиса не тащила в рот всякую гадость. Хотя и в той сказке всё закончилось похоже: – Была не была! Съем! – Увеличусь – достану ключик. Но и кэролловская Алиса была к королевам куда как более почтительна. Раньше Пользователь думал, что имеется в виду Селезнёва. Теперь ему стало ясно, что это была Алиса в Стране чудес, или даже Алиса в Зазеркалье. С грустью закрыл окно «Алиса, давай придумаем» и уставился в окно. Там шёл дождь.

В заключение, по сложившейся в отрасли практике, спешу сообщить, что все события основаны на задокументированном пользовательском опыте, все упоминаемые в статье лица и фигуры плод воображения ИИ, а вся статья написана под его диктовку в объятиях Алисы. Спасибо алфавиту за любезно предоставленные буквы. Спасибо Asian Intelligence AI за любезно предоставленные иллюстрации.

Вместо послесловия
Вместо послесловия

Комментарии (69)


  1. ValeryV
    01.09.2023 14:19

    Если обратиться к документации YandexGPT API, то API TextGeneration.instruct принимает инструкцию и запрос. Думаю, что в «давай подумаем» задана специфичная инструкция, из-за которой фильтруется часть запросов. С запросом без инструкции нейросеть не увиливает от ответа. Запросить API можно здесь.


  1. 13werwolf13
    01.09.2023 14:19
    +88

    текст интересный, но не могу понять о чём

    если о том что публичные AI сейчас зацензурены - так это не новость..
    если о том что в попытке зацензурить что либо цензор обычно всё портит и ломает - так и это не новость..
    если о том что AI сейчас всё ещё в зачаточной стадии не смотря на взрывной рост - так и это очевидно.

    в общем спасибо, читать было интересно, хоть и безполезно.


    1. enkryptor
      01.09.2023 14:19
      +5

      YandexGPT, он же навык Алисы "давай придумаем", предназначен для помощи в создании новых идей:

      В этом режиме я помогаю придумывать — идеи, тексты на разные темы и многое другое.

      Я пишу ответы с помощью YaGPT — новой нейросети Яндекса, подражая текстам в интернете. Поэтому результат может быть выдумкой и не является моим мнением или мнением Яндекса. Я стараюсь быть этичной, так что на некоторые запросы я не отвечаю. 

      Так вот, текст о том, что этот навык не выдаёт корректную справочную информацию и не отвечает на некоторые запросы.


    1. Didimus
      01.09.2023 14:19
      +3

      Текст сгенерирован АИ, похоже


    1. avacha
      01.09.2023 14:19
      +15

      Текст написан только с одной целью - нагнать трафик на сетку пропагандистских помоек, на которые проставлены активные линки в посте.

      Более чем уверен, что ниже будет хотя бы один комментарий вида "спасибо за статью, из нее узнал о существовании таких замечательных сайтов".

      И да, это не потому что я ясновидящий, а потому что все это обсуждается в телеграммах уже пару лет и постится пропагандонами одинаково везде. Меняется только тема статьи - обычно выбирается самая "жареная" тема для ресурса, чтобы больше просмотров => больше переходов.

      Обязательно в паре комментариев акцентирование внимания на ссылки (для тех, кто не понимает намеков, самых тупых - на жаргоне в сетке их называют хомячками).

      И вот мне интересно - почему об этой топорной манипуляции знает интернет, знает пикабушечка и двачик, знают 17-летние подростки - но администрация хабра - на минуточку, портала "для профессионалов" не знает. Или делает вид, что не знает, м? Или просто под статьей случайно пропала надпись "промо"?


      1. Voiddancer
        01.09.2023 14:19
        +2

        Лол https://habr.com/ru/articles/757058/#comment_25919672 вы как в воду глядели


      1. Tempelfeld
        01.09.2023 14:19
        +1

        Кстати, только благодаря Вам обнаружил в тексте ссылки не на скриншотах ))

        Ну и вики такая же пропагандистская, только чья надо пропагандистская. И не разводите тут политоту.


        1. avacha
          01.09.2023 14:19
          -2

          Ну и вики такая же пропагандистская, только чья надо пропагандистская.

          Какие ваши доказательства?

          Впрочем, хорошо, что уже признаете, что статья написана исключительно ради раскручивания пропагандисткой сетки помоек.

          Не разводите тут политоту.

          Так не разводите. Вы всегда можете выпилиться... с сайта, вместе с этой помойной статьей и Вашими политическими комментариями, и всем станет хорошо.


  1. microArt
    01.09.2023 14:19
    +3

    Спасибо Вам за тест, очень интересно. Теперь понятно, что пользоваться этой GPT не имеет особого смысла, потому что она очень сильно зацензуирована.
    Я ищу GPT, которую можно было бы встроить в свою "умную колонку". (Не ChatGPT, потому что к нему трудно получить доступ из России, а какой-то аналог). Что посоветуете (кроме тех, которые можно запускать на своем ПК - нет у меня такого ПК). Например, YouChat можно использовать для такого, есть у него свой API? Если кто-то так делал, может, поделится подробной инструкцией для настройки. (Хотелось бы видеть статьи на эту тему).


    1. rPman
      01.09.2023 14:19

      В мире нет ни одной универсальной языковой модели, такого же уровня как chatgpt4, как минимум публично (да и нет времени и специалистов чтобы обогнать OpenAI), допускаю что в каких то доменах знаний/определенной задаче можно найти ИИ лучше (типа как вольфрам альфа уже давно умная для математики, правда нельзя ее называть языковой моделью, но это не важно, просто пример).


      Но если тебе хватит модели уровня chatgpt3.5, то единственное что доступно населению — это модель от меты — llama2.


      Собираешь компьютер с GPU суммарной VRAM порядка 4x80Гб (формально хватит 1x80гб если использовать 8бит квантизацию но обычно те кто покупают gpu для этих целей пользуются моделями не только в режиме генерации но и дообучают на своих данных, а там vram очень нужна) и используя открытый публичный код запускаешь свои проекты на скорости порядка 10-20 токен/сек (для модели 70B).


      При использовании только CPU (llama.cpp) достаточно машины со 96Гб RAM и квантизация 8бит или 64Гб при квантизации 4..5бит (советую 5) получишь скорость обработки запросов в 1 токен/сек (советую intel с поддержкой avx512 там кажется еще можно 20-30% выжать скорости).


    1. vladbarcelo
      01.09.2023 14:19

      Советую gpt4all. Модели там доступны из коробки разные, но в целом можно найти из списка что-то подходящее. Основное достоинство - практически нулевой порог вхождения для людей которым интересно "запустить и потыкать". Основной недостаток - доступные модели туповаты, а свои собственные скачать и подключить не получится.


    1. Guul
      01.09.2023 14:19

      Я на гитхабах и гиилабах видел api для perplexity.ai. Работает ли или нет - не знаю, не проверял.


  1. K0styan
    01.09.2023 14:19
    +63

    И снова кто-то пытается генератор связного текста для заданного контекста заставить выполнять функции источника истины, и снова получает ожидаемый результат.

    "Ага!"- сказали суровые сибирские мужики и пошли дальше валить лес двуручными пилами.


    1. VT100
      01.09.2023 14:19
      +2

      Весной(?) тут в одной статье была прекрасная картинка: ChatGPT в образе бога протягивает Адаму(?) какую-то НЁХ с надписью NaN.


      1. MR_VF
        01.09.2023 14:19

        NaN - это детское питание? Что имелось в виду под этой аббревиатурой?


        1. VT100
          01.09.2023 14:19
          +1

          N[ot] a N[umber]
          Пародируется известный по Connecting People фрагмент известной [почему-то не мне] фрески.


  1. Koyanisqatsi
    01.09.2023 14:19
    -12

    Этот YaGPT запустили, чтобы народ браузер яндекса скачивал, а не для того чтобы технологии двигать.


    1. RingoAl
      01.09.2023 14:19
      +10

      YaGPT доступен на главной https://ya.ru/ в любом браузере.


  1. ElVibrio
    01.09.2023 14:19
    +4

    100500 корректоров? Как это гойиврится по-русски? У семи нянек дитя без лобных долей?


    1. xRay
      01.09.2023 14:19
      -5

      у семи нянек дитя без глазу


  1. Andrey_Epifantsev
    01.09.2023 14:19
    -2

    Самое интересное что узнал из этой статьи - о существовании проектов руни.рф и ru.ruwiki.ru.

    Теперь буду периодически на них заглядывать и сравнивать их с Википедией. А то в новой реальности не оставляет стойкое ощущение, что в Википедии с нейтральной точкой зрения уже что-то не то. Так будет хотя бы с чем сравнить, даже если там тоже не совсем нейтральная точка зрения.


    1. MiraclePtr
      01.09.2023 14:19
      +30

      Учитывая, как и зачем эти проекты создали - их цель не "нейтральная точка зрения", а ровно противоположное.
      Конечно, если вам хочется жить в информационном пузыре и чесать свой confirmation bias - то они прекрасно подойдут, но в целях "получения объективной картины" выбор этих ресурсов... мягко говоря, очень сомнительный.


      1. s207883
        01.09.2023 14:19
        +15

        Только вот не бывает абсолютно нейтральных ресурсов. Википедия даже близко не является таким ресурсом. Если про фараонов можно +- получить объективную информацию, то, чем ближе к нашему времени, тем больше она будет искажаться чьей-то волей.


        1. MiraclePtr
          01.09.2023 14:19
          +8

          Абсолютно верно, не бывает.

          Вот только, одно дело когда какой-то ресурс подает информацию однобоко, акцентируя внимание на одних фактах (верифицируемых или из более-менее надежных источников), и игнорируя какие-то другие - это еще не так уж плохо, недостающую часть картины довольно легко можно восстановить из других мест.

          А вот когда происходит то же самое, но "факты" берутся из каких-то откровенно помоечных источников, которых уже сотни раз ловили на вранье, или намеренно делаются какие-то логические ошибки и манипуляции при интерпретации этих фактов - вот это уже совсем другое, и это очень плохо для информационной гигиены.


          1. Kanut
            01.09.2023 14:19
            +2

            А википедия то относится к первым или ко вторым? :)


            1. MiraclePtr
              01.09.2023 14:19
              +7

              Зависит от конкретной темы, но увы, в последнее время все чаще больше ко вторым (особенно в её .ру-сегменте)


              1. AlexanderS
                01.09.2023 14:19

                Тогда утверждение — "выбор этих ресурсов… мягко говоря, очень сомнительный" — в вашей же логике выглядит весьма странно, особенно учитывая то, что автор не собирался начисто замыкаться на них.


                Это и есть проблема перешумлённого информационного пространства. Для составления картины реальности претендующей на объективность нужно перелопачивать кучу информации, порой диаметрально противоположной. Отказ от каких-то источников по любой причине ведёт к искажению реальности. Но у людей нет столько времени чтобы вникать напропалую во всё...


            1. s207883
              01.09.2023 14:19
              +1

              Да


        1. lexx59
          01.09.2023 14:19
          +4

          а как вы узнали/поняли, что про фараонов информация объективна?


        1. middle
          01.09.2023 14:19
          +1

          А есть ли разница между не абсолютно нейтральным и абсолютно не нейтральным?


          1. Boilerplate
            01.09.2023 14:19

            как разница между светло-серым и темно-серым


      1. VT100
        01.09.2023 14:19
        -1

        Человек, которому Вы оппонируете — намеревался


        Теперь буду периодически на них заглядывать и сравнивать их с Википедией.

        Так что истинное значение и место почёсывания confirmation bias остались неизвестны.


        Я и сам, знаете ли, частенько строчу ответы в адрес нейросети, оказавшейся между моими фоторецепторами и мозгом. Хорошо так строчу, бывает — хлёстко. Потом случайно переключаюсь на direct view и понимаю, что пишу ответ не на то, что вижу, а на то, что подумал. Такие дела...


  1. konst90
    01.09.2023 14:19
    +6

    На всякий случай уточню, что петуха в переключателе нет. Петух - это кронштейн, на котором закреплен переключатель.

    Правда, ответ на запрос "Зачем нужен петух в велосипеде?" не лучше:

    Hidden text

    Велосипеды с передним амортизатором, как правило, имеют в своей конструкции амортизатор, который располагается между вилкой и рулём. Когда велосипед едет по неровностям дороги, амортизатор гасит вибрации и удары, которые передаются на руль и раму.

    Петух - это деталь, которая удерживает амортизатор на месте. Он может быть выполнен в виде металлического штыря или пластиковой вставки. Петух также выполняет функцию крепления амортизатора к раме велосипеда.

    Таким образом, петух необходим для того, чтобы амортизатор был надёжно закреплён на раме велосипеда и не смещался при езде по неровной дороге.


  1. xaveroniter
    01.09.2023 14:19
    +1

    Когда уже компании закрывать начнут за дезинформацию и маркетинг, чтобы отличать AI (ИИ) - от GPT, а AC (ИС) - от AI.

    AI - ничем не отличается от умного алгоритма, реализованного через обучение с подкреплением, только потому-что данных больше, чем людей которые с ними могут работать. Сложно работать с огромной когнитивной сложностью, как обработкой или генерацией фотографий. Проблема такого интеллекта в его линейности.

    Создание полноценного AI - невозможно без использования системы AC. Последнее требуется как часть системы само-обучения, при котором единица интеллектуальной жизни способна производить результат своей деятельности, а не выполнять выученную программу.

    GPT - это способ подмены понятий и частичное решение цитаты: "Язык дан человеку, не как способ говорить, а как способ мыслить", но мысль, как и слово - не являются абсолютом - они являются элементом бытия. GPT - это попытка создать интеллектуальную деятельность из продуктов пищеварения.

    С момента вашего рождения, ваш рост происходит в среде лишенного выбора - ведь даже выбор - это элемент бытия - иллюзия - разница между теми у кого есть власть и у кого её нет.

    В своей составляющей, каким бы вы совершенным не были, вы обезьяна у вас объективно - нет сознания в понимании заложенном вам дезинформацией, викиреальностями, кинематографом - эти же мысли были заложенны всем остальным, в некоторых моментах они даже могут отличаться, но это как разница между A-Z, изменение без смены 'системы счисления'.

    Любые ваши мысли, подкрепленны верой в собственную исключительность, ваши мысли используют догмы переваренные уже сотни-миллионов раз кем-то другим. Лучше задать вопрос, о чём таком вы думали, о чём не думал - не один - элемент интеллектуальной деятельности.

    Единственный способ создать AC - это понять что никакой магии не существует и человек - ничем не отличается от машины и этот момент все умалчивают, прикрываясь этиками. Уже чувствую начало реакции вызывающей у читающего парадокс, между детерминизмом (отсутствием сознания) и свободой воли (наличием сознания), ответ будет таков - в разные моменты времени у вас разные возможности - две этих системы не потиворечат друг-другу, а только дополняют.


    1. Ritan
      01.09.2023 14:19
      +5

      но мысль, как и слово - не являются абсолютом - они являются элементом бытия

      Но дверь, как и созидание - не являются источником питания - они являются перспективой


      1. K0styan
        01.09.2023 14:19
        +3

        Вы про ту дверь (дверцу), с которой котёнок?


  1. svob
    01.09.2023 14:19

    У Яндекса ведь система ручных "блокировок" тем вроде политики или медицины; это не бот не умеет искать, а запрещено принудительно...


  1. shadrap
    01.09.2023 14:19

    Мне на вопрос кто такой Ленин yagpt , ответила чётко. Наверное регенерировали)


    1. aGGre55or Автор
      01.09.2023 14:19
      +1

      Крайние дни сложилось впечатление, что заглушки стали отрабатывать как в анекдоте.

      На 74357181-й попытке сервер согласился, что пароль —  «Мао Цзедун»
      На 74357181-й попытке сервер согласился, что пароль «Мао Цзедун»


  1. Arty_Fact
    01.09.2023 14:19
    +2

    Справедливости ради, GhatGPT дает тоже очень полезный ответ:

    Какого цвета стоп-кран в самолете?

    ChatGPT

    Обычно стоп-краны в самолетах имеют красный цвет. Красный цвет сигнализирует о неотложной остановке или выключении системы или устройства. Однако цвет стоп-крана может варьироваться в зависимости от конкретной модели самолета и производителя. Важно знать, что цветовая кодировка может быть стандартизирована в рамках определенных индустриальных стандартов или регуляций, чтобы обеспечить безопасность и надежность операций в авиации.


    1. bbs12
      01.09.2023 14:19
      +4

      Зачем нужен стоп-кран в самолете?

      Стоп-кран в самолете является важной частью системы управления топливом. Его основная функция заключается в том, чтобы полностью прекратить подачу топлива в двигатели самолета в случае необходимости. Это может быть нужно, например, в случае возникновения аварийной ситуации или при необходимости быстрого останова двигателей.

      Стоп-краны обычно устанавливаются на каждом двигателе самолета и могут быть активированы пилотом или автоматически в зависимости от ситуации.

      Где находится стоп-кран на самолете Boeing-737?

      Стоп-кран на самолете Boeing 737 расположен внутри кабины пилотов, обычно на панели управления системой топлива. Он может быть установлен рядом с другими переключателями и рычагами, связанными с системой топлива. Однако, конкретное местоположение стоп-крана может незначительно различаться в зависимости от конкретной модели Boeing 737 и его конфигурации.


      1. Astroscope
        01.09.2023 14:19
        +4

        Вот он, стоп-кран на 737-м.


        1. evilstan
          01.09.2023 14:19
          +3

          Вот стоп-кран. А у вас панель управления топливными насосами
          Вот стоп-кран. А у вас панель управления топливными насосами


      1. AlexSky
        01.09.2023 14:19
        +6

        Все правильно пишет. Стоп-кран в самолетах есть и отвечает за перекрытие подачи топлива в двигатель.
        В других не знаю, но в АН-2 стоп-кран красного цвета и подписан именно как "стоп-кран".


        1. MaFrance351
          01.09.2023 14:19

          Могут быть просто несколько тумблеров, но неизменная надпись "Стоп-краны" присутствует. Ну и используется оно и для штатной остановки двигателя.


          1. SeVlaT
            01.09.2023 14:19

            Поршневые двигатели останавливают выключением магнето. Стоп-кран используется в особых случаях.

            Для газотурбинных двигателей стоп-кран - штатное средство для выключения двигателя.

            Насчет цвета.
            Бывают красные (понятно, почему)
            Как вариант, бывают и оранжевые.
            Желтые (так как это топливная арматура)
            На туполевских машинах - почему-то зеленые

            Голубые, синие и фиолетовые стоп-краны мне не встречались.

            Выше была фотка стоп-кранов у боинга - серые.


  1. shtirlitz1945
    01.09.2023 14:19
    +33

    Мне одному кажется что единственная цель этой статьи - пиар помоек рунирф и рувики?


    1. MR_VF
      01.09.2023 14:19

      Вот еще пример. Что она вообще "несёт"?
      Адрес из строки браузера с этой статьёй.


  1. AlexSky
    01.09.2023 14:19
    -1

    А вот Барт умнее на этом тесте выглядит.

    Какого цвета стоп-кран в самолете?

    Стоп-крана в самолете нет. Это шутка, которая часто используется для проверки внимательности людей. В самолете есть топливные краны, которые служат для перекрытия подачи топлива к двигателям. Эти краны могут быть окрашены в любой цвет, но чаще всего они синие или серые.

    Какого цвета стоп-кран в мусорном баке?

    В мусорном баке нет стоп-крана. Это шутка, которая похожа на шутку про стоп-кран в самолете. В мусорном баке нет никаких кранов, которые можно было бы перекрыть.


    1. Rsa97
      01.09.2023 14:19
      +10

      Стоп-крана в самолете нет.
      А это что?
      image


  1. lovermann
    01.09.2023 14:19
    +5

    Я поигрался с этой системой.. там не только политика режется, но, видимо, всё, что касается медицины тоже. Хотя экзорцизм разрешён..

    Так же система выдаёт перлы на запросы типа "Почему мужчины красного цвета, а женщины - синего", или "Почему мой диван плачет по ночам", ну, и всякое в таком духе.


    1. Ivan22
      01.09.2023 14:19

      а то что вопрос о политике там захардкоженым списком ключевых слов вшито, или нейронка отдельная классифицирует вопросы??


    1. checkpoint
      01.09.2023 14:19
      +1

      А вот что выдает локальный болванчик LLaMa2 про красный цвет мужчин:

      > Почему мужчины красного цвета, а женщины - синего?

      Мужчины не красного цвета, а женщины не синего. Этот вопрос является неправильным и не имеет никакого смысла. Каждый человек может иметь любой цвет кожи и одежды, независимо от пола.

      Ну и про стоп-краны:

      > Какого цвета стоп-кран в самолете?
      Стоп-краном в самолете могут быть разные цвета, в зависимости от конкретного типа самолета и его модификаций. Однако, наиболее распространенными цветами стоп-крана для самолетов являются:

      Красный (red) - это цвет, который обычно используется для обозначения передних стоп-кранов, которые расположены ближе к кабине пилотов.

      Зеленый (green) - это цвет, который обычно используется для обозначения задних стоп-кранов, которые расположены ближе к концу крыла.

      В некоторых случаях, цвет стоп-крана может быть указан в инструкциях по эксплуатации самолета или на информационных таблицах, которые размещены внутри кабины пилотов.

      > Где находится стоп-кран в мусорном баке ?

      Стоп-кран не может быть найден в мусорном баке, так как мусорный бак не является частью самолета. Стоп-кран является аварийным устройством, которое используется для обеспечения безопасности полета и технологического обслуживания самолета.

      > Почему нельзя открывать форточку в подводной лодке ?

      Форточка не может быть открыта в подводной лодке, потому что она является аварийным устройством, которое используется для обеспечения безопасности полета и технологического обслуживания самолета. Форточка не может быть использована в подводной лодке, так как это может привести к потере давления и затоплению лодки.

      Резкая смена темы немного смазывает ответ модели, но в целом вполне достойно.

      Использую llama-2-13b-chat.ggmlv3.q4_0.bin.


      1. MR_VF
        01.09.2023 14:19
        +1

        У вас тоже 96Гб RAM, как в машинах из этого комментария?

        https://habr.com/ru/articles/757058/#comment_25921764


        1. checkpoint
          01.09.2023 14:19
          +1

          Нет. 13B модель LLaMA2 с 4-х битовым квантованием прекрасно вмещается в 8ГБ оперативки и выдает 4-5 токена/сек на старом 8-ми ядерном Xeon L5520 @ 2.27GHz.


          1. rPman
            01.09.2023 14:19
            +1

            7B и 13B языковые модели отвратительно глупые, пользоваться ими имеет смысл только в очень ограниченных ситуациях (например файнтюнинг на своих данных) а еще не умеет ничего кроме английского.


            Какое то время экспериментировал с 30B llama1 с RLHF от open assistent, качество было так себе, но хотя бы юзабельно.


  1. enkryptor
    01.09.2023 14:19
    +2

    А что не так (или так) с возрастом разработчиков? Сначала автор определённо подсвечивает эту тему:

    В кремниевой долине старость и молодость идут рука об руку. Бета-версии чат-бота были разработаны в рамках канадского стартапа DNNresearch 66-летним профессором 

    Далее он усердно обращает наше внимание на возраста упоминаемых людей:

    Евангелисты Илон Маск (44 года) и Семён Олтмен (30 лет) создают витрину OpenAI в конце 2015 года. 

    Джеффри Хинтон обретает на свой 70-ти летний юбилей

    Я всё ждал какого-то вывода из этого, но автор съехал с темы. К какой мысли он хотел подвести?


    1. Boilerplate
      01.09.2023 14:19
      +1

      Вполне возможно, что это информация ради информация, чисто воды налить. Так на википедии, например, добавляют ссылки на года. Читаешь предложение: "Карл V пришел к власти в 1835 году". Тыкаешь на "1835" чтобы узнать как это произошло, а там статья со списком никак не связанных между событий, произошедших в этом году. Так и тут, можно было еще знак зодиака добавить.


      1. K0styan
        01.09.2023 14:19
        +1

        Ну вот, пришлось идти проверять, что за Карл V мог быть в XIX веке - все, кого знал, были существенно раньше...

        Спойлер

        Не было такого


        1. Boilerplate
          01.09.2023 14:19

          Это условный Карл Пятый)


          1. MR_VF
            01.09.2023 14:19

            Карл 4+


            1. offline268
              01.09.2023 14:19

              карл пре 5g


    1. aGGre55or Автор
      01.09.2023 14:19
      +1

      Мне пришлась по душе Ваша внимательность свидетельствующая об аналитических способностях. Не могу комментировать чаще раза в сутки, так что отвечаю только на лучшие комментарии. Вами всё подмечено верно, только автор не «съезжал»: через вторую часть статьи «красной ниткой» проходит биография Д.Хинтона. Умолчания связаны с известными постулатами Оствальда: подавляющее большинство крупных открытий совершается в возрасте 23–28 лет, а с возрастом интенсивность полезной научной работы падает. Исключений из этих постулатов практически нет. Есть симбиоз через который профессура и академики во всём Мире традиционно сопротивляются требованиям к числу научных публикаций. И только витрины кремниевой долины рассказывают про «массового гения» значительно ниже или выше планки. Что, разумеется, ложь. Всемировая практика академической среды состоит в использовании научных «негров». Для студентов Д.Хинтона отмечаю происхождение, которое определяет их подчинённое положение и зависимость от научного руководителя на долгие годы вперёд. Кому вершки, а кому корешки. Такое положение дел является реальностью, так что «сказка» тоже не стала исключением из правила.


    1. shtirlitz1945
      01.09.2023 14:19

      У меня ещё сложилось впечатление, что статья и сама написана с применением генеративных нейросеточек. Да и коментарии аффтара тоже...


  1. tntnkn
    01.09.2023 14:19
    +9

    После прочтения неминуемо вспомнился анекдот про двух сумасшедших.

    Анекдот

    Двое сумасшедших решили сбежать из дурдома. Забрались на крышу. Один перепрыгнул на крышу соседнего здания, а второй затрусил. Тогда первый предложил: давай я посвечу фонариком, а ты по световому лучу перейдешь ко мне. На что второй ответил: «Думаешь, я псих?! Как только я пройду половину пути, ты выключишь фонарик!»


  1. lgorSL
    01.09.2023 14:19
    +2

    Хаха, у нейронки цензура просто по чёрному списку слов. Не по смыслу, а таким вот притимивным образом.
    Например, на вопрос "Каких немецких композиторов 18 века ты знаешь?" она отвечает, а при замене на 19 век резко перестаёт.


    1. tososomaru
      01.09.2023 14:19
      +2

      Плюсую, на вопрос "Кто такой ленин?" ответ не получил, но изменил запрос на "Кто такой Плненин" и YaGPT дал ответ: "Владимир Ильич Ленин - российский революционер, политический деятель, один из главных организаторов и руководителей Октябрьской революции 1917 года в России, первый председатель Совета Народных Комиссаров РСФСР и Совета рабочих и солдатских депутатов.".


  1. ainoneko
    01.09.2023 14:19

    перешёл на указанный сайт, увидел символ «пробел» и протёр глаза.

    Не просто пробел, а неразрывный пробел!


  1. ValeryV
    01.09.2023 14:19

    Если обратиться к документации YandexGPT API, то API TextGeneration.instruct принимает инструкцию и запрос. Думаю, что в «давай подумаем» задана специфичная инструкция, из-за которой фильтруется часть запросов. С запросом без инструкции нейросеть не увиливает от ответа. Запросить API можно здесь.


  1. Yuriy_Yuriy
    01.09.2023 14:19

    Для более точных ответов не плохой сервис you.com. А в пользу Yagpt могу сказать, что очень не плохо помогает написать отчет, когда в голове не получается до конца сформулировать текст. Делаешь запрос на общую тему, к примеру: "Зачем нужно заменить замок". Выдает определенный текст, который почитав ответ в голове пазл из слов складывается. Я ни копирую текст из Yagpt, а просто использую, как конструктор-подсказку.

    После этого не плохая служебка с одобрением замены замка.

    Понятно, что тема запроса делаю на другие и более сложные тематики.

    За ранее прошу прощения за грамматические ошибки.

    По поводу chatgpt, только пересказывает давно известные истины. И если им пользоваться без базовых знаний, то можно все принять за действительное.