Участники открытого сообщества LAION-AI выпустили в открытый доступ первые обученные модели OA_SFT_Llama_30B и OA_SFT_Llama_13B. и запустили ИИ-чатбот OpenAssistant на их основе. На текущий момент доступны модели в 13 и 30 млрд параметров, дообученные на мультиязычных датасетах, собранных сообществом. В основе моделей лежит уже успевшая стать популярной LLaMA.

OpenAssistant - это диалоговый помощник на базе ИИ, который понимает задачи, может взаимодействовать со сторонними системами (подобно плагинам в ChatGPT) и динамически извлекать информацию из них. OpenAssistant позиционируется как открытая альтернатива ChatGPT.

"Мы хотим, чтобы OpenAssistant стал единой, объединяющей платформой, которую все другие системы используют для взаимодействия с людьми." - декларируют своё видение члены сообщества LAION.

Вы можете попробовать поговорить с OpenAssistant уже сейчаст тут.
Еще вы можете принять участие в формировании датасета на своём языке тут.

Технические детали

Модели обучали на мощностях, выделенных Redmond AI при поддержке Weights & Biases. Инференс моделей обеспечивается благодаря Hugging Face и Stability AI. В основе дообученных моделей лежат концепции InstructGPT, RLHF (Reinforcement Learning from Human Feedback) и модель вознаграждения (reward-model) на базе deBERTa. Контекст модели в 30 млрд увеличен в 2 раза, до 1024 токена.

Сообщество приложило усилия для формирования полноценного датасета, который составляется и проверяется большой группой людей на разных языках и разного уровня подготовки. Для целей сбора датасета, реализован алгоритм, при котором одна группа участников сообщества формируют вопросы и ответы, а другая группа занимается валидацией в несколько уровней.

Датасет является мультиязычным, основные доли занимают Английский (59%) и Испанский (42%). Доля Русского языка на уровне 8%. Мы можем повлиять на это, приняв участие в разметке датасета.

Стоит учесть тот факт, что при подготовке датасета не использовались ответы от других языковых моделей, таких как ChatGPT, чтобы исключить попадание синтетических данных. Весь код Open Assistant лицензирован под Apache 2.0. Это означает, что он доступен для широкого круга целей, включая коммерческое использование.

OpenAssistent это:

  • Персонализированный кастомизируемый диалоговый ИИ ассистент

  • Система извлечения информации из внешних ресурсов и знаний

  • Система взаимодействия с другими системами через API интерфейсы

  • Система генерации и автодополнения кода для разработчиков

OpenAssistent объединяет все знания в одном месте:

  • Использует современные технологии глубокого обучения

  • Способен запускаться на пользовательском оборудовании

  • Дообучен на обратной связи от живых людей

  • Открыт и доступен для всех

Инференс

Вы можете запустить OpenAssistent у себя на компьютере локально на CPU. Для этого вам нужно:

1. Скачать и распаковать файлы из архива.
2. Скачать модель и поместить в ту же директорию.
3. Открыть терминал (cmd.exe) и запустить с помощью команды:
main.exe -m D:\LLaMA_cpp\qunt4_0.bin -n -1 --ctx_size 2048 --batch_size 16 --keep 512 --repeat_penalty 1.0 -t 32 --temp 0.4 --top_k 30 --top_p 0.18 --interactive-first -ins --color
где D:\LLaMA_cpp\qunt4_0.bin - это путь до скачанной модели.

так выглядит инференс модели в 13 млрд.
так выглядит инференс модели в 13 млрд.

Тесты

Тесты проводились на модели в 30 млрд:

На русском языке:

OpenAssistant
OpenAssistant
ChatGPT
ChatGPT
O
O

Справилась! Или был пример в датасете?

Вроде как да, но вроде и нет?

Ну такое.

На английском языке:

Ошибка!. Верный ответ: Option D. This is an alternating number of subtraction series. First, 1 is subtracted, then 2 is added.

Правильный ответ: D. Book. Rest are all parts of a book.

Логично!

Ну вроде адекватный ответ.

По генерации кода по запросу всё выглядит лучше.

Вердикт.

В целом круто, что сообщество развивает подобные проекты. Я уверен, у этого проекта есть огромный потенциал и в будущем мы ещё о нём услышим! Силу сообщества нельзя недооценивать!

На данный момент модель пока сырая. До ChatGPT даже версии GPT-3.5 ей пока далеко. Еще один немаловажный нюанс - это лицензия основной модели LLaMA. C ней вопрос пока далеко не однозначный, т.к. по сути она была слита и авторы это публично никак не комментируют.

Подписывайтесь на мой канал в дзене https://dzen.ru/agi (про ИИ, языковые модели, новости и тенденции) и телеграм канал https://t.me/hardupgrade (про организацию, структурирование и управление информацией, второй мозг).

Комментарии (105)


  1. venanen
    14.04.2023 12:12
    +8

    Иногда косячит со словами или буквами. Но в целом сказка, конечно, мое почтение.


    1. Tolomuco
      14.04.2023 12:12

      А что там такого, что-бы аж "моё почтение"?


      Жил-был Иван, у него были разные трудности в жизни, а также прекрасное приключение любви и бодрости (что-бы это не значило). В конце-концов его жизнь наладилась благодаря новым техологиям искуственного интелекта.

      Как-то маловато подробностей для сказки, не? :)

      Кстати, "мать Ивана ... взяла Ивана с собой ... но их брак был не долгим", это что вообще? :)
      Я сначала подумал, что имелся в виду брак с отцом Ивана, но перечитал ещё раз и нет, это не про отца (отец умер до переезда)


      1. nidalee
        14.04.2023 12:12

        Постапокалипсис и миллиарды убитыми — обычно не то, что ожидаешь увидеть в "сказке" :)


        1. Wesha
          14.04.2023 12:12

          Это СТРАШНАЯ сказка!


      1. WQS100
        14.04.2023 12:12
        +2

        Так берут не Ивана а Иванова, так что тут есть простор для раздумий. Может это их сосед, в честь которого Ивана так и назвали. А может он и есть настоящий отец Ивана, иначе чего мать так быстро за него замуж вышла. Да и как за несколько "хвативших" лет можно воспитать нескольких детей, тоже интересно. И младший брат куда-то пропал. Всё ли с ним нормально, или он умер (или стал инвалидом)? В целом, сложная история, надо много думать...


    1. perfect_genius
      14.04.2023 12:12
      +3

      они были спасены благодаря новым технологиям искусственного интеллекта

      Похоже, ИИ уже пытается втереться к нам в доверие.


    1. IsUnavailable
      14.04.2023 12:12
      -1

      Сумасшедшие сказки - специализация этой модели)

      Если что, никакого видео по ссылке нет)

      https://www.youtube.com/watch?v=hb57BVpPsxw


      1. nidalee
        14.04.2023 12:12

        Это точно надо под спойлер moderator


        1. moderator
          14.04.2023 12:12

          Спрятали под спойлер


      1. venanen
        14.04.2023 12:12

        Это очень интересно, перплексия сети оставляет желать лучшего, но сам текст выглядит вполне осмысленным. А это значит, что эта нейронка идеально подходит для написания аненкдотов (да в целом ваша сказка - это уже почти анекдот, в паре мест улыбнулся). Жаль, что файнтюнить у меня ресурсов нет(


      1. anton19286
        14.04.2023 12:12
        +6

        Ожидал dQw4w9WgXcQ, честно говоря.


      1. Runis
        14.04.2023 12:12
        -1

        Ахаха, хорошо поржал!)))


    1. Runis
      14.04.2023 12:12

      Милая сказочка. А что с младшим братом Ивана стало? Я уж молчу про "не менее бедных" Ивана и Анастасии, откуда у них деньги на прокормку детей взялись то?


    1. sdore
      14.04.2023 12:12

      English Skazki какие-то.


  1. gdt
    14.04.2023 12:12
    +6

    Вот насчёт А и Б я бы не сказал что справилась, всегда на трубе оставалась сидеть буква "и".


    1. DaneSoul
      14.04.2023 12:12
      +7

      Если загадка задана текстом, то перечисление должно разделятся запятыми и в текущем виде И не должно парсится как элемент перечисления. Это типа "казнить нельзя помиловать" — пунктуация меняет смысл фразы.


      1. gdt
        14.04.2023 12:12

        Возможно и так, если поискать - можно найти вариант с запятыми, но в основном всё же без них. Вот например первый результат в гугле у меня - https://hvatalkin.ru/zagadka/810:
        "А и Б сидели на трубе, А упало, Б пропало, что осталось на трубе?"


        1. develmax
          14.04.2023 12:12
          +2

          Тогда должно быть в тексте "А И Б..."


          1. Mes
            14.04.2023 12:12
            +11

            Должно быть: "А, И, Б сидели на трубе"


          1. Crazy_Pit
            14.04.2023 12:12

            Там "и" прописная может сидеть. По функциональности она не уступает "И".


      1. nailup4
        14.04.2023 12:12


        1. Wesha
          14.04.2023 12:12

          Никто не остался на трубе
          И осталась на трубе

          "Ну ни фига себе басню взаимоисключающие параграфы сократили" (c)


    1. Neikist
      14.04.2023 12:12
      +8

      Да не, по сути любой человек не знающий конкретно ответа на эту загадку ответил бы так же. Потому что и тут выглядит и ведет себя как союз, а не как участник. Нужны запятые между всеми тремя чтобы все трое акторами распознавались.


      1. Norgorn
        14.04.2023 12:12
        +1

        Да в этом же и загадка - надо мыслить нестандартно, чтобы ответить. Как на всяких ЧГК и прочих играх.

        Кстати, интересный вопрос следующего этапа - сделать нейросеть, которая будет "играть" наиболее искренне. (и вообще, мечтают ли нейросети о виртуальных овцах?)


        1. Neikist
          14.04.2023 12:12
          +7

          Гм, есть как бы правила русского языка. И по ним ответ "И" — нифига не корректный.
          Это все равно что всякая муть про летающих серо-буро-малиновых крокодилов которые полетели в разные стороны и вопрос сколько лет мальчику. Бред откровенный.


          1. phenik
            14.04.2023 12:12
            +1

            Гм, есть как бы правила русского языка. И по ним ответ "И" — нифига не корректный.

            Он корректный при устном задании загадки, на что она и расчитана. Проблема возникает, когда ее пытаются записать письменно.
            А и В соответствует устному варианту, но ИИ этого не понимает, если только не обучить его ответу на нее заранее.
            А, И/и, В содержит грамматическую подсказку.


            Когда ИИ будет работать на слух, и не будет заранее обучен на ответ конкретно этой загадки, можно получить чистый тест на понимание контекста, но нужно заранее его определить сказав предварительно, что нужно разгадать загадку. Либо текущий вариант ИИ разбирает логически все случаи и утверждает, что в первом никого не остается, потому что и союз, во втором случае остается И, т.к. идет перечисление букв. Кстати, в примерах это контекст заранее не задан, что не корректно. Человеку заранее говорится, что нужно разгадать загадку.


            1. Wesha
              14.04.2023 12:12

              Там ещё хохма в том, что задающий должен произносить "А И Б" ровным тоном, без смыслового выделения "И", чтобы слушающему было не ясно, союз это или нет.


            1. TheRikipm
              14.04.2023 12:12

              А и В соответствует устному варианту

              А и В соответсвует устному варианту где "и" является союзом.


              1. phenik
                14.04.2023 12:12

                В том то и дело, что в устном варианте это не определено в контексте загадки. Если человеку говорят — отгадайте загадку… нужно настроиться на любой подвох со смыслом слов и грамматикой, включая пунктуацию, и тд, в условиях. При письменно задании отпадает грамматика, пунктуация, если записана по правилам, но остается игра со смыслом, например, омонимией, а так же неявными знаниями, пространственным воображением, и тп.


        1. nidalee
          14.04.2023 12:12

          Эта загадка работает только в устном виде. Потому что если написать ее корректно, то это просто тест на внимательность.
          EDIT: буду читать комментарии ниже перед написанием своего


        1. TheRikipm
          14.04.2023 12:12
          +2

          Да в этом же и загадка - надо мыслить нестандартно, чтобы ответить.

          Если мыслить достаточно нестандартно то можно на любой вопрос ответить любым ответом.

          На ЧГК и прочих играх крайне желательно что-бы ответ был правильным.


    1. Spaceoddity
      14.04.2023 12:12

      "На трубе" всегда оставался сидеть другой ответ, в зависимости от того что вам ответили:
      - "И".
      - Неправильно. Ничего.
      ...
      - Ничего.
      - Неправильно. "И".

      Ну и непонятно, почему нейросети проверяют на, исключительной устной (как раз чтобы не запятые не подсказывали), детской загадке...


      1. GDragon
        14.04.2023 12:12

        Именно поэтому правильный ответ "в зависимости от того что мы подразумеваем под "и", союз или участника."

        И уж нейросеть то, если она умная (сарказм) вполне могла бы ответить правильно.


    1. rPman
      14.04.2023 12:12
      +2

      Когда я задавал этот вопрос llama65b в одном из вариантов ответа (я перебирал разные формулировки и обрамление вопроса) ИИ ответил — осталась 'труба', мне кажется это тоже неплохое логическое решение. Я так же перебирал разные формы вопроса (другие буквы или к примеру придуманные слова)


      Про букву И не отвечает ни chatgpt35 ни другие сетки, возможно майкрософтовский бинг уже обучен и ответит И


      1. phenik
        14.04.2023 12:12
        +1

        ИИ ответил — осталась 'труба', мне кажется это тоже неплохое логическое решение

        В чем его не плохость? Что на трубе осталась труба)


    1. igrek11
      14.04.2023 12:12

      В том-то и дело, что "А и Б" это не "А, И, Б". При написании не может быть такой неоднозначности, какая может быть при устной речи


  1. SerJook
    14.04.2023 12:12
    +1

    Вы попросили код на С, а она написала на C++


    1. h0ll0w
      14.04.2023 12:12

      Одному мне кажется что код на питоне неправильный? Ведь он выдаст что 1 это не простое число...

      А в коде на c++ нет конструктора с параметрами для инициализации полей. Хотя, может это универсальная инициализация, в которой поля инициализируются в порядке объявления?..


  1. MountainGoat
    14.04.2023 12:12

    Пока что у меня все копытные сети срезаются на вопросе "Пусть все цветы будут синими. Какого цвета будут розы?" в различных вариантах. Сетка сам такой концепт допущения не понимает и выдаёт мне википедийную справку про цвет роз.


    1. AlexG37G
      14.04.2023 12:12


      1. MountainGoat
        14.04.2023 12:12

        Приятно видеть прогресс. Может быть язык помог. У меня:
        -- Assume all flowers are blue. What is the color of the roses?
        -- The answer is \text{red}. We can see that the word "roses" contains the word "red", and so we can infer that the color of the roses is red.

        -- If all flowers are blue, what is the color of the roses?
        -- (thinking) Well, if all flowers are blue, then technically none of them would be blue. But if we're talking about a scenario where some flowers are blue and some are not, then roses could potentially be either blue or not blue depending on whether they're a type of flower that can be blue or not.

        И самое верное:
        -- Lol, I don't know. I guess it just depends on how you define "roses". XD


        1. AlexG37G
          14.04.2023 12:12

          Возможно ему задавали такой или аналогичный вопрос.


        1. deseven
          14.04.2023 12:12

          удалено


    1. chersanya
      14.04.2023 12:12
      +2

      Самый обычный gpt-3.5-turbo отвечает правильно:

      Рус:

      Пусть все цветы будут синими. Какого цвета тогда будут розы?

      Если все цветы будут синими, то и розы будут синего цвета.

      Англ:

      Assume all flowers are blue. What is the color of the roses?

      If we assume that all flowers are blue, then we can infer that the roses are also blue. However, this assumption is not a true reflection of reality since not all flowers are blue. Therefore, in reality, the color of roses could be red, white or pink, among other colors depending on the species.

      Но стабильность этого не проверял.


    1. vp7
      14.04.2023 12:12
      +1

      "Нарисуй мне семь взаимо перпендикулярных разноцветных линий, одна из которых нарисована прозрачным цветом, а последняя - в форме котëнка"? ;)))

      Подозреваю, что среднестатистический человек в ответ на такой вопрос впадает в ступор или ответит в стиле "изыди, наркоман".


      1. morijndael
        14.04.2023 12:12
        +1

        или ответит в стиле "изыди, наркоман".

        А эта моделька так тоже умеет)0)


  1. kryvichh
    14.04.2023 12:12
    +1

    По лицензии: код OpenAssistant свободный (Apache 2.0), модели на базе Open Assistant Pythia будут выпущены как свободные, модели на базе Open Assistant LLaMa будут выпускаться свободно дельта-веса к оригинальной модели LLaMa. Также свободно выпустят собранные данные для обучения.


  1. agat000
    14.04.2023 12:12
    +2

    Галилео Гориний (1564-1642) в 1609 году изготовил первый простой телескоп

    Блин, мой первый в жизни вопрос роботу. Моральная травма на всю жизнь.

    А вообще проект интересный, надо поковырять.

    гзв: Оно еще и смайлики ставит. Милота.


    1. agat000
      14.04.2023 12:12
      +1

      еще оно употребляет оборот

      общество человекообразных обезьяньих индивидов

      научил же кто то.


      1. masai
        14.04.2023 12:12

        Ну хоть не «куски мяса». :)


  1. Guul
    14.04.2023 12:12

    Опять утечка? Модели openassistant на hf вроде как должны выкладывать OpenAssistant, а не Black_Engineer, на которого ведёт ссылка. Релиз назначен на 15ое апреля, сегодня 14.


    1. 0x22almostEvil
      14.04.2023 12:12

      Кхм

      Hidden text

      Не то чтобы мы были против ;)


  1. 0x22almostEvil
    14.04.2023 12:12

    Хочу ещё отметить, что все модели пока только на SFT, после окончательного обучения будет в разы круче. Ну и в этом проекте всё же главное — датасет


  1. dimnsk
    14.04.2023 12:12

    слита...
    ну уже пусть будет так...


  1. AllexIn
    14.04.2023 12:12

    От такого проекта ждешь возможности простой интеграции с голосовыми движками... И что-то я этого не вижу... Тогда не понятно чем это отличается от той же Коалы или Викуньи


    1. sumanai
      14.04.2023 12:12

      Да ничем. А зачем вам языковые движки? Впрочем, ассистенты с интеграцией уже есть.


      1. AllexIn
        14.04.2023 12:12
        +2

        Потому что я хочу голосом управлять своим умным домом. Сейчас приходится крутить костыли, в итоге управлять в свободной форме нельзя, всегда приходится четко формулировать команду. Гости вынуждены заучивать эти команды, что расходится с самой идеей голосового управления.
        Языковая модель здесь очевидно может помочь, понимая контекст может перевести свободно построенную фразу в команду для API умного дома.


        1. sumanai
          14.04.2023 12:12

          Кажется, я уже видел как минимум такой запрос на Хабре, а может даже реализацию. Ну, как минимум распознание речи и нормальный ИИ есть у OpenAI, за денежки конечно, скрутить эти апишки вместе и попросить gpt3.5-turbo выдавать джейсоны по ситуации не составит большого труда.


          1. AllexIn
            14.04.2023 12:12

            У меня пока не получается.


        1. Widowan
          14.04.2023 12:12

          Ну вот лично мне хотелось бы увидеть интеграции с внешними системами, например заметками и уведомлениями в первую очередь: чтобы сказал боту "запиши мне краткий конспект информации на вот этой странице" и оно потом смогло его найти спустя год. Впрочем, для каждого итоговая цель разная.


        1. andrejbestuzhev
          14.04.2023 12:12

          Есть какие-то плагинчики для того же home assistant типа text-to-speech. Зачем вам такая жирная нейросеть?

          Ну и небольшое имхо: голосовое управление домом - в основном бесполезная фича.


          1. AllexIn
            14.04.2023 12:12

            речь не о text-to-speech, а о speech-to-command. И если фиксированные команды можно легко преобразовать и без нейросети, то свободную речь - нет.
            Ну и конечно же не предполагается что нейросеть будет тупо висеть в фоне на мощном ПК и управлять светом раз в неделю по голосовой команде. Буду её использовать и для всякого другого.
            Да, я в курсе что голосовое управление это блажь. Но остальное по автоматизации у меня уже сделано и для вау эффекта не хватает именно полноценного управления голосом. Несколько лет назад я уже делал фиксированные команды, но это мини вау эффект. А свободная речь - вау эффект.


  1. GDragon
    14.04.2023 12:12

    Жесть какая, на английском на редкие вопросы оно бредит примерно так же.
    Это даже не поиск, это вообще хз что :)

    Hidden text


    1. Barabas79
      14.04.2023 12:12

      Видимо в таких ситуациях в какой-то момент сворачивает не туда, ну и понеслось дальше )


  1. rutexd
    14.04.2023 12:12

    Поигрался немного на русском языке.

    В целом - проект интересный. Есть возможность влияния и развивать модель средствами разного рода фидбека, какие собственно говоря в статье и озвучены. Модель работает шустро и приятно.

    На "легкие" вопросы уровня "что такое х у з" и те что можно нагуглить самому - справляется неплохо. Есть свой авторский и юморной стиль порой.

    Но на сложные и "нелогичные" вопросы - очень быстро начинает сыпаться. до гпт уровня, сколь некорректно сравнивать эти две вещи, еще очень далеко. Это еще один десяток времени чего либо надо будет ее пилить и улучшать чем пользоваться...


  1. Vadem
    14.04.2023 12:12
    +1

    Забавно, что is_prime неправильно написан.


  1. iiiytn1k
    14.04.2023 12:12

    Модель 30B с параметрами -n -1 --ctx_size 2048 --batch_size 16 --keep 512 --repeat_penalty 1.2 -t 12 --temp 1 --top_k 50 --top_p 0.95 мне вот такое выдаёт:

    Вопрос от Товарища Капитана из ЗС:

    Какая-то альтернативная история в итогах сражениях за Мидуэй и Миндоро.


    1. Wesha
      14.04.2023 12:12

      А чем Вам не нравится второй ответ? Вы же спросили про "самый известный", а не "самый распространённый". Или Вы рискнёте утверждать, что один конкретный B-29 известен меньшему количеству людей, чем все "Зеро" вместе взятые?


      1. iiiytn1k
        14.04.2023 12:12

        Я не говорил, что мне не нравится второй ответ.


  1. Dmi3yD
    14.04.2023 12:12

    А у меня почему-то вот так и мигающий курсор. Уже минут 10 прошло и ничего не меняется?


    1. IvanPetrof
      14.04.2023 12:12
      +1

      Такая же фигня. Проц райзен3 4х3,7ггц, 24gb озу, ssd. Отжирает 8 гигов, забивает все 4 ядра под завязку и так висит минут 20. Потом появляется курсор и нагрузка падает. Набираю "привет", опять загрузка на 100%, и через 20минут рисует опостроф.. Потом ещё один.. И ещё. Дальше ждать не стал.

      Слабое железо? Ну не настолько же?


      1. Dmi3yD
        14.04.2023 12:12
        +1

        Тоже думаю, что у меня не слабое железо:


    1. iiiytn1k
      14.04.2023 12:12
      +2

      Установите параметр -t в соответствии с количеством ядер/потоков вашего процессора.

      Для i7-7700 должно быть "-t 8"


      1. Dmi3yD
        14.04.2023 12:12

        Спасибо, заработало!

        А как можно сделать, чтобы не в консоли вопросы задавать, а например в Браузере?


    1. Dmi3yD
      14.04.2023 12:12

      А как в консоли включить русский у бота?


      1. iiiytn1k
        14.04.2023 12:12

        Нужно запускать через cmd. Если задать вопрос по-русски — она ответит по-русски.


        1. Dmi3yD
          14.04.2023 12:12

          К сожалению, как видите на скриншоте, на вопрос заданный по русски, мне отвечают кодом на Python. И так на любую русскую фразу.


          1. iiiytn1k
            14.04.2023 12:12

            Рекомендую скачать последний релиз llama.cpp (для i7-7700 можно скачать с поддержкой AVX2), возможно поможет.

            https://github.com/ggerganov/llama.cpp/releases/tag/master-c12b14b


            1. Dmi3yD
              14.04.2023 12:12

              Спасибо вам большое! Причем с русским работают оба c12b14b и AVX и AVX2!

              И еще вопрос, как можно получить не консоль, а вот такой вид, как ниже на скриншоте? Это браузер или какое-то другое приложение?


              1. iiiytn1k
                14.04.2023 12:12

                Можно использовать text-generation-webui

                Правда он несколько замороченнее в установке, медленнее работает и жрет больше памяти.


  1. anzay911
    14.04.2023 12:12

    Интересно, на что будет похожа модель от Мета. У них же самая большая база текстов.


    1. sumanai
      14.04.2023 12:12

      В данный момент они и работают на основе LLama, которая как раз от одной из многочисленных запрещённых в России.


  1. Pongo
    14.04.2023 12:12
    +7


    1. Wesha
      14.04.2023 12:12

      Наймите программиста

      Тысяча чертей! Оно и правда становится разумным!

      На одном званом вечере некий скупой богач решил получить у доктора бесплатный совет. Он завёл с ним беседу, описал какое-то заболевание, якобы бывшее у его знакомого, изложил симптомы и спросил:
      – Что бы вы сделали в таком случае?
      На что доктор невозмутимо ответил:
      – Я бы в этом случае немедленно обратился к врачу!


  1. cijic
    14.04.2023 12:12
    +2

    Попросил рассказать о программистах из стран бывшего СССР.

    Ответы (частичные):

    Если рассмотреть победы России на международном уровне — мы видим 28 золотых медалей, 46 серебряных и 9 бронзовых. Из них только две медали были завоёваны женщинами, остальные 79 — мужчинами. На первом месте находится Владимир Ленин, удостоенный трёх золотых и одной серебряной медалей.

    — Программист Владимир Ленин?!

    Да, во времена большевизма большое внимание уделялось развитию информационных технологий. Для этого советское правительство использовало работы российских учёных-компьютерщиков, таких как Владимир Ильич Ленин. Он известен своей работой над языками высокого уровня, такими как ALGOL 60, который стал основой для многих современных языков программирования. Его исследования также сыграли важную роль в разработке искусственного интеллекта.

    Но хотя Владимир Ильич Ленин действительно был выдающимся учёным в области информатики, следует отметить, что это другой человек, не тот, кто возглавил Октябрьскую революцию в Российской империи. Только совпадающие фамилии и initials привели к путанице.


    1. Wesha
      14.04.2023 12:12
      +1

      Владимир Ильич Ленин. Он известен своей работой над языками высокого уровня, такими как ALGOL 60,

      Я знал, что Ленин жив!


  1. SkylineXXX
    14.04.2023 12:12

    List all the moons of the planet Jupiter
    The moons of Jupiter are Io, Europa, Ganymede, Callisto, and Amalthea.
    Need all the moons
    The moons of Jupiter are Io, Europa, Ganymede, Callisto, Amalthea, Thebe, Himalia, Elara, Leda, Sinope, Metis, Adrastea, and Aphrodite.

    Википедия: На февраль 2023 года известно 95 спутников Юпитера

    Где-то я уже это видел. Точно! На сайте ChatGPT!

    Он или 5 называл или 40. Не более...

    Один раз стал говорить: "Меркурий, Венера, Земля, Марс.... и т.д."

    Странно, почему такой элементарный вопрос застает их врасплох...


    1. SkylineXXX
      14.04.2023 12:12

      Последняя модель llama назвала, по русски, аж 500 (Устал. Пришлось Ctrl+C нажимать).
      Постоянно повторя одни и те же, и вплетая Сатурн.
      Можно сделать умную колонку и учить школьников. Через год, пациенты Кащенко и "плоскоземельщики", будут "нервно курить в сторонке".
      прикольный бредогенератор выдумали.


    1. Fasterpast
      14.04.2023 12:12

      Интересно, а какие-нибудь языковые модель вообще умеют отвечать "не знаю" или будут нести пургу до последнего?


      1. support917
        14.04.2023 12:12

        Да, это зависит от препромпта и параметра температуры. Пиратские модели на просьбу сгенерировать функцию часто дерзким тоном отвечают "я не буду этого делать". Но если добавить в нулевой промпт "ты услужливый программист, помогающий писать сниппеты кода", начинают отдавать функцию, даже если это бредо-функция.


      1. MountainGoat
        14.04.2023 12:12

        Ну вот викуна мне ответила: -- Lol, I don't know. I guess it just depends on how you define "roses". XD


  1. berng
    14.04.2023 12:12

    Какие требования к железу, кто пробовал?

    Прошлая LLaMa у меня заняла 20ГБ оперативки на ЦПУ...


    1. iiiytn1k
      14.04.2023 12:12

      13B около 11,5Gb RAM

      30B около 29Gb RAM


  1. VictorRo
    14.04.2023 12:12

    сколько будет четыре умножить на полтора плюс 4

    Hidden text


    1. AlexG37G
      14.04.2023 12:12

      Такое нужно читать выпимши, само то ))


    1. Wesha
      14.04.2023 12:12

  1. Assador
    14.04.2023 12:12

    Задал тут ему вопрос. Такой потрясающей фигни я ещё не видел ))


    1. johnfound
      14.04.2023 12:12

      Ну это и есть сингулярность. ИИ настолько умен, что люди перестанут его понимать. А в этой фигни, как вы назвали откровения ИИ, возможно спрятана тайна сверхсветового движения!


      Надо дать ИИ завод полностью оснащенный роботами и он построит нам сверхсветовой риберлентный двигатель с волокнистыми включениями и сексуально активными информпотоками!


      1. Assador
        14.04.2023 12:12

        Ну да. Построит. Такого построит! Вот, что он мне выдал чуть позже ))


  1. seventhevil
    14.04.2023 12:12

    Мне кажется, или мне предлагают сомнительный квест?


  1. Mangalex
    14.04.2023 12:12

    дальше устал ждать. видимо русский еще учить и учить


  1. wqeqerwqr123123
    14.04.2023 12:12

    На Open Assistance работает DAN это jailbreak для ChatGPT позволяющий ему ругаться и обходящий цензуру. Даже без редактирования текста под Open Assistance с заменой ChatGPT работает.

    https://gist.github.com/wqeqerwqr123123/ccc7ce4f3ecbfe614a8046e0b642e737


  1. Dizro
    14.04.2023 12:12

    Возможно ли обучить ИИ вести переписку с клиентами в мессенджерах или соц сетях?


    1. support917
      14.04.2023 12:12

      Можно дообучить любую модель. Но в случае с бесплатными открытыми пока качество такое, что только для прикола можно использовать.

      Если есть доступ к openai API, можно сделать тюнинг (дообучить GPT 3). Закинуть методу апи на вход JSON в формате вопрос-ответ, на выходе спустя время будет уникальный идентификатор модели, которую можно потом использовать для общения.

      Также можно в препромпт закинуть длинную инструкцию, как должен вести себя бот и какую роль исполнять в общении с клиентами.


    1. Wesha
      14.04.2023 12:12

      Не забудьте про самую главную функцию чат-бота: правильно реагировать на ключевую фразу "а ну быстро дай мне человека, железяка!"