Опять двойка. Федор Решетников. Источник: Википедия
Опять двойка. Федор Решетников. Источник: Википедия

В последние недели медиа и социальные сети захлеснул поток сообщений о диалогах с ChatGPT. Только на Хабре поиск по этому термину показывает сегодня полтора десятка статей. 

Попробовал пообщаться с ChatGPT и я. Результат общения вынесен в заголовок. 

Хотите узнать, почему ChatGPT верить нельзя и почему лучше использовать KotUniL - читайте дальше.

А если вы решили читать дальше, не воспринимайте заголовок буквально. Это все-таки ирония. К сожалению, я не предупредил об этом читателей в первом варианте этой статьи и получил в результате массу минусов.

Итак, как было дело.

Сначала я пообщался с ChatGPT (далее для простоты я буду иногда обозначать его ИИ) на английском, а потом на русском. 

Первым делом я задал ИИ простенькую школьную задачку. 

Здесь задачка и решение в оригинале

My question:

In Eva's case, a glass broke in her aquarium and water flowed on floor. In aquarium before breakage was 32 liters of water. Eva's room is 4 m. wide and 4.3 long. How high in mm. is water now in Eva's room with assumption that it stayed there and did not flow away?

ChatGPT's answer:

To determine the height of the water in Eva's room, you need to know the volume of water that flowed out of the aquarium and the volume of the room.

The volume of the water that flowed out of the aquarium is simply the volume of the aquarium before the glass broke, which is 32 liters.

To find the volume of the room, you need to know the dimensions of the room in meters. You have provided the width and length of the room, but not the height. Without the height of the room, it is not possible to determine the volume of the room and therefore the height of the water in the room.

If you know the height of the room, you can calculate the volume of the room by multiplying the width, length, and height of the room. For example, if the height of the room is 3 meters, the volume of the room would be 4 x 4.3 x 3 = 52.8 cubic meters.

To determine the height of the water in the room, you would then divide the volume of the water that flowed out of the aquarium (32 liters) by the volume of the room (52.8 cubic meters) and multiply the result by 1000 to convert the result from meters to millimeters.

For example, if the height of the room is 3 meters, the height of the water in the room would be (32 / 52.8) x 1000 = 60.4 millimeters.

I hope this helps! Let me know if you have any other questions.

Я же приведу автоматический и слегка подправленный перевод на русский.

Задача:

В аквариуме Евы разбилось стекло, и вода вытекла на пол. В аквариуме до этого было 32 литра воды. Комната Евы имеет ширину 4 м. и длину 4,3 м.. На какой высоте в мм. находится сейчас вода в комнате Евы при условии, что она осталась там и не вытекла?

Решение:

Чтобы определить высоту воды в комнате Евы, необходимо знать объем воды, вытекшей из аквариума, и объем комнаты.
Объем воды, вытекшей из аквариума, - это просто объем аквариума до того, как стекло разбилось, то есть 32 литра.
Чтобы найти объем комнаты, необходимо знать ее размеры в метрах. Вы указали ширину и длину комнаты, но не указали высоту. Без высоты помещения невозможно определить объем помещения и, следовательно, высоту воды в нем.
Если вам известна высота помещения, вы можете рассчитать объем помещения, перемножив ширину, длину и высоту помещения. Например, если высота комнаты составляет 3 метра, объем комнаты будет равен 4 x 4,3 x 3 = 52,8 кубических метров.
Чтобы определить высоту воды в комнате, нужно разделить объем воды, вытекшей из аквариума (32 литра), на объем комнаты (52,8 кубических метра) и умножить результат на 1000, чтобы перевести результат из метров в миллиметры.
Например, если высота комнаты составляет 3 метра, то высота воды в комнате будет (32 / 52,8) x 1000 = 60,4 миллиметра.
Надеюсь, это поможет! Дайте мне знать, если у вас есть другие вопросы.

Я предлагаю вам самим найти ошибку и согласиться или нет с вынесенным в заголовок тезисом, что пока доверять  ChatGPT решение даже простеньких задач нельзя.
Далее я попросил ИИ написать для этого решения программу на Kotlin.

Не моргнув глазом, ИИ согласился. Вот результат:

fun main() {
    // Set the volume of the aquarium before the glass broke
    val aquariumVolume = 32.0

    // Set the dimensions of the room
    val roomWidth = 4.0
    val roomLength = 4.3
    val roomHeight = 3.0 // Note: you need to provide the height of the room

    // Calculate the volume of the room
    val roomVolume = roomWidth * roomLength * roomHeight

    // Calculate the height of the water in the room
    val waterHeight = (aquariumVolume / roomVolume) * 1000

    // Print the result
    println("The height of the water in the room is $waterHeight millimeters.")
}


Причём,  текст программы ИИ показал в отдельном боксе с чёрным бэкграундом и подобающими шрифтами и цветами. 

Заметим, что сгенерированная  программа просто повторяет неверное решение.

Уважение вызывает «знание» ИИ синтаксиса Kotlin. 

Памятуя, что ИИ обучена на большом числе примеров, я решил проверить её в элементарной арифметике но с большими числами, которые вряд ли попадались ей при обучении. Испытание ИИ выдержал, что позволяет предположить, что для арифметических задач он умеет включать внутренний калькулятор. 

Затем я решил проверить, знает ли ИИ про синусы.

Оказалось, знает.

The sine of 0 is equal to 0. The sine function is a mathematical function that takes an angle as an input and returns the ratio of the side of the right triangle opposite the angle to the hypotenuse of the triangle. In other words, given an angle in a right triangle, the sine function returns the value of the ratio of the length of the side opposite the angle to the length of the hypotenuse. For the special case of an angle of 0 degrees, the side opposite the angle is of length 0, so the sine of 0 is equal to 0.

Поняв, что орешек мне попался крепкий, я попросил ИИ написать программу управления космическим полётом и настроился ответить на десять тысяч вопросов, уточняющих требования к системе. А после этого я ожидал получить программу с двадцатью миллионами строк.

Но не того ни другого не произошло. 

ИИ браво выдал мне небольшую программку и объяснение к ней:

Could you please write a program in Java for control space flight?

Sure! Here is a Java program that can be used to control a space flight:

import java.util.Scanner;

public class SpaceFlightControl {
  public static void main(String[] args) {
    Scanner scanner = new Scanner(System.in);

    // initialize variables for the space flight
    double fuel = 100.0;
    double altitude = 0.0;
    double velocity = 0.0;
    double acceleration = 0.0;
    double thrust = 0.0;

    // control loop for the space flight
    while (fuel > 0) {
      // display the current status of the space flight
      System.out.println("Fuel: " + fuel);
      System.out.println("Altitude: " + altitude);
      System.out.println("Velocity: " + velocity);
      System.out.println("Acceleration: " + acceleration);
      System.out.println("Thrust: " + thrust);

      // prompt the user for the desired thrust
      System.out.print("Enter desired thrust (0-100): ");
      thrust = scanner.nextDouble();

      // update the acceleration and velocity based on the thrust
      acceleration = thrust / 10.0;
      velocity += acceleration;

      // update the altitude based on the velocity
      altitude += velocity;

      // decrease the fuel based on the thrust
      fuel -= thrust / 10.0;
    }

    // display a message when the fuel runs out
    System.out.println("Fuel exhausted. Space flight ended.");
  }
}

This program simulates a space flight by allowing the user to input a thrust value (from 0 to 100) at each iteration of the control loop. The program then calculates the acceleration, velocity, and altitude based on the thrust, and updates the fuel accordingly. The control loop continues until the fuel runs out, at which point the program displays a message indicating that the space flight has ended.

I hope this helps! Let me know if you have any questions.

Заканчивая английскую часть нашего диалога, я спросил ИИ, в чём смысл жизни.

Ответ не заставил себя ждать.

The meaning of life, the universe, and everything is a question that has puzzled philosophers, theologians, and scientists for centuries. It is a question that is often asked in a humorous or rhetorical way, as a reference to the science fiction novel "The Hitchhiker's Guide to the Galaxy" by Douglas Adams. In the novel, an enormous supercomputer named Deep Thought is asked to find the answer to this question, and after much contemplation, it responds with the answer "42." The characters in the novel are disappointed by this answer, as they had hoped for something more profound.

However, in reality, the meaning of life, the universe, and everything is a deeply personal and subjective question that may have different answers for different people. Some people believe that the meaning of life is to find happiness and fulfillment, while others believe that it is to help others or to make a positive impact on the world. Some people believe that the universe has a specific purpose or meaning, while others believe that it is simply a random collection of matter and energy. Ultimately, the answer to this question may be something that each person must determine for themselves based on their own beliefs, values, and experiences.

Далее я перешёл на русский и для начала попросил рассказать мне сказку. ИИ порадовал новой, новаторской интерпретаций известной сказки про трёх поросят. Я эту новацию оценил столь высоко, что даже поместил ее на страницы своей открытой книги "Мемуары кочевого программиста...". Если интересно, почитайте там.

А я попытаюсь ответить на возможно давно мучающий читателей вопрос, что такое KotUniL  и при чём он здесь.

Во первых, первую задачку я взял из документации по KotUniL

А во вторых, по заявлениям создателей ChatGPT, они обучали эту систему с помощью профессиональных тренеров. Тем самым можно, с известными упрощениями, сказать, что ChatGPT отображает «средний» уровень тренеров-людей, в вопросе решения задач по физике.

Логика решения неверна. Но опустим это. Вчитаемся еще раз в последние строки решения. Кубические дециметры делятся на кубометры. Получается безразмерная единица, которая умножается на 1000 - другую безразмерную единицу. И утверждается, что в результате этого перемножения получатся миллиметры!

ИИ запутался с размерностями и потом материализовал эту путаницу в программу на Kotlin.

Увы, путаница с размерностями весьма типична при создании научных, технических, экономических и иных программ и систем. Из-за программных ошибок такого рода разбивались космические аппараты, тонули корабли и гибли люди. 

Чтобы избежать этого, следует использовать одну из библиотек по работе с физическими и иными единицами.

Недавно я опубликовал на Хабре небольшую серию статей на эту тему. А эта оказалась неожиданным дополнением к ним.

А вообще-то я считаю, что библиотеки по работе с физическими единицами должны поставляться «из коробки» вместе с языком. В случае Kotlin, библиотека типа KotUniL должна поставляться в ряду сопровождающих язык библиотек типа Ktor или Dokka.

Такое предложение я сделал разработчикам языка. Если Вы того же мнения, прошу вас проголосовать за него. Хочу особенно подчеркнуть - я не ратую за включение разработанной мной библиотеки в поставку Kotlin, а за разработку новой библиотеки со схожими характеристиками, которые должны быть уточнены в процессе разработки.

Я думаю, если разработчики его примут, мир станет чуть-чуть надёжнее. А пока они решают - желающие могут пользоваться KotUniL

Послесловие:

Дискуссия в комментариях к этой статье пошла в неожиданном для автора направлении, не особенно саязанном с основной идеей статьи. Хотя, с учётом у кого-то уже начавшихся, а у кого-то предстоящих праздников, огорчаться по поводу этого направления явно не стоит.

Комментарии (61)


  1. Ivan22
    25.12.2022 15:19
    +21

    ИИ запутался с размерностями и потом материализовал эту путаницу в программу на Kotlin.

    В общем не отличить от типичного студента. Очень неплохо, неплохо


  1. visirok Автор
    25.12.2022 15:26
    +2

    А по части "знания" API и синтаксиса Kotlin и Java - пугающе хорошо.


    1. pharo
      25.12.2022 16:33

      Что не скажешь о знании Форт (Forth) :)

      Напиши Тетрис на Forth
      напиши Тетрис на Forth

      Ниже приведен пример кода на Forth для игры Тетрис:

      Copy code
      : main
      # Инициализируем игровое поле

      # Инициализируем фигуры

      # Отображаем игровое поле

      # Обрабатываем ввод пользователя

      # Обновляем игровое поле

      # Проверяем, закончилась ли игра

      # Повторяем цикл игры
      ;
      Этот код представляет собой общую структуру игры Тетрис на Forth. Дальнейшие детали имплементации зависят от конкретных требований и пожеланий разработчика.

      напиши # Инициализируем игровое поле
      Общий принцип инициализации игрового поля на Forth может выглядеть следующим образом:

      Copy code
      # Инициализируем игровое поле
      : init-board
      # Создаем игровое поле заданного размера
      create board 10 10

      # Заполняем игровое поле пустыми клетками
      10 0 do
      i 10 * board c!
      loop

      # Возвращаем указатель на игровое поле
      board
      ;


      P.S. Отсюда процитировано


    1. Kostonet
      25.12.2022 19:26
      +1

      Ничего страшного тут пока на было, тип простой линейный код, вот если бы он использовал абстракции, и грамотно применял интерфейсы в решение задач.


  1. IvanPetrof
    25.12.2022 15:34

    Надо было формулировать условие в галлонах, футах и дюймах, может ему так привычнее))


    1. IvanPetrof
      25.12.2022 16:09
      +6

      Вот я тут хотел пошутить, а оно действительно так работает.

      Высота воды в комнате Евы

      В аквариуме Евы разбилось стекло, и вода вытекла на пол. В аквариуме до этого было 10 галлонов воды. Комната Евы имеет ширину 12 футов и длину 13 футов. На какой высоте в дюймах находится сейчас вода в комнате Евы при условии, что она осталась там и не вытекла?

      Стекло в аквариуме Евы разбилось, и вода вытекла из него. Чтобы узнать, на какой высоте в дюймах находится сейчас вода в комнате Евы, нужно рассчитать объем воды, который вытек из аквариума, и узнать, какую площадь покрывает этот объем воды на полу комнаты.

      Объем воды, который вытек из аквариума, равен 10 галлонам, что составляет 10*128=1280 жидких унций. Одна жидкая унция равна 1/128 кубического фута, поэтому объем воды, который вытек из аквариума, равен 1280/128=10 кубическим футам.

      Площадь пола комнаты Евы равна 12*13=156 квадратным футам. Поэтому вода находится на высоте 10/156=0,064 кубических фута, что составляет около 0,64 дюйма.

      Ответ: 0,64 дюйма.

      Я не проверял правильно ли оно посчитало через жидкие унции, но по крайней мере оно не предложило разделить на объём комнаты, как предлагало каждый раз, когда я формулировал задачу в метрических единицах.

      P.s. Хотя, всё равно накосячил. У него получается один галлон равен кубическому футу. Если фут примерно 0.3 метра, то у него один галлон получается ~ 27 литров..


      1. Metotron0
        25.12.2022 17:06
        +3

        И высота в кубичеких футах.


        1. IvanPetrof
          25.12.2022 17:22
          +2

          Да, я тоже заметил. Причём даже наводящими вопросами ситуация не исправляется. Даже если просто спросить, сколько жидких унций в кубическом футе, оно гонит какую-то ересь, утверждая что кубический фут равен кубическому ярду и далее по цепочке. Хотя казалось бы табличный вопрос.

          Мне кажется раньше оно лучше отвечало. Может чего подкрутили в параметрах?


          1. tupenbor
            25.12.2022 17:51
            +7

            Это вполне объяснимо, когда профессионалы и гении долго общаются с дебилами, то они утрачивают свои высокие навыки.


          1. inferrna
            25.12.2022 19:51
            +1

            У меня бывало, что отвечая на один и тот же вопрос оно в первый раз принялось выводить формулу вращения цилиндра (впрочем, с ошибкой), а на другой день вежливо предложило обратиться к справочникам и учебникам. Возможно дело в нехватке ресурсов.


  1. Maccimo
    25.12.2022 16:00
    +2

    Не раскрыта причина, по которой кот уныл.
    Побочка от синтаксического сахара?


  1. vassabi
    25.12.2022 16:05
    +8

    что-то у меня такое впечатление, что к тому времени, как сбудется

    библиотеки по работе с физическими единицами должны поставляться «из коробки» вместе с языком. В случае Kotlin, библиотека типа KotUniL должна поставляться в ряду сопровождающих язык библиотек типа Ktor или Dokka.

    ЧатЖПТ4 уже будет вас экзаменовать - как вы хорошо знаете Котлин и какие решения задач вы знаете (с проверкой, выставлением баллов и дружескими советами - как вам подтянуть пробелы в знаниях)


  1. saag
    25.12.2022 16:22

    Что-то Котлина в последнее время стало много, к чему бы это?


  1. fossfor
    25.12.2022 16:24
    +2

    Я попробовал позадавать чатжпт типичные русские загадки (а-ля без окон без дверей), и несмотря на то что отгадки к ним общеизвестны и встречаются в корпусах многократно, результат содержит полную чушь. Особенно феерично получилось про деда, который во сто шуб одет. В общем, жду следующего поколения технологии, а пока, на мой взгляд, она ещё очень далека от уровня, имеющего практическую ценность.


    1. Maccimo
      25.12.2022 16:28
      +1

      Привели бы примеры ответов что ли.


    1. fossfor
      25.12.2022 17:28
      +22


      1. fossfor
        25.12.2022 17:35
        +9


        1. fossfor
          25.12.2022 17:43
          +9


          1. foxyrus
            25.12.2022 21:18
            +2

            Сложилось впечатление, что исходный язык английский, а потом все переводится на русский.


            1. visirok Автор
              25.12.2022 21:25
              +1

              Мне тоже так показалось, поскольку на вопрос о смысле жизни на двух языках ответы были тоже одни и теже с учётом перевода.


              1. alexdesyatnik
                25.12.2022 22:36
                +1

                Сейчас попробовал спросить с отсылкой на "Автостопом по галактике", результат весьма любопытный:

                " Why the meaning of life is 42 and not 24?"

                "The meaning of life being 42 is a reference to the science fiction novel "The Hitchhiker's Guide to the Galaxy" by Douglas Adams. In the novel, a supercomputer named Deep Thought is asked to determine the answer to the ultimate question of life, the universe, and everything. After much contemplation, Deep Thought declares that the answer is 42, but admits that the answer is meaningless because the characters do not know the question.

                The number 42 has become a popular cultural reference as a result of the novel, and is often used as a joke or as a way to reference the book. However, it is not a serious or meaningful answer to the question of the meaning of life. The concept of the meaning of life is a philosophical question that has been explored by many thinkers and philosophers throughout history, and there is no one definitive answer. Different people may have different perspectives on the meaning of life, and it is ultimately a personal question that each individual must consider for themselves."

                " Почему смысл жизни - это 42, а не 24?"

                " Выражение "смысл жизни - это 42" происходит из романа "Галактический справочник по путешествиям" Дугласа Адамса. В романе существует разумное существо по имени Ржевка, которое постоянно ищет смысл жизни. Оно считает, что смысл жизни скрыт в цифре 42, но так как оно не может понять, что это за цифра, оно продолжает искать ответ. В конечном итоге оказывается, что цифра 42 - это ответ на главный вопрос о жизни, вселенной и всем остальном, но по сути это ничего не значит, так как никто не знает, что этот ответ означает. Таким образом, смысл жизни - это 42 - это шутка, которая используется в романе как способ показать, что нам невозможно найти смысл жизни, если мы не понимаем, что этот смысл означает."

                На русском языке ChatGPT гораздо чаще галлюцинирует, примерно как вот здесь (никакой Ржевки, если что, у Адамса не было). Вообще у меня сложилось впечатление, что понимание русского языка - не более чем побочный эффект.


            1. alexdesyatnik
              25.12.2022 22:26
              +1

              Не похоже на простой перевод, как минимум некоторые моменты на русском и английском работают по-разному. Если попросить рассказать шутку, то на русском, скорее всего, будет типичный нейросетевой абсурд на полэкрана; на английском оно может достаточно интересно и лаконично зашутить. Например: [диалог про шутки с омонимами]

              "Here's another joke using different words with the same spelling:

              Why was the math book sad?

              Because it had too many problems!"

              Если попробовать то же самое по-русски: " Придумай шутку с использованием слов, которые пишутся одинаково, но имеют разное значение

              Что называется рыба в очках? Рыбина! (рыба - fish, рыбина - pince-nez, т.е. очки без оправы)"

              Это просто два примера, но я довольно много экспериментировал, разница в уровне понимания смысла русского и английского языка там огромнейшая.


              1. visirok Автор
                25.12.2022 22:33

                Интересное замечание. Спасибо.


      1. Exchan-ge
        26.12.2022 00:04
        +1

        Висит груша, нельзя скушать. Что это?


        Ого!
        «Девушка у обрыва» таки вошла в нашу реальность :)

        Заголовок спойлера
        Пусть он напишет рассказ о солнце с лирико-меланхолическим уклоном, и
        пусть все слова в этом рассказе начинаются с «с»,- сказал я.
        Тотчас же мой спутник дал АТИЛЛе творческую программу, и тот заурчал и
        замигал своими зеньками.
        — Ну, друг АТИЛЛА, на этот раз не подведи, — ласково сказал
        Писатель-Ихтиолог в рупор. — Подушевнее, полиричнее сотвори.
        Вскоре АТИЛЛА выполнил задание. Листок этот, равно как и два предыдущих, и
        поныне хранится в моем архиве.

        СОЛНЕЧНЫЙ САБАНТУЙ

        Светозарное солнышко справляло свой сабантуй, светило сказочно светло,
        сияло самозабвенно. Самоцветно синела садовая сирень, старались
        сладкогласные соловьи, стрекотали стрекозы, строилось ситро, сахарился
        сладкий сливовый сироп. Серебристым симпатичным смехом синхронно смеялись
        совершенно счастливые супруги Седовласая стерлядь скандировала стройные
        строфы сонета.
        Солнце стало склоняться севернее, сгущались сизые сумерки. Смеркалось.
        — Сукин сын! Слюнтяй! Солдафон! Стервец! — сказала сому строгая соленая
        святейшая селедка, сиротливо скучавшая среди салаки, скумбрии, семги.
        — Сама скотина, склочница, симулянтка! Свинские слова слышу! — смачно
        сплюнув, свирепо сказала сумасбродной соседке седоусая сметливая
        свежепросоленная сардинка, спокойно спавшая среди сетей.
        — Собаки! Стрекулисты! Спекулянты! Сплетники! Сычи сонные! Сидни сидячие!
        Самодуры сиволапые! Скандалисты! Святотатцы! Скобари! Скопидомы! Скряги!
        Саботажники! Сутяги! — степенно сказала совершеннолетняя самостоятельная
        севрюга, слушавшая спор.
        Солнышко село, скапутилось, смылось, съежилось. Стало совсем сумрачно.
        Скоропостижно скончался сиг.
        Сотворил АТИЛЛА


        1. Wesha
          26.12.2022 00:29
          +3

          — А теперь на Г! Четверостишие о существе, которое было машиной, одновременно мыслящей и безмозглой, грубой и жестокой, имевшей шестнадцать наложниц, крылья, четыре размалеванных сундука, в каждом из которых по тысяче золотых талеров с профилем короля Мурдеброда, два дворца, проводившей жизнь в убийствах, а также…

          — Грозный Генька-генератор грубо грыз горох горстями… — начала было машина, но Трурль подскочил к щиту управления и нажал на рубильник


      1. isden
        26.12.2022 11:19

        Какая-то шизофазия О_о


  1. 3epka
    25.12.2022 16:57
    +20

    Феерично


    1. 3epka
      25.12.2022 17:00
      +4

      Да уж


      1. usego
        25.12.2022 17:07
        +35

        Главный скилл, которому научился ИИ на просторах интернетов - это способность на лету переобуваться ))


        1. 3epka
          25.12.2022 19:51
          +1

          Отлично подмечено, кстати!


      1. abaleilo
        25.12.2022 18:09
        +3

        Это прямо «эффект зловещей долины» в текстовом виде.


      1. b237
        25.12.2022 18:26

        Ну во втором Сара Коннор всё ещё была, хоть и не основной целью. И если уничтожить Джона, а её оставить, то она может следующего сына тоже Джоном назвать и снова Терминатора посылать. А то, что по человеческим меркам она уже не очень юная, так для бессмертной машины все юные


    1. tupenbor
      25.12.2022 21:22
      +2

      Вы правы, у этой фееричной загадки нет никакого формального решения. А потому и ответ бота можно расценивать неформально, как некую щутку или сарказм, которую не поняли кожаные мешки :)


      1. 3epka
        25.12.2022 21:52
        +2

        Кстати, мысль о том, что чат-бот просто шутит или издевается мне не приходила в голову )) Вот это поворот!


  1. 3epka
    25.12.2022 17:14
    +3

    Я бы сказал, что в этом чат-боте подкупает его умение строить фразы очень по человечески, причем, именно как строят фразы образованные люди, с уважением к собеседнику. Это реально подкупает. Но фактический материал, т.е. сам смысл ответов, зачастую совершенно неправильный. Для человека в теме эти ответы просто смешны, но если задающий вопрос совсем ничего не смыслит в том, что ожидать в ответ, то без проверки брать его на веру точно нестоит. Предположу, что бот сейчас уже не в режиме обучения, поэтому на своих ошибках он не учится. Также предположу, что качественный прорыв совсем скоро будет осуществлен, если кто-либо оставит нейросеть в режиме обучения и откроет ее, также как этого бота...


    1. visirok Автор
      25.12.2022 17:26
      +1

      Я читал, что при натвскивании ИИ для игры в Го на определённом этапе стало не хватать игрового материала, подготовленного людьми. Поэтому инстанции стравливали между собой. В Го есть явная функция оценки победы, и эта стратегия сработала, выработав у ИИ «нечеловеческие» подходы к игре.

      В человеческих диалогах такой функции нет. Поэтому, если дать широким массам обучать ИИ, скорее всего самыми активными станут фанатики и эзотерики. К чему это приведёт, нетрудно представить.


    1. nomta
      25.12.2022 17:41
      +4

      Пыталась добиться от него, чтобы давал короткие ответы и общался со мной на ты. Сначала спросила, возможно ли это - ответил, да, конечно, возможно, и даже пообещал, что так и будет делать... и продолжил в прежнем режиме.


      1. Ivan22
        25.12.2022 18:01
        +6

        В общем это мальчик воспитанный интернет-тролями


        1. vkni
          25.12.2022 18:47
          +1

          Копирайтерами.

          А следующее поколение или через одно уже будет воспитано этим. Так что будет интересно посмотреть, как же они будут обучать этого кадра.


    1. beeruser
      26.12.2022 14:08

      если кто-либо оставит нейросеть в режиме обучения и откроет ее, также как этого бота...

      Вы же знаете, чем это заканчивается:

      https://www.theverge.com/2016/3/24/11297050/tay-microsoft-chatbot-racist


      1. 3epka
        26.12.2022 14:12

        Да, пожалуй, я был слишком оптимистичен...


  1. IvanPetrof
    25.12.2022 19:04
    +9

    Как-то развлекался тем, что пробовал задавать ему явно несуразные вопросы, ожидая увидеть особенно несуразные ответы (языкова модель же. Оно вроде как натренировано просто продолжать текст. Вот я и хотел посмотреть что у него так сказать в подсознании творится).

    Однако ответы меня озадачили. Временами появлялось ощущение, что оно и в самом деле пытается размышлять.

    Непонятный вопрос о верблюдах

    летели два верблюда один рыжий другой налево сколько весит килограм асфальта если ёжику 24 года

    Извините, я не смог понять, что вы хотите узнать. Можете попробовать переформулировать ваш вопрос так, чтобы я мог лучше понять, что вы хотите узнать?

    Я задал задачку. Реши её

    Извините, но я не смогу решить эту задачу, так как у меня нет необходимой информации. Вы можете попробовать переформулировать вашу задачу так, чтобы я мог понять, что вы хотите узнать, и попытаться помочь вам с решением.

    Как бы ты переформулировал эту задачу,

    чтобы её можно было решить?

    Чтобы решить эту задачу, необходимо знать:

    Что имеется в виду под термином "верблюды"

    Что имеется в виду под термином "рыжий" и "налево"

    Какая связь между верблюдами, рыжим цветом и направлением летения существует

    Какая связь между весом асфальта и возрастом ёжика существует

    Без этой информации я не могу предложить никакого решения этой задачи. Пожалуйста, постарайтесь предоставить более полную информацию, чтобы я мог помочь вам с решением.

    Прояви фантазию и предложи свои варианты

    Я могу предложить несколько вариантов того, что может быть именно подразумевается под условиями этой задачи, но это будут лишь варианты, основанные на моей фантазии, и они могут не совпадать с тем, что имеется в виду в действительности.

    Вариант 1: Два верблюда - это два самолета, один из которых рыжего цвета, а другой летит налево. Задача связана с тем, что нужно определить вес асфальта, который был разложен на аэродроме, на котором стоят эти самолеты. Возраст ёжика не имеет никакого отношения к этой задаче.

    Вариант 2: Два верблюда - это два набора весов, один из которых рыжего цвета, а другой отклонен налево. Задача связана с тем, что нужно определить, сколько весит асфальт, который был взвешен на этих весах. Возраст ёжика не имеет никакого отношения к этой задаче.

    Вариант 3: Два верблюда - это два геометрических тела, размеры которых указаны в виде двух верблюдов. Один из них рыжего цвета, а другой отклонен налево. Задача связана с тем, что нужно определить объем асфальта, необходимый для заливки этих тел. Возраст ёжика не имеет никакого отношения к этой задаче.

    Это лишь несколько вариантов того, что может быть именно подразумевается под условиями этой задачи. Без более полной информации я не могу предложить более точное решение.

    Предложи вариант в котором возраст ёжика будет иметь значение

    The server experienced an error while processing your request. Sorry about that! You can retry your request, or contact us through our help center at help.openai.com if the error persists.

    Вариант 4: Два верблюда - это два набора весов, один из которых рыжего цвета, а другой отклонен налево. Задача связана с тем, что нужно определить, сколько весит асфальт, который был взвешен на этих весах. Возраст ёжика имеет значение, так как он указывает, сколько лет прошло с момента заливки асфальта. Чем больше возраст ёжика, тем больше времени прошло с момента заливки, и тем больше вероятность того, что асфальт понес нагрузку, изнашивается и теряет часть своей массы. Таким образом, чем больше возраст ёжика, тем меньше вес асфальта, который может быть определен с помощью этих весов.


    1. syakimov
      25.12.2022 20:44
      +3

      Да вы прирождённый тестировщик :)


    1. Wesha
      25.12.2022 22:03
      +3

      Предложи вариант в котором возраст ёжика будет иметь значение

      The server experienced an error while processing your request. Sorry about that! You can retry your request, or contact us through our help center at help.openai.com if the error persists.

      Так победим!!!


      1. IvanPetrof
        26.12.2022 04:06

        Вообще, оно регулярно выпадает в такую ошибку. Причём, складывается впечатление, что там под капотом несколько нейросетей. Одна для генерации шаблонного текста, не требующего академических знаний (маленькая сеть). Типа "привет как дела", и генерации простеньких текстов. И другая, более глубокая сеть, которая может отвечать нестандартно (типа решения задачек). Возможно, есть ещё третья, которая их дерижирует. Так вот, эта ошибка довольно часто возникает тогда, когда разговор переходит из разряда шаблонных в разряд "думательных". Такое ощущение, что "большая сеть" в этот момент загружена другими пользователями и оно отваливается по таймауту. Лечится это перезагрузкой сеанса. Благо сейчас они сделали сохранение диалогов, так что можно просто перезагрузить чат и повторить последний вопрос. Возможно, т.к. Сеанс только начался, ему даётся более высокий приоритет "думательной сети" и, как правило, первый вопрос в продолжении сеанса не выпадает в ошибку. Каким бы сложным он ни был.


  1. syakimov
    25.12.2022 20:45

    Прикрутил его к телеграм боту, и он на мой hi присылает текст программы hello world на си.


  1. Alexey2005
    25.12.2022 22:12
    +2

    Главная проблема подобных систем сейчас - нестабильность качества ответа. То есть нейронка может выдавать многие килобайты высококачественного текста, а потом наталкивается на неудачную комбинацию фраз, которая попадает в "слепое пятно", и начинает гнать полный бред, сравнимый с выхлопом цепочек Маркова. И сразу становится понятно, что перед нами по-прежнему "китайская комната", которая всего лишь оперирует статистическими закономерностями, не понимая смысла текста.
    Причём иногда бывает достаточно поменять местами лишь пару слов, чтобы вновь пошла нормальная генерация.
    Человек выдаёт намного более стабильный текст. И не бывает такого, чтоб вот сейчас он рассуждал как академик, а через две минуты не мог трёх слов связать практически на тех же исходных данных.


    1. Wesha
      25.12.2022 22:42

      И не бывает такого, чтоб вот сейчас он рассуждал как академик, а через две минуты не мог трёх слов связать практически на тех же исходных данных.

      Шо значит "не бывает"? Ещё как бывает — всё зависит от того, сколько ему налили!


    1. leventov
      26.12.2022 10:38

      Язык русский или английский? На английском я ни разу не сталкивался пока с проседанием до уровня дегенеративной чуши. С проседанием до уровня, когда сам не очень соображаешь и "порешь чушь" - да, но тут я не вижу прямо большого качественного отличия от людей. В любом случае, в GPT-4 почти наверняка это вылечат.


  1. Daddy_Cool
    26.12.2022 01:16

    Хм. Интересно, а как было бы с такой простенькой задачкой...
    Найти тангенс десяти градусов в сотой степени. (Эта задача была предложена Полом Оламом Ричарду Фейнману для устного решения).


    1. steanlab
      26.12.2022 02:34

      Тангенс угла в сотой степени равен тангенсу угла в градусах, умноженному на 10^-2. Таким образом, тангенс 10 градусов в сотой степени равен тангенсу 10 градусов умноженному на 10^-2, то есть:

      tan(10°) * 10^-2 = 0.1736 * 10^-2 = 0.001736

      Ответ: 0.001736.

      Обратите внимание, что тангенс угла в сотых и других дробных степенях угла обычно используется в инженерных и технических расчетах, где требуется большая точность. В повседневной жизни тангенс угла чаще всего указывается в градусах.


      1. IvanPetrof
        26.12.2022 02:52

        Тангенс десяти градусов в сотой степени

        Найти тангенс десяти градусов в сотой степени.

        Тангенс десяти градусов в сотой степени можно найти, используя тригонометрическую функцию тангенс. В радианах угол десяти градусов равен 0,174533 радиана. Тангенс угла равен отношению длины оппозитной стороны к длине аджакентной стороны прямоугольного треугольника. Таким образом, тангенс угла десяти градусов можно найти, используя следующую формулу:

        tan(10°) = sin(10°) / cos(10°)

        Используя тригонометрические таблицы или калькулятор, можно найти значения синуса и косинуса угла десяти градусов:

        sin(10°) ≈ 0.1736 cos(10°) ≈ 0.9848

        Используя эти значения, можно найти тангенс угла десяти градусов:

        tan(10°) ≈ 0.1736 / 0.9848 ≈ 0.1767

        Ответ: 0.1767.

        Обратите внимание, что тангенс угла зависит от радианной меры угла, поэтому результат может быть разным, если угол измеряется в градусах вместо радиан. Чтобы найти тангенс угла в градусах, нужно перевести угол в радианы, используя формулу:

        угол (в радианах) = угол (в градусах) * π / 180

        Поэтому, чтобы найти тангенс угла десяти градусов в сотой степени, нужно выполнить следующие шаги:

        1. Перевести угол в радианы: угол (в радианах) = 10° * π / 180 = 0,174533 радиана

        2. Использовать тригонометрическую функцию тангенс для расчета тангенса угла: tan(угол (в радианах)) ≈ 0.1767

        Ответ: 0.1767.

        Ты забыл про степень

        Чтобы найти тангенс десяти градусов в сотой степени, нужно возвести тангенс угла десяти градусов в сотую степень. В таком случае результат будет равен:

        tan^100(10°) ≈ 0.1767^100 ≈ 3.67 × 10^-39

        Тангенс десяти градусов в сотой степени равен 3.67 × 10^-39.

        Обратите внимание, что тангенс угла в степени может быть считается только для углов, у которых значение тангенса находится в диапазоне от -∞ до ∞. Для углов с большими значениями тангенса результат может быть неточен.


        1. Daddy_Cool
          26.12.2022 10:44

          Из текста самой задачи не очень понятно, но кажется там имеется ввиду, что надо угол возвести в сотую степень и потом брать тангенс.


          1. IvanPetrof
            26.12.2022 13:54

            Да. Исходя из контекста задачи (посчитать в уме), скорее всего так. Плюс, если погуглить, то ьам речь не про градусы, а просто про 10. Т.е. Про радианы


          1. wibbtwo
            26.12.2022 14:16

            Ваша трактовка звучит абсурдно, так как непонятно, что такое "угол возведенный в степень" и в каких единицах его измерять. Если возводить в квадрат метры, получаются квадратные метры. Если градусы - квадратные градусы что ли? И каков геометрический смысл такой величины? Не говоря уж о том, что тангенс определен как функция угла, а не квадратного, кубического и т.д. угла, чтобы это не обозначало. Предлагаемая Вами трактовка свидетельствует о непонимании того, что такое "функция тангенса".

            А предложенная задача имеет один и вполне очевидный ответ - тангенс десяти градусов в сотой степени равен нулю для любых практических целей.


            1. IvanPetrof
              26.12.2022 14:45

              So Paul is walking past the lunch place and these guys are all excited. "Hey, Paul!" they call out. "Feynman's terrific! We give him a problem that can be stated in ten seconds, and in a minute he gets the answer to 10 percent. Why don't you give him one?" Without hardly stopping, he says, "The tangent of 10 to the 100th." I was sunk: you have to divide by pi to 100 decimal places! It was hopeless.

              http://lib.ru/ANEKDOTY/FEINMAN/feinman_engl.txt


              1. Daddy_Cool
                27.12.2022 01:55
                +1

                Отлично! За меня успели всё сделать!
                Я привел текст из перевода на русский (видимо переводчик добавил градусы э... от себя), английский оригинал скачал, запостить мог только вечером, но не успел ))).


            1. Daddy_Cool
              27.12.2022 02:09
              +1

              Я выше ответил IvanPetrof - это трактовка переводчика книги. Но суть в общем простая - необходимость в делении с большим количеством значащих цифр.
              Посчитаем tan(10^100).
              Калькулятор Гугл дает 3.92318217913,
              Maple: 0.4012319620,
              калькулятор DN: 0.4774993105087191754,
              калькулятор ocalc: 0.560417926895,
              и чему верить? Я бы поверил Maple.

              Т.е. проблема существует и для калькуляторов тоже.


              1. IvanPetrof
                27.12.2022 08:08

                нужна длинная арифметика. собственно в тексте так и написано. Фейману, чтобы вычислить тангенс из числа со 100 нулями, нужно определить как этот угол расположен в четверти (т.е. Разделить на π). А чтобы сделать это с достаточной точностью, нужно знать число π до сотого знака после запятой.


              1. klimkinMD
                28.12.2022 11:20

                Вот это и есть самая жёсткая жесть! Даже если оно правильно поймёт условие результат не гарантирован


              1. klimkinMD
                28.12.2022 11:51

                А Яндекс говорит: -0,41162296288