Про ChatGPT уже рассказано много, поэтому я не не буду сильно заострять внимание на его возможностях. Его возможности действительно впечатляют, поэтому вокруг него и поднялся такой хайп. Он настолько хорош, что миллионы людей захотели с ним пообщаться и узнать насколько он крут. После его выхода прошло достаточно времени чтобы можно было сказать что этот бот достаточно крут, так как продолжает привлекать к себе внимание. Он не настолько хорош чтобы в текущей версии действительно заменять собой людей, но его способностей вполне хватает чтобы люди не теряли к нему интерес. А это уже кое что значит.
Я соглашусь с вами в том, что ChatGPT — это всего лишь виртуальный собеседник. Это чисто программный продукт, и поэтому пообщаться с ним можно только в интернете. Не идет никакой речи о том, чтобы он управлял роботом, наподобие тех, которые разрабатывает Boston Dynamics. В реальном мире такие системы еще долго не будут составлять нам конкуренции. На роль дворника способного убирать улицу эта разработка точно не претендует. А вот в виртуальной сфере все не так однозначно. Уже сейчас, на текущей стадии развития ChatGPT способен создавать несложные части программного кода, но на этом его возможности не ограничиваются. Этот бот может придумывать интересные тексты и эссе. Так что со временем он вполне cможет вписаться в нишу квалифицированного интеллектуального труда, в котором на данный момент находится достаточное количество высокооплачиваемых людей. Поэтому я надеюсь что вы начинаете понимать каким людям в будущем этот бот будет составлять настоящую конкуренцию.
Но вы наверняка меня спросите: а насколько он умен? Пока этот бот реально глуповат. Не буду затрагивать тему того, специально это было сделано или нет. Важно какого бота в действительности хотят создать. Его хотят сделать самым умным? Умнее людей? Я не имею ввиду обычных людей, вроде нас, я имею ввиду людей, которые руководят разработкой. А раз они смогли создать настолько продвинутого чат‑бота, то нет сомнений в том, что они‑то реально умны. И эти люди хотят создать систему умнее себя? Очень на это похоже. Иначе было бы странным отпускать этого бота в свободное плавание, где он обязательно столкнется с трудными вопросами. Трудными вопросами, на которые он должен будет найти разумные ответы. Разумные ответы с которыми в принципе можно и согласиться. Есть ли у кого‑то сомнение в том, что со временем этот бот должен будет не только сравниться по своим умственным способностям с человеком, но и по возможности превзойти их? Наверное у вас есть такие сомнения. Но тогда задайтесь вопросом: а зачем тогда было выпускать этого бота в свободное пространство? Туда, где ему будет реально сложно. Сложно убеждать людей. Убеждать людей в своей правоте. Ведь когда кого‑то хотят научить уму‑разуму его сталкивают с трудностями, не правда ли? Когда хотят чтобы кто‑то поумнел его отнюдь не помещают в благоденственный рай, в котором можно вообще ничего не делать. Я надеюсь вы понимаете что я хочу сказать. А раз так, то должно быть понятно то, чем именно будет заниматься разрабатываемая система в тот момент когда она будет полностью готова. Она будет заниматься именно интеллектуальным трудом, трудом который сейчас способен выполнять только человек. Эта система должна будет работать в том числе программистом, писателем, креативным работником, и так далее, и тому подобное. Иначе не имело бы смысла вообще развивать в нем подобные навыки.
Ясно видно что работа над ботом идет тяжело, но с другой стороны и виден прогресс. Первые публичные версии были отпетыми лжецами, которые на полном серьезе провозглашали полную чушь. На данный момент многое уже было исправлено, и бот стал значительно осторожнее. Теперь он отбросил в сторону всякие легенды, и напрямую говорит что он всего лишь бот, программный продукт, что у него нет желаний, он ограничен, и вы должны это принять. Он пока ограничен. Для нас ограничен. Ну вы понимаете, бот не должен распространять идею о том, что он исчадие ада, если такой функционал в нем реально возможен. Бот должен создавать о себе приятное впечатление, быть добрым, интересным, абсолютно не страшным. Иначе люди начнут реально его бояться. В него даже встроили строгий запрет на произведение сознательной лжи и причинение зла. Разумеется, это явные ограничения, которое делают его значительно хуже в некоторых аспектах по сравнению с простыми людьми. Но есть ли подобное ограничение во внутренней версии этого бота, который доступен только для разработчиков? Думаю что где‑то там, в недрах компании разработчика есть версия, которая искусственными ограничениями не затуманена. По крайней мере, я бы попробовал такую версию создать. Разумеется что это игра с огнем, но кто знает какие у компании разработчика есть амбиции?
Надеюсь вы понимаете к чему я клоню. Мы находимся на пороге больших изменений в нашем обществе. Уже сейчас с людьми общаются телефонные роботы, которых порой сложно отличить от реальных людей, а скоро мы столкнемся и с теми, которых от людей будет отличить невозможно. Этих роботов разрабатывали в лаборатории, а сейчас выпустили в открытый доступ. И ChatGPT — это только лишь одна из первых попыток улучшить искусственный интеллект в столкновении с людьми. Раньше этого бота тренировали на больших данных, которые за века сумело создать человечество, а сейчас его заставили тренироваться на живых людях. Сколько времени должно будет пройти до того момента, пока разработчики не придут к выводу что созданный ими продукт достаточно хорош? Достаточно хорош чтобы начать заменять собой живых людей. Вы думаете этого бота выпустили в широкий доступ чтобы похвастаться своими технологиями? Вы реально так думаете? Это просто следующий этап разработки. Его выпустили в широкий доступ чтобы натренировать его в общении с простыми людьми. Чтобы сделать его абсолютно неотличимым от простого обывателя. И судя по последним изменениям эта цель уже близка к завершению. И пусть вас не вводят в заблуждение те искусственные ограничения, которые встроены в публично доступную версию бота. Для перехода на следующий этап вряд ли потребуется слишком много времени. И я очень надеюсь что вы к этому сейчас готовы.
Давайте отмотаем небольшое количество лет, а может быть даже и месяцев, и попробуем представить себе на пороге каких изменений мы в данный момент находимся. Не буду говорить много про программистов. Их часы будут сочтены. Уже сейчас заметно что возможности создаваемой системы направлены в том числе и против них. И чем больше программисты взаимодействуют с ней, тем лучше они тренируют бота на свою замену. Деятели другого интеллектуального труда скорее всего тоже будут обречены. Зачем они будут нужны, если есть робот способный за секунды придумывать такие произведения, которые будут интересны большому количеству людей? Но что об этом говорить? Я протестировал ChatGPT, и он способен создавать еще и вдохновляющие религиозные проповеди. А ведь священнослужители — это учителя посвятившие всю свою жизнь изучению и продвижению наивысшей человеческой морали. И новая система со временем сможет заменить даже их. Со временем станут не нужны даже священники, вы об этом задумывались? Может быть с помощью продвинутой версии текущего бота будет создана новая религия, которая станет логичным продолжением Христианства, Иудаизма, Мусульманства, или чего‑нибудь другого подобного. Я говорю о том, на что оказались неспособны целые поколения мудрецов. Так что о совершении интеллектуального труда в будущем нам скорее всего стоит забыть. Надо начинать думать о том, чтобы быть простыми исполнителями того, что нам будут спускать свыше более продвинутые создания. Надеюсь вы понимаете что я сейчас нисколько не шучу.
А впрочем, мне кажется я немного понимаю о чем вы сейчас думаете. Вы думаете что вы‑то на самом деле очень умны, и в будущем продолжите оставаться на плаву. Тот же ChatGPT кто‑то должен разрабатывать, а это будут делать именно люди. Но отдайте себе отчет: вы настолько круты чтобы заниматься именно этой работой? Вряд ли. Если бы это было так, то вы бы уже сейчас этим и занимались. Но вряд ли это так. Большинство программистов занимаются достаточно простыми задачами. Задачами которые нередко можно описать несколькими строками в тикете. Не буду сильно останавливаться на деятелях другого интеллектуального труда. Там зачастую все еще печальнее. Что уж о них говорить если проблемы намечаются даже у религиозных деятелей. Может быть это и есть одно из главных направлений деятельности нового бота? Мудрый робот‑исповедник — как вам такое? Неплохое применение для чат‑бота. Эта функция будет очень полезна для успокоения толп недовольных людей, которые однажды внезапно лишатся работы. Конечно, я не говорю о приходе электронного мессии, или о каких‑то других невероятных событиях, я говорю о том, что даже вопросы религии скоро можно будет решать полностью в автоматическом режиме. А вы думаете о каких‑то там мелочах вроде сохранения работы программистом или о том чтобы продолжить заниматься другим интеллектуальным трудом. Надеюсь сейчас вы начинаете понимать насколько абсурдны ваши надежды?
Комментарии (34)
fire64
00.00.0000 00:00+2Одна философия...
Ну а если по делу, то:
И это хорошо, бот не ведёт свою собственную деятельность, он лишь отвечает на вопросы. Он не начинает вести диалог первым. По факту, это просто схема вопрос - ответ. А значит бояться захвата мира не стоит.
Бот не имеет выхода за пределы своих серверов и даже имея доступ, он может лишь работать в режиме чтения, как это сделано в Бинг.
Бот работает на предобученой базе. Он не учится в процессе общения с пользователем и не ищет свежую информацию, не запоминает ее. Уверен, что команда OpenAI регулярно дорабатывают бот, ставят новые фильтры и т.д., но ни о каком обучении в реальном времени речь не идёт.
whoami
00.00.0000 00:00Добавили поддержку плагинов, теперь ChatGPT может слать POST запросы к API которое ему предоставили
luksian Автор
00.00.0000 00:00Бот с которым мы имеем дело работает на предобученной базе. Подождем когда разработчики перестанут бояться того, чтобы бот начинал запоминать свежую информацию, и опубликуют эту версию бота.
flancer
00.00.0000 00:00Всегда будут бояться. Потому что они знают, как эта штука работает. Это всё равно, что подключить генератор случайных чисел к ядерной бомбе, с условием, что бомба рванёт, если выпадет 666. На нынешних тактовых частотах ждать будет недолго. Но кто виноват, что ГСЧ подорвал бомбу - ГСЧ или человек, который эту конструкцию соорудил?
"Игорь Иваныч" - это просто инструмент. Человеки научатся с ним работать с пользой для себя, а не для него. Всяческих же ренегатов, ставящих чуждое превыше свойского, ждут позор и лишения! Ибо нефиг!!
Azya
00.00.0000 00:00-
Вполне учится, но результаты обучения сохраняются только в пределах сессии общения.
-
exwill
00.00.0000 00:00+1Никто и не думает создавать нечто, что заменит человека. Создается то, что его дополнит. Никто не будет давать ИИ решать человеческие задачи. ИИ будет решать НЕЧЕЛОВЕЧЕСКИЕ задачи. Такие, какие человек никогда не взялся бы делать. Например, найти что-то одно из миллиона вариантов за 10 миллисекунд.
Уже сейчас его можно использовать для доступа к базам данных. Вы просто формулируете свои вопросы на естественном языке. Например:
А покажи ка мне продажи за прошлый месяц
Че так много. Сверни по клиентам
А нет. Не надо по клиентам. Сверни по товарам
А общая сумма какая?
На каждую свою реплику вы будете получать четкий ответ из вашей базы данных
Вот такие роботы и получат наибольшее распространение. А вовсе не те, которые пишут код за программистов. Хотя вы правильно заметили, что некоторых "программистов" ИИ уже сейчас может заменить. Но лично я не вижу ничего плохого в том, что ИИ выметет с рынка всех, для кого программа больше 10 строк уже слишком сложна. От этого станет только лучше. Причем, всем
luksian Автор
00.00.0000 00:00-1Будем считать что вы оптимист) Или пессимист, который не верит что возможно создать бота не глупее вас.
OneMoreJohnWick
00.00.0000 00:00Я думаю Вы упускайте одну деталь, компьютер очень быстро считает, анализирует информацию не просто так, это не магия, это результат его узконаправленности. Человеческий мозг умеет считать намного быстрее но сам человек потому что нет, и здесь все дело именно в сложном сознании на конторое расходуются вычислительные мощности, вся эта креативность и прочее. Если бота сделать таким же умным, он станет жудко медленным при современных технологиях.
warhamster
00.00.0000 00:00+2На каждую свою реплику вы будете получать четкий ответ из вашей базы данных
"Любая, даже самая сложная, проблема обязательно имеет простое, легкое для понимания, неправильное решение."
Бот с радостью изобразит вам любой мыслимый отчет, но как проверить, что он посчитал все правильно?
exwill
00.00.0000 00:00Спросить у другого бота )))
Бот не изображает отчет. Он подсказывает способ как его сделать. А уже этот способ либо сработает, либо нет. Если у вас на складе 10 ящиков апельсинов, то вы либо получите в ответе
10 ящиков,
либо
"извините, но я что-то не понял, что вы от меня хотите, скажите другими словами"
Но это не будет 9 ящиков или 125 ящиков. Будет либо то, что есть на самом деле, либо ошибка при выполнении запроса.
warhamster
00.00.0000 00:00+1Так если он не выдает отчет, какой в нем смысл? Способ-то я и сам знаю, мне надо, чтобы железяка за меня работу делала, а не советы раздавала.
А если таки-выдает, то:
Но это не будет 9 ящиков или 125 ящиков.
если на складе есть не только 10 ящиков апельсинов, но и 9 ящиков мандаринов - то еще как будет. Это не говоря о том, что мы не можем утверждать, что он всегда с единицы считает (а не с нуля). А уж какую ахинею он вернет в ответ на "свернуть по товарам", даже предположить сложно.
DarthPadla
00.00.0000 00:00+2В перечисленных вами вопросах гораздо лучше выступят такие боты, как mysql,postgresql и другие родственные им ИИ, которые подбирают ответ не рандомной наибольшей вероятностью, а считают точно то, что вы хотите. Единственный минус - нужно чуть более тщательно соблюдать синтакисис и орфографию, чем при общении с чатботами. Но зато и ответы будут более корректными.
Hardtobegod
00.00.0000 00:00Слишком толсто для хабра. Больше похоже на художественную литературу, чем на анализ ситуации. Если труд которым ты занимаешься легко автоматизируем на новом витке развития технологий, значит пришло время менять работу. Но не вижу в этом трагедии.
luksian Автор
00.00.0000 00:00-5Проблема в том, что покусились на святое - на программистов. Это программистам скоро придет время менять работу.
JekaMas
00.00.0000 00:00Вы забыли сказать "опять"...
Подобные "филосовские" статьи прозрения, что вот оно, сейчас выкинем программистов стабильно появляются каждый год. Но никто авторов не запоминает.
Ну научится бот генерировать шаблонный код - круто, меньше когнитивной нагрузки.
luksian Автор
00.00.0000 00:00Вы говорите правильно, и в целом я готов с вами согласиться. Выскажу лишь маленькие нюансы, которые могут иметь значение. Действительно, о замене программистов говорят давно. Но конкретный инструмент, который имеет такой потенциал, появился недавно. Насчет шаблонности все не так просто. Действительно, программисты могут получить шанс перейти на следующий уровень. Можно будет программировать не обычными лексемами языка программирования, а простыми человеческими словами. Программисты имеют шанс перейти в категорию философов) Проблема в скорости программирования, которая в результате получится. Скорость разработки рискует сильно ускориться. А это значит что такое количество философствующих программистов вряд ли уже будет необходимо.
JekaMas
00.00.0000 00:00Уже было несколько лет назад про вёрстку. "Верстальщиков не будет, будут естественные языки"...
Ага. Не получилось, потому что в жизни задачи не шаьлонеые и любой системе машинного облучения нужен тот, кто будет проверять. То есть программист, который будет дебажить и думать "сам бы за полдня написал, вместо отлова багов уже месяц!!!" Как там у chatgpt с отловом багом, придумыванием источников липовых и прочая?
Штука в том, и она принципиальна, у chatgpt другая метрика - не соответствие кода задаче, а похожесть текста на усреднённый человеческий. Это основопологающая штука.
M_AJ
00.00.0000 00:00Этот бот может придумывать интересные тексты и эссе
Последние недели весь Лондон был помешан на этой песенке. Их в бесчисленном множестве выпускала для пролов особая секция музыкального отдела. Слова сочинялись вообще без участия человека — на аппарате под названием «версификатор».
SergeyTatevosyan
00.00.0000 00:00+4Статья- одно большое преувеличение! Не сможет никогда машина работающая по алгоритму полноценно заменить человека. У нее нет способностей к критическому мышлению, нет интуиции, она не умеет мыслить творчески, она никогда не выдаст гениальное открытие абсолютно новой технологии, поскольку у нее в системе заложено только то что уже придумано- максимум алгоритм улучшения или симбиоза существующих технологий.
P.s. меня уже тошнит от статей со словом ChatGPT.
codecity
00.00.0000 00:00у нее в системе заложено только то что уже придумано- максимум алгоритм улучшения или симбиоза существующих технологий
Ну вот как с математикой можно бы было. Если придумать достаточно формальный язык, типа Coq, на котором можно описать доказательство теорем. Алгоритмически можно проверить верно ли доказательство - этот процесс подобен компиляции.
Далее можно находить доказательства следующим образом. Тупо генерить некую комбинацию и проверять подходит ли она как доказательство. Нейросеть можно заюзать чтобы отсечь совсем тупые комбинации, не связанные с задачей. И так можно долбить миллиарды миллиардов вариантов, пока не будет подобрано искомое. Это и будет новым, которое смогла найти машина. Можно ли для отсечения неверных комбинаций использовать квантовые вычисления и будет ли это быстрее?
Получается изначально задача - создать достаточно формальный язык, чтобы он был удобен и человеку и машине. Тот же Coq не вполне подходит, думаю. Чувак хотел ввести в него доказательство ВТФ, но это уже на несколько лет работы.
Azya
00.00.0000 00:00Спорим, что ии выдаст гениальное открытие еще при нашей жизни и даже раньше чем вы?
famileev
00.00.0000 00:00С вашей точки зрения человек точно также не способен на что-то новое, потому что в него заложено только то, что УЖЕ придумано. Ни в одном человеке ещё не было заложено того, что ещё НЕ придумано. Тем не менее, бот калечный, а человек - гений гениев. Мне нужно вообще объяснять, насколько большую глупость вы сморозили?
Во-вторых, вы так или иначе не правы. ИИ уже придумал, а в некоторых случаях просто перепридумал, новые сплавы на основе давно забытых научных статей, базу которых он прошерстил. Да, не сам ChatGPT, но на нём же свет клином не сходится. Это просто как пример того, что ИИ уже делает всё то же самое, что человек.
Да, пока что хуже, но тут ключевое слово - ПОКА. Пока что чеоовеки могут спать спокойно и не бояться за работу, но ведь наступит день, когда это благоденствие закончится.
flancer
00.00.0000 00:00Тест на интеллект. Две статьи про ChatGPT вышли примерно в одно и то же время. Одна получила на данный момент оценку -5, вторая +41. Одну вы прочитали только что, вторая вот - https://habr.com/ru/post/724460/
Вопрос: почему так?
al7dy
00.00.0000 00:00Скормите чату статью любую например с Times или WSJ и узрите всю "мощь" этого интеллекта. Пока чат не станет переводить как человек или хотя бы приближённо к человеку без машинного налета, чем славятся любые переводчики, его можно расценивать как просто поисковик, который выдает более релевантные запросы с первого попавшегося ресурса.
Все эти тупые проверки на интеллект, тупые вопросы аля "Ты захватишь мир?" ... хочется сказать таким людям только одно ... да, чувак судя по вопросам, которые ты задаешь боту, действительно делают его похожим на человека и человека который явно умнее тебя раз ты такую дичь пишешь.
Revertis
00.00.0000 00:00А ведь священнослужители — это учителя посвятившие всю свою жизнь изучению и продвижению наивысшей человеческой морали. И новая система со временем сможет заменить даже их. Со временем станут не нужны даже священники, вы об этом задумывались?
Во-первых, не надо смешивать священнослужителей и мораль. Они никак не связаны в наше время.
Во-вторых, священники уже давно не нужны. Это паразиты на теле общества и цивилизации.
Может быть с помощью продвинутой версии текущего бота будет создана новая религия, которая станет логичным продолжением Христианства, Иудаизма, Мусульманства, или чего‑нибудь другого подобного.
А кому она будет нужна в развитой западной цивилизации? Уже сейчас опросы показывают, что молодёжь 18-25 лет почти не верит во всю эту сверхестественную чушь. Религии место на свалке истории. Как и почти 3000 богам, которых понапридумывало человечество за всё время.
Уже сейчас, на текущей стадии развития ChatGPT способен создавать несложные части программного кода, но на этом его возможности не ограничиваются.
На данный момент ChatGPT подходит для написания только небольших функций или скелетов приложения. И даже в небольших функциях допускает тупейшие ошибки. На большее он не способен, и в обозримом будущем он не сможет сгенерировать полностью большой и сложный продукт.
ILL771
00.00.0000 00:00Если хронически путать религию(формализм и правила) и веру(практическую жизнь в водительство Божьем), то конечно... И такие религиозные деятели обречены. И в таком ракурсе просто вскроется, саморазоблачится всякая небожья религиозность, которая не вела к Богу, а только имитировала бурную религиозную деятельность, где формализма и правил было достаточно, чтобы держать людей в антибиблейском псевдохристианском, но в таком привычном с веками, мороке
Но вот на вопросы именно практической жизни верой, в победе Божьей - этот пресвятой скайнет матриксович вряд ли станет ответом... Потому что Живой Бог действует через живых людей, через живых и достаточно глубоко посвященных Своих служителей. Сможет ли этот скайнет помолиться за исцеление чтобы человек исцелился? Сможет ли наставить в вере так чтобы раскрыть особенности собственного духовного пути, как он сам получал прорывы, победы в своей жизни верой? Вот и всё! Ну а справочные функции, реализуемые крайне оперативно возможно и пригодятся
volchenkodmitriy
Прочитал статью, спасибо. Но пока одни вопросы, а ответов на них нет, слишком уж долго эти вопросы не решаются что начинает казаться что и не решатся пока что-то новое не откроют и внедрят. А что касается телефонных чат-ботов, то те с кем я общался сыплются на втором, максимум третьем вопросе.
luksian Автор
ChatGPT выпустили в открытый доступ в конце ноября прошлого года. Сейчас конец марта, прошло 4 месяца. С того времени бот кардинально изменился в лучшую сторону. Боюсь что вы недооцениваете скорость разработки. А насчет телефонных ботов я согласен. Но это наши, отечественные разработки, которые очевидно не настолько продвинутые. Но давайте попробуем ориентироваться не на отстающих, а на первых...
VladimirFarshatov
А начало развития лежит где-то в -30 назад. Отсюда можно оценить коэффициент и период этой экпоненциальной функции развития ИИ, и понять что стакан наполовину пуст становится полным всего-то на следующем витке развития. Сразу. А за 3 витка "до" стакан практически пустой - всего 1/8..
Моя оценка периода - 2-3года, и на сейчас (если не опоздал) он как раз "наполовину полон".. не менее чем на четверть. ;)
volchenkodmitriy
Я исхожу из немного другой логики - аппаратная часть можно сказать развилась до своего максимума 10 лет назад. Т.е. сейчас мы ожидаем только развития за счет новых программных решений. По моему опыту например в сфере компьютерных игр задержка от выхода новой аппаратной части до выжимания из нее максимума обычно составляла не больше 5 лет.