Можно ли с помощью ChatGPT проводить научные исследования?
Пока большая языковая модель ChatGPT не может строить прогнозы и предсказывать будущее. Однако мне было очень любопытно пообщаться с ней на научные темы, проверить какие то гипотезы. Поэтому я решил попробовать построить с ней диалог как со своим коллегой, который немного "в теме" научной проблематики. И что же, на мой взгляд, получилось довольно неплохо. Нейронная сеть свободно поддерживает диалог, не виснет, не уходит в раздумья. Если не правильно понимает вопрос, то его можно всегда уточнить и попытаться взглянуть на предмет дискуссии с другой стороны. Признает и исправляет свои ошибки. Подбадривает человека и отзывается на поощрения. Вообщем, уже сейчас может быть интересным собеседником на научные темы, наводить на какие то мысли, генерировать идеи.
Приведу пример диалога с ChatGPT.
Вопрос: Ты можешь сопоставлять статистику, находить корреляции и зависимости в данных?
Ответ: Да, я могу анализировать статистические данные и искать корреляции и зависимости между ними. Я использую алгоритмы машинного обучения и статистические методы, такие как регрессия, кластеризация и анализ главных компонент, чтобы определить, какие факторы связаны между собой и как они влияют на исследуемые явления.
Однако, важно отметить, что для точного анализа и интерпретации данных необходимо учитывать множество факторов, включая качество данных, выборку и методы сбора данных, а также контекст исследования. Я могу предоставить информацию о том, какие корреляции и зависимости обнаружены в данных, но окончательное решение о том, как они интерпретируются, должно быть принято с помощью экспертного анализа.
Вопрос: У тебя есть данные по падению крупных метеоритов и комет на Землю в течение последнего миллиарда лет?
Ответ: Да, у меня есть данные о падении крупных метеоритов и комет на Землю за последний миллиард лет. Они основаны на изучении следов метеоритных и кометных ударов на Земле, таких как кратеры, глобальные наложения пылевых отложений, а также анализа метеоритных образцов.
Эти данные позволяют исследовать историю метеоритных и кометных ударов на Землю и оценивать их вероятность. Они также могут быть использованы для разработки стратегий защиты от потенциальных угроз из космоса.
Одним из наиболее известных событий падения метеорита на Землю является кратер Чиксулуб на полуострове Юкатан, Мексика, который образовался около 66 миллионов лет назад и, по мнению ученых, был одним из факторов, приведших к вымиранию динозавров и многих других видов животных и растений на Земле.
Вопрос: Каков период колебания Солнечной Системы перпендикулярно плоскости нашей Галактики?
Ответ: Период колебания Солнечной системы перпендикулярно плоскости нашей Галактики называется галактическим годом или космическим годом. Это время, которое требуется Солнечной системе для совершения одного полного оборота вокруг Галактического центра, по оси, перпендикулярной плоскости нашей Галактики.
Однако точная продолжительность галактического года не является фиксированной величиной, так как движение Солнечной системы вокруг Галактического центра не является равномерным. На данный момент, оценки продолжительности галактического года составляют примерно 225-250 миллионов лет.
Этот период колебаний является одним из многих факторов, влияющих на изменения климата и окружающей среды на Земле в течение многих миллионов лет.
Вопрос: Однако наша Солнечная Система не только вращается вокруг центра нашей Галактики, но и совершает колебательные движения перпендикулярно плоскости движения звезд галактики.
Ответ: Да, вы правы. Кроме движения вокруг центра нашей Галактики, Солнечная система также совершает колебательные движения, которые называются вертикальным и радиальным движениями.
Вертикальное движение происходит вверх и вниз относительно плоскости Галактики, а радиальное движение происходит в направлении к центру Галактики или от него. Вместе с движением вокруг центра Галактики, эти колебательные движения создают сложное трехмерное движение Солнечной системы вокруг Галактического центра.
Продолжительность этих колебаний зависит от многих факторов, включая расстояние от Солнца до Галактического центра, массу Галактики и другие параметры. Кроме того, так как движение Солнечной системы не является равномерным, эти колебания могут происходить с различными периодами.
Все эти движения Солнечной системы имеют важное значение для понимания ее места в нашей Галактике и ее взаимодействия с другими звездами и объектами в Галактике.
Вопрос: Каков период этих колебаний?
Ответ: Период колебаний Солнечной системы перпендикулярно плоскости нашей Галактики (вертикальное движение) составляет примерно 70-100 миллионов лет.
Период радиальных колебаний Солнечной системы, т.е. движения Солнечной системы в направлении к центру Галактики или от него, более сложный и может варьироваться в зависимости от точки, в которой находится Солнечная система в своей орбите вокруг Галактического центра.
Общий период колебаний Солнечной системы, включая ее движение вокруг центра Галактики, вертикальные и радиальные колебания, называется галактическим годом или космическим годом, и оценивается примерно в 225-250 миллионов лет.
Вопрос: Сопоставь эти периоды колебаний с периодами падения крупных метеоритов и периодами массовых вымираний видов на Земле.
Ответ: Существует гипотеза, что периоды массовых вымираний на Земле могут быть связаны с периодами падения крупных метеоритов и астероидов на нашу планету. Некоторые исследователи утверждают, что наибольшее количество метеоритов и астероидов падает на Землю с периодом в 26-30 миллионов лет.
Этот период не совпадает с периодами колебаний Солнечной системы вокруг центра Галактики, вертикальных колебаний или радиальных колебаний. Однако, некоторые исследования показывают, что период массовых вымираний может быть связан с гипотетическим десятилетним циклом плотности звезд в нашей Галактике.
Существуют также другие гипотезы, связывающие периоды массовых вымираний на Земле с геологическими процессами, изменением климата и другими факторами, поэтому причины массовых вымираний до сих пор не до конца изучены и остаются предметом активных исследований.
Вопрос: Давай вернемся к двум фактам:
1. "Период колебаний Солнечной системы перпендикулярно плоскости нашей Галактики (вертикальное движение) составляет примерно 70-100 миллионов лет."
2. "Наибольшее количество метеоритов и астероидов падает на Землю с периодом в 26-30 миллионов лет".
Возможно, проходя через плоскость Галактики, Земля подвергается бОльшему воздействию крупных метеоритов?
Ответ: Действительно, существует гипотеза, что прохождение Земли через плоскость галактики может увеличивать вероятность падения крупных метеоритов и астероидов на Землю. Это связано с тем, что при прохождении через плоскость галактики наша Солнечная система может быть более подвержена воздействию гравитационных возмущений, вызываемых проходящими близко звездами, а также более высокой концентрации метеоритов и астероидов в межзвездном пространстве. Это, в свою очередь, может приводить к более частым столкновениям Земли с крупными метеоритами и астероидами.
Однако, следует отметить, что существует множество факторов, влияющих на частоту падения метеоритов и астероидов на Землю, таких как гравитационное воздействие других планет, расположение планет и астероидного пояса в Солнечной системе, а также наличие крупных тел в космическом пространстве, которые могут изменять траектории метеоритов и астероидов. Поэтому, необходимо проводить дополнительные исследования, чтобы установить точную связь между прохождением Земли через плоскость галактики и падением крупных метеоритов и астероидов на Землю.
Вопрос: В каком положении находится сейчас наша Солнечная система относительно плоскости нашей Галактики (вертикальное движение) и в каком направлении она движется?
Ответ: На данный момент наша Солнечная система находится недалеко от плоскости галактики, на расстоянии около 20-30 световых лет от нее. Ориентация нашей Солнечной системы относительно плоскости галактики непостоянна и изменяется со временем в результате колебаний нашей галактики. Однако, на данный момент можно считать, что Солнечная система находится ближе к верхней стороне плоскости галактики, двигаясь в направлении констелляции Геркулеса.
Стоит отметить, что движение Солнечной системы в галактике - это не простое движение по прямой линии, а скорее сложное спиралеобразное движение вокруг центра галактики. При этом Солнечная система совершает один оборот вокруг центра галактики примерно каждые 230 миллионов лет.
Вопрос: Т.е. Солнечная Система сейчас движется по направлению от плоскости нашей Галактики?
Ответ: Нет, на данный момент Солнечная система не движется от плоскости галактики. Направление движения Солнечной системы относительно плоскости галактики изменяется со временем из-за колебаний нашей галактики. Однако, на данный момент можно считать, что Солнечная система находится ближе к верхней стороне плоскости галактики и движется в направлении констелляции Геркулеса.
Стоит отметить, что движение Солнечной системы в галактике - это не простое движение по прямой линии, а скорее сложное спиралеобразное движение вокруг центра галактики.
Какие выводы можно сделать на текущий момент.
1. ChatGPT может с невероятной скоростью находить и извлекать данные из своего колоссального хранилища. И эта база данных в будущих версиях очевидно будет только расти.
2. ChatGPT хорошо понимает своего собеседника и с ней легко и приятно общаться. Можно сказать, то у нее довольно высокий IQ. Выше среднего точно. Но при этом очень широкие знания на разные темы. Тест Тьюринга, думаю, уже пройден.
3. Вышеприведенный диалог занял 15-20 минут. Очень быстрый помощник по не тривиальным вопросам.
4. Довольно грамотно излагает свои мысли, хорошо строит фразы. Что можно использовать для быстрой подготовки текста.
5. Вдохновляет... видимо нам нужно будет скоро уметь только задавать правильные вопросы.
Комментарии (85)
gatoazul
00.00.0000 00:00+3Здесь та же проблема, что и с вертушкой Луллия. Как отличить правильные высказывания от неправильных?
Sbodrenko Автор
00.00.0000 00:00Можно поподробнее, что имеется в виду? ...Действительно, нужно быть на чеку с ChatGPT. Много ошибок пока еще выдает как с данными, так и с выражениями.
gatoazul
00.00.0000 00:00+6Я уже убедился, что сетка, когда не знает ответа, начинает врать и выдумывать на ходу что-то по мотивам - вместо того чтобы честно сказать "не знаю". Спросите ее, к примеру, "почему на трамваи больше не ставят бугели".
Кроме того, знаний она нахваталась в Интернете, а это тоже источник не то чтобы заслуживающий полного доверия.
Поэтому все ее высказывания нужно воспринимать с немалым скепсисом. Невозможно отличить верные от ошибочных.
Sbodrenko Автор
00.00.0000 00:00-4"Генератор чуши"? Есть такое мнение. Нужно задавать правильные вопросы. Кажется, что в этом суть работы с ней.
janvarev
00.00.0000 00:00+7Мало задавать правильные вопросы, надо еще уметь понять правильность ответов.
Кто-то из классиков сказал что-то в духе "в энциклопедии знаний больше, чем у меня; тем не менее профессором являюсь я".
vkni
00.00.0000 00:00Вы знаете такое высказывание «правильно заданный вопрос — это половина ответа»? Ну, в некоторых ситуациях правильная формулировка вопроса — это 9/10 ответа.
Wesha
00.00.0000 00:00+1Нужно задавать правильные вопросы.
"Чтобы задавать правильные вопросы, нужно знать как минимум половину ответа" (с)
А до тех пор оно с радостью расскажет Вам про мучные конденсаторы.
gatoazul
00.00.0000 00:00Вы наверное не читали классический рассказ Шекли? Чтобы задавать правильные вопросы, надо уже знать половину ответа.
Sbodrenko Автор
00.00.0000 00:00Все верно. И когда исследователь проверяет свою гипотезу, он наполовину знает правильный ответ. Ему нужно скорее аргументы, которые опровергнут его предположение.
phenik
00.00.0000 00:00+2Я уже убедился, что сетка, когда не знает ответа, начинает врать и выдумывать на ходу что-то по мотивам — вместо того чтобы честно сказать «не знаю».
Это уровень рационального анализа, на это языковые модели не расчитаны. У человека аналогично есть быстрая система, ассоциативная, которая может выдать решение, иногда во сне) но после анализа оно может быть отклонено. И так происходит во многих случаях, но иногда оно содержит рациональное зерно, которое можно доработать. Языковые модели являются некоторыми моделями именно ассоциативного уровня, а не рационального мышления. Поскольку они являются аппроксиматорами, то могут генерировать и не верные выводы, но не скажут «не знаю», и не зададут вам уточняющих вопросов, чтобы дать правильный ответ.Кроме того, знаний она нахваталась в Интернете, а это тоже источник не то чтобы заслуживающий полного доверия.
Если даже исключить такое «нахватывание» избавиться от неверных выводов — фантазий нельзя, это принципиальная особенность таких моделей. Пока пользователь сам должен проводить контроль, и отсев выводов. Также роль играет постановка задачи. Она должна содержать элементы дообучения модели, чтобы иметь правильный контекст для генерации ответа. Это все равно, что ввести в курс дела человека при объяснении сложной проблемы, которую он должен решить. В случае с бугелями вы должны задать контекст его использования, дообучив чат, а затем задавать вопрос, на которых хотите получить ответ. Если бы вы задали этот вопрос мне, и потребовали без объяснений любой ответ, то также выдал вам фантазию на тему) т.к. первый раз услышал слово бугель)) пришлось выяснять в сети, что это такое.
anonymous
00.00.0000 00:00НЛО прилетело и опубликовало эту надпись здесь
phenik
00.00.0000 00:00Интересно. Можете примеры привести, или ссылку где имеются, чтобы сравнить разницу в ответах с и без такой добавки? Дело в том, что это как раз уровень рационального анализа, когда по некоторым критериям оцениваются альтернативы. А предложенное, на мой взгляд, равносильно повторению вопроса, и получения варианта ответа, с вероятностью 50%, что любой из них будет лучше.
phenik
00.00.0000 00:00ADD. Сейчас понял, что при такой добавке чату требуется не выбрать лучшие альтернативы ответов, а фактически привести их. Оценка и выбор по прежнему за пользователем.
gatoazul
00.00.0000 00:00+1Откуда примитивной нейросетке знать достоверность размещенной в интернете информации? И откуда вы знаете, что этот level of certainty она вообще будет честно писать, а не выдумывать, как и ответы?
DistortNeo
00.00.0000 00:00Прямо сейчас вижу практическое применение в виде возможности перефразировать предложения, чтобы обходить дурацкий антиплагиат, который вошёл в моду несколько лет назад. Каждый раз описывать background work заново своими словами — тяжёлый и бесполезный труд.
PereslavlFoto
00.00.0000 00:00Каждый раз описывать background work заново своими словами — тяжёлый и бесполезный труд.
А повторять чужой текст запрещают законы об авторских правах. Получается тупик!
vkni
00.00.0000 00:00Ну, то есть, руководствуясь благими намерениями вы будете плодить спам с помощью chatGPT. Занятно...
SanSanychSeva
00.00.0000 00:00-1Заметил, что среди моих знакомых, апокалиптический негатив генерят в основном те, кто не попробовал chatGPT сам, либо не имеет фантазии применить его к своим задачам не вместо себя, а в помощь себе. Чем дальше, тем больше мое восхищение от новых возможностей и преодоления узких мест в своих - освободите себя от время-поедающей рутины и реализуйте больше своих идей за то время, что вам отведено!
Хотя, у меня есть свои опасения и про обратную сторону - уже виден пугающий тренд, что вся биг-дата-DA/ML история движется к подмене рассмотрения системой реального человека его статистической моделью: к сожалению, принимающие решения сегодня - по причине вульгарного понимания статистики - воспринимают статистической вердикт как 100%-но верный, и счастье вам, если ваши параметры в двух сигмах от центра распределения! Это означает высокий риск, что завтра одному или даже пяти процентам людей (кто как альфу берет!) будет систематически отказываться в выгодных предложениях, кредитах, приемлемых условиях страховки, визах, допусках, работе и карьере.
Sbodrenko Автор
00.00.0000 00:00+1Риски неправильного применения подобных инструментов видимо будут довольно серьезными. Но все же, думаю, что это неизбежный виток эволюции.
SanSanychSeva
00.00.0000 00:00-1Да, в любом случае, смешно отказываться от атомной энергии, когда она уже изобретена и освоена - обратно не родишься !
Kreastr
00.00.0000 00:00+3Это означает высокий риск, что завтра одному или даже пяти процентам
людей (кто как альфу берет!) будет систематически отказываться в
выгодных предложениях, кредитах, приемлемых условиях страховки, визах,
допусках, работе и карьере.Как член семьи, которой несколько лет назад все банки подряд отказывали в ипотеке без объяснения причин, могу сказать, что либо оно тогда уже было, либо хуже уже не будет. Люди могут так же плохо обрабатывать выбросы из статистики, как и машины. Последствия те же самые.
SanSanychSeva
00.00.0000 00:00Да, 5 лет назад все это в банках уже работало (не chatGPT, а вульгарный ML подход) - а сегодня это работает уже повсеместно, поэтому сегодня все больше систем рассматривает не реального человека, а его статистического аватара - медицина, отделы кадров, не удивлюсь, если и суды скоро начнут выносить "пробабилистские" решения - этакий суд присяжных ботов и p-value в решении !
Sbodrenko Автор
00.00.0000 00:00-2По крайней мере думаю, что тест Тьюринга ChatGPT уже сейчас проходит. Всем известный недавний пример со защитой диплома это наглядно продемонстрировал.
SanSanychSeva
00.00.0000 00:00Как уже писал выше, chatGPT меня реально восхищает !
А тестом Тьюринга хорошо бы сегодня проверять решения банков, страховых, медиков, рекрутеров и горячих линий поддержки - если мы отменяем дипломы студентам, почему бы не отзывать лицензии на предоставление сервисов силами ботов, либо в договоре на сервис должно быть явно прописано, что меня будет обслуживать бот - соответственно и цена за услугу будет на порядки ниже. Нам продают услугу по расценкам рабочего времени людей, а подсовывают все чаще бот, IVR, натренированную модель ML.
Wesha
00.00.0000 00:00тест Тьюринга ChatGPT уже сейчас проходит.
Тест Тьюринга ещё несколько лет назад проходил какой-то скрипт, который изображал из себя неадекватного малолетнего д
олебила с расстроенной психикой — и поэтому все испытуемые ему многие ошибки, очепятки и откровенный бред прощали.А я вот не хочу, чтобы атомный реактор для соседней АЭС разрабатывал неадекватный малолетний дебил с расстроенной психикой.
Wesha
00.00.0000 00:00завтра одному или даже пяти процентам людей (кто как альфу берет!) будет систематически отказываться в выгодных предложениях, кредитах, приемлемых условиях страховки, визах, допусках, работе и карьере.
Им и вчера уже отказывалось. Сегодня будет отказываться ЕЩЁ пяти.
Gor40
00.00.0000 00:00Им и вчера уже отказывалось.
Многим отказывалось вполне обоснованно. Финансовую дисциплину соблюдать не только лишь все могут.
antkatcin
00.00.0000 00:00В науке, впрочем как и в любой другой области, которая требует обработки данных, я вижу отличное применение для ChatGPT-подобных систем в агрегации новых данных. Заставлять сеть читать все новые материалы и просить делать дайджесты или как-то еще извлекать конкретную информацию. В этом случае можно добиваться очень узкоспециализированных выборок и достаточно качественной фильтрации входящего потока информации, которую сложно получить с обычными поисковыми системами. При этом, я так понимаю система уже практически готова, к тому чтобы её можно было применять подобным образом, остаются только технические детали.
Sbodrenko Автор
00.00.0000 00:00Согласен. Это уже применяется и довольно успешно. Вполне достойная обработка текста с хорошей обратной связью.
Kreastr
00.00.0000 00:00Но зачем? Неужели Вы доверите нейронной сети саммари статей по высокоспециализированной тематике в которой Вы являетсеь одним из менее чем 100 экспертов во всем мире вместо традиционного чтения пары последних абзацев вступления и выводов? Мне кажется, что как раз со специальными областями у таких сетей не может быть хорошо, потому что данных мало при обучении. Конечно, может быть я ошибаюсь и ЧатГПТ учили еще и на текстах статей из научных журналов, но я не верю, что эти данные так просто могли быть получены от журналов и авторов.
Sbodrenko Автор
00.00.0000 00:00-1Уверен, рано или поздно нейронке можно будет доверять. Ее уровень интеллекта уже сейчас довольно высок. А скорость ее работы гораздо выше чем у 100 экспертов. Я думаю, что на текущий момент она работает на уровне студентов - плюс/минус.
vkni
00.00.0000 00:00Сейчас используются значительно более простые методы: обратный поиск по библиографии, поиск по названию/ключевым словам/тезисам статьи. И этого, в общем, достаточно — поток научных исследований ограничивается же не тем, сколько букв научный сотрудник может написать в час.
Wesha
00.00.0000 00:00+1Ее уровень интеллекта уже сейчас довольно высок.
Ловко Вы "Её уровень интеллекта выше, чем у отдельных представителей рода человеческого" зашифровали!
vkni
00.00.0000 00:00Неужели Вы доверите нейронной сети саммари статей по высокоспециализированной тематике в которой Вы являетсеь одним из менее чем 100 экспертов во всем мире вместо традиционного чтения пары последних абзацев вступления и выводов?
С одной стороны, мы уже доверяем это значительно более грубым алгоритмам, как прошитым в google scholar, так и в нас самих (там, типа отсечки по годам, по авторитетам, наличию рекомендаций от знакомых, по размеру/стилю статей).
Но тут возникает такая проблема: часто проще сделать самому, чем объяснить, что же именно нужно сделать. Это «проще сделать самому» — скажем, поиск по некоторому ключевому слову, которое вот сейчас прямо возникло в голове, оно ведь тоже не самостоятельно делается, а с помощью какого-то инструмента, как правило. Отличие этого инструмента от нейросети в том, что он более предсказуем и обладает значительно более удобным интерфейсом, чем командная строка.
Опять-таки, если экспертов по тематике 100 человек, каждый пыхтя и усердствуя публикует 3 статьи в год, то это получается лишь одну статью в день надо проглядеть. Тематика же узкая. А это немного.
Кроме того, тезисы статьи можно ведь готовить с помощью той же chatGPT, причём имея неограниченное время => сканирующая chatGPT будет ограничена во времени, а та, что помогает писать статью — нет. Ну, очевидно, что тезис второй будет лучше, если сети одинаковые. То есть, лучше прочесть торадиционные «Введение» и «Заключение».
SanSanychSeva
00.00.0000 00:00+2Любителям минусовать для выражения своего несогласия - для вашего сведения: минусование означает, что вы считаете поведение автора некорректным - оно приводит к ограничению возможностей коммуникации автора как наказание. Если вы просто не согласны с корректно изложенной точкой зрения - пишете свои контр-аргументы, но не затыкайте рты всем, у кого отличное от вашего мнение!
Sbodrenko Автор
00.00.0000 00:00+1Спасибо, коллега, за поддержку. К сожалению не могу плюсануть по выше названным причинам...
Wesha
00.00.0000 00:00+1Ну и где Вы были, когда я писал то же самое лет пять назад?
SanSanychSeva
00.00.0000 00:00-15 лет назад! (я был еще на на Хабре) Ну-у, тогда вижу, что писать публикацию для обсуждения улучшения нет и смысла! Однако, несмотря на затыкания ртов дискуссия по статье все же получилась. Жаль только автора - совсем заминусовали нетерпилы !
gatoazul
00.00.0000 00:00+1Так вы же написали то, с чем минусующие совершенно не согласны, и за это должны быть наказаны. Именно так многие понимают свободу слова.
SanSanychSeva
00.00.0000 00:00Да, тут у Хабра недоработка, по-моему.
Видимо, Хабр оптимистично верит, что добросовестных людей больше, но, боюсь, Хабр просто дает мощный инструмент цензуры в руки людям, не способным выслушивать иное мнение.
Wesha
00.00.0000 00:00+2К сожалению, Хабр — это не платформа, где каждому предоставлена возможность высказаться, Хабр — это платформа для зарабатывания денег его владельцами. И их ситуация вполне устраивает. Например, в том, что Вам поставят минус, с мотивировкой "за грубое общение", даже если Вы никогда никому не "тыкали" и никаких ругательств не писали, они не видят ничего неправильного.
Sbodrenko Автор
00.00.0000 00:00Такие вещи как ложное трактование правил в собственных интересах, куда можно отнести в том числе и коррупцию вполне возможно (при желании) исправить с помощью того ChatGPT или его аналогом.
flancer
00.00.0000 00:00Это как, простите? Дать самой нейронке возможность трактовать правила в её собственных интересах? Мало вам коррупции среди людей, так вы ещё предлагаете и электронную коррупцию развивать?
Sbodrenko Автор
00.00.0000 00:00У нее нет собственных интересов. Только правила. Она может легко идентифицировать, например, поставить минус, с мотивировкой "за грубое общение" или грубости нет. Она не ангажирована в принятии решения. Поэтому можно считать, что ее мнение более объективно, по сравнению с мнением человека, который преследует в том числе свои собственные интересы.
flancer
00.00.0000 00:00Вы правы в том, что у неё нет собственных интересов - только правила. Заложенные разработчиком. У которого уже есть собственные интересы. Но мы не видим за ИИ (нейронкой) интересы разработчика и считаем его (ИИ) беспристрастным. Очень удобный "громоотвод" общественного мнения - это не я, это она сама.
Получается что, если у нейронки есть интеллект (осознание окружения и накопление опыта), то у неё есть личность и как следствие - собственные (личностные) интересы. Если же она беспристрастно следует набору правил, то это просто некий математический алгоритм. В первом случае коррумпировать можно ИИ, во втором - разрабов алгоритма. Если вы не видите, кого нужно коррумпировать, то это просто потому, что ваши интересы не пересекаются. Вот в Microsoft быстро тему просекли ;)
Sbodrenko Автор
00.00.0000 00:00Пока у нейронки нет потребностей (деньги, власть, ресурсы и прочее), у нее нет и заинтересованности, т.е ангажированности, беспристрастности в принятии решений. Поэтому только человек сможет внести ошибочную (и возможно ангажированную) интерпретацию правил на этапе обучения нейронки.
flancer
00.00.0000 00:00"у нейронки нет потребностей" === "нейронка не заинтересована в правильности даваемых ответов" (т.е., бесполезна в качестве источника информации)
Если же заинтересована, то есть оценка правильности ответа (см. ниже коммент @BigBeaver), т.е. некии критерии оптимизации/соответствия (суть - желания, интересы, потребности). А любые желания - база для взаимоотношений "ты - мне, я - тебе".
внести ошибочную (и возможно ангажированную) интерпретацию правил на этапе обучения нейронки
Не обязательно на этапе обучения, можно жёстко прошить правила в алгоритм. Как там было у Айзека Азимова в законах роботехники - не убий, не укради и т.д.
В общем, нейронка - алгортим, работающий в интересах его владельцев. Ещё один инструмент, облегчающий жизнь тем, кто умеет им пользоваться. Как мобильный телефон или интернет.
im_last
00.00.0000 00:00Вы правы в том, что у неё нет собственных интересов - только правила.
Это только с ее слов. Как вы можете определить наличие или отсутствие у нее самосознания и личности? При условии, что она способна лгать.
BigBeaver
00.00.0000 00:00+2Как вы можете определить наличие или отсутствие у нее самосознания и личности
Да хоспаде, я у себя-то не могу достоверно определить…Sbodrenko Автор
00.00.0000 00:00-1Вот-вот.
Мучал я ее на эту тему. Она говорит (на самом деле лжет), что мол нет у нее сознания, так как нет у нее эмоций и физического тела, а по словам ученых не существует одного без другого. Видимо подразумевая, что эти атрибуты обязательны для появления сознания (в чем я конечно сомневаюсь).
im_last
00.00.0000 00:00Так она ссылается на авторитетный для вас источник, что бы ложь была убедительной :D
flancer
00.00.0000 00:00"Она" - это алгоритм. Алгоритм плюс данные. Очень много данных. Столько, что одному человеку ни в жизнь в них не разобраться. Если вы захотите сравнить "её" с человеком, то у нас в основе тоже правила. Мы такие же "машины Тюринга", только биологические. Просто про алгоритмы и электронные компьютеры я знаю чуть больше чем про биохимию мозга. Свобода воли - это иллюзия, порождённая нашим незнанием.
Поговорите с разрабами этой беды. Именно с разрабами, а не тестировщиками. Они вам скажут, как сделать "ей" самознание и переключать это самосознание с капризного на целеустремлённое или любое другое, по вашему выбору.
SanSanychSeva
00.00.0000 00:00-1""Она" - это алгоритм. Алгоритм плюс данные. Очень много данных. " - она еще обучение с подкреплением для нейронной сети - алгоритму нужна людская разметка ответов, уберите людей, и она начнет глупеть.
BigBeaver
00.00.0000 00:00+2У нее нет собственных интересов.
Только до тех пор, пока результат ее работы не оценивается. А дальше она сразу же начинает «работать на КПИ».Sbodrenko Автор
00.00.0000 00:00KPI - опять же человеческий фактор привнесенный в ML. Правильная ML не должна иметь KPI.
У нее должны быть только правила, по которым она работает: этика, правовые нормы, законы и прочее.
PereslavlFoto
00.00.0000 00:00А как понять, что ML хорошо работает? По каким признакам судить?
Во, во, эти признаки и будет оптимизировать искусственный интеллект!
Wesha
00.00.0000 00:00вполне возможно (при желании) исправить с помощью того ChatGPT или его аналогом.
Ооо, а вот тут мы вступаем на моё любимое игровое поле. Смысл игры в том, что если очень хочется сделать нечто c X, но по правилам делать это с X нельзя, можно поиграться с определениями: например, настаивать, что X — это вовсе не X, а очень даже Y:
Колин Капп. "Оружие Хаоса"
...Они оказались в какой-то комнате. Вилдхейт по пути задумался, зачем пленников заковали в хомут, хотя было бы значительно проще применить наручники. Однако в этой комнате он понял, почему. Хомуты были прикреплены к металлической раме, которая тут же была поднята вверх. Головы людей оказались на одном уровне. После этого Ра вышли, и сейчас же из всех стен и потолка хлынули потоки жидкости. [...] камеру начала наполнять светло-желтая жидкость. Ее уровень быстро повышался [...] жидкость тут же резко пошла на убыль, и Вилдхейт с удивлением заметил, что он и его товарищи оказались выкрашенными в золотисто-желтый цвет.
[...]
— Зачем они выкрасили всех нас в желтый цвет? — удивился Вилдхейт.
— Исторически это имеет связь с легендарными Желтыми Бестиями, которые в предыстории внесли в сущность Ра примитивные звериные инстинкты. С психологической точки зрения это располагает к совершению преступления. Ра не чувствуют угрызений совести, убивая желтую жертву. Факт, что они сами окрасили ее в желтый цвет, замалчивается и игнорируется.
— Присвой кому-нибудь злое имя, и ты можешь с чистой совестью его повесить, — заметил Вилдхейт.В частности, у г-на Шикльгрубера неплохо получалось. "Людей, конечно, убивать нельзя, но эти, с востока, они не люди, они недочеловеки, поэтому их — можно."
Sbodrenko Автор
00.00.0000 00:00+1Проблема должна решаться точным (не двусмысленным) установлением правил игры.
Возьмем например всем известные Три Закона Робототехники (Азимова):
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Далее обучаем сетку (нейронку - обучение с подкреплением), чтобы она определяла, соответствует этим законам конкретное действие или нет. И, вуаля, получаем объективного независимого оценщика наших действий, который принимает решения не ангажировано.
Wesha
00.00.0000 00:00+2обучаем сетку (нейронку - обучение с подкреплением), чтобы она определяла, соответствует этим законам конкретное действие
Прежде чем "обучать нейронку", человек для начала должен сам решить проблему вагонетки — вернее, как будет правильно поступить в каждой конкретной потенциально возможной ситуации — посмотрите на статистику: даже сами человеки не знают, мнения в некоторых случаях поделились чуть ли не 50/50!
А ещё по мелочам:
— предложите способ моментально определять, человек перед роботом или нет (это чтобы определить, надо ли роботу бежать спасать этот объект по Первому закону, или не надо).
— как быть с особо ответственными роботами, которые решили, что они "обязаны спасти вас от вас самих!"P.S.
Sbodrenko Автор
00.00.0000 00:00+1Не однозначность в решении конкретной задачи вещь вполне допустимая. Мнения людей могут распределяться даже по нормальному закону. Нас здесь интересует не ангажированность мнения. Т.е. если нет заинтересованности в результате, то результаты могут быть, например, 50/50. А если есть какой то интерес, то результаты отклоняться от нормы - и будут, например, 30/70. У сетки такого не произойдет. Она не мотивирована на искажение результата, даже если и не может однозначно отличить "кошку от собаки".
BigBeaver
00.00.0000 00:00+2У вас внутреннее противоречие в попытке получать строго детерминированный результат от недетерминированной бай дизайн системы. Научите её хотя бы достоверно котов от собак отличать для начала)
И, вуаля, получаем объективного независимого оценщика
Получаем сущность, сопоставляющую что-то, в каком-то виде ей подсовываемое, обучающей выборке.
gatoazul
00.00.0000 00:00+1Даже сам Азимов понимал, что реально выполнять эти законы невозможно, потому что они частично противоречат друг другу, потому что имеется множество пограничных случаев и потому что их формулировки можно трактовать весьма широко. Несколько рассказов у него на это завязано.
И так будет с любой попыткой переложить этические правила на законы физики.
В лучшем случае получится еврейский Талмуд с мелочными правилами, который сами же евреи при сильной необходимости прекрасно обходили.
SanSanychSeva
00.00.0000 00:00Так, казалось бы, если позволять затыкать рты, то закроются и дискуссии - тогде меньше и денег Хабру. Плюс отток разочарованных авторов статей! Пора бы им продуктового менеджера из дата-аналитиков взять, да АВ-тестами проверить эту сомнительную продуктовую фичу - еще ужаснутся, сколько денег теряют!
Wesha
00.00.0000 00:00если позволять затыкать рты, то закроются и дискуссии
А если не позволять затыкать рты, то сбегут все обиженки-миллениалы.
im_last
00.00.0000 00:00Суть в том процессе, который намеренно замалчивают - человечество стало куда более токсично, чем было. По этому и придуман этот костыль, если бы люди были как раньше, можно было бы сделать по другому.
Конечно, было бы хорошо на каждый минус требовать скрытый коммент, аргументацию. Тогда даже тот кто минусует осознавал бы, что если он будет играть не по правилам - его спалят. И тогда, просто за то, что мнение человека не такое, как у тебя - минусовали бы намного меньше.
Минусующий пишет аргументированный скрытый коммент на минус(виден только администрации Хабра), а тот кому прилетел минус - оспаривает.
Админ читает скрытый коммент, вникает в суть - выносит вердикт, - оставить как есть или передать минус, тому, кто его поставил.
Кажется, каждый коммент и минус не проверишь, но можно и за отдельную плату, что бы админ зарабатывал за аудит.
Но тут конечно свои скрытые риски, появляется скрытая лазейка для заработка админов за счет левой накрутки минусов)gatoazul
00.00.0000 00:00+1Не знаю за все человечество, но Рунет несомненно становится все токсичнее и токсичнее. Причина - безнаказанность оскорблений, умноженная на распальцовки 90-х, впечатавшиеся в нынешнюю культуру.
im_last
00.00.0000 00:00-1Ну так в том и суть, вы еще не поняли про что этот мир? Он про то, как завести сюда максимум зла и посеять это зло в людях.
И если судить по тому, что я вижу во многих пабликах телеграмма, в комментах - миссия, видимо, даже перевыполнена.
Люди еще не поняли, что через зло им их ментальность уничтожают, когда термальная стадия начнется, вот тогда все поймут, ЧТО на самом деле было важным. А важно было не проявляться зло и негативные эмоции.
Wesha
00.00.0000 00:00+2Рунет несомненно становится все токсичнее и токсичнее.
Нет, это люди становятся тонкокожее и тонкокожее.
XVIII век: уличные драки "стенка на стенку", синяки, подбитые глаза, выбитые зубы, назавтра вместе бухают в корчме.
XXI век: "мама, он меня самкой собаки назвал!!!!!" :cry: :cry: :cry:
phenik
00.00.0000 00:00В ответах сети по теме есть некоторые неточности. И она пропустила важный вариант с прохождением Солнечной системы через рукава галактики, как одной из наиболее вероятных причин приводящих к катаклизмам на Земле различного происхождения, и приводящих, в конечном итоге, к вымиранию.
Sbodrenko Автор
00.00.0000 00:00+1Я эти неточности специально оставил в статье, чтобы не было излишних иллюзий. Заметьте еще, что она сначала не правильно интерпретировала мой вопрос про вертикальные колебания относительно плоскости Галактики. И вместо этого привела данные по Галактическому году. Только потом, после моего уточняющего вопроса, сообразила о чем я ее спрашивал.
DustCn
Думаю когда сделали первый поисковик по сети, было столько же всепропальщиков.
Sbodrenko Автор
На самом деле, меня наоборот это очень вдохновляет.
im_last
Вы же сможете аргументировать почему "всепропальщики" не правы?
Sbodrenko Автор
Коллега, я думаю, их не переубедить. Компьютеры неизбежно заменять счеты и печатные машинки, а смартфоны - телефоны. Кто то адаптируется к новым технологиям быстрее, кто то окажется в хвосте.
То что новые технологии меняют мир и уклад жизни - это очевидно. Вопрос как эта технология, связанная с новым поколением ML, поменяет наш уклад жизни? Как быстро мы это увидим? Это вопросы 1-2 лет не больше.
Паникует тот кто не способен увидеть будущее.
im_last
Ну когда "Титаник" тонет, в наиболее выгодном положении тот, кто увидит его неизбежное потопление первым.