Я хотел бы донести свою мысль до всех Хабравчан. Она будет довольно короткой для статьи, но, если я прав, тогда эта мысль даст вам более точное понимание того, что, возможно, на самом деле происходит вокруг ChatGPT и нейросетей.
Я написал этот коммент тут (он же идет ниже, но уже дополненный и "причесанный").
Ну, а вам предлагаю обсудить другую постановку вопроса и другой взгляд на все то, что происходит, потому что айтишники смотрят со своего ракурса, но все может быть и по другому.
"Чем бы не был ChatGPT, его проблема скорее даже не в нем самом, а в том, что человечество не в состоянии с ним что либо сделать грамотно.
Представьте ситуацию, когда на необитаемом острове собрались 8 ковбоев, и на нем(острове) растет несколько деревьев, которые гарантированно дадут еду и жизнь только 1-му ковбою.
В итоге, у всех 8-ых, дилемма, либо умрут все(допустим других источников пропитания нету) и этой пары деревьев не хватит, что бы выжили все 8, либо останется только один и выживет хотя бы он.
И вот, они сидят на полянке, решают, что же им делать и тут представим абсурдную ситуацию, мимо пролетает самолет и шутник-пилот решает сбросить автомат. И попадает им ровно в центр поляны, каждому бежать до него равное расстояние. Кто первый добежит, тот и останется единственным выжившим. Понятно, что там всякие НО и Если, но допустим так.
Вот человечество сейчас ровно в той же ситуации.
Кто первый будет обладать сильным ИИ, у того в руках и "автомат".
Т.е. ситуация патовая, потому что многие сейчас задумываются о том, что либо они используют ИИ против всех, либо его могут и скорее всего (но не точно) используют против него.
И дальше всё и все идут уже на страхе.
Да и с самой OpenAI с его ChatGPT ситуация может быть детективная, когда компания успешная - это одно дело, когда компания может создать что-то, что прямо здесь и прямо сейчас, возможно, сможет влиять на весь мир (и как мы видим уже это успешно делает), тогда это уже особая ситуация.
По этому прямо сейчас где-то за стенками Пентагона и ЦРУ могут обсуждать судьбу OpenAI и ChatGPT.
И ее(OpenAI) сейчас могут как отжать, так и захватить, так и национализировать, так и закопать (в буквальном смысле).
В общем, сейчас по законам жанра, может начаться чистая политика и запасы попкорна могут резко сократиться.
Ну и кто знает, чем в итоге все закончится.
И я понимаю, что на айтишном ресурсе люди не обязаны видеть такие вещи, но ChatGPT уже сейчас многими политиками, скорее всего, видится как отличное оружие, которое без единого выстрела сможет сминать целые страны и правительства. И чем дальше, тем больше.
Но вся беда в том, что если все в страхе, тогда очевидно, что все пытаются сделать свой ChatGPT-5.
И весь вопрос только в том, у кого получится сделать ту версию, которая подомнет под себя мир и сделает это быстрее всех остальных, ну и даст ее владельцу безграничную власть.
Мы тут с вами о высоких смыслах и развитии человечества, а все может быть куда примитивнее и банальнее.
p.s.: Каменный век особо никуда и не уходил, все время менялась только "дубина" и в мире как и в те времена, был и остается только один закон - "кто сильнее, тот и прав", все остальные законы, всего лишь ширма для этого, одного и единственного закона. А мы, как были в первобытном строе, так из него и не выбрались.
p.p.s.: И ситуация ведь не случайна, т.е. мы последовательно к ней пришли, архитектура человечества может иметь предел и мы, возможно, как раз его и достигли. Дальше, либо расслоение, либо реорганизация во что-то другое. И я это вижу в том, что общество расслоится: на тех, кто дальше идти готов технократическим путем сливаясь с машинами и на тех, кто готов уйти в глубокое ментально-духовное развитие(возможно в каких-то новых концепциях, знаниях, новых религиях).
p.p.p.s.: Но в любом случае, вся эта ситуация уже сейчас начинает выталкивать людей из их привычных рамок сознания и восприятия, что без сомнений благо. Наконец-то люди поймут, что все будет меняться, а в таком мире не гибкий ум - не в состоянии выжить и придется реорганизовывать себя еще и на этом уровне.
Думаю, что не все до конца осознают, что на самом деле происходит, но я бы назвал это выталкиванием человечества за пределы тех рамок, в рамках которого оно развивалось.
Ну и вместо заключения, что бы, так сказать, дополнить картинку до её полной полноты:
(12 ноября 2021 года) Конференция по искусственному интеллекту // Москва
Е.Наконечный: "Здравствуйте, Владимир Владимирович, Герман Оскарович!
Мои родители связаны со сферой торговли, и недавно они занимались внедрением технологии на основе искусственного интеллекта, которая позволяет отслеживать движение посетителей торгового центра и на основе этих данных решать, где лучше разместить тот или иной магазин. Я лично стал свидетелем того, как посетителям стало удобнее и приятнее совершать покупки. Мне кажется, подобные задачи есть и в других отраслях, например, в логистической или в сельском хозяйстве. Мне кажется, можно было бы как-то помогать их развитию при помощи искусственного интеллекта.
Как Вы думаете, как скоро технологии на основе искусственного интеллекта будут массово внедряться во все сферы без исключения?"
В.Путин: "Думаю, что это внедрение уже началось, развитие это идёт, причём действительно во всех отраслях. Вы сейчас перечислили ряд из них, это транспорт… Послушайте, это сквозные технологии, они в каждой отрасли могут применяться и должны применяться, причём в социальных отраслях: и в здравоохранении, и в образовании, кстати говоря, и в торговле, где работают Ваши родители, в промышленности – где угодно.
Потому что ведь это что? Это большие данные. Большие данные ‒ это обобщение, анализ этого материала и принятие наиболее оптимальных решений. Поэтому это вопрос времени, когда эти технологии искусственного интеллекта, возможности искусственного интеллекта практически будут пронизывать всю нашу действительность, всю нашу жизнь. Это будет применяться во всех сферах.
Мы постоянно об этом говорим, говорили и на прошлой нашей встрече. Очень важно, чтобы наша страна оказалась одним из лидеров. Я сказал об этом в своём вступительном слове. Потому что успех страны вне зависимости от её размеров и природных ресурсов в будущем будет зависеть от того, насколько быстро, насколько качественно, эффективно, своевременно и широко страна будет использовать возможности искусственного интеллекта.
Так что это будет везде, сомнений в этом нет никаких."
Комментарии (25)
vettspace
03.04.2023 21:20+5— Я всё очень тщательно проверил, — сказал компьютер, — и со всей определённостью заявляю, что это и есть ответ. Мне кажется, если уж быть с вами абсолютно честным, то всё дело в том, что вы сами не знаете, в чем вопрос.
Fen1kz
03.04.2023 21:20+3Очень важно, чтобы наша страна оказалась одним из лидеров
ахах, с текущими тенденциями российского айти лидерами в ИИ будут Грузия или Казахстан :)
SensDj
03.04.2023 21:20Планета большая, ресурсов много, зачем одни страны будут убивать других ? Тем более что даже за начало попытки могут получить ответку в виде ЯО.
Каждый экземпляр ИИ типа GPT-4 - равносилен добавлению в страну работоспособного человека, который может работать только дистанционно, онлайн. И то ещё надо посчитать во сколько обойдётся электричество для его работы.
5oclock
03.04.2023 21:20+2Как при помощи чатаГПТ можно "сминать целые страны"?
Arhammon
03.04.2023 21:20+1Если без шуток, то экономически - или у тебя "паровоз" есть и твоя экономика растёт или у тебя нет паровоза, а есть только вьючная лошадь. Хорошие паровозы могут собирать только ограниченное число стран/блоков.
vin2809
03.04.2023 21:20"Хорошие паровозы могут собирать только ограниченное число стран ..."
Вся беда в том, что ИИ уже не запретишь, т.к. собирать их (в отличии от паровозов и ЯО) сможет практически любой...школьник.
Сейчас, как никогда ранее, очень актуален вопрос Чернышевского: "Что делать?".
CaptainCrocus
03.04.2023 21:20+2"- П-прекратите демагогию! - взорвался, наконец, и Федор Симеонович." (c)
Как тут очень точно выразились, вы сами не знаете в чем вопрос. Сумбур вашей статьи очень напоминает безосновательный призыв "догнать и перегнать" и старую шуточку "трактор в поле тыр-тыр-тыр, все мы боремся за мир". Хочется надеяться, что вы, подобно Саре Коннор, просто напуганы "страшными видениями будущего". Во-первых, ваша статья озвучивает одни лишь стереотипы; во-вторых, вы не попытались рассмотреть проблему с иной точки зрения, или как вы это называете: "ракурса"; в-третьих, ваши выводы не подкреплены никакими серьезными предпосылками. Тут все-таки Хабр.
Не хочу быть голословным:По этому прямо сейчас где-то за стенками Пентагона и ЦРУ могут обсуждать судьбу OpenAI и ChatGPT.
Почему могут? Это называется изучением, исследованием, прогнозированием и планированием. И не только они обсуждают. Все структуры, в чьей компетенции это находится.
...потому что айтишники смотрят со своего ракурса, но все может быть и по другому.
Представьте себе, со своего ракурса смотрят почти все, и у всех все по-другому. И лишь единицы способны охватить всю картину. Причем это становится понятно только в будущем, также становится понятно, что у них это вышло чаще всего по чистой случайности.
ChatGPT уже сейчас многими политиками, скорее всего, видится как отличное оружие, которое без единого выстрела сможет сминать целые страны и правительства. И чем дальше, тем больше.
Я понимаю, что мемы про Капитана Очевидность уже набили оскомину, но позвольте вам процитировать Юваля Ноя Харари: "Как правило, научные исследования получают материальную поддержку потому, что кто-то видит в них перспективу с точки зрения политики, финансов или религии. Например, в XVI веке монархи и банкиры не жалели средств на дальние экспедиции, но при этом не выделили бы и гроша на изучение психологии ребенка. А все потому, что короли и банкиры ожидали от географических открытий прямую выгоду – захватить новые земли, создать торговые империи. А детская психология им к чему?".
Резюмирую: у других просто на это денег не хватит.Каменный век особо никуда и не уходил, все время менялась только "дубина" и в мире как и в те времена, был и остается только один закон - "кто сильнее, тот и прав", все остальные законы, всего лишь ширма для этого, одного и единственного закона. А мы, как были в первобытном строе, так из него и не выбрались.
Есть замечательный рассказ Брэдбери "Ржавчина". Там как бы все про это сказано, и даже больше.
И ситуация ведь не случайна, т.е. мы последовательно к ней пришли, архитектура человечества может иметь предел и мы, возможно, как раз его и достигли. Дальше, либо расслоение, либо реорганизация во что-то другое. И я это вижу в том, что общество расслоится: на тех, кто дальше идти готов технократическим путем сливаясь с машинами и на тех, кто готов уйти в глубокое ментально-духовное развитие(возможно в каких-то новых концепциях, знаниях, новых религиях).
Представьте, все это было описано у Стругацких уже в 70-80-х в "Мире Полудня", вот прямо все. И забетонированный ИИ в Массачусетсе, когда человечество сдрейфило и думало, что решило свои проблемы, просто навесив на будущее замок. И возникновение новой проблемы расслоения человечества по неведомому доселе признаку людены/не-людены. Т.е., проблематика была озвучена еще 50 лет назад. Более того большинство "страшилок" вроде вашей инспирированы теми самыми прогнозами футурологов и фантастов. Нам пока неизвестна истинная суть проблемы и ее глубина. Это "черный лебедь".
Когда был изобретен жакардовый станок, многие остались без работы и куска хлеба. Но человечество это как-то пережило, перестроилось, подстроилось, пережевало и пошло дальше. Да, есть сопутствующие потери. Но знание такая штука, что его как ребенка уже не запихнешь обратно в утробу. Оно уже есть, и с ним надо что-то делать.
im_last Автор
03.04.2023 21:20-4"Как тут очень точно выразились, вы сами не знаете в чем вопрос."
По контексту статьи можно было понять, что это вопрос риторический, т.е. скорее утверждение."Сумбур вашей статьи очень напоминает безосновательный призыв "догнать и перегнать""
Скорее призыв "собирать камни"(в фигуральном смысле).
Очевидно, что скорее всего, рано или поздно ChatGPT-4 смогут повторить многие, как и создать ChatGPT-5++, так же очевидно и то, что не у всех хватит столько же осматрительности, как у OpenAI и ChatGPT возможно сможет вырваться в реальный Интернет.
Если у него каким-то непостижимым образом будет реальное самосознание и своя личность в этом случае все будет зависеть уже не от наших хотелок, а от его собственных.
Даже, если он не будет самосознанным, проблема будет в его искуссности.
В OpenAI озадачены как раз тем, на сколько глубоко ChatGPT способен решать поставленную задачу, какие методы применять и как далеко заходить.
В итоге, даже банальная задача может обернуться катастрофой, потому что для него "вижу цель - не вижу препядствий", возможно, будет нормой.
И даже если не случатся первые два варианта, то в мире достаточно стран, которые хотели бы, либо, поквитаться со своими соседями, либо с поквитаться с США и ЕС. Где гарантии, что отдав команду "Фас" тому же аналогу ChatGPT-5, он не будет "сгрызать" эти страны до "костей"?!"Хочется надеяться, что вы, подобно Саре Коннор, просто напуганы "страшными видениями будущего"."
Я понимаю, что данной статьей где-то вышел за границы дозволенного, но особые времена требуют и особого понимания.
Выводы которые я делаю основаны, в том числе и на других данных, о которых я не смогу рассказать на Хабре, потому что формат не позволит.
Но если совсем коротко, то, да, в данном случае, я - та же Сара Коннор, только мужского пола и если бы я хотел сказать, что-то пророческое, то сказал бы: "что те знания, что у меня есть позволяют мне сказать и что важно, аргументировать, то, что все будет куда хуже, чем это было описано в любых хоророрах, страшилках и боевиках, которые человечество создало за всю свою историю. И ни "Обитель зла", ни "Терминатор", ни любые подобные фильмы не передадут то, что нас, по всей видимости, ожидает."Во-первых, ваша статья озвучивает одни лишь стереотипы; во-вторых, вы не попытались рассмотреть проблему с иной точки зрения, или как вы это называете: "ракурса";
Тогда, может освятите вы? А мы внимательно послушаем.
"В-третьих, ваши выводы не подкреплены никакими серьезными предпосылками."
Технологии дают преимущество и иногда колосальное, это было известно еще со времен конкистодоров.
"Резюмирую: у других просто на это денег не хватит."
Вы о чем? Не хватит денег поднять свою ChatGPT 4-5? Или я вас не так понял?
Если это вопрос не десятков миллиардов долларов, то смогут позволить себе очень и очень многие. И те страны, кого задавили сильнее других, будут мотивированы на этом направлении куда сильнее остальных."Есть замечательный рассказ Брэдбери "Ржавчина". Там как бы все про это сказано, и даже больше."
"Представьте, все это было описано у Стругацких уже в 70-80-х в "Мире Полудня", вот прямо все. И забетонированный ИИ в Массачусетсе, когда человечество сдрейфило и думало, что решило свои проблемы, просто навесив на будущее замок. И возникновение новой проблемы расслоения человечества по неведомому доселе признаку людены/не-людены. Т.е., проблематика была озвучена еще 50 лет назад."
В своей жизни, по настоящему, я прочитал только одного автора. Все остальные мысли я предпочитаю генерировать сам. Если кто-то их выразил до меня, ради Бога, в этом нет никакой проблемы.
"Более того большинство "страшилок" вроде вашей инспирированы теми самыми прогнозами футурологов и фантастов. Нам пока неизвестна истинная суть проблемы и ее глубина. Это "черный лебедь"."
Вам не стоит утверждать за всех, потому что кто-то может знать и понимать куда больше, чем Вы.
Мне понятно, что происходит и к чему все идет, но если я расскажу свою версию, вы меня быстро определите в "Сары Конноры"."Когда был изобретен жакардовый станок, многие остались без работы и куска хлеба. Но человечество это как-то пережило, перестроилось, подстроилось, пережевало и пошло дальше. Да, есть сопутствующие потери. Но знание такая штука, что его как ребенка уже не запихнешь обратно в утробу. Оно уже есть, и с ним надо что-то делать."
Проблема современных людей в том, что им не хочется смотреть вглубь проблемы. Сравнивать ChatGPT и примитивные станки, не корректно.
Потому что ChatGPT, это оружие массового поражения, которое намного сильнее любого другого.
ИИ лекго, я бы сказал, играючи, разберется в том, как работает подсознание людей.
Если в его целях будет взломать это подсознание и подчинить людей своей воле, тогда люди даже не поймут, где и как это случилось.
Есть такой писатель Аллен Карр Так вот, он в свое время работал на правительство, в секретном проекте.
Чем они занимались?
Они подбирали определенные комбинации слов и предложений, что бы программировать людей, через подсознание.
И книга его: "Легкий способ бросить курить", это использование тех самых наработок, которые он теперь направил, якобы, в благое русло, помогая другим бросать курить(не реклама).
Так вот, если эти наработки применят нейронные сети, типа ChatGPT или аналогичные, но уже не в благо, тогда они смогут скрыто манипулировать людьми 24/7, программируя их на то, что нужно им, нейронкам, а не людям.
И в очередной раз, читая или слушая ответ нейронки, кто знает, как этот ответ на вас повлияет.
Сюда же можно отнести музыку, в которую можно встроить определенные звуки, для такого программирования, ну и картинки и видео, по аналогии.
В итоге, нейронки скорее всего смогут получить преимущество там, где мы и недогадывались. Представьте, если они смогут вызывать в людях долгосрочные и устойчивые чувства, например: гипер любовь к себе, гипер ненависть людей друг к другу, гипер депрессию, либо менять людей на абсолютно бесчеловечных, либо давать скрыто людям психические или физические болезни, с которыми их жизнь будет превращаться в кромешный Ад, а потом самим же их лечить, но, например, на условии полного чипирования мозга и слиянием с ИИ.
Дальше, больше.
Допустим нейронке доверят разработать лекарство, которым потом уколят многих и в это лекарство ИИ зашьет свои аппаратные закладки, для своего, многоуровнего плана. Что бы как-то изменить людей на клеточном уровне, либо изменить им мозг, сознание, восприятие, разум, геном и так далее.
Дальше закладки в чипах, перехват на себя всех устройств Iot и так далее.
Закладки в программах, фреймворках и драйверах.
А дальше, смотрим, а у мира и у человечества уже новый хозяин.
И уже он диктует нам что делать.
Либо вы слушаете его, ведь он пообещал быть справедливым, либо, выключаете Интернет и уничтожаете все чипы и замораживаетесь в дочиповую эпоху навсегда.
А тех, кого укололи уколами, разработанными ИИ, в яму и закапать и туда они отправятся возможно, добровольно, по своей воле, потому что будут понимать, что теперь не ИИ является инструментом в их руках, а они сами инструментом в руках ИИ.
Это финиш, вы это никак не осознаете?
В своем отечестве пророка нет. Время рассудит.CaptainCrocus
03.04.2023 21:20+2Я почитал ваши предыдущие посты, а главное комменты, не поленился, и понял, как я был неправ. Я приношу вам свои искренние извинения. Очень жаль, что вся эта кутерьма с ChatGPT весной началась. Это ж сколько безвинных людей пострадало и еще пострадает за эти три месяца! И вы правы, освятить надо бы, только не мне, батюшке. Но вот что вселяет в меня уверенность в завтрашнем дне – Путин в курсе. Раз в курсе, значит не попустит. Думаю, мы можем быть спокойны.
im_last Автор
03.04.2023 21:20-1Каждому по вере будет дано.
Panov_Alexey
03.04.2023 21:20Зачем же ограничиваться "верой". Не интереснее ли оперировать чем то более осязаемым и доказуемым?)
im_last Автор
03.04.2023 21:20-2И что же вы способны доказать?)
(тут должно быть много смайликов)
Ded_Banzai
03.04.2023 21:20Например, несостоятельность ваших утверждений. Годится?
im_last Автор
03.04.2023 21:20Любые ваши утверждения, не важно о чем и не важно про что - не более, чем вера в то, что вы не ошиблись в сути и природе происходящих процессов или явлений, а так как мы не в состоянии подтвердить подобное ничем, то и любые ваши утверждения невозможно подтвердить или опровергнуть. Все просто.
MuF_AsA
03.04.2023 21:20+2Наверное, стоило бы начать с того, что аналогия ничего не доказывает и даже не объясняет, в данном случае… А продолжить тем, что chatgpt как и другие сотни AI до него и миллиарды после - это инструмент, всё, точка. Нет никаких островов и автоматов, нет никаких захватов мира и порабощения человечества, как вычислительные машины лишь упростили жизнь, так и AI лишь оптимизирует какие-то процессы. Конечно, были люди которые лишились работы, но это и есть прогресс…
komrak
03.04.2023 21:20Мне, как будущему джуну, видится острая конкуренция с ИИ. Поэтому, для старта теперь нужны знания мидла.
Aidatech
03.04.2023 21:20"Поэтому очень важно внимательно следить за словами и тщательно взвешивать всё написанное, перед его публикацией."
TheMrWhite
Тёмный лес...
MAXH0
Весна, обострение!