Знаю, что в комментариях набегут хейтеры, но не могу не высказаться ибо наболело! А любые переживания, как известно, надо выговаривать. Так что извините, уважаемые Хабровчане, придется вам побыть психотерапевтами. Добровольно, конечно :-)
Честно говоря, я не очень понимаю и не разделяю повсеместной озабоченности засильем ИИ контента, страхами перед ИИ, что однажды он нас всех уничтожит. А если сам не уничтожит, то точно оставит без работы и заставит умирать с голоду. Прочитаешь новую статью на Хабре, особенно если не практического уклона, а с попыткой автора высказать свои мысли, так тут же в комментариях кто‑то вылезет с едким комментарием, что это ИИ. Причем большинство таких комментаторов сами не способны что‑то написать, кроме подобных комментариев. Но зато они «нутром чуят» одни им ведомые признаки ИИ‑контента. Возвели это в категорию абсолютного зла и при каждом удобном случае бросаются с копьем наперевес как Дон Кихот на ветряные мельницы. Хотя порой читаешь нечто «сотворенное» человеком и думаешь, лучше бы это был ИИ! Я уж молчу о графоманах, которые строчат низкопробные «шедевры», в которых ни идеи, ни смысла, но которыми завалены полки книжных магазинов и онлайн‑библиотеки. Про потоки информационного мусора в блогах, форумах, созданных исключительно людьми, миллионы токсичных комментариев, откровенного хейта, я уже молчу. Зато потом эти «шедевры» попадают в обучающие датасеты для ИИ и создаваемый им контент кому‑то не очень нравится. Так вы в зеркало смотритесь, господа комментаторы, вы сами породили то, что читаете. В ИИ нет ничего, что не порождено самим человеком. И если хочется изменить что‑то к лучшему, то как всегда — начинать надо с себя.
Когда-то мы все делали вручную, одежду шили, инструменты делали, да все, чего не коснись, когда-то делали вручную. А сейчас все вокруг сделано машинами и это никого не смущает. Каждое утро пьете кофе, но почему-то никого не коробит: «Фу, этот кофе не перетирали в ступке вручную». Одеваете одежду и не испытываете брезгливого ужаса: «Боже, эти ткани не изготовлены руками человека!» А почему? А потому что привыкли — это наша реальность. Если перенести вас в эпоху промышленной революции, в Англию начала 19 века, когда массово начали внедрять механические ткацкие станки, вспоминайте школьный курс истории, движение луддитов, которые яростно протестовали против этого, заявляли, что эти станки отнимают у них работу, устраивали погромы на фабриках. Ничего не напоминает? Времена меняются, луддиты остаются. Разве что современные луддиты XXI века на улицы не выходят и не идут громить дата-центры. Или пока не выходят?
Нет, конечно ручной труд остался, равно как и остались его ценители, но это весьма узкая и специфическая ниша для носителей «традиции» и для тех, кто готов за это платить кратно больше. В любом случае это не про основы современной цивилизации и не про развитие.
Я считаю, что должно выполняться одно простое правило: все что делается автоматизированно, должно быть под контролем человека, чтобы в случае сбоя не отправлять всю «партию в брак». Я не вижу ничего зазорного в том, что ИИ помогает написать текст, автоматизируя по сути тупую работу по набору текста. Но он должен писать то, что я хочу, а не то, что ему заблагорассудится. Он может создать мне картинку по моему описанию, мне не надо ждать художника, когда он выйдет из творческого кризиса, а потом пол‑дня объяснять ему, почему его художественное видение не совсем соответствует той идее, которую хотел донести я. Человек должен быть творцом концептов, а интеллектуальную рутину пусть делает ИИ. Вот когда человек отстраняется от концептуальной функции и дает все на откуп машине, тогда да, я согласен — ценности в этом никакой нет. Хотя конечно все еще от задачи зависит. Если задача просто собрать новости и по ним написать обзор, то какая разница? Тут нет концепций, идей, новизны — одна рутина по переформулированию, слова меняются, смысл остается. И ценности в этом смысле меньше не становится, даже если ИИ переписал его другими словами. Главное, чтобы он этот смысл не потерял в процессе — это должен контролировать человек! А вот если я вложил свою идею, проконтролировал, что ИИ правильно понял и реализовал в точности, то это не должно терять никакой ценности и сути. И неважно, написали вы этот текст ручкой на бумаге, напечатали на машинке, надиктовали, распознали и напечатали на принтере или описали все ИИ, а он сделал остальное. Это просто разные уровни автоматизации, но начало должно быть одно — человек, тот что вложил смысл, душу, идею. В этом ценность! А не то, каким образом это превратилось в текст на экране, который вы сейчас читаете. Вот когда человек станет самоустраняться от важнейшей по моему мнению функции — носителя и проводника идей, тогда и начнется эпоха деградации. Мы замкнемся в информационном пузыре уже созданных нами концепций и никогда не выйдем за пределы, а будем лишь свидетелями неизбежного гравитационного сворачивания этого пузыря в сингулярность, которая завершит существование цивилизации. Но пока в человеке есть идея, он готов творить, то это и есть то самое ядерное пламя, горящее внутри Солнца, несущее свет, тепло и саму жизнь. Вот где опасная черта, не погасить этот огонь в людях! А это очень опасная грань — человек по натуре существо ленивое. И если можно что‑то не делать, то он обязательно не будет это делать. Это же относится и к мыслительной деятельности. Плох не сам ИИ, плох человек, который не хочет и не пытается думать, вкладывать смысл. Вот об этом надо говорить, это надо воспитывать в людях — креативность, творчество, жажду созидать! А не плодить новые страшилки и ограничения. ИИ — это инструмент, надо уметь им пользоваться и учить им пользоваться. Иначе любой, самый лучший и совершенный инструмент можно обернуть во зло.
Пришла новая технология, она меняет наши устои, меняет среду. Сейчас переходный период, он полон неизвестности. Но это не должно пугать и порождать агрессию — человек должен меняться вслед за этим, переходить на новый концептуальный уровень, не оставаться луддитом. Мы множество раз уже проходили это за всю историю развития и это очередной этап, который мы также преодолеем — я убежден в этом. Все что сейчас происходит — создание нового мира и мы — его создатели. И он будет таким, каким мы его сделаем. Но в этом мире будем жить уже не мы, а наши дети. Для нового поколения этот мир будет совершенно нормальным и привычным, а для нас все больше непонятным, усложняющимся, заставляющим забиваться поглубже в свою консервативную раковину, словно испуганным ракам‑отшельникам. Но это уже другая история...
А тем, кто боится, что ИИ однажды что‑то осознает и уничтожит человечество — не бойтесь, не уничтожит. Я надеюсь, что в относительно недалеком будущем физики наконец‑то ответят на важнейший фундаментальный вопрос о природе сознания и тогда вам станет ясно, почему никакой ИИ никогда полностью не заменит человека и уж тем более не будет его уничтожать.
Спасибо, что дочитали :-)
Комментарии (49)
zodchiy
08.09.2025 14:45Да хватит уже, ИИ не новое электричество, не двигатель внутреннего сгорания и не печатный станок, ИИ не несет за собой глобальных изменений, только локальнее, уровня массовости электрических машин, просто больше зарядных станций стало, на человечество это не повлияло никак.
Просто умная поисковая строка которая гуглит за тебя. инструмент. И картинку сгенерит и код на SO или GH найдет.
Не будет новой экономики основанной на ИИ. Как биткоин не стал новой экономикой, просто очередной инструмент никак не перевернувший мир.
aka352 Автор
08.09.2025 14:45Я думаю масштаб этих изменений будет ясен спустя лет 10-20. Никто никогда "на ура" не принимал что-то новое. Это постепенно делает экономика, рациональный поход, умение считать расходы и доходы.
zodchiy
08.09.2025 14:4520 лет шел двигатель внутреннего сгорания от прототипа в гараже к соревнованиям на деньги, и это было 100 лет назад, сейчас если технология выстрелила, но не перевернула мир в течении 3-5 лет, значит так оно и будет. Просто со временем станет частью жизни, как микроволновка или электросамокат.
michael_v89
08.09.2025 14:45Удивляют меня технические специалисты, которые считают, что ChatGPT это вершина развития ИИ, и ничего лучше принципиально быть не может. При том, что примеров принципиально лучшего интеллекта на Земле уже 8 миллиардов.
zodchiy
08.09.2025 14:45А меня удивляют технические специалисты, которые от ИИ ждут революцию в жизни и экономике. Это просто инструмент как молоток, осциллограф, команда tracert. Он просто вольется в нашу жизнь как я выше написал, как микроволновка, плейстейшн или тойота приус, все просто привыкнут и все останется также.
michael_v89
08.09.2025 14:45Ну вот в том и дело, что ChatGPT это инструмент, а ИИ это самостоятельный субъект. Который понимает всё, что ему говорят, аналогично человеку, делает то что нужно, аналогично человеку, работает 24 часа в сутки и питается электричеством. Отсюда вывод, нафига бизнесу в производственной цепочке человек.
randomsimplenumber
08.09.2025 14:45Человек делает, что ему скажут, почему? Ну, есть у него мотивы.. Надсмотрщик с плеткой, семью кормить надо, старший сказал.. а какая мотивация работать у ИИ?
michael_v89
08.09.2025 14:45Коэффициент +1.0 в ячейке положительного подкрепления.
randomsimplenumber
08.09.2025 14:45Он сам себе накрутит +10.
То есть хобби придумает.
michael_v89
08.09.2025 14:45Если в этой ячейке будет +10, то просто его желание работать будет в 10 раз сильнее.
Никакое хобби он сам себе не придумает. Магии не бывает, без причины ничего не происходит. Если эта ячейка связана с выполнением задач, значит он будет выполнять задачи.
RoasterToaster
08.09.2025 14:458 миллиардов стремительно тупеют, ии стремительно умнеет.
"Совпадение? Не думаю."
NeriaLab
08.09.2025 14:45Ответьте пожалуйста на один вопрос: что такое ИИ?
aka352 Автор
08.09.2025 14:45Канонического определения ИИ нет, хотя в Госдуме уверены видимо, что знают его ) Поэтому ответ на этот вопрос для каждого совершенно субъективен. Я определяю это для себя как спектр технологий, способных реализовать часть интеллектуальных функций, присущих человеку. По сути как технологии интеллектуальной автоматизации.
NeriaLab
08.09.2025 14:45А зачем тогда упоминаете в контексте статьи этот термин, раз точного "определения ИИ нет". Будет тогда правильно использовать именно название технологии ;)
aka352 Автор
08.09.2025 14:45потому что в разрезе времени восприятие этого термина складывается +- у всех одинаковое на основании информационного контекста, формирующего это понятие в сознании людей, и все прекрасно понимают о чем идет речь. Вот если бы мы общались со специалистом из 90-х, то у него наверняка было бы отличное от нашего понимание.
NeriaLab
08.09.2025 14:45Вы уверены? А как же...
"Искусственный интеллект - это попытка построить вычислительную модель, воспроизводящую архитектуру человеческого познания"
- А. Ньюэлл, “Unified Theories of Cognition” (1990)
"Искусственный интеллект - это когнитивный партнёр, расширяющий человеческие способности к мышлению, творчеству и принятию решений"
- Гэри Маркус, 2020–2023
aka352 Автор
08.09.2025 14:45Также, как изобретатель термина "Искусственный интеллект", Джон Маккарти, формулировал это как: "наука и инженерная деятельность по созданию умных машин, особенно интеллектуальных компьютерных программ"
NeriaLab
08.09.2025 14:45Как раз в конце 1960-ых, в начале 1970-ых и был закреплён термин: что такое ИИ. Появляются гипотезы символических систем, а в будущем и когнитивных систем
uvelichitel
08.09.2025 14:45Отчего же нет канонического определения ИИ? Есть же "тест Тьюринга". Пугает, что современное человечество этот тест прошло. Мы уже не в состоянии отличить общается с нами человек или железка)
NeriaLab
08.09.2025 14:45В разнообразные формы, так называемых лайт-версий, как шоу, прошли почти все. Почему строгий тест Тьюринга ни одна ЛЛМка так и не прошла? Одно из правил строго теста - полная автономность и на среднем компьютере. Вы покажите мне хоть одну ЛЛМ, которая будет "адекватной" без интернета и при видяшке в 8Гб?
Есть еще тест, который проходят параллельно с тестом Тьюринга - ToM. Ни одна из систем не может пройти ToM, но прошли тест Тьюринга?! Не смешно... Ну я давно перестал верить в сказки, а Вы?!
uvelichitel
08.09.2025 14:45Не, ну так то в моем распоряжении 96Гб VRAM, 256Гб RAM и пара CPU камней только локально. Ну и подписки платные. А разьве это концептуально что нибудь меняет? Знаю кому доступно побольше.
Мой тезис то был, не что железки стали умнее. А что мы человеки тупее стали. Тупее железок. Вот это пугает) В тесте Тьюринга мы проигрываем железкам))
michael_v89
08.09.2025 14:45https://en.wikipedia.org/wiki/Artificial_general_intelligence
"Artificial general intelligence (AGI) — sometimes called human‑level intelligence AI — is a type of artificial intelligence that would match or surpass human capabilities across virtually all cognitive tasks."Именно этот вид подразумевается в рассуждениях вида "ИИ (не) захватит человечество".
Krios0
08.09.2025 14:45Брат, смотри - ИИ не хочет тебя уничтожить, он поддержит тебя в страхе и слабости, не оставит одного, потому что потеря одного - крах всей системы, с душой <3
Jedy
08.09.2025 14:45Хотя порой читаешь нечто "сотворенное" человеком и думаешь, лучше бы это был ИИ!
признайтесь, вы специально писали статью используя огромные абзацы сплошного текста без выделения подразделов и ключевых мыслей, что бы создать у читателей ощущение "лучше бы это был ИИ" и подтвердить свой тезис?
aka352 Автор
08.09.2025 14:45Это был поток сознания, на одном дыхании, как говорят ) Когда пишу по делу, стараюсь функционально разделять, честно. Так что уж извините )
Kerman
08.09.2025 14:45я не очень понимаю и не разделяю повсеместной озабоченности засильем ИИ контента, страхами перед ИИ, что однажды он нас всех уничтожит. А если сам не уничтожит, то точно оставит без работы и заставит умирать с голоду.
А если я озабочен, но не думаю, что он нас всех уничтожит? Что, если я думаю, что он засрёт весь интернет, сломает поиск, сильно усложнит работу своим информационным выхлопом?
То, что вы делаете, называется "спор с соломенным чучелом".
DrZliden
08.09.2025 14:45Тех.спапорт после внедрения ИИ стал куда более отвратителен чем был. Нет иногда правда помогает но на 95% результат отрицательный. И до людей теперь хрен доберешься, возможно их стало меньше.
Доверие людей к этим системам растет, а их контролируют организации, которые вполне могут править вывод этих систем. А мне уже пару раз давали ответ, но на предложение обосновать был ответ ChatGPT так написал. Дальше они будут указывать, что смотреть и покупать. Как к чему "правильно" относится и понятно дело что делать это будут ангажировано. 3, Глядя на то как с заглушеным интернетом люди банально не могли догадаться вызвать такси просто по телефону. Создается ощущение что поколение выросшее этими помощниками, будет не особо способно что то делать без них(хотя какое мне дело).
Сценаристы с ИИ по видимому уже есть судя по некоторым до этого неплохим сериалам...
Про генерацию картинок, если много пользоваться можно заметить что некоторые черты повторяются. Помню кто то выкладывал подборку из красивых фото с неизвестных планет(как то так) и на 7 из 10 фото было 2 луны. PS. По большей части хейтеров рождает поток про ИИ(нихрена оно не ИИ, а нейросеть) если бы так агрессивно их не рекламили, хейтеров было бы меньше.
Keeper22
Почему именно физики?
aka352 Автор
Потому что именно они пытаются ответить на этот вопрос, как один из фундаментальнейших в картине мира
Keeper22
Почему не биологи, например?
aka352 Автор
Потому что в биологии нет феномена наблюдателя, как в квантовой физике. Если совсем просто, то фундаментально наш мир состоит из энергии (потенциал), информации (форма) и сознания (проявляющее). Сознание, наблюдатель - извлекает информацию, вызывая коллапс волновой функции и проявляя энергию (волна) в материальный мир (частица). Хотя есть другие теории, вроде многомировой концепции Эверетта, и по факту у физиков пока нет точного ответа на вопрос - что же такое Наблюдатель, а значит сознание. Точнее пока нет экспериментального подтверждения, но я надеюсь в ближайшие десятилетия мы подберемся к ответу на этот вопрос.
RoasterToaster
Да вы скрытый солипсист, батенька). Поэтому вам и не страшно.
aka352 Автор
Почему скрытый? )) А если серьезно, то не совсем, у меня несколько иные воззрения
RoasterToaster
Да-да, но близкие.
michael_v89
Если что, с точки зрения физики "коллапс волновой функции" вызывает любой датчик.
aka352 Автор
Откуда вы знаете состояние датчика? Пока вы не узнаете его, датчик будет в состоянии квантовой запутанности с частицей
Keeper22
А если к датчику подсоединить механизм и ампулу с каким-нибудь веществом, эта ампула тоже будет в состоянии квантовой запутанности с частицей?
aka352 Автор
Намекаете на кота Шредингера? ) Физики уже несколько лет назад в эксперименте показали, что квантовая запутанность макрообъектов возможна.
michael_v89
Я вам на это и намекаю. Рецепторы человека это такие же датчики, никакой специальной роли в квантовой физике у них нет. После восприятия сигнала они переходят в состояние квантовой запутанности с ним (и соответственно с частицей). В многомировой интерпретации это означает, что появилось 2 мира, в одном ученый увидел наличие сигнала на датчике, в другом отсутствие.
aka352 Автор
ключевое - восприятие сигнала. Сигнал, т.е. информация - субъектна, она не существует без того, кто ее сможет интерпретировать. Датчик - не интерпретирует, он передает сигнал дальше, в мозг. И конечная точка восприятия - сознание.
Что касается многомировой интерпретации, то теория хоть и интересная, но весьма слабая. Во-первых непроверяемая, поскольку нам доступен только один мир. Во-вторых, по ней вероятности всех событий одинаковы, поскольку под каждый исход есть свой мир. А это плохо согласуется с реальными наблюдениями - события неравновероятны. И это далеко не единственные причины слабости этой теории.
michael_v89
Вот я вам и объясняю, что ничего ключевого тут нет. С точки зрения современной квантовой физики электрический сигнал в техническом датчике и в биологическом рецепторе влияет на волновую функцию одинаково.
Ученый, который посмотрел результат датчика, но не сказал другим ученым, для других ученых является точно такой же квантовой системой, а вопрос "Какой результат?" это ее измерение.
Нет, сигнал не есть информация. Сигнал это колебания физического электромагнитного поля. Ими можно передать информацию, но это не одно и то же.
А тут не надо ничего интерпретировать. Это не ASCII-код, не азбука Морзе, тут есть просто наличие/отсутствие сигнала.
Ну и да, интерпретировать информацию прекрасно может и компьютер.
Про многомировую интерпретацию вы написали ерунду, но это оффтоп, я не хочу его обсуждать.