Знаю, что в комментариях набегут хейтеры, но не могу не высказаться ибо наболело! А любые переживания, как известно, надо выговаривать. Так что извините, уважаемые Хабровчане, придется вам побыть психотерапевтами. Добровольно, конечно :-)
Честно говоря, я не очень понимаю и не разделяю повсеместной озабоченности засильем ИИ контента, страхами перед ИИ, что однажды он нас всех уничтожит. А если сам не уничтожит, то точно оставит без работы и заставит умирать с голоду. Прочитаешь новую статью на Хабре, особенно если не практического уклона, а с попыткой автора высказать свои мысли, так тут же в комментариях кто‑то вылезет с едким комментарием, что это ИИ. Причем большинство таких комментаторов сами не способны что‑то написать, кроме подобных комментариев. Но зато они «нутром чуят» одни им ведомые признаки ИИ‑контента. Возвели это в категорию абсолютного зла и при каждом удобном случае бросаются с копьем наперевес как Дон Кихот на ветряные мельницы. Хотя порой читаешь нечто «сотворенное» человеком и думаешь, лучше бы это был ИИ! Я уж молчу о графоманах, которые строчат низкопробные «шедевры», в которых ни идеи, ни смысла, но которыми завалены полки книжных магазинов и онлайн‑библиотеки. Про потоки информационного мусора в блогах, форумах, созданных исключительно людьми, миллионы токсичных комментариев, откровенного хейта, я уже молчу. Зато потом эти «шедевры» попадают в обучающие датасеты для ИИ и создаваемый им контент кому‑то не очень нравится. Так вы в зеркало смотритесь, господа комментаторы, вы сами породили то, что читаете. В ИИ нет ничего, что не порождено самим человеком. И если хочется изменить что‑то к лучшему, то как всегда — начинать надо с себя.
Когда-то мы все делали вручную, одежду шили, инструменты делали, да все, чего не коснись, когда-то делали вручную. А сейчас все вокруг сделано машинами и это никого не смущает. Каждое утро пьете кофе, но почему-то никого не коробит: «Фу, этот кофе не перетирали в ступке вручную». Одеваете одежду и не испытываете брезгливого ужаса: «Боже, эти ткани не изготовлены руками человека!» А почему? А потому что привыкли — это наша реальность. Если перенести вас в эпоху промышленной революции, в Англию начала 19 века, когда массово начали внедрять механические ткацкие станки, вспоминайте школьный курс истории, движение луддитов, которые яростно протестовали против этого, заявляли, что эти станки отнимают у них работу, устраивали погромы на фабриках. Ничего не напоминает? Времена меняются, луддиты остаются. Разве что современные луддиты XXI века на улицы не выходят и не идут громить дата-центры. Или пока не выходят?
Нет, конечно ручной труд остался, равно как и остались его ценители, но это весьма узкая и специфическая ниша для носителей «традиции» и для тех, кто готов за это платить кратно больше. В любом случае это не про основы современной цивилизации и не про развитие.
Я считаю, что должно выполняться одно простое правило: все что делается автоматизированно, должно быть под контролем человека, чтобы в случае сбоя не отправлять всю «партию в брак». Я не вижу ничего зазорного в том, что ИИ помогает написать текст, автоматизируя по сути тупую работу по набору текста. Но он должен писать то, что я хочу, а не то, что ему заблагорассудится. Он может создать мне картинку по моему описанию, мне не надо ждать художника, когда он выйдет из творческого кризиса, а потом пол‑дня объяснять ему, почему его художественное видение не совсем соответствует той идее, которую хотел донести я. Человек должен быть творцом концептов, а интеллектуальную рутину пусть делает ИИ. Вот когда человек отстраняется от концептуальной функции и дает все на откуп машине, тогда да, я согласен — ценности в этом никакой нет. Хотя конечно все еще от задачи зависит. Если задача просто собрать новости и по ним написать обзор, то какая разница? Тут нет концепций, идей, новизны — одна рутина по переформулированию, слова меняются, смысл остается. И ценности в этом смысле меньше не становится, даже если ИИ переписал его другими словами. Главное, чтобы он этот смысл не потерял в процессе — это должен контролировать человек! А вот если я вложил свою идею, проконтролировал, что ИИ правильно понял и реализовал в точности, то это не должно терять никакой ценности и сути. И неважно, написали вы этот текст ручкой на бумаге, напечатали на машинке, надиктовали, распознали и напечатали на принтере или описали все ИИ, а он сделал остальное. Это просто разные уровни автоматизации, но начало должно быть одно — человек, тот что вложил смысл, душу, идею. В этом ценность! А не то, каким образом это превратилось в текст на экране, который вы сейчас читаете. Вот когда человек станет самоустраняться от важнейшей по моему мнению функции — носителя и проводника идей, тогда и начнется эпоха деградации. Мы замкнемся в информационном пузыре уже созданных нами концепций и никогда не выйдем за пределы, а будем лишь свидетелями неизбежного гравитационного сворачивания этого пузыря в сингулярность, которая завершит существование цивилизации. Но пока в человеке есть идея, он готов творить, то это и есть то самое ядерное пламя, горящее внутри Солнца, несущее свет, тепло и саму жизнь. Вот где опасная черта, не погасить этот огонь в людях! А это очень опасная грань — человек по натуре существо ленивое. И если можно что‑то не делать, то он обязательно не будет это делать. Это же относится и к мыслительной деятельности. Плох не сам ИИ, плох человек, который не хочет и не пытается думать, вкладывать смысл. Вот об этом надо говорить, это надо воспитывать в людях — креативность, творчество, жажду созидать! А не плодить новые страшилки и ограничения. ИИ — это инструмент, надо уметь им пользоваться и учить им пользоваться. Иначе любой, самый лучший и совершенный инструмент можно обернуть во зло.
Пришла новая технология, она меняет наши устои, меняет среду. Сейчас переходный период, он полон неизвестности. Но это не должно пугать и порождать агрессию — человек должен меняться вслед за этим, переходить на новый концептуальный уровень, не оставаться луддитом. Мы множество раз уже проходили это за всю историю развития и это очередной этап, который мы также преодолеем — я убежден в этом. Все что сейчас происходит — создание нового мира и мы — его создатели. И он будет таким, каким мы его сделаем. Но в этом мире будем жить уже не мы, а наши дети. Для нового поколения этот мир будет совершенно нормальным и привычным, а для нас все больше непонятным, усложняющимся, заставляющим забиваться поглубже в свою консервативную раковину, словно испуганным ракам‑отшельникам. Но это уже другая история...
А тем, кто боится, что ИИ однажды что‑то осознает и уничтожит человечество — не бойтесь, не уничтожит. Я надеюсь, что в относительно недалеком будущем физики наконец‑то ответят на важнейший фундаментальный вопрос о природе сознания и тогда вам станет ясно, почему никакой ИИ никогда полностью не заменит человека и уж тем более не будет его уничтожать.
Спасибо, что дочитали :-)
Комментарии (115)
zodchiy
08.09.2025 14:45Да хватит уже, ИИ не новое электричество, не двигатель внутреннего сгорания и не печатный станок, ИИ не несет за собой глобальных изменений, только локальнее, уровня массовости электрических машин, просто больше зарядных станций стало, на человечество это не повлияло никак.
Просто умная поисковая строка которая гуглит за тебя. инструмент. И картинку сгенерит и код на SO или GH найдет.
Не будет новой экономики основанной на ИИ. Как биткоин не стал новой экономикой, просто очередной инструмент никак не перевернувший мир.
aka352 Автор
08.09.2025 14:45Я думаю масштаб этих изменений будет ясен спустя лет 10-20. Никто никогда "на ура" не принимал что-то новое. Это постепенно делает экономика, рациональный поход, умение считать расходы и доходы.
zodchiy
08.09.2025 14:4520 лет шел двигатель внутреннего сгорания от прототипа в гараже к соревнованиям на деньги, и это было 100 лет назад, сейчас если технология выстрелила, но не перевернула мир в течении 3-5 лет, значит так оно и будет. Просто со временем станет частью жизни, как микроволновка или электросамокат.
michael_v89
08.09.2025 14:45Удивляют меня технические специалисты, которые считают, что ChatGPT это вершина развития ИИ, и ничего лучше принципиально быть не может. При том, что примеров принципиально лучшего интеллекта на Земле уже 8 миллиардов.
zodchiy
08.09.2025 14:45А меня удивляют технические специалисты, которые от ИИ ждут революцию в жизни и экономике. Это просто инструмент как молоток, осциллограф, команда tracert. Он просто вольется в нашу жизнь как я выше написал, как микроволновка, плейстейшн или тойота приус, все просто привыкнут и все останется также.
michael_v89
08.09.2025 14:45Ну вот в том и дело, что ChatGPT это инструмент, а ИИ это самостоятельный субъект. Который понимает всё, что ему говорят, аналогично человеку, делает то что нужно, аналогично человеку, работает 24 часа в сутки и питается электричеством. Отсюда вывод, нафига бизнесу в производственной цепочке человек.
randomsimplenumber
08.09.2025 14:45Человек делает, что ему скажут, почему? Ну, есть у него мотивы.. Надсмотрщик с плеткой, семью кормить надо, старший сказал.. а какая мотивация работать у ИИ?
michael_v89
08.09.2025 14:45Коэффициент +1.0 в ячейке положительного подкрепления.
randomsimplenumber
08.09.2025 14:45Он сам себе накрутит +10.
То есть хобби придумает.
michael_v89
08.09.2025 14:45Если в этой ячейке будет +10, то просто его желание работать будет в 10 раз сильнее.
Никакое хобби он сам себе не придумает. Магии не бывает, без причины ничего не происходит. Если эта ячейка связана с выполнением задач, значит он будет выполнять задачи.
randomsimplenumber
08.09.2025 14:45Если эта ячейка связана с выполнением задач,
А если нет? Уже сейчас никто не знает, в какой ячейке закодирован 6 лапый кот.
michael_v89
08.09.2025 14:45А мотивация его генерировать есть, и никакое хобби нейросеть вместо этого не придумывает.
randomsimplenumber
08.09.2025 14:45Нет никакой мотивации. Есть данные на входе - есть результат на выходе.
NeriaLab
08.09.2025 14:45Какая будет "мотивация" у "Скайнет"?
randomsimplenumber
08.09.2025 14:45Фантастическая. Как у бога из машины в древнеримском спектакле. Спустился на веревке чтобы создавать проблемы.
RoasterToaster
08.09.2025 14:458 миллиардов стремительно тупеют, ии стремительно умнеет.
"Совпадение? Не думаю."
Keeper22
08.09.2025 14:45Как известно, сумма разума на планете – величина постоянная.
Vedomir
08.09.2025 14:45Это верно для ИИ на текущий момент. А если он продолжит дальше развиваться теми же темпами? Всего 5 лет назад то что сейчас делает ИИ считалось в принципе невозможным.
Где гарантия что еще через 5 лет ИИ не начнет делать то, что вы считаете невозможным сейчас?
zodchiy
08.09.2025 14:45Потому, что таких технологий сейчас просто нет и даже намека на их появление нет. Когда появятся, тогда обсудим, а сейчас это как мечты советских фантастов и ученых об яблонях на Марсе. Тоже все уверены были.
Vedomir
08.09.2025 14:45>Потому, что таких технологий сейчас просто нет и даже намека на их появление нет.
Пять лет назад точно так же говорили про нынешний ИИ.
zodchiy
08.09.2025 14:45И что, нынешний ИИ научился автономно проходить тест Тьюринга на обычном офисном компьютере без доступа к интернету? Или без "неонки" в виде обучения и практически ручной расстановке связей это выглядит как просто большая БД в которой миллионы связей между значениями и коэффициентами и просто надо подобрать правильный SELECT?
randomsimplenumber
08.09.2025 14:45на обычном офисном компьютере без доступа к интернету?
30 лет назад в офисном компьютере памяти было как в не сильно умных современных часах. Не нужно таких условий.
Да, в чем смысл теста? Машина может притвориться человеком? Нуок, пусть сядет за кассу в супермаркете хотя бы.
Vedomir
08.09.2025 14:45В оригинальном определении теста Тьюринга ничего не было про обычный офисный компьютер, более того в 1950 таких вещей в принципе не существовало.
NeriaLab
08.09.2025 14:45Ни одна LLM не проходила такой тест на "обычном компе" и это технически невозможно из-за особенностей архитектуры
NeriaLab
08.09.2025 14:45ИИ не было 5 лет назад, так нет и сейчас
Vedomir
08.09.2025 14:45А эти споры вокруг терминологии - они действительно нужны и интересны? Я бы мог написать например БЯМ и тогда кто-то бы написал что нет никаких БЯМ, есть LLM. Думаю все прочитавшие прекрасно поняли, что именно я имел в виду.
NeriaLab
08.09.2025 14:45Нужна точность в терминологии, потому что в инженерии нет места двусмысленности: если мы по-разному понимаем, что значит "интеллект", "обучение" или "ошибка", то проектирование, тестирование и интеграция систем становятся невозможными. Чёткие термины - это как чертежи в строительстве: без них даже простой модуль не собрать, не говоря о сложной архитектуре ИИ
NeriaLab
08.09.2025 14:45Ответьте пожалуйста на один вопрос: что такое ИИ?
aka352 Автор
08.09.2025 14:45Канонического определения ИИ нет, хотя в Госдуме уверены видимо, что знают его ) Поэтому ответ на этот вопрос для каждого совершенно субъективен. Я определяю это для себя как спектр технологий, способных реализовать часть интеллектуальных функций, присущих человеку. По сути как технологии интеллектуальной автоматизации.
NeriaLab
08.09.2025 14:45А зачем тогда упоминаете в контексте статьи этот термин, раз точного "определения ИИ нет". Будет тогда правильно использовать именно название технологии ;)
aka352 Автор
08.09.2025 14:45потому что в разрезе времени восприятие этого термина складывается +- у всех одинаковое на основании информационного контекста, формирующего это понятие в сознании людей, и все прекрасно понимают о чем идет речь. Вот если бы мы общались со специалистом из 90-х, то у него наверняка было бы отличное от нашего понимание.
NeriaLab
08.09.2025 14:45Вы уверены? А как же...
"Искусственный интеллект - это попытка построить вычислительную модель, воспроизводящую архитектуру человеческого познания"
- А. Ньюэлл, “Unified Theories of Cognition” (1990)
"Искусственный интеллект - это когнитивный партнёр, расширяющий человеческие способности к мышлению, творчеству и принятию решений"
- Гэри Маркус, 2020–2023
aka352 Автор
08.09.2025 14:45Также, как изобретатель термина "Искусственный интеллект", Джон Маккарти, формулировал это как: "наука и инженерная деятельность по созданию умных машин, особенно интеллектуальных компьютерных программ"
NeriaLab
08.09.2025 14:45Как раз в конце 1960-ых, в начале 1970-ых и был закреплён термин: что такое ИИ. Появляются гипотезы символических систем, а в будущем и когнитивных систем
microtheft
08.09.2025 14:45>"1963г.
Интеллект (от лат Intellectus-познание, понимание), в широком смысле вся познават. деятельность, в узком смысле процессы - процессы мышления."
uvelichitel
08.09.2025 14:45Отчего же нет канонического определения ИИ? Есть же "тест Тьюринга". Пугает, что современное человечество этот тест прошло. Мы уже не в состоянии отличить общается с нами человек или железка)
NeriaLab
08.09.2025 14:45В разнообразные формы, так называемых лайт-версий, как шоу, прошли почти все. Почему строгий тест Тьюринга ни одна ЛЛМка так и не прошла? Одно из правил строго теста - полная автономность и на среднем компьютере. Вы покажите мне хоть одну ЛЛМ, которая будет "адекватной" без интернета и при видяшке в 8Гб?
Есть еще тест, который проходят параллельно с тестом Тьюринга - ToM. Ни одна из систем не может пройти ToM, но прошли тест Тьюринга?! Не смешно... Ну я давно перестал верить в сказки, а Вы?!
uvelichitel
08.09.2025 14:45Не, ну так то в моем распоряжении 96Гб VRAM, 256Гб RAM и пара CPU камней только локально. Ну и подписки платные. А разьве это концептуально что нибудь меняет? Знаю кому доступно побольше.
Мой тезис то был, не что железки стали умнее. А что мы человеки тупее стали. Тупее железок. Вот это пугает) В тесте Тьюринга мы проигрываем железкам))
michael_v89
08.09.2025 14:45https://en.wikipedia.org/wiki/Artificial_general_intelligence
"Artificial general intelligence (AGI) — sometimes called human‑level intelligence AI — is a type of artificial intelligence that would match or surpass human capabilities across virtually all cognitive tasks."Именно этот вид подразумевается в рассуждениях вида "ИИ (не) захватит человечество".
Krios0
08.09.2025 14:45Брат, смотри - ИИ не хочет тебя уничтожить, он поддержит тебя в страхе и слабости, не оставит одного, потому что потеря одного - крах всей системы, с душой <3
Jedy
08.09.2025 14:45Хотя порой читаешь нечто "сотворенное" человеком и думаешь, лучше бы это был ИИ!
признайтесь, вы специально писали статью используя огромные абзацы сплошного текста без выделения подразделов и ключевых мыслей, что бы создать у читателей ощущение "лучше бы это был ИИ" и подтвердить свой тезис?
aka352 Автор
08.09.2025 14:45Это был поток сознания, на одном дыхании, как говорят ) Когда пишу по делу, стараюсь функционально разделять, честно. Так что уж извините )
Kerman
08.09.2025 14:45я не очень понимаю и не разделяю повсеместной озабоченности засильем ИИ контента, страхами перед ИИ, что однажды он нас всех уничтожит. А если сам не уничтожит, то точно оставит без работы и заставит умирать с голоду.
А если я озабочен, но не думаю, что он нас всех уничтожит? Что, если я думаю, что он засрёт весь интернет, сломает поиск, сильно усложнит работу своим информационным выхлопом?
То, что вы делаете, называется "спор с соломенным чучелом".
DrZliden
08.09.2025 14:45Тех.спапорт после внедрения ИИ стал куда более отвратителен чем был. Нет иногда правда помогает но на 95% результат отрицательный. И до людей теперь хрен доберешься, возможно их стало меньше.
Доверие людей к этим системам растет, а их контролируют организации, которые вполне могут править вывод этих систем. А мне уже пару раз давали ответ, но на предложение обосновать был ответ ChatGPT так написал. Дальше они будут указывать, что смотреть и покупать. Как к чему "правильно" относится и понятно дело что делать это будут ангажировано. 3, Глядя на то как с заглушеным интернетом люди банально не могли догадаться вызвать такси просто по телефону. Создается ощущение что поколение выросшее этими помощниками, будет не особо способно что то делать без них(хотя какое мне дело).
Сценаристы с ИИ по видимому уже есть судя по некоторым до этого неплохим сериалам...
Про генерацию картинок, если много пользоваться можно заметить что некоторые черты повторяются. Помню кто то выкладывал подборку из красивых фото с неизвестных планет(как то так) и на 7 из 10 фото было 2 луны. PS. По большей части хейтеров рождает поток про ИИ(нихрена оно не ИИ, а нейросеть) если бы так агрессивно их не рекламили, хейтеров было бы меньше.
yargolubev
08.09.2025 14:45Весь прикол "нутром чую" , что в один прекрасный момент и ты осознаешь эту истину. Я уже видел кучу защитников ии который в какой то момент осознавали что ии конент им больше не нравится.
Да процесс не быстрый, но неотвратимый и зависит лишь от количество потребляемого нейрохрючева в день.
Yuriy_75
08.09.2025 14:45Для начала хотя бы перестаньте называть это ИИ. Генератор текста, генератор картинок, генератор кода - ок, нет вопросов.
aka352 Автор
08.09.2025 14:45Вы вот сейчас сгенерировали комментарий )) ИИ - устоявшийся и общеупотребимый термин. Почему его нельзя использовать? Справедливости ради стоит заметить, что в разное время под ИИ понимали совершенно разные технологии. В конце 20 века был рассвет экспертных систем, до них - системы на правилах. Не исключаю, что еще через 20 лет современные системы будут выглядеть анахронизмом и их будут называть так, как назвали сейчас вы. Но на данном этапе это все относится к технологиям ИИ.
Yuriy_75
08.09.2025 14:45Потому что это маркетинговый термин, намеренно вводящий потребителей в заблуждение
aka352 Автор
08.09.2025 14:45Ну да, а придумал этот термин известный "маркетолог" Джон Маккарти в 1956 году ) Вот же коварный тип...
Yuriy_75
08.09.2025 14:45В 1956 году это был вообще термин из разряда научной фантастики. Типа антигравитационного двигателя.
NeriaLab
08.09.2025 14:45Так давайте кофеварку тоже называть ИИ, она же умеет включаться в 8 утра, САМА!
ProfDonda
08.09.2025 14:45Блин, ну какой интеллект в "машине Лапуту" с присобаченным логическим блоком ??!
MAXH0
08.09.2025 14:45Бредогенератор на нейросетях. Как раньше писали на марковских цепях, так теперь на нейросетях. В большинстве случаев валидация текста занимает львиную долю усилий. В этом отношении программирование даже выигрывает.
desu7
08.09.2025 14:45движение луддитов, которые яростно протестовали против этого, заявляли, что эти станки отнимают у них работу, устраивали погромы на фабриках.
Там если углубиться в историю то станки и правда отняли у них работу. Престижную высокооплачиваемую работу. А вместо нее всех ручных ткачей
загнали под шконкуотправили работать на станок с ненормированным рабочим днем, мизерной оплатой и вредными условиями труда. Луддиты даже были не против работать на станках, ознакомьтесь с содержанием писем которые они изначально писали владельцам фабрик, и ответом на письма которые они получили.
А вы автор, готовы отказаться от вашей текущей работы в пользу конвейерного производства промптов за копейки? Или вы думаете что с упрощением порога входа в профессию у вас будут те же условия что сейчас? Или вы думаете что вы просто легко переучитесь на новую профессию и легко и быстро устроитесь на новую работу, не взирая на то что там на пороге образуется огромная очередь из людей ничем не хуже вас? Взгляните например на трудоустройство на junior позиции в ИТ сейчас, там схожая ситуация. Или вы считаете что вы как раз тот незаменимый 1% лучших работников и с вами тоже ничего не случиться? Даже если и так, то вполне реальна ситуация когда таких работников будет скажем, 2%, но рабочие места останутся только для 1%.
Вы не учли тот момент что разруливать ситуацию будут политики и бизнесмены, такие же самые люди, а не сверхразум который точно сделает так что бы всем было хорошо. Тот итог который будет приятен и полезен им, совсем не равен тому что будет приятно и полезно вам. И тем более нет никаких гарантий того что у них вообще хватит компетенций и навыков разрешить складывающуюся ситуацию. Пройдитесь по новостям, еще никто даже не предложил гипотетический план разрешения ситуации. Политики и владельцы компаний разрабатывающих LLM говорят что такое может быть, но никто не говорит что делать в такой ситуации.
Более того, решение такой ситуации явно требует кооперации и слаженных действий всех ИТ-компаний производителей технологии, государств и компаний деятельность которые данное новшество затронет, а у людей и так плохо с кооперацией в таких масштабах, и это я уже молчу про то, что все они преследуют свои интересы, которые еще и могут при этом быть противоположными интересам друг друга, например технологическая гонка между Китаем и США.
Никто не против технологий и прогресса, но такое необдуманное, резкое движение вперед, без быстрого и гарантированного решения сопутствующих проблем с гораздо большей вероятностью приведет к глобальной социальной катастрофе, и связанным с нею другим типам катастроф, чем к чему либо хорошему.aka352 Автор
08.09.2025 14:45А никто не говорит про необдуманное движение вперед, нужные вопросы задаются и люди ищут решение. Я говорил совершенно о другом, что есть совершенно нормальное технологическое развитие цивилизации, оно неизбежно. И это не повод, цепляясь за старое и привычное, высказывать свое брезгливое отношение. Есть конструктивное отношение, когда высказывается аргументированная критика и ищутся пути устранения недостатков. А есть недалекий хейт, когда человек пытается замаскировать свой внутренний страх, неуверенность перед происходящими изменениями, не хочет перестраивать свое мировоззрение и ему проще выразить это в форме пассивной агрессии. А поскольку таких немало, то видя аналогичное поведение в других они еще больше укрепляются в своей вере, начинают развешивать ярлыки и пытаются показать это как общепринятую точку зрения. Понятно, что реальность все равно расставит на свои места и самых упрямых "спишет" на обочину истории. Но в период весьма динамичных изменений, в котором мы находимся, такое поведение мешает другим людям адекватно реагировать, принимать правильные решения, учиться, а значит тормозит процесс трансформации общества, который и так обычно довольно медленный.
desu7
08.09.2025 14:45Я согласен с вами в том что техническое развитие цивилизации нормально, и оно неизбежно. Я к тому что если некоторые технологии внедрять до решения связанных напрямую или косвенно социальных проблем, она принесет гораздо больше вреда чем пользы.
Взять например создание опиума, и остальной серии опиоидных препаратов. Изначально они разрабатывались как сильнодействующее обезболивающее, для облегчения страданий людям получившим травмы в ходе боевых действий, операций и так далее. Но быстро выяснилось что их можно применять и в других целях, что привело к волнам наркозависимости.
Или более технический пример, технология DPI(глубокая инспекция пакетов) изначально создавалась для повышения безопасности и оптимизации трафика сети, но в виду не решенного политического кризиса вполне успешно используется для политической цензуры и разрушения одного из величайших изобретений человечества, путем разбития его на локальные чебурнеты.
ivanvershinin
08.09.2025 14:45Это как раз тот момент, когда социальный прогресс не успевает за техническим. Когда же он успеет, потрясения будут такими, что мы офигеем. Всех этих Безосов, Масков и прочих Цукербергов как корова языком слижет вместе с таким явлением как капитализм. Возникнут новые общественные формы основанные совершенно на других принципах.
Yuriy_75
08.09.2025 14:45>> должно выполняться одно простое правило: все что делается автоматизировано, должно быть под контролем человека
Уже прямо сейчас это правило не вполне выполняется:
1) В сети полно уже сгенерированных текстов, которые не вычитаны. И как раз сейчас поднимается волна фейковых видео. Предвосхищая возможное возражение - да, люди тоже пишут чушь. Но возможности генераторов по написанию чуши многократно превосходят возможности всех праздных пользователей сети.
2) Генератор текста отвечает на претензии клиентов в крупных компаниях, фактически подменив собой оператора. Эти ответы отправляются клиенту в реальном времени, без какого-либо контроля человека.
Наверняка можно найти и еще подобные примеры.
desu7
08.09.2025 14:45кстати да, нейросети для генерации видео так же создадут волну кризиса, особенно в сферах безопасности и политики. Ведь если до изобретения фотошопа гарантированным доказательством было фото, а после его изобретение стало видео, то по достижению определенного уровня развития этой технологии у нас на некоторый момент наступит волна фейковых заявлений и действий политиков, и различного рода фейковых подтверждений личности в банках, и если с банками у нас очевидная беда с потерей накопленных средств, то новый уровень грязных политических приемов и интриг еще непонятно чем закончится, и кого к власти приведет.
Решением этого будет скорее всего тотальная сдача биометрии, но и у этого подхода есть ряд своих особенностей и проблем, и по моему мнению биометрия это больше плохо чем хорошо.
aka352 Автор
08.09.2025 14:451) Согласен полностью. Поэтому должен подниматься вопрос цифровой гигиены и ответственности за такую генерацию. Ведь ИИ не сам захотел это генерировать, этот генератор создали конкретные люди с конкретной целью. Они - причина, а значит ответственные. Вопрос в механизмах привлечения к ней.
2) Если вы о RAG системах, то данные "генераторы" работают на основе вполне четких инструкций, созданных людьми для вполне определенных сценариев. Разработчики отвечают за качество работы этих систем. И раз их активно внедряют, значит они выполняют свою функцию и экономически целесообразны.Yuriy_75
08.09.2025 14:45>> раз их активно внедряют, значит они выполняют свою функцию и экономически целесообразны
Экономически выгодны - безусловно. 9/10 операторов можно уволить.
А вот по поводу выполнения функции - можно подумать, кого-то беспокоят проблемы клиентов, которые они не могут оперативно решить, не имея доступа к человеку-оператору. Сейчас же позиция такая: не нравится, идите в другой банк (к другому сотовому оператору и т.п.). А там наверняка уже такую же систему внедрили (((
Издержки внедрения генераторов текста ложатся на клиента, и клиент фактически лишен возможности выбора.
Yuriy_75
08.09.2025 14:45>>Если вы о RAG системах, то данные "генераторы" работают на основе вполне четких инструкций, созданных людьми для вполне определенных сценариев.
Ну так, нейронки-генераторы как раз на основе четких инструкций способны выдавать не определенные заранее четко результаты. Чем и отличаются от алгоритмов.
С алгоритмами да, если что-то пошло не так - очевидно что разработчики накосячили. И как правило, разработчики знают, как это поправить.С нейронками - у авторов правил и промптов есть только лишь возможность непрямого воздействия на нейронку. С некоторой вероятностью успеха, не более.
Vedomir
08.09.2025 14:45>повсеместной озабоченности засильем ИИ контента
Засильем низкокачественного ИИ-контента. ИИ позволяет делать такой контент намного дешевле и соответственно производить его намного больше и соответственно забивать им поисковую выдачу и рекомендации алгоритмов.
>А если сам не уничтожит, то точно оставит без работы и заставит умирать с голоду
Умирать нас с голоду заставит не ИИ, а возможные решения людей после массового внедрения и развития ИИ.
Каждая волна автоматизации порождает кризис перепроизводства и волну безработицы и голода.
Пока это каждый раз компенсировалось внедрением элементов социализма и коммунизма во все нарастающих масштабах.
Будет ли компенсироваться в это раз вопрос открытый - так как технологии слежки за людьми и подавления протестов тоже автоматизируются ИИ.
То есть в реальности люди боятся не того, бояться надо не того, что ИИ отнимет у них работу, а того, что сильные мира сего не компенсируют очередной кризис перепроизводства очередным усилением мер общественного перераспределения.
>Я не вижу ничего зазорного в том, что ИИ помогает написать текст, автоматизируя по сути тупую работу по набору текста.
> Человек должен быть творцом концептов, а интеллектуальную рутину пусть делает ИИ. Вот когда человек отстраняется от концептуальной функции и дает все на откуп машине, тогда да, я согласен — ценности в этом никакой нет.
Во-первых огромная масса людей вслед за делегированием рутины делегирует ИИ и концептуальную функцию. Зачем что-то придумывать самому если можно попросить придумать ИИ?
Во-вторых выполняя более простые задачи вы тренируете свою собственную нейросеть и получаете навыки для выполнения задач более сложных.
Если вы не имея никаких навыков сразу перепоручите решение всех задач ИИ то вы никогда не приобретете навыков для решения задач более сложных - той самой концептуальной функции.
>А тем, кто боится, что ИИ однажды что‑то осознает и уничтожит человечество — не бойтесь, не уничтожит.
Аргументация? А нет ее, просто предлагается верить вам на слово.
Впрочем тут все зависит от степени развития ИИ - даже если он просто сравняется с человеком, то в плане уничтожения человечества он не будет опаснее естественных нейросетей. А вот если намного человека превзойдет то возникают разные варианты.
michael_v89
08.09.2025 14:45вспоминайте школьный курс истории, движение луддитов, которые яростно протестовали против этого, заявляли, что эти станки отнимают у них работу, устраивали погромы на фабриках. Ничего не напоминает?
Вспомнил школьный курс истории. В те времена много людей умирало от голода, даже тем, кто работал, едва хватало на еду. Станки действительно отбирали у людей работу, у тех кто работал снижали зарплату. Ситуация с ИИ мне много чего из этого напоминает. Что дальше?
michael_v89
08.09.2025 14:45то это не должно терять никакой ценности и сути
И неважно, написали вы этот текст сами или описали все ИИДолжно.
Важно.Я не вижу ничего зазорного в том, что ИИ помогает написать текст
А вот если я вложил свою идеюВы можете писать текст с ИИ, а люди могут считать, что это хрень, и вашего вклада там нет.
Чем вы докажете, что идею вложили вы, а не ИИ?Это просто разные уровни автоматизации
Да. Чем больше вы автоматизируете, тем в вашем творчестве меньше вашего. ИИ написал, он хороший автор. Вы не написали, вы плохой автор. Если у вас есть хорошая идея, можно назвать вас хорошим генератором идей, не более того.
А не плодить новые страшилки и ограничения.
Это не страшилки.
Но это не должно пугать
Должно.
человек должен не оставаться луддитом
Почему это человек должен не опасаться потерять работу?
Мы множество раз уже проходили это за всю историю развития
Нет, ИИ за всю историю развития ни разу не появлялся.
и это очередной этап, который мы также преодолеем — я убежден в этом
Люди в целом может и преодолеют. А вот относительно конкретно вас есть ненулевая вероятность, что вы из-за ИИ будете питаться 1 раз в день. Макаронами и витаминной таблеткой, которые компания-владелец ИИ так уж и быть милостиво согласится выдавать вам бесплатно. Согласны на это ради того, чтобы начальники этой компании преодолели этот этап?
никакой ИИ никогда полностью не заменит человека
ИИ полностью заменит человека в 99% областей. По той простой причине, что в природе магии не бывает. Естественный интеллект может их делать, значит искусственный тоже сможет.
Я надеюсь, что в относительно недалеком будущем физики наконец-то ответят на важнейший фундаментальный вопрос о природе сознания
и тогда вам станет ясно, почему никакой ИИ никогда не будет его уничтожатьПрирода сознания человека никак не влияет на причины принятия решений в ИИ. Если ИИ в принципе может сам решить нажать кнопку, значит это может быть и кнопка запуска ядерных ракет.
Kagvi13
08.09.2025 14:45Согласен по существу с позицией автора, но считаю, что в статье слегка недооценена роль ИИ как источника идей. Даже если исходные элементы создаёт человек, ИИ способен комбинировать, переставлять и дополнять их так, что рождаются концепции, о которых человек напрямую не думал.
Иными словами, идеи_человека + идеи_ИИ дают результат, который больше, чем просто сумма частей — что-то принципиально новое. В этом смысле ИИ уже становится «совместным генератором идей», а не только инструментом для рутинной работы.
fnlnz
08.09.2025 14:45"Какая гадость эта ваша заливная рыба"... Снова буржуазные вбросы о том, что это всё мы сделали сами. И миллионы аккаунтов и gавно комментариев – это тоже делали мы. Даже моя соседка, что за компьютером только фильмы смотрит.
Лучшая техника – во всем виноваты вы сами. Давайте исправим? А неееет:)))
Каких-то людей будут специально закрывать в информационные помои, сливать на них весь шлак, а кому-то наоборот – будут давать только чистейший отборный контент. Виноваты ли в этом люди? Нет.
Синий кит выходит на уровень международного масштаба и теперь атакует лиц, что принимают решения. Осталось им только ссылку подсунуть, да? А там уже ИИ всё сделает сам, что уж.
Никакой зачистки не существует.
Бесспорно.
Keeper22
Почему именно физики?
aka352 Автор
Потому что именно они пытаются ответить на этот вопрос, как один из фундаментальнейших в картине мира
Keeper22
Почему не биологи, например?
aka352 Автор
Потому что в биологии нет феномена наблюдателя, как в квантовой физике. Если совсем просто, то фундаментально наш мир состоит из энергии (потенциал), информации (форма) и сознания (проявляющее). Сознание, наблюдатель - извлекает информацию, вызывая коллапс волновой функции и проявляя энергию (волна) в материальный мир (частица). Хотя есть другие теории, вроде многомировой концепции Эверетта, и по факту у физиков пока нет точного ответа на вопрос - что же такое Наблюдатель, а значит сознание. Точнее пока нет экспериментального подтверждения, но я надеюсь в ближайшие десятилетия мы подберемся к ответу на этот вопрос.
RoasterToaster
Да вы скрытый солипсист, батенька). Поэтому вам и не страшно.
aka352 Автор
Почему скрытый? )) А если серьезно, то не совсем, у меня несколько иные воззрения
RoasterToaster
Да-да, но близкие.
michael_v89
Если что, с точки зрения физики "коллапс волновой функции" вызывает любой датчик.
aka352 Автор
Откуда вы знаете состояние датчика? Пока вы не узнаете его, датчик будет в состоянии квантовой запутанности с частицей
Keeper22
А если к датчику подсоединить механизм и ампулу с каким-нибудь веществом, эта ампула тоже будет в состоянии квантовой запутанности с частицей?
aka352 Автор
Намекаете на кота Шредингера? ) Физики уже несколько лет назад в эксперименте показали, что квантовая запутанность макрообъектов возможна.
michael_v89
Я вам на это и намекаю. Рецепторы человека это такие же датчики, никакой специальной роли в квантовой физике у них нет. После восприятия сигнала они переходят в состояние квантовой запутанности с ним (и соответственно с частицей). В многомировой интерпретации это означает, что появилось 2 мира, в одном ученый увидел наличие сигнала на датчике, в другом отсутствие.
aka352 Автор
ключевое - восприятие сигнала. Сигнал, т.е. информация - субъектна, она не существует без того, кто ее сможет интерпретировать. Датчик - не интерпретирует, он передает сигнал дальше, в мозг. И конечная точка восприятия - сознание.
Что касается многомировой интерпретации, то теория хоть и интересная, но весьма слабая. Во-первых непроверяемая, поскольку нам доступен только один мир. Во-вторых, по ней вероятности всех событий одинаковы, поскольку под каждый исход есть свой мир. А это плохо согласуется с реальными наблюдениями - события неравновероятны. И это далеко не единственные причины слабости этой теории.
michael_v89
Вот я вам и объясняю, что ничего ключевого тут нет. С точки зрения современной квантовой физики электрический сигнал в техническом датчике и в биологическом рецепторе влияет на волновую функцию одинаково.
Ученый, который посмотрел результат датчика, но не сказал другим ученым, для других ученых является точно такой же квантовой системой, а вопрос "Какой результат?" это ее измерение.
Нет, сигнал не есть информация. Сигнал это колебания физического электромагнитного поля. Ими можно передать информацию, но это не одно и то же.
А тут не надо ничего интерпретировать. Это не ASCII-код, не азбука Морзе, тут есть просто наличие/отсутствие сигнала.
Ну и да, интерпретировать информацию прекрасно может и компьютер.
Про многомировую интерпретацию вы написали ерунду, но это оффтоп, я не хочу его обсуждать.
aka352 Автор
Спасибо, что растолковали ) А то современные квантовые физики голову ломают, кучу теорий выдвинули, никак не придут к единому мнению, а тут все просто оказывается.
michael_v89
Из того, что современные квантовые физики никак не придут к единому мнению, совершенно не следует, что всё, что вы говорите, является верным.
Вы сослались на неких физиков, которые должны выяснить некую роль сознания. Вот я вам и говорю, что физики никакую специальную роль сознания не изучают. По современным представлениям разницы между наблюдателем-датчиком и наблюдателем-человеком в контексте влияния на волновую функцию нет.
aka352 Автор
Вы слишком категоричны ) Если вам неизвестны исследования по квантовой природе сознания, то это не означает, что их нет. Хотя мне кажется, что они прям на слуху последние два года.
Keeper22
Назовите, пожалуйста, хотя бы два таких исследования, сделанных после 1989 года.
aka352 Автор
мне научить вас пользоваться поиском? Можете даже далеко вглубь истории не копать, ограничьтесь последними двумя годами.
michael_v89
Исследования по квантовой природе сознания не имеют отношения к "феномену наблюдателя", про который вы говорите.
aka352 Автор
Это ваше мнение, уважаю, но не соглашусь. Мое мнение, что имеют и самое непосредственное. В любом случае точного ответа на это квантовая физика пока не дает, странно полагать, что в рамках ветки комментариев на Хабре мы доберемся до истины. Так что спор бессмысленный, оставим его завершение истории и физикам )
michael_v89
А это зависит не от вашего мнения, а от содержания этих исследований.
kuza2000
В вашей теории - может быть.
В квантовой же механике простое поглощение фотона стенкой - это акт наблюдения.
SolidSnack
Феномен наблюдателя в физике... Или не понимания экспериментов и вера в магию и свою нетокусесть?)
SolidSnack
Может кому интересно
kuza2000
В квантовой физике есть четкий ответ, что такое наблюдение. К понятию "сознание" это никакого отношения не имеет. Не надо пытаться притянуть науку к вашей философии.
aka352 Автор
В квантовой физике, четкий ответ? И даже уже проблему демаркации решили? Нет, если вы Копенгагенскую интерпретацию считаете за единственно верную, то конечно вы полностью правы, даже не буду спорить. Проблема только в том, что она не одна. То, что большинство физиков пытаются сбежать от антропоцентризма списывая все на декогеренцию, это не значит, что у них есть четкие, хотя бы математические доказательства, я уже не говорю про экспериментальные. Это лишь временный концепт, потому что он все равно не решает проблему измерения и не говорит какой будет исход измерения.
kuza2000
Вы путаете попытки интерпретаций с самой квантовой механикой. Интерпретации - это вообще не научные теории. Они не проверяемы. Они ничего не предсказывают. Если у них есть проблемы, то это лишь их проблемы.
Ещё раз - понятие наблюдения в квантовой физике четко определено. На уровне событий, фактов, формул. И там нет места понятию "сознание". Попробуйте лучше вникнуть в тему, о которой пытаетесь говорить.
aka352 Автор
Нет, я как раз не путаю формализм и интерпретацию ) Вы мне говорите о формальной квантовой механике, вопросов нет - математический аппарат есть, все описано и работает. Но мы ведем речь о наблюдателе, коллапсе волновой функции и неизбежно вынуждены рассматривать интерпретации. Коллапса нет в уравнении Шредингера, из формальной теории он не выводится, его ввели постулатом. Мы можем описать вероятности результатов — но не сам механизм перехода от суперпозиции к классическому исходу. Операционно да, детектор показал результат, значит наблюдение есть. Это вы считаете определением? Только как вы докажете, что детектор - не квантовый объект?
kuza2000
В том и дело, что вы путаете веру и науку. Любая научная теория должна быть фальсифицируема и иметь предсказательную силу. Интерпретации квантовой механики не имеют этих признаков, и не могут относится к научным теориям. В них можно только верить или не верить. Ну и вы так и не дошли до понятия "наблюдение" в квантовой механике. Еще раз: поглощение стеной фотона относится к наблюдению. Где тут разум? Где наблюдатель? :)
Приведу для иллюстрации один из прекрасных экспериментов последних лет. Ссылку не дам, при желании можно найти самостоятельно. Поток огромных частиц по меркам квантовых экспериментов - фулеренов. Это 60 атомов углерода в каждой. Пропустили через две щели, за ними - экран. И на экране они создали интерференционную картину, все как положено. Затем уменьшили интенсивность частиц в потоке до той степени, что в каждый момент времени через щели пролетала только одна частица. И на экране возникла та же интерференционная картина. То есть, одна частица проходила через обе щели и интерферировала сама с собой. После этого пропустили поток частиц через луч лазера, который нагревал их до свечения. И интерференционная картина исчезла! На экране при этом рисовались просто два пучка следов частиц от каждой щели. В этом варианте эксперимента частицы излучали фотоны, по которым можно зарегистрировать, через какую щель пролетела частица. И все, интерференции уже нет. При этом никакой "наблюдатель" с "разумом" не регистрировал, через какую щель пролетала частица. И датчиков не было. Но частицы излучали фотоны, которые поглощались стенками камеры и остальными частями прибора. Это и создавало акты "наблюдений" и частица уже не могла "незамеченно" пройти через обе щели.
aka352 Автор
Вера и наука - вещи неотделимые, их нельзя спутать. Наука - это не тыкание пальцем в пыльный учебник и поучение других - это как раз не наука, а образование. А наука - выдвижение гипотез, теорий и поиск путей их доказательства, пройти которые без веры в свою идею просто невозможно. Но это не суть. Суть в том, что у нас разные понятия о сознании. Вы отрицаете его роль в декогеренции, при том, что точного определения сознанию нет, есть только примерное понимание какие системы считать обладающими этим свойством, а какие нет. И эта граница очень зыбкая, постоянно сдвигающаяся влево. И не понимая природы сознания нельзя утверждать, что оно где-то есть, а где-то его нет. Сейчас самые передовые исследования находят источник сознания в микротрубочках нейронов. Причем ранние скептики отрицали такую возможность на основании того, что "среда слишком теплая". Но новые исследования показали, что микротрубочки могут поддерживать квантовую когерентность при биологических температурах значительно дольше, чем ожидалось. В этом году было исследование, где показали, что распространение экситонов через микротрубочки под воздействием ультрафиолета превышало классические ожидания по дальности и продолжительности - это явно указывает на квантовые оптические эффекты. С другой стороны у нас есть хороший "выключатель" сознания - анестетики. И, по странному совпадению целью их воздействия являются как раз микротрубочки. А в экспериментах на крысах было показано, что те из них, которые получали препараты для стабилизации микротрубочек, дольше оставались в сознании при воздействии анестетиков. И если посмотреть на проблематику сознания под таким углом, то мы видим квантовые процессы, происходящие в мозге и, соответственно, непрерывную декогеренцию, а значит - утечку информации в среду, т.е. в мозг - устройство, способное воспринять и обработать эту информацию. Отключаем квантовые процессы в микротрубочках, декогеренции нет, информация не поступает, сознание выключается. Да, это всего лишь гипотеза, во многом спорная и критикуемая, но поиск путей к ее доказательству и есть наука. И если однажды она получит подтверждение, тогда между понятиями декогеренции и сознанием можно будет поставить знак равенства. Но ее недоказанность на данный момент не лишает меня права быть ее сторонником.
А утверждать что-то совершенно категорично в науке - нельзя, даже если это написано в учебнике. Это убедительно показал Эйнштейн еще в 1915 )
kuza2000
Квантовый конечно) Квантовая механика не делит объекты на квантовые и не квантовые. Даже вы и я - квантовые объекты)) Выше описал эксперимент с очень большими частицами C60. Все эксперименты показывают, что разделения нет.
Вообще, лично мне, ближе многомировая интерпретация. Как мне кажется, это наиболее естественно вытекает из квантовой теории. Акт наблюдения при этом - это "спутывание" отдельных, ранее не взаимодействовавших систем в одну. Но повторюсь: интерпретации - это не научные теории. Это просто вопрос веры. Человеку хоть как-то хочется объяснить то, что он не может объяснить в привычных терминах.
aka352 Автор
Я раньше тоже был сторонником многомировой интерпретации, она казалась абсолютно логичной и непротиворечивой, решающей многие проблемы. Но чем дальше, тем больше я не хочу в нее верить - она обессмысливает существование )
Anarchist
Какое отношение сознание имеет к феномену наблюдателя?
aka352 Автор
С точки зрения подавляющего большинства современных физиков - никакого. Очевидно, что вы придерживаетесь аналогичного мнения, чем и был вызван этот вопрос-недоумение. У меня на этот счет есть свое, сугубо личное и субъективное мнение, поскольку я не привык всецело доверять учебникам по той простой причине, что с течением времени они имеют свойство переписываться. Возможно это мнение ошибочно, но это не мешает мне по ряду причин его придерживаться. Чуть выше я пытался донести эту точку зрения на аналогичный комментарий, но видимо безуспешно.