Это не критика искусственного интеллекта, а размышления на тему к чему может привести бездумное использование этого весьма полезного инструмента. Осознаём ли мы, что в погоне за прибылью держатели больших языковых моделей разрушают человеческий интеллект.
Не секрет, что генеративные трансформеры ничего не изобретают, а лишь используют большие языковые модели для генерирования (комбинирования) правдоподобных текстов. Соответственно, те, кто использует сгенерированные тексты без должного критического анализа, невольно теряют квалификацию, если, конечно таковая была. Тот, кто никогда не был квалифицированными специалистами, впадает в эйфорию, воображая, что теперь он может решать задачи, не обладая необходимыми знаниями.
Это будет работать до тех пор, пока действительно знающие люди стоят у руля разработок. А вот когда им на смену придут освоившие взаимодействие с ИИ, но не обладающие необходимой квалификацией для трезвой оценки результатов, полученных при помощи ИИ – вот тогда случится беда.
Так же известно, что от версии к версии в модели добавляются скрытые детерминированные механизмы (модель думает), улучшающие адекватность ответов. Соответственно, чем «умнее» становятся модели, тем больше в них добавляется человеческого фактора. Хорошо это или плохо? Для коммерческого продвижения точно хорошо. В любом случае человеческая предвзятость может накладывать свой отпечаток на ответы ИИ.
Пищей для моделей служат различные источники, достоверность сведений из которых не гарантирована. С генерацией программного кода дело обстоит получше, но в любом случае ничего нового придумано ИИ не будет. Максимум, что может случиться, так это некоторое улучшение (вырождение) результатов, если обучение моделей будет выполняться на результатах других генераций признанных наиболее удачными.
Так кто же всё-таки будет признан крайним: держатели больших языковых моделей или разработчики, подменяющие творческий труд шаблонными решениями от ИИ?
Вопрос, конечно, риторический. Из серии: кто виноват в истощении ресурсов, загрязнении планеты пластиком или в продвижении зеленых технологий, которые на поверку и не такие уж зелёные …
Комментарии (16)
ogregor
30.06.2026 13:42Буквально недавно смотрел передачу про Геродота, ещё в его времена старожилы жаловались что с появлением письменности эти все последыши совсем уж деградировали, теперь они ничего не помнят наизусть и стараются каждый раз сохранить свои мысли в этом вашем проклятом графоманстве. Есть над чем подумать?
Gneserg
30.06.2026 13:42В целом это глобальная проблема. В то же время у меня складывается впечатление (может обманывать), что за последние два-три года было сделано открытий больше, чем за предыдущие 10-20 лет.
SKaminskij Автор
30.06.2026 13:42Как инструмент обобщения ИИ позволяет быстрее продвигаться в исследованиях и это плюс, и вроде бы это действительно эффективно двигает прогресс. Но, сам ИИ открытие не сделает, поскольку не сможет это заметить. Пока это прерогатива только «человека-знающего». Главное, чтобы знающие не перевелись, раньше, чем ИИ научится понимать, что сделал открытие. … К чему это приведёт … и хорошо ли это …
vladf
30.06.2026 13:42Должна быть ссылка на прекрасный рассказ на эту тему: Александр Лесь «Шпаргалка»
aamonster
30.06.2026 13:42разработчики, подменяющие творческий труд шаблонными решениями от ИИ
Так-то шаблонные решения прекрасны, их легко понимать и удобно поддерживать, привет GoF. Но всё равно необходимость творческого труда вылезает.
foss22
Почему воображая? Решают же задачи. Не обладая знаниями, а только доступом к модели. 10 раз из 10. Быстрее в разы, чем знающие.
Модели учатся не у тех кто стоит у руля.
Оценить результат большинстве случаев проще, чем реализовать сложную систему его достижения. Ракета попала в цель - оценить проще, чем спроектировать её.
m0tral
Собрать какую то хрень это чудо может сейчас, что то серьезное - приходится разбираться в деталях, понимать тонкости и тыкать ее рылом, так что нет, я в принципе не расстраиваюсь, мне экспертной работы хватит с этими системами как и моему поколению разработчиков. А вот откуда будут появляться следующие, если не надо джунов - посмотрим.
UserSergeyB
Всё будет хорошо с джунами. Мы переписывали код пока не заработает. Они будут переписывать промпт пока не заработает. Вот и вся разница.
vladf
Чтобы задавать правильные вопросы (ставить задачи) нужно понимание проблемы. Угадыванием можно решить простые типичные случаи. В чем-то сложном перебор не сработает.
UserSergeyB
Вы наверное уже забыли, что в начале вашего профессионального пути правильного понимания проблемы у вас тоже не было. Никто не рождается с багажом знаний.
vladf
Но и задачи давали учиться, разбираться во всех шагах. Медленно от простого к сложному. Представьте, что за вас все курсовые и другие задания делает умный помощник. Многому научитесь? А в один момент окажется, что помощник не справляется и найти гораздо лучшего нельзя. А вы в 2 прыжка уже университет вроде как закончили и должны результат показывать.
UserSergeyB
Часто вы вникаете в ассемблер, когда надо показывать результат, а ваш "промпт на языке C++" не работает?
vladf
Это разные вещи. Код на С++ достаточно детерминированный. И позволяет точно описать желаемый результат. Есть редкие исключения (от ошибок компилятора до низкоуровневой оптимизации). Но это точно не "спроси то, не зная что", как с подбором промтов без понимания общих принципов. И весьма большим простором для творчества ИИ.
UserSergeyB
Мы можем долго спорить. Я застал 15 лет коммерческой разработки до ИИ и полтора года после (на данный момент), и точно могу сказать, что искуственного идиота можно заставить написать то, что нужно, при всей его недетерминированности.
Сейчас у меня IDE стоит, чтобы нажать кнопку run. А скоро и этого не надо будет. Будем ставить вместо IDE локальную ИИ-модельку и заставлять её работать.
Да, сеньор с ИИ решит задачу быстрее в силу опыта. Но джунам дорога тоже не закрыта.
Поменялся инструмент. Путь остался тот же.
gaussssss
Прям сейчас наблюдаю как шарящий чел написал с нуля за 2 недели то что чел с ии писал года полтора. А писать с нуля пришлось потому что хрен разберешься в этом месиве)