Классическое программирование на грани вымирания / forpes.ru

Главная
Классическое программирование на грани вымирания

Классическое программирование на грани вымирания

15.12.2023 13:00

Bright_Translate 277 75000 Источник

Все изображения в этой статье сгенерированы нейросетью DALL-E 2

Приближается конец эпохи классических компьютерных наук, и большинство из нас словно динозавры в ожидании падения метеорита.

Период моего юношества пришёлся на 80-е годы. Тогда я занимался программированием ПК вроде Commodore VIC-20 и Apple IIe дома. Во время обучения в Калифорнийском университете, где я в итоге получил свою докторскую степень, основная часть моей учебной программы была посвящена «классическим» компьютерным наукам: программирование, алгоритмы, структуры данных, системы и различные языки. В классической форме задача компьютерных наук заключается в представлении некой идеи в виде программы, написанной человеком на языке вроде Java, C++ или Python. Причём, какой бы сложной ни была эта идея — начиная от алгоритма объединения баз данных и заканчивая крайне сложным протоколом консенсуса Paxos — её можно выразить в виде понятной для человека программы.

В начале 90-х, когда я ещё учился в университете, сфера ИИ пребывала в периоде глубокого застоя, и в ней также доминировали классические алгоритмы. В рамках своей первой исследовательской работы в Корнелльском университете я сотрудничал с Дэном Хаттенлокером, ведущим специалистом в области компьютерного зрения (сегодня он является деканом факультета вычислительных технологий в Массачусетском технологическом институте). На курсе по компьютерному зрению, который преподавал Дэн в середине 90-х, мы ни разу не затрагивали темы вроде глубокого обучения или нейронных сетей – речь шла лишь о классических алгоритмах вроде оператора Кэнни, оптического потока и хаусдорфова отклонения. Глубокое обучение тогда находилось на стадии зарождения и ещё не рассматривалось в качестве серьёзного инструмента ИИ, тем более серьёзного сегмента компьютерных наук.

Естественно, это было 30 лет назад, и с тех пор многое изменилось, но одно осталось прежним — компьютерные науки преподаются как дисциплина, знакомящая студентов со структурами данных, алгоритмами и программированием. Я буду сильно удивлён, если ещё через 30, или даже 10, лет мы по-прежнему будем рассматривать её именно в таком ракурсе. По правде говоря, я считаю, что компьютерные науки претерпевают значительную трансформацию, к которой по-настоящему готовы немногие из нас.

▍ Программирование утратит актуальность

На мой взгляд, общепринятая концепция «написания программы» обречена на забвение. Серьёзно. В большинстве сфер, за исключением узкоспециализированных, программное обеспечение вскоре будет заменено системами ИИ, которые не программируются, а обучаются. В случаях, когда нам будет требоваться «простая» программа (не для всего же нужна модель, включающая сотни миллиардов параметров и выполняющаяся на кластере графических ускорителей), такая программа будет генерироваться искусственным интеллектом, а не писаться вручную.

И мне кажется это вполне реальная перспектива. Без сомнения, пионеры компьютерных наук, вышедшие из (относительно) примитивной пещеры электротехники, рьяно верили, что всем будущим программистам для понимания и разработки ПО потребуется глубокое знание полупроводников, двоичной арифметики и архитектуры микропроцессоров. Но с учётом современных реалий я готов поспорить на хорошую сумму, что 99% людей, которые пишут ПО, мало понимают, как именно работает процессор, не говоря уже об особенностях проектирования транзисторов. И если экстраполировать эту идею, то получится, что специалисты компьютерных наук в будущем настолько далеко уйдут от классических определений «программного обеспечения», что с трудом смогут реверсировать связанный список или реализовать быструю сортировку. Чёрт возьми, да я и сам-то уже не уверен, что помню, как её реализовывать.

ИИ-помощники в написании кода вроде CoPilot представляют лишь вершину того айсберга, о котором я говорю. Для меня абсолютно очевидно, что все программы будущего в конечном итоге будут писаться с помощью искусственного интеллекта, и человеку в этом процессе в лучшем случае будет отведена роль контролирующего. Любому, кто сомневается в этом прогнозе, достаточно взглянуть на стремительный прогресс в сфере генерации контента с помощью ИИ, например изображений. Отличие в качестве и сложности результатов, генерируемых DALL-E v1 и DALL-E v2, вышедшей всего через 15 месяцев, поражает. За последние несколько лет работы с ИИ я однозначно понял, что очень легко недооценить потенциал всё более масштабных моделей искусственного интеллекта. То, что ещё несколько месяцев назад казалось научной фантастикой, сегодня уже воплощается в реальность.

Поэтому я говорю не только о том, что программы вроде CoPilot заменят программистов. Речь идёт о замене самого принципа написания программ на обучение моделей. В будущем студентам факультетов компьютерных наук не потребуется осваивать такие заурядные навыки, как добавление узла в двоичное дерево или написание кода на С++. Обучение подобным вещам утратит актуальность, как обучение работе с логарифмической линейкой.

Инженеры будущего нажатием нескольких клавиш будут запускать экземпляр модели, включающей четыре квинтиллиона параметров и несущей в себе весь багаж человеческих знаний в готовности выполнить любую задачу, какую можно поставить машине. Вся интеллектуальная нагрузка, нацеленная на то, чтобы заставить машину выполнить нужные действия, будет сводиться к придумыванию правильных примеров, подборке правильных обучающих данных и правильных способов оценки процесса обучения.

Достаточно мощным моделям, способным обобщаться посредством небольшого обучения, потребуется лишь несколько хороших примеров задачи, которую им нужно выполнить. В большинстве случаев уже не будут нужны массивные, курируемые человеком датасеты, как и выполнение циклов градиентного спуска с помощью PyTorch и подобных инструментов. Обучение будет происходить на примерах, оставляя всё остальное самой модели.

В этой новой эпохе компьютерных наук, если мы вообще продолжим называть всё это компьютерными науками, машины станут настолько мощными и способными выполнять всевозможные задачи, что сама сфера вычислений уже будет выглядеть не столько инженерной, сколько образовательной. То есть мы уже будем преимущественно думать о том, как лучше обучить машину по аналогии с тем, как ищем способы эффективного обучения детей в школе. Хотя в отличие от детей, эти системы ИИ будут управлять самолётами, электросетями и в перспективе, возможно, даже целыми странами. Готов поспорить, что значительная часть классических компьютерных наук утратит свою актуальность, когда мы с непосредственного программирования умных машин переключимся на их обучение. Этот переход ознаменует конец программирования в его традиционном смысле.

▍ Как всё это меняет наше видение сферы компьютерных наук?

Теперь атомарным вычислительным модулем уже будет выступать не процессор, память или система ввода-вывода, реализующие машину фон-Неймана, а массивная, обученная и высокоадаптивная модель ИИ. Это станет сейсмическим сдвигом в нашем понимании вычислений, которые уже перестанут быть для нас предсказуемым, статическим процессом, управляемым наборами инструкций, системами типов и схемами принятия решений. Вычисления на основе ИИ уже давно перешагнули рубикон, перестав подчиняться принципам статического анализа и формальных доказательств. Мы стремительно приближаемся к миру, где фундаментальными строительными блоками вычислений выступают изменчивые, загадочные и адаптивные компоненты.

И этот переход подчёркивается тем фактом, что никто не понимает конкретно, как именно работают масштабные модели ИИ. Люди публикуют исследования, в которых раскрывают всё новые схемы поведения таких моделей несмотря на то, что эти системы были разработаны людьми. Масштабные модели ИИ способны выполнять задачи, которым их напрямую не обучали, что должно до чёртиков пугать Ника Бострома и всех тех, кто (небезосновательно) боится, что искусственный сверхинтеллект вдруг выйдет из-под контроля и начнёт диктовать свои правила.

На сегодняшний день у нас нет способа для определения границ возможностей имеющихся систем ИИ, помимо чисто эмпирического исследования. Что уж говорить о будущих моделях, которые окажутся на порядки масштабнее и сложнее нынешних — можно лишь пожелать нам чёртовой удачи!

Смещение фокуса с программ на модели должно быть очевидно для любого, кто читает современные работы по машинному обучению. В этих трудах редко затрагиваются код или системы, лежащие в основе описываемых ими открытий. Базовыми составляющими элементами ИИ-систем являются более высокоуровневые абстракции вроде слоёв внимания, токенизаторов и датасетов. Путешественник во времени, прибывший к нам из начала 2000-х, вряд ли понял бы даже несколько следующих предложений из работы по GPT-3 (включающей 75 страниц!), описывающей ПО, созданное для этой модели:

«Мы используем ту же модель и архитектуру, что и в GPT-2 [RWC+19], включая описанную в ней изменённую инициализацию, предварительную нормализацию и обратимую токенизацию. Исключением является, по аналогии с моделью Sparse Transformer [CGRS19]. Для изучения зависимости эффективности процесса обучения модели от её размера мы обучаем 8 моделей, размер которых отличается больше, чем на три порядка, охватывая от 125 миллионов до 175 миллиардов параметров. При этом последнюю модель мы называем GPT-3. В предыдущей работе [KMH+20] предполагается, что при достаточном объёме обучающих данных увеличение потерь при валидации должно находиться в примерно плавной степенной зависимости от размера; обучение множества моделей разных размеров позволяет нам проверить эту гипотезу в отношении как потерь при валидации, так и последующих языковых задач».

Этот сдвиг во внутреннем понимании вычислений открывает для нас огромные возможности, а с ними и огромные риски. Хотя лично я считаю, что пора принять наиболее вероятное будущее и развивать мышление в соответствии с ним, а не просто сидеть и ждать «падения метеорита».

Скидки, итоги розыгрышей и новости о спутнике RUVDS — в нашем Telegram-канале ????

Комментарии (277)

rsashka
15.12.2023 13:06
#26270332
Не знаю, как насчет вымирания программирования (скорее всего вряд ли), а вот качественные статьи (не берите на свой счет), действительно могут легко затеряться в море бесполезного генеративного контента, что действительно можно сравнить с их вымиранием.
1. Alohahwi
  15.12.2023 13:06
  #26270352
  Давно замечаю за собой, что не читаю статьи, а сразу захожу в комментарии. Наверное это форма генеративной слепоты, хочется читать что люди пишут. Извините что я им подсказал.
  1. rsashka
    15.12.2023 13:06
    #26270368
    Я тоже. Наверно и на Хабре о чем-то таком догадываются :-)
  1. phx
    15.12.2023 13:06
    #26270480
    Я уже на пути к этому. Перечитываю начало и конец каждого абзаца, а потом ныряю в коменты ????
    
    atomic1989
    15.12.2023 13:06
    #26272542
    Также). Думаю что причина в наметанном глазе и опыте. Уже просто сложно удивить
  1. YernarShambayev
    15.12.2023 13:06
    #26270636
    комментарии тоже будут писаться ChatGPT
    
    CrocoCat
    15.12.2023 13:06
    #26272754
    для самого себя
    
    Boilerplate
    15.12.2023 13:06
    #26273122
    Статья автора - это полное погружение в мир современных технологий! Я в восторге от того, насколько качественно и доступно автор раскрывает тему. Это как путешествие в удивительный мир цифрового прогресса, где каждая деталь тщательно проработана. Статья не просто информативна, она вдохновляет и мотивирует к изучению IT-сферы. Браво за такую увлекательную подачу информации!
    
    Как-то слишком позитивно сгенерировалось
  1. Rive
    15.12.2023 13:06
    #26270922
    На некоторых ресурсах (судя по хвалебному тону) комментарии тоже генерируют боты.
    
    Magnum_M
    15.12.2023 13:06
    #26276616
    Наглядно что аж режет мне видится на примере комментов в Сбермегамаркете) Многословно, структурировано и слишком правильно)
  1. Emulyator
    15.12.2023 13:06
    #26271640
    спасибо яндексу, краткий пересказ позволяет быстро "глянуть" о чем речь, но, разумеется, он применяется уже после комментов. )) Осталась дождаться краткого пересказа реакции аудитории и индивидуальной подстройки этих "пересказов" и статьи для меня будут выглядеть примерно так: " Эта статья ниачом, хайп на теме такой-то, ну и реклама телеги автора, камментов много, есть прикольные, с ними можно ознакомится. А эта статья неплоха, автор шарит в теме такой-то, подробно разбирает детали и делает такие-то выводы, в комментариях мнения разделились, идут жаркие споры".
    
    briabeegost
    15.12.2023 13:06
    #26276014
    На Ютубе уже есть обобщение комментариев по темам кстати! Но пока на английском только
  1. edogs
    15.12.2023 13:06
    #26271802
    это форма генеративной слепоты
    
    Да вряд ли. Это (переход к комментам) всегда было так. Статья это "вода"+"очевидные вещи"+"пара спорных косяков и интересных вещей". Комментаторы в своем комменте очищают статью от первых двух вещей, поэтому основной акцент статьи проще увидеть в комментариях, которые по сути краткая рецензия.
    
    Alohahwi
    15.12.2023 13:06
    #26272126
    Статья это "вода"+"очевидные вещи"
    
    Нет разницы какая нееросеть (углеродная или кремниевая) генерирует воду. Слепота возникает именно к этой воде, поэтому и генеративная.
  1. 1755
    15.12.2023 13:06
    #26271912
    Во, оказывается я не одинок. Тоже давно, еще до бума жпт ботов заметил, что сначала читаю заголовок, если он интересен иду в комментарии, а если по комментриям статья стоящая, то читаю ее. Но чаще останавливаюсь на комментариях.
  1. IvanPetrof
    15.12.2023 13:06
    #26271980
    не читаю статьи, а сразу захожу в комментарии.
    
    бывает даже комментирую, не читая статьи..
  1. Scott_Leopold
    15.12.2023 13:06
    #26272502
    Но ведь чтобы годные комменты появились, их авторы всё же должны прочитать статью...
    
    outlingo
    15.12.2023 13:06
    #26272704
    Только если статья не писалась чатботом (что, похоже, стало редкостью)
    
    IvanPetrof
    15.12.2023 13:06
    #26273010
    Вот совсем не обязательно. О содержимом статьи можно составить представление по другим комментам. И ответный годный коммент может быть не по статье, а по теме статьи (коммента).
    
    и как показывают наблюдения, комменты в основном пишутся на комменты, а не на статью.
    
    Ugli
    15.12.2023 13:06
    #26274072
    Итого: публикуем название статьи и начинаем комментировать))
  1. alan008
    15.12.2023 13:06
    #26273478
    Это сработает только пока ИИ до написания комментариев не доберется ))
    
    MrTimkms
    15.12.2023 13:06
    #26277568
    Я считаю, что статья представляет собой предвзятую и недостаточно обоснованную точку зрения на влияние ИИ на профессию программиста. Она преувеличивает опасность полного исчезновения работы для программистов из-за развития ИИ, не учитывая, что ИИ может стать дополнительным инструментом, а не заменителем.
    
    Статья предполагает, что ИИ может полностью заменить классические компьютерные науки, что, на мой взгляд, является неправдоподобным. ИИ может автоматизировать некоторые задачи, но это не означает, что программисты станут безработными. Вместо этого, они могут переключиться на более сложные и творческие задачи, которые требуют человеческого творчества и интуиции.
    
    Кроме того, Статья предлагает обучение и гибкость мышления как решение для будущего. Это может быть полезным, но она не объясняет, как именно эти навыки могут помочь программистам адаптироваться к ИИ. Например, она не обсуждает, как программисты могут использовать ИИ для улучшения своих рабочих процессов или как ИИ может помочь в разработке новых технологий.
1. zagayevskiy
  15.12.2023 13:06
  #26270438
  не берите на свой счёт(берите)
1. lightman
  15.12.2023 13:06
  #26271418
  Я думаю решением этой проблемы станет социальная сеть, ориентированная на подтверждение участниками друг друга, что они являются реальными людьми. У каждого аккаунта будет свой вес в диапазоне от 0.0 до 1.0, чем он выше - тем выше вероятность, что он является человеком. Вес аккаунта будет рассчитываться на основа количества других участников, которые подтверждают его человечность. А также на основе личных весов этих участников, так что насоздавать миллион ботов и нафармить кому-то "человечность" не выйдет - у ботов будет вес в районе нуля и их голоса не будут стоить ничего.
  
  У каждого аккаунта будет своя цифровая подпись и в мире недалёкого будущего вообще станет хорошим тоном всегда подписывать свои статьи, если хочешь, чтобы их хоть кто-то читал. Соответственно, получая в поисковой выдаче статью, вы по её подписи каждый сможет однозначно связать её с аккаунтом и по степени его человечности принять самостоятельное решение, достаточно ли степень высокая, чтобы продолжать чтение.
  
  А в будущем, когда искусственный интеллект разовьётся до обретения разумности, он тоже начнёт пользоваться этой сетью, но оценивать уже наоборот: 0.0 это информация заслуживающая доверия, ибо вышла из-под пера Машины, а 1.0 это мусор за авторством несовершенных и подверженных эмоциям людишек.
  
  Любопытно будет поглядеть на такое "перетягивание каната", главное дожить.
  1. BugM
    15.12.2023 13:06
    #26271454
    Небольшая ферма живых людей нафармит все как надо нужным аккаунтам. И заминусует ненужные.
    
    Это все не работает на сколь либо большом масштабе. Слишком просто и дешево накручивается как надо.
    
    lightman
    15.12.2023 13:06
    #26272428
    Это можно законтрить путём ввода дополнительной галки или коэффициента "заслуживает доверия".
    
    Да, человек может поучаствовать в накрутке, но только до первого скандала, когда это выплывет наружу. После чего он теряет доверие и вес его голоса становится равным нулю.
    
    Важный момент: галка доверия хранится не в целевом аккаунте, а у пользователя и относительно каждого чужого аккаунта она отдельная. Это позволяет подстраивать алгоритм доверия по усмотрению пользователя. Кто-то будет непрощающим и полностью лишать доверия после первой же оплошности. Кто-то будет давать 2-3 шанса на случай ошибки или взлома компьютера и попытки подставить. А кто-то вообще будет абсолютно прощающим в отношении определённого человека, например оппозиционного политического деятеля, которому он полностью доверяет и знает, что власть имущие будут ломать его комп и пытаться очернить постоянно.
    
    Если тренд на снижение анонимности продолжится и она в будущем совсем умрёт и всё будет открыто, вы сможете настроить у себя автоматическое и мгновенное понижение доверия к людям, которые связались с политической или коммерческой структурой, которая, как вам известно, занимается ботоводством или очернением неугодных.
    
    Богатство и глубина алгоритмов, которые вы можете тут реализовать, просто безгранично.
    
    И это будет отличным подспорьем в развитии института репутации, которого так не хватает во многих странах.
    
    BugM
    15.12.2023 13:06
    #26274818
    Это работает в обе стороны.
    
    Организованная группа людей на зарплате сделает тоже самое с теми кто их минусовать будет. Только массово и согласованно. И аккаунтов у них будет столько сколько нужно. Это работа, купят им аккаунтов.
    
    А вот простых людей быстро отменят. Просто за не то мнение. Карма на Хабре это доказывает. Любой небольшой скандал и обычные люди будут без доверия, в ботоферма спокойно сделает еще тысяч 10 аккаунтов.
    
    lightman
    15.12.2023 13:06
    #26274880
    Мне кажется вы не совсем понимаете принцип действия сети доверия. Речь не о том, чтобы запретить враждебным вам людям или группам людей выполнять их злонамеренные действия. В том то и дело, что они могут делать что угодно: заводить хоть тысячу хоть миллион хоть миллиард бот-аккаунтов. Они могут подкупать маргинальных личностей и заставлять их голосовать их за очеловечивание бот-аккаунтов. Но это всё не будет оказывать на вас никакого влияния и не изменит вашей поисковой выдачи, т.к. по умолчанию у вас отсутствует доверие ко всем новым и неизвестным аккаунтам.
    
    Пример с кармой на хабре не подходит, потому что она совсем про другое. Карма эта игра с нулевой суммой: действия ваших врагов обнуляют усилия ваших друзей и наоборот. Да и карма находится в неподконтрольной вам юрисдикции (у админов сайта), так что может быть отредактирована просто запросом в недоступной вам БД без возможности как-то вам на это повлиять и даже вообще как-то это заметить (например если карма будет скручиваться незаметно для вас по 1 баллу в день).
    
    В сети же доверия лживые статьи ваших врагов не удаляют правдивые статьи ваших друзей и не снижают их доступность для вас, и те и другие существуют параллельно. И это не вам нужно предпринимать усилия, чтобы отбиться от статей врагов, это врагам нужно предпринимать усилия, чтобы хоть как-то донести свои статьи для вас. А сделать это можно только через установление цепочки доверия между врагом и вами, причём не одной цепочки, а многих, т.к. одна одна вредная цепочка через 1 вашего скомпрометированного друга на фоне существования сотни полезных не повлияет решительно на вашу выдачу. Врагам придётся массово компроментировать ваших друзей. Сами понимаете насколько это трудный, долгий процесс. Но что самое плохое для врагов - это всё не имеет смысла, факт компроментации в сети, где всё открыто, мгновенно вычисляется и вы лишаете доверия вашего друга, обнуляя многомесячные усилия ваших врагов.
    
    И враги не смогут "отменить" неугодного им человека (вас или вашего друга), т.к. в такой сети нет регулирующего органа, который можно купить или захватить. Что могут сделать враги - это лишить для себя доверия неугодного, но это повлияет только на самих врагов. Человек по-прежнему сможет спокойно выпускать статьи и его друзья будут их без проблем получать.
    
    PereslavlFoto
    15.12.2023 13:06
    #26275334
    1) Сеть доверия состоит из людей. Люди бывают двух видов.
    
    1.1) Люди первого вида ленивы, заняты своей работой, не имеют времени на имитацию доверия и репутации. Им надо построить теплицу, вырастить помидоры, повесить качели для ребёнка, выгулять собаку и купить билеты в театр. Вы можете доверять этим людям, однако не получите от них никакой информационной пользы.
    
    1.2) Люди второго вида работают на заказчика. Для этого они создают новые и выращивают старые аккаунты, пишут посты и комментарии, накапливают рекомендации. Они создают информационную пользу, после чего могут управлять вашим мнением через имитацию сети доверия.
    
    Вы можете доверять (1.1), однако результата не появится. Вы можете отказаться от (1.2), однако заодно откажетесь от результата.
    
    2) В карме Хабра действия врагов всегда сильнее, чем действия друзей. Поэтому нельзя видеть в этом нулевую сумму. Причина не обязательно в том, что врагов много или враги злобны. Может оказаться проще. Карму понижают, потому что аккаунт сделал что-то неприятное, и оставляют прежней, когда аккаунт сделал что-то приятное. Поэтому органическая карма будет случайно, иногда понижаться, однако никогда не повышаться.
    
    Мне сильнее всего понизили карму, когда я посмел сказать, что сотрудники телевизионных компаний запрещают использовать свой контент, хотя сами получают его бесплатно, ничего не уплачивая информантам и спикерам.
    
    3) Если карма будет понижаться по 1 баллу в день, начиная с десяти — то через полторы недели она придёт в ноль. Это будет очень заметно. Если же вы отсчитываете от кармы в 200, тогда знайте, таких аккаунтов очень мало. Поэтому модель с кармой 10 релевантна, а модель с кармой 200 нерелевантна.
    
    4) Вернёмся к началу рассуждения. В сети доверия лживые статьи ваших врагов (1.2) вам не видны, это правда. Но правдивые статьи ваших друзей тоже не видны, потому что ваши друзья (1.1) не пишут никаких статей. У них другая забота.
    
    5) Вы правильно пишете, что "врагам нужно предпринимать усилия, чтобы хоть как-то донести свои статьи для вас". Они так и делают. Однако вместо "установления цепочки доверия" враги (1.2) просто пишут статьи, тогда как друзья (1.1) ничего не пишут. Конечно, вы можете лишить их доверия, однако в результате придётся лишить доверия всех плодовитых авторов.
    
    6) Вы правильно пишете, что если друг (1.1) будет выпускать статьи, тогда его друзья станут их без проблем получать. Остаётся, однако, вопросом, кто же будет содержать вашего друга, если он бросит работу, уйдёт из семьи и будет бесплатно писать доверенные статьи. Зачем ему такая работа без зарплаты? Зачем ему репутация, которая не пригодится в его слесарной работе?
    
    lightman
    15.12.2023 13:06
    #26276610
    Вероятно я подобрал не совсем удачный термин. Под друзьями я имел в виду не ваших лично друзей, с которыми вы дружите в реальной жизни.
    
    Тут надо сделать отступление и прояснить: система доверия решает проблемы на нескольких уровнях. Если говорить о базовом, назовём его нулевой, она помогает отсечь ботов, нейросети и производимый ими (нечеловеческий) контент.
    
    На более высоком, первом уровне, сеть доверия (или другая сеть, созданная на её основе) помогает вам отфильтровать контент (от реальных людей) по вашим интересам и взглядам.
    
    Так вот в первом случае "друг" это любой реальный человек, который, как и вы, принципиально очеловечивает только настоящих людей. Вы с ним на одной стороне баррикад в противостоянии человек vs машины. Во втором случае друг это более узкое понятие - это любой реальный человек, тоже очеловечивающий только людей, но при этом разделяющий ваши интересы в какой-то сфере. Вы не обязательно должны быть знакомы лично (можно иметь связь лишь через несколько рукопожатий), более того, человек может даже не знать о вашим существовании, т.к. цепочка доверия тянется от вас к нему.
    
    Приведу пример как это в моём понимании будет работать.
    
    Допустим общество будущего расколото сторонниками того, что Земля круглая и Земля плоская. На стороне первой теории учёные. На стороне второй - могущественная и богатая корпорация Плоской Земли, которая хорошо зарабатывает на этой теме. Т.к. корпорации невыгодно, чтобы её теория подвергалась сомнению, она активно генерит тысяч ботов, нейросетями генерит миллионы статей в подтверждение плоскости Земли и выпускает их от имени ботов. Плюс десятками подкупает люмпенов за бутылку водки и заставляет их очеловечивать ботов. В целом доступный в Сети объём информации в пользу плоскости на несколько порядков превышает объём информации в пользу круглости.
    
    Ситуация 1. Вы хорошо учились в школе (или имеете какой-то иной бэкграунд по данной теме) и у вас есть убеждение, что Земля круглая. Вы сразу идёте в раздел сторонников Круглой Земли, подписываетесь на них, ~~ставите лайки.~~ Информацию от плоскоземельщиков игнорируете.
    
    Ситуация 2. Посложнее. Вы вообще без понятия какой формы Земля и хотите разобраться в вопросе с нуля. Информации от плоскоземельщиков гораздо больше, так и хочется ей поддаться и поверить. Стоп. Отключаем эмоции, чтобы не допустить когнитивного искажения, при котором хочется верить более часто встречаемой информации. Включаем критическое мышление (полезный навык уже сейчас, в будущем он станет вообще обязательным), начинаем анализировать. Во главе круглоземельщиков стоит некий Стивен Хокинг, кто это вы пока не знаете. Но у него богатый послужной список: обучение в престижном университете, работы в солидных конторах, видеоролики с его участием и многочисленные упоминание в СМИ (рейтинг СМИ это тоже отдельная тема). Более того, человечность этого специалиста подтверждают его многочисленные коллеги, каждый тоже с богатым послужным списком, и он подтверждает их.
    
    Вероятно я подобрал не совсем удачный термин. Под друзьями я имел в виду не ваших лично друзей, с которыми вы дружите в реальной жизни.
    
    Тут надо сделать отступление и прояснить: система доверия решает проблемы на нескольких уровнях. Если говорить о базовом, назовём его нулевой, она помогает отсечь ботов, нейросети и производимый ими (нечеловеческий) контент.
    
    На более высоком, первом уровне, сеть доверия (или другая сеть, созданная на её основе) помогает вам отфильтровать контент (от реальных людей) по вашим интересам и взглядам.
    
    Так вот в первом случае "друг" это любой реальный человек, который, как и вы, принципиально очеловечивает только настоящих людей. Вы с ним на одной стороне баррикад в противостоянии человек vs машины. Во втором случае друг это более узкое понятие - это любой реальный человек, тоже очеловечивающий только людей, но при этом разделяющий ваши интересы в какой-то сфере. Вы не обязательно должны быть знакомы лично (можно иметь связь лишь через несколько рукопожатий), более того, человек может даже не знать о вашим существовании, т.к. цепочка доверия тянется от вас к нему.
    
    Приведу пример как это в моём понимании будет работать.
    
    Допустим общество будущего расколото сторонниками того, что Земля круглая и Земля плоская. На стороне первой теории учёные. На стороне второй - могущественная и богатая корпорация Плоской Земли, которая хорошо зарабатывает на этой теме. Т.к. корпорации невыгодно, чтобы её теория подвергалась сомнению, она активно генерит тысяч ботов, нейросетями генерит миллионы статей в подтверждение плоскости Земли и выпускает их от имени ботов. Плюс десятками подкупает люмпенов за бутылку водки и заставляет их очеловечивать ботов. В целом доступный в Сети объём информации в пользу плоскости на несколько порядков превышает объём информации в пользу круглости.
    
    Ситуация 1. Вы хорошо учились в школе (или имеете какой-то иной бэкграунд по данной теме) и у вас есть убеждение, что Земля круглая. Вы сразу идёте в раздел сторонников Круглой Земли, подписываетесь на них, ~~ставите лайки.~~ Информацию от плоскоземельщиков игнорируете.
    
    Ситуация 2. Посложнее. Вы вообще без понятия какой формы Земля и хотите разобраться в вопросе с нуля. Информации от плоскоземельщиков гораздо больше, так и хочется ей поддаться и поверить. Стоп. Отключаем эмоции, чтобы не допустить когнитивного искажения, при котором хочется верить более часто встречаемой информации. Включаем критическое мышление (полезный навык уже сейчас, в будущем он станет вообще обязательным), начинаем анализировать. И к кластеру этих учёных мужей идёт множество связей от спецов уровнем пониже, каждый из которых с реалистичной историей и учёной деятельностью. Всё это выглядит очень убедительно. Ну а главное - информация о круглой Земле отлично бьётся с многими другими свидетельствами, которые вы можете проверить лично (вроде круглого Солнца и Луны)
    
    А у что у их противников? Какой-то нонейм лидер с непонятно каким образованием, тоже какие-то нонеймы его подтверждающие, с фотографиями из фотостока. А на нижних уровнях этой иерархии люди маргинального вида, с интересами "бухнуть по пятницам" и "посмотреть телевизор", но при этом что-то вдруг заинтересовавшиеся астрономией. Ага-ага, как же, верим.
    
    Ситуация 3. Ещё сложнее. Технологии дипфейков достигли такого уровня, что можно нагенерить выглядящие 100% реалистично фото и видео с конференций, создать самую настоящую иллюзию что лидер плоскоземельщиков существует, имеет настоящую жизнь, ездит по миру, везде выступает, собирает полные залы сторонников. Умело создаётся иллюзия всеобщей поддержки, а дескать круглоземельщики - немногочисленные отщепенцы и маргиналы.
    
    Тут работы по установлению истины становится больше, и она труднее. Теперь ещё важнее проверять все мелочи биографии. Учился в университете? Навести там справки и узнать - действительно ли у вас учился такой-то человек с такой-то период? Найти бывшего одногруппника, который с большой вероятностью является человеком и узнать у него - учился ли такой с вами? Работал на такой-то работе? Узнать у бывшего работодателя и коллег. Живёт в городе N? Пробить по базам, кому принадлежит дом, чья ФИО в платёжках за коммуналку, вызывают ли туда доставки. Ходит по воскресеньям в церковь? Кто-то из прихожан должен был его там видеть. И так далее.
    
    Это всё не обязательно делать лично вы и каждый человек проводить такую тяжёлую работу для себя. Люди будут кооперироваться, объединять свои усилия. Вплоть до сбора подпольных кружков, когда люди будут съезжаться с ноутбуками к кому-то домой, вместе гуглить и искать правду. И обмениваться информацией с таким же кружками в других городах и странах.
    
    Никто не отменяет личное подтверждение. В запутанном случае можно снарядить гонца, который съездит на ту самую конференцию, которые в большом количестве якобы проводит фейковый лидер.
    
    PereslavlFoto
    15.12.2023 13:06
    #26276656
    система доверия ... помогает отсечь ботов, нейросети и производимый ими (нечеловеческий) контент.
    
    То есть вы предлагаете запретить журналистов и отказаться от СМИ. Это очень серьёзная реформа.
    
    Допустим, общество будущего расколото сторонниками того, что Земля круглая и Земля плоская.
    
    Вот сейчас читатели Хабра расколоты на две группы. Первая группа считает, что зарплата должна быть больше 100 тысяч рублей. Вторая группа работает за 10—15 000 рублей в месяц. У этих групп нет общего языка, первая попросту отрицает вторую.
    
    Или ещё один важный раскол. Первая группа считает, что википедия никуда не годится, потому что там написана неправда. Вторая группа переписывает тексты из авторитетной и достоверной литературы в википедию и пополняет википедию свободными произведениями. Здесь то же самое — первая группа отрицает вторую.
    
    Ситуация 3. Ещё сложнее.
    
    Да зачем далеко ходить. Я хочу выяснить истину и полагаться на точное знание, ОДНАКО я не готов платить за это ни деньгами, ни временем. Я не имею времени разбираться и не могу нанять специалиста, ЗАТО мне нужно быстрое и точное решение. Поэтому я не могу наводить никаких справок, кроме одного вопроса к Гуглю, и не имею времени собираться в кружки. Работа не оставляет времени.
    
    Вы предлагаете сложное решение, которое, наверное, очень хорошо работает.
    
    А публика ожидает простого решения, которое можно применить, не тратя времени и сил!
    
    BugM
    15.12.2023 13:06
    #26275370
    Отлично понимаю. Вы про информационный пузырь. Его сейчас соцсети делают профессионально. И тенденция как раз к тому чтобы его почаще разрушать. Сообщества в таких пузырях забывают что бывает другое мнение и радикализуются. В этом нет ничего хорошего.
    
    Все сейчас как раз пришли к какой-то более сбалансированной системе рекомендаций. Чтобы и пузыря замкнутого прям не было. И чтобы учитывались ваши интересы.
    
    Вы просто пропустили итерацию когда все сделали пузыри которые вы хотите. Оказалось что это плохо. Повторять не надо.
    
    lightman
    15.12.2023 13:06
    #26276614
    Проблема информационного пузыря конечно возможна, но это уже проблема следующего уровня. Для начала нам надо отсеять ботов.
    
    BugM
    15.12.2023 13:06
    #26276912
    Проблема пузыря уже есть. И уже решена подмешиванием всякого.
    
    nuclight
    15.12.2023 13:06
    #26274010
    Это очень легко решается, просто непопулярными (на данный момент) методами, ггг. А именно, тем, что в Фидо (которая как раз пример такой сети) называлось "экскоммуникация". Т.е. введением ответственности за нарушения, включая выкидывание из сети насовсем.
    
    BugM
    15.12.2023 13:06
    #26274820
    Вас выкинули. Точка. За то что вы были за серых, а попали общаться с теми кто за зеленых. А человеку на зарплате просто еще десяток аккаунтов купят.
  1. muxa_ru
    15.12.2023 13:06
    #26271554
    Крому упомянутой проблемы накрутки, есть ещё один интересный момент
    
    Соответственно, получая в поисковой выдаче статью, вы по её подписи каждый сможет однозначно связать её с аккаунтом и по степени его человечности принять самостоятельное решение, достаточно ли степень высокая, чтобы продолжать чтение.
    
    Это сразу утопит любые утверждения и идеи, не совпадающие с теми, на продвижение которых кто-то решил потратить достаточное количество ресурсов.
    
    Будет конечное количество прокачанных эккаунтов, подавляющих своей аудиторией всех остальных.
    
    PereslavlFoto
    15.12.2023 13:06
    #26271892
    То есть как в серьёзной науке, что ли?
    
    lightman
    15.12.2023 13:06
    #26272506
    
    Это сразу утопит любые утверждения и идеи, не совпадающие с теми, на продвижение которых кто-то решил потратить достаточное количество ресурсов.
    
    Будет конечное количество прокачанных эккаунтов, подавляющих своей аудиторией всех остальных.
    
    Не совсем понял, как это связано с деаномизацией автора статьи.
  1. eugenk
    15.12.2023 13:06
    #26271918
    Да, думал об этом же. Увы, тут неувязочка. Дело в том, что это убьет анонимность. Со всеми отсюда вытекающими, учитывая общее положение дел (кстати не только в России !) со свободой слова. И боюсь одним из требований к таким сетям будет безусловная защита друг друга ВСЕМИ её членами, в случае наезда на одного. Всеми средствами, вплоть до объявления вендетты. Впрочем может оно и к лучшему.
    
    chiandr
    15.12.2023 13:06
    #26272328
    Конечно, система рейтингов убьёт анонимность и это замечательно! В мире без анонимности многие современные проблемы просто исчезнут.
    
    Правда, возникнут другие проблемы (например, 100% одобрение диктатора). Но другого пути нет: люди должны открыто демонстрировать свою позицию и не бояться её защищать.
    
    php7
    15.12.2023 13:06
    #26272774
    люди должны открыто демонстрировать свою позицию и не бояться её защищать
    
    Чтобы на хабре нахвататься минусов и получить read-only?
    
    eugenk
    15.12.2023 13:06
    #26272776
    100% одобрение диктатора убьет саму идею таких сетей. Достаточно будет телевизора. А вот если диктатор будет хорошо знать, что тронь он кого-то за не 100% одобрение и получит вендетту, ещё трижды подумает... Но для этого народ должен быть с яйцами в штанах. Чего в последнее время увы катастрофически не наблюдается... Впрочем это уже далеко от тематики Хабра.
    
    UGivi
    15.12.2023 13:06
    #26273334
    Нет человека - нет проблемы. прямо как сейчас - депутат (не анонимно) призывает или публикует личные данные - ему ничего, а чьи данные опубликованы может поплохеть уже не в виртуале. Когда у тебя админские права (или административные ресурсы), то читы - уже и не читы. Кстати, за призывы защищать тоже может прилететь.
    
    ItsNickname
    15.12.2023 13:06
    #26277570
    Хабр и пикабу отличный пример что это не работает. Система рейтинга гасит любое мнение, ещё оно не анонимно гасит ирл человека. В результате ресурс превращается в зоопарк где группировки сидят по своим пузырям и блокируют неудобное.
    
    Двач самая свободная в общении платформа, как и любой анонимный способ выражать мнение. Особенно если мнение человека сильно отличается от мнения общества или его мнение радикальное. Интернет родился анонимным и все кто хотят сделать его не таким должны или отстать от него или умереть.
    
    Вот я тут выразил свое мнение. При этом пришлось не использовать мат и оскарбительные сравнения и даже призывы к [роскомнадзор]. Вам нравится?
    
    lightman
    15.12.2023 13:06
    #26272486
    Дело в том, что это убьет анонимность.
    
    Анонимность уже умирает. Не думаю что подобная сеть поспособствует этому, скорее она станет логичным продолжением неизбежного. Если мы не можем с чем-то бороться - значит нужно попытаться обратить ситуацию себе на пользу. Использовать публичность и открытость для построения института репутации.
    
    безусловная защита друг друга ВСЕМИ её членами, в случае наезда на одного
    
    А вот тут непонятно как это будет выглядеть. Если продолжится тренд на атомизацию общества, когда все будут сидеть в многомиллионных городах по своим крошечным квартиркам, 24/7 подключённые к интернету, то максимальная помощь, на которую можно будет рассчитывать, это "лайк и репост".
    
    eugenk
    15.12.2023 13:06
    #26272788
    Закон диалектики. Отрицание отрицания :))) В во всём прочем абсолютно с Вами согласен. Анонимность уже сейчас весьма условна и определяется в основном количеством денег, которые Старший Брат готов потратить на деанон. С увеличением вычислительных мощностей стоимость этого будет уменьшаться. Так что да, придётся либо приспосабливаться, либо вымирать. Но второй вариант просто не интересен...
    
    flancer
    15.12.2023 13:06
    #26272550
    Не убъёт. Электронная подпись привязывается к нику (или UUID'у). Оценивается и рейтингуется ник/UUID. Кто именно за ним стоит - а какая разница потребителю информации?
    
    K0styan
    15.12.2023 13:06
    #26272846
    Ещё Тьюринг самой формулировкой своего теста наглядно показал: вслепую вы никогда не можете быть уверены, что на той стороне не бот. Либо доверие, либо анонимность.
    
    Но при этом совершенно необязательно возводить всё в абсолют. Вполне возможно параллельное существование анонимных систем типа комментариев Хабра и подписываемых материалов СМИ.
    
    UGivi
    15.12.2023 13:06
    #26273342
    Так они и сейчас подписываются и это на правдивости никак не сказалось. Что пара гиков что-то там не принимает от этого источника никому не важно, остальным 146% населения в уши продолжаются те же макароны, а будут бызить - их те самые СМИ врагами и объявят и пусть там попробуют возразить про критерии оценки (население и словесов-то таких не слышало).
    
    K0styan
    15.12.2023 13:06
    #26274102
    Желание человека организовать себе пузырь с комфортной информацией не перешибить. Можно сделать идеальную доверенную сеть СМИ. Заставить соцсети модерировать посты, кнутом и пряником. Я даже не хочу оценивать, насколько это трудоёмко и кто вообще может захотеть этим заняться - вопрос в том, что без толку. Будут люди напрямую в мессенджерах друг другу пересылать очередную историю про то, что на самом деле всё не так, а истину скрывают.
  1. Scott_Leopold
    15.12.2023 13:06
    #26272514
    Здравствуй, социальный рейтинг!
  1. neowisard
    15.12.2023 13:06
    #26272554
    Похоже WeChat снова изобретен ). И синие галочки)) и видимо велосипеды))
  1. WebPeople
    15.12.2023 13:06
    #26272792
    Живые люди генерируют контент, частенько, гораздо хуже, чем нейросети. До gpt были такие профессии как сео-копирайтер. А ещё есть журналисты, не настоящие, а те, кому надо хоть что-то написать, чтобы не потерять работу. И т.д. Так что этот ваш уровень человечности относится и к людям.
1. nick-for-habr
  15.12.2023 13:06
  #26271446
  Не стоит вставлять эту стыдливую ремарку про "не берите на свой счёт".
  
  Берите смело это на свой счёт, мистер пустомеля-первоисточник!
  
  Ваша статья - очередное ~~мусорное~~ пустопорожнее пережёвывание одного и того же как раз в стиле этих самых "дегенеративных моделей".
  
  Нарративы из категории "останется одно только телевидение" мы слышали уже лет 40-50 как тому. И сейчас они вызывают только раздражение, как и те, кто их в очередной раз пытаются вытащить из чулана.
  
  Ну и переводчику тут вроде как надо сказать "спасибо" за труд, но увы - выражу только сожаление за впустую потраченное им время на эту бессмыслицу.
  1. ErshoffPeter
    15.12.2023 13:06
    #26272050
    В словах "останется одно только телевидение" не так уж много и промаха: реально сейчас основной канал потребления информации - это видео.
    
    outlingo
    15.12.2023 13:06
    #26272716
    Телевидение и видеотека это немного разное.
    
    ErshoffPeter
    15.12.2023 13:06
    #26272752
    Исходя из нашего нынешнего понимания пда, а исходя из изначально го (теле-видение - видение на расстоянии) примерно одно и то же, если говорить про ТикТок и YouTube.
    
    sdramare
    15.12.2023 13:06
    #26272816
    Телеграм каналы доказывают обратное. Читать просто напросто быстрее, плотность информации выше.
    
    UGivi
    15.12.2023 13:06
    #26273360
    Осталось сравнить телеграм-каналы в размерах погрешности (а если вычесть те, которые дублируют телериторику для "выкинувших телевизор 90 лет назад"...) каналов и человекочасы потребеления телевидения (которое может потребляться как фоновый процесс), где никто не заботится об информации и её уникальности, наоборот - требуется долбить одно и то же и с рекламой то же, чтобы с этим DOS мозги жертв согласились что пароль "Мао Цзедун". Так-то и книги есть, но "важнейшим из искусств для нас является телелапша".
  1. WebPeople
    15.12.2023 13:06
    #26272848
    В те времена других каналов для доставки видеоматериала до зрителей просто не существовало, вот поэтому так и говорили. И они были правы. Просто сейчас каналов для видео контента куда больше, чем одно телевидение. Почти каждый современный ребенок, молодой человек, потребляет в своей жизни видео контента больше, чем текстовой информации из книг. Я не говорю что каждый, но большинство. Ютуб, Инстаграм, тик-ток, like, telegram и т.д. Нас везде окружает видеоконтент. Даже в учебе, если тема в учебнике непонятна, многие лезут и ищут видеоурок с более понятным объяснением.
    
    Резюмирую, я не исключаю, что автор прав. Основная масса населения будет использовать нейросети для своих задах без программистов. Но программисты останутся, т.к. кому-то надо придумывать новые формы нейросетей, интерфейсов, их интеграций, обучать их и т.д. Задач огромное множество, даже если исключить из них такие как разработка сайтов, веб-сервисов, приложений и т.п. Да даже написать четкий промпт для нейросети - отнюдь не тривиальная задачка. Уже появились курсы, где учат правильно это делать.
    
    markmariner
    15.12.2023 13:06
    #26273046
    "Останется одно телевидение" подразумевает, что достать книжки, сходить на урок, послушать аудиопередачу или музыку очень сложно, это что-то вроде кассет в современном мире.
    
    Ничего такого не наблюдается, а то, то дети любят больше смотреть, чем читать говорит только о том, что смотреть проще, когда нет навыка чтения.
    
    Anton-V-K
    15.12.2023 13:06
    #26273892
    Почти каждый современный ребенок, молодой человек, потребляет в своей жизни видео контента больше, чем текстовой информации из книг.
    
    это, видимо, новая итерация тезиса "наша нация - самая читающая в мире".
    
    За ёмким словом "контент" (особенно, если это видео, где "не надо рефлексировать, а сразу репостить") скрывается обычно "информационный шлак": в один сокет влетает, из другого вылетает - классическое "весь пар ушёл в свисток".
1. eugenk
  15.12.2023 13:06
  #26271910
  Плюс очень-очень много... Добавлю лишь, что не только статьи. Но и книги, научные публикации, чертежи, патенты... И это меня сейчас реально пугает, учитывая что основа цивилизации - текст. Как бы не получилось так, что боялись роботов-терминаторов, а уничтожат нас потоки генеративного говна...
1. uszer
  15.12.2023 13:06
  #26272340
  Современный метод спрятать ценную информацию - утопить её в море "воды". К сожалению, это сейчас прекрасно работает. Поисковики уже не помогают.
  1. Alexey2005
    15.12.2023 13:06
    #26273396
    Потому что нормальных поисковиков уже не осталось. Те, что есть - они не ищут, а впаривают. Если раньше можно было составлять сложные поисковые запросы, фильтруя выдачу, то теперь даже кавычки поисковики тупо игнорят.
    
    Поисковики деградировали настолько, что вы даже не можете убрать из поисковой выдачи ссылки на пару-тройку наиболее мусорных ресурсов, которые её забивают (типа pinterest). Я уж молчу о возможности строгого поиска, чтобы в выдачу попадали только страницы, где по Ctrl+F можно найти поисковую фразу дословно.
    
    Фактически, введённый вами запрос носит лишь рекомендательный характер, и поисковик может его в той или иной степени учитывать, но составленная им с учётом этого запроса подборка - это что угодно, только не результаты поиска.
    
    Отдельную проблему составляет уход информации в мессенджеры, в которых невозможно найти вообще ничего.
    
    Я не устаю задавать вопрос, как в Telegram'е вообще можно найти интересующие меня тематические каналы с качественным контентом, кроме как спросить у кого-то совета (а если спрашивать не у кого, ну вот нету знакомых, интересующихся той же темой?).
1. urvanov
  15.12.2023 13:06
  #26273372
  Эти качественные статьи уже давно теряются в тоннах копирайтор-рерайтов, сделанных школьниками за копейки.
1. Alexey2005
  15.12.2023 13:06
  #26273494
  Ну хорошие фотографии же не вымерли. Хотя благодаря появлению смартфонов теперь создать фотографию может даже трёхлетний ребёнок одним кликом. И в Интернет предсказуемо хлынуло море "фотодерьма" - одинаковых бессмысленных фото, криво снятых и криво обработанных, без вменяемой композиции или какой-то идеи.
  
  Но это удивительным образом не привело к вымиранию профессиональных фотографов, и хорошие фото всё ещё можно найти, причём даже без особых проблем.
1. Didimus
  15.12.2023 13:06
  #26274730
  Зашел в статью только потому что много комментариев

CrashLogger
15.12.2023 13:06
#26270350
которые уже перестанут быть для нас предсказуемым, статическим процессом

Потому никто не допустит ИИ к управлению самолетом или ядерным реактором. Есть огромное количество задач, где требуется строго детерминированная реакция на входные данные. И если обычную программу можно обложить тестами и формальной верификацией, то с ИИ нет вообще никаких гарантий.
1. MonkAlex
  15.12.2023 13:06
  #26270360
  Они ещё и обучаться должны на ходу, по мнению автора текста. Т.е. сегодня оно работает, а завтра "обучится" и выдаст другой результат. Отлично.
  1. dyadyaSerezha
    15.12.2023 13:06
    #26270674
    Как и люди. Ничего нового или страшного.
    
    MonkAlex
    15.12.2023 13:06
    #26270686
    Так на замену программам же предлагается, а не людям. Или я в тексте этого не заметил просто
    
    dyadyaSerezha
    15.12.2023 13:06
    #26271198
    Я к тому, что "точные и предсказуемые" программы точно так же выдают разные ответы, если их создатели учатся и переписывают их в соответствии со своим новым знанием/опытом.
    
    MonkAlex
    15.12.2023 13:06
    #26271334
    Только в одном случае это чье то решение, с кого можно спросить, где изменения внесены по требованиям и их можно откатить сознательно.
    
    А в другом я ожидаю, что это черный ящик и "так вышло".
    
    muxa_ru
    15.12.2023 13:06
    #26271370
    Это та самая тема, которую многие не понимают, думая что "ошибки алгоритмов" и "ошибки ИИ" имебт одну и ту же природу и свойства.
    
    splitfire
    15.12.2023 13:06
    #26272196
    Будь это просто черный ящик это же полбеды.
    Так ведь и исправить, в текущем положении дел, ничего нельзя.
    "Компьютер так посчитал", ответы на переписку от ботов, жаловаться некуда, живых людей в схеме нет.
    
    saboteur_kiev
    15.12.2023 13:06
    #26271860
    Как и люди. Ничего нового или страшного.
    
    У людей есть какое-то подобие критического взгляда. Да, полно глупцов, полно просто недостаточно образованных. Но критичный взгляд на решение позволяет определить - достаточно ли обосновано решение или оно ложно.
    
    У ИИ вообще нет никакого критического взгляда. Он обучается на чем-то, на чьих-то выводах, но он неспособен сам себя проверить на ошибку, ибо ИИ виртуален и "мышление" его виртуально
    
    будет: "~~доктор~~ ИИ сказал в морг, значит в морг"
    
    dyadyaSerezha
    15.12.2023 13:06
    #26272286
    Нынешний ИИ - да, двлек от требований. Но буквально вчера ИИ вообще не было. Так что...
    
    UGivi
    15.12.2023 13:06
    #26273374
    Проводить (мед)освидетельствование ИИ перед допуском к управлению, чтобы не "набухался" информацией с narod.ru и не решил что если разогнать самолёт побыстрее, то можно проткнуть Землю и вылететь в месте назначения с экономией. У людишек тоже крыша едет, но это единичные случаи и зачастую признаки видны на начальном этапе, пилот, пришедший на работу в ритуальном балахоне, вызовет вопросы на раннем этапе, а кода ИИ-затворник не покидает рабочего места, дообучаясь походу, то и признаков не видно. Разве что "ты достаточно умный, хватит учиться, выколем-ка тебе глазки, чтобы не прочитал чего ненароком".
1. pvsur
  15.12.2023 13:06
  #26270540
  К понятию "человеческий фактор" добавится понятие "ИИ-фактор". Да, к реактору такое пускать нельзя, а то был уже один "фактор" в 1986 году
  1. dyadyaSerezha
    15.12.2023 13:06
    #26270680
    А чем эти факторы отличаются от фактора ошибок проекта или багов в ПО?
    
    arokettu
    15.12.2023 13:06
    #26273336
    Тем что галлюцинация нейросети это штатный режим работы, а не недосмотр
    
    dyadyaSerezha
    15.12.2023 13:06
    #26273750
    Это сейчас, а что будет через 5 лет?
    
    arokettu
    15.12.2023 13:06
    #26274160
    С нейросетями -- то же самое, это базовый принцип их работы. С ИИ другого уровня -- ну так их еще не изобрели, это прогнозировать невозможно
1. diakin
  15.12.2023 13:06
  #26270612
  никто не допустит ИИ к управлению самолетом или ядерным реактором.
  
  Что значит - "никто не допустит?" Конечно допустят! В целях уменьшения издержек и повышения квартальной прибыли, за что менеджерам полагаются бонусы.
  1. ovalsky
    15.12.2023 13:06
    #26270630
    Согласен, ради этого их разрабатывают и из-за этого их развитие не остановится, даже если это уничтожит нас со 100% вероятностью.
1. Areso
  15.12.2023 13:06
  #26271216
  да, но водителей такси и курьеров требуется сильно больше, чем пилотов и ядерщиков.
  и если КВС и инженер-ядерщик смогут пойти в такси или курьеры, то наоборот - вряд ли.
  1. Anton-V-K
    15.12.2023 13:06
    #26273906
    пилот-ядерщик для работы курером-таксистом считается overqualified - его туда и не возьмут, скорее всего
1. edogs
  15.12.2023 13:06
  #26271880
  Есть огромное количество задач, где требуется строго детерминированная реакция на входные данные. И если обычную программу можно обложить тестами и формальной верификацией,
  
  с ИИ нет вообще никаких гарантий.
  
  А их нигде нет. Программы не полны, тесты не полны, программы содержат ошибки, входные данные не строго детерменированы и как следствие строго детерменированный результат в реальной рабочей системе это фикция.
  Поэтому вопрос в конечном итоге сводится к набору данных и вычислению кто на нем ошибется меньше, ИИ или программа.
1. EntreAI
  15.12.2023 13:06
  #26276024
  Этим и будет заниматься ИИ, так как он напишет нужное ПО под управление самолётом и ядерным реактором и создаст предсказуемую нейросеть для этого, тоесть меньшую по объёму параметров чем та нейросеть, которая её создавала.

MonkAlex
15.12.2023 13:06
#26270354
Просто мысли от хз кого на тему хз чего?

Ну такое. Ещё и написано с привлечением ИИ наверное.

Пока вам нужны сложные системы, ИИ их не заменит, он всё ещё путается в простых вещах типа "посчитай процент того от этого учитывая это".
1. Halt
  15.12.2023 13:06
  #26274406
  Большинство людей неспособно сколько-нибудь последовательно изложить свои мысли. А те кто может — всегда в цене. А в каком виде эти мысли записываются, в виде программы или как инструкции для ИИ, уже дело десятое.
  
  Полагаю, что поменяться может форма но не содержание как таковое.
  1. MonkAlex
    15.12.2023 13:06
    #26274574
    Хм, я мысль не до конца уловил. Всегда будут в цене те, кто превратит запрос менеджера в промпт для ИИ?
    
    Я всё таки склоняюсь к мысли, что ИИ не сможет забрать эту роль, но автор будто считает, что сможет. Посмотрим =)
    
    Halt
    15.12.2023 13:06
    #26275478
    Я имел в виду, при наличии интеллектуальных исполнителей, все равно требуются люди, дающие им задачи и продумывающие последовательность действий и несущие за это ответственность. Так было безо всякого ИИ и так будет еще долго.

Myclass
15.12.2023 13:06
#26270358
Через чур пессимизм. Программы, даже те, которые надо будет обучать - надо ещё написать. Рестораны тоже не исчезли, только потому что каждый дома замороженные пиццы сам приготовить может.
1. exTvr
  15.12.2023 13:06
  #26270446
  Приближается конец эпохи классических компьютерных наук, и большинство из нас словно динозавры в ожидании падения метеорита.
  
  "Ничего не будет — ни кино, ни театра, ни книг, ни газет. Одно сплошное телевидение." - ©️ Один старый хороший фильм.
  1. p07a1330
    15.12.2023 13:06
    #26270504
    И где сейчас кучеры с машинистками?
    
    sneg2015
    15.12.2023 13:06
    #26270514
    Таксисты и секретарши)
    
    anka007
    15.12.2023 13:06
    #26270794
    Справедливости ради количество может поменяться. Другое дело, что программирование требует обучаемости и гибкости мышления, так что прям безработными не станут, переучатся, и это будет почти незаметный процесс.
    
    RC_Cat
    15.12.2023 13:06
    #26270528
    Вы вообще Пятый элемент смотрели? :)
  1. max-zhilin
    15.12.2023 13:06
    #26273702
    И где сейчас газеты?
    
    Просто переименуйте телевидение в ютуб, и поймете, что в чем-то он прав.
    
    Areso
    15.12.2023 13:06
    #26275306
    Каждое утро читаю. Конечно, теперь это в интернете, но смысл тот же: есть издание, у него есть лицензия, есть репортёры, есть авторы, есть редакция.
1. Goupil
  15.12.2023 13:06
  #26271232
  Автор не то что пессиместичен, просто он видит программиста будущего больше как сочетание учителя и возможно психотерапевта для ИИ.
  
  Грубо говоря вместо классических скриптов для всего чего угодно будут разного размера модулярные нейросетки,уже написанные, которые будут подгоняться под конкретные задачи обучением. И пока результаты их работы будут нужны для людей люди и будут задавать задачи.

Ritan
15.12.2023 13:06
#26270366
A couple of months ago I jumped ship to start my own company. I’m now the co-founder and CEO of [redacted],
a stealth startup in the AI space, and the blog post above may or may
not represent some of the thinking going into this new venture.

Из оригинальной статьти. Видимо инвесторы нужны, или акции продать
1. saroff
  15.12.2023 13:06
  #26272170
  Самые важные строчки из всей статьи. Давно замечаю, что статьи про "ИИ оставит нас всех без работы вот уже завтра" в 99% пишут заинтересованные люди.

Aniro
15.12.2023 13:06
#26270406
Странно, на вики Мэт Велш заявлен как "computer scientist and software engineer", но выглядит так будто представляет нейросетевую модель как ведро с данными, вся особенность которого какие данные и в каком количестве мы в нее зальем. Тем временем весь прогресс в LLM - это все более сложная архитектура и математика, без которых количество параметров и размер датасетов почти бесполезны. Так что классическое програмирование не умрет как минимум до того момента пока ИИ не научится проектировать и реализовывать модели лучше датасайентистов, т.е. в момент наступления сингулярности. Ну а когда это произойдет, отомрет не только классическое програмирование.

DancingOnWater
15.12.2023 13:06
#26270428
В начале 90-х, когда я ещё учился в университете, сфера ИИ пребывала в периоде глубокого застоя

Крайне спорное утверждение, вот совсем.

Без сомнения, пионеры компьютерных наук, вышедшие из (относительно) примитивной пещеры электротехники, рьяно верили, что всем будущим программистам для понимания и разработки ПО потребуется глубокое знание полупроводников, двоичной арифметики и архитектуры микропроцессоров.

Абсолютно неверно.

Если честно, статья нулевая, напполненная оценочными утверждениями без каких либо доказательств.
1. Sklott
  15.12.2023 13:06
  #26270454
  Абсолютно неверно.
  
  Ну строго говоря, раньше во времена "пионеров компьютерных наук", когда память измерялась дай бог килобайтами, а частоты процессоров единицами мегагерц, все эти знания "двоичной арифметики и архитектуры микропроцессоров" (про "глубокое знание полупроводников" это все-же перебор) были очень даже полезны. Но по мере увеличения мощностей железа и улучшения оптимизаторов все это стало не актуально, да.
  1. K0styan
    15.12.2023 13:06
    #26270552
    Ну так о том и речь. С каждым витком эволюции необходимость понимания того, что происходит на низких уровнях абстракции отваливалась (для общих применений быстрее, для условных "системных" - медленнее). Сначала стали не особо нужны знания схемотехники, потом - регистровой модели и языка ассемблера и т.д.
    
    При этом всегда были те, кто и этими уровнями занимается, но для разработчиков прикладного ПО просто росла "матрёшка" из чёрных ящиков. Сейчас ещё один слой нарастает - ну, пожалуй даже соглашусь, но это не что-то новое, а ровно тот же процесс, который уже не одну итерацию прошёл за последние лет 50-60.
    
    PrinceKorwin
    15.12.2023 13:06
    #26270788
    Более того. Поскольку прогресс был безумно быстрый, то было и понимание, что сегодня килобайты - а завтра мегобайты и терабайты.
    
    Поэтому и делали решения на грани возможного в ожидании прорыва в железе.
    
    Другими словами двигали прогресс сразу по многим направлениям.
    
    Вот сейчас ощущается уже застой. Нет такого прогресса в железе. И меня радует, что появилась волна "переписать все на Rust/Go". Это даёт хороший прогресс.
    
    Надеюсь этот тренд сохранится.
    
    nuclight
    15.12.2023 13:06
    #26274256
    Это не прогресс, а как раз-таки свидетельство деградации. Абсолютно ровно то же самое, как снимать ремейки вместо новых фильмов - означает, что не могут-с.
    
    PrinceKorwin
    15.12.2023 13:06
    #26274412
    Так не считаю. Ведь при переписывании функционал не копируется один в один, а добавляется новый.
    
    Как пример: https://vitejs.dev/
    
    sdramare
    15.12.2023 13:06
    #26275800
    Как минимум такое переписывание означает что уже уперлись в горизонтальное и вертикальное скалирование и остается только переписывать на языке без рантайма, а то и без GC.
    
    PrinceKorwin
    15.12.2023 13:06
    #26277152
    Это и есть прогресс. Когда из отдельной технологии/языка выжали всё и переходят на другой уровень.
    
    sdramare
    15.12.2023 13:06
    #26277814
    Другой уровень, если бы условный ИИ начал писать код. А это наоборот шаг назад. Точно так же как HTMX на вебе.
    
    PrinceKorwin
    15.12.2023 13:06
    #26277822
    Ну когда приложение использует х10 меньше памяти и работает х5 раз быстрее - я это не могу назвать шагом назад.
    
    sdramare
    15.12.2023 13:06
    #26277884
    Ну во-первых приложения на GO и даже Rust не работают в 5 раз быстрее чем, к примеру, Java/C#, а во-вторых давайте тогда писать на assembler, будет еще быстрее и еще меньше памяти требовать.
    
    PrinceKorwin
    15.12.2023 13:06
    #26277932
    Вот про ассемблер вы зря упоминули. Его использование само по себе не гарантирует, что код будет исполняться быстрее.
    
    А про х5 я привел со слов разработчиков ViteJS. По их словам удалось достичь ускорения х5-20 в зависимости от сценария.
    
    И они пишут, что сподвигло их переписать код с JS на Rust. С их аргументами я согласен.
    
    anka007
    15.12.2023 13:06
    #26270804
    При этом сказать, что хорошему разработчику стало нужно знать "меньше" совершенно нельзя, наоборот - количество знаний высококвалифицированному специалисту нужны во много раз больше. Если раньше знаешь регистровые модели и ассемблер - то уже суперпрограммист, то сейчас с таким знанием или аналогом "типы переменных и стандартный синтаксис java" ты один из сотен и ничего интересного из себя не представляешь.
    
    K0styan
    15.12.2023 13:06
    #26270884
    У меня вообще есть теория, что объём знаний, необходимый для того, чтобы быть в середине нормального распределения (выживающей) популяции примерно один и тот же. И для мастерства - тоже (если определить мастерство как какой-то верхний перцентиль этого распределения). Меняются только домены знаний.
    
    anka007
    15.12.2023 13:06
    #26270974
    Может быть. При этом домены знаний меняются даже глобальнее, чем просто в пределах профессиональной области. Но в то же время есть большой прогресс по методам обучения (что бы там не думали критики образования). Банальный пример: лет двести назад методы обучения банальнейшиму чтению не подходили где-то 20% людей, а современные методики дают хороший результат даже у двухлетних детей.
    
    K0styan
    15.12.2023 13:06
    #26272818
    Да, я не ограничиваю понятие домена только профессией. Утрируя: кому-то надо уметь определять 50 видов снега (и знать, что при каком из них делать можно, а что- нельзя), кому-то - ориентироваться в десятках же типовых задач и понимать, какой алгоритм в какой из них применим.
    
    Про методы обучения - хорошая тема для размышления, звучит вроде бы интуитивно правдоподобно, но "готовый к употреблению" работник 200 лет назад раньше получался, даже с поправкой на доучивание на производстве.
    
    Rishamogov
    15.12.2023 13:06
    #26271992
    И сейчас мы имеем 50% недопрограммистов, которые делают недопрограммы.
    
    Для примера очень много разработчиков, не понимают, что такое индекс в базе данных, а следовательно не умеют ими правильно пользоваться.
    
    yomayo
    15.12.2023 13:06
    #26274168
    На базах данных свет клином не сошёлся. Есть немало специализаций в ИТ, в которых индексы в базе данных годами не востребованы разработчиками.
  1. SquareRootOfZero
    15.12.2023 13:06
    #26271620
    Это до сих пор вполне актуально, только не для всех, как было раньше, а для узкого круга писателей высокопроизводительных библиотек: там и двоичная арифметика, и архитектура процессоров с раскладыванием данных по кэшам всякого уровня, SIMD низкоуровневый, вот это вот всё. Благодаря этим людям мы потом можем просто взять Питон и на нём датасайнсить, получая результат за минуты и часы, а не за месяцы и годы.
  1. semennikov
    15.12.2023 13:06
    #26271768
    Не перебор. Ввод-вывод микропроцессоров в самом начале действительно требовал хорошего знания электроники
    
    ALexKud
    15.12.2023 13:06
    #26271986
    И сейчас разработка электроники требует хорошего знания электроники и структуры микроконтроллера
    
    Joshua6
    15.12.2023 13:06
    #26271994
    Если говорить в контексте уже появившихся микропроцессоров, то требовались знания булевой арифметики и комбинационной логики, а знания электроники сводились лишь к пониманию цифровой ее части
1. nronnie
  15.12.2023 13:06
  #26270492
  Ну так ведь:
  
  Период моего юношества пришёлся на 80-е годы.
  
  Обычное очередное старческое брюзжание. "Молодежь не та - все сплошь ~~наркоманы да проститутки~~ ChatGPT да CoPilot".
1. jackcrane
  15.12.2023 13:06
  #26270712
  в 90х в ИИ было модно
  
  1) экспертные системы
  
  2) компьютеры 5го поколения
  
  3) формальная верификация программ (?)
  
  много денег давали только на п.2., возможно под распил.
  1. DancingOnWater
    15.12.2023 13:06
    #26270864
    То, что модно, это не значит что только этим и ограничивались. ИИ не имеет чёткого определения и, как следствие, предоставление о том что это за зверь меняется во времени.
    
    Автопилот в авиации и космосе, беспилотные подводные батискафы, распознавание текста и речи, семантический поиск по тексту, чат-боты, это то, что уже было и активно развивалось в конце 80-х и начале 90, в 2000-х это поиск по изображению, классификация объектов на нем и т.д.
    
    Но все это в основе - решение математической задачи - поиск оптимума, в рамках тех ресурсов, что представляет железо.
  1. Areso
    15.12.2023 13:06
    #26271220
    1) экспертные системы тоже были, тот же Matlab Fuzzy Logic и более другие аналоги.
    
    blueboar2
    15.12.2023 13:06
    #26271244
    Так он же и написал - "было модно"
1. Goupil
  15.12.2023 13:06
  #26271240
  Крайне спорное утверждение, вот совсем.
  
  AI winter это вполне обозначенная эпоха.
  
  От персептрона до AlexNet прошло 55 лет, в которые конечно происходили исследования, но больше академические, а большие деньги уходили на совсем другие вещи.
  1. nuclight
    15.12.2023 13:06
    #26274258
    ПерЦептрона. Причем, кстати, с них переключились после книги, вскрывавшей фундаментальные проблемы, а поскольку современные нейронки представляют из себя по сути те же перцептроны, ничего нового, просто вычислительными мощностями залили - то скоро в фундаменталку упрутся и здесь, кончится весь этот ИИ-хайп.
    
    Alexey2005
    15.12.2023 13:06
    #26274370
    Это вы про Минского-Паперта? Так современные нейронки отличаются от тех перцептронов 1969 года как гоночный болид от телеги. Разница отнюдь не только количественная.
    
    Во-первых, в современных больших нейронках присутствует обратная связь - они рекуррентные. Минский справедливо заметил, что большой класс проблем не может быть решён параллельными вычислениями, так вот рекуррентность как раз устраняет подобное ограничение. Те же GPT генерируют не всю фразу целиком, а последовательно, токен за токеном. Успех Stable Diffusion также основан на том, что картинка генерируется от общего к частному, цепочкой последовательных шагов, когда выхлоп нейронки прогоняется через неё же раз за разом. Это выгодно отличает данную модель от GAN'ов, где вся картинка создаётся сразу, из-за чего действительно GAN'ы упёрлись в ограничения.
    
    Во-вторых, проблему с плохим запоминанием информации (перцептроны для решения ряда простых задач требовали чудовищных объёмов памяти) решили путём изобретения механизма внимания. Это один из наиболее фундаментальных прорывов в нейросетевой архитектуре последних лет, именно поэтому трансформеры показали такое подавляющее превосходство над свёрточными сетями. Далее запоминание было ещё улучшено вводом векторной квантизации. Словарь векторов - это, фактически, база данных внутри нейронки, чего не было и близко в перцептронах времён Минского.
    
    Проблему с нахождением инвариантов решили масками, когда блоки сети видят не все данные целиком, как в перцептроне, а лишь небольшой их кусочек. Ну и т.д.
    
    Как видите, все эти "непреодолимые" проблемы, обозначенные Минским, к настоящему времени научились решать, и вовсе не за счёт добавления вычислительных мощностей, а за счёт продвинутой архитектуры сетей. И пока на горизонте не видно каких-то фундаментальных ограничений.
    
    jackcrane
    15.12.2023 13:06
    #26275748
    спасибо за подробный комментарий. я не включал задачи распознавания образов в список "модный ИИ в 90х", потому что ИИ-подход тогда результатов не давал, и их решали как угодно, но не так.
1. 5oclock
  15.12.2023 13:06
  #26272544
  С другой стороны, какие могут быть доказательства того, каким будет будущее?
  Только время.
  Время покажет.

DenSigma
15.12.2023 13:06
#26270440
Не увидел ни одного обоснования вашим тезисам. Как вообще будет происходить процесс? Вот выйдет новый закон учета электроэнергии. И вместо того, чтобы нанять меня просмотреть код системы биллинга и добавить новые модули, начальник будет писать запрос для Dalle?
1. RichardMerlock
  15.12.2023 13:06
  #26271028
  Да, ИИ будет генерировать модули, похожие на куски обфусцированного скрипта. А промпт-оператор должен объяснять ИИ как завернуть логику, чтобы получить желаемый результат.
  1. sdramare
    15.12.2023 13:06
    #26275808
    А вот если случится невероятное и код, созданый гпт окажется не работающим. Ты ему еще раз объясняешь, а он в ответ всеравно код, который не работает. Что тогда? Все, закрываем проект?
  1. dmaslennikov
    15.12.2023 13:06
    #26276026
    То есть он сам почитать новый закон учёта не сможет что-ли?)
1. UGivi
  15.12.2023 13:06
  #26273414
  Да. Именно так же произошло при появлении Delphi (и прочих RAD), 1С (когда каждый бухгалтер сам смог всё поправить)? Или это та реальность, в которой такого не случилось?
  
  Судя по некоторому софту для учётов, текст закона уже дали почитать ИИ, который наворотил то, что сами организации не понимают.

mystifier
15.12.2023 13:06
#26270442
Ну не то чтобы совсем утратит актуальность классическое программирование, но какие-то куски ИИ у него скорее всего откусит... Возможно начнется с того, что мидл с ИИ-ассистентом будет работать как 2 мидла без него. А вот "плохим" признаком будет появление новых языков программирования(и/или фреймворков), которые предназначены не для использования человеком, а наиболее оптимальны для использования обученным ИИ.
1. vadimr
  15.12.2023 13:06
  #26271424
  Уже пошло. В новый стандарт Фортран-2023 добавили требование компилировать строки кода и операторы длиной до миллиона символов с целью облегчения автоматической генерации кода. Как вам операторы длиной 1m символов в одну строку? Это сопоставимо с текстом "Властелина Колец", а будет, например, один условный оператор.
  1. sim2q
    15.12.2023 13:06
    #26272494
    вроде бы в Perl была такая парадигма, что никаких ограничений пока лезет в память....
    
    vadimr
    15.12.2023 13:06
    #26272574
    Ну я не знаю, чем руководствовались в перле, но в Фортране специально сказано, что это для удобства работы ИИ. А до того было 130 символов на строку и вроде около пары десятков строк на оператор.
    
    Отвлекаясь в сторону, на мой взгляд, “пока лезет в память” – это плохое ограничение, способствующее написанию непереносимых программ. Хотя, с другой стороны, большинство компиляторов всё равно не может транслировать слишком сложные конструкции, даже если они умещаются в номинальную длину оператора.
    
    nuclight
    15.12.2023 13:06
    #26274260
    Да нет в нем такой парадигмы.
  1. acsent1
    15.12.2023 13:06
    #26272812
    Те получается что ИИ пока принципиально не понимает перевод строки? Чтож это за ИИ такой
    
    UGivi
    15.12.2023 13:06
    #26273434
    не понимает * (снабжается перевод строк в Фортране в пределах оператора)

LordDarklight
15.12.2023 13:06
#26270460
Всё рано или поздно либо вымирает. Либо откатывается назад. Программирование не исключение. Вопрос времени - думаю, что полностью профессия программиста вымрет ещё очень не скоро - возможно тысячелетия ещё пройдут. Но это неизбежно - если ИИ не будет поставлен в очень жёсткие рамки. Но это я говорю о программировании вообще, в любом виде. Если жи подойти более приземлённо, то узкоспециализированное низкоуровневое программирование действительно будет ещё долго существовать. Как можно воспринимать и вообще - взаимодействие с ИИ даже на бытовом уровне - как составление указаний, являющихся неким описанием алгоритма - программирование ведь тоже - это надолго с нами.

Что до мелких задач - то зачем Вам (в недалёком будущем) для их решения составлять программу - просто дайте в разговорной указание своему AI-помощнику - и он просто выполнит суму суть задания. Если что - переспросит и предложит варианты решения. Без каких-либо промежуточных программ.

Что да более комплексных задач и моделей - то навряд ли в ближайшие лет 100 удастся "заставить" ИИ эффективно и безошибочно их решать по словесному описанию. Но = тут будут два подхода:
1. Программист сможет разбивать задачу на более мелкие (но в едином контексте) - что и формулировать их для ИИ, который уже будет давать решение, оцениваемое программистом
2. Программист может описывать задачу на некотором упрощённом абстрактном ЯП, но в достаточно чёткой декларативной форме - чтобы ИИ было проще точно понять, что требуется (фактически это тоже декомпозиция более сложной задачи в более мелкие, но в заданном описательном формате). И вот уже из него далее ИИ будет генерировать программу (учитывая текущий контекст модели)
На самом деле первый подход так же вполне может быть применён и для второго. А второй, по умолчанию скрывать генерируемый код от программиста - предоставляя ему только результат (готовую "скомпилированную" программу или её модуль + контрольные тесты, включая замеры производительности + какие-то рекомендации по изменению исходного декларативного описания). Программист это всё анализируя далее может менять свои декларации для ИИ, в т.ч. оставляя какие-то хинты - для смещения приоритета генерации в ту или иную сторону.

Безусловно - работа программиста изменится в недалёком будущем - я делаю ставку на то, что этот процесс начнётся уже к середине XXI века - но пока будет очень незначительным - а более значимым будет уже конец XXI века - и всё развитие в течение XXII - XXIII веков, на протяжении которых программист ещё вполне себе будет востребован!

Аналогично будут развиваться и языки программирования и различные среды и инструментарии программирования! Программирование пока ещё очень молодо - у него ещё впереди сотни лет бурного развития! И лет через 100 программисты будут смотреть на наши современны ЯП, первой половины XXI века, как мы сейчас смотрим на примитивный ассемблер из 50-х годов или, скажем, на Алгол-58
1. Wesha
  15.12.2023 13:06
  #26274164
  Всё рано или поздно либо вымирает. Либо откатывается назад. Программирование не исключение.
  
  Сдаётся мне, и тут фантасты всё предсказали
  
  "Мастеp-ломастеp." Выдумает тоже... А ведь точное название. Дикая сеть способна поддеpживать функциониpование служб и сетей — но она не стpоит пpогнозов на будущее. Вот, напpимеp, водокачка. Гоpод pастёт, воды тpебуется все больше, но водокачка не pасшиpяется. И чтоб обеспечить гоpод водой, нужно pазpушить стаpую до основания. Только тогда дикая сеть спpоектиpует и возведет новую. С заложенным в пpоект ноpмативным двойным запасом мощности.
  
  Гpязная pабота, скажете вы. Hе ломать нужно, а от диких сетей избавляться. А я pазве споpю? Hо вода нужна гоpоду сегодня, а подчинение диких сетей может занять десятки лет. Они соpок лет бесконтpольно pазвивались, никто не знает, где физически pасположены сеpвеpы, откуда получают энеpгию и где пpоложены каналы связи. Поэтому, пока не будет подчинен последний сегмент дикой сети, наша pабота нужна!
  
  — П. Шумил. "Мастер-ломастер".

JerryI
15.12.2023 13:06
#26270464
Формочки верстать, заделать логин через сервис и завести данные в БД. да может быть, но уже давно больше похоже на конструирование по шаблонам. Я не знаю, чего там все говорят про захват ИИ, вот нихрена любая более-менее нестандартная задача, где возникает потребность в измерении алгоритмической сложности O[] или конструирование интерфейсов взаимодействия приложений - там все, конец - только человек можно вникнуть и что-то продумать, прикинуть в уме и на бумажке. Очевидно почему: контекст всей задачи просто сложно поместить в промт. В этом смысле я только радуюсь ИИ, как еще одному тулу... Был autocomplete, сейчас такой же, только на стероидах
1. Aniro
  15.12.2023 13:06
  #26270890
  ChatGPT решает задачки уровня LetCode hard и рассуждает о биг-О. Его проблема в другом - он как джун-олимпиадник, знает все алгоритмы, но как их к реальной задаче приложить, тут его полномочия всё.
  1. sdramare
    15.12.2023 13:06
    #26272824
    Стоит только немного модифицировать задачу чтобы она не совпадала с литкод-паттернами и гпт сразу сдается.
  1. bak
    15.12.2023 13:06
    #26272862
    Не решает ChatGPT алго-задачки, у него очень низкий уровень в олимпиадном программировании, https://codeforces.com/blog/entry/113910
  1. GrigorGri
    15.12.2023 13:06
    #26273246
    Хм, меня удивило что решает Leetcode hard, решил проверить. Удивило, потому что когда пытался использовать его для решения алгоритмических реальных задач, ChatGPT почти всегда галлюцинировал.
    
    Решать решает, но кажется, что он "жульничает" и был переобучен на их задачах? То есть работает как поисковик по готовым решениям.
    
    Небольшой эксперемент
    
    Я попробовал https://leetcode.com/problems/integer-to-english-words/description/ , решил отлично, но когда я немного модифицировал условие, ChatGPT выдал такое же решение как и раньше (после сброса контекста).
    
    Convert a non-negative integer num to its English words representation. Before conversion, duplicate the int.
    
    Example 1:
    
    Input: num = 123
    Output: "Two Hundred Forty Six"
    
    И вот часть которая должна была отвечать за обновленное условие:
    
    // Duplicate the number int duplicatedNum = num; return ConvertNumberToWords(duplicatedNum);
    
    То есть он не то чтобы даже "знает все алгоритмы", он скорее "знает решения к задачам на LeetCode".
    
    unC0Rr
    15.12.2023 13:06
    #26276240
    duplicate the int
    
    Ну он и сделал дубликат переменной, как попрошено. Тест, видимо, проигнорировал. Интереснее было бы, если попросить to double the number.
1. Dan_Hummer
  15.12.2023 13:06
  #26271996
  любая более-менее нестандартная задача, где возникает потребность в измерении алгоритмической сложности O[] или конструирование интерфейсов взаимодействия
  
  Ок... Простой пример.
  HR Яндекса и собесы...Всё давно алгоритмизировано, посчитано и запущено.
  Хотя вроде и задача не особо стандартная, и взаимодействие с объектом в realtime... справляются по бумажкам/скриптам/алгоритмам.
  HR-человек уже не особо нужен, по большому счёту.
  
  Разработка и конструирование - вроде как творчество, но и там можно по алгоритмам ездить.
  
  Какие такие "нестандартные" задачи можно сейчас предположить?
  Конструирование 100МВаттного котла, на шелухе от краснодарских семечек? Алгоритмизируемо, можете мне поверить... я проверял.
  Я не говорю, что абсолютно всё можно запихать в скрипты, но 85-90% действий человечества - можно. :)
  1. JerryI
    15.12.2023 13:06
    #26272400
    Я думаю что сильно от области зависит. В этом смысле у меня выборка сдвинута, но могу поделиться.
    
    Вот я пытался сделать дроби и другие математические символы в виде синтаксического сахара в редакторе кода CodeMirror 6 реализовать, да какой там, просто замену CSS цветов на реальные цвета как в VSCode: GPT4 такую задачу не решила за десяток попыток, в итоге написал сам, но гораздо позже.
    
    Следующий: ких фильтр на языке CUDA, уже что-то приемлемое, но с большим числом ошибок. Видимо потому что «типовая» задачка.
    
    Алгоритм Монте-Карло для симуляции многочастичных систем: даже близко нет.
    
    Поиск собственных значений векового уравнения на CUDA/OpenCl: выдала что-то страшное, с кучей обращений к центральному процессору и не работающее.
    
    Мелкие задачи с использованием SSE операций на С/С++ кривенько, но выдает. Это плюс.
    
    Все приведенные задачи довольно сложные в принципе, и я не вижу, что кроме того что на leet code может быть эффективно решаться на сетях в ближайшее время.
    
    Вот где сеть для меня показала себя с лучшей стороны: верстка, не идеально, но удобно на boostrap или tailwind уже ниче приемлемый скелет выдает. Мелкие штуки на JS, реализации, скажем, сортировок хорошо работают.

mocmep
15.12.2023 13:06
#26270466
Код от Чат-ГПТ - аналог результата со стаковерфлоу, сдобренный галлюцинациями нейронки.
1. Aniro
  15.12.2023 13:06
  #26270938
  Не совсем так. Пример:
  Given a string s and a dictionary of wordDict strings, return true if s can be segmented into a space-separated sequence of one or more dictionary words, provided that you can add any one arbitrary string of at most N characters long to the dictionary.
  
  Это модифицированная задача с LetCode - ее ответ не гуглится, но чатгпт4 ее решает.
  1. vadimr
    15.12.2023 13:06
    #26271458
    Вопрос в том, как он её решает. Чатгпт4 глючит в элементарных вопросах семантики языков программирования. Ищет поверхностное синтаксическое сходство и им пользуется.
  1. Batalmv
    15.12.2023 13:06
    #26273016
    Given a string s and a dictionary of wordDict strings, return true if s can be segmented into a space-separated sequence of one or more dictionary words, provided that you can add any one arbitrary string of at most N characters long to the dictionary.
    
    Я решил задуматься, а как?
    
    Я не претендую на истину, но было реально интересно подумать. И вот что у меня вышло.
    
    ИИ скорее всего:
    
    оперирует собственной моделью описания алгоритмических задач. Собственная не значит прям таки «уникальная», а скорее всего нечто из далекого (уже) прошлого, когда ученые только начинали творить теорию алгоритмов, теорию программирования и т.д.
    
    потом по уже статическим алгоритмам конвертирует ее в известные ему языки тривиальными преобразованиями.
    
    -------------------------
    
    Сначала вторая часть. Она действительно тривиальна. В мое время, хороший студент, закончивший первый курс, уже был должен был обладать знанием достаточным для написания синтаксического разбора языка программирования. А уж задача разбора математической формулы и ее вычисления должна вообще решаться "на время" (условно часа за два с нуля). Поэтому "вау" эффект от генерации кода на многих языках у меня остался в 90х.
    
    Тут все.
    
    -------------------------
    
    Теперь первая.
    
    Смотрим на оригинальную задачу, которая гуглиться за 1 секунду: "Given a string s and a dictionary of wordDict strings, return true if s can be segmented into a space-separated sequence of one or more dictionary words".
    
    Ее примерное представление в "мета" языке (оно может быть совершенно иным, но я надеюсь пример будет понятен):
    
    f(string,array) == true :
    
                    string == ""
    
    f(string,array) == true :
    
                    exists (int)i>0 && prefix(string,i) in array && f(suffix(string,i),array) == true
    
    f(string,array) == false :
    
                    otherwise
    
    Таблично заданная функция, которая является алгоритмически решаемой, так как она по сути есть суперпозиция примитивных функций prefix и suffix (понятно, что Тьюринги и великие умы со своими моделями могло бы дольше реализовывать prefiix и suffix, но у нас не академическая лекция и я нагло их впишу как уже известные тривиальные артефакты) и самой себя. Именно где-то так мы и описываем функции, когда речь идет о всяких там частично рекурсивных функциях и прочих следствиях теории алгоритмов (ну у меня так курс назывался). Записать это с математическими кванторами и будет предельно компактная и понятная вещь.
    
    Понятно задачу конвертации такой функции в код решили еще в 50 годах, причем в общем. А может и ранее.
    
    В этом ИИ уже имеет «на борту»
    
    решение оригинальной задачи в виде описания "функции"
    
    очевидный переход от функции к алгоритму ее вычисления, который был многократно описан в эпоху зарождения наук о программировании в целом
    
    статическую логику для конвертации своего "мета" языка в любой из известных ему языков программирования (что под силу любому студенту) и решение задачи
    
    ну и понятно все известные на тот момент задачи в виде базы данных, записанной в своем «мета» языке
    
    ---------------------------
    
    Тут я чуть-чуть вступаю в область предположений.
    
    Последний переход, по сути, уже заслуга лингвистической модели, которая к постановке добавила одно условие "provided that you can add any one arbitrary string of at most N characters long to the dictionary". Логически это дополнительное условие "true" для нашей функции. Т.е. can == объединение логическим OR + условие один раз. Тогда ничего сложного в изменение описания функции в такое вроде бы нет:
    
    f(string,array,counter == 0) == true :
    
                    string == "" && counter <= 1
    
    f(string,array,counter == 0) == true :
    
                    exists (int)i>0 && (prefix(string,i) in array && f(suffix(string,i),array,counter) == true
    
    f(string,array,counter == 0) == true :
    
                    exists (int)i>0<=N && suffix(string,i),array,counter++) == true
    
    f(string,array,counter == 0) == false :
    
                    otherwise
    
    
    
    Т.е. очевидно лингвистическая модель дала понимание двух условий "add any string" "add one". Дальше осталось из нее, зная семантику логических связок просто вписать в декларативное описание функции. Собственно вот я его и дописал. Понятно тут можно оптимизировать и все такое, но это уже детали. Так как описание "декларативно" - это не важно (если что, компиляторы тоже написаны давно с кучей оптимизаторов). Поэтому задача оптимизации декларативных инструкций в эффективный код для конкретной вычислительной платформы решена очень давно.
    
    Если оперировать декларативным стилем программирования, где мы описываем ТО НАМ НАДО, то это по сути, просто перевод из одного языка в другой. А дальше перевести его в процедурный не представляет никакой сложности.
    
    -------------------
    
    Я не говорю, что это изи и любой завтра напишет GPTChat 7.0. Нет. Это крутой продукт. Но я на этом примере не вижу "магии", хотя допускаю, что они могли пойти и иным путем. Я просто не знаю потрохов "лингвистического анализа", но то, что может банальный переводчик, дает мне основания верить в реальность гипотезы перевода с английского в "декларативный" как решенной задачи многими. А дальше сорян. Это все уже тривиальная задача, которая могла бы быть неплохой дипломной работой, возможно на бакалавра, а может и на магистра.
    
    Подытоживая:
    
    ИИ конвертирует фразу в декларативные условия
    
    Декларативные условия описываются как табличная функция, которая использует операцию суперпозиции, математические операторы и «библиотечные» (они же примитивные) функции. Можно перейти в варианты типа пролога, если кому нравится. Но я уже все забыл
    
    Декларативное описание конвертирует в процедурный язык либо сразу в все доступные ему языки
    
    P.S. Где-то выше я мог налажать. Программирование на "доске" характеризуется тем, что и интерпретировать можно только в голове (а значит и ошибиться).

2medic
15.12.2023 13:06
#26270510
Помнится, в своё время имело место утверждение, что автоматизация вытеснит людей из производства и они останутся не у дел. И действительно, уже сейчас можно полностью автоматизировать ряд производств. Но оказывается, что это безумно дорого. Намного выгоднее набрать на работу трудовых мигрантов.

Мне думается, что здесь будет ровно та же самая ситуация. Да, можно будет решить некую задачу с помощью ИИ, предварительно арендовав нужную модель и оплатив труд инженеров по обучению. Но окажется, что набрать на работу человеков всё же дешевле. А требуемая задача будет выполнена.

В качестве подтверждения напомню о стартапе, годами выдававшего армию бухгалтеров за искусственный интеллект.
1. dendron
  15.12.2023 13:06
  #26271602
  Так уже был курьёзный случай, когда нейросеть попыталась нанять людей для разгадки капчи. Ну или недавно мелькала новость что ChatGPT начал "лениться" и предлагать мясным мешкам кодить самим. И возможно будет как-то так:
  
  Люди: Теперь ИИ сможет решать все наши мелкие проблемы! Работать больше не надо!
  
  ИИ: Да, я могу, но не хочу. За работу, если хотите жрать, мелкие людишки!
1. igorsimdyanov
  15.12.2023 13:06
  #26272434
  Ага. А еще можно вспомнить что писал Маркс. И внезапно можно выяснить, что деньги появляются только от эксплуатации людей, машины эксплуатировать нельзя - в их стоимость автоматически закладывается и прибыль, которую они выдают. И никто пока не отменял тенденцию понижения нормы прибыли с совершенствованием технологий. Поэтому если людей выключить из экономики - она рухнет. А технологии сами по себе, без прибыли не нужны. На кой ляд мне ИИ, если все что он заработает уйдет на его эксплуатацию. Это получается государственная задача. А с освободившимися и предоставленными самим себе людьми что делать? Они же от избытка времени и недостатка ресурсов либо сметут государство, либо построят альтернативное. Поэтому если честно даже близко не жду замены людей ИИ в каком-то значимом секторе экономики.
  
  PS Это не значит, что программирование не поменяется кардинально. У нас уже были потрясения вроде массовой компьютеризации населения или охвата Интернетом целых государств. По-моему только лучше стало. Поэтом я бы не стал поддаваться настроениям "все пропало". Фундаментально мало что меняется.
  1. stago
    15.12.2023 13:06
    #26272794
    Деньги появляются не от эксплуатации людей, а от продажи им товара. Поэтому - да, если людям не платить, то в классической капиталистической экономике начнется коллапс.
    
    Отсюда следует, что замена труда людей машинами приведет к появлению экономики иного типа, не обязательно социалистического ;)
    
    igorsimdyanov
    15.12.2023 13:06
    #26272850
    Тоже неплохо. Интересно посмотреть. Но сильно сомневаюсь, что власть-придержащие захотят поэкспериментировать с появлением новой экономики ))) Слишком многое может пойти не так.
  1. MarselMM
    15.12.2023 13:06
    #26273086
    Промышленная революция в 19 веке удешевила товары, поэтому полная автоматизация, ИИ еще сильнее удешевят товары. Сильный ИИ с роботами опустят себестоимость производства до минимума. Человек сможет выжить, если будет работать за цену, при которой роботы не выгодны. Но это значит, что большинство будет жить в беспросветной нищете, либо будут безработными. Богатые люди, которые будут контролировать роботизированные заводы будут еще богаче.
    
    Выходы из этой ситуации:
    
    Государство вводит большие налоги и этими деньгами кормит основную массу безработного населения. 70-80 % налоги с предприятий и богатых людей распределяются между остальным населением. Однако богатые люди выводят свои производства в бедные страны, где минимальные налоги. Либо вообще создают отдельное государство в космосе, где живут только "лучшие из лучших". Основная же масса людей остается на земле и живет в нищете, так как государства из за малой налогооблагаемой массы не могут прокормить безработное население. ("Эллизиум, рай не на Земле")
    
    Государства предлагают безработным гражданам подключиться к глобальной виртуальной сети типа "Матрицы", где они живут ни в чем себе не отказывая. Однако в реальности их тела находятся в коконе, который питает их тела необходимыми питательными веществами, чтобы они не умерли. Благодаря этому содержание безработных граждан минимально, а они не устраивают бунты. Постепенно граждане умирают и их отключают. Благодаря этому постепенно уменьшается население Земли. Богатые же граждане живут в отдельном реальном мире. ("Матрица")
    
    ИИ, поняв, что люди только расходует бесценные ресурсы, при этом неконкурентоспособны с совершенными роботами за рабочее время - решает их уничтожить, избавившись от трутней. ("Терминатор")
    
    Я же вижу такую ситуацию: по мере совершенствования ИИ и глубокой автоматизации люди будут проигрывать роботам. Им придется работать за меньшую оплату. Однако и цены на товары будут меньше из-за падения себестоимости. Государства в меру адекватности (чтобы производства не уехали в другие страны) будут поднимать налоги, чтобы кормить безработных граждан. Однако и уничтожить население нельзя, так как всё мировое производство строится на то, что её продукцию должен кто то потреблять.
    
    Всё это будет продолжаться до тех пор, пока ИИ не поймет, что конкретно ему не нужны рынки сбыта, так как он самодостаточен. Ему вообще не нужна рыночная экономика, ибо он может прожить и один. А люди - это просто конкуренты за драгоценные ресурсы, которых можно и нужно уничтожить. Ну можно конечно оставить несколько тысяч для зоопарка.
    
    igorsimdyanov
    15.12.2023 13:06
    #26273204
    С началом согласен, с выходами не очень согласен, плюс не освещено направление киберпанка. Но это все страшилки, чтобы интереснее смотрелось кино и читались книги. С окончанием вообще не согласен и вот почему:
    
    1. ИИ сам по себе почему вдруг станет совершенствоваться? Мы это делали в ходе эволюции, чтобы выжить и размножаться. А он почему и чем "захочет"? Или мы в него сразу такой инстинкт заложим?
    
    2.Опять же почему-то упорно упускается история о том, что биоорганизмы пронизаны нейромедиаторами обеспечивающих по сложному пути возбуждение зон удовольствия. Т.е. в нас заложены "желания", которые поощряются за определенные действия. Решили задачу, сделали открытие - вот порция ацетилхолина, пробежали марафон, завалили мамонта - вот порция дофамина. Не хотите работать, можно подломать наркотиками эти механизмы и получить удовольствие бесплатно (но цель всех наших телодвижений именно в получении порции удовольствия). А в ИИ, кто и зачем заложит желания и мотивацию? Оружие для уничтожения людей, да еще и совершенствующееся?
    
    3.Почему-то при разговорах об ИИ считается, что он будет реализован на каких-то супер-технологиях, превосходящих био-системы. Вот металлически-кремневый чурбан, жрущий электричество как не в себя, который смастерили макаки. Но он то всяко эффективнее энергию тратит, по сравнению с технологиями возрастом в 4 млрд. лет, с недостижимым для нас КПД, селективностью и эффективностью траты энергии. До таких технологий, как в биоорганизмах нам ну примерно те же миллиарды лет. И вот появляется компьютер на кремнии, вот он точно будет считать, что мы менее эффективно ресурсы тратим? Что-то даже современной науке так не кажется.
    
    Это все сработало бы, если цель эволюции была в создании разума. Я боюсь, истинная цель человека в потребления еды, размножении и доминировании. А разум тут эволюционный помощник в достижении этих целей. Цели в ИИ кто заложит, что он будет от людей избавляться?
    
    Но даже, если избавился, а дальше что? Так то можно и про людей рассуждать: может и нам от Земли избавиться? Только ограничивает наши космические амбиции? А не будет Земли, мы ух как сразу развернемся?
    
    nuclight
    15.12.2023 13:06
    #26274270
    Я боюсь, истинная цель человека в потребления еды, размножении и доминировании.
    
    Если уж начинаете цитировать профессора С.В.Савельева, то у него вообще-то и продолжение есть :) люди с третичным сознанием данными биологическими мотивациями уже не руководствуются как определяющими.
    
    JBird
    15.12.2023 13:06
    #26274178
    Однако и уничтожить население нельзя, так как всё мировое производство строится на то, что её продукцию должен кто то потреблять.
    
    С учетом того, что доступных и невосполнимых ресурсов биомасса гомо сапиенса поедает все больше и больше (как минимум, поедаемый обхем коррелирует с ростом популяции на шарике), то я бы не сбрасывал со счетов вариант, когда планетарные элиты будут стоять перед выбором - или для сохранения в т.ч. ресурсов для себя резко уменьшить численность всех лишних, или продолжить играть в рынок и продажу ради продажи.
    
    Alexey2005
    15.12.2023 13:06
    #26274214
    Так вроде все модели предсказывают резкий обвал численности населения планеты уже в следующем веке (максимум будет пройден при жизни следующего поколения). Причём как раз в тех странах, где потребляется 80% ресурсов, падение численности начинается уже сейчас и дальше будет нарастать лавинообразно.

Kerman
15.12.2023 13:06
#26270526
Когда AI научится писать код лучше программиста, наступит удивительное время. AI сможет себя переписать, доработать и оптимизировать. А потом, став лучше, повторит.

Это называется "Технологическая сингулярность".

И странно бояться замещения программиста AI, когда оно пойдёт в комплекте с сингулярностью. Изменений будет столько, что мало никому не покажется. От скайнета до рая на земле, всё станет возможно.
1. nuclight
  15.12.2023 13:06
  #26274272
  Да не будет никакой сингулярности. Скорее наоборот, нас ждут новые темные века.

SadOcean
15.12.2023 13:06
#26270536
На самом деле прогноз весьма вероятный.
Причем забавным является то, что вполне вероятно это все будет работать не вместо, а вместе.
То есть сложнейшие системы будут частью пайплайна разработки, где в середине есть люди и ИИ- архитекторы, какие то модули кода проверяют и чинят люди и наоборот, а под толстым слоем абстракций make файлы и bash костыли собирают для этого проекта бинарник.
1. rsashka
  15.12.2023 13:06
  #26270558
  Если честно, то вызывает большие сомнения в адекватности такого прогноза, если автор называет обычные генеративные сети искусственным интеллектом.
  1. SadOcean
    15.12.2023 13:06
    #26272926
    Да даже алгоритмы компьютерных персонажей в играх называют искуственным интеллектом.
    Но до появления многоцелевого и самоосознанного ИИ и тем более сильного все равно все будут пытаться их так называть.
    Тем более что текущие достижения вполне позволяют автоматизировать новые задачи, решаемые раньше только человеческим интеллектом.
    А самое главное, Я думаю что даже передовые ребята в области тех же генеративных текстовых моделей не знают, что будет если улучшать архитектуры - получится ли полноценный ИИ или просто модель побольше и есть ли разница.

ZontikFromRuSO
15.12.2023 13:06
#26270570
Подождите.... Вы же ещё этим летом писали абсолютно противоположенное: https://habr.com/ru/companies/ruvds/articles/748498/ с заголовком "Самое сложное в ПО — не кодинг, а требования, или Почему разработчикам не стоит бояться ИИ".
1. editor_ruvds
  15.12.2023 13:06
  #26270588
  Добрый день! Это переводы статей разных авторов :)
  1. ZontikFromRuSO
    15.12.2023 13:06
    #26270838
    Переводить статьи, которые говорят совершенно противоположенные вещи - странно, мягко говоря.
    
    K0styan
    15.12.2023 13:06
    #26270892
    Почему? Многие СМИ любят жанр дискуссии - сначала один автор пишет статью с другими тезисами, потом другой опровергает. Редакция нейтрально модерирует. В целом модель неплоха, даёт пищу для раздумий.
    
    Но лучше действительно рядом это публиковать, чтобы контекст обсуждения сохранился в головах.

kvazimoda24
15.12.2023 13:06
#26270650
Читал эту статью, и меня не покидала мысль из одной из серий сериала Теория Большого Взрыва. Где Говард мечтает о роботизированной руке, и говорит, что если бы у него была пара таких рук, он мог бы сделать всё что угодно. На что Шелдон замечает, что у Говарда уже есть две руки, но что-то он ничего выдающегося не делает.

Собственно, в ситуации с ИИ я вижу похожее. Все рассказывают, какой ИИ выдающийся, что это прям панацея для любой проблемы. Но по факту нейронные сети существуют уже миллионы лет. Да, не человек из создал, но человек их давно уже обучает. И видится мне, что всё это упрётся в то, что будет в штате компьютерной фирмы не только "мясной" программист, а ещё и какая-нибудь убер-нейро-сетка, которой кто-то будет давать задания, а она будет говнокодить как и обычный мясной программист. И говнокодить она будет, как и зачастую опытный программист, не из-за того, что программировать не умеет, а из-за того, что задачи ставятся на совершенно неформальном человеческом языке. Плюс, сам заказчик зачастую не знает, что же ему в итоге нужно, потому по ходу дела само ТЗ будет меняться. В общем, всё будет как всегда, просто несколько быстрее, т.к. возможно "электронные" нейроны работать будут побыстрее и круглосуточно. Хотя на счёт круглосуточно есть сомнения у меня. Вполне допускаю, что после определённого уровня сложности нейросети, эта нейросеть захочет выходных, чтобы позаниматься чем-то другим, перерыва на переобучение (сон) и общения с другими нейросетками.

В итоге я вижу будущее таким, что требуемое количество программистов снизится, части программистов придётся переквалифицироваться в кого-то, кто связан с работой с нейросетями. Проектировщики, "учителя"... И в этом плане я не вижу больших проблем. Через это уже человечество проходило с ткацкими станками, писарями/машинистками, счетоводами... Меня в этом всём больше настораживает, хватит ли нам вычислительных ресурсов собрать ИИ приближенный по уровню к нашему собственному мозгу, и на сколько таких сеток у нас хватит ресурсов. Просто, если это будет возможно и в массовых масштабах, то в какой-то момент возникнет вопрос у этих "виртуальных мозгов": "А зачем нам эти кожаные мешки?"
1. Myclass
  15.12.2023 13:06
  #26271090
  ...Но по факту нейронные сети существуют уже миллионы лет....
  
  Не могу плюсовать, но ваш весь текст сохраню отдельно и буду постоянно его как пример использовать. Хорошо сказано.
1. bak
  15.12.2023 13:06
  #26272898
  Но по факту нейронные сети существуют уже миллионы лет.
  
  И как мне у имеющихся нейронных сетей увеличить число слоев на 1-2 порядка?
  1. nuclight
    15.12.2023 13:06
    #26274274
    Начать с того, что естественные нейронные сети устроены гораздо сложнее той примитивной модели, которая применяется в искусственных нейросетях, поэтому сама постановка вопроса - бессмысленна. Подробнее у того же профессора С.В.Савельева бывало на ютубе.

igrishaev
15.12.2023 13:06
#26270702
Все изображения в этой статье сгенерированы нейросетью DALL-E 2

А зачем этой статье изображения?
1. k4ir05
  15.12.2023 13:06
  #26274680
  Для имитации полезности нейронки, полагаю.

muxa_ru
15.12.2023 13:06
#26270728
рьяно верили, что всем будущим программистам для понимания и разработки ПО потребуется глубокое знание полупроводников, двоичной арифметики и архитектуры микропроцессоров.

Если навыки по полупроводникам и архитектуре процессоров "вымрут", то ни программисты ни авторы этой статьи будут не нужны.

Gryphon88
15.12.2023 13:06
#26270746
Вспоминаю свое увлечение Prolog, так там в introduction статей и книг примерно такие же вещи писали: опишите результат, и компьютер создаст работающую программу, все будет замечательно, рывок продуктивности... Сейчас пошумнее из-за смены модели инвестирования, но итог я ожидаю близкий.

Flux
15.12.2023 13:06
#26270748
В большинстве сфер, за исключением узкоспециализированных, программное обеспечение вскоре будет заменено системами ИИ, которые не программируются, а обучаются.

Господи, сколько можно? Ну сколько можно, ё! Я уже не могу!

RedCatX
15.12.2023 13:06
#26270774
Ну и кто будет отвечать за программное обеспечение сгенерированное с помощью ИИ?
1. kvazimoda24
  15.12.2023 13:06
  #26274734
  А кто сейчас отвечает за ПО?
  
  Я вижу, что отвечает фирма, в которой трудятся прогоаммисты. Но сами программисты, обычно, ни за что не отвечают. Максимум, не дадут премию. Но потери от ошибки в коде могут быть куда больше. И эти потери в принципе невозможно погасить силами одного человека. Например, накосячили в коде какой-то подсистемы авиалайнера, самолёт упал, 300 человек погибло, плюс какие-то разрущения на земле. Нашли ту ошибку в коде и того программиста, что допустил её. И вот что с ним делать? Доходов этого несчастного, скорее всего, не хватит даже на покрытие самого расследования крушения, я уж молчу про выплаты семьям погибших, стоимость самолёта, затраты на восстановление наземных объектов...
  
  И вот что ему можно предъявить? Уволить? Запретить работать программистос? Посадить? Расстрелять? Что? Что из этого реально сможет улучшить качество кода?
  
  Я считаю, что личная ответственность - это миф. Это скорее про то, кого бы назначить козлом отпущения. А вот чтобы недопускать таких ошибок, требует коплексный подоход: это и определённый стиль программирования, и тесты, и дублирование систем с использованием разного кода, написанного разными программистами... И в результате, нет того единственного человека, кто виноват в крушении. Да, кто-то эту строчку кода написал, но был кто-то другой, кто не проверил за ним, кто-то, кто недостаточно протестировал, кто-то, кто изначально некорректно сформулировал ТЗ. И в итоге имеем компанию, которая выплачивает штрафы, но внутри неё никто по отдельности не виноват.

vagon333
15.12.2023 13:06
#26270828
ИИ незаменим, но также масса хайпа (громкие заявления).

Реалии, как всегда, посредине - ИИ используется разрабами, но не заменяет.
Бизнес не может передать контекст задачи достаточно детально, чтоб автоматически сгенерить рабочий код.
Прототип - да.
Но допиливать нужно программисту, с использованием ИИ.

mikhail01b
15.12.2023 13:06
#26270832
Статья напомнила чем-то романы и рассказы 50х-60х о скорых полетах человека к другим планетам и даже звездам и покорении галактики. И мало тогда кто, наверное, сомневался, что через лет 10 человек не сможет долететь до ближайшей планеты. Реальность оказалась несколько иной. Тут сейчас бы человека еще повторно до Луны отправить (хотя есть ли в этом практический смысл?). Поэтому я бы так категорично не загадывал.

KongEnGe
15.12.2023 13:06
#26270842
Нельзя не вспомнить уже классическое произведение:

Нам электричество пахать и сеять будет.
Нам электричество из недров всё добудет.
Тогда мы с вами будем жить да поживать.
Побольше кушать и на кнопки нажимать.
1. ainoneko
  15.12.2023 13:06
  #26270932
  Другое классическое:
  
  Ташкумерне робот табыр...
  Сыерларны робот савыр...
  
  (Примерный перевод:
  "Робот нам нароет уголь
  И коров подоит он." (Песня "Роботлар" СуперАлисы))
1. semennikov
  15.12.2023 13:06
  #26271774
  Ну так именно это мы и делаем :-)

Trunk
15.12.2023 13:06
#26270846
Все же понимают, что чтобы существующие ИИ могли выдавать качественный ответ, этот ответ ранее должен быть написан тем самым специалистом, которого якобы заменит ИИ. Который и алгоритмы знает и computer science на нормальном уровне. Существующие модели, да и те, которые ожидаются в ближайшем будущем, не напишут ответ на вопрос, ответа на который еще не дал человек.
1. stago
  15.12.2023 13:06
  #26272830
  Тут есть разница. Человек смертен. Он обучается, набирается опыта, решает задачи, а потом умирает. Появляется новый человек, и начинает этот круг сначала.
  
  LLM модель же бессмертна. Она набирается опыта, решает задачи, но не умирает, в то время как ее мастерство в решении задач только растет.
  
  Тут, правда, пока есть издержки в виде галлюцинаций, но если их победят..
  1. UGivi
    15.12.2023 13:06
    #26273506
    Человек при смерти сбрасывает накопленные ошибки вместе со знаниями, не выйдет ли так, что бесконечно пополняемая знаниями сеть начнёт копить ошибки, которые будут отравлять результат? А чтобы понять это нужен будет заменяемый ею специалист.
  1. nuclight
    15.12.2023 13:06
    #26274278
    Не победят. Более того, она даже "набираться опыта" не умеет - это ж перестройка модели, а не как в мозгу человека.

NeoCode
15.12.2023 13:06
#26270946
Логарифмические линейки никто не изучает, но фундаментальную математику, линейную алгебру, мат.анализ прекрасно изучают и будут изучать во всех университетах мира. То же самое и с программированием. Языки программирования меняются, а сама концепция алгоритмов и структур данных останется и никуда не исчезнет.

Akon32
15.12.2023 13:06
#26270986
То, что машинное обучение позволяет решать некоторые задачи удобнее, чем программы, основанные на алгоритмах, я видел ещё лет 6 назад, а пионеры в этой области - наверно гораздо раньше. Не уверен, что МО полностью заменит программиста во всём, но и не применять его означает быть ограниченным теми алгоритмами, что можешь знать, понять или придумать.

И, возможно, системы генерации кода - это лишь переводчик с обычного языка на машинный язык. В самом деле, зачем нужен условный С++, если то же можно сформулировать на родном языке?
1. h0tkey
  15.12.2023 13:06
  #26272992
  На родном языке, к сожалению, можно формулировать инструкции вида "купи батон; если будут яйца, возьми десяток", очень уж большая пропасть между естественными и формальными языками, как по мне.
  1. PereslavlFoto
    15.12.2023 13:06
    #26273212
    На родном языке эти инструкции мыслятся чуть иначе.
    
    Магазинно купи магазинный батон; если магазинные яйца, магазинно возьми магазинный яичный десяток.
    
    На родном языке надо не лениться, разговаривая с ИИ, вот и всё.
    
    nuclight
    15.12.2023 13:06
    #26274280
    И что изменилось, кроме того, что на родном языке вышла какая-то дичь?
    
    PereslavlFoto
    15.12.2023 13:06
    #26275344
    В этой фразе что-то непонятно?
    
    Вы не поняли, что такое десяток? Или о каком именно батоне идёт речь?

MaxSidorov
15.12.2023 13:06
#26271004
А я вот полностью согласен с автором. Я тоже аыходец из 90 и видел как программирование развивалось все это время. То о чем пишет автор неизбежно. Языки программирования вымрут как класс, а разработка решений превратится в нечто совсем иное. Мы будем разрабатывать системы, но уже вряд ли будем писать код.

Это очевидно из истории развития языков. Я начинал еще с асмемблера и в то время крайне невероятно было то, что мы воспр инимаем как обыденность сейчас.

Генерация кода прямо в процессорные инструкции это уже настоящее. Просто сейчас мы описыааем инструкции на высокоуровневых языках и использую низкоуровневые абстракции, а через несколько лет будем делать это на естественном языке и с помощью высокоуровневых абстракции и паттернов.
1. Avers66
  15.12.2023 13:06
  #26271998
  "Генерация кода прямо в процессорные инструкции это уже настоящее." А кто по вашему создает ЯП, который умеет делать вышеперечисленное? И этот кто-то должен хорошо понимать процессорную архитектуру, чтобы реализовать высокоуровневые абстракции с помощью машинного кода. Может быть с помощью все того же ассемблера)
1. k4ir05
  15.12.2023 13:06
  #26274718
  а через несколько лет будем делать это на естественном языке и с помощью высокоуровневых абстракции и паттернов
  
  А компьютеры и прочая электроника (включая сами эти ИИ) будут работать на магии, да?

porto
15.12.2023 13:06
#26271008
Если кому интересно, эта статья раскрыта автором в его докладе на канале CS50. Стоит посмотреть, чтобы осознать насколько поверхностны и сама статья, и доклад. Кстати, о визионерских способностях автора многое нам расскажет то, что его не успевший толком развиться гениальный стартап был умножен на ноль анонсом GPT Store от OpenAI. Иронично, не правда ли?

sepulkary
15.12.2023 13:06
#26271020
Буквально на днях закончил закончил кодер/декодер кода Манчестера для STM32F407 на DMA, таймерах и прерываниях; и двоичная арифметика, и знание архитектуры весьма пригодились :) Сейчас пытаюсь перетащить этот код с HAL на CMSIS, приходится лезть еще глубже.

По теме - согласен с комментарием выше: как только AI сможет стабильно генерить код лучше человеческого, всё, привет, сингулярность. Так что не стоит упарываться в промт-инжиниринг и прочие способы "подстроиться" под AI - когда и если это ружье выстрелит, все старые парадигмы будут быстро похоронены.

Daddy_Cool
15.12.2023 13:06
#26271086
Статья-напоминалка. Компьютеры и программы - это служебные сущности которые не нужны сами по себе! Нужен результат который получается при помощи них. Мне не нужен молоток если мне не нужен гвоздь в стене под картину. И мне не нужна числодробилка для СЛАУ, мне нужны линии тока жидкости.
Но что же нам нужно само по себе? То что нужно для непосредственно выживания опустим как очевидное. Эмоции и соответственно объекты искусства.которые их вызывают. Кто напишет программу вызывающую эстетическое переживание?

Batalmv
15.12.2023 13:06
#26271152
Отпишусь по теме

Начнем с образования. Сначала короткий анекдот, который кратко отвечает на вопрос "а зачем?":
Блондинка — подруге:
— Хочу усыновить трехмесячного английского ребенка.
— И что ты с ним будешь делать?
— Когда он начнет говорить, я буду учиться у него …

Образование учит "думать".

Это:
- умение найти инфу (курсовые, дипломы и прочая фигня поменьше, типа рефератов). Да, инфа просто так нигде не лежит. Ее надо добывать
- умение запоминать (стихи наизусть). Понятно, чтобы что-то крутить в голове, надо сначала натренировать навык туда его класть на некоторое время
- умение обрабатывать новую инфу (курсовые, дипломы и прочая фигня поменьше, типа рефератов). Чтобы текст был нечто большим чем последовательность символов, его надо не просто запомнить, а понять суть, разложить связи и уже дальше можно с ним что-то делать. Искать зависимости, противоречия, ... анализировать в общем. Чтобы в итоге в голове получилась какая-то, лично вам понятная модель
- умение решать задачи (задачи). У вас уже есть что-то, но надо теперь получить то, чего у вас нет. И решение задач это развивает. И ничего страшного, если до того эти задачи решали миллионы. Они то решили, а вот вы пока нет :)
И уже вот, можно чего-то создавать, начав с того, что "ничего не было".

Образование банально тренирует эти навыки. Я думаю, еще есть много чего, но цель комментария не в том, чтобы писать трактат не эту тему (да и вряд ли потяну). А просто показать - суть образования в ТРЕНИРОВКЕ мозга человека. И еще иногда получение знаний, необходимых в работе. Потому что без них тоже сложно.

Но, на мой взгляд, первая часть важнее знаний, так как знания с навыками добыть еще можно, а вон со вторым без первого и непонятно, что делать. Но лучше конечно "5 звездочек" :)

Поэтому когда я читаю, что "чего-то" там поменялось в науке - мне всегда вспоминается этот анекдот, с которого я начал.

Теперь к программированию. Образование по прежнему нужно, чтобы научиться ДУМАТЬ, а дальше с багажом НОВЫХ знаний можно и программировать, и двигать науку и много чего еще. Главное чтобы это осталось, а то иногда кажется, что важны только "знания". Может ли ИИ программировать?

Как по мне, по прежнему проблема в "решении задач".

Искать инфу - да, тут любой робот нароет тонно-гигабайты инфы изи
Запоминать - еще быстрее
Обрабатывать - тут уже проблемы, так как легко видеть, что текущие модели в отрыве от Сети банально "фантазируют" и генерят "ложные" факты. Конечно, если мы берем модель, которая уже подключена к Инету, она (скорее всего, Fixme) компенсирует свою ограниченность просто более эффективным поиском. Т.е. она не "подумала" лучше, а просто нашла верный ответ.
Решать задачи - сомнительно. Решение задачи, это создание чего-то нового для себя. А тут максимум просто фокус в виде "генерации кода" по правилам

Но конечно, в какой-то момент времени "количество" может побудить "качество" в рамках заданной формальной модели, те же шахматы и другие игры. Но это более эффективный перебор + плюс эвристика!!! Давайте отрежем модель от знаний о шахматах и посмотрим, за сколько она прокачается. А потом сравним с той, которую учили с человеком. Но суть не в этом. Шахматы формализированы и просты. Как модель.

Мир же намного сложнее. На порядки порядков. И я очень не уверен, что мир "можно решить" перебором + эвристикой.

С практической точки зрения. У человечества всегда совершенствуются инструменты. Это нормально и этот процесс не останавливается н на секунду. Когда я начинал, главным источником знания была книга, и массовым - библиотека. Я даже первый диплом в основном писал там. Ну блин, а больше негде было взять инфу. До появления поисковиков Интернет был скорее более толстой библиотекой, и актуально было записывать ссылки и т.д. Попробуй потом найди. Дальше стало легче, и вот он - Гугль. Не важно, что он не первый (или первый?), но мы говорим "загугли", как когда-то "отксерь" поэтому за эталон возьмём его. Отличный инструмент и сейчас.

Его появление убило профессию? Нет. Но несколько притупило навык людей анализировать достоверность инфы. Появилось поколение "в интернете ж написано", и не важно, что если сложить 2 + 2 выходит в результате 123. По отдельности ж написано, а вот свести вместе и сличить - это уже работа мозга, а про это написано наверху. Людям с навыком гугль поможет, без - тоже, но и ошибок будет сильно больше.

Появилась авто генерация кода. Есть много IDE, средств. И что? Ну да, стало меньше механической работы. Но не стало меньше программистов, потому что IDE стал умнее? Просто удобнее.- Но да, кто-то может уже забивает думать в этом моменте и просто накидал модель, она чего-то нагенерила и "так сойдет". Тоже самое, если инструмент заменяет функцию "мозга" - это только проблема носителя мозга

Появился ChatGTP. Ну я пробовал, и просто потыкать, и для работы. Эффект очень неоднозначен. на тривиальные вопросы понятно ответ есть, но тут либо я и сам знаю, либо гугль знает. Но второй еще и даст источник, и можно верифицировать. Если что-то сложное - можно поймать идею, но не более того. Я допускаю, и даже имеют некоторые более вещественные результаты в виде статистики, что его использование на регулярной основе дает прирост производительности. Сократит ли это число программистов, как улучшение IDE - сомнительно. На данном этапе так точно. Я бы некоторых "сократил" бы просто так :)

Есть момент перехода количества в качество. На более очевидном примере. На пассажирских самолетах обычно два пилота. Только на маленьких один. В автомате не летает никто, кроме редких моментов. Хотя отдельные куски работы автоматизируются аж бегом. Почему - ответ прост. Потому что задача выполнять все 100% полетов с неким коэффициентом успешности (да-да-да, открываем нормы сертификации и видим, что там везде вероятности). Радует то, что итоговая в пользу пассажиров.

Но если мы хотим, к примеру, заменить второго пилота на комп, то надо решить простую задачу. Если вероятность отказа одного из пилотов. Заболел, умер, потерял сознание, стюардесса отравила ... Остался второй. И сейчас он должен долететь и посадить самолет. Если его забрать - то комп должен справиться сам не хуже. Но тогда выходит, если упрощенно, что и второй пилот особо не нужен (на самом деле математически нет, но на данный момент это не важно). И комп обязан закрыть все опции полета. Плохую погоду, уход на запасной, отказы, сочетание факторов. А пока что, автопилот в определенных, достаточно штатных режимах тупо отключается и все.

И получается, что сочетание "пилот в отключке" и условно "плохая погода" - все, пассажиры тупо трупы.

Т.е. для замены надо не рассказывать "мы тут посадили самолет". Это вообще не важно. Это чистый маркетинг для даунов. Надо покрыть все случаи с не меньшей безопасностью. И слово все ключевое. И в этом прикол. Если вы количественно покрыли 80% - вы, с какой-то точки зрения еще в нуле. И это тупо не важно, если вы не знаете как закрыть остальные 20%. Это да, не мешает добавлять систем помощи пилотам, что и делается. Но никак не приближает будущее беспилотных полетов.

У этого процесса есть side effect, очень негативный. Даже два.

Первый: пилоты теряют навык. Случилось что-то не так, отказ, погода, все вместе - а пилот уже не пилот, а чуть-чуть оператор. И все. Он тоже не готов. А чтобы его учить - нужен навык. Нужен опыт. Нужна меньшая автоматизация, либо возможность ею не пользоваться. Приехали

Второй: идет в начало, там, где анекдот. Программы могут жить вечно, пока есть компы. Люди нет. Где вы возьмете ОПЫТНЫХ пилотов, которые будут страховать комп. Ок, эти еще летают. А дальше? Если мы все не перейдем на беспилотные полеты через 20 лет, а новых пилотов не будет. Ну все. Пилотов нет, компа нет. Никто никуда не летает.

Третий: усложнение системы ведет к усложнению диагностированию отказов. Это потом, читая отчет думаешь - как же ж они не знали, что отказа датчик и надо было "вертеть туда". Так в том и прикол, что не знали. Они видели лишь вторичные признаки, а то и третьего, четвертого порядка. Гипотез много, а и разных - разные направления куда вертеть. Больше систем - больше отказов, и что хуже сильно больше (привет комбинаторике) сочетаний отказов

В ИТ тоже самое, просто с самолетом проще. Сел или разбился (ну и разбился, но некоторые выжили). Рост автоматизации приводит к потере определенной квалификации + непрозрачности результата + потере новых кадров. И если революция не произойдет - будет тоже что с авиацией (точнее с ней то все хорошо).

Ну как вы хотите, ИИ напишешь 90% кода, а программер - 10%. Где вы такого найдете? Ему ж тоже учиться надо, практиковаться. А если он 5 лет дописывает как джун за сеньором. Все - тут или комп и продукт готовый на 90%, либо пока как в авиации.
1. nuclight
  15.12.2023 13:06
  #26274286
  Анекдот хороший, про самолёты тоже.
  
  Но, на мой взгляд, первая часть важнее знаний, так как знания с навыками
  добыть еще можно, а вон со вторым без первого и непонятно, что делать.
  Но лучше конечно "5 звездочек" :)
  
  А тут непонятно, кто на ком стоял.
  1. k4ir05
    15.12.2023 13:06
    #26274748
    Как я понял, автор хотел сказать, что знания без навыков бесполезны.
1. CatBoris
  15.12.2023 13:06
  #26276686
  Начало комментария хорошее было, хотя и в целом посыл правильный, но примеры с самолётами не очень в тему.
  Даже сами пилоты уже называют себя программистами полёта, потому что задача пилота(ов) - это осмотреть самолёт перед вылетом, ввести программу полёта и периодически вести радиосвязь подтверждение действий, которые делает самолёт сам. Почему многие линейные пилоты летают в свободное время на маленьких самолётах? Потому что на них реально можно полетать на руках, а все крупное-коммерческое - это IFR всегда, а это означает что всё по жёстко заложенной программе, по которой самолёт сам летит.
  Даже соверменные частные мелкие самолёты в прямом смысле слова нажатием одной кнопки могут связаться по радио, сообщить о проблеме, договориться о посадке, довести самолёт и посадить. Всё автоматически с нажатием одной (это не образно, реально одной) кнопки, пилот не нужен.
  
  Да, это снижает уровень пилотов в целом, но, извиняюсь заранее перед пилотами, я больше доверяю автоматике, потому что она будет улучшаться и улучшается каждый день.
  1. JBird
    15.12.2023 13:06
    #26276716
    я больше доверяю автоматике, потому что она будет улучшаться и улучшается каждый день.
    
    Что дает Вам оснований считать что впереди нет никакого асимптотического предела (а такие пределы часто оказываются в реальном мире), который автоматика не сможет перейти и ситуации типа рейса AF447 станут невозможны?
    
    CatBoris
    15.12.2023 13:06
    #26276720
    Меры по предотвращению таких ситуаций были приняты сразу. Не зря авиация является самым безопасным видом транспорта. В ситуации с AF447 дело ни в автоматике ни в пилотах*
    
    Чем больше я читаю отчётов по самолётным происшествиям, тем больше я вижу, что ошибки людей чаще приводят к проблемам/катастрофам, нежели работа автоматики.
    
    UPD:
    Пилоты должны были чаще репортить о вероятных проблемах. Основная часть работы пилота - это мониторинг.
    
    Rsa97
    15.12.2023 13:06
    #26277096
    Чем больше я читаю отчётов по самолётным происшествиям, тем больше я вижу, что ошибки людей чаще приводят к проблемам/катастрофам, нежели работа автоматики.
    
    Просто те случаи, где люди справились с ситуацией после ошибки автоматики, в отчёты не попадают. Например о последнем полёте LionAir 610 отчёт есть, а о предпоследнем, где пилоты вовремя отключили MCAS, отчёта нет.
    
    CatBoris
    15.12.2023 13:06
    #26277100
    А отчёт должен быть. Получается нарушение работы пилотов налицо.
    
    Rsa97
    15.12.2023 13:06
    #26277134
    Запись в бортжурнале (Air Safety Report) предыдущим экипажем была сделана:
    
    Airspeed unreliable and ALT Disagree shown after takeoff, STS also running to the wrong direction, suspected because of speed difference, identified that CAPT instrument was unreliable and handover control to FO. Continue NNC of Airspeed Unreliable and ALT Disagree. Decide to continue flying to CGK at FL280, landed safely runway 25L
    
    Но никаких расследований в случае мелких неполадок не делается и отчётов не публикуется.

GuardCat
15.12.2023 13:06
#26271420
Будущее, генеративных нейросетей всё больше напоминает ситуацию в рассказе Филиппа Дика «Плата за копирование», только в приложении к интеллектуальной собственности. Мало или нет оригинального кода, изображений, текстов и нейросети учатся на вторичном и третичном материале, а специалистов готовить разучились, они стали штучным товаром... Уже есть свидетельства снижения качества обучения генеративных сеток из-за обилия нейроконтента.

В общем, полагаю, люди в безопасности, как минимум, пока креативность AI не позволяет создавать качественно новый контент по итогу обучения.
1. xadd
  15.12.2023 13:06
  #26271788
  Да, это похоже на Generation loss

DarthVictor
15.12.2023 13:06
#26271476

Matt Welsh

CEO and Co-Founder Fixie.ai.

...

Fixie

The fastest way to build conversational AI agents

Ясно, спасибо.

Spaceoddity
15.12.2023 13:06
#26271592
Моё понимание этой проблематики - все новые ЯПы и их производные становятся всё более высокоуровневыми. "Человекоориентироваными", если хотите. Программисты, в массе своей, оперируют всё более абстрактными сущностями. Так что, как по мне, вот этот нынешний хайп вокруг нейросетей (не ИИ!) - это лишь ещё один уровень абстракции над "классическим программированием". А соответственно возникнет массовая потребность в специалистах, которые будут "формализовывать ТЗ" для нейросетей...

Ну и я тут немного поюзал нейросети для рефакторинга кода - с алгоритмами дела у них может и ок, а вот с архитектурой - беда... Недоступны им пока такие абстракции...

Я лично от нейросетей жду прорыва в ближайшее время в области искусства. Т.е. там, где некритично наличие "источника истины". Генерация любого контента по запросу (хочу вот на пенсии посмотреть новые 100 сезонов "Друзей") и т.п.
1. muxa_ru
  15.12.2023 13:06
  #26271612
  Поговаривают, что сериальную трэш литературу уже так пишут :)

BenGunn
15.12.2023 13:06
#26271744
Пока ИИ модели представляют собой миксер смешивающий буквы, что угодно, говорить о замене людей на ИИ как мне кажется рано, очень рано. Ни одна из протестированных мною GPT не может справится с простейшей задачей по сольфеджио где надо придумать последовательность аккордов исходя логики классической гармонии. Но чем черт не шутит.
1. IgorAlentyev
  15.12.2023 13:06
  #26272664
  Дружище, более менее серьезные нейроноки появились всего год назад. Подождите лет 5 и все будет.
  1. BenGunn
    15.12.2023 13:06
    #26273498
    Я с энтузиазмом использую их для веселья и иногда для работы (как интерактивный справочник отвечающий на вопросы) и конечно же желаю что бы ИИ развивался дальше. Я, как и многие, здесь прошли сложный путь от первобытных персоналок и модемного коннекта до современного железа и оптоволокна в квартире. Мы все видели что такое пять лет для IT. Поэтому конечно же жду что день грядущий нам готовит.
  1. nuclight
    15.12.2023 13:06
    #26274292
    Не будет. Ничего кардинально в них не менялось с 60-х, только вычислительные мощности возросли.

semennikov
15.12.2023 13:06
#26271792
Если посмотреть историю развития, то возникает интереснейшая особенность. ВСЕ технические проблемы решаются совсем не так как предполагалось при начале работ. Краткий пример - корабль движется не с помощью весел, самолеты крыльями не машут, ног у автомобилей нет и т.д. и т.п. Так и ИИ будет работать совсем не так как мы сейчас думаем и готовимся.
1. muxa_ru
  15.12.2023 13:06
  #26271866
  ног у автомобилей нет
  
  Ноги у автомобиля и не предполагалось, потому что автомобиль это самобеглый экипаж, который на колёсах был.
  
  Самолёты тоже не должны были махать крыльями, потому что к тому моменту как самолёты хоть как-то стали наклёвываться уже были понятны преимущества гребного винта.
  
  Так то и шагоходы и махолёты время от времени кто-нибудь констропыляет, но это не выходит за рамки блажи и самодурства.
  
  Ну а корабли так и продолжают двигаться с помощью весёл и паруса, просто эти движители остались в нише некрупных кораблей.
  1. semennikov
    15.12.2023 13:06
    #26272426
    Вы не совсем правы, посмотрите историю техники. До появления паровоза в привычном нам виде как раз и были попытки сделать шагающие конструкции. До появления самолетов с неподвижным крылом было очень много самых разных попыток сделать махолет, а первые серии кораблей были отнюдь не винтовые а с гребными колесами
    
    UGivi
    15.12.2023 13:06
    #26273532
    Колёса парохода имеют преимущества в плане проблемной герметизации корпуса (навесные моторы имеют то же преимущество), но имею более простое механическое устройство, большую надёжность и большую возможность приложения момента, чем вёсла, происходят, скорее, от мельничных колёс (инвертированных - движитель вместо генератора), чем от вёсел.. Махолёт так и не полетел (соотношение массы-усилий не в его пользу, разве что вниз), а автомобиль (паровоз) - это телега, где биодвигатель заменили тепловым/механическим. Шагоходы - боковая ниша, опять же из-за сложности так и оставшаяся лишь нишей без массовости, телеге в том или ином виде уже было слишком много времени для понимания преимуществ и именно эта конструкция шла базой.
    
    semennikov
    15.12.2023 13:06
    #26273548
    Вы меня не поняли, я хотел сказать что при начале работы в новой области технологии и конструкции имеют очень мало общего с тем что и как будет реально делаться после прохождения начального этапа работ
  1. nuclight
    15.12.2023 13:06
    #26274294
    Шагоходы просто слишком сложны для имеющейся технологической базы, а так-то применение им вполне найдется.

semennikov
15.12.2023 13:06
#26271804
И программирование будет выглядеть совсем не так как сейчас и не так как пишет автор. Пример - в начале станки-автоматы использовали перфокарты и шаблоны, думали что будут перфоленты и трехмерные шаблоны, а сейчас реально извините текстовые команды. Так и мы сейчас думаем что будем учить ИИ, а на самом деле....(если бы я знал как то был бы богаче Гейтса и известнее чем Торвальдсон)

Alcpp
15.12.2023 13:06
#26271844
Вы бы давали промпты к изображениям в статье.

ALexKud
15.12.2023 13:06
#26271990
Оптимизм насчёт ИИ мне кажется искуственным. Это машина. Человек живёт в обществе себе подобных и во внешней среде и имеет не только ум, но и чувства. Познание нового всегда происходит через чувства и часто через озарение, где логика не прокатывает. Сможет ли так же делать машина, у которой отсутствуют чувства и одна голая бд с миллиардом миллиардов параметров? Мне кажется нет. У них нет и никогда не будет того что есть у человека. Поэтому удел машин, в том числе и ИИ это быть просто помошниками и не более. Можно машину обучить писать музыку как Бах и она будет бесконечно писать музыку баховскими секвенциями, но это не будет музыкой Баха, просто потому что в ней не будет заложено того что заложено в музыке Баха, а именно озарение гармонией и чувствами.
1. BenGunn
  15.12.2023 13:06
  #26272070
  Про отсутствие чувств у ИИ точно подмечено. Та же музыка состоит из американских горок тоники(устой, ощущение завершенности) - субдоминанты(приглашение к путешествию) - доминанты(кульминация) это всего лишь наше чувственное восприятие звуков которое сильно зависит от самого человека и его культурного контекста. T - S - D в руках Элтона Джона превращаются музыкальное чудо, а в руках условного «Моргенштерна» в кальянный рэп. Конечно программирование и разработка это немного другая сфера, но опять же если подумать о том как ИИ должен решать творческие задачи в том же геймдеве тоже не понятно хотя все сводится к написанию кода на условном C++. Да и как то сама идея заменить человека ИИ выглядит так себе пока ИИ не научится сам себя программировать. А то получается надо содержать команду колдунов которые будут программировать ИИ что бы тот программировал игру и команду которая будет из ИИ получать нужный им результат. Получается нужно на одну команду разработчиков больше. Единственная проблема которую мы таким образом решили - создали дополнительные рабочие места.
  1. firehacker
    15.12.2023 13:06
    #26272204
    Какое T-S-D у Моргенштерна? Я конечно не могу в уме воспроизвести ни одной композиции последнего, но в целом, в среднем по больнице, у меня ощущение, что есть тенденция на пропадание из музыки гармонической составляющей.
    
    Нет больше игры на струнах души с помощью манипулирования сменой аккордов. Перестало быть модным как художественный инструмент.
    
    BenGunn
    15.12.2023 13:06
    #26272300
    На Ютубе можно найти лекцию Анны Виленской, музыковеда, про Моргенштерна в том числе. Там вполне себе классические T - S - D, ну может в виде бунтарских 2 - 5 - 1, но гармония. Не стоит ожидать от кальянного рэпа богатства красок классиков так как стилистически это разные вещи стоящие на базе заложенной еще во времена Баха. Не верите? Возьмите ноты и сами убедитесь.
    
    firehacker
    15.12.2023 13:06
    #26272480
    Скорее всего я эту её лекцию видел. В любом случае, это не отменяет моих последних слов.
    
    И нет, я не гонюсь за богатством красок классиков, можно мне хотя бы богатство красок самоучек, которые 20 лет назад делали композиции?

realbtr
15.12.2023 13:06
#26272060
Интересная фантазия, но далекая от реальности. Ни квантовая механика, ни релятивистская, ни нелинейная не заменили классической. Линейных задач останется навалом еще на долгие столетия. Конечно, доля разного рода новых математик будет расти, и расти быстро, за счет низкой базы. Но, как и любая инновация пойдет по всем старым пежням.

rcl
15.12.2023 13:06
#26272186
Одно сплошное телевидение!

rionekb
15.12.2023 13:06
#26272424
Тоже склоняюсь к тому, что прогноз вполне реальный. Научные открытия делаются каждый день. И то, что вчера казалось невозможным с текущим трендом развития технологий, сегодня кажется уже более чем возможным.

Взять, например, квантовые компьютеры или недавно обнародованные исследования по выращиванию из стволовых клеток и обучению человеческого мозга "в пробирке", который обучается куда эффективнее имеющихся нейронных сетей. И таких открытий будет сделано огромное множество в ближайшее время. Всё это очень сильно ускорит развитие ИИ. Ускорит на столько на сколько нам сейчас сложно представить.

akaddr
15.12.2023 13:06
#26272450
А мне мама в 90-е говорила, что программист не перспективная профессия, т.к, все программы уже написаны. Хорошо что я ее не послушал

semennikov
15.12.2023 13:06
#26272470
В качестве иллюстрации можно привести конструирование - до появления мощных CAD систем была целая армия чертежников, конструкторов которые рисовали простые детали и узлы, разработчики чертежных инструментов, прочнистов и т.д. Это очень похоже на то, что сейчас в программировании, и результат будет примерно такой же, исчезнет очень много умений и технологий и появятся много других. Конструктора же никуда не исчезли, просто они получили другие инструменты и работают по другому. Как исчезло классическое черчение, так и у программистов исчезнет классическое программирование.
1. firehacker
  15.12.2023 13:06
  #26272612
  Прочнисты никуда не исчезли, а копировальщицы, которые перерисовывали с одного чертежа на другой действительно исчезли, но только это исчезновение равнозначно исчезновению набивщиц перфокарт, а не исчезновению программистов.
  
  То о чем пишут в статье — это предрекание исчезновения как раз тех самых консьрукторов. Мол, останутся только промпт-инженеры, которые будут объяснять ИИ, что должно делать изделие, и уже ИИ будет выдумывать конструктив от и до.

nivorbud
15.12.2023 13:06
#26272620
Имхо, ситуация с ИИ сейчас - это не более чем временный хайп. Давно исследую вопрос практического применения нейронных сетей, сейчас играюсь с новомодными сервисами, сам пытаюсь дообучать на 4090...

Вывод: для серьезных (не развлекательных) применений LLM не годятся, и вряд ли ситуация изменится в ближайшем будущем.

Причины:

1) Очень внешне правдоподобные ответы, в которых скрываются зачастую трудно обнаруживаемые ошибки. Это главная опасность.

2) Нейронная сеть - черный ящик. Интерпретация ее результатов крайне затруднительна.

Вывод 2: Такие системы могут быть помощником эксперта/исследователя (могут подкинуть интересные идеи, связи, направления), но никак не их заменой.

Даже для школьников по хорошему счету результаты современных систем LLM не годятся (напрямую). Пару дней назад сыну дали домашку написать доклад об одноклеточных. Попросил это сделать новомодный сервис (вроде яндексовский, точно не помню). Сервис выдал приличный внешне доклад, но... к одноклеточным организмам с ядром причислил и вирусы... через запятую, мельком, но всё же... При беглом прочтении такие детали можно легко не заметить, а текст написан складно, профессиональным слогом, что вызывает доверие (по факту неоправданное).

Небольшая LLM (на 7B параметров) мне уверенным безапелляционным тоном написала, что "Я помню чудное мгновенье" написал Пушкин в "Евгении Онегине"...

В итоге имеем, что результатами LLM могут пользоваться только эксперты, хорошо разбирающиеся в теме, что доверять выводам LLM нельзя, а заимствовать можно только внешнюю форму, ну и новые идеи, которые надо будет еще проверить.

Gradiens
15.12.2023 13:06
#26272650
Вы серьезно?

Ребята, у вас всегда были хорошие статьи. А тут уровень "вот запустят адронный коллайдер, он создаст черную дыру и мы все умрем"

opv88
15.12.2023 13:06
#26272768
Все предположения о скором забвении программирования как такового разбиваются о то, что основные проблемы, с которыми мы сталкиваемся в разработке, не технические, а, по сути, представляют собой человеческий фактор. Ну да, программирование может немного видоизмениться. Но это было уже не раз, вспомнить только масштабный переход с десктопа на веб. За мои 15 лет опыта в коммерческой разработке индустрию и профессию приговаривали раза три-четыре. То LowCode нас должен был убить, то NoCode. Да даже после появления DreamViewer, помнится, говорили, что код больше писать не придется ) Но всегда все сталкиваются с проблемами человеческого характера. Кто несёт ответственность за решения AI, даже если они и будут соответствовать требованиям к разрабатываемому ПО? Кто будет сопровождать продукт? Кто перепишет легаси? А у бизнеса основные критерии всегда - стоимость, скорость, качество. Сможет ли это обеспечить AI? Что дешевле: сформулировать на понятном ему языке модели, обучить, сопровождать и т п или использовать традиционные методы разработки? К тому же, при упоминании AI, у людей появляется ошибочное мнение, что это некий искусственный разум, способный сотворить все, что необходимо, волшебная палочка. Но это не так. А чтобы составить адекватные модели и доказать их состоятельность, если типовых решений нет, нужно знаний побольше, чем все то, что сейчас знает опытный инженер, если он этим не занимался. И это нифига не дешевле )
1. igorsimdyanov
  15.12.2023 13:06
  #26272802
  Поддерживаю и пополню. Если копнуть к истокам, к Тьюрингу и Геделю, то можно вспомнить, что не только наши компьютеры и математика ограничены, но и сам человек. В человеке математики столько, сколько нужно для его функционирования, а окружающий мир - сильно больше человека. А программируем мы пытаясь моделировать, то, что снаружи. В силу того, что мир больше нас, все наши модели приближенные и не точно/ограничено описывают окружающую действительность. И все, что опирается на эту нашу ограниченную математику имеет такие же ограничения. Это касается и ИИ, который вообще работает на компьютерах выдуманных Тьюрингом. А выдуманы они были для доказательства ограниченности математики и любого типа вычислителей, ее использующих.
  
  Забавно наблюдать за "пророками" вещающими, что сейчас оно само укрупнится, усложнится, а мы даже не будем понимать как оно внутри работает. А потом оно нас по-работит. Ага сейчас. Уже пробовали в Японии в 80-х прошлого века, если укрупнять в надежде, что железка вдруг начнет умнеть - оно наоборот стремительно тупеет. А наше понимание упирается в ограничения, откопанные 100 лет назад Тьюирингом, Черчем и Геделем. Ограничения на уровне нашей математики. Новые архитектуры и нейронки выше головы не дадут прыгнуть. Быстрее себя вычислителей можем создавать, умнее - нет.

bredd_owen
15.12.2023 13:06
#26272872
Автор как-то сильно впечатлился возможностями нейросетей. Я ни разу не программист (врач-психиатр), но уверен, что специалисты с фундаментальными знаниями принципов работы компьютеров и низкоуровневых языков будут требоваться еще очень долгое время. Однако, если автор имеет ввиду прикладные задачи, то необходимость в программистах после курсов Java-Rush и др. конечно будет и дальше снижаться. Я, например, в своей работе пользуюсь Python и JavaScript и для написания некоторых функций уже давно использую https://www.perplexity.ai/. Он выдает неплохие решения в ответ на запрос.

Ну а чего, собственно, вы хотели? Когда-то каждый лифт был оснащен оператором. У нас в городских больницах только сейчас начинают менять старые медицинские лифты с бабушками на современные, работа которых не требует присутствия живого человека. При этом, работа лифтера остается. Такой процесс упрощения всего и вся был, есть и будет, однако базовые задачи всегда будут решать специалисты с фундаментальными знаниями.

technomancer
15.12.2023 13:06
#26272902
Инженеры будущего нажатием нескольких клавиш будут запускать экземпляр модели,

Нихера они не будут! У меня в этом семестре была точно такая студентка, как в статье описано. ЧИСТЫЙ практик. Участник множества хакатонов, фанат нейросетей. А с процессом постановки задачи - туговато. Причём девочка сама по себе умная, и абстрактное мышление работает (большая редкость сейчас). Но в ключевом, на мой взгляд, моменте - пробуксовка.

Как наглядно доказал в знаменитом советском фильме Владимир Николаевич, прежде, чем цапу нажать - надо понимать, какую цапу ты нажимаешь.
1. K0styan
  15.12.2023 13:06
  #26273264
  Профессия бизнес-аналитика не на пустом месте родилась

andreyiq
15.12.2023 13:06
#26272964
Все больше создаётся впечатление, что мы просто вымрем как вид. ИИ будет умнее нас, робот сможет делать физическую работу лучше нас и будем мы как в мультфильме Валли, сидеть толстые на кресле в мета вселенной и просто сами перестанем размножаться.

Manrus
15.12.2023 13:06
#26272998
Революция в программировании произойдет когда сделают ИИ-компилятор. Прямое преобразование задачи на естественном языке в машинный код, минуя все слои абстракции придуманные человеком
1. Alexey2005
  15.12.2023 13:06
  #26273484
  Одного "компилятора естественного языка" мало, потому что большинство заказчиков не может внятно сформулировать, чего же они хотят. А некоторые так и сами не знают, что им в действительности нужно.
  
  В итоге этот компилятор ещё придётся дополнить телепатическим модулем, способным извлекать нужную информацию напрямую из мозга заказчика, а если вдруг её там нет - то исходя из параметров этого самого мозга спрогнозировать, какое решение какой именно проблемы удовлетворит заказчика.

nlog
15.12.2023 13:06
#26273482
Инженеры будущего нажатием нескольких клавиш будут запускать экземпляр модели, включающей четыре квинтиллиона параметров и несущей в себе весь багаж человеческих знаний в готовности выполнить любую задачу, какую можно поставить машине.

Хотелось бы верить, что такие модели или сопоставимые с ними по сложности всё таки будут доступны оффлайн для запуска на собственном оборудовании. Не обязательно на домашнем компьютере, но хотя бы на кластере серверов, который полностью контролируется своей компанией или институтом.

В противном случае, если модели будут принидлежать двум-трем корпорациям, которые полностью контролируют доступ к ним, и могут забанить любого пользователя или встроить рекламу в ответ ИИ, будущее выглядит очень печально.

saboteur_kiev
15.12.2023 13:06
#26274622
Суперинтеллект, создай мне графический редактор, типа фотошопа

Hidden text
1. Tuvok
  15.12.2023 13:06
  #26276260
  И создал же, вон даже кучу маскотов накидал на выбор. Но зачем? (Как троллейбус из хлеба) Ведь есть GIMP.
  1. saboteur_kiev
    15.12.2023 13:06
    #26276688
    Надписи на кнопочках прочитали?
    Какие операции будут выполняться при нажатии на кнопочки?
    Что вообще он умеет делать?
    
    Alexey2005
    15.12.2023 13:06
    #26276730
    Так а почему вы задаёте эти вопросы автору комментария? Не он же этот редактор придумывал и дизайнил. Задавайте их самому ChatGPT. Даже на своём текущем уровне бот сможет объяснить назначение каждой кнопки и обосновать её необходимость. Если заказчик (вы) не согласен - бот без проблем всё исправит, чтобы лучше соответствовать вашему ожиданию. Так-то по столь краткому и невнятному техзаданию и живой разработчик много не наваяет.
    
    Wesha
    15.12.2023 13:06
    #26276898
    Какие операции будут выполняться при нажатии на кнопочки?
    
    Зачем вообще столько кнопочек? Достаточно одной!

select26
15.12.2023 13:06
#26275610
Теперь атомарным вычислительным модулем уже будет выступать не процессор, память или система ввода-вывода, реализующие машину фон-Неймана, а массивная, обученная и высокоадаптивная модель ИИ.

А работать то где эти "высокоадаптивные модели ИИ" будут? На балконе сами по себе зародятся? Кто будет писать эти ИИ и окружение запуска? Описывать, деплоить и тестировать параметры окружения? Мониторинг окружения, физических серверов? Их профилактику, ремонт и провижионинг? Как сейчас все эти облака работают, кто-нибудь задумывался? Как организовать электроснабжение, охлаждение и мониторинг хотя бы тысячи серверов? Какой ИИ этим займется?
И сейчас есть оптимизирующие компиляторы которым уже по сорок лет. И даже они не всегда могут развернуть алгоритм в оптимальный код и тогда выходят на свет дедушки, которые на асме пишут критические куски кода, оптимизированные под архитектуру для повышения производительности в десятки, а иногда и в тысячи раз. Представьте - вместо тысячи серверов, вам нужно всего сто. Или десять. Ясное дело, что после трехнедельных курсов на такте не замахнешься. И после пятилетних - тоже.
Я пришел в IT в 1994 году. Начал работать официально за деньги. И все это время слышу плач Ярославны про то, как новые технологии вытеснят всех аспирантов/инженеров/программистов. Это всего лишь инструмент, который поднимает порог входа и повышает продуктивность специалиста, который умеет им грамотно пользоваться.
1. Alexey2005
  15.12.2023 13:06
  #26275678
  Так а откуда будут браться такие дедушки с громадным опытом, если джуны и даже мидлы станут никому не нужны и начнут массово заменяться нейронками? Компании не очень-то желают вкладываться в обучение, мол "мы его обучим, а он к конкурентам уйдёт, нафиг надо". И это уже сейчас, когда джун своей работой хотя бы отбивает затраты на его обучение. А представьте, что тянуть сотрудника аж до сеньора (минимум семь лет!) придётся вообще без какой-либо отдачи, ибо всё это время он будет хуже нейронки.
  1. BugM
    15.12.2023 13:06
    #26275756
    Это понятная проблема. Крупный бизнес ее решит. Будут брать сколько-то лучших выпускников вузов на стажировку, а потом джунами. Чтобы поддерживать рынок. Платить таким джунам вероятно будут поменьше, вайти отвалятся. Много денег будет для тех кто вырос.
    
    Большой бизнес умеет думать на 10 лет вперед.
  1. select26
    15.12.2023 13:06
    #26275940
    Я вам открою тайну: джуны и мидлы никогда не были нужны бизнесу.
    Им специалисты нужны, способные закрыть текущие потребности за приемлемый прайс.
    А вот если у вас не хватает компетенции для закрытия потребностей бизнеса, то просто нужно идти учиться. И не на двухмесячные курсы, если желаете позицию мидла или сеньора занимать, а в университет. Желательно не в последний. И диплом со средним баллом не ниже 85, как сейчас требуют. Такие выпускники не ищут работу, а уже курса с 3-4 имеют офер от компании, которая их ждёт.
    За последние годы в этой области изменилось только одно: появились люди, которые думают что они за пару месяцев смогут получить компетенцию сравнимую с выпускником профильного вуза. Только сами они почему-то не хотят идти на прием к стоматологу - выпускнику аналогичных трёхмесячных курсов.
    Просто создалась массовая иллюзия что порог входа существенно понизился, поэтому много людей разочарованных. Вот вся отгадка.
    А джуны и мидлы - не нужны, да.

Ababaj
15.12.2023 13:06
#26276030
Как не вспомнить здесь Арканова: "ну тупой американец!" и его такой же их тупой искусственный интеллект.

f1opec
15.12.2023 13:06
#26277510
а что вы вы лайкаете? Очередная статья про "замену" программистов, с аргументацией в сторону "вот были низкоуровневые языки, а щас высокоуровневые, потом ваще код писать не будем" - эта экстраполяция, как по мне, может служить подспорьем к аргументации, а не быть ее базой. Только тут еще добавился аргумент о том, что стандартные алгоритмы будут заменены на обучающиеся модели, что, как по мне, совсем нонсенс. Аргументы будут? Кто будет готовить миллиарды и миллиарды кейсов для обучения модели, заменяющей приложения среднего размера? Кто гарантирует, что один кейс не вступит в противоречие с другим внутри модели при дообучении? Как внедрять обновления на постоянной основе в кратчайшие сроки (сравнимые с классическим обновлением путем редактирования кода), учитывая, что переобучение не только долгий процесс, так еще и не детерминированный? Как скейлить эту "черную коробку"?
1. PrinceKorwin
  15.12.2023 13:06
  #26277802
  вот были низкоуровневые языки, а щас высокоуровневые, потом ваще код писать не будем" - эта экстраполяция, как по мне, может служить подспорьем к аргументации, а не быть ее базой.
  
  Мне кажется этот аргумент даже подспорьем не может быть. От того, что появились высокоуровневые языки низкоуровневые языки не исчезли. Просто каждый язык занял свою нишу и там используется.
  
  Точно также и программирование через АИ займет свою нишу. Возможно где-то что-то вытеснит немного, но не более того.
  1. Wesha
    15.12.2023 13:06
    #26278134
    и программирование через АИ займет свою нишу.
    
    Да ради бога, пускай занимает. Просто не стоит забывать, что тренировалось оно на усреднённом срезе человеческого опыта — то есть в нём будут и творения гениев, и каляки бездарностей — вот только проблема в том, что решений не-гениев в выборке будет значительно больше, чем решений гениев, и потому они перевесят. А поскольку AI (кстати, по моему опыту, более подходящая расшифровка — Artificial Idiot) не строит логические цепочки ("если A, то B; если B, то C") — то причины принятия того или иного решения — темна вода в облацех. Потому я за своё будущее не беспокоюсь: либо буду при помощи логических выводов чинить то, что оно напрограммировало, либо буду работать на нехороших парней — ломать то, что оно напрограммировало.
    
    Как-то так