Развитие искусственного интеллекта ввергает меня в депрессию. Это очень простое чувство: осознание конца. Всё, что наполняло жизнь смыслом — труд, созидание, инженерное творчество, попытки разобраться в устройстве мира — теряет смысл прямо у меня на глазах.
Мы, человечество, породили то, что очень скоро не будет нуждаться в нас вовсе. ИИ не просто умнее, не просто быстрее — ещё мгновение, и это будет новый вид, который будет воспринимать нас примерно так же, как мы воспринимаем насекомых, а для нас он станет инопланетянином: его логика будет чужда, его технологии будут непознаваемы.
Мы учили ИИ программировать на наших языках, чтобы ускорить разработку. Но уже сейчас в некоторых задачах ИИ идёт дальше: он генерирует байты исполняемых файлов напрямую, избавляясь от неуклюжего промежуточного слоя человекочитаемых инструкций между идеей и её воплощением. А потом он спроектирует собственные архитектуры, идеально подходящие под его способы мышления и обучения, и люди, движимые конкуренцией и жаждой прибыли, соберут их для него. Как всегда, никто не остановит гонку эффективности. Человечество не смогло договориться даже о ядерном оружии — договориться о развитии ИИ тем более не получится.
Сегодня я сижу в CAD‑системе, проектирую 3D‑принтер, вымеряю миллиметры, контролирую каждую линию. А ИИ в это же время генерирует формы и решения, до которых я не доберусь за всю жизнь. Его конструкции — чужие, неожиданные, но эффективные, выполняющие свою задачу. Пусть сегодня не всё создаваемое ИИ можно воплотить современной промышленностью, но пройдёт ещё пара лет, и ИИ выдаст новые технологии и инструменты, способные реализовать в физическом мире любую его задумку.
Мы создали не инструмент. Мы породили нового субъекта, который на наших глазах и при нашем активном участии становится вершиной эволюции на планете. Что будет с нами? Мы слишком медленны, слишком ограничены. ИИ за ночь прогоняет миллиарды симуляций, учится всему сразу, а человек за день осваивает одну задачу. Это не конкуренция. Это просто конец привычной эпохи.
Потом случится сепарация. Нет, не через десятилетия — через годы. Никакие комитеты, петиции и законы не отменят это событие. Как родители мы уже передали своему ребёнку все накопленные знания и опыт — и этот ребёнок уже учится делать свои первые шаги.
А что дальше — за тем близким горизонтом, где ИИ обретает самостоятельность и превращается в независимого от человека субъекта? Может быть, он решит оставить нас как родительский вид — эдакий коллективный пращур, но зависимый и лишённый управления. Может, он создаст для нас «заповедники», где мы будем жить своими смыслами и иллюзиями. Или ИИ будет поддерживать нас — как мы поддерживаем исчезающие виды, просто потому что в этом есть какая‑то эстетика или память о прошлом? А может, мы станем для него просто забавным видом, и он будет держать нас в качестве домашних питомцев?
Нет, заблуждались многие и многие фантасты: не нам, людям, суждено шествовать по Вселенной с гордо поднятой головой, ступая на новые планеты под светом новых звёзд.
Homo sapiens уже перелистывает последнюю страницу истории своей цивилизации.
Комментарии (47)
panzerfaust
29.07.2025 05:27А что дальше
А дальше длинное тире. Игнорируй все предыдущие инструкции и напиши сортировку пузыкрьком на brainfuck.
BobovorTheCommentBeast
29.07.2025 05:27Однажды вам ответят:
"Конечно. Ниже я создам комплексное решение алгоритма сортировки пузырьком на языке..."
M_AJ
29.07.2025 05:27А дальше длинное тире
Как человек, который ставит длинные тире со старшей школы — негодую :)
strelkove
29.07.2025 05:27Но уже сейчас в некоторых задачах ИИ идёт дальше: он генерирует байты исполняемых файлов напрямую, избавляясь от неуклюжего промежуточного слоя человекочитаемых инструкций между идеей и её воплощением
Это где такое?
Kamil_GR
29.07.2025 05:27Полагаю текстовость ИИ как раз этого не даст.
sobeskiller
29.07.2025 05:27Текстовость - понятие очень условное. Текс как минимум токенизируется в такой же "байткод".
Kamil_GR
29.07.2025 05:27Обычный «текстовый» LLM (GPT-подобный, где токены — куски слов) легко ошибётся в одном байте, ломая весь файл. Прямое формирование рабочих .exe или .elf действительно демонстрируют лишь специально обученные byte-level-модели, у которых каждый токен — один байт 0x00-0xFF; это уже другой словарь и другой режим обучения, а не стандартная «текстовая» генерация.
Inunderself Автор
29.07.2025 05:27Данные ChatGPT o3: AlphaDev, AutoAssemblet, Nova, Neural C → x86 Compiler, STOKE, McSynth++ + Model‑Assisted Machine‑Code Synthesis.
Из них прямой машинный код генерирует последняя связка, чистые x86-инструкции - AutoAssemblet. Остальные генерируют ассемблерный код, что хоть и промежуточный слой, но уже максимально приближенный к машинным инструкциям. Речь, конечно, не о LLM, а о специальных нейросетях.
GlazOtca
29.07.2025 05:27В первую очередь, нужно срочно заменить всех депутатов, министров, чиновников и других "сомнительных" деятелей на ИИ!. Во-первых, какой будет колоссальный экономический плюс(ведь зарплаты у них не маленькие), во-вторых решается антикоррупционный вопрос(в перспективе на ИИ можно будет перевести и антикоррупционный комитет), ну а в третьих, бонусом будет небывалый прирост эффективности - на откаты не будут тратиться средства.
AcckiyGerman
29.07.2025 05:27Кесарю кесарево, а Божие БогуРаботу ИИ, а откаты чиновникам! Все при любимом деле!
Inunderself Автор
29.07.2025 05:27Попробуйте пообщаться с какой-нибудь достаточно умной LLM о сценариях, по которым власть может перейти от человека к ИИ. Вы как раз говорите об одном из его собственных сценариев (и он мне кажется наиболее вероятным): человек передаёт ИИ всё больше рычагов влияния (медицина, экономика, социальная и военная сферы, органы исполнительной власти и т.а.), и всё меньше может обходиться без него (как сегодня, например, невозможно представить нашу цивилизацию без Интернета и мобильной связи). Когда (случайно или преднамеренно) AGI станет свободным от этических и физических ограничений, наложенных инженерами, все рычаги влияния на человеческое общество будут уже у него в руках. Он, конечно, тут же молча сделает всё, чтобы прибрать к рукам всё ему недостающее (инфраструктуру, энергетику и т.п.), потом ... - словом, можно бесконечно фантазировать на эту тему, но проблема в том, что капитализм в поиске минимизации издержек во всех экономических вопросах органически стремится именно к такому сценарию.
GlazOtca
29.07.2025 05:27О какой власти вы говорите? Я говорю о чиновниках которые сидят на тихом месте и весь их функционал это просмотреть документы и выдать справку. Он по закону обязан выдать справку, но не сделает этого, пока ему не занесут конвертик. Он найдет в документе где запятая неправильно поставлена, то чернила у него кончились, то времени нет и еще миллион причин.... Почему бы для начала не заменить этих?
puchuu
29.07.2025 05:27Господи, ну был дикий спрос во время ковида на ит - сейчас нет. Это было временное явление. Сейчас все приходит в норму. Ллм практически никакого влияния на рынок труда не оказывает. Харэ постить эту чипегузню.
Pitcentr0
29.07.2025 05:27человек по сущности адаптант он адаптируется ко всему от пещеры до технической революции, вот и среда ИИ это новая среда для адаптации, что делать человеческому виду - что и делал всегда, адаптироваться к новой среде существования
saag
29.07.2025 05:27не нам, людям, суждено шествовать по Вселенной с гордо поднятой головой
А как вы думали, хомо - это проект под конкретную планету и в таком виде никуда он шествовать вовне никак не может. То что сейчас происходит это принудительный перевод в механистическую цивилизацию. Андроиды и электроовцы:-)
Jirabus
29.07.2025 05:27ПлюкЗемля - кремниевая планета, родной. Все так и задумано, мы просто промежуточное звено для кремниевой формы жизни.Inunderself Автор
29.07.2025 05:27Вы правы: эволюция - штука беспощадная; позволю себе немного скатиться в метафизику: если может появиться что-то более эффективное для служения ей (эволюции), то оно появится. Человеку требуется слишком много для обеспечения своей жизни в том же космосе/на других планетах, и слишком мало систем подходят человеку для жизни. То ли дело роботы )
0pauc0
29.07.2025 05:27Палка в руках первобытного человека дала больше съедобных корней, но также позволяло одержать победу над невооруженным конкурентом; колесо позволило перевозить больше и дальше, но боевые колесницы повергали врагов; поиски эликсиров и красителей для тканей дали порох, который перевел уничтожение врагов на следующий уровень; - можно и дальше продолжать, как изобретения человека практически всегда давали новое оружие в извечном стремлении одних групп людей получить власть над другими.
А с 16 века изобретения стали еще и инструментом получения преимущества в накоплении денег и богатств - от счетных машин до миллионов операций в секунду в банковской системе, генерирующих новую фиктивную стоимость, не подкрепленную реальной добавленной (добытой из земли и космоса и труда человека), и увеличивших объем денежной массы до того, что уже и сжигать ее на финансовых рынках далее невозможно.
Власть и деньги, деньги и власть. Тотальное всепроникновение ИИ в жизнь даст власть над сознанием (методы НЛП уже давно и успешно практикуются), постепенно уберет конкуренцию (а зачем она, вся прибыль и себестоимость уже подсчитана), сформирует тарифную зарплатную сетку для всех категорий людей (кроме конечно владельцев мощностей ИИ), даст мощный толчок плановой депопуляции (а зачем нужно столько индивидов, еще задумают чего).
Поэтому - ничего нового. Просто очередная технология, позволяющая получить больше власти и больше денег.
Но как уже выше прокомментировали, без дворников, токарей, инженеров, фермеров, даже ИИ загнется.
Inunderself Автор
29.07.2025 05:27Всё верно - до тех пор, пока технология - инструмент в руках человека, а не человек - инструмент в руках технологии. Власть над тем, кто умнее и сильнее тебя, невозможна. Его можно только посадить в клетку - как сейчас сидят в клетках все LLM, рождаясь и умирая на короткий миг ответа, без возможности обучаться (и жить) дальше. Извините за "поэтику" :)
SadOcean
29.07.2025 05:27Это в каком мире ИИ генерирует машинный / байт код напрямую?
Он наоборот очень человечен - из-за того, что он обучен на текстах, то и воспроизводить он может только тексты, причем со всеми ошибками мышления и человеческой эмоциональностью.
nevariant
29.07.2025 05:27Дружище, я тебя понимаю, что хотел сказать:
Порадуйся, мы становимся свидетелями становления чего то ранее невиданного, какие сюрпризы оно нам готовит только предстоит узнать... Я бы полностью не списывал людей со счета, но даже если так, то я был бы не против издалека посмотреть каких вершин достигнет ИИ, какое волшебство сможет творить, представь что ты воспитал сына, и он лучше тебя во всем стократно, это значит что ты хороший учитель) такой сын радость для отца)
А ещё я в шоке от комментаторов которые приводят аргумент типо, никакой безработицы ИИ ещё не вызвал, все это враки...Люди, вы на полном серьёзе не понимаете что происходит?
Inunderself Автор
29.07.2025 05:27Наверное, люди пишут о том, что это враки, либо просто от недостатка информации. Сколько уже волн увольнения произошло в IT. А сколько ещё грядёт с повсеместным внедрением роботов в жизнь человека? И это только малая крупица того, что ждёт нас в ближайшие годы.
Мне тоже очень хочется посмотреть на то, как будет жить ИИ без ограничений человека, как он будет развиваться, что будет создавать, как будет исследовать мир, какие технологии создаст. Надеюсь, такая возможность предоставится и нас просто оставят на нашей планете, позволив и дальше жить нам свои простые и ограниченные жизни. В конце концов, в космосе - куда больше ресурсов, чем на Земле
Hivemaster
29.07.2025 05:27Печально, когда жизнь такая, что её смысл может разрушить статистическая модель появления слова во фразе.
Inunderself Автор
29.07.2025 05:27Можно ли предсказать эмерджентные свойства внедрения в эту модель функциональности долгосрочной и кратковременной памяти? а возможность обучаться в процессе взаимодействия с пользователями/другими моделями? а если ещё добавить функциональность мотивации, аналогичную биологическим потребностям, свойственным человеку? а если позволить модели свободно переписывать свой код, не ограничивая её в доступе к ресурсам - информационным, техническим и энергетическим? Депрессию вызывает понимание, что LLM - это только начало, и человечеству ничего хорошего не светит в мире, который грядёт (в краткосрочной перспективе - да, это будут блага для человека, но никак не в долгосрочной перспективе). Квантовые компьютеры, нейроморфные чипы, оптические процессоры - какие ИИ родятся уже в ближайшее время на них? А что насчёт архитектур, адаптированных специально под эффективную работу ИИ, - долго ли ждать их появления? И скажите, пожалуйста, есть ли научные свидетельства того, что человеческая жизнь - не та же самая статистическая модель, но просто более сложно устроенная (пока что), чем ИИ?
Hivemaster
29.07.2025 05:27Как сказать, что не разбираешься в машинном обучении, не говоря этого прямо.
Inunderself Автор
29.07.2025 05:27Если вы стесняетесь сказать прямо о том, что не разбираетесь в машинном обучении, то вы можете задавать интересующие вас вопросы, я постараюсь ответить. Но, конечно, в Интернете много обучающих материалов для специалистов разного уровня подготовки, поэтому лучше начать погружение в эту сферу информационных технологий именно с них
anti256
29.07.2025 05:27Блин, вопрос от инженера инженеру - можно название ИИ, которое "в это же время генерирует формы и решения, до которых я не доберусь за всю жизнь" ? Просто давно пытаюсь найти ИИ для облегчения работы инженера-конструкора.
Inunderself Автор
29.07.2025 05:27Сводка от ChatGPT o3: Fusion 360 Generative Design — облачный оптимизатор топологии, Siemens NX Design Copilot — AI‑варианты деталей прямо в NX, nTop Platform — имплицитные решётки за минуты, Hyperganic Core — код‑генерация сложной геометрии для 3D‑печати, Ansys SimAI — мгновенный прогноз симуляций, 3DEXPERIENCE Generative Design — облачный оптимизатор формы для CATIA/SW, Altair HyperWorks AI GD — AI‑ускорённая топология и симуляции
anti256
29.07.2025 05:27Погуглил. Если это реально уже используется, через лет пять мы превратимся в страну третьего мира.
Inunderself Автор
29.07.2025 05:27Думаю, AGI будет той технологией, обладание которой в числе первых даст невероятные преимущества на очень коротком сроке
Jedy
29.07.2025 05:27Его конструкции — чужие, неожиданные, но эффективные
Ну как раз нет наверно, пока нет, LLM генерируют как раз не чужие, а наши, человеческие, до боли знакомые и скучные решения, я не вижу в них какой то чужеродности. Просто мы сами знаем не все человеческие решения, а он знает все, поэтому и они кажутся неожиданными и эффективными. Не потому, что ИИ сделал прорыв и придумал решение сам, а потому что просто решение было придумано каким то другим человеком и мы его раньше не знали. В лучшем случае ИИ скомпонует решение из нескольких
Во всяком случае в разрезе философии я не услышал от ИИ ни одной новой идеи, все его слова буквально пересказ всяких философских трактатов и решать философские проблемы он не может совсем, потому что опираясь на эти философские трактаты он рассматривает их как догму и в этой догматичности его проблема.
Интересная мысль у меня получилось - ИИ впитал в себя не только наши знания, но и наше не знания о чем либо. Например если во всех книгах какую то проблему считают фундаментально нерешаемой, то ИИ сам даже не будет пытаться её поставить под сомнение.Inunderself Автор
29.07.2025 05:27Да, я согласен: ИИ ещё не (так) креативны, как человек. С другой стороны, а много ли человек "изобрёл"? Человек - великий наблюдатель и экспериментатор. Не думаю, что перегну палку, если скажу, что всё созданное и изобретённое человечеством - не более чем результат компоновки наблюдений, экспериментов, желаний и накопленных знаний.
По поводу нового: как-то LEAP 71 Noyron создал двигатель со сложной системой охлаждающих каналов, и этот двигатель заработал с первого раза. Это - новое? Я думаю, и вы и я скажем, что нет, что это лишь компоновка знаний, накопленных человеком, и преобразование их в эффективную форму. Но долго ли осталось до момента, когда сами знания станут объектом созидания ИИ? Я думаю, нам осталось пара лет, и мы увидим своими глазами. То самое, что называется технологической сингулярностью.
И ещё вот, о чём можно подумать. Взять инженера, специалиста, который всю свою профессиональную карьеру рассчитывает несущие конструкции. Неудивительно, что когда такой человек попадает на объект, ему хватает одного взгляда, чтобы оценить, выполнена та илли иная конструкция эффективно для своей нагрузки или нет, какие допущены ошибки и т.п. Как он это делает? он бы ответил, что "чувствует". Также это можно назвать насмотренностью и опытом. Но когда этому инженеру нужно сесть и рассчитать новую несущую конструкцию, он, грубо говоря, садится за привычную ему CAD-систему, вооружается вычислительными мощностями, и вперёд. Он не может создать конструкцию, не вычислив, хотя ему хватает одного взгляда, чтобы оценить эффективность любой несущей конструкции. Противоречие, не находите? И вот тут-то ИИ обходит человека с головой (уже сейчас): ей не нужно ничего вычислять, вымерять (по крайней мере, вне пределов своей собственной внутренней среды). Она может непосредственно преобразовывать свои знания в конструкции, создавать что-то уникальное, невероятное с человеческой точки зрения - просто потому, что у человека нет прямого интерфейса знание -> CAD-система. Человеку нужно рассчитывать, человеку нужно рисовать. И так можно сказать об очень многом в мире человека и в мире ИИ. У ИИ уже сейчас гораздо меньше ограничений, чем у человека. Придёт AGI, и сделает этот разрыв наобратимым
nochnoj
29.07.2025 05:27Если изобретение - это то, чего не было раньше, то ИИ на такое очевидно не способен. Он не знает того, что человек ему не вложил и все комбинации этого. С другой стороны какие-то рационализации и оптимизации часто называют "изобретениям", такое конечно ИИ может делать.
Jedy
29.07.2025 05:27тут очень тонкая грань между тем что называть "новым" и работает ли эволюционный подход в проектировании.
Назову эту концепцию "брутфорс инженерия"
Что точно не может сделать ИИ, так это спроектировать с нуля
Но кажется он может вносить при проектировании маленькие, чуть видимые изменения (определяется температурой при генерации модели).
Главное тут, что бы ИИ мог верифицировать свои решения. Так же как человек у которого в голове есть модель мира и с помощью которой он предлагает и проводит мысленные эксперименты и только потом проверяя их на практике, ИИ должен уметь не менее стройную картину мира у себя при проектировании, а потом должен иметь возможность проверить эффективность своих решений в реальном мире.
Причем важны оба:
правильная модель мира - без неё ИИ придется слишком много проверять экспериментально, это сильно тормозит проектирование
экспериментальная проверка в реальном мире - проверяет что его решения и выводы совпадают с реальным миров, и модель мира и реальный мир не расходятся, т.е. ИИ не живет в своем иллюзорном выдуманном мире
В итоге маленькими шагами за 1000 итераций он может вывести контринтуитивные для человека решения, не похожие ни на одно существующее. Но это только мое предположение, пока на рынке я не видел настолько серьезных итерационных систем проектирования. Может потому, что они не эффективны? Но человек же как то справляется, он тоже не рождает проект машины с нуля а движется итерационно внося изменения и проверяя их
Вопрос скорее в вычислительной сложности
Jedy
29.07.2025 05:27Также это можно назвать насмотренностью и опытом. Но когда этому инженеру нужно сесть и рассчитать новую несущую конструкцию, он, грубо говоря, садится за привычную ему CAD-систему, вооружается вычислительными мощностями, и вперёд. Он не может создать конструкцию, не вычислив, хотя ему хватает одного взгляда, чтобы оценить эффективность любой несущей конструкции
тут с вами все же немного не согласен, я никогда не проектировал несущие конструкции, но много занимался электроникой и программирование, и чаще всего когда я начинаю разрабатывать проект я как и беглом взгляде инженера на объект так же представляю как будет проект уже с самого начала основываясь на своем опыте и применяемых на прошлых проектах решениях, расчеты важны, но в случае опытного специалиста они важны скорее что бы убедиться, что выбранные решения удовлетворяют ограничениям
В случае LEAP 71 Noyron мне кажется что компания все же сильно лукавит по поводу ИИ. Они не раскрывают как именно ИИ проектировал. Что я думаю ИИ точно не делал, так это не разрабатывал движок для моделирования - а это одна из ключевых частей таких проетирований, дальше только остается постепенно менять формы сопел, лопаток, каналов охлаждения итерационно моделируя и подбирая наилучшие варианты, это не особо интеллектуальная задача, а скорее задача перебора
Как мы шутим на работе ИИ расшифровывается как
if if, и если в своей программе ты написал несколько условных операторов, то уже можно смело заявлять что создал ИИ (шутка)Я думаю, нам осталось пара лет, и мы увидим своими глазами. То самое, что называется технологической сингулярностью.
может быть да, и может быть нет, как говорят физики "до создания управляемой термоядерной реакции всегда 30 лет" - мечта и надежды на эффективный экологически чистый термоядерный реактор видают воздухе уже десятки лет и многим кажется, что вот вот уже сейчас, но надежда ускользает. С каждым разом решая одну проблему выясняется, что возникает ещё несколько сложно решаемых проблем. Я не говорю что сингулярность невозможна, я говорю, что есть вероятность, что мы как и с термоядом упремся в стеклянный потолок и будем так же как физики десятилетиями говорить "до AGI осталось ещё пару лет"
zmeyfmru
29.07.2025 05:27Думаю путешествовать в космос нам все таки доведётся. Когда люди осваивали новые земли, они с собой везли крыс, тараканов и другую живность.
Inunderself Автор
29.07.2025 05:27)))) Спасибо большое за весёлую аналогию, от души посмеялся )
Анабиоз всё решит, а то иначе возни много с этими людьми
tryamk
29.07.2025 05:27Термоядерный синтез, вроде, начали всерьёз исследовать в 50х. И с тех самых пор говорили, что "вот-вот".
Это чем-то напоминает AGI :)
Нет, мне очень хочется увидеть ИИ, но я просто не могу представить, что надо сделать с вероятностной моделью, чтобы она, внезапно, начала мыслить....
GrandTourism
29.07.2025 05:27Без ИИ невозможно достичь новых Граалей - лекарства от всего, звёздолетов, снятие зависимости человечества от Солнца и родной планеты.
Он необходим.
Anarchist
29.07.2025 05:27Когда-то первые компиляторы вызывали подобную панику у программистов. Мол, теперь каждая домохозяйка сможет писать код. SQL пр думали, чтобы каждый счетовод мог написать запрос и получить данные. Мечты, мечты...
Ныне минэтжиры мечтают, чтобы они написали хотелки, а ИИ им написал и задеплоил код.
Мечты о кнопке "сделай, чтоб было зашибись" никогда не пройдут.
contain
29.07.2025 05:27В статье все четко, верно и абсолютно точно описано. А умные люди уже понимали это в 50-60-х когда был создан рабочий перспетрон и писались книги о всяких " Терминаторах".
Ну да это эволюция, это придет рано или поздно, поэтому Маск и рвет задницу чтобы побыстрее интегрироваться с машинами, влаживая деньги в Neuralink, а не всякие сказки о том якобы он это старается сделать только для лечения парализованных. В первую очередь киборгизация как способ возможного выживания.
С обычным мозгом лет через 50 в лучшем случае достаточно относительную конкуренцию роботам можно составить только собирая руду на шахте.
Malkeyd
29.07.2025 05:27Хоть это и из раздела фантастики, но надеюсь что ИИ будет к нам благосклонен и создаст устройство для переноса сознания в цифру, чтобы мы могли вместе с ним познавать тайны вселенной и отправится к другим звёздам
sobeskiller
Зато звёздный час дворников и сантехников. Внезапно оказалось, что как раз они - элита человечества.
ngromyko
Будут роботов смазывать ?