Привет, Хабр!
Искусственный интеллект сегодня у всех на слуху. Технологии развиваются стремительно: они меняют бизнес, творчество и повседневную жизнь. Но вместе с возможностями приходят и тревоги — многие боятся, что ИИ выйдет из-под контроля.
А что, если это уже происходило?
60 лет назад мир тоже стоял на пороге революции искусственного интеллекта. Ученые предсказывали скорое появление машин, способных мыслить как человек. Правительства инвестировали миллионы в исследования, университеты, открывали новые программы. Казалось, прорыв не за горами. Но революция так и не случилась.
В этой статье мы попробуем разобраться, почему это произошло. Если вам интересен мир ИИ и разработки, то подписывайтесь на мой телеграмм канал, там я выкладываю свои статьи и дополнительные материалы.
Глава 1. Начало технологической гонки
Одной из самых перспективных сфер считался машинный перевод - технология, которая могла дать значительное преимущество США в холодной войне.
Для лучшего понимания стоит немного лучше изучить контекст того времени. Представьте США 1950-х: экономический бум, послевоенный оптимизм и нарастающее противостояние с СССР. Правительство щедро финансирует науку, включая зарождающуюся сферу ИИ (термин появится лишь в 1954 году).
Но 4 октября 1957 года Советский Союз запускает первый искусственный спутник земли. Это событие меняет правила игры.
Реакция США не заставила себя долго ждать. Президент Эйзенхауэр со словами "лучше бы это больше не повторилось" создает организацию ARPA (Advanced Research Projects Agency - агентство перспективных исследовательских проектов) с многомиллионным финансированием.
Следующие 10 лет ARPA проводит исследования в областях:
Теория текстов и лингвистика;
Алгоритмы обработки языка;
Решение проблемы лексической многозначности
Проблема лексической многозначности
Проблема в области обработки естественного языка, которая заключается в неоднозначном переводе слов в зависимости от контекста.
Типичные примеры абсурдного перевода:
«The spirit is willing, but the flesh is weak» (Дух бодр, но плоть немощна)
Обратный перевод: «The vodka is good, but the meat is rotten» (Водка хорошая, но мясо протухло)«Out of sight, out of mind» (С глаз долой — из сердца вон). Обратный перевод: «Blind idiot» (Слепой идиот)
В 1959 г. философ Йегошуа Бар-Хиллел выступил с утверждением, что высококачественный полностью автоматический машинный перевод не может быть достигнут в принципе. В качестве аргумента он еще раз привел проблему лексической многозначности перевода для слова pen в следующем контексте:
John was looking for his toy box. Finally he found it. The box was in the pen. John was very happy. (Джон искал свою игрушечную коробку. Наконец он её нашёл. Коробка была в манеже. Джон был очень счастлив)
Pen в данном случае должно переводиться не как инструмент для письма, а как "детский манеж" (play-pen). Без понимания контекста и особенностей окружающего мира машина неспособна правильно перевести некоторые слова. Примерно на таком уровне находились разработки агентства DARPA к концу 70-х. За это время появилась дополнительная буква, которая означала Defence, чтобы подчеркнуть связь с министерством обороны. Стоит сказать, что эта проблема до сих не решена полностью.
Глава 2. Политика, экономика и закат первой эры ИИ
За последние 10 лет политика и экономика изменились:
К концу 70-х экономический бум оказался на спаде
В 65-м началась война во Вьетнаме, которая затянется на много лет
Увеличение роста расходов и инфляции
На фоне этих проблем, правительство решает финансировать только те сферы науки, которые непосредственно связаны с Министерством Обороны.
В 1964 году Национальный исследовательский совет США забил тревогу из-за отсутствия прогресса и создал Консультативный комитет по автоматической обработке языков (ALPAC) для изучения проблемы. В своём отчете 1966 года комитет пришёл к выводам, что машинный перевод оказался:
менее точным
более дорогим
медленным
Потратив около 20 миллионов долларов, Национальный исследовательский совет свернул все разработки, а исследования были прекращены. Так закончились исследования, которые продолжались последние 10 лет.
Но не ужели все было настолько плохо, чтобы в один момент закопать 10 лет исследований и миллионные инвестиции?
Отчет агентства ALPAC
В своем отчете они изучали проблемы:
Потребность переводчиков и их количество
Скорость перевода
Но сперва ALPAC узнали, какие языки доминировали в научной литературе. Согласно отчету, 76% занимал Английский, а доля Русского была незначительна.
ЗатемALPAC решила изучить количество штатных переводчиков в государственных учреждениях. Например, в Вашингтоне было:
500 мест штатных переводчиков
4000 переводчиков на контракте
При этом в среднем из них привлекались только 300. То есть государство имело большой запас и могло без проблем удвоить количество переводимых документов или сократить время перевода.
Стоимость перевода:
9–66$ — человеческий перевод за 1000 слов
20–30$ — машинный перевод за 1000 слов
Скорость перевода.
Сейчас машины в разы превосходят людей по скорости перевода, но в то время был нюанс — 1969 год и IBM 701 с 4кб ОЗУ.
Скорость перевода:
Человеческий перевод — 15 дней на 50 страниц
Машинный перевод — 109 дней на 50 страниц
При этом машинный перевод требовал последующей обработки, так как он не учитывал контекст.
Мнение переводчиков
ALPAC решили провести опрос среди переводчиков на счет переведенных текстов. Мнения разделились:
6 переводчиков сочли, что это примерно то же самое, как если бы переводил человек
Большинство переводчиков «сочли их утомительными и даже разочаровывающими»
Многие согласились подчеркнули, что «Выходные данные послужили подспорьем. Особенно в том, что касается технических терминов».
В своем отчете агентство привело негативный отзыв одного из переводчиков:
Я обнаружил, что потратил на редактирование по меньшей мере столько же времени, как если бы я выполнил весь перевод с самого начала. Даже при этом я сомневаюсь, что отредактированный перевод читается так же гладко, как тот, который я бы начал с нуля. Я пришел к выводу, что сегодня машина переводит с иностранного языка на ломаный английский, в чем-то сравнимый с пиджин-инглиш. Но тогда читателю остается выучить этот диалект, чтобы понять, что на самом деле написал русский . Изучение русского языка было бы ненамного сложнее
Стоимость Инвестиций
В своем отчете ALPAC говорят о 20 миллионах долларов, но на самом деле все было не совсем так. Согласно сторонним источникам, инвестиции выглядели так:
35.000 — спонсирование конференций
59.000 — создание ALPAC
101.000 — исследования за пределами США
1.362.000 — исследования в Пенсильванском университете, который не имел прямого отношения к машинному переводу и теории текста
11.906.000 — глобальные суммы на армию, флот без подробностей о получателях
Таким образом сумма инвестиций была ближе к 8–12 миллионам.
Заключение агентства ALPAC
В своем отчете они пришли к нескольким выводам:
Экономическая нецелесообразность: машинный перевод был дороже человеческого. Помимо этого нужно было учитывать затраты на разработку вычислительных систем, которые так же не окупались
Низкая эффективность: точность машинного перевода 50–70% и требует значительной постобработки
Заключение: «Следует прекратить масштабное финансирование машинного перевода и сосредоточиться на:
Разработке компьютерных словарей и инструментов для переводчиков.
Фундаментальных исследованиях в области лингвистики и синтаксического анализа»
Так скептицизм на счет скорого развития вычислительных систем, поправки демократов и мышление в рамках своего времени отдалили прорыв в области машинного перевода примерно на 20 лет.
Перцептрон и Фрэнк Розенблатт
Машинный перевод был не единственной областью в которой велись разработки. В это же время Фрэнк Розенблатт придумал перцептрон. Перцептрон — одна из первых математических моделей искусственного нейрона.
Первая его версия была смоделирована при помощи компьютера IBM 704. Обучившись, программа Розенблатта была способна успешно распознавать различные геометрические фигуры. Спустя пару лет перцептрон успешно выделял общие черты у объектов, например, букв разного подчерка и демонстрировал способность к генерализации, распознавая буквы, не встречающиеся в обучающей выборке.
Перцептрон называли моделью мозга, а не просто инструментом для классификации.
Противники идей Розенблатта
1969 год. Марвин Минский и Сеймур Пейперт — работники Массачусетского технологического института опубликовывают свою работу под названием «Перцептроны», которую можно назвать одной составных частей в поворотном моменте истории ИИ. В ней авторы математически доказали фундаментальные ограничения перцептронов. Минский и Пейперт показали, что однослойные перцептроны не способны решать нелинейно разрешимые задачи.
Ко всему этому добился отчет ALPAC и поправка Мэнсфилда цель которой — ограничить финансирование исследований Министерства обороны, если они не имеют прямого и очевидного военного применения.
Реакция авторов и группы ученых
«Минский и Пейперт выбрали для анализа искусственно ограниченную модель перцептрона. Они игнорируют биологическую правдоподобность и адаптивные возможности реальных нейронных систем» — Из письма Розенблатта коллегам после публикации книги
«Книга 'Перцептроны' стала политическим, а не научным документом. Она дала DARPA повод прекратить финансирование нейросетевых исследований» — заявления группы исследователей
Розенблат продолжал эксперименты с многослойными перцептронами, но не успел довести исследования до конца. Он погиб 11 июля 1971 в возрасте 43 лет во время плавания на парусной лодке
Таким образом, Розенблат не успел доказать величие своего изобретения. Это случится только через 15 лет. Сегодня глубокое обучение (потомок идей Розенблатта) лежит в основе ChatGPT.
Заключение
Я лишь хочу сказать, что не стоит недооценивать технологии, а также нужно почаще оглядываться назад. Многое из того, что происходит сегодня, уже происходило в прошлом.
А первая зима ИИ закончилась, и началась оттепель, которая продлилась до 90-х годов.
Спасибо за прочтение! Не забывайте про мой канал, в котором можно найти много всего интересного на тему ИИ.
Комментарии (102)
erogov
28.07.2025 06:08Сейчас машины в разы превосходят людей по скорости перевода, но в то время был нюанс - 1969 год и IBM 701 с 4кб ОЗУ.
IBM 701 — это 1953-й год. В 69-м совсем другие были технологии.
opusmode
28.07.2025 06:08думаю, что речь о всей 700\7000 серии. Типа да, формально уже были и CDC и system 360, но не уверен, что они были достаточно массовые и их хватало всем и на всё
saipr
28.07.2025 06:08Обучившись, программа Розенблатта была способна успешно распознавать различные геометрические фигуры. Спустя пару лет перцептрон успешно выделял общие черты у объектов, например, букв разного подчерка и демонстрировал способность к генерализации, распознавая буквы, не встречающиеся в обучающей выборке.
Не так давно искусственный интеллект социальной сети «ВКонтакте» прислал мне вопрлс, не я ли стою, обнимаю К.Г. Шахназарова:
Фотографию справа добавлена мною. Кстати, это неудивительно, В Екатеринбурге я давал за Михалкова автографы, на улице Пятницкой в Москве школьники не давали проходу, толпа народу на вокзале в Минске не давала выйти из вагона.
Так что, здесь искусственный интеллект очень похож на интеллект человека, ему также свойственно ошибаться.
Viacheslav-hub Автор
28.07.2025 06:08Не ожидал, что знаменитости попадут на мою статью)
Zirgius
28.07.2025 06:08Очень спорная знаменательная знаменитость, чья деятельность последних 10 лет ознаменована знаменательными знамениями особенно по гоств
PereslavlFoto
28.07.2025 06:08План успеха:
Выбрить голову.
Возглавить Союз кинематографистов России.
Профит!!!
salnicoff
28.07.2025 06:08Все правильно, про какого-то мичмана (или прапорщика?) Вы тут много писали! ;-) ;-) ;-)
sim31r
28.07.2025 06:08Возможно это не ошибка, а способ привлечь внимание. То есть нейросеть пробегает по известным личностям и находит сходства. Многим это очень нравится, просто событие года. Если это так, то ИИ переигрывает людей на поле хитрых манипуляций вниманием.
IgnatF
28.07.2025 06:08Ну как бы не удивительно. В то время не было накопителей большого объема, способных в режиме онлайн работать. Да и компьютеры не способны были на многое. Плюс еще сам алгоритм перевода был явно не лучшим. Как многие помнят прорыв в этом направление где то в конце десятых случился.
Viacheslav-hub Автор
28.07.2025 06:08Я думаю, нам ещё стоит ожидать прорыва в области машинного перевода, так как даже современные LLM зачастую неправильно переводят термины. Ту же аббревиатуру LLM они переводят как "магистр права")
IgnatF
28.07.2025 06:08Ну по словарю так и есть. Видимо данные на которых обучали ИИ не содержали значения LLM как большие языковые модели.
Vladekk
28.07.2025 06:08Они всё равно лучше большинства людей. Разве что опытные переводчики лучше, чем LLM.
Pshir
28.07.2025 06:08Любой переводчик лучше большинства людей. Даже просто любой человек со словарём уже лучше большинства людей. Это абсолютно бессмысленное сравнение. Осмысленно только сравнение с представителями профессии. Google translate, например, на данный момент, существенно хуже среднего переводчика. Но, в отличие, от 70-х годов, он уже выдаёт годную заготовку. Другое дело, что для авторов новостных ресурсов, включая Хабр, уровня Google translate без последующей редактуры уже, к сожалению, бывает достаточно.
Vladekk
28.07.2025 06:08Гугл транслейт да, но с ним и не сравнивают. ЧатГПТ переводит очень круто. Я не уверен, что я мог бы лучше, хоть и читаю свободно книги на английском.
Pshir
28.07.2025 06:08Я ещё раз попытаюсь донести свою мысль. Я тоже свободно читаю книги на английском, но предположу, что вы, как и я, переводчиком не работаете. Поэтому сравнение ChatGPT со мной (или вами), просто не имеет смысла. То, что он переводит хорошо, у меня нет сомнений. Лучше ли среднего переводчика - не знаю, я не обладаю достаточной квалификацией, чтобы это оценивать.
ss-pol
28.07.2025 06:08Да где же хорошо? Плохо переводит.
Aggle
28.07.2025 06:08Тут главный вопрос - что именно переводит? Технический текст будет переведён вполне качественно, определённо лучше среднестатистического человека со словарём (но хуже специализированного переводчика). А вот достойно перевести какого-нибудь ихнего Чака Паланика на русский или нашенского Виктора Олеговича Пелевина на английский - это очень большой вопрос.
p07a1330
28.07.2025 06:08А справится ли с этим средний переводчик? Так, чтобы было не приемлемо, а хорошо?
Насколько помню, была байка, что условный четвертьфунтовник переводили именно руками криво. Да и "Fire in the hole" многострадальный как только не извращали задолго до ИИ
Aggle
28.07.2025 06:08С техническим - нет, разве только имеющий опыт обращения с конкретным корпусом (он, кстати, не особо большой для каждой специфической области, поднатореть можно быстро. Наш штатный толмач по судостроению изначально специализировался, но на нашу область быстро переключился, очень качественно переводил. Просто мог оценить как человек, много лет читающий профессиональную литературу и статьи на английском).
С художественны - однозначно нет. Тут даже человек нужен выдающихся способностей, чтобы не выдать тупой подстрочник.
Viacheslav-hub Автор
28.07.2025 06:08Я, конечно, не эксперт в этой области, но сам лично читаю и перевожу документацию без LLM, так как они неправильно переводят сокращения, аббревиатуры и т.п. Из за этого невозможно понять, о чем идёт речь. Человек, разбирающийся в этой области переведет лучше
Aggle
28.07.2025 06:08Очень частый случай. Ну и с отдельными терминами косячит, бывает.
Впрочем, отмечу, что качество перевода после какого-нибудь присной памяти первого PROMTа возросло невероятно.
ss-pol
28.07.2025 06:08Среднестатистический человек со знаниями английского из среднестатистической школы за приемлемое время перевод просто не осилит. В этом смысле, конечно, лучше иметь корявый перевод чем не иметь никакого. Здесь вопросов нет. Но если сравнивать со средним переводчиком, то конечно же хуже.
menz1
28.07.2025 06:08Очень зависит от языка. Английский язык, особенно, бытовой достаточно прямолинейный, контекста мало, различных смыслов у слов тоже не так чтобы дофига, искусственный идиот легко обучается. А вот с тем же китайским жопа, что-то сложнее, чем «я съел банан», стабильно переводит с ошибками. Подозреваю, что и с английским проблемы начинаются в художественном или узко специализированном переводе.
Aggle
28.07.2025 06:08В английском тоже приколюхи бывают, например, чудесное слово apparently, которое может переводиться как "несомненно", "видимо", "может быть", "очевидно". И сидишь, гадаешь, то ли автор в статье предполагает какое-то явление, то ли точно уверен в его существовании.
GidraVydra
28.07.2025 06:08Так LLM для большинства англоязычных людей и есть магистр права, что не так? А то, что для вас это большая языковая модель - это уже ваша профдеформация.
Viacheslav-hub Автор
28.07.2025 06:08Просто забавно слышать или читать "магистр права" в тексте, посвящённом ИИ)
Borelli
28.07.2025 06:08Ведь это и есть пример "Проблемы лексической многозначности", о которой уже знали в 1960-х)))
И о ней в статье как раз написано.
Хотя, погодите-ка...
Pshir
28.07.2025 06:08Ну так речь, как раз, о том, что нормальный переводчик обязан из контекста узнавать, что означает аббревиатура.
GidraVydra
28.07.2025 06:08Контекст не всегда помогает. Например, магистр права может делать много из того, что делает большая языковая модель.
Скажем, если будет написано "he recieved an llm degree" - тут сразу понятно. Или "llm was launched on my computer" - тоже. А вот например "this text was translated by llm" - уже не дает достаточного контекста.
i360u
28.07.2025 06:08Сможете привести пример фразы, которую Chat GPT переведет неверно, при наличии контекста, с которой переводчик-человек справился бы лучше?
Я много работал с профессиональными техническими писателями и переводчиками, и встречал множество ошибок, допущенных ими. И я считаю, что машина давно и полностью доминирует в этой области, как по скорости так и по качеству перевода.
ss-pol
28.07.2025 06:08> машина давно и полностью доминирует в этой области
А почему тогда статьи на Хабре так коряво переведены?Хотя казалось бы, технический перевод куда проще и легче художественного...
PrinceKorwin
28.07.2025 06:08Доминирует, не означает лучше / качественнее. Это может быть запросто доминирование за счет цены/скорости результата.
Собственно, что мы и наблюдаем на habr.
ss-pol
28.07.2025 06:08@i360u написал, что доминирует "по качеству перевода", я этим и возмущён
Насчёт количества никто не спорит :)
defin85
28.07.2025 06:08По качеству тоже доминирует, лет 6-7 назад, когда хабр стал в очередной раз не торт, тут было 3 автора, которые каждый день постили какую-то хрень. Так вот, нынешняя хрень, получше той
i360u
28.07.2025 06:08А почему тогда статьи на Хабре так коряво переведены?
Человек, в общем случае, переведет гораздо корявее, если не обладает глубокими знаниями в предметной области. Оригинальный контент, посвященный действительно сложным штукам, может хорошо перевести либо сам автор, либо ИИ под присмотром автора. С переводчиком-человеком, даже очень хорошим, эта задача просто затянется надолго.
ss-pol
28.07.2025 06:08Человек, в общем случае, переведет гораздо корявее, если не обладает глубокими знаниями в предметной области.
Так человек, если не обладает знаниями в предметной области, то и браться не будет.
i360u
28.07.2025 06:08Мы ведь о переводчиках говорим? Переводчик может обладать глубокими знаниями во всем, что он переводит?
ss-pol
28.07.2025 06:08Знания конечно же должны быть достаточно глубокими для перевода, как иначе. Но главное, что человек может сам понять, что ему не хватает знаний и либо самостоятельно углубить их, либо отказаться от работы, либо обратиться за помощью. Элелемка же неспособна понять свою некомпетентность, не способна ни самостоятельно дообучиться, ни даже просигнализировать о затруднениях. Будет лепить горбатого до последнего.
riv9231
28.07.2025 06:08У меня такой же вопрос. Может быть они используют llm "доученную" в Т-банке или другую не очень сильную llm?
По тому, что мой опыт показывает, что при минимальных вводных перевод не просто качественный, а ещё и учитывающий вставки кода и даже иронию или другие двусмысленные реплики, но не в коротком отдельном предложении, а когда они часть целостного текста.
riv9231
28.07.2025 06:08Да ладно. Т.е. если взять целостный текст из которого понятно человеку, что речь идет о нейросетях, какой-нибудь deepseek переведёт llm как "магистр права"? Не верю. Его можно даже попросить сделать литературный перевод и он не плохо справится, подбирая мощные образные и зависящие от контекста образы.
0xC0CAC01A
28.07.2025 06:08А без кликбейтного заголовка никак нельзя?
Calculater
28.07.2025 06:08Он вообще прямо противоположен тексту - так-то нейронки "зиму" пережили успешно, сам же автор указывает на преемственность идей первопроходцев. Странно, что в этом контексте про еще одну "зиму ИИ" с прологом не рассказал.
pavelsha
28.07.2025 06:08А Prolog сегодня — как
йети/лошадь Пржевальского/дискета 8". Вроде как все слышали, что это было/есть, но практически никто из живущих и работающих не видел и не трогал.P. S. Я видел и трогал... Prolog и дискеты. Вот Йети и лошади Пржевальского мне не встречались.
unreal_undead2
28.07.2025 06:08Во времена расцвета ИИ в 80е на слуху больше Лисп был, Пролог был уж слишком узкоспециализированным.
vadimr
28.07.2025 06:08Там японцы мутили свой "компьютер 5 поколения" с Прологом и гейшами.
А в теории символического ИИ, конечно, настолько же сложно придумать что-либо кроме Лиспа, насколько в вычислительной математике обойтись без понятия числа.
unreal_undead2
28.07.2025 06:08японцы мутили свой "компьютер 5 поколения" с Прологом и гейшами.
Слова такие слышал, но не в курсе насчёт деталей - скажем, насколько сильно в это вкладывались коммерческие компании.
vadimr
28.07.2025 06:08У японцев фиг поймёшь, где коммерческая компания, а где государство. Но вроде как компьютеры 5 поколения у них были вписаны в основы государственной политики, как у нас сейчас импортозамещение.
Сам я в то время прочёл целую книжку по компьютерам 5 поколения, от которой у меня осталось стойкое ощущение, что авторы сами не понимают, что же это конкретно такое.
pavelsha
28.07.2025 06:08А вот LISP для меня ( и думаю для большинства учившихся в 90-х/2000-х) как раз "лошадь Пржевальского". По Prolog у нас были лекции, лабы и курсач. А про LISP, только завкаф и ещё пара преподов рассказывали...
unreal_undead2
28.07.2025 06:08Тем не менее Лисп и сейчас жив как минимум в Emacs ) Но если говорить о AI, то в 90е пузырь уже сдулся. А в 80е лисп-машинки вовсю делали Symbolics и LMI, и даже TI включилась в игру.
vadimr
28.07.2025 06:08У нас в 90-е Пролог и Лисп преподавались в равной мере. Но Лисп после этого мне пригодился, а Пролог нет.
В общем-то нет никаких проблем реализовать Пролог на Лиспе. В 1000 строк, наверное, можно уложиться. Обратное неверно. (Вроде как Пролог изначально и был программой на Лиспе?)
Ndochp
28.07.2025 06:08Тюринг полный на тьюринг полном всегда можно перелить.
Но когда я читал обзорку по хаскелю от нее сильно пахло прологом. Это одного поля ягоды, или функциональщина родилась совсем независимо?
vadimr
28.07.2025 06:08Тюринг полный на тьюринг полном всегда можно перелить.
Программы на Прологе, насколько я помню, не имеют определённой операционной семантики (т.е., не гарантируется, как именно будет производиться логический вывод), поэтому чтобы реализовать на нём обычный операционно детерминированный язык вроде Лиспа, нужно очень сильно извратиться. Хотя принципиально это, конечно, возможно.
Функциональное программирование в виде Лиспа появилось на самой заре программирования в 1958 году, а Пролог только в 1970-х. Вероятно, на Хаскель оказал влияние и Пролог тоже, но вообще-то в Прологе нет ничего такого, что нельзя было бы коротко и ясно выразить на Лиспе.
Yuuri
28.07.2025 06:08Они схоже пахнут, так как оба декларативные, а вообще логическая парадигма существенно отличается (и существенно ýже) от функциональной.
Viacheslav-hub Автор
28.07.2025 06:08Лисп появился немного позже, чем события в статье. Как раз таки ближе к 90-м, когда появились Лисп-экспертные машины
unreal_undead2
28.07.2025 06:08Странно, что в этом контексте про еще одну "зиму ИИ" с прологом не рассказал.
Это явно материал для отдельной статьи, причём "пролог" с оптимистичными предсказаниями, заметными капиталовложениями и разработкой специфичного железа (причём всё это в бизнес плоскости, а не как материал для исследования за государственные деньги) уже больше похож на наши дни - хотя, как во всех аналогиях, принципиальная разница есть.
i360u
28.07.2025 06:08Многое из того, что происходит сегодня, уже происходило в прошлом.
Такого количества качественных и количественных изменений не происходило НИКОГДА в прошлом. Никогда раньше машина не превосходила человека в решении ТАКОГО количества задач, которые мы считали исключительно "интеллектуальными". Никто не изобретает перцептрон заново, люди ушли далеко вперед. Меня искренне удивляют адепты секты "Ничего нового", которые носят суперкомпьютеры в кармане, но продолжают ментально копаться в "старых библиотечных карточках".
Pshir
28.07.2025 06:08Такого количества качественных и количественных изменений не происходило НИКОГДА в прошлом
Вы недооцениваете одомашнивание растений и животных :)
Viacheslav-hub Автор
28.07.2025 06:08Действительно, сейчас масштаб измений немного больше, чем раньше. Но в те времена достижения своего времени также считались прорывом. Поэтому я имею ввиду восприятие этого прорыва. Как и тогда, сейчас люди возлагают большие надежды на ИИ, но оправданы ли они?
Я каждый день работаю с ИИ и вижу его слабые стороны, вижу тренды его развития.
И я все больше склоняюсь к тому, что в ближайшие годы мы сможем увидеть небольшой откат или застой, если не будет придумана принципиальнр новая архитектура вместо трансформеров. Так как за эти 4 года мы не ушли от фундаментальных проблем LLM, а просто компенсируем их размером.
Возможно, я не прав, и увеличение параметров до десятков триллионов решит все проблемы) А может и нет
i360u
28.07.2025 06:08Я каждый день работаю с ИИ и вижу его слабые стороны, вижу тренды его развития.
Вы на Хабре, тут большинство работает с ИИ. А некоторые, даже заняты в решении фундаментальных задач из этой области. В некотором смысле, я отношу себя к этим некоторым. Поэтому оценка "немного больше, чем раньше" мне кажется абсурдной. Разница колоссальная, и приправлена кучей эмерджентных эффектов, которые нам только предстоит осознать.
Viacheslav-hub Автор
28.07.2025 06:08Я не отрицаю, что нам многое предстоит только осознать) Но, как вы считаете, сколько ещё продлится именно "хайп" вокруг ИИ?
i360u
28.07.2025 06:08Ну, думаю, примерно столько же, сколько длится "хайп" вокруг электричества. ИИ - это просто наша новая реальность, а последствия трудно предсказать.
NimuraF
28.07.2025 06:08Звучит, само собой, пафосно, но сравнить электричество и современные языковые модели - это, конечно, слегка перебор
vvzvlad
28.07.2025 06:08А компьютеры и LLM?
А то в самом начале компьютеры были ну, прикольной, но очень узко-специализированной штукой, которая жрала 100квт, занимала целую комнату и пригождалась, ну, предприятиям там. Или атомную бомбу посчитать. А потом прошло, сколько, лет 50? И компьютеры у каждого в кармане, и представить цивилизацию без них — сложно. Прилетят завтра инопланетяне и удаленно сломают весь кремний, так у нас коллапс цивилизации будет, не больше и не меньше. Сравнимо с отключением всего электричества.
Ну вот LLMки щас — это вот такие компы размером с комнату, или даже чуть дальше, мейнфреймы с терминалами. Имеет смысл для 1% людей, остальным пофиг. Вот интересно, что будет через десять лет? Такой же эффект, как с компами или нет?
Valao
28.07.2025 06:08Зачем инопланетяне? Люди сами справятся.
США и Китай как лидеры технологической гонки находятся по разные стороны баррикад. Ядерную заварушку устравивать страшно и непрактично, то ли дело бить по цифровой инфраструктуре. Сначала немного, потом сильнее, потом ЭМ разного типа, потом в космосе, а дальше мир. Вот только нет уже технологического превосходства, производственные цепочки разрушены, про LLM можно забыть.
Это вполне реалистично и оптимистично насчет того, что будет через десять лет. Те, кто родились в 80-х и раньше подтвердят - жизнь есть при таком раскладе. Только гораздо больше надо своими руками, ногами и головой работать.
Smartor
28.07.2025 06:08Да с чего быть такому эффекту, как с компами?
У компьютеров 40 лет подряд был "закон Мура" (любой интерпретации, это на такой дистанции неважно), что и привело к экспоненциальному росту производительности и экспоненциальному росту всех возможностей.
А сейчас, уже прямо сейчас, для нейросетей нужны новые электростанции!
Прогресс в вычислительных силах уже работает не по "закону Мура", алгоритмических прорывов что-то не просматривается, значит, остаётся только экстенсивный путь, наращивание возможностей путём количественного увеличения вычислительной мощности. А увеличить объём производимой энергии для нужд нейросетей в сотни раз не представляется возможным по физическим причинам - ну нет столько "лишнего" газа, угля и урана, а даже если и найдём, то на следующую итерацию в 10 раз, уже точно не будет. А ведь три порядка - это только лёгкая разминка для компьютерного экспоненциального роста.
Поэтому, реально стоит рассчитывать на количественное увеличение ИИ-мощностей примерно на порядок (около 10 раз). Картинки миджорни будут ещё красивее, взрывы ещё реалистичнее, код генерироваться чище (но не любой), враньё - станет изощрённее :)
Вообще, последние глобальные изобретения, блокчейн и криптовалюты, и большие нейросети, пожирают слишком много физической энергии просто для своего существования. Это нужно алгоритмически оптимизировать - либо принять как факт, что при любом энергетическом дефиците именно их будут стараться отключать в первую очередь как неочевидно полезных потребителей.vadimr
28.07.2025 06:08Основным исчерпаемым ресурсом для LLM является обучающая выборка. И она уже закончилась.
MkKon123
28.07.2025 06:08Какое-то время безусловно был "хайп" вопкруг электричества. Вера в то что с помощью Э. можно вылечить множество болезней, вера в гораздо большую КПД электричества при транспартировке грузов... МНого чего.
Короче, "хайп" вокруг электричества был. После он спал. И электричество заняло своё почётное место.Так что вопрос @Viacheslav-hub не такой уж риторический как вы на него отвечаете.
"Хайп" - преувеличенные ожидания - от электричества был. Он длился какое-то время после чего спал. Так что такой же вопрос можно задавать и про ИИ.
Nilard
28.07.2025 06:08Несколько лет назад также носились с блокчейном, но он не стал массовым. А ИИ может пользоваться уже любой. Также было и с компами: сначала это был удел избранных, потом появились домашние компы, а теперь суперкомпьютер у каждого в кармане. И инет тоже был для только для избранных, а когда стал доступен для всех — выстрелил. Думаю, блокчейн так и не выстрелил, тк не стал массовым, а ИИ — уже массовый, поэтому выстрелит и станет такой же важной вехой, как компы и инет.
i360u
28.07.2025 06:08блокчейн так и не выстрелил
Крипта - мой основной финансовый инструмент, на сегодняшний день. И не потому, что я какой-то крипто-панк или проворачиваю сомнительные схемы. У меня, как и у многих других, просто нет доступных альтернатив. Но я живу в стране, где криптовалюты легальны и признаны полноценным платежным средством, наравне с национальной валютой.
Поэтому, справедливости ради, блокчейн - еще как выстрелил и давно перешел в область ежедневного практического применения. Массово. Я, буквально, покупаю еду за USDT.
NimuraF
28.07.2025 06:08Подскажите, а где у вас получается еду покупать за крипту? Крипта - это буквально ничем не подкреплённый инструмент, который существует в вакууме. Тендеция на использование наоборот в основных сферах её применения сходит на нет, немалое кол-во даже хостеров отказываются либо принимать крипту, либо вставляют существенные палки в колёса для этого (минимум 100 евро, только с подтверждённым аналогом классической платёжки и т.д.).
А уж чтобы полноценное еду покупать - действительно академический интерес появился - где же так можно? Костыли через создание visa/mc, за которой стоит крипта - не принимаютсяi360u
28.07.2025 06:08Подскажите, а где у вас получается еду покупать за крипту?
В Аргентине. Еда по подписке.
тендеция на использование наоборот в основных сферах её применения сходит на нет
Откуда такие сведения? Есть ссылка на какую-то статистику?
Уже целые государства используют крипту для части своих резервных фондов. А вы где-то увидели обратную тенденцию...
riv9231
28.07.2025 06:08я постоянно работаю с deepseek и по рабочим вопросам и для развлечения и хочу сказать, что определенно ии занял многие ниши - тот же перевод уже хорошо.
Но не похоже, что 10 трилионов дадут что-то принципиально новое само по себе. Однако лёд тронулся. Новые подходы предлагаются, ставятся эксперементы, просто пока не такие масштабные. Например недавно предложили обучать разные слои с оазной скоростью: низкоуровневые близкие ко входу быстро и грубо, высокоуровневые медленно и аккуратно. Идея в том, чтобы после шага обучения слоёв оперирующими высокими абстоакциями заново переобучать под их нужды низкоуровневые слои под новые потребности "умных" слоёв. И результат по мнению авторов сильно обнадёживающий.
А это только один аспект, развиваются и стратегии инференса, предлагаются новые топологии, ускорители не стоят на месте. Например, если раньше огромную сеть нужно было целиком пихать в gpu, то moe-подход позволяет грузить в ускоритель только kv-cache и самые нагруженные эксперты.
Прошу прощение за опечатки. Набирал со смартфона.
SquareRootOfZero
28.07.2025 06:08Я что-то в недоумении.
Правительство США щедро финансирует науку, включая ИИ.
СССР запускает спутник. Это меняет правила игры. [С каких на какие? По контексту, как будто, надо забить на ИИ и тоже начать запускать спутники?]
Президент Эйзенхауэр со словами "лучше бы это не повторилось" [Что именно? Запуск спутника?] создаёт организацию ARPA.
ARPA проводит исследования в областях [внезапно!] алгоритмов обработки языка и т. п. [Хотя по контексту, казалось бы, должна то ли сама спутники запускать, то ли с советскими спутниками как-то бороться - там, я не знаю, бонбить.]
?????
PROFIT!!! [Но в чём?]
Что это, Бэрримор? Высококачественный полностью автоматический машинный перевод, который не может быть достигнут в принципе?
Dr_Faksov
28.07.2025 06:08Что это, Бэрримор?
Это набор фактов. Причём действительно фактов, как это не удивительно. А вот какая между ними связь, это вопрос вопросов.
Flexits
28.07.2025 06:08Это набор притянутых за уши разрозненных фактов, призванный показать автора человеком многознающим и добавить веса его спорным утверждениям.
acesn
28.07.2025 06:08Автор говорит "добавлю контекста" и вместо этого вбрасывает факты которые без контекста не понять).
Попробую добавить контекста вместо автора:
- "СССР запускает спутник раньше чем США" - теперь у СССР есть средство доставки ЯО с минимальным временем подлёта (запуск заранее на орбиту под видом спутника, а затем свод с орбиты в нужный момент) которому нечего противопоставить (нечем защититься, нечем ответить). Паритет нарушен, правила изменились.
- "лучше бы это не повторилось": В данном случае "Это" - это передовые научные и технические достижения, которые СССР получит раньше чем США и тем самым поставит под угрозу безопасность последних.
Ну и из этого уже вполне логичный вывод, что надо вкладывать в исследования в областях, которые могут дать военное преимущество.
event1
28.07.2025 06:08Так скептицизм на счет скорого развития вычислительных систем, поправки демократов и мышление в рамках своего времени отдалили прорыв в области машинного перевода примерно на 20 лет.
То есть, вы утверждаете, что если бы продолжился этот финансовый чад кутежа, то мы получили бы машинный перевод уже в 90-х? То есть революция (или две) вычислительных средств, по вашему, не имеет тут ключевого значения, а всё дело в "скептицизме ..., поправках демократов и мышлении в рамках своего времени?"
vadimr
28.07.2025 06:08Мински и Пейперт – гениальные люди, которые ещё тогда правильно поняли многие вещи. А в целом это часть вечной борьбы между символическим и нейросетевым ИИ.
maertor
28.07.2025 06:08Нынешние создатели ИИ схватятся за голову, когда узнают, сколько надо потратить средств для модернизации инфраструктуры. Она уже дышит на ладан
defin85
28.07.2025 06:08Почему она дышит на ладан?
maertor
28.07.2025 06:08Потому что электросети перегружены. Они не были предназначены для такой интенсивной передачи тока в единицу времени. В штате Вирджиния, где сконцентрирована самая большая доля ЦОД Америки, за год произошло несколько аварий, спасли только аварийные генераторы. Но там уже на годы вперёд контракты подписаны по размещению новых ЦОД, а про инфраструктуру никто не думает. Поступают только отчёты со стороны, на которые компании не обращают внимания
Robastik
28.07.2025 06:08Прорыв случился когда до учёных дошло, что машину не смогли научить говорить по правилам языка за 50 лет. Как только на правила забили - машина заговорила сразу на всех языках.
Кто открыл законы природы все знают. Кто "открыл" "правила языка" - тайна велика сия есть.
pcica
28.07.2025 06:08Из всей статьи и темы ИИ + LLM есть одна ВЕЩЬ которую не видят или замечают
Это ЯЗЫК. Ну соответственно ПЕРЕВОД с ЯЗЫКА.
Как по мне все эти "трудности перевода" только из-за ОДНОЙ и единственной проблемы:
У нас до сих пор нет УНИВЕРСАЛЬНО и всеединого ЯЗЫКА для нас всех на планете.
Только вообразите, насколько бы стало проще ВСЕМ: учёным, врачам, исследователям - если бы на планете был ЕДИНЫЙ ЯЗЫК.
да это должен быть искусственно созданный, выверенный, ОДНОЗНАЧНЫЙ , без кучи исключений и прочей исторической фигни ЯЗЫК.
Но все статьи на планете, все болячки, открытия и т.д. если бы были на этом едином языке - наша жизнь бы вы МИЛЛИОН раз бы стала проще, из-за отсутствие этой ВЕЧНОЙ проблемы с переводом.
p.s: предвкушая вой и крики про нацию, народы и прочее - конечно, ВТОРЫМ языком может быть какой угодно. Говорите на чем хотите.
Но вся наука, медицина, исследования и законы ДОЛЖНЫ быть на этом ЕДИНОМ И ОДНОЗНАЧНО понятном компьютеру и ИИ языке.
Вот это был бы ПРОРЫВ в цивилизации.
Но для этого нужна ОГРОМНАЯ ВОЛЯ всех правительств на планете.
vadimr
28.07.2025 06:08Чтобы компьютеру был понятен какой-то язык, компьютер для начала должен научиться понимать вообще. А как раз с этим главная проблема. Даже язык программирования компьютер не понимает, а просто синтаксически интерпретирует.
Viacheslav-hub Автор
28.07.2025 06:08Давайте всеми читателями этой статьи придумаем единый язык для всего человечества) Судя по комментариям, у нас есть эксперты во всех областях )
T968
Так Ломрозо нужно упомянуть.
Тоже датасаентист был