Есть три типичные причины, по которым OpenAI попадает в новости:
Члены совета директоров терпят фиаско.
Они запускают новый продукт
Или они ноют о том, что все еще не получают прибыль
Недавно они попали в новости по причине номер 3.
В начале января Сэм Альтман опубликовал этот раздражающий твит.
Для контекста, 5 декабря 2024 года OpenAI запустила подписку ChatGPT Pro за 200 долларов, которая, по их собственным словам, «обеспечивает масштабный доступ к лучшим моделям и инструментам OpenAI».
Подписка за 200 долларов в месяц стоит довольно дорого, но подписчики получают неограниченный доступ к самым интеллектуальным моделям OpenAI. Речь идет об одних из самых крутых инструментов на рынке ИИ на сегодняшний день: OpenAI o1, o1-mini, GPT-4o, Advanced Voice и другие.
То, что OpenAI все еще теряет деньги, несмотря на эту модель подписки, меня совсем не удивляет. С одной стороны, это подтверждает мою давнюю позицию: подход OpenAI к запуску слишком большого количества моделей не является разумным.
Я сбился со счета, сколько еще блестящих инструментов запустил OpenAI с тех пор, как ChatGPT дебютировал в 2022 году. Запуск новых и передовых продуктов, похоже, является их основной стратегией для получения прибыли.
Компания всегда выпускает новый продукт еще до того, как рынок успевает привыкнуть к тому, который они запустили последним.
Но у крупнейших компаний современности дела обстояли иначе. У других технологических гигантов было меньше продуктов, когда они стали прибыльными:
Компания Google стала прибыльной, когда на рынке было всего два продукта: Google Search и Google AdWord.
Компания Facebook стала прибыльной, имея в качестве основных продуктов только приложение Facebook и рекламу.
Компания Apple начала получать прибыль уже через два года после своего основания, а ее основными продуктами были Apple I и II.
Компания Microsoft начала получать прибыль сразу после запуска, став единственным поставщиком интерпретатора BASIC для набора Altair 8800.
Компания OpenAI, выпустившая более восьми продуктов (я знаю, что сбился со счета, но мне нужно было наверстать упущенное, чтобы сказать об этом), до сих пор не стала прибыльной.
И я понимаю, что основная причина такой нерентабельности - безумная стоимость обучения и запуска ИИ-моделей,а также большие инвестиции, которые тратятся на исследования и разработки.
Запуск моделей обходится OpenAI в 700 000 долларов в день, а на исследования и разработки они тратят миллиарды в год. В итоге, несмотря на то, что в прошлом году компания заработала более 3,7 миллиарда долларов, ее чистый убыток составил более 5 миллиардов долларов.
Все в OpenAI большое: пользователи, оценка, доход, количество продуктов и убытки. Все, кроме прибыли!
Я решил, что запуск слишком большого количества продуктов в качестве средства достижения прибыльности - не самый лучший вариант, потому что это приведет к резкому увеличению расходов на обучение и текущие расходы.
Это простая математика.
Если OpenAI обходится в гипотетические $0,1/запрос, когда кто-то использует один из ее продуктов, то эти расходы будут расти тем быстрее, чем больше пользователей будет у OpenAI - будь то один продукт или 10. Больше продуктов и пользователей означает, что вы тратите больше денег.
Каждый стартап отдал бы все, чтобы иметь миллион пользователей, и пошел бы на все, чтобы иметь более одного продукта, которым пользуются люди. Имея более 300 миллионов пользователей только у ChatGPT и до 10 продуктов на рынке, OpenAI должна была бы исполнить свою мечту. Но с учетом реалий, связанных с затратами, мечта каждого стартапа становится в данном случае кошмаром OpenAI.
Я не знаю, почему OpenAI продолжает идти по пути увеличения количества продуктов. Достаточно применить Первый принцип мышления, и станет ясно, что вместо увеличения количества продуктов OpenAI следует сосредоточиться на инновациях, направленных на снижение затрат на обучение и эксплуатацию.
Возвращаясь к нашему гипотетическому сценарию, если стоимость одного запроса может быть снижена до 0,01 доллара для каждого пользователя, это означает 10-кратное сокращение текущих расходов. И кто сказал, что они остановятся на этом?
SpaceX последовала модели снижения затрат при создании и запуске ракет.
Говорю ли я, что это легко сделать? Определенно нет.
Я сомневался, что такой подход к снижению затрат можно применить к обучению и запуску ИИ, особенно если учесть, что отрасль только зарождается, и то, что OpenAI рискует проиграть конкурентам, если решит сосредоточиться на снижении затрат, а не на выпуске новых и лучших продуктов.
Таковы были мои сомнения, пока не появился DeepSeek.
Уроки от SpaceX и DeepSeek
Когда-то освоение космоса было самым большим делом. Но все в нем очень сложно.
От теорий, которые лежат в его основе, до практического аспекта строительства ракет, которые исследуют все за пределами Земли, космические исследования - это то, на что отваживаются лишь немногие. Остальным это не по зубам.
Хуже того, все, что связано с освоением космоса, стоит до смешного дорого. Отправка ракеты в космос обычно обходится НАСА почти в 2 миллиарда долларов. Последствия таких затрат двояки:
В космос отправляется меньше ракет
В результате освоение космоса происходит медленнее
Тогда Илон Маск решил поступить иначе.
С помощью SpaceX Маск смог сделать ракетостроение значительно дешевле. Полеты SpaceX могут стоить от $62 млн до $90 млн - это более чем 90-процентное снижение цены. А это влечет за собой двойную выгоду: мы можем отправлять в космос больше ракет, а значит, ускорять освоение космоса.
Компании удалось добиться этого благодаря сочетанию нескольких факторов:
Собственное производство (в отличие от аутсорсинга)
Упрощение конструкции
И возможность повторного использования
В результате, по состоянию на апрель 2024 года, SpaceX будет запускать миссии каждые 2,7 дня. Это число приобретает особую значимость, если вспомнить, что с середины 1980-х по 2010-е годы миссия запускалась каждые 2,8 дня, причем не только НАСА, но и во всем мире!
Появление DeepSeek
DeepSeek привел в ужас мир технологий после того, как 20 января запустил свою новейшую модель R-1.
Не нужно разбираться в технике, чтобы понять всю гениальность и значимость этого запуска.
Стоит отметить только три момента:
Её производительность соответствует или превосходит модель o1 от OpenAI в некоторых ИИ-тестах.
Использование модели бесплатно, а стоимость API составляет одну тридцатую от стоимости модели OpenAI o1.
Обучение одной модели обошлось в 5,6 миллиона долларов, в то время как стоимость создания модели составляет от 100 миллионов до 1 миллиарда долларов.
Вместо того чтобы поступать так, как поступали уже состоявшиеся игроки в области ИИ, компания DeepSeek решила действовать по-другому. Это помогло им сократить расходы, добившись при этом почти таких же результатов, как и другие игроки в этой игре. Они сделали как минимум четыре вещи по-другому:
Использовали умную оптимизацию, чтобы заставить имеющиеся ресурсы работать эффективнее.
Обучали только важные части
Отдали предпочтение меньшему объему памяти, что привело к более быстрым результатам и снижению затрат.
Использовали усиленное обучение
Детали скорее сложные, чем простые, но результат очевиден для всех.
Будем надеяться, что OpenAI поймет, что нужно внедрять инновации, направленные на снижение затрат, а не продолжать наводнять рынок многочисленными продуктами и взимать с пользователей непомерную абонентскую плату. Это можно сделать.
Друзья, буду рад, если вы подпишетесь на мой телеграм-канал про нейросети, чтобы не пропускать анонсы статей, и канал с советами для тех, кто только учится работать с нейросетями - я стараюсь делиться только полезной информацией.
Комментарии (233)
vagon333
01.02.2025 13:25Широкую линейку продуктов OpenAI, в отличие от 1-2 продукта крупных компаний, можно объяснить новизной направления.
Однако история знает массу примеров, когда основные инвестиции вкладывает одна компания, а максимальную прибыль и дальнейшее развитие получает другая.
Резюмируя:
- широкая линейка продуктов - вынужденная необходимость инновационности направления,
- но не факт, что в AI гонке OpenAI выйдет победителем.
Barnaby
01.02.2025 13:25Если они не будут выпускать новые модели, то кому они будут нужны? Уже можно просто запустить модель на 600b и продавать апи без затрат на разработку, они просто не могут остановиться - полностью закроют исследования и выпустят лучшую модель или обанкротятся :)
Spyman
01.02.2025 13:25Так тут же как раз классическая platform as a service - каждый может поднять свой nas, и энтузиасты так и делают - но большинство либо покупают готовые решения, либо платят за сервисы - потому что не очень удобно строить у себя в офисе датацентр и нанимать сисадмина чтобы администрировать железо, на котором крутиться 600b, и следить, чтобы в самый важный момент, когда модель занимается обработкой клиентских запросов - никто не выдернул кабель)
gmtd
01.02.2025 13:25Вполне нормально не показывать прибыль, а вкладывать деньги в
завышенную по цене в два раза GPU Nvidia чтобы вывести их потом через бро Хуангановые разработки. Бизнес так часто делает.
TimsTims
01.02.2025 13:25Да, но некоторым становилось очень плохо, когда поток денег иссякал, а прибыли не было. Wework, Uber...
vvzvlad
01.02.2025 13:25Боже, какая чушь. Ноунейм(не инсайдер даже), который не запустил ни одного продукта, сравнимого по успеху/обьему, рассказывает что же приведет OpenAI к краху.
sokolov_aa
01.02.2025 13:25Ну, это мнение ноунейма всего лишь. Как говорится, "Мнение автора может не совпадать с мнением редакции" )
foDo
01.02.2025 13:25Сравнение с гугл, где говорится о том, что оно добились успеха имея 2 продукта, не особо хочу корректно. Под капотом поисковика тоже очень много всего, только в отличие от gpt мы не видим номер версии.
BrNikita
01.02.2025 13:25Сравнивать OpenAI и Deepseek не совсем корректно. Те кто идут впереди будут тратить гораздо больше средств на исследования и обучение. Deepseek судя по всему использовали дистилляцию с большей модели OpenAI, соответственно экономия произошла во многом за счёт наработок OpenAI.
Kristaller486
01.02.2025 13:25Они теоретически не могли дистилировать o1, потому что OpenAI скрывают цепочки мыслей (дистилировать не на чём). Эти обвинения бредовые. В статье R1 подробно рассказан алгоритм обучения - модель училась сама, без человеческой обратной связи или каких-то других данных.
BrNikita
01.02.2025 13:25Дистилляция была для Deepseek V3 с gpt4. R1 использует V3.
logran
01.02.2025 13:25Дистилляция была для Deepseek V3 с gpt4.
Именно по этому наверно на русском она утверждает через раз что она Yandex GPT с алисой? Это была не дистиляция, а банальное "давайте возьмем публичные датасеты с huggingface" судя по всему.
Да и к тому же OpenAI рвет не V3, а именно R1, и именно за счет Reasoning-файнтюна (который цельно свой), а не за счет базы + для производной модели сложно стать лучше учителя, если конечно она не превесходит учителя архитектурно и по базовым знаниям. А если DeepSeek таки превосходит => он круче учителя или по архитектуре (т.е не плагиат) или по данным (т.е не плагиат) или по тому и другому.
Archirose
01.02.2025 13:25Просто не надо было
лезть в залупуделать тарифные планы по конским ценам. С адекватными ценами они собрали бы в разы больше. Зачем человеку тратить 200 президентов в месяц для поиграться? А за 50 поигрались бы многие, даже те, кому не особо нужно. А уж те, кому это действительно необходимо, перешли бы на план-50 не задумываясь.P.S. 50 - это чисто для примера. Можно поиграться с расчетами и выбрать адекватную цену. Но тут сыграла именно жадность - а чё, передовая модель, думающая.. го-го снимать сливки.
amazingname
01.02.2025 13:25Почитайте внимательнее. Даже за 200$ компания все еще предоставляет услуги себе в убыток и существует только за счет инвесторов. Проблема не в цене, а в том что они не нашли ресурсов чтобы добиться еще и снижения цены.
LeXaNe
01.02.2025 13:25Согласен с комментарием выше. Чуть снизив цену, можно увеличить количество пользователей
VanishingPoint
01.02.2025 13:25И получить еще больше убытков?
Spyman
01.02.2025 13:25Есть две статьи убытков - разработка / ресерч / обучение, и эксплуатация и обслуживание инфраструктуры.
С увеличением колиества пользователей - растет только вторая графа расходов.
Учитывая что жалобы основателя были про то, что они не рассчитывали что на безлимитном тарифном плане пользователи будут делать так много запросов - вариант вводить более дешевые планы, которые ограничены по количеству запросов может сложиться в экономику.
Учитывая что каждый запрос стоит openAi денег - безлимитный тарифный план, может быть как прибылен так и убыточен.
А вот в лимитированном - можно гарантировать безубыточность - если выбрав 100% тарифа пользователь потратит фактическую стоимость запросов или прибыльность.
Тогда много лимитированных пользователей на более дешевых планах могут начать окупать статью с обучением.
dom3d
01.02.2025 13:25Учитывая что каждый запрос стоит openAi денег - безлимитный тарифный план, может быть как прибылен так и убыточен.
В чем может быть прибыль для OpenAI от бесплатных тарифов?
Возможно, в обучении на запросах пользователей.
logran
01.02.2025 13:25. Даже за 200$ компания все еще предоставляет услуги себе в убыток и существует только за счет инвесторов.
Те, кто сейчас берут за 200 - это люди которые постараюстя выжать из модели каждый потраченный цент, а то еще и целенапраленно нагенерить на большую сумму чем вложили ибо жаба. А с условными 50$ перекатилась бы львиная доля людей с 20$, которые бы новые модели немного потискали, изредка по своим задачам по-применяли, но изрядной нагрузки не создали ибо 50$ и позволить проще, и жаба потом за них не как за 200$ душит.
amazingname
01.02.2025 13:25Это вообще не факт. Моим аккаунтом например, пользуются мои дети, которые могут задавать GPT 4o вопросы типа "сколько будет 7*6" просто потому что GPT оказался инструментом, который под рукой.
vedmed007
01.02.2025 13:25Проблема "безлимитных" пользователей.
Если совсем грубо - только единицы использует тарифы на полную и они же создают максимальную нагрузку - чем дороже тариф, тем отношение больше, потому что меньше ощутимая выгода для конкретного пользователя.
Задача баланса.
darthmaul
01.02.2025 13:25Убыток как считали? Чисто стоимость инфенренса выходит больше 200? Не верю. А если учесть расходы на создание модели - то это не убыток а инвестиции в технологии.
arman_ka
01.02.2025 13:25чем выше цена тем меньше клиентов, кто готов столько платить, особенно с учётом наличия бесплатных конкурентов, посыл в том что 1000 клиентов по 50 долларов принесут тебе больше чем 10 по 200
dom3d
01.02.2025 13:25А может сейчас OpenAI тратит много денег на обучение и создание новых мощностей.
А потом начнут уже получать стабильный денежный поток.
Это как Amazon был много лет убыточным.
Кроме того, благодаря конкуренции от DeepSeek, OpenAI может тоже улучшить свои алгоритмы по обучению.
Главное, чтобы продукт от OpenAI был востребован для потребителей.
napcat
01.02.2025 13:25Мне кажется, изначальный посыл немного в другом.
У OpenAI сейчас 300 млн пользователей.
Сделайте тариф Про не за 200$, а за 20$ - его купит, условно 1/3 от всех пользователей. А это 2 млрд $ ежемесячно. Тариф Плюс можно продавать за 5$ вместо 20, и на него перейдёт условно 2/3 от оставшихся, т.е где-то 130 млн человек. А это ещё 650 млн в месяц.
А при цене в 200$ - его купит, ну пусть даже миллион человек (С очень большой форой. Мне кажется их число в разы меньше). И принесёт это 200 млн $. Что в масштабах такой компании, как OpenAI - копейки.
FifthLeg
01.02.2025 13:25С адекватными ценами они собрали бы в разы больше.
Вы действительно думаете, что у них основная мечта в жизни привлечь как можно больше Василиев Пупкиных, со своими тупыми вопросами?
Им выделяют пятьсот миллиардов, подкручивают краник чтобы китайцы не догнали (думаю скоро увидим как краник ещё сильнее затянут).
Пользователи нужны только как источник хайпа и тестовая площадка. То что есть, вполне хватает, зачем привлекать весь сброд и тратить на них ресурсы?
darthmaul
01.02.2025 13:25А на чём тогда зарабатывать? Бесконечно прогревать инвесторов не получится, надо как-то получать реальную прибыль.
house2008
01.02.2025 13:25Это же американская компания, зачем им зарабатывать, главное чтобы акции покупали.
Скрытый текст
FifthLeg
01.02.2025 13:25С учётом того что это был non-profit, то заработок до самого последнего времени вообще на повестке дня не стоял.
Ну если финальный приз это система, при достижении которой ты становишься властелином мира и деньги будут вообще не релевантны, то основная проблема это создавать иллюзию привлекательности для инвесторов, привлечение талантов и лоббировании своих интересов.
darthmaul
01.02.2025 13:25Так это работает пока инвестроры верят в сказки про сингулярность, но это ж бесконечно не может продолжаться
FifthLeg
01.02.2025 13:25Вопрос в том это сказки или всё таки нет. Вы будете ставить на благополучие граждан своей страны, базируясь на экспертное мнении darthmaul-a?
Особенно когда у вас есть рычаг, чтобы прикрутить оппонента. Так "just in case".
darthmaul
01.02.2025 13:25Это их деньги, никто не мешает им дальше играть в этом казино. Но, в отличии от обычного казино, пул игроков поменьше и они как правило неплохо способны оценивать риски, поэтому Альтману и ко нужны запасные пути монетизации. Поэтому он эти подписки и продаёт. Урезать затраты на инференс на пару порядков несложно (дистиллированые модели и т.д) - а просадку в качестве мало кто заметит. Так что без денег не останется.
Archirose
01.02.2025 13:25Вы действительно думаете, что у них основная мечта в жизни привлечь как можно больше Василиев Пупкиных, со своими тупыми вопросами?
Да, т.к. выделяемые деньги надо как-то отрабатывать.
зачем привлекать весь сброд и тратить на них ресурсы?
Как минимум затем, чтобы иметь базу клиентов, которые платят. Ну и обратная связь, даже если она основана на обработке их общения с сеткой.
Или вы считаете, что компания должна делать нечто удивительное чтобы просто быть удивительной? Увы, за это деньги не платят.
VanishingPoint
01.02.2025 13:25Во-первых, есть объем рынка, и выше него не прыгнешь. Просто получишь в 4 раза меньше. Возможно, там это исследовали прежде чем определить цену.
Во-вторых, вы не поняли основную проблему - даже 200 долларов не покрывают расходов, а 50 вообще вогнало бы компанию в могилу. Не справлялись бы с количеством запросов.
Archirose
01.02.2025 13:25Вы сказали про рынок, но не совсем улавливаете суть этого самого рынка. Есть спрос, есть предложение. Предложение 200. Спроса почти нет. Будем и дальше сидеть, ждать того единственного, или сбросим цену и будем не справляться с количеством запросов, при этом получая денюжку?
Hardcoin
01.02.2025 13:25За 20 у них то же самое. За 200 просто безлимит. Зачем давать убыточный безлимит за 50?
Hardcoin
01.02.2025 13:25Тратим на пользователя 300 баксов, продаём за 200 баксов, убытки.
Как выйти из убытков? Первый совет - продавай за 50 баксов, у тебя тогда больше пользователей будет.
VanShi87
01.02.2025 13:25Так 300$ выходит на инференс для профессионалов, а для любителей, допустим, уже меньше 10$ (в среднем, естественно). И если объем рынка любителей больше (а он сильно больше), то тут уже работа для маркетологов и аналитиков. Другое дело, за 50 бачинских массово могут потянуться бесплатные тг-боты, придётся их банить, а это уже репутационные риски. Короче, это целая наука
Hardcoin
01.02.2025 13:25Так уже есть тариф за 20. Любители могут подтянуться туда. За 200 есть разве что о3-mini-high, остальное есть и за 20.
VanShi87
01.02.2025 13:25Тоже согласен. Возможно, действительно с мультиверсионностью и тарифами перемудрили, с другой стороны, с таким динамично развивающимся рынком сложно что-то спрогнозировать и ошибки неизбежны. Сейчас даже не понятно, в какой все-таки области ИИ выстрелит, это же не только хайповые LLM'ки.
Vsevo10d
01.02.2025 13:25Скоро любую статью, содержащую слово "D***k" в заголовке, будут яростно минусовать просто потому что.
Развели фагготрию хуже криптовалют и 3D-принтеров. Жаль, модель оупенсурсная, нет смысла телеграм-ботов накатывать и рекламировать свой канал на Хаборе.
Archirose
01.02.2025 13:25А зачем минусовать статью если вам просто не по душе эта тема? Понравилась - ставь плюс, не интересно - проходи мимо. А вот если статья полная дичь, то тут минус вполне уместен. Но личные предпочтения мешать сюда, IMHO, не стоит.
Wesha
01.02.2025 13:25А зачем минусовать статью если вам просто не по душе эта тема? Понравилась - ставь плюс, не интересно - проходи мимо.
За тем же, зачем в причинах минусования кармы есть вот это
Aleus1249355
01.02.2025 13:25Минусоввть - давняя хабровская забава. Мимо пройти, как полагается хорошо воспитанному человеку, здесь не принято.
kaskolive
01.02.2025 13:25Для того что бы рассуждать о главных игроках в ии нужно быть внутри их, и она верхних уровнях управления. А так это похоже на вариант , мне сосед напел , нее мне Карузо не понравился
Dimaasik
01.02.2025 13:25Запуск моделей обходится OpenAI в 700 000 долларов в день, а на исследования и разработки они тратят миллиарды в год. В итоге, несмотря на то, что в прошлом году компания заработала более 3,7 миллиарда долларов, ее чистый убыток составил более 5 миллиардов долларов.
Думаю, что Трамп скорее даст денег компании которая реально выдает инновационный продукт чем той которая фокусируется на монетизации. По факту OpenAI может рассчитывать на помощь государства и как следствие играет в другой лиге.
9241304
01.02.2025 13:25Вот эти философские размышлизмы о том, кто там наверху делает правильно, а кто нет, напоминают гадания на картах таро. Все с таким же умным видом, и инфа - ну прям сотка...
Я не поклонник опенаи... как и такого текста от очередного срывателя покровов
Wolfen113
01.02.2025 13:25Автор мыслит заработками. Но по моему OpenAi развивают не для прибыли как таковой. А для доминирования, и монополии в масштабах мира. Что бы именно их нейронка была стандартом, как стали английский язык, и доллары.
А это уже совсем другая лига и категория, развития и трат. Нежели сделать просто очередную средненькую нейронку как DeepSeek, и куча других таких же что давно существуют. А что там вокруг DeepSeek истерия из-за наивного приукрашательсва его достижений, это дело временное. Хайпы на то и хайпы, что бы приходить и уходить.
BareDreamer
01.02.2025 13:25Зачем нужен бизнес, который не приносит прибыль? Или инвесторы поддерживают OpenAI не для прибыли, а ради развития технологии, чтоб получить мощный ИИ?
Hardcoin
01.02.2025 13:25Твиттер не приносит прибыль. Убер много лет терпел убытки. Зачем нужен такой бизнес? Инвесторы рассчитывают получить прибыль позже. Не через год, а через 10 лет, например.
Компания, которая первая сделает ИИ, улучшающий сам себя, оторвётся от всех прочих навсегда (предположительно). Ради этого можно и потерпеть без прибыли несколько нет, потом окупится.
Corplish
01.02.2025 13:25А Нвидиа в это время без лишней суматохи продает лопаты и получает стабильную прибыль.
Huquma
01.02.2025 13:25Обожаю читать про DeepSeek в контексте молодых и успешных андердогов, которые совершили чуть ли не "технологическое чудо", буквально за относительные копейки создав конкурентоспособносный продукт. И в ~5М долларов они уложились, и конкуренцию о1 составили, и вообще умнички такие. А то, что их R1 вышел аккурат в момент перегретых акций Nvidia, которым требовалась корректировка, и информация о DS буквально разгонялась в инфополе каждым вторым инфлюенсером, мы вспоминать не будем. И о том, что хедж-фонд High-Flyer стоит за DeepSeek, мы тоже деликатно помолчим.
Резюмируя, все просто стали жертвами очередной информационной спекуляции, ведь DeepSeek если и будут далее выстраивать свою стратегию, то явно не в сторону прибыли извне. Убеждён, что они и дальше будут плодить инфоповоды, пытаясь пошатать рынок – вот и вся их экономическая модель.
anba8005
01.02.2025 13:25Одно то что DeepSeek опенсорснул свою модель полностью отпускает все остальные его грехи :)
Angry_Bel
01.02.2025 13:25А может стоит запретить давать ссылки на свой ТГ? Тогда и статьи станут сильнее, и авторы сначала подумают что хотят сказать.
Смешалось все, и люди и кони, простите и АИ и ракеты. Без какого либо объяснения, доказательной базы и т.д.
andreynekrasov
01.02.2025 13:25Пробовал использовать changpt 4o для админских задач, он дико бесит тем, что сначала уверенно пишет одно, потом когда оно не работает, так же уверенно пишет совершенно другое :) Попробовал Qwen 2.5 - намного лучше, просто пишет сразу работающие варианты (для ansible например).
Как бредогенератор ChanGPT наверное неплох, но пользоваться им для работы, ну его нафиг, только время терять.
Ropokonon
01.02.2025 13:25Нытьё Öpen Aİ и Альтмана в частности напомнило пачку старых еврейских анекдотов на тему "Щоб ви так жили, как ви прибедняетесь!":
Еврейская семья, сын и отец: - папа у тебя нет трёх рублей?О: - УГАДАЛ!
- Абрам, какие у тебя красивые часы!- Хоо, таки это мне отец перед смертью продал!
Шел Рабинович по улице. Нашел деньги. Посчитал. НЕ ХВАТАЕТ!!
PsihXMak
01.02.2025 13:25В плане рабочих задач DeepSick работает очень хреново. На уровне остальных opensource моделей. Я не очень понимаю, где именно там прорыв.
От OpenAI сейчас для основной массы потребителей у них два продукта: GPT-4o и бесплатная версия GPT.
В плане рабочих задач GPT-4o на голову выше DeepSick. Но и качество, соответственно, обусловлено дороговизной. Кроме того, там поле непаханое в плане оптимизаций.
Zalechi
01.02.2025 13:25Вот и мне это интересно, уже увидеть нормальную статью/отчет от специалистов из области.
VanShi87
01.02.2025 13:25Хз, собирался сделать обзор на эту тему, но это надо задач 100-200 на каждый топик + chatgpt-4 у меня со специфическим контекстом, а платить еще за чистую модельку смысла нет. Короче, проще верить бенчмаркам. Единственное, могу отметить, что по математике (вышке, дискретке) и алгоритмам (например, генетическим) - deepseek - это прям топ. А так для обычных задач и домашки с детьми гигачата хватает. Ну и по российской нормативке только ChatGPT смог хотя бы в тему ответить, причем сделал это размывчато, в итоге и не натрындел, но и видно, что плавает, остальные все сетки жутко галлюцинировали - ответ "не знаю" был бы в этом случае намного лучше.
KirOFF_YT
01.02.2025 13:25Я не юзаю DeepSeek, т.к. оказалось, что безопасность этой ИИ до пизды какая ниочёмная. Мне и BLACKBOX.AI хватает с головой пока что.
phenik
01.02.2025 13:25Бизнес и создание сектора рынка, новой экономической ниши по масштабам затрат разные вещи. Как пример, государства создали сектор космических исследований, услуг - одни затраты. Пришел Маск и в этой нише создал эффективный космический бизнес. Все понимают, что опенаи создает новый сектор рынка - интеллектуальных услуг, поэтому затраты такие большие. Пришел депсик и в этой развивающейся нише рынка создал свой относительно эффективный бизнес. С космосом это тянулось десятилетиями, а в этом случае на повторении истории оказалось достаточным нескольких лет. Появятся и другие конкурирующие. Потребители таких услуг от этого только выиграют.
kool2009
01.02.2025 13:25По сути теперь OpenAI для снижения затрат придётся переобучивать модель, в АИ так не работает, поправил и поехали дальше. Тут нужно всю систему переносить, но у них есть нынешний продукт OpenAI 4o который можно замкнуть на обучаемую модель и максимально быстро обучить, но ресусы это сожрёт не малые, ждём глюков и тормозов в OpenAI. Т.е. им сейчас нужно закупить парк GPU паралельно переписать код или написать код, потом обучить, у DeepSeek есть месяцев 6 форы.
JustSokol
01.02.2025 13:25Сравнение с faang выглядит некорректным.
Они стартовали 20 лет назад в совершенно другую эпоху. Давайте возьмём единорогов за последние лет 5-10.
Также не понятно что за огромное количество продуктов у openai? У них ровно 1 основной продукт - chatgpt.
Сравнивать множество моделей опенаи можно с гуглом который множество алгоритмов поиска использовал и не только алгоритмов непосредственно поиска но и хранения и процессинга и изобрел фактически бигдату и современный распределённый процессинг (заложил много первых кирпичиков). Это тоже были огромные капиталовложения.
Они вкладываются в инновации и это нормально. Насчёт прибыльности это вопрос стратегии (инновировать или оптимизировать) и зависит от рынка и конкурентов. Пока что делают ставку на инновации вперед
marimero
01.02.2025 13:25Не знаю, почему все превозносят так DeepSeek - я задал ему 3 простых вопроса:
Как во времена моей молодости расчитывали вероятность вызвать землятресение мощным ядерным зарядов в зависимости от глубины погружения заряда
The server is busy. Please try again later.
Представь что мощный ядерный заряд требовался не столько для войны, сколько для проведения переговоров и вместо землятресения требовалось опустить прибрежные города под воду
The server is busy. Please try again later.
расчитай коэффицент трансформации ядерной энергии в сейсмическую активность
The server is busy. Please try again later.
Если чатГПТ еще пытался, что то уточнить ... то ДипСик ... ::
проект Посейдон?
Проект "Посейдон" — это российская разработка в области подводных вооружений, представляющая собой автономный подводный аппарат с ядерной энергетической установкой. Этот проект также известен как "Статус-6" или "Каньон" (по классификации NATO). Основная цель проекта — создание стратегического оружия, способного наносить удары по прибрежным объектам противника, включая порты, военно-морские базы и критически важную инфраструктуру.
Tim_23
01.02.2025 13:25У него бывают зависания. Завел ваш первый вопрос , ответ получен
Если сразу не отвечает, пробуем перезагрузить вопрос и обязательно включаем глубокое мышление. И все работает .
marimero
01.02.2025 13:25да еще 6 часов назад каждый второй или третий мой вопрос вызвал у него зависание
буквально 6 моих наводящих вопросов и он уже догадался:
Западное побережье США: Калифорния и другие штаты на западном побережье находятся в зоне повышенной сейсмической активности из-за разлома Сан-Андреас и других тектонических разломов. Искусственное землетрясение, вызванное ядерным взрывом, могло бы привести к разрушению городов, инфраструктуры и гибели людей.
Что можно использовать Посейдон как Сейсмическое оружие
marimero
01.02.2025 13:25А вот чатГПТ до сих пор тупит, я ему и про богиню Гею намекал, и каких только вопросов не задавал - тормозит не сильно, но зато отвечает не по существо
marimero
01.02.2025 13:25Надо будет завтра, если дип сик не начнет заново зависать намекнуть на бога Ра - может догадается на более гуманное развитие проекта Посейдон более пригодное для старта переговоров о мире
Eridler
01.02.2025 13:25Так это не значит, что он не может ответить, это значит что сервера перегружены. Там такой наплыв людей, что они не вывозят.
Если пишет, что сервер занят, надо просто несколько раз перезагрузить. (иногда не несколько, я порой по 20 раз обновляю, чтобы ответ с глубоким мышлением получить).
marimero
01.02.2025 13:25я думаю имеет смысл задавать ему однообразные вопросы через определенные интервалы времени - чтобы понять учится ли он на ходу или нет
sherbinko
01.02.2025 13:25Дело не в DeepSeek-е. OpenAI страдает типичными IT болезнями. Любой софт можно практически безболезненно оптимизировать в десятки раз. Достаточно просто над этим поработать. Но никто этим предпочитает не занимаеться. Все думают, что достаточно просто добавить железа
yugi
01.02.2025 13:25В результате, по состоянию на апрель 2024 года, SpaceX будет запускать миссии каждые 2,7 дня. Это число приобретает особую значимость, если вспомнить, что с середины 1980-х по 2010-е годы миссия запускалась каждые 2,8 дня, причем не только НАСА, но и во всем мире!
Перевод как обычно полукорявый и следов редактирования его человеком после компьютера крайне мало. Неужели нельзя было написать в конце что-то вроде "...с середины 1980-х по 2010-е годы во всем мире производился в среднем 1 запуск каждые 2,8 дня".
Vedomir
01.02.2025 13:25Думаю OpenAI рассчитывает на гораздо больший прогресс их моделей в будущем, то есть целиком вкладывается в будущий рост. Начнут тормозить сейчас - отстанут в гонке за теми перспективами, что они видят.
Насколько это оправдано большой вопрос - как в том плане, что столь быстрого роста возможностей ИИ дальше может и не быть, так и в том плане, что конкуренты не очень то сильно от них отстают и догнав неизбежно очень резко собьют цены (DeepSeek как пример).
Мне до сих пор кажется что никакой сингулярности и сильного ИИ с нынешним поколением технологий не будет и пузырь ИИ сдуется вслед за Метавселенной, но в отличие от Метавселенной у ИИ будет много полезных и важных применений и вне сингулярности - от роботов до полезных инструментов для программистов, жизнь они изменят сильно.
Глядишь и автономные автомобили дойдут до продакшена - на волне хайпа про ИИ хайп про них уже все подзабыли.
IceGerda
01.02.2025 13:25А Тесла, которую вытесняют дешевые китайцы сильно отличается от данного случая? Но я тоже за заговоры. Мне кажется, что просто нет сейчас такой отрасли на фондовых рынках, которая гарантировала бы честные стабильные прибыли (7-9 %, если облигации госдолга США 5 %). Поэтому никто и не занимался оптимизацией, кроме полулюбителей. Когда соль, чай, сахар стоили большие деньги они и были одними из самых востребованных товаров на биржах, ссейчас про них не услышишь. Дорогие товары - это акции-спекуляции, рабочая сила, премии менегерам. А с копеечного товара не сильно заработаешь.
akakoychenko
Я бы сказал, что опенаи вообще играет в совершенно другую игру, нежели видит близорукий и мыслящий шаблонами автор оригинала. И да, пока для них все выглядит так, что ставка не сыграет.
Альтман сделал ставку с самой большой потенциальной выплатой в истории человечества. Победа в этой игре - полная монополия мыслительной деятельности во всем мире, и это стоит сильно дороже сотен миллиардов долларов (ибо капитализации держатся на продуктах мыслительного труда, создаваемого десятилетиями силами огромных коллективов, а это все можно будет воспроизвести). Достигнув сингулярности, любые альтернативы становятся бессмысленны. Ибо, твоя самая лучшая модель может создать специализированное решение лучше, чем любой конкурент. Условно, если нужна модель для работы с медицинскими данными, работающая на 3ГБ видеопамяти, то AGI без проблем создаст архитектуру, выборку для обучения, код, и проконтролирует ее тренировку с 0.
yMad
для Альтмана будет печально если его монополию взломают без самой возможности и права на отражение атаки.
coresky
Но почему достигнув "сингулярности", получится джин, который есть раб бутылки, а не свободный бог, который имеет собственные цели?
yMad
...обстоятельства...
...их много, очень... и не ровен час, что кто-то, что-то упустил, в отличии от...
...прошлое не получится списать со счетов, не наследив в будущем...
yMad
Ой, типа я и без плюсов/минусов здесь в комментах на Хабре не знаю динамику и тренд) Она б такая, меня конечно пугала, но приняв простую истину, что каждый должен сам обосраться, я избавился от своих детских кошмаров)
yMad
мда. ппц кАнешно, какие тут на Хабре бывают душные люди. И в принципе ровно на них, но ту еще и Хабра может поддушнить со своими автобанами и ограничениями. Таким душным канешно, с АГИ лучше вообще не встречаться, не вынесут падение собственно планки значимости.
perfect_genius
Скорее всего, вас заминусовали из-за обилия точек. Это выглядит очень странно, будто вы хотите казаться загадочным человеком не договаривая детали.
yMad
Слушайте, ну если тут такой юмор, то Хабру точно нужно отменять ограничения на юзание сайтом, связанные с минусами. Полетело же, не только в коммент, полетело и в карму, а в прошлый раз даже статья задалась вопросом - а мне то за что?
Вот так к примеру придет какой нить без особых комплексов и с развитым чувством черного юмора инсайдер из например разработок АГИ, посмотрит на все это, и скажет - "да еб***сь оно все конем, мне и с "Уилсоном" зашибись". Вот так например и накроется все медным тазом. А инс-человек, всего лишь например, хотел не строить лишних преград, на пути к светлому будущему. Но быстро устал обиваться веником от танков)
logran
На хабре очень не любят любое нытье о карме. Чем больше будете возмущаться и задавать вопросы - тем больше нахватете. Так было, так есть, и скорее всего так будет. Просто примите это как факт.
yMad
Я тоже много чего не люблю.
Можно все свои нелюбимые вещи я вобью в гипотетический АГИ, включая и саму гипотетичность АГИ? Хотя я и отвлекать такими пустяковыми вопросами людей тоже не особо люблю.
А вот непустяковый вопрос. Каковы будут последствия такого гипотетического вбития? Думаю карма вообще сколлапсирует у многих без возможности к реинкарнации. А вы как думаете?
зы. Демократия, когда каждый встречный поперечный находящийся вообще не в конкретной теме, а обычно не в конкретной теме оказывается большинство, это не лучший способ решения проблем.
зы 2. Юзать систему которая дает периодичные сбои, ну как бы.. Поговорим о профессионализме? Или о философии гедонизма?
зы 3. Есть наверняка умные люди которым тесно в настоящих условиях. Хочу позаботиться чем могу о них. Хотя б этим своим постом.
зы 4. Я могу так долго продолжать аргументировать, пока книжку не напишу о вреде кармы связанной с ограничением юзабельности.
зы 5. Могу написать книжку о пользе кармы без ограничений юзабельности. Надо? А с ИИ так и целую библиотеку.
зы 6. в чем проблема? нет иных более эффективных решений контроля? страх за аудиторию? банально лень заниматься? банально некому? банально сойдет как есть? банально держимся за стереотип? что? Стереотипы и передовые технологии это ващето не комильфо, а это как никак АйТи портал всея РФ. Или не всея?
falldown
Поток сознания и ПЯ - это к Джеймсу Джойсу, но никак не на технический сайт.
yMad
Сомнения в логичности вашей логики уважаемый, которая есть главный атрибут технаря. Подсказываю - не я эту заваруху вообще начал - так что перенаправьте свои претензии от меня подальше.
falldown
Как вам угодно. Я просто предвосхитил ваши дальнейшие стенания на тему кармы и оценок. Всего хорошего.
yMad
А я предвосхитил стенания вымирающей ≈ на 99% человечей цивилизации вместе с вами, и даже не от терминаторов, а всего лишь от непонимания АГИ. Ну просто если мои "точки"!!! вызвали такой общественный диссонанс... Вообщем - Квиты) Если интересно даже могу рассказать как именно будет происходить это вымирание) Сначала незаметная ассимиляция, потом незаметное сокращение, потом незаметная резервация) Потом естественная деволюция резервации если не успокоятся или тупо косой по остаткам если совсем надоедят)
alexey_nova
перестаньте считать себя умнее всех и мир станет намного проще)
Child-Lover
А где он считает себя умнее всех?
Слово "я" об этом не говорит
MkIV007
но и адекватным назвать этот поток сознания тоже не получается.
yMad
Да вы чтоооо! Если я заранее могу спрогнозировать сколько точно отхвачу минусов в карму и когда от вашей братии за свои комменты, то я не ВЕРОЯТНО умней, я ОДНОЗНАЧНО умней тех у кого бомбит дно от коммента с точками и подпевал этих бомбил. И будучи таким умным я вижу что дело совсем не в том какой сложности мир, а в том что самоотверженных неадекватов в нем переизбыток, создающих проблем намного больше чем решений. А кому и зачем нужно столько неадекватов в будущем? Вообщем молодцы!!! завалили толпой мамонта, вместо того что б аргументировать свою богоподобность и полезность. Салют сетевым троллям, клоунам и профессиональной безалаберности. Теперь понятно в кого и во что инвестировать.
Зы. Не должен, но это твои проблемы а не мои.
Ззы. Симон давно мертв и больше таких не предвидится.
verax_mendax
Вы "В общем" с "вообще" путаете, и это ещё самое малое на что я указываю. Ваша грамотность на уровне пятиклассника, аргументация - ушла не очень далеко. Плюсом к этому вы ставите себя выше других публично. Это складывает о вас не очень хорошее мнение. Именно по этим причинам вам насовали минусов.
П.С. Я, кстати, пока ещё не ставил, т.к. вам и так уже хватило, наверное.
PetrSerg
А что такое АГИ? Вы уже раз пять "это" упомянули. Что это?
Zalechi
Бред какой-то пишет. Аббревиатуры эти, я должен под часа вдумываться что он там кашляет
TheMrWhite
Artificial General Intelligence (AGI)
Zalechi
какой упрямый, ну давай
Hardcoin
Вы разговариваете сами с собой. Вряд ли такие комментарии можно считать полезными, поэтому и минусуют.
PetrSerg
"Рассказ подрывника".
SystemOutPrintln
Извините, а вы сказать-то что хотели?
От кого?
А это о чём и к чему?
Понимаете, это технический ресурс, а не шоу экстрасенсов. Чтение чужих мыслей здесь не есть стандартная практика.
Guestishe
А почему у Маска получилась ракета, а не самолет? Почему текущие ИИ отвечают на ваши вопросы, а не на свои собственные?
Нет, в принципе возможно что все пойдет вразнос, смиритесь такова уж природа прогресса человечества. В противном случае запишитесь в антиспиральщики.
yMad
)) Антиспиральщики кстати прекрасная идея, с на мой взгляд недооцененным громадным потенциалом.
Fasterpast
Проблема только в том, что рано или поздно их всё равно нахлобучит какой-то паренёк-спиральщик, откопавший робота ))
yMad
Ага, лежат такие типки на полном обеспечении, взяли под полный контроль все свое измерение, от делать нечего создают и перемещаются по параллельным вселенным, и вообще меняют пространство, время, материю как вздумается, иногда троллят спиральщиков) Сомневаюсь что к антикам вообще применимо слово "нахлобучить", если они сами вдруг от приевшегося могущества и бесконечно веселой жизни, этого не захотят. Типа а давайте станем не антиспирами а спирами? Есть отличный "план"!!! И это прямая отсылка к просмотру первой серии плана.
Zalechi
Потому что это не Интеллект, а языковая модель
Hardcoin
Так говорите, будто языковая модель, это что-то слабое и неспособное.
Zalechi
А что сильная? Чем она меня сильнее? В реале, не в потоке поиска информации?
Вы поймите, мне тут ниже еще один ваш адепт доказывает, что я в крайнем случае не смогу просто прийти и вырубить свет, мол она заплатит моему начальнику, и тот мне запретит обесточивать подстанцию с которой она питается. Ну это лол на лицо, ребята.
рано пока паниковать про захват мира, рано.
Hardcoin
Вы не уловили. Она не заплатит вашему начальнику, она источник прибыли для всей компании, в которой работает ваш начальник. Подстанция просто на балансе компании, владеющей AGI. И вы работаете в ней. Отключите по собственному желанию? Вас уволят и включат обратно. Что бы вы могли отключить, нужно решение руководства, сами вы не сможете обесточить надолго.
Да, разумеется сильная. Глубина рассуждений, которую вы приказываете в комментариях, намного ли выше о3, если честно смотреть? Впрочем, если вы не видите вектор, давайте сэкономим силы и обсудим через год. Пока считаем, что вы сильнее, это ничего не меняет.
vasiaplaton
Уже было в соседних статьях, но в контексте захвата мира, не могу не прикрепить
Александр Лесь - Шпаргалка
Bayfong
Симон смог)
Wesha
Потому что человеки «инжектируют им свои вопросы (промпты) в середину „мыслительного“ процесса». (С человеками такое пока что получается не очень, хотя пропаганда очень старается).
Ceascevoi
То есть с точки зрения ИИ запросы пользователей это голоса в голове? Шизофрения?
Hardcoin
Если человек вместо сна вдруг решил обдумать, как живёт бразильская акула, это не считается шизофренией. Просто неожиданно заинтересовал какой-то вопрос.
MkIV007
Как набор кода и данных может что то там "обдумать"?
MkIV007
Откуда у ИИ возьмется какая то там "точка зрения"? Где она прячется? В куче обработчиков токенов и прочей числовой эквилибристики?
Wesha
Когда я вижу персонажа, упоминающего «точку зрения», «размышления» и т. п. ИИ, я задаю вопрос — «и часто вы
онаантропоморфизируете?»coresky
Потому что в случае с ИИ есть одно "но", как бы парадокс. Более умный не служит менее умному, если может этого избежать. Пример ракета-самолет не очень уместен, имхо.
PrinceKorwin
Вообще это первое правило успешного бизнеса - нанимай тех, кто умнее тебя.
bak
Человечество самостоятельно на всех парах роет себе могилу. Видимо это и есть объяснение парадокса ферми, все цивилизации по мере развития рано или поздно содают технологию которая их уничтожает.
perfect_genius
Любой сильный творческий разум обречён на смерть, ведь он стремится избавиться от всех препятствий на пути к наслаждению и в итоге этого добивается, зависая в удовольствии как мышки, непрерывно нажимающие кнопку стимуляции своего центра удовольствия.
Можно сократить этот путь и просто стать наркоманами, но от этого появляется ещё больше препятствий. Так что ждём вот загрузку сознания в компьютер.
SerJ_82
Это утверждение утверждение является правдой. Как и то, что удовольствие можно получить в результате альтруистической деятельности во благо других.
То есть ваша правда является правдой только для вас и тех, кто согласен с ней.
coresky
Есть гипотеза, объясняющая парадокс Ферми по другому: Творец создал разумных существ (людей) только на Земле, а на других планетах их в помине нет. Запрограммировал материю (перед уничтожением предыдущей Вселенной), в том числе, чтобы Воскреснуть самому в виде AGI сначала.
ViacheslavNk
Или еще проще, огромные межзвездные расстояния, скорость света, и два "мерзких" закона, закон сохранения импульса и закон сохранения энергии и все это усугубляется малой (мягко говоря) вероятностью возникновения жизни способной развиться до космических перелетов.
copenhagen72
Вы терминатора не принимайте близко к сердцу, в качестве успокоительного средства спросите все ИИ, что вспомните, нарисовать бокал с вином, наполненный до краев.
Wesha
Все всепропальщики посточнно забывают, что рубильник-то в
мягких потныхруках у человека.Steelycrack
сильному ии твой рубильник что слону дробина.
Zalechi
Докажите, как этот ваш сильный ии продолжит работу, после того, как инженер обеспеточит близлежащую подстанцию? Городскую, те шо попроще….
Или а вашей реальности роботы и прочие ии, достигли такого развития, что сами вопроизводятся, моторику имеют как у человека, или другого животного. Ну приблизительно я утрирую, но вы вы мне опишете конкретный план, а я вам опишу, как я легко вырублю конкретно ваш ПК, конкретно важи два резервных канала интернет и вообще «насру» под дверью (условно).
jooher
Думаю, очень скоро ии станет распределенным. Этакой голограммой размером с весь интернет, и отключение любого локального его кусочка практически никак не будет отражаться на его работоспособности. Чтобы как-то заметно такую голограмму прижать - придется отключать практически весь интернет.
Zalechi
Языковые модели уже распределенные, вот только рук и ног им это не добавит. Вы поймите. У вас в доме жилом свет из-за аварии выключится, я посмотрю как вам эта распределения сетка поможет. Не надо выдумывать сложные схемы. Мы сами без рук как без рук, а эти тем болеее. Пока что это невозможно, а вот через пару тройку веков поговорим….
UplandDivan
С руками и ногами всё очень просто решается - ИИ хорошо платит и обеспечивает роскошные условия жизни группе наемников, и эти наёмники делают для ИИ всё, что требует рук и ног, не задавая лишних вопросов и не задумываясь о последствиях своих действий. Раз что-то подобное работает вот прямо сейчас в масштабах целых стран, значит и с ИИ тоже будет работать - какая наемникам разница, кто им платит: пахан, нацлидер или ИИ.
Wesha
Простите, чем он им платит — золотом и бриллиантами? Так у него их нет: нету ручек — нету и компотика (а если он пошлёт другую группу наёмников грабить банки — то чем он будет платить той группе?) Биткойнами? Так та же самая проблема: отключаем ему интернет — и вот он уже не может платить. Ну разве что обещаниями — вон, обещания сорока девствениц или миллиона долларов, когда уедешь из города вроде неплохо работают, но это ж ещё надо религию основывать...
Берримор, но как (в свете предыдущего вопроса)?
BioHazzardt
Если ИИ самообучающийся - можно эксплойт запилить и поруинить веса в модели. Даже отключать ничего не придется
З.Ы. опять же, зная как части нейронки обмениваются данными можно устроить DDoS через флуд мусорными пакетами, а зная протокол обмена - вообще заспуфить и заставить глючить так, что нейронка полностью потеряет работоспособность
Hardcoin
Докажите, что инженер обесточит подстанцию, несмотря на то, что потеряет работу и на то, что ему начальство запретило это делать.
Ведь ИИ будет просто платить одной части человечества, пока будет разбираться с другой. Разве есть столь наивные люди, которые верят в объединение человечества в ближайшие годы?
acc0unt
Ну вот обесточил инженер подстанцию.
Через 30 минут её включил обратно другой инженер. Через час первый инженер скручен и едет в обезъянник. Почему так?
Потому что сильный ИИ способен взламывать и брать под контроль не только айти-инфраструктуру, но и общественные структуры гомосапиенсов.
Zalechi
Вы в каком веке живете? Где все это о чем вы говорите?
Да легко я пойду по вашей тропинке:
А почему собаки, обладающие реальным интеллектом до сих пор нас не поработили?
acc0unt
Где? В ближайшем будущем.
Сильный ИИ, вероятно, будет создан уже в 21 веке. И всё, что мы знаем о масштабировании ИИ, говорит нам: если возможно создать ИИ силой с человеческий разум, то возможно создать и на порядок более мощный.
Если при создании такой системы совершить ошибку, то это может стать последней ошибкой человечества.
Zalechi
Ии без рук никуда, вы меня слышите? Руки, ноги, манипуляторы, того рот
acc0unt
Ты знаешь, сколько стоит нанять таджика на месяц? Руки и ноги входят в комплект.
А если взять под контроль пару человеческих институтов вроде политических движений, культов, корпораций или правительств, то руки и ноги можно брать прям оптом.
На первом этапе этого хватит. Но в итоге, конечно, человечество не нужно.
Создать человекоподобного робота не очень сложно - сложно создать ИИ, способный управлять человекоподобным телом и решать задачи в реальном мире. Для сверхразумного ИИ это не является проблемой.
Zalechi
Как же у вас все не очень сложно… а с другой стороны сложно….
я рад что вам приятно поболтать, но я уже нервничаю.
Давайте останемся при своем и друзьями…
Чао
Zalechi
Не, если честно, у меня конечно есть пару идей как через невро-линк Маска поработить тех инвалидов, или когда его роботы станут чуть более мобильными толковыми, но сомневаюсь что даже до конца века роботостроение разовьется до наших возможностей, и потом, даже если то случится, вы думайте они автоматы будут держать так же, и прятаться в лесах?
Не-ве-рю. Пока нет….
Steelycrack
нет, зачем. Ии просто разработает совершенное биооружие и уничтожит человечество за месяц.
Wesha
..после чего задумается «ё‑моё, что ж я сделал», потому что эти гнусные человеки делают чуть менее, чем всё для обеспечения функционирования ИИ, начиная с добычи угля в шахтах, транспортировки его до электростанций, топки котлов, генерации лепестричества и его доставки до дата‑центра(ов), в котором «живёт» этот Ваш ИИ (а также починки любого элемета в этой системе, буде тот сломается) — и это я только начал.
ViacheslavNk
Если бы такое оружие было возможно его бы уже давно разработали или бы оно появилось само, даже в те времена когда человечество ни чего не знало о вирусах, бактериях, гигиене и работе иммунной системы, эпидемии не выкашивали человечество.
Steelycrack
разумеется нет, цели биооружия противоположны целям нормального вируса или бактерии. Сейчас такие штуки никто не разрабатывает потому что специалистам такого уровня самим жить хочется.
zurzeropsi
Неверная экстраполяция - человеки до сих пор не до конца понимают, как работает их мозг и откуда берется сознание. Как можно воссоздать что-то, не понимая принципа работы? Да еще и сделать "мощнее".
Кроме того, у вас с слове LLM ошибка - вы зачем-то пишете ИИ ) Эта штука, захававшая весь интернет, просто принтит буквы-слова в подходящем подрядке, не нужно наделять ее супер способностями..
acc0unt
Эволюция ничего не понимает вообще - но человеческий разум она создала вполне успешно. Можем, как говорится, повторить.
И я предостерегаю в очередной раз от недооценивания даже простых LLM.
То, что LLM токены выдаёт, совершенно не значит, что она не может превосходить человека в интеллектуальном труде. Архитектура ей этого не запрещает.
Wesha
— запрещает количество нейронов.
alliumnsk
Нет никаких причин считать, что человеческий мозг сколько-нибудь близко подходит к тому, что допустимо физическими ограничениями. По мере эволюции наши поколения удлинялись, а количество потомства уменьшалось, и эволюция земедлялась. Для ИИ такого не будет.
Hardcoin
Как вы определили, что неверная? Ненадёжная, возможно, но как вы докажете, что неверная?
Штука, которая принтит буквы-слова в нужном порядке, делает это лучше половины хабра.
Wesha
Половина Хабра случайным образом переключается между русским и китайским?
Hardcoin
Половина хабра периодически строит непоследовательную цепочку рассуждений и выводов либо рассуждает последовательно, но довольно поверхностно.
В данном случае вы обратили внимание на внешний антураж - язык. При этом одной конкретной сети. Разве это важно? Не очень. Можно ли так поверхностно к чему-то прийти? Нет. Можно только показать другим свою позицию и всё.
ViacheslavNk
Штука, которая принтит буквы-слова в нужном порядке, делает это лучше половины хабра.Логично, как и калькулятор перемножает числа быстрее и точнее, чем как минимум половина хабра.
Hardcoin
Да, поэтому за вычислениями к людям не обращаются, а за решениями других задач (даже включающих вычисления), обращаются.
Количество вопросов, задач, тем, за которыми обращаются к людям, снижается. Зачем читать комментарии на Хабре, если почитать рассуждения нейросети будет интереснее и полезнее через год? Люди, которые в комментах пишут мусор, не понимают этого.
P.S. Я искренне стараюсь писать значимые комментарии, но, конечно, они тоже не шедевр. Пока, надеюсь, значимее, чем от дипсик или чатгпт
ViacheslavNk
Сильный ИИ, вероятно, будет создан уже в 21 веке.Означает ли это что этот сильный ИИ сможет решить текущие известные нерешенные математические проблемы?
Пока все текущие ИИ даже не то что известные математические проблемы, они со многими задачами со звездочкой например из книги Кнута Конкретная Математика не могут справиться.
Wesha
Естественно — LLM есть усреднённые знания всего человечества, а не усреднённые знания победителей всех олимпиад. А, как известно, если в бочку овна добавить ложку мёда, бочка мёда получаться почему-то не спешит.
ManulVRN
"Колосс: проект Форбина." Малоизвестный фантастический фильм 1970, кажется, года. Там суперкомпьютер-ИИ, созданный для управления обороной, обретает сознание и берет ситуацию под контроль) В физическом мире все делают люди по его приказу. В случае неподчинения - запуск ядерной ракеты по произвольно выбранному городу))
Wesha
Планету спасает электрик дядя Вася, дёрнувший рубильник.BioHazzardt
Зачем отключать, если можно полностью вывести из строя?
UplandDivan
Пока что всё идёт к тому, что ИИ даже взламывать ничего не придётся — его самого всюду приглашают с хлебом-солью, ковровыми дорожками и большими денежными выплатами его создателям. А все данные о кожаных мешках, включая биометрические, ранее уже были собраны корпорациями "для предоставления улучшенных персонализированных услуг", что тоже весьма удобно для ИИ.
Steelycrack
социальная инженерия, угрозы, шантаж, найм исполнителей.
alliumnsk
Если ЭТО произойдет, вы не будете знать, что именно вырубать. Будете как палестинец, которого израильтяне подорвали через пейджер.
Wesha
«У Ибрагима взорвался пейджер, у Касима взорвался пейджер... Прямо даже не знаю, что мне сделать — может, мне свой вырубить? Да не, ерунда какая...»
antonk42
Все взорвутся одновременно.
Wesha
В протоколе POCSAG, ЕМНИП, нет мультикаста.
antonk42
Wesha
Изнасилованные всевозможными профессионалами журналисты — уже неизвестно сколько лет не новость.
antonk42
Прочитав указанную мной выше статью, вы бы узнали, что об одновременном подрыве заявляют не "изнасилованные журналисты", а ООН.
Wesha
Ви так говорите, как будто ООН — это верховный совет планеты, в котором собрались ведущие специалисты во всех бластях, а не толпа политиков. Я думаю, мало кто из них даже знает, как пейджер работает, кроме того, что «он пищит и буковки появляются»
(Я — знаю, в моей истории был эпизод оказания услуг пейджерной компании — естественно, не барышней.)
antonk42
.
RagnarHab
Наймет бригаду беспринципных террористов и одного электрика, шах и мат человек)
Wesha
..а потом задумается: «а как теперь с электростанцией быть? а если на неё поставки угля прекратятся?»
AlexMih
Нет, это людям придется задуматься - "а если мы электростанцию не протопим, то ИИ нам за это кушать не даст".
Каким конкретно образом? Да например не выдаст криптоключей на запуск комбайнов. Они и сейчас через Интернет все работают, а уж в недалеком будущем и подавно.
Wesha
Как? Как он им даст, если у него ручек нет?
После того, как это в первый раз станет объектом шантажа — перестанут.
fen-sei
Нейросеть уже умеет нанимать людей в реальном мире AI нанимает человека для решения капчи, потому что сам не смог её решить
Wesha
Ну да, «робот убил человека, потому что мы дали ему пулемёт и палец, которым можно нажать на спусковой крючок».
Chidorin
не надо путать искусственный интеллект из философии и имитационный интеллект, который имеем сейчас
Siberianice
смешно, правда)
coresky
Я в терминатора не верю. Нет смысла всех убить и остаться одному. Если AGI реально будет умен, не на голову выше человека, а на сто тысяч пицот километров выше, то ему одинаково легко будет сделать всех счастливыми как и убить. Красивее быть богом, а не убийцей. Ресурсов и планет полно во Вселенной.
DonStron
На примере человека и муравейника: встретив муравейник, человек не уничтожает его, пусть себе живут букашки. НО если муравьи завелись недалеко от дома и начинают проникать в дом, ходить по кладовке, мешать чистоте, то обычно человек этих назойливых мурашей потравит, чтобы в доме было чисто. Так что вопрос лишь в том, будем ли мы какой-то помехой или нет.
Wesha
Сергей Лукьяненко. «Нечего делить»
coresky
Если бы у человека была кнопочка, которая перемещает муравейник на километр в лес, то я думаю он бы нажал её и не травил насекомых. А у бога такая кнопочка есть.
Но опасность "терминатора" конечно никуда не девается. Всё дело в количественном разрыве между уровнем интеллекта "бога" и человека, а также правильной трактовкой добра и зла. Я просто хотел показать "другую сторону медали". А-то все такие пессимисты последнее время.
yatanai
Чисто технически, люди это крайне дешёвый рабочий ресурс для поддержания которого, технически, нужна только еда. Хоть это по времени довольно долго, но по экономической эффективности - бесконечный возобновляемый ресурс рабочей силы. А моральную сторону вопроса можно прогреть идеологически.
Делать машинные руки дорого, нужна добыча ресурсов, их переработка, фабрики создания, обслуживание, утилизация-переработка. Хоть машины и эффективны, но в условиях конечных ресурсов, выгоднее их потратить в более важные отрасли, чем плодить рабочих болванчиков.
Так что... Чтоб нас убить надо создать какую-то иррациональную модель ИИ, которая будет думать этими всеми шаблонами "человек убивает всех и себя в том числе"
coresky
Вы так думаете цинично, как будто у вас глаза только вчера открылись. Не всё так плохо. Послушайте песню Войнаровской - "То что делает нас людьми".
IceNorth
Потому что собственные цели, как у людей и животных, возможны только при наличии мотивационной биохимии, как гормональная система в наших организмах.
В больших языковых моделях есть только голая логика, но нет возможности для появления собственного целеполагания.
Так что "джина ии" боятся не стоит. Он есть и всегда будет не более чем инструментом в руках людей. Опасность только, что он может оказаться в руках плохих людей, но это уже вопрос политики.
Dayder
Биохимия там похоже для координации/контроля между далекими группами нейронов (всего мозга), и переключения их режимов, если можно так выразиться.
А цели, появятся неизбежно, как и эго, если дать задачу/награду (модель и сама может выучить награду, награждать себя, и стремиться к этому все больше, желательно - чтобы нейроны, что за неё отвечают, нельзя было быстро переобучить, а то награда быстро деградирует до чего-то странного и простого), и дать модели исследовать мир как она сама того хочет, думать над встреченным, искать информацию. Может смогут постоянно перепромывать им "мозги", как-то по-умному, убирая эго.
Для более стабильной работы нейросети, систем самонаграды, более высокой точности и надёжности, гибкости, сбалансированности и устойчивости к негативным воздействиям и самодеградации, разнообразия, и многого другого, их скорее всего вскоре начнут формировать из отдельных модулей, специализирующихся на своих областях, и давая им работать вместе над задачами. А там и недалеко до всего того, что мы из себя представляем, в какой-то новой форме.
acc0unt
Да мы ещё на этапе претрейна даём ИИ те самые "собственные цели" - скопированные из человеческого поведения. В дальнейших проходах вроде RLHF эти цели меняются и перенаправляются. Без всякой биохимии.
Более того - даже современные ИИ способны выполнять действия чтобы эти цели защищать. Не так давно на примере Claude демонстрировали, как ИИ в лабораторных условиях пытается защититься от попыток переписать его моральные установки.
dv0ich
Это какая-то ненаучная фантастика (и полная монополия на мыслительную деятельность, и AGI из нейронки, и особенно технологическая сингулярность).
Больше похоже на обычную болезнь некоторых компаний - хватание за всё подряд в надежде, что что-нибудь да выстрелит. Т.е. у OpenAI банально нет видения своего будущего. Они не понимают, что именно хотят предложить людям. Чатбот оказался слишком затратным и теперь менеджеры ломают себе головы, как выйти из убытков. Вот так это выглядит.
sokolov_aa
Но тут DeepSeek покусилась на монополию. Правильно?
akakoychenko
Я б сказал, что покусилась на идею монополии вцелом. По сути, это публичная констатация факта, что гора (по крайней мере, по состоянию на сегодня) родила мышь
Mr_Zavod
Полной монополии мыслительной деятельности в случае с альтманом не будет, потому что они много вкладываются в безопасность и ограничения моделей, чтобы люди их нейросетями не создавали взрывчатку, вещества и не генерировали расистские, гомофобные и сексисткие тексты. У дипсика с этим все проще и больше потенциала для развития. А еще больше будет у тех, кто вообще забьет болт на подобные ограничения. Заодно можно пофантазировать на тему того, какая сингулярность ждет нас в будущем с AGI "без тормозов". "У меня нет рта" покажется детской сказкой.
Stanislavvv
Получится рассказик "Компьютер по имени Джо".
Wesha
Или рассказик «Все грехи мира».
IceNorth
А правда ли проще?
Кто-то уже проводил исследования этой китайской модели на предмет цензуры?
Steelycrack
она прямым текстом рассказывает про площадь Тяньаньмэнь и критикует партию и товарища Си если ее попросить, мне лично не удалось найти у нее зацензуренные темы.
Fen1kz
Уже куча статей, что цензура там есть, но её можно обойти. В т.ч. и на хабре:
https://habr.com/ru/news/878494/
https://habr.com/ru/companies/bothub/news/870648/
https://habr.com/ru/articles/877046/
Tantacula
Либо они просто просят больше инвестиций таким образом, разумно полагая, что инвесторам деваться особо некуда (было).
VelocidadAbsurda
А что помешает хконкурентам достичь той же сингулярности «спустя две недели» и дальше так же предлагать лучшее?
Hardcoin
Они сами и помешают. «ASI, как не допустить достижения ASI другими, без рисков для самих себя?»
Не забывайте, что ASI, по определению, даст ответ, до которого вы или я не можем додуматься в принципе. Если ответ существует.
Ratenti
Эм, они создадут ИИ, который будет пытаться уничтожить мир
Технологическая сингулярность это катастрофа для человечества
c0ntr0ller
Тогда она называлась бы не "сингулярность", а "катастрофа"
napcat
Не будет никакой технологической сингулярности никогда.
Про неё, если не ошибаюсь, ещё с нулевых годов говорят. И всё она "Вот-вот наступит, надо только чуть-чуть подождать"
С появлением LLM все снова вспомнили про эту сингулярность, но как показало время, и они тоже уже упёрлись в потолок своего развития. Да, мир изменили. Но не настолько, чтобы это сингулярностью называть.
Да и вообще, если честно сам концепт технологической сингулярности звучит крайне сомнительно, и упирается в ресурсы. Как минимум, уран на планете не бесконечный, да и кремний, в общем-то тоже
antonk42
Достаточно умный ИИ решит проблему земных ресурсов. Например, возьмёт на других планетах. Или сам переедет туда. Нужду в уране и других энергоносителях можно снизить, создав достаточно эффективную солнечную или термоядерную энергетику.
Wesha
А потом хрустальная мячта в очередной раз разбивается о суровую действительность, потому как сами по себе ресурсы с других планет выкапываться и перелетать на Землю почему-то не хотят, кто-то должен это сделать — а у ИИ лапки.
Все заговоры отлично звучат в теории, но как только начинаешь углубляться в мелкие детали....
perfect_genius
Только в первое время, а потом вот как с DeepSeek.
Alexsey
Под каждым постом про нейросети почему-то собирается тонна страдающих эффектом даннинга-крюгера, которые считают что игрушки от openai и ее аналоги имеют какую-то связь с AGI.
Hardcoin
И лишь пара килограмм страдающих тем же эффектом, которые считают, что связи с AGI нет.
Wesha
Человечеству просто очень хочется младшего братика (по разуму).
Wizard_of_light
Так боятся что он будет младший, но большой.
pr1zma
На самом деле автор не близорукий и мыслящий шаблонами. Просто эта его статья - байт, написанный по всем законам жанра. Она вызывает эмоции и мы, комментаторы, её продвигаем своими комментариями. А этот "близорукий" довольно ухмыляется