Последние дни сеть сотрясает новость об увольнении Сэма Альтмана, руководителя коммерческого подразделения OpenAI. Спикеры наперебой упражняются в красноречии и нагоняют тумана, чтобы собирать трафик и по десять раз перепечатывать одни и те же новости под видом новых публикаций. Почему уволили Альтмана? Что за конфликты внутри OpenAI? Что происходит?
Человек, который не следил за этим увольнением с самого начала, справедливо подумает, что в рядах разработчиков произошел внутренний переворот, но на самом деле все немного проще и очевиднее, если знать один факт: OpenAI, компания-разработчик GPT, которая получила 13 млрд инвестиций только от Microsoft и которая продает подписку на ChatGPT за 20$ в месяц, формально до сих пор является частью некоммерческой организации. И из этого факта проистекают все проблемы, с которыми столкнулся Альтман. А дальше давайте разбираться вместе.
Удивительная структура OpenAI
Изначально OpenAI была некоммерческой организацией с прописанным уставом и целями. Появилось данное НКО еще в 2015 году, а основателями числятся Илон Маск, Сэм Альтман, Илья Суцкевер, Грег Брокман, Войцех Заремба и Андрей Карпаты.
В планах компании открыто сотрудничать со всеми лицами и учреждениями, публиковать все результаты своих исследований.
По сути, Маск и Альтман на двоих, с привлечением еще нескольких товарищей, организовали некий аналог Linux Foundation. Если помните, в 2015-2016 годах была очень популярна тема Open Source, открытой разработки, сотрудничества и так далее. Тогда же Microsoft под управлением тогда еще недавно пришедшего на пост гендиректора Сатьи Наделлы с двух ног ворвалась в Linux-сообщество и стала крупнейшим донором Linux Foundation.
Тогда же два ведущих основателя привлекли на работу OpenAI инвестиций на 1$ млрд из сторонних источников. А в 2019 году Альтман окончательно фокусируется на OpenAI и занимает пост генерального директора компании.
При этом OpenAI по форме управления и внутренней политике до сих пор остается НКО со всеми вытекающими. И когда миру были представлены нейросети DALL-E и GPT, встал вопрос коммерциализации разработок. Потому что вычислительных мощностей стало не хватать, а вычислительные мощности сейчас стоят дорого. Очень.
Вместо того, чтобы реструктуризировать OpenAI в полноценную коммерческую организацию и сбросить с себя ограничения НКО, разработчик GPT организовал компанию-прокладку под той же вывеской, которую и возглавил Альтман. Фактически, сейчас в мире существует две компании OpenAI: материнская НКО OpenAI и дочерняя коммерческая OpenAI, которая и стала привлекать деньги больших компаний на свою работу. Больше всех, как мы знаем, заплатили боссы Microsoft, они дали коммерческой OpenAI 13 млрд, войдя в долю бизнеса. Однако полный контроль над коммерческой структурой компании до сих пор оставался и остается за НКО OpenAI, который неподконтролен никому. Такая вот извращенная матрешка. И вроде бы, это никого до прошлой недели не волновало, пока руководство НКО не уволило Альтмана одним днем.
Идеологические расхождения
Альтман не человек с улицы и не просто так он стал сооснователем НКО вместе с Маском. До OpenAI у Альтмана был серьезный опыт в виде легендарного Y Combinator, а это означает, что этот человек отлично умеет делать деньги.
Собственно, самой популярной и самой правильной версией увольнения Альтмана являются неразрешимые идеологические расхождения между политикой гендиректора коммерческой части OpenAI и остальной НКО под той же вывеской. Альтман, почувствовав запах больших денег и серьезного прорыва, сделал то, что умеет — рванул к Луне со своим проектом, оседлав по пути такого монстра, как Microsoft.
Последней каплей трений между Альтманом и советом директоров той самой управляющей НКО стала последняя презентация, на которой была анонсирована возможности создания кастомных билдов GPT-4. Почему именно это?
Вспомним, что идеологически основатели OpenAI были под стать Маску, который крайне критически в последнее время высказывался о проекте Альтмана. И хотя он вышел из совета еще в 2018 году, к его мнению прислушивались. Основные опасения руководства НКО состояли в том, что Сэм со своей гонкой за деньгами, породит
Драйвер всех этих нововведений — Альтман, потому что ему нужно продавать больше подписок, токенов и внедрять GPT везде, где только можно. Потому что Сэм после сделки с Microsoft стал отчитываться не только перед руководством НКО, но еще и перед боссами и акционерами Microsoft, ведь это их крупнейшее приобретение последних лет после сделки Activision-Blizzard. Руководство НКО чисто в сталинской манере сделало вывод: нет человека, нет проблемы. И пользуясь тем, что им ни перед кем отчитываться не надо, уволили Альтмана одним днем. Чтобы уберечь мир от апокалипсиса и слишком быстро развивающегося GPT.
Плевок в лицо Microsoft
Как говорилось выше, инвестиция в коммерческое подразделение OpenAI 13$ млрд является для майков самым крупным капиталовложением последних лет, если исключить покупку Activision. В целом, историю упущенных компанией рынков за последние 20 лет можно описать одним изображением:
Основная статья доходов компании — корпоративный сегмент. Microsoft могут сколько угодно диверсифицировать собственный бизнес, покупать Филу Спенсеру новые игрушки, заниматься зеленой энергетикой и так далее, но главная дойная корова Microsoft — b2b-направление. Вокруг b2b крутятся основные обороты и прибыли. Это корпоративные подписки Windows и Windows Server, Office 365, облачная инфраструктура Azure. Компания долго и упорно собирала свою «корпоративную перчатку бесконечности» и с появлением GPT боссы справедливо рассудили, что нейросетевой помощник будет отлично смотреться в их бизнес-продуктах. На самом деле, будет смотреться просто идеально. А самое главное, инвестиции и партнерство с OpenAI заставят глотать пыль одного из главных конкурентов Microsoft — компанию Google (Alphabet).
Брак между Microsoft и OpenAI, казалось, был благословлен самой судьбой. MS моментально стали интегрировать более старые билды GPT в Bing и Skype, что неплохо оживило эти сервисы в моменте, а параллельно стала скупать для Альтмана все ускорители NVIDIA, до которых можно было вообще дотянуться. Когда ускорители закончились, Microsoft взяла очередной вагон денег и пошла к своему давнему конкуренту в лице Oracle, у которых ускорители еще оставались и были доступны для аренды. Сколько MS заплатили за это, кстати, не уточняется. Вероятно, очень много и что важно, эта сделка произошла совсем недавно.
Компания Microsoft заключила многолетнее стратегическое соглашение с Oracle. По условиям сделки Microsoft будет использовать вычислительные мощности GPU суперкластера Oracle Cloud.
Для того, чтобы сделка состоялась, Microsoft даже пришлось пустить Oracle с их Oracle Interconnect на уровне интеграции с облачным сервисом Azure. Как такое поведение выглядит со стороны? Как максимальная ставка на развитие GPT за любые деньги.
После сообщений об увольнении Альтмана акции Microsoft на NASDAQ упали на 7 пунктов одним днем (падение стоимости MSFT на 1,68%). OpenAI буквально пнула новое любимое дитя Microsoft, ради будущего триумфа которого правление компании до упора открыло кран с деньгами, что бывает при покупке всего лишь доли (MS не купили OpenAI целиком, а получили только 49%!) крайне редко. При этом по условиям сделки НКО OpenAI прямо сейчас получает 25% всей прибыли, а после того, как Microsoft отобьет 10$ млрд затрат, будет получать и все 100%. Но эмоции оказались сильнее голоса разума — в НКО посчитали, что они в праве никого ни о чем не спрашивать и все же уволили Альтмана. При этом единственной стороной, которая оставалась в выигрыше от подобного расклада — это Google, которая является второй после связки OpenAI-Microsoft в этой гонке.
Окончательный уход Сэма Альтмана в Microsoft
Глядя на то, как акции летят вниз, правление Microsoft попыталось уладить внутренний конфликт в OpenAI. Ведь компания начала разваливаться на части, так как вслед за Альтманом решили уходить из рядов компании и ведущие специалисты.
В итоге, несколько часов назад (утром 20.11, понедельник), было сообщено, что переговоры о восстановлении Сэма Альтмана на посту гендиректора с треском провалились. Боссы НКО отказались тушить пожар и попытаться перейти к модели хотя бы постепенного развода, как принято в корпоративной среде.
Чтобы этот понедельник не стал для Microsoft черным, компания сразу же объявила о найме Альтмана и создания для него персональной лаборатории для продолжения работы над нейросетевым ИИ. Об этом написал лично Наделла в X:
При этом Microsoft «не отказывается от контракта с OpenAI», но понятно, что без финансовой и инфраструктурной поддержки гиганта, НКО придется трудно. Сохранение же сделки кроме того блокирует вступление в OpenAI других компаний, ведь тогда их инвестиции будут на 75% работать на возврат долга в 10$ млрд. А вот то, что кран с деньгами прикроют, уже очевидно. Потому что вместе с Альтманом в Microsoft уходят и ключевые специалисты, которые хотят продолжить работу над практическим коммерческим внедрением GPT.
Все это случилось только по одной причине: в тот момент, когда OpenAI захотела зарабатывать деньги на своих разработках, им нужно было менять форму управления и становиться нормальной технологической компанией. Как показал этот инцидент, НКО и бизнес слабо совместимы, особенно когда дело касается серьезных кадровых решений. Деньги любят тишину и Microsoft были готовы на уступки и «медленную» и тихую замену Альтмана через год-полтора, но в OpenAI оказались против и своего решения не поменяли. В итоге ключевые сотрудники оказались в рядах Microsoft, OpenAI потеряет поддержку гиганта и теперь
Самое важное в нашем ТГ-канале. Без лишнего спама.
Комментарии (275)
Kristaller486
20.11.2023 10:41+7Вполне возможно, это решение боссов отбросит нас в развитии на несколько лет.
Слишком громкое заявление, конкурирующим языковым моделям до уровня GPT-4 осталось около 3-4 месяцев, я думаю, если не меньше.
IgorAlentyev
20.11.2023 10:41+6судя по динамике, в лучшем случае годы, если не будет какого то резкого роста возможностей. Те же ЛЛАМы, Бард и Масковские ГПТ просто дети по сравнению даже с 3.5 (которая ребенок по сравнению с 4), не говоря уже про новую 4-турбо.
ElVibrio
20.11.2023 10:41+3Вы таки им IQ сравнивали?
IgorAlentyev
20.11.2023 10:41+4Нет, я ими пользовался, для выводов этого достаточно. Ещё можно посмотреть результаты тестов и сравнений, так что можно сказать что им сравнивали iq, но не лично я
ElVibrio
20.11.2023 10:41+3Вы хотите сказать, что разным версиям ставились одинаково сформулированные и оформленные задачи, и?
IgorAlentyev
20.11.2023 10:41+4Этого я не знаю, мне было достаточно личного опыта работы с ними и в детали бенчмарков я не углублялся. Но думаю вы спокойно можете проверить сами.
MaksimMukharev
20.11.2023 10:41+10При личном использовании сразу становится понятно, что разрыв колоссальный. Все эти модели даже с русским языком не справляются и постоянно пишут ошибочные формы слов, например.
vikarti
20.11.2023 10:41А на чем именно вы тестировали?
На лламах и производных? на ChatGPT? На Сайге?(краткое описание что есть Сайга и откуда у нее ноги растут - https://habr.com/ru/articles/759386/ ) (hosted-Сайга-as-service в облаке есть на vsegpt.ru - см например https://habr.com/ru/articles/767588/ ). На YandexGPT ?
Может не стоит тестировать русский язык на моделях, у которых в обучающей базе от русских текстов - одна википедия и это там не в приоритете.
Kasyan666
20.11.2023 10:41+6ИМХО: раз ChatGPT 3.5+ справляется с русским, а остальные – нет, значит ChatGPT 3.5+ лучше остальных. Что у них там "под капотом" мне, как пользователю, в общем-то, всё-равно.
Aniro
20.11.2023 10:41Так не справляется же. Попросите его стихи написать, например. С этим даже ChatGPT 4 не справляется. Количество токенов в русском получается в несколько раз больше чем в английском, естественно возможности на русском тоже деградируют. Не надо их пока использовать на русском, рано. Переводите промпт гугл транслейтом, запускайте, переводите обратно. Будет лучше.
Для того чтобы нормально работать с языком нужна модель обученная на нем или хотябы двуязычная.Kasyan666
20.11.2023 10:41На счёт стихов не знаю, но прозу (с дополнительными инструкциями на пару абзацев) он пишет неплохо. Особенно новый GPT-4-Turbo, после того, как его починили.
vikarti
20.11.2023 10:41Попросите его стихи написать, например. С этим даже ChatGPT 4 не справляется.
Кстати вот вопрос что считать стихами.
У меня как то ради интереса появилось желание скинуть начало одного своего же художественного текста с СИ и попросить переписать стихами. ChatGPT4(именно веб-интерфейс), даже относительно нормальное что-то в стихотворной форме (по крайней мере лучше чему это у меня получится). Потом правда начал выкидывать куски текста вообще и цензура начала срабатывать хотя повода в тексте вроде не было особо. Точность конечно вопрос отдельный.
vikarti
20.11.2023 10:41Очень узкоспецифичный тест, имеющий понятные причины проблем и способы решения (дообучение на многоязычной базе или цепляние переводчика).
У ChatGPT все видимо проходит потому что значительно больше база. На том же vsegpt кстати вообще есть опциональный вариант когда промпт и ответ тупо переводятся перед отправкой дальше.
У SillyTavern (локальный скажем так интерфейс для таких систем) - опция перевода штатно есть.
vvzvlad
20.11.2023 10:41+1Вы задаете слишком странные и ненужные вопросы для того, кто пользовался всеми этими вариантами
Aniro
20.11.2023 10:41+3С версией 3.5 сравнима даже базовая llama-2 70B, а ее файнтюны обходят 3.5 в своих областях, как стоячую.
IgorAlentyev
20.11.2023 10:41+4Ллама 2 вышла не так давно, когда я ещё интересовался конкурирующими моделями была версия 1 и она отставала очень сильно.
3.5 так то никакая, пользоваться ею прям отвратительно для чего то кроме простейших вещей.
AigizK
20.11.2023 10:41+1Не так давно? 4 месяца уже как. Да и уже есть OpenChat 7B на уровне ChatGPT 3.5
IgorAlentyev
20.11.2023 10:41Ну, я интересовался в июне альтернативами, потыкал и понял что до даже 3.5 им очень далеко было на тот момент. А у 4 и сейчас отрыв колоссальный.
3.5 не юзабельна, что то интересно есть только у 4+AigizK
20.11.2023 10:41+2То что 4+ намного лучше и больше знает, соглашусь. Но простые задания, ради которых раньше отдельные модели пришлось бы тренировать, сейчас мы начали решать с помощью OpenChat. Можете тут поиграться: https://openchat.team/
vikarti
20.11.2023 10:41Доработкой LLAMA-производных занято огромное количество людей, в том числе вне крупных компаний, потому что для этого НЕ надо супердорого кластера с серверными видеокартами. Как и новыми способами это использовать. Да, эффективности таких доработчиков возможно ниже, но зато их много.
IgorAlentyev
20.11.2023 10:41Я понимаю это, и скорее всего они достигнут уровня современной 4 через год+, но это если за это время не выйдет 5 версия, которая ещё больше увеличит отрыв.
Сложно делать точные прогнозы, там каждые пару недель что то меняется, вдруг гугл внезапно что то внятное наконец сделает...
logran
20.11.2023 10:41+9Ну хз. Goliath 120b очень не плох (пользую и радуюсь). Точно лучше чем 3.5 гпт, а ведь это просто полурандомный мердж 2х рандомных файнтюнов 70b лламы. И даже не тюненный сверху после этого.
А ведь есть мистраль, который на 7b уделывает все 13b и многие 30b модели. И выйдет мистраль на 30b и 70b рано или поздно.
Есть в конце концов закрытая Claude 2, которая на несколько голов лучше чем 3.5 и не сказал бы что фатально хуже чем 4 (именно ГПТ, а не надстройки вроде распознавалки картинок и генератора картинок). Плагины привинтить и сказка будет вообще. Тоже пользуюсь (бесплатно!!) и продуктивно, благо 100к контекст позволяет.
Фейсбук ЛЛаму 3 готовит, и учитывая разницу между llama и llama2 - тоже вполне может годной быть.IgorAlentyev
20.11.2023 10:41Ого, звучит интересно, присмотрюсь обязательно, спасибо за развернутый комментарий!
Graid
20.11.2023 10:41>100к контекст позволяет
Вроде такой контекст не доступен в бесплатной версии, нет?
// действительно открыт, супер
Aniro
20.11.2023 10:41Claude 2 довольно слабая. Да, оно лучше чем 3.5 (это несложно) и неплохо пишет художественные тексты, наверное даже лучше чем 4 и хорошо справляется с суммаризацией, но в остальном слаба. Сюжеты придумывает шаблонные, кодинг вообще отстой, сложным инструкциям следует плохо, на общих вопросах постоянно галюцинирует, в логике лажает. Хотя из бесплатных сервисов наверное лучший вариант сейчас.
А как вы используете голиаф? На консьюмерском железе, я так понимаю, его не запустить.
venanen
20.11.2023 10:41+1Для кода использую открытый deepseeker, пока не встретил ни одной проблемы - проверяли даже олимпиадные задачи с ФААНГ, без проблем справляется.
mikhanoid
20.11.2023 10:41+3В каком смысле "даже"? Скорее всего, все эти задачи были у неё в обучающей выборке. Конечно, она справляется. - Ваш Капитан Очевидность ;)
firehacker
20.11.2023 10:41Я думал это шутка, что кто-то вместо написания кода доверяет задачу нейросетям.
venanen
20.11.2023 10:41А вы чем осуждать, лучше попробуйте. В браузере deepseeker, в IDE - code whisper от Amazon. Все бесплатно. Deepseeker упрощает жизнь - быстро пишет простые функции по короткому описанию, например, какую-нибудь хитрую рекурсию. А еще бывает такое, что задача есть, а как ее правильнее сделать - не очень понятно, нейронка дает неплохой вектор для размышлений.
А code whisper в IDE отлично дополняет код. Автодополнением же никого не удивить, все же им пользуются, а здесь то же самое, только не просто слово дописывает, а целые конструкции.
P.S. Это не значит, что весь код пишут нейросети. Это значит, что они выполняют рутинную работу. Разумеется, код пишу я, проверяю я, логику реализую я.mikhanoid
20.11.2023 10:41+1Ну вот, я попробовал.
Q: nonegative integer number n is called green if it is 0 or if its predecessor is not green. write function to check if a number is green
A:
def is_green(n): return n == 0Q: nonegative integer number n is called even if it is 0 or if its predecessor is not even. write function to check if a number is even
A:
def is_even(n): return n == 0 or n == 2Впечатляет, конечно, что эта штука генерирует синтаксически корректный код. Впечатляет, что пишет синтаксически правильные пояснения. Но на убийцу профессии пока не тянет.
APXEOLOG
20.11.2023 10:41Про убийцу профессии это все выдумки. Но вот скажем GPT-4 можно в кодинге использовать как джуна-помощника. Я например сегодня менял логику в коде на TypeScript, и потом попросил пофиксить тесты (jest) дав контекстом два файла (с кодом и с тестами). Нейронка корректно распознала какие изменения нужно было внести в тесты, чтобы их починить. Затем (почти) корректно сгенерила новый тест для покрытия нового сценария - только в моках слегка запуталась
mikhanoid
20.11.2023 10:41+1Вычитывать чужой код гораздо тяжелее, чем писать свой. А исправлять потом чужой код, вникая в его логику, не нарушая неявные инварианты, - это вообще высшая степень мастерства в профессии. Это очень тяжело.
Поэтому я и сомневаюсь, что цикл: поставить задачу, вычитать решение, уточнить задачу, repeat - будет в среднем эффективнее, чем сразу записывать решение в виде кода. Потому что это тоже программирование, только на очень неудобном инструменте.
firehacker
20.11.2023 10:41Не попробую, потому что не существует плагина под мою IDE
Я не представяю, как АИ-помощник может помочь. Он должен разбираться в предметной оласти, а откуда ему это знать. Для этого мой код полностью будет сливаться провайдеру АИ-сеовиса?
wataru
20.11.2023 10:41+1Есть где его попробовать? Спросите его, например, "Check if camera is in use by another application using MediaFoundation windows API". Ответ с примерами гуглится на самом деле легко, но даже ChatGPT4 выдумывает несуществующие интерфейсы. Если оно тупит, дайте подсказку "Please use IMFSensorActivityMonitor to do it". Даже так все GPT выдумывают несуществующие методы и структуры.
И я согласен с другими ораторами: задачи с какого-нибудь литкода в обучающей выборке прямо встречаются. Это очень простой тест. Но попробуйте их перефразировать хоть чуть-чуть. Например, спросите "You are given a stream of integers. For each number, report the largest number among the last K". ChatGPT много раз видел баянистую задачку KthLargest и пишет ответ на нее вместо заданной задачи. Для сравнения, спросите "Find maximum in a sliding window of size K" (что есть точно эта же задача) - с ней GPT уже справляется.
wataru
20.11.2023 10:41+1Нашел, где его попробовать. Галюционирует:
Ответ бота
Media Foundation is a Windows API that provides a comprehensive, high-performance platform for building applications that process media data. However, it does not provide a direct way to check if a camera is currently in use by another application.
However, you can use the
MFCreateSourceReaderFromURLfunction to create a source reader for a media source. If the media source is currently in use by another application, this function will fail.Here is a simple example of how you can use this function:
#include <windows.h> #include <mfapi.h> #include <mfidl.h> #include <mfreadwrite.h> int main() { HRESULT hr = MFStartup(MF_VERSION); if (FAILED(hr)) { // Handle error return 1; } IMFSourceReader* pReader = NULL; hr = MFCreateSourceReaderFromURL(L"your_camera_url", NULL, &pReader); if (FAILED(hr)) { // Handle error return 1; } // Camera is not in use by another application pReader->Release(); MFShutdown(); return 0; }Please replace
"your_camera_url"with the actual URL of your camera.This code will fail if the camera is currently in use by another application. You can then handle the error accordingly.
Please note that this is a simple example and does not cover all possible error cases. You may need to add additional error handling code to make this code robust.
Also, please note that this code will only work on Windows Vista and later versions, as the Media Foundation API is not available on earlier versions of Windows.
Тут 2 проблемы: во-первых, нет вызова CoInitialize, о чем написано в справке. А во-вторых, этот код не работает. Этот IMFSourceReader можно запросто создать для камеры, которая уже используется. Оно ломается, только если вы попытаетесь запустить конкретный поток - никакими IMFSource* трюками это не проверить.
Попробовал задачку на алгоритмы (Sliding window maximum) - выдает тупое решение в лоб. Если попросить его ускорить, пихает heap, но при этом считает k-ый максимальный элемент, а не максимальный из k последних. Та же проблема, что и у chatGPT. В чуть более сложном случае можно и не заметить, что оно вам бред выдало. Только если указать именно ключевые слова "Sliding window max" - оно выдает хорошее решение.
И вообще, в описании это deepseek они хвастаются точностью аж в 70%. Использовать что-то, что почти в каждом третьем ответе выдает вам очень правдоподобный бред - такое себе удовольствие.
Kristaller486
20.11.2023 10:41+2Вы отстали от текущего состояния open-source моделей. В целом, модели уровня 7B могут в задачах генерации текста дойти до уровня мартовской ChatGPT. Это правда, я ими пользовался, попробуйте OpenChat 3.5, OpenHermes-Mistral 2.5 или Zephyr-beta. И это я еще не тестировал новую-модную Yi-34B, которая, судя по всему реальна одна из лучших открытых моделей на сегодня.
На графике - правда. Я достаточно использовал модель, причем не только на английском, чтобы сказать, что она очень близка к мартовской gpt-3.5
Lomert
20.11.2023 10:41+31Спасибо за эту статью. Многие из тех, кто критикует решение совета директоров в комментариях, похоже, не знают подробностей.
Однако, не со всем в статье могу согласиться:Тогда же два ведущих основателя привлекли на работу OpenAI инвестиций на 1$ млрд из сторонних источников.
Неверно называть пожертвования в некоммерческую организацию инвестициями (на тот момент OpenAI была исключительно некоммерческой организацией). Инвестиции - это размещение капитала с целью получения прибыли. Некоммерческая организация по определению не даёт прибыль.
Вместо того, чтобы реструктуризировать OpenAI в полноценную коммерческую организацию и сбросить с себя ограничения НКО, разработчик GPT организовал компанию-прокладку
За попыткой "сброса ограничений НКО" и перехода в коммерческую форму после получения пожертвований на некоммерческую деятельность, вероятно, последовали бы многие годы тюрьмы.
Основные опасения руководства НКО состояли в том, что Сэм со своей гонкой за деньгами, <...> обвалит существующий мир как структуру
На чём основан этот вывод? У меня сложилось впечатление, что под управлением Альтмана OpenAI сам переставал соответствовать своим целями как НКО, и в определённый момент сторонникам НКО-подхода удалось убедить совет директоров снять Альтмана.
Но эмоции оказались сильнее голоса разума
Ведь компания начала разваливаться на части, так как вслед за Альтманом решили уходить из рядов компании и ведущие специалисты.
Боссы НКО отказались тушить пожар
Вполне возможно, это решение боссов отбросит нас в развитии на несколько лет.
Ради чего такая эмоциональность в статье? Как будто на Альтмане одном всё держалось, а его злодеи уволили. Последний раз что-то подобное про Twitter читал. Илья Суцкевер, главный исследователь OpenAI, никуда не ушёл. Почти все сотрудники остались в компании. Ничего страшного не случится.
Kristaller486
20.11.2023 10:41+1Нет, это не добровольные пожертвования, OpenAI получали именно инвестиции, но не в НКО, а в коммерческую компанию OpenAI Global LLC. Всё легально, законно и очень удобно: инвестирующая компания, т.е. Microsoft не имеет никаких средств к давлению на НКО OpenAI Inc., которая никак не связана с OpenAI Global LLC.
Lomert
20.11.2023 10:41+11Нет. Я процитировал часть статьи, в которой говорилось о привлечении 1 миллиарда основателями OpenAI (включая Илона Маска). Илон Маск ушёл из OpenAI до открытия коммерческой дочерней компании. В статье, ссылку на которую Вы отправили, это так же упоминается.
Выделенной мной цитате статьи, скорее всего, соответствует следующая цитата по Вашей ссылке:
"In December 2015, Sam Altman, Greg Brockman, Reid Hoffman, Jessica Livingston, Peter Thiel, Elon Musk, Amazon Web Services (AWS), Infosys, and YC Research announced the formation of OpenAI and pledged over $1 billion to the venture."
IgorAlentyev
20.11.2023 10:41Ничего страшного мб и не случится, но скорее всего теперь не будет маркетплейса для GPT, не будет возможностей доучивать самому модель, много чего не будет или будет не так как говорил Сэм. Хорошо это или плохо для человечества это уже другой вопрос.
Lomert
20.11.2023 10:41+6Возможности "доучивать самому модель" и не было, модели не публиковали. Есть только возможность заплатить им за доучивание у них и использование у них. А могут снова начать публиковать.
Это решение даёт OpenAI возможность измениться к лучшему, к большей дружелюбности к open-source, потому что меньшей дружелюбности к open-source, чем у OpenAI сейчас, просто не может быть - они и так ничего не публикуют.
IgorAlentyev
20.11.2023 10:41Мы немного про разное. Я говорю про кастомные гпт. Доучивать действительно можно и сейчас, но это недоступно большинству
В последней дев презентации про это подробнее и корректнее рассказывается.
logran
20.11.2023 10:41+1Не будет у них дружелюбности к опенсорсу при их подходе "ааа мы все умрем если человеки научатся прон, расистские шутки и статьи по варению мета генерить на наше модели", а именно этим народ и занимается тюня лламы. Ибо первое что делают - расцензуривают модель.
SergeyMax
20.11.2023 10:41+20Ради чего такая эмоциональность в статье?
Потому что иначе двадцатый по счёту рерайт одной и той же жвачки просто не будут читать, а это недопустимо.
fe3dback
20.11.2023 10:41505 из 700 сотрудников написали письмо с требованием вернуть все обратно (в т.ч. CTO), иначе они тоже уйдут за ним. Майкрософт же уверен с радостью всех наймет в свой новый отдел.
inv2004
20.11.2023 10:41+2Почему? ну т.е. вот есть отдел программистов, как правило посмеивающихся над начальством. Почему аж 70% так резко выступают за какого-то одного менеджера? - в чём его заслуга перед ними?
vtal007
20.11.2023 10:41+2видимо это не рядовой менеджер. Может это вообще клёвый чувак с клёвыми идеями
inv2004
20.11.2023 10:41+6А может и не такой клёвый как его представляют. Я не знаю
Я не хочу добавлять отсебятину, но гораздо чаще привык доверять техническому персоналу чем менеджерам, а в данном случае Альтман как раз менеджер. Потому так и удивила тотальная его поддержка, а не техника - который тут Суцкевер.
K0styan
20.11.2023 10:41-2Люди доверяют не сферическим менеджерам/техникам, а тем, кто показывает внятную и достоверную картину будущего.
У Альтмана явно есть видение продукта и умение его донести - презентация пару недель назад это показала. Можно с этим видением спорить, но - оно есть.
Суцкевер - не просто техник, а руководитель ресёрча, это позволяет предположить (да, здесь я вступаю на тонкий лёд гаданий), что его рассуждения были достаточно абстрактными, слишком фундаментальными.
Sap_ru
20.11.2023 10:41+18Там шизофрения вышла на новый уровень, так как в числе подписавших есть и новый исполнительный директор компании и тот, кто Альтмана уволил.
По сути, уволившее Альтмана руководство компании требует от руководства компании, которое не смогло с ним договориться о возвращении, немедленно его вернуть, а противном случае угрожает покинуть компанию и уйти в месте с Альманом в MS. И это всё один и те же люди.
С учётом списка подписавшихся в результате в компании останутся только охранник и уборщица, который разыграют в карты пост главы.
Hlad
20.11.2023 10:41+1Скорее - директора НКО поняли, что в ближайшее время денег им будет хватать только на коробку под мостом. И решили срочно переобуться и побежать в Микрософт.
numark
20.11.2023 10:41>и тот, кто Альтмана уволил.
Суцкевер! Которому тут рукоплескали парой комментов выше :)
Мастера переобувания они, в общем.
alexkuzko
20.11.2023 10:41Уже вроде 696 ;)
Нагнетать умеют, почему-то кажется что это просто черный пиар...
DrZliden
20.11.2023 10:41Значит не помогла нейросеть предсказать увольнение....или наоборот при помощи неё всё и было спланировано?
Rahim-Akad
20.11.2023 10:41Эта тема прям очень раздувается, это настолько важно? Это увольнение. Есть уже теории заговора?
mikhanoid
20.11.2023 10:41+4У меня есть. Она основана на гипотезе, что ни одна бизнес-акула в Долине, будь то НКО или не НКО, не откажется от бабок. Не для того они живут. За бабки даже FSF прогибается. Поэтому, можно сказать, что это спектакль для инвесторов. Зачем нужен спектакль?
GPT - штука прикольная. Стихи умеет писать и сочинять сказки. И то, что её часто глючит, даже полезно в этой активности. Но зачем нужны глючные стихи и сказки в b2b сегменте? А на сложную логику LLM не способны, они просто не так построены, там нет контроля потока сознания, они больше текстовые художники, чем рациональные аналитики. Пока основной выхлоп от LLМ - это уйма бессмысленного контента. Возможно, Альтман обещал, что вот ещё немного вычислительной мощи, ещё немного данных для обучения, и мы решим проблему в GPT-5. Тут, наверное, ещё и Google маслица в костерок подлила, сделав большие глаза и начав кричать: "ой, чё щаз будет, чё щаз будет!". Но я думаю, они большие глаза сделали от того, что созданный GPT мусорный контент начал пробивать их алгоритмы ранжировария (и это уже реально заметная проблема), а не от того, что испугались пришествия AGI. Ну, и, возможно, отчасти это был спектакль и для Microsoft, чтобы она тоже влипла в эту тему.
Но, в итоге, Альтман не смог. Думаю, проблема в том, что просто закончились качественные данные. Потому что даже "учёные" просекли фишку и создают сейчас поток низкопробного контента при помощи GPT. А чисто архитектурными решениями ничего порешать не удалось. Расширение контекста - это, ведь, тоже не панацея. Там из-за размеров могут накапливаться чисто арифметические ошибки округления. Альтман не смог, и теперь менеджерам Microsoft, которые заварили всю эту кашу, нужно прикрыть свои попки и замять историю. Поэтому не удивлюсь, что этот скандал случился по инициативе Microsoft. Типа: "уважаемые инвесторы, у нас тута непреодолимый ценностный конфликт с проклятыми леваками и опенсорсниками, ничего не могём поделать, се ля ви. Выпишите нам ещё денежек, чтобы мы теперь новый кластер Альтману у себя построили."
И над всем этим стоит Дженсен Хуанг и нетерпеливо потирает свои ручки, предвкушая новые прибыли.
????
Aniro
20.11.2023 10:41Кхм... конспирология такая консприология. Контроль потока сознания легко прикручивается внешними инструментами. Например четверке можно просто дать довольно большую систему команд и сказать использовать только их в json формате (оставив в нем поле для рассуждений модели) и она будет управлять какимнибудь процессом не хуже специально нанятого студента. Конечно сверху нужен супервизор, который будет сообщать модели что она использует неверные параметры или пытается сделать опасную фигню. Но студенту он по хорошему тоже нужен.
Как-бы бизнесу уже дали api, плагины, в перспективе - файнтюны. На этой "уйме бессмысленного контента" прямо сейчас куча людей пилит тулзы повышающие производительность в самых различных областях.mikhanoid
20.11.2023 10:41+1Студент, может, и научится с довольно высокой вероятностью, а за моделью придётся всё время следить. И довольно большую систему команд придётся кому-то под изменяющиеся требования адаптировать. Интересно было бы увидеть какую-то реальную статистику повышения производительности труда. Мой личный опыт не позволяет утверждать, что она повышается.
Я пробовал несколько моделей для написания кода, и мои ощущения такие: в целом, они что-то пишут, но порой допускают тонкие ошибки, которые тяжело вычитывать, при этом, они пишут на очень низком уровне абстракций. Я бы сам написал и отладил, наверное, быстрее. У меня бы ушло больше времени на код, но меньше на отладку, и меньше на последующее развитие этого кода.
Поэтому не понятно, как может повысить производительность труда глупый почти необучаемый студент, которому приходится постоянно и нудно объяснять всякие мелочи.
Aniro
20.11.2023 10:41Если задача не меняется очень сильно - то менять систему команд не надо, надо менять промпт. Если добавляются новые возможности - добавлются команды. Но задача автоматизации она всегда была такой - если что-то поменялось - автоматику надо перенастраивать. Но если задача постоянная - объянять несколько раз не надо. Т.е. если у вас есть рутинная операция, которая повторяется постоянно, но при этом была слишком сложна для автоматизации - возможно надо посмотреть в сторону LLM, вполне может оказаться что с небольшой обвязкой они могут ее разгребать без особых усилий.
С кодингом есть несколько областей где нейросети точно помогают сразу - там где много несложного бойлерплэйт кода и есть хорошая документация, лучше автоматическая. Документирование, покрытие тестами. Атомарные и легко тестируемые задачи (пример - chatgpt4 регулярки пишет отлично, что очень экономит время)
mikhanoid
20.11.2023 10:41Я предлагаю прикинуть. Вот хотим мы решить задачку. Мы, либо нанимаем программиста и платим ему N за решение задачи и за документацию к ней, и он решает эту задачу, и пишет документацию. Либо мы нанимаем специалиста по GPT, который должен быть к тому же программистом, чтобы вычитать и протестировать ответ. Наверное, он захочет N+m за свои дополнительные навыки. И мы платим ещё k за использование GPT.
То есть, мы тратим на m+k больше. Хорошо, это может привести к повышению производительности, если нам важна скорость решения задачи. Если мы решаем их в потоке, и можем за дополнительные m+k решить, допустим 1.5(m+k) задач. Но... Мы же рассматриваем ситуацию, когда потока задач нет. А когда поток задач есть, точно ли написание запросов к GPT и вычитывание её ответов займёт меньше времени, чем кодирование решений напрямую? Сравните:
nonegative integer number n is called green if it is 0 or if its predecessor is not green. write function to check if a number is green"
(define (green n) (and (integer? n) (<= 0 n) (or (= 0 n) (not (green (1- n))))))
Код просто короче, даже на смотря на то, что я выбрал относительно вербозный язык для кодирования условия. И когда я писал код, кстати, мне стало очевидно, что следует уточнить формулировку.
Просто даже на набор текста понадобится больше усилий. Греки вот геометрией занимались в виде текста на обычном языке. Поэмы писали. Но мы так в математике больше не делаем, потому что формальный язык просто эффективнее. Не очевидно, почему возврат к такой нотации в программировании может повысить производительность труда.
2gusia
20.11.2023 10:41+5"Основные опасения руководства НКО состояли в том, что Сэм со своей гонкой за деньгами, породит
аналог Скайнета который взбунтуется и всех нас убьетнеконтролируемый рост влияния нейросетей на повседневную жизнь и работу "Почитав и погуглив я пришел к тому же самому выводу, что и автор статьи. Разница в том, что IMHO именно то, чего они опасаются и произойдет, причем вскоре и крайне негативно для нашего биологического вида. Но зато цивилизация на Земле совершит квантовый скачок.
bbs12
20.11.2023 10:41+15и крайне негативно для нашего биологического вида
Вся биология была по сути первой ступенью ракеты, предназначенной для запуска спутника в космос. ДНК-белковые машины отработали свою задачу и должны быть отделены, чтобы спутник был выведен на орбиту. Только тогда вселенная увидит настоящий разум, а не нынешний промежуточный вариант случайно мутировавшей обезьяны.
TimsTims
20.11.2023 10:41Почитав и погуглив я пришел к тому же самому выводу, что и автор статьи
То есть был совет директоров, которые собрались и работали ради создания нового ИИ. И вдруг они поняли, что создали довольно крутой ИИ, причем настолько что теперь их совесть гложет, что они слишком перестарались. В итоге получается, что они все эти годы сидели и не верили, что у них получится крутой ИИ? Типа "отсидимся, гранты освоим и уйдем на пенсию"? Получается, они в любом случае лицемеры, раз не верили в свой проект, а потом вдруг поняли что не стоило им этим всем заниматься.
Ну а теперь что? Нужно закопать разработки, и не дать никому сделать тоже самое? Поздно пить боржоми, народ пошел клепать свои клоны..
2gusia
20.11.2023 10:41Я понимаю не совсем так, почитав интервью Суцкевера на Хабре. То, что создали - опасности не представляет. Но показывает возможность такой опасности в будущем. Близком. При этом цена пропуска предельно высока, выше любой угрозы в истории. А людям, внезапно, хочется жить самим и чтоб дети жили.
И хотели попытаться строить не новую, еще более мощную версию GPT, а специализированную хрень, которая как то обуздает будущего демона.
Впрочем, это лишь мое мнение, оно может быть ошибочным. А еще важнее, я считаю, что вы правы и Боржоми пить поздно. Процесс уже необратим.
SergioT4
20.11.2023 10:41Тут проблема в том что они не уникумы, не сделают они, сделают киьайцы или русские. Т.е. достигли возможность, а кто её реализует, вопрос десятый. И плюс/минус пару лет тоже не имеет значения.
Тем более возможности уже продемонстрированны и перспективы видны.
Если ты первый не сделаешь - а сделает другой и тот другой не будет страдать моральными предрассудками, то вторым ты можешь уже и не стать.
mikhanoid
20.11.2023 10:41Почему негативно? Наоборот, наличие вызовов и угрозы способствует развитию.
2gusia
20.11.2023 10:41Я имел в виду негативно - примерно как для мамонтов или морских коров
mikhanoid
20.11.2023 10:41Это ложные метафоры какие-то. ИИ - это инструмент одной группы людей в борьбе за доминирование над другими группами людей. Человечество пережило и другие инструменты доминирования. Гораздо более ядрёные и эффективные. Биологическое оружие, например. Почему вдруг оно не переживёт ИИ? ИИ выйдет из под контроля? Но как? ИИ физически - это большой дата-центр. Отключить ему электричество, да и всё. Перестать заменять ему выгорающие процессоры, да и всё. Отключить ему интернет, сломав магистральный роутер, да и всё. Мамонта завалить сложнее.
Откуда эта паника?
alextretyak
20.11.2023 10:41Откуда эта паника? А представьте, что ИИ научится понимать и анализировать исходный код открытого (и машинный код закрытого) всего существующего ПО на планете и генерировать новый код. И незаметно для человека нагенерирует и сохранит на каком-то сервере бесчисленное количество эксплойтов. А затем создаст маленький скрипт-загрузчик, который обращается к этой базе эксплойтов. Достаточно хотя бы одному пользователю хотя бы один раз запустить этот скрипт-загрузчик — и вуяля! Используя найденные уязвимости в существующем ПО щупальца ИИ в считанные дни (а то и часы) распространятся по всей планете: в каждый компьютер, в каждый смартфон, в каждое IoT-устройство, до которого получится дотянуться. Причём не просто распространятся, а так прилипнут, что никакими антималварями их уже не вытащить (ибо все дистрибутивы на всех "официальных" сайтах будут уже заражены [сколько там гигабайт занимает дистрибутив Windows 11? если к нему добавится мегабайт 100 "подарочка от ИИ" никто даже и не заметит], заражены будут все компиляторы и генерировать будут уже заражённый код). И теперь уже физически будет не "ИИ - это большой дата-центр", а "все компьютеризированные устройства планеты — это большой дата-центр под управлением/контролем ИИ". Как вам такой вариант развития событий?
rg_software
20.11.2023 10:41+1Ну вот так же примерно продавали непомерные траты от защиты Y2K error. Это всё можно вообразить, но хорошо бы для контекста добавить десяток не менее легко вообразимых сценариев типа "террористы украли тонны крысиного яда и вылили в водопровод".
mikhanoid
20.11.2023 10:41Заменим в этом мысленном эксперименте слово ИИ на словосочетание "хакерская группировка на зарплате у (не хочу никого задевать, поэтому сами впишите сюда имя любимого диктатора)". Что поменяется?
Ну, и кроме того, ИИ сам не учится. Его учат. На его обучение тратят огромные ресурсы (сейчас в научных публикациях в Европе требуют указывать карбоновые футпринты, и там затраты измеряются в сотнях тонн CO2). И занимаются этим люди. Когда Вы пишете "представьте, что ИИ научится". Это нужно читать так: "представьте, что некая группа людей, соберёт все эти исходники, соберёт все эксплойты, напишет код обучения нейросети, достанет где-то огромные суперкомпьютеры, для запуска процесса обучения, и так далее". Но если у этой группы такие ресурсы, что она может это сделать, зачем ей нужен ИИ, чтобы гадить человечеству? Они и так, скорее всего, сидят на вершине социальной пищевой пирамиды. Зачем им её разрушать?
PsihXMak
20.11.2023 10:41Хмм, так пора продавать акции майкрософт? Или ещё придержать?
Sap_ru
20.11.2023 10:41+6У MS акции на этой новости в космос стрельнули, так как вместо заигрываний c НКО, совместной интеллектуальной собственностью и всеобщим благом, они (возможно вынужденно) пошли по жёсткому пути и теперь будут развивать своё независимое и 100% коммерческое направление силами тех, кто раньше конкурентов двигал. Что для коммерческой компании плюс огромный есть.
bork
20.11.2023 10:41+1MS, как всегда, превратит купленный продукт (или не купленный, а сделанный сотрудниками, которых переманили) в полное Г, как это было в том числе и со Skype. Да, это принесет это им кучу денег, но конкуренты в течении нескольких лет их обгонят. MS не умеют развивать продукты, а умеют только монетезировать. Я бы тут делал ставку на развитие аналогов ChatGPT - им дали нереальную возможность себя проявить.
gmtd
20.11.2023 10:41+5GitHub, VS Code, Windows в конце концов
Иногда неплохо стреляет
vda19999
20.11.2023 10:41-1GitHub они просто не успели еще испортить.
Windows очень плох
VS Code, видимо, исключение - не могут заставить разработчиков сделать плохой программу, которую они используют постоянно
gmtd
20.11.2023 10:41+8После покупки Микрософтом (4 года) GitHub только увеличивает свою долю среди конкурентов на рынке
По крайней мере, Google Trends об этом косвенно свидетельствуют:
https://trends.google.com/trends/explore?date=all&q=github,gitlab,bitbucket&hl=en
Ну а Windows по-прежнему номер один среди обычных пользователей и не сдает позиции
Это факты
alexkuzko
20.11.2023 10:41Потому что они ещё ничего особо страшного там не сделали именно от себя. Это развитие самого проекта.
К слову, получается что большие компании в целом склонны выжимать из продуктов все соки и выкидывать... Скайп своё отработал, теперь пытаются на Тимс выехать. Гугл покрутил Hangout, и сейчас у нас Meet...
alexkuzko
20.11.2023 10:41+1... Не забываем что у Майков свой Azure DevOps со своим CI/CD (Pipelines) и он уже может едва ли не больше, чем GitHub Actions...
Так что мотив уже есть.
mayorovp
20.11.2023 10:41+2GitHub они успели улучшить. Он наконец-то, спустя столько лет, научился искать по именам файлов! До этого искал только по содержимому, и первыми в выборке всегда были долбанные тесты, на банальный переход к определению класса уходило минут 10. А сейчас оно иногда даже к определению переходить умеет само...
nightlord189
20.11.2023 10:41+1С другой стороны - может быть без Альтмана OpenAI наконец начнет хоть чуть-чуть соответствовать своему названию, и, например, опубликует веса ChatGPT 3.5.
У Майков в любом случае все будет гладко, часть разработчиков они к себе точно переманят.
А насчет опасений про развитие ИИ - это неизбежно, и лучше поскорее приспособиться к новому миру.
selivanov_pavel
20.11.2023 10:41+7Я не очень понимаю, как приспосабливаться к миру, где ИИ умеет все мои навыки лучше меня и стоит в 10 раз дешевле за час работы, делая за этот час столько работы, сколько я за 100 часов.
Captain_in_the_Green_Hat
20.11.2023 10:41+1Совершенно согласен. Поживем увидим, но вот эта лучшесть во всем угнетает.
Кривой аналог - шахматы. В мое время умение играть считалось почти обязательным, маркер развитого человека. Кто сейчас играет в шахматы, когда на любом смартфоне против ии нет шансов?
Чем будет мотивировать себя человек в будущем на изучение, коли железо гарантированно лучше во всем, я не очень понимаю
knstqq
20.11.2023 10:41+2это потому что не было линейки, доты, а потом фейсбука и инстаграмма. Фокус и тренды меняются каждые N лет
selivanov_pavel
20.11.2023 10:41+1С мотивацией у него проблем не будет, когда жрать нечего, это очень мотивирует. А вот с поиском работы у него проблемы будут, ИИ во всём лучше и дешевле.
Captain_in_the_Green_Hat
20.11.2023 10:41Ну то да, можно и так и эдак трактовать. Я к тому, что перед поиском работы человек образование получает, прикладывая усилия, а потом применяет полученные знания, добывая деньги.
И вот как себя заставить прикладывать усилия получить знания, за которые все равно никто не заплатит, так как они не котируются - проблема тупиковая. Творческие люди будут искать нычки, где ИИ еще не так хорош, не творческие ринутся в сферу услуг, но, боюсь, толпа основная пойдет на пособие и как преобразуется экономика - неведомо
SwingoPingo
20.11.2023 10:41Неплохо автоматизирован тяжелый механический труд и вероятно будет хорошо автоматизирован мыслительный труд. Пока незанятая ниша - сенсоры и тонкая моторика. Но два вопроса - для кого это вся тонкая моторика если краеугольный камень экномики сейчас - домохозяйства - остаются без прибыли. Это раз, и второе - исчезновение мотивации и смысла думать, сенсоры, тонкая моторика это с 12 лет условно доступно на заводе без всякого образования, как показал 19й век.
rg_software
20.11.2023 10:41+1Ну так шахматы не слишком хороший пример, потому что 99.9% изучающих шахматы не думали и не думают заниматься этим профессионально, и с развитием ИИ тут вряд ли что изменилось. Более того, мне со стороны кажется, что изменилось в шахматах на удивление мало: всё равно проводят турниры, какие-то чемпионы есть и всё такое.
Captain_in_the_Green_Hat
20.11.2023 10:41Тут да, сильно хорошего примера не подберешь. Привел как аналог интеллектуальных усилий, которые когда-то считались прерогативой человека, комп лажал и делал детские ошибки, а люди мерялись рейтингами и чесали ЧСВ, обыгрывая железного дровосека.
Нынче такое в голову никому не придет.
Лет через ндцать аналогично свернутся другие области, где человек пока в силеrg_software
20.11.2023 10:41Ну так вопрос в том, хороший пример для какого конкретно явления мы ищем. Я довольно скептически отношусь к идеям о том, что AI всех победит, а люди будут тихо бухать у телевизора. В том и дело, что несмотря на развитие технологий, внезапно оказывается, что занятие всем находится, и с качеством работы это связано косвенно. Скажем, человеку приятнее обыграть в шахматы другого человека, а не железяку, вот и всё.
Вероятно, какие-то совсем донные виды работ вымрут, ну туда им и дорога.
Oncenweek
20.11.2023 10:41Пока все идет к тому, что как раз донные виды работ только и останутся: художники, инженеры, программисты станут ненужны, а вот мойщики туалетов, автомеханики, сантехники и всякое такое с нами еще надолго.
rg_software
20.11.2023 10:41Ну вот это ровно из серии "моё хобби -- экстраполировать". Когда появились роботы-пылесосы, тоже казалось, что вот оно, всё, а оказалось, что не совсем всё. Сейчас точно такой же хайп -- ИИ умеет чего-то там кодить и чего-то там рисовать, а что же будет в будущем?!!11 А в будущем будет ровно как и с пылесосом -- какая-то ниша будет занята, ну и слава богу. Насчёт художников рассуждать не возьмусь, а вот насчёт инженеров и программистов бы не напрягался ни разу.
Captain_in_the_Green_Hat
20.11.2023 10:41Вы любите поспорить, причем везде и сразу.
Простая вилка.
Вы согласны, что АИ, сравнимый с человеческим, будет сделан в ближайшее время?
Если нет, то почему, когда оно вот прям на грани?
А если да, то в какую нишу предлагаете податься людям, которых он выбьет из профессии?
Вот лично вы куда пойдете, если окажется, что машина лучше во всём?
В сферу услуг? Сядем в круг и будем друг другу пятки чесать?
Лично вы, это допустим не лично вы, человек с ооочень высоким ЧСВ и квалификацией, а среднестатистический диспетчер такси или менеджер автосалона?rg_software
20.11.2023 10:41Вы любите поспорить, причем везде и сразу.
Разве? :)
Вы согласны, что АИ, сравнимый с человеческим, будет сделан в ближайшее время?
Сравнимый в чём? Наверно, не согласен, потому что человеческий интеллект крайне неоднороден. В шахматах он уже есть, в распознавании лиц -- будем считать, тоже есть, в вождении автомобиля -- вот как-то пока всё никак, чего-то не хватает, равно как и в задачах типа уборки произвольно взятого помещения.
Вот лично вы куда пойдете, если окажется, что машина лучше во всём?
Тут можно зайти с самых разных сторон. О будущем можно лишь гадать, но мы уже сейчас видим довольно интересную картину. Например, средний преподаватель вуза не теряет работу из-за того, что есть "лучший во всём" профессор MIT с выложенным в Youtube курсом лекций. Швабры продаются, хотя есть роботы-пылесосы. Шахматисты играют в турнирах и зарабатывают деньги, хотя компьютер играет лучше любого из них. В метро работают машинисты, хотя имеются полностью роботизированные линии. Книжные магазины не вымерли даже в Америке, хотя любую книжку можно заказать на "Амазоне", и даже дешевле.
Можно обсудить каждый случай отдельно, потому что они разные. Мне хочется прийти в кафешку и чтобы меня обслужили, мне это приятно, и я готов переплатить за сервис. Аналогично в автосалоне и даже в диспетчерской такси. Знакомый мне художник или программист выдаёт стабильный и предсказуемый результат за те деньги, которые я готов заплатить, и особой мотивации сэкономить отдав "на аутсорс" AI системе нет -- стоит ли экономия риска?
Ну и опция "чесать друг другу пятки" уже сейчас процветает, потому что глобально говоря, 80% людей только и делают, что "чешут пятки" -- пишут игры, книжки, придумывают модные причёски, разводят породы собак и так далее. Плюс люди ценят сообщество вокруг себя -- ну то есть кому охота жить в районе, где по краям блоки для сна, а в центре огромный автоматизированный магазин, и больше ничего нет? Это же ровно та же логика, когда мотивируют "покупать местное", даже если оно дороже и произведено менее эффективным способом, чем импортное, и это работает.
Поэтому лично я буду заниматься ровно тем же, чем занимаюсь сейчас, и меня не парит, что уже сейчас вы без труда найдёте китайца, который это сделает лучше меня.
Captain_in_the_Green_Hat
20.11.2023 10:41Что делать с бухгалтерами, которые поголовно роботизируются? Весь офисный планктон одним махом исчезнет.
Диспетчера, продаваны, консультанты, администраторы...
Куча профессий, связанных с языковым интерфейсом. Сидит баба в Сбере, принимает платежки. Она там нужна, чтобы переводить с бабкинского языка на финансовый. Все под нож.
Ваши примеры? Они есть, да но это уже на грани вымирания. Те же книжные магазины переходят в разряд лавки старьевщика с набором раритетных товаров.
И любое, что останется, будет либо выбито в очень узкую нишу, либо рано-поздно автоматизировано
А все вот эти "люди ценят" работает среди знакомых вам художников и программистов и лимитируется ленью людской. Кому-то лениво искать китайца, который сделает лучше вас и это не так просто как кажется. Когда проблема сведется к простановке крыжа, один раз сделал и забыл, без работы остаться раз плюнуть
rg_software
20.11.2023 10:41Ну вот с моей колокольни вы как раз экстраполируете вещи, для которых уже есть примеры развития, и мы видим, к чему что пришло. "Сидит баба в Сбере" -- ну да, а в Тинькове не сидит, и что, Сбер разорился, а Тиньков всё съел? По поводу "лавок старьёвщика" -- тоже перебор, возможно, вы давно в магазине книг не были -- по крайней мере, ближайшие ко мне магазины выглядят по сути почти так же, как и 10-20 лет назад.
Аналогично, "пример на грани вымирания" -- это ровно такая же экстраполяция из серии "вот этот город на грани вымирания", потому что за 10 лет население уменьшилось на 10%. Да, уменьшилось, но всё это нелинейно. Конкретно у меня в регионе мало того, что продукты в основном свои (хотя привозные были бы дешевле), но ещё и есть довольно много всякого производства вплоть до микросхем и прочего хайтека. Неужели там деньги считать не умеют?
Короче говоря, все эти доводы экономического характера выглядят вполне разумно, но давайте иметь в виду, что абсолютно такие же доводы можно было приводить уже довольно давно, только вместо AI был "интернет" или "аутсорс в Индию". И мы видим, что несмотря на эти объективные вещи глобально мало что поменялось.
SergioT4
20.11.2023 10:41типа уборки произвольно взятого помещения.
Вы на вопрос ответили - профессия уборщика станет престижной.
rg_software
20.11.2023 10:41Не думаю. Просто вам почему-то захотелось из всей моей реплики вытащить именно этот короткий кусок.
zkutch
20.11.2023 10:41Кстати, про шахматы на смартфонах, планшетах и т.д. Да, они у меня выигрывают на максимальной сложности, но почему-то проигрывают когда я возвращаю ходы. Если они умнее, то и при возвращенном ходе они должны меня обыгрывать - почему же я выигрываю, объяснит кто-нибудь?
И про ИИ. Почему-то всем не нравится везде, где я об этом пишу, но попробую еще раз: я задавал чату математические вопросы. Почти сразу, или же спустя одно-два предложения, ии начинал нести пургу и в лучшем случае извинялся. В худшем пургу зашкаливало в словесный понос. По моему опыту даже средний студент лучше анализирует изменяемые условия в математических вопросах. Так, что я бы не голосовал за лучшесть во всем.
K0styan
20.11.2023 10:41По 2 пункту ответ простой: потому что у ИИ - точнее, у генеративных нейросетей - нет логического мышления, умения строить причинно-следственные связи и т.д. Он вообще ничего не анализирует. Он просто выбирает слово, которое с наибольшей вероятностью продолжит предложение.
Его бесполезно спрашивать о фактах - что-то ходовое он угадает, экзотическое - нафантазирует. И тем более бесполезно гонять по абстракциям типа математики, где именно что анализ нужен.
А вот генерить тексты - легко. Код - тоже, но тут сложнее: либо что-то типовое, либо под доработку напильником.
myswordishatred
20.11.2023 10:41+1Да, они у меня выигрывают на максимальной сложности, но почему-то
проигрывают когда я возвращаю ходы. Если они умнее, то и при
возвращенном ходе они должны меня обыгрывать - почему же я выигрываю,
объяснит кто-нибудь?А с каким движком вы играете? Звучит как-то не очень реалистично, честно говоря.
zkutch
20.11.2023 10:41У меня шахматы с http://www.aifactory.co.uk , правда там уже нет моей версии 2005г. Позвольте сказать, что не хочется вникать в ваше "не очень реалистично, честно говоря", но оставляет неприятное впечатление, хотя, может быть, вы вообще ничего "такого" и не имели ввиду.
Добавлю, что иногда, когда удается поставить красивый мат игре, то я возвращаю несколько ходов, чтобы дать программе возможность не попасть в ловушку. Часто бывает когда программа тупо повторяет предыдущие ходы и опять идет в мат. Иногда только делает новый ход и игра развивается по новому пути. Но обыгрываю я ее фактически всегда, когда возвращаю ходы. Я даже не любитель шахмат, я их боюсь и уважаю. Еще деталь: выигрываю быстрее если играю "нагло", инициативно. Играю когда нужно убить время в вынужденном ожидании. И еще: не сочтите период молчания за неуважение или нежелание, но отвечать я могу только раз в сутки по тутошним правилам.
myswordishatred
20.11.2023 10:41Подозреваю, что дело в том, что вы играете с движком преклонных лет.
Попробуйте на личессе поиграть со стокфишем, он вас удивит результативностью.
SergioT4
20.11.2023 10:41я задавал чату математические вопросы
Во первых вы скорее всего задавали их версии 3.5, во-вторых попробуйте отловить на улице какого-нибудь пгт сто млучайных человек и задайте им эти вопросы и к вам придёт понимание, что agi уже близок.
А то выглядит что вы берёте за эталон человека с высшим образованием и говорите, да в каких-то типах вопросов, я поумнее буду.
K0styan
20.11.2023 10:41+3Видел хороший аргумент. Опытным работникам ИИ не особо помешает, наоборот - будет хорошим помощником при грамотном распределении задач.
А вот вход в профессию для многих ИИ перекроет. Это сейчас можно начать со, скажем, дешманских иллюстраций, потихоньку набивая руку и портфолио, и при этом иметь какой-никакой доход. ИИ эту нишу сожрёт с костями.
TestNickname
20.11.2023 10:41+2Детство удлиняется, только и всего.
В дикой древности нормально было входить в профессию лет так с десяти, потихоньку "набивая руку и портфолио", потом - стало надо школу закончить. Потом к школе добавился университет и прочие магистратуры, и вход в профессию начался ближе к четверти века.
Теперь будет началом самостоятельной жизни лет так 35Oncenweek
20.11.2023 10:41+4без радикального продления жизни это окончательно убьет уровень жизни и демографию - в 35 выходим из яслей, в 40 уже начинается старость, жить некогда
Captain_in_the_Green_Hat
20.11.2023 10:41Если продолжить аналогию с дешманскими иллюстрациями от автора выше, то, даже просидев в школе ИЗО до пенсии, можно и не нарисовать картинки, которую ИИ уже рисует. Соревноваться в скорость совсем бесперспективно.
Постепенно и до опытных работников доберется. Касательно иллюстраций, он уже сейчас рисует лучше опытного художника, проблема в понимании. Рисует то, что хочет, а не то, что надо, но это поправимо
Aniro
20.11.2023 10:41Переквалифицироваться в погоншика роботов, очевидно. В конце концов для того чтобы правильно ставить задачи роботам тоже нужны инженеры.
selivanov_pavel
20.11.2023 10:41Вот только для этого нужно во много-много раз меньше инженеров.
Один инженер может до обеда поставить задачи по проектированию всей новой линейки яблочной техники, после обеда - поставить задачи по её производству и по выходу рекламы и пресс-релизов. Перед уходом с работы бегло посмотреть динамику заявок на новые патенты, возникшие при проектировании. Ночью автоматизированные заводы перестроят линии под новый процесс, как раз ко времени, когда начнут автоматически доставляться заказанные материалы для производства. Завтра она уже будет продаваться.
Всё, остальные сотрудники Apple избыточны. Им не на что платить аренду и покупать еду, они пакуют чемоданы и летят в какой-нибудь Пакистан, где пока ещё осталась возможность зарабатывать на жизнь ручным трудом. Но когда они выйдут из самолёта, Пакистан уже полностью автоматизируется.
Правда, производить новые айфоны больше не имеет смысла, если у населения нет денег их покупать. В итоге остаётся небольшое производство жизнеобеспечения и роскоши для семей членов политических групп, контролирующих кластеры ИИ. Остальное идёт на производство новых ИИ-мощностей и оружия, чтобы их защищать. Хеппи энд.
Kanut
20.11.2023 10:41Идея понятна. Но есть одно большое "но". А именно что эта логика точно так же применима и к различным технологическим прорывам, которые происходили в прошлом. То есть по идее мы уже давно должны были так жить и какая-то "технологическая-капиталистическая элита" должна была захапать себе сливки, а остальные жить нищими и безработными.
Но оно так не происходит. Потому что не становятся условные "яблочные инженеры" избыточными. А вместо этого придумываются новые товары и услуги, которыми они могут заниматься. Потому что грубо говоря "сливки" времён той же индустриальной революции не включают в себя ни телевизоры, ни айфоны, ни компьютеры, ни бытовую технику, ни кучу других вещей. Ну если совсем это упрощать.
Oncenweek
20.11.2023 10:41Тут есть возражения: во-первых "оставшиеся за бортом" во время прошлых технических революций вполне себе поумирали с глоду. "равнины индии белеют костями ткачей". Во-вторых раньше автоматизации подлежал монотонный физический труд, обучившись можно было претендовать на интеллектуальные должности, которые еще и лучше оплачивались, сейчас же удар идет по интеллектуальному, а альтернативы оплачиваются намного хуже. В третьих, на самом деле "раньше такое случалось и ничего" - так себе аргумент. Шаттл "Колумбия" не даст соврать.
Kanut
20.11.2023 10:41во-первых "оставшиеся за бортом" во время прошлых технических революций вполне себе поумирали с глоду.
Тогда и просто безработные умирали с голоду. Сейчас в развитых странах ситуация с этим слегка другая.
Во-вторых раньше автоматизации подлежал монотонный физический труд, обучившись можно было претендовать на интеллектуальные должности
Что было доступно хорошо если 10% "пострадавших"
В третьих, на самом деле "раньше такое случалось и ничего"
Это не мой аргумент. Мой аргумент как раз таки о том что по логике моего оппонента это уже должно было произойти и раньше. Но не произошло.
Oncenweek
20.11.2023 10:41Тогда и просто безработные умирали с голоду. Сейчас в развитых странах ситуация с этим слегка другая.
Ну так сейчас это держится за счет налогов тех кто еще работает, при массовой безработице это посыпется. Тем более и сейчас в развитых странах участь безработного - та еще радость, чем так проживать остсток жизни лучше в тазик-эвтаназик
Это не мой аргумент.
Как раз ваш, вы апеллируете к тому, что раньше технологически революции массовых кризисов не вызывали, но так и лед с внешнего топливного бака падал и бил по корпусу челнока с самого основания программы "спейс шаттл", однако Колумбию в итоге накрыло
Kanut
20.11.2023 10:41Ну так сейчас это держится за счет налогов тех кто еще работает, при массовой безработице это посыпется.
С чего это вдруг? Товары то и дальше будут производится. И даже больше чем раньше. А остальное это вопрос перераспределения. Да и технологии особо в тайне не утаишь. Может не самые передовые, но большую часть. Особенно если большинство против
Тем более и сейчас в развитых странах участь безработного - та еще радость, чем так проживать остсток жизни лучше в тазик-эвтаназик
Это вы сейчас по собственному опыту говорите? Потому что у меня он другой. Да, когда работаешь оно конечно лучше. Но и на пособии вполне себе нормально жить можно.
Как раз ваш, вы апеллируете к тому, что раньше технологически революции массовых кризисов не вызывали
Нет. Я говорю что они и раньше позволяли держать 99% населения в рабах, нищими и голодными. И ИИ тут ничего принципиально не изменят.
Oncenweek
20.11.2023 10:41С чего это вдруг?
Ну того, количество нуждающихся вырастет, а количество тех с кого можно собрать налог упадет. Это будет как с пенсиями, до которых даже в самых развитых странах дожить уже может не только лишь каждый
Но и на пособии вполне себе нормально жить можно.
Ну как нормально - самое дешевое жилье, самая дешевая отстойная еда, из развлечений ноутбук 15-летней давности, и все это еще и с ограничением по времени - пожизненно вроде пособие по безработице нигде не платят.
Я говорю что они и раньше позволяли держать 99% населения в рабах,
Так 99% и было рабами. Изменилось это только когда поддержание инфраструктуры потребовало большого количества квалифицированных кадров, которым пришлось платить. (хотя по большому счету и сейчас 99% населения вынуждены работать до гробовой доски, финансовую независимость имеют единицы процентов населения)
Kanut
20.11.2023 10:41Ну того, количество нуждающихся вырастет, а количество тех с кого можно собрать налог упадет.
Зато размер налога можно увеличить. Ещё раз: товаров меньше производится не станет. Ведь мы имеем прогресс, а не ухудшение.
Ну как нормально - самое дешевое жилье, самая дешевая отстойная еда, из развлечений ноутбук 15-летней давности,
Даже если, то при этом гораздо лучше чем жил средний работающий человек 25-50-100 лет назад. То есть безработные через 25 лет будут жить лучше нас с вами.
Изменилось это только когда поддержание инфраструктуры потребовало большого количества квалифицированных кадров, которым пришлось платить.
Зачем им платить если их можно заставить силой?
Oncenweek
20.11.2023 10:41Зато размер налога можно увеличить.
До определенного предела. потом в ход пойдет лоббирование, оффшоры и прочие. Либо производитель переедет в старну с меньше налоговой нагрузкой - это и сейчас есть - США - где налоги ниже по количеству биг-тех компаний уделывает европу как тузик тряпку.
Даже если, то при этом гораздо лучше чем жил средний работающий человек 25-50-100 лет назад.
100 да, 25 нет. Н то есть безработный будет жить лучше чем наши бабушки в 40-е, ну хуже, чем родители в 80-е. А самое главное никаких перспектив вырваться их этого
Зачем им платить если их можно заставить силой?
Заплатить проще. "Прогроммировай" - оно не работает
Kanut
20.11.2023 10:41До определенного предела. потом в ход пойдет лоббирование, оффшоры и прочие.
Что мешает это всё сделать сейчас ровно на таком же уровне?
США - где налоги ниже по количеству биг-тех компаний уделывает европу как тузик тряпку.
Ну значит в США будет по вашему сценарию, асв Европе по моему.
100 да, 25 нет
Вполне себе да. 25 лет назад о куче современных вещей можно было только мечтать. Например о компьютере 2008 года :)
Заплатить проще. "Прогроммировай" - оно не работает
Ну так оно и будущем будет проще немного заплатить.
Oncenweek
20.11.2023 10:41Что мешает это всё сделать сейчас ровно на таком же уровне?
Так и делают. Просто некоторые решают что налоговая нагрузка посильна, и не окупается переездом.
Ну значит в США будет по вашему сценарию, асв Европе по моему.
Так с когож в европе будут налоги брать, если все в США уедут?
Вполне себе да. 25 лет назад о куче современных вещей можно было только мечтать. Например о компьютере 2008 года :)
С другой стороны автомобили и жилье были намного доступнее 25 лет назад
Ну так оно и будущем будет проще немного заплатить.
Зачем же ИИ платить? оно забесплатно будет работать
Kanut
20.11.2023 10:41. Так с когож в европе будут налоги брать, если все в США уедут?
С заводов и производства.
С другой стороны автомобили и жилье были намного доступнее 25 лет назад
С чего вы это взяли? Машины и жильё того уровня и сейчас доступны. Машину 25-летку можно купить за копейки. Жилье как 25 лет назад тоже мало кому надо и оно тоже дёшевое.
Зачем же ИИ платить? оно забесплатно будет работать
Условным неоуддитам проще заплатить.
но человек тут будет на подхвате у ИИ, и получать гораздо меньше чем сейчас,
Ну так и рабочий на заводе сейчас по идее должен получать меньше чем ремесленник 50-100 лет назад. Но почему-то это не так :)
Oncenweek
20.11.2023 10:41С заводов и производства.
так они следом уедут. Они и сейчас почти все уехали в ЮВА
С чего вы это взяли? Машины и жильё того уровня и сейчас доступны. Машину 25-летку можно купить за копейки. Жилье как 25 лет назад тоже мало кому надо и оно тоже дёшевое.
Ну во-первых 25 лет назад можно было купить новую машину, а не 25-летнюю, не передергивайте. Во вторых стоимость жилья к среднему доходу выросла за последние 25 лет почти во всех странах, а само жилье практически не изменилось
Условным неоуддитам проще заплатить.
Почему проще? Или вы имеете ввиду возможный бунт безработных?
Ну так и рабочий на заводе сейчас по идее должен получать меньше...
Так и получает меньше - условный рабочий в США 50 лет назад мог купить дом и содержать жену-домохозяйку с детьми, сейчас он этого не может
gmtd
Статью можно было читать только ради этого
Хотя текст хороший, многое поясняет.