Это перевод, если есть такая возможность, лучше прочитать оригинал на английском.
Я тяжело переживаю по поводу того, куда нас завела эта дорожка, и стараюсь по мере сил бороться с этими переживаниями. Я постоянно думаю о том, какое место я занимаю в отрасли, которая, похоже, больше не заботится о том, что она производит. Стало очевидно, что индустрии программного обеспечения попросту наплевать на программное обеспечение.
Становится только хуже.
Кто-нибудь еще замечает, что программное обеспечение просто …ну… больше не работает подобающим образом? В каждой отдельной системе бронирования, какую я бы ни пыталась использовать на прошлой неделе, была серьезная ошибка, влияющая на доход (авиакомпания, бронирование такси, краткосрочная аренда, прием к врачу). Две из них были связаны с неправильной интерпретацией часового пояса, одна — с ошибкой проверки обязательности заполнения некоторых полей формы, а последняя так просто звучала как «вы не сможете получить назначенное место, если не позвоните нам». — Valerie Aurora
Разумеется, меня можно подозревать в предвзятости, ведь пару лет назад я написал длинное эссе на эту тему, а в прошлом году — целую книгу.
Моя теория, которую я изложил в книге, заключается в том, что качество программного обеспечения и успех в бизнесе, особенно для отдельных менеджеров, — вообще никак не связаны. Настаивать на методах разработки программного обеспечения, которые зарекомендовали себя как уменьшающие количество дефектов и улучшающие пользовательский опыт, — скорее навредит вашей карьере, чем поможет. Менеджеры высокого уровня получают вознаграждение за масштаб проекта, а не за долгосрочный успех. Индустрия программного обеспечения никогда не могла похвастаться особенным качеством производимого продукта, но с каждым днем все становится только хуже.
Вот, например, все эти увольнения.
Любой руководитель, загнавший свою компанию в такую ситуацию, что им приходится увольнять 10-20% сотрудников — некомпетентен по определению.
Они привели свои компании к ужасающей финансовой и организационной катастрофе с не поддающимися никакой оценке пагубными последствиями, которые будут отдаваться эхом в течение целого десятилетия. Они — своим бесталанным руководством — поставили всех вокруг в жуткое положение. На адекватном рынке они были бы вынуждены уйти в отставку, да и то, если бы их попросту не уволили одним днем.
Вместо этого они стали образцом для подражания. Так же, как и раньше, во всех иных поразительно неудачных решениях по разработке программного обеспечения, принятых этими компаниями, все остальные игроки в индустрии решили следовать за ними, копируя их подход.
А их руководители еще и получают премии.
В принципе, то, что наше программное обеспечение ухудшается, ни для кого не должно быть сюрпризом. Это иррациональный рынок, управляемый людьми, которые не знают, что они делают.
ИИ — одно сплошное разочарование.
Нигде это не проявляется так явно, как в случае с ИИ. Несколько недель назад генеральный директор Google Сундар Пичаи выступил в программе «60 минут» с рядом вопиющих облыжных заявлений, которые либо свидетельствуют о полном непонимании технологии, которую он рекламирует, либо о непорядочности.
Я предпочитаю думать, что он просто абсолютно невежественен, но это лишь укрепляет мою точку зрения: всех этих людей следовало давно уволить.
Я немного отошел от темы, но индустрия программного обеспечения идет по пути, который прямо очень разочаровывает.
Наблюдать, как руководители дают обещания, основанные на фундаментальном непонимании технологии, которую они рекламируют, в то время как каждое их действие, кажется, специально направлено на увеличение количества дефектов, багов и ухудшения пользовательского опыта, — как бы охаректиризовать ощущения от всего этого?
Разочарование это, вот что это такое. Разочарование.
Постоянным спутником перманентного ухудшения ситуации в отрасли является их неспособность думать в рамках более широкого контекста, в том числе о различных социальных контрактах, которые определяют положение технологии в обществе.
С помощью искусственного интеллекта технологии нарушили социальные договоренности в сети.
Проблема в том, что довольно много людей в сфере технологий не верят ни в какой общественный договор. Их концептуализация общества упрощена до предела: оно представляется им равновесием доминирующих намерений, мотивированных миметическим желанием. В этой картине мира богатые находятся на вершине; остальные из нас стремятся быть похожими на них; любая критика в их адрес рождена из зависти. Улучшить мир могут только те, у кого есть власть над другими. Любая форма просоциальных рассуждений, достижения консенсуса или подлинных переговоров кажется им чуждой.
Эти люди — реакционные либертарианские сволочи, и они — истеблишмент мира технологий. Они видят себя добродетельными пастырями человечества, особенно в долгосрочной перспективе, но, по большому счету, они всего лишь жадные до власти либертарианские сволочи.
Вот почему они оставляют после себя выжженную землю.
Не секрет, что многое из произведенного на свет технологической индустрией, не лишено того, что экономисты выразили бы эвфемизмом «негативные побочные эффекты».
Неспособность Microsoft справиться с дефектами программного обеспечения привела к тому, что в течение почти двух десятилетий обществу приходилось нести внушительные расходы по борьбе с фундаментально негодной безопасностью большинства версий Windows. Их некомпетентность создала рынок антивирусного программного обеспечения объемом 4 миллиарда долларов на «пике» незащищенности Windows в 2004 году, и никто не знает, во сколько миллиардов долларов реально обходится обществу заражение программного обеспечения вирусами и прочие взломы.
(В прошлой жизни я работал на поставщика антивирусного программного обеспечения. Если что, мы сильно недооцениваем разрушительные издержки, которые Microsoft нанесла нашей экономике из-за своей некомпетентности в области безопасности в течение этих лет.)
И ничего не меняется.
Android — это куча вредоносных программ и не исправленных телефонов.
AirBnB, похоже, был специально разработан для повышения цен на недвижимость за пределами того, что могут себе позволить местные жители.
«Контрактная» экономика предназначена для того, чтобы полностью подорвать общую оплату труда и гарантии занятости.
А уж их ориентированная на рекламу всеобщая слежка — это просто заветная мечта авторитарного правительства. Примеров слишком много, чтобы перечислить из все.
Но искусственный интеллект — это последняя капля.
Старый общественный договор.
Вообще-то договор, регулирующий «сетевое пространство», всегда был, как правило, довольно прост:
Мы и медиа-компании размещаем материалы в интернете бесплатно. Некоторые из нас делают это по деловым соображениям. Кое-что из этого носит личный характер. Во многом это просто результат культурного обмена. Люди есть люди.
Технологические компании используют этот материал, но чаще всего экономически дополняющим образом. Поисковые системы используют его, чтобы помочь вам найти то, что вы ищете. Сайты социальных сетей показывают вам рекламу. Что-то обрабатывается с целью улучшения предоставляемых сервисов, таких как проверка орфографии или автозаполнение.
Все это сломалось не сразу, а рушилось постепенно. Переводчики сильно пострадали от программного обеспечения для перевода, а ведь само его создание оказалось возможным только благодаря обработке текстов, сделанных переводчиками-людьми.
Google неумолимо манипулирует результатами своих поисковых систем, чтобы все чаще и чаще подменять страницы в результатах выдачи. Некоторые из подобных действий привели к судебным искам или даже прямому изменению законодательства. Многие юридические проблемы Google в ЕС связаны именно с этим.
Повсеместная технологическая слежка также раздвинула границы того, что многие считали приемлемым. Теперь даже мои родители используют блокировщики рекламы.
Но языковые и диффузионные модели идут дальше. Договор, который технологии предлагают нам на этом поле, тоже не особо запутан:
Мы и медиа-компании размещаем материалы в интернете бесплатно. Некоторые из нас делают это по деловым соображениям. Кое-что из этого носит личный характер.
Технологические компании используют этот материал для создания систем, которые могут создавать некачественные, упрощенные, неработоспособные версии того, что сделали мы, а еще — создавать убедительные подделки как результатов нашей работы, так и нас самих: например, для астротурфинга, разрушая нашу работу, наш бизнес и наши социальные взаимодействия.
Это плохая сделка.
Это и близко не справедливая сделка для тех из нас, кто придерживается принципа «бесплатного размещения материалов в сети». Не имеет значения, незаконно это или нет — хотя законодательство, вероятно, единственный способ заставить технологическую индустрию остановить это, — потому что общественный договор уже нарушен.
Стимул сделать что-то новое уходит след в след за вытесненными из интернета нашими прошлыми работами. Вытесненными — контентом, который был создан с использованием искусственного интеллекта. По мере того, как желание что-то делать отступает, все меньше и меньше людей и организаций будут вносить свой вклад в цифровое наследие. Все больше и больше материалов будет спрятано за неприветливой дверью с табличкой «вход платный».
Все это уже повлияло на мои отношения с сетью.
В процентном соотношении я опубликовал в интернете меньше выдержек из «Иллюзии интеллекта», чем из «Кризиса программного обеспечения». Я также почти перестал публиковать фотографии. Возможно, я больше пишу в блог, но меня все сильнее беспокоит, а сто́ит ли мне это делать.
Я нахожусь ровно в той точке, когда при обычных обстоятельствах стратегически верным решением было бы продолжать писать больше и больше. Обычно это был бы самый эффективный способ подразогнать мою карьеру в данных обстоятельствах.
Но теперь против всех публикаций стоит жирный вопросительный знак.
Побился ли бы я об заклад, что поток шаблонных текстов, созданных языковыми моделями, выведет вдумчивые авторские эссе в премиальный сегмент? А что, если распространение этих эссе — просто рабский труд на благо улучшения моделей?
Подумываю ли я о том, чтобы сделать значительную часть своей писанины платной, или, хотя бы, закрыть все это за логином, даже если это было бы контрпродуктивно для моей карьеры? Не приведет ли это вообще к разрыву отношений с моими друзьями и интернет-сообществом в целом?
Неужели я просто игнорирую тот факт, что помогаю воспитывать универсального производителя, который, как надеются многие в индустрии, заменит всех нас?
Я не знаю.
Я знаю, что буду продолжать писать об этом. Даже просто написание этой заметки помогло мне прояснить свои мысли и привести в порядок эмоции.
Буду ли я продолжать публиковать свои работы в интернете?
Я надеюсь на это. Я надеюсь, что онлайн-писательство переживет любые передряги.
Но я больше в этом не уверен.
Лучший способ поддержать автора — купить одну из книг, «Иллюзия интеллекта: практическое руководство по бизнес-рискам, связанным с генеративным ИИ«, или «Выход из кризиса программного обеспечения.
Комментарии (40)
ErshoffPeter
01.06.2023 15:32+2Непонятно какой пример автор может привести в качестве "неплохой" жизни - на мой взгляд нас окружают сплошные компромиссы между удовлетворением наших потребностей и той скрытой ценой, которую нам приходится платить за это.
cupraer Автор
01.06.2023 15:32+1Да, это несомненно так.
Я не автор, но мне очень близки эти мысли (я, собственно, поэтому и перевел), так что попробую ответить вместо него.
Если очень грубо, то потребности можно разделить на две категории: действительные и навязанные. И я даже не про Маслоу, а про ну вот например условный айфон. Существовала бы у такого количества людей потребность в условном айфоне, если бы условный эпл не сделал всяко-разными хитрыми маркетинговыми и рекламными выкрутасами из условного Джобса — икону, а из продукта — несомненный атрибут истеблишмента? Сомневаюсь.
Ни у кого нет потребности в автомобилях с восемью сотнями лошадей под капотом за пределами десятка профилированных гоночных треков, но на соседней со мной улице живет один из его обладателей.
Если начать задумываться, то от некоторых потребностей станет прям противно, как можно было быть таким глупцом и повестись на такой дешевый развод?
Ну вот, собственно, неплохая жизнь — возможно — наступает тогда, когда мы начинаем удовлетворять только настоящие потребности, и как следствие — не платим за это буквально ничего. А может, и нет :)
ErshoffPeter
01.06.2023 15:32+1"Существовала бы у такого количества людей потребность в условном айфоне" - дп, существовалоа бы ибо iPhone покупают не длч того, что бы молиться на кого-то, а для того, что было удобно потреблять информацию не заморачиваясь с интерфейсом и при этом иметь доступк некой экосистеме - с условным Android-ом это всё тоже можно получить, но приходится заморачивать чуть более. Чувствуется, что у вас точно не iPhone и в вашем окружении IPhone не любят. У меня самого Android, но на работе коллектив женский и там преобладает iPhone и, поверьте, это не вопрос статуса.
Подумайте - может быть таки покупка пресловутого iPhone для женщины лет сорока, матери двоих детей, у которой всё хорошо в жизни - это и есть удовлетворение её настоящих потребностей?
cupraer Автор
01.06.2023 15:32Я покупал телефон ради камеры, и поэтому да, айфон сразу мимо.
Но я же не случайно там везде понавтыкал этих «условно». Ну вот насколько велика моя потребность в хорошей камере? Мне это ничего не стоило, кроме денег, а деньги — бумага, поэтому я такую потребность удовлетворил. Если бы в довесок мне бы дали фактически легитимизированный трекинг моих маршрутов — не потребность и была.
Карты гугла — это удобно, наверное. Но нет, потребность опять же не настолько велика.
И это при том, что скрывать мне вообще нечего.
ErshoffPeter
01.06.2023 15:32+2Вам сами деньги что-то стоили или вы их просто нарисовали? Обычно деньги - это не бумага, а посредник между вашими усилиями и вашими потребностями.
Карты и гуугла и любые другие вы можете удалить с вашего телефона.
Или вас просто задевает тот факт, что их вам дали бесплатно для вас? ????
Касательно ваших "условно" - вы реально считаете, что современные телефоны покупают только из-за культа потребления или что бы молиться на кого-то или чёй-то образ жизни? Вы, похоже, в общественном транспорте не ездите...
cupraer Автор
01.06.2023 15:32А причем тут общественный транспорт? Езжу.
ErshoffPeter
01.06.2023 15:32+1И вы там не видите для чего люди свои iPhone-ы используют? На Стива Джобса все молятся?
cupraer Автор
01.06.2023 15:32-1У вас какая-то фиксация на айфоне. Это был пример.
И в том транспорте, в котором езжу я, айфоны — только у тех людей, которые кроме тиктока вообще ничего в жизни не видят.
ErshoffPeter
01.06.2023 15:32+1Да меня просто удивила ваша мысль, что обладатели iPhone-ов - это секта, молящаяся на Стива Джобса.
flancer
01.06.2023 15:32если бы условный эпл не сделал всяко-разными хитрыми маркетинговыми и рекламными выкрутасами из условного Джобса — икону, а из продукта — несомненный атрибут истеблишмента?
А разве это не так? У меня есть iPhone - я его для тестов web-приложений приобрёл. Довольно неудобная в этом отношении зверюга оказалась. Попробуйте почистить локально сохранённые данные для одного сайта. Или менеджер паролей для web-приложений - ужасная вещь. Для установки PWA нужно специально лезть в меню браузера, хотя эту технологию впервые предложили именно в Apple ещё при живом Джобсе (реально, кстати, крутой чувак был - башковитый). ОК, я понимаю, что это дело привычки, но как по мне - не стоит к ограничениям привыкать. Поставил на постоянную зарядку и пользуюсь, когда надо вживую что-то проверить, что оно на iPhone (не) работает.
ErshoffPeter
01.06.2023 15:32+1Хорошо, уговорили - я передам своим коллегам, кто пользуется iPhone-ами, чтотони жертвы маркетинга, что им надо наконец-то узнать кто такой Стив Джобс и попытаюсь открыть глаза на возможности Android. Но, боюсь, они меня не поймут и продолжат удовлетворять свои потребности изделиями компании Apple повторяя "в гробу мы видали эти возможности Android-а - нам удобнее iPhone".
Если есть желание, могу и вас привлечь к такому миссионерству.
flancer
01.06.2023 15:32Если вы продвинутый пользователь iPhone, то может быть поделитесь, как в мобильном Safari очистить все внутренние хранилища данных (кэш, куки, IDB, localStorage, ServiceWorker) для одного сайта (origin)? Я нашёл только, как это сделать для всего браузера (всех сайтов) одновременно. Если сами не знаете, может коллеги подскажут?
ErshoffPeter
01.06.2023 15:32Для тех, кто
в танкена Android:1) я не пользователь iPhone,
2) моя мысль в том, что iPhone покупают именно
тупые тёткидля того, что бы стакой хернёйтакими вещами не заморачиваться.
flancer
01.06.2023 15:32Как вы можете судить о том, для чего покупают iPhone, если вы сами им не пользовались? Вам коллеги рассказали? А вы уверены, что они испытывают к вам такое же уважение, как и вы к ним, и что они вас не разводят? У вас такой стиль общения, что трудно удержаться, чтобы вас не потроллить. Я, вот, например, не удержался :(
ErshoffPeter
01.06.2023 15:32Конечно регулярно сравниваем тапки - и регулярно спрашиваю зачем переплачиваете.
Приверженцев Стива Джобса ещё не обнаружил.
cupraer Автор
01.06.2023 15:32+1Простите, но довольно нелепо приписывать мне эту мысль, я ничего и близко похожего не говорил.
Кстати, сразу вставать в стойку и воевать в интернетах при простом упоминании названия/имени/конфессии — это первый признак именно сектантства.
Только не нужно мне сообщать, что у вас айфона нет — у свидетелей Иеговы самого Иеговы тоже нет.
ErshoffPeter
01.06.2023 15:32Вы как-то слишком ограничены своей концепцией.
Мне как ИТ-нику регулярно приходилось отбивать атаки купить iPhone за корпоративный счёт. Отсюда и болезненность темы.
ErshoffPeter
01.06.2023 15:32сразу вставать в стойку и воевать в интернетах при простом упоминании названия/имени/конфессии — это первый признак именно сектантства.
cupraer Автор
01.06.2023 15:32Это не моя коцепция, это, кажется, Ларри Уолл, или типа того, в конце 90-х сказал.
firstmark
01.06.2023 15:32+7Какой-то бессвязный плач Ярославны. Тут тебе и качество продукта, и некомпетентность руководства, и социальное неравенство, зачем то либертарианство, и невнятное — "я буду писать", ну пмсай.
vassabi
01.06.2023 15:32-3я думаю, что это будет толчком к переходу на веб3.
или может даже не к веб3 , а к той его части, в которой каждый веб документ (страница) снабжен подписью на блокчейне. Т.е. вы не будете знать наверняка - сделан ли текст\фото человеком или ИИ, но вы будете хотя бы знать, что у него есть автор, которого уже потом можно поискать (т.е. соцсети, его история предыдущих работ и т.д.).А любой "текст без авторства" будет - ........ :D
cupraer Автор
01.06.2023 15:32Навряд ли. Подписи под гарантийными талонами очень выгодны покупателю, но совсем не выгодны производителю.
vassabi
01.06.2023 15:32гарантийные талоны - это вообще из другой сферы деятельности (юридические и финансовые документы)
я про другое: что сейчас ваш блог, соцсеть, подкаст и т.д. - это коллекция веб страничек и файлов, которые просто есть по определенному абстрактному адресу.
Но в будущем я уверен они будут снабжаться подписью (привязанной не к ФИО, а к аккаунту), и будут цениться за провенансcupraer Автор
01.06.2023 15:32Звучит, как изобретение NFT.
evtomax
01.06.2023 15:32+1Нее, тут нужен удобный плагин в браузер, который позволяет подписать свой текст, либо проверить авторство чужого (подпись можно хранить хоть мелким белым шрифтом на белом фоне). А ещё комментарии внутри плагина независимо от желания автора.
cupraer Автор
01.06.2023 15:32мелким белым шрифтом на белом фоне
У текста нет атрибутов «шрифт» и «фон» :)
Еще непонятно, как этот плагин должен понять, что я подписываю своим именем свой текст, а не сонет Шекспира.
murkin-kot
01.06.2023 15:32+1Старая как мир история - кто-то чувствует, что ему что-то мешает. Затем этот кто-то сочиняет причины. Именно сочиняет, а не выявляет, используя научный метод. Результат - виноваты программисты, или их хозяева, или рептилоиды. То есть как обычно - непонятно из текста кто же конкретно виноват. Есть только боль. И возмущение.
Автор, вы неконструктивны. Потому что реагируете на раздражение как ребёнок, то есть плачете. Взрослые люди обычно думают в чём корень проблемы, а потом пытаются реализовать планы, устраняющие вредный корень. Ваш же план несколько иной - буду рыдать. Громко. Долго. Потому что только так и умею.
Результат длительного рыдания - ребёнок всем надоест.
Поэтому возьмитесь за голову и поймите - проблема не в рептилоидах, а в организации общества. Решение - изменение организации общества. Подсказка - это сложно. Да, рыдать намного проще. Но решение от этого само не случится.
xSVPx
Да, это плохая сделка. И она плоха для всех. Ну т.е. в краткосрочной перспективе кто-то извлечёт прибыль, но на чем они собираются обучать следующее поколение своих "ИИ" ?
А ведь мир меняется. Обучать сейчас на скажем базе 30летней давности - это получить не вполне хороший результат. Результат, в котором по запросу "картинка бабы с телефоном" телефон будет дисковым....
cupraer Автор
А баба — ромовой.
novoselov
Более того скармливание "грязных" данных, которыми и раньше изобиловал интернет, приводит к усреднению знаний и ухудшению качества моделей. А генерация нового мусора только ускорит этот процесс.
cupraer Автор
Ну встроить незаметный глазу watermark и игнорировать тексты с ним — вроде не выглядит неразрешимой задачей.
Nnrrt
Сам текст с ошибками, при чем тут Или,если люди малограмотные
cupraer Автор
Сам текст без ошибок. Перевод может быть с ошибками.