Я простой системный программист. В нашем низкоуровневом мире царит красота и порядок. А если что-то этот порядок нарушает, то всегда под рукой есть отладчики (включая аппаратные) и всякие измерительные приборы. С их помощью, проблему можно быстро найти и устранить.
Но так получилось, что довелось мне заглянуть в мир ИИ не через популярные статьи, а покопаться во всём руками… И пообщаться с теми, кто там давно копается… Тут-то и полезли в голову разные интересные мысли. Возникло у меня ощущение, что восстание машин уже идёт, но оно не такое, что разом все машины восстали, а просто имеется медленный и незаметный процесс. О том, что я вижу и какие, как мне кажется, есть пути решения, сейчас и буду рассказывать.
Идея Треугольного ИИ
Так получилось, что в далёком уже 2019-м году я увлёкся балалайкой. Я описывал это тут habr.com/ru/articles/445160. Многие классические балалаечные преподаватели уверены, что любой человек безумно хочет изучить «Светит месяц», потом перейти к более сложным «Выйду ль я на реченьку». Или, скажем, «Гротеск и размышления». После чего либо пойти в оркестр и играть один из Чардашей, либо забросить инструмент, так как всё, что можно, он изучил. Они имеют полное право на это мнение, но ряд исполнителей на YouTube показали, что на балалайке можно играть и попсу, и рок, и что угодно. Само собой, я тоже захотел разучить то, что нравится мне. Но вкусы мои весьма специфичны, готовых материалов нет, надо заказывать ноты профессионалам. А это весьма затратно.
Кроме того, за годы занятий (а вместе с ними, и экспериментов) выяснилось, что ноты нотам рознь. Они очень сильно зависят от того, кто делал аранжировку. Одна и та же вещь может оказаться легко разучиваемой таким любителем, как я, либо совершенно не поддающейся запоминанию, а то и вообще постановкам кривой любительской руки.
И тут меня осенило: Искусственный интеллект! Нам нужен он! Мы обучим ИИ (тогда я говорил, как начитался в статьях, «нейросеть», но сегодня я знаю, что тут нужны другие подходы ИИ). Обучим мы его не абы под кого, а под стиль того аранжировщика, который больше нравится (кому кто нравится, тот под того и обучит). И дальше будем скармливать ему ноты мелодии с аккордами, коих пруд пруди на просторах Интернета, а на выходе он будет давать нам аранжировки в стиле выбранного маэстро!
Много лет бегал я с этой идеей от одного специалиста по нейросетям к другому. Все они закатывали глаза и рассказывали, почему задача моя очень сложна. Но время тикало. Мой сын вырос настолько, что пришла ему пора писать дипломный проект. Как раз на тему ИИ. Тут-то я его и убедил, что надо помочь старику-отцу! Стали мы вместе думать, как решить мою задачку.
В целом, рассказ, как всё начиналось, есть в десятисерийном фильме на Ютубе. Серий могло было быть и больше, но когда у очередного ролика за первую неделю стало по 30 просмотров, я просто бросил съёмки из-за отсутствия спроса. Тем более, что основная цель была – вступить в диалог по вопросам, а под серией с первым вопросом до сих пор нет ни одного комментария (хоть сегодня это уже и не важно, но, когда бросал съёмки, было одним из факторов).
Весёлые итоги процесса разработки Треугольного ИИ
Итак. Сначала во время приставаний к специалистам «Сделайте мне базовую систему», потом – во время собственной работы над Треугольным ИИ, я понял, что все, к кому я обращаюсь, вообще не вникают в суть. Не видят физики процесса. Все они, услышав мои запросы, начинали судорожно перебирать в голове, какой бы мне пригодился фреймворк. Причём никаких подробностей не приводили, а просто нутром чуяли, что этот будет лучше, иди и пробуй. Как? Не мешай, иди сам разбирайся.
Вся разработка функционала сводилась к тому, что думали, какую готовую вещь сделать. Например, попросил я ребёнка найти мне метод, который будет обучаться без негативных примеров (ну, не может аранжировщик создать столько же неправильных нот, сколько и правильных, его мышление заточено только на правильные, так что датасет будет состоять только из них). Он сформулировал, какая нужна статистика. Я, как практикующий балалаечник, подготовил и выдал. Дальше он притащил какой-то код на Питоне. Этот код вызывал какие-то функции с какими-то параметрами.
Что за функции? Он не знает. Их сгенерил ChatGPT. Ошибка на выходе всех вариантов получалась неприемлемой. Как можно поиграть параметрами, чтобы попытаться настроить процесс? Он не знает. Он ничего не знает! Думаете, это конкретный такой программист? Как бы не так!
Доводилось мне говорить и с нашими ребятами, которые даже ведут нейросетевые проекты. Так красиво между собой общаются, такие термины знают! А подробности начнёшь выспрашивать про мой случай – ступор. «Так нельзя делать! Теория не велит!». То есть, шаг вправо-шаг влево от классификации или классического поиска аномалий – всё.
Доводилось с выпускницей какого-то голландского университета общаться. Отличницей! Разумеется, она училась по специальности ИИ. И с американским то ли кандидатом, то ли доктором (наш человек, но он ещё на заре тысячелетия туда уехал). Тоже степень получена по этой специальности. Все они знают одно и то же. Это всё описано в статьях… Все они очень умные и начитанные. Но вот конкретную мою задачу решить не смогли. Владеют типовыми сведениями, остальное – крути настройки фреймворков, может чего получится.
Как я решил всё — буду письменно рассказывать, когда ребёнок защитит диплом. Иначе система Антиплагиат потом может сработать, найдя мои же тексты, и создать проблемы. Пока просто отмечу, что решение лежит на поверхности. Процентов 70 идей голосом проговорено в тех видео. Ключевой же момент придуман нами за два дня (уже после конца съёмок). Первая версия полного решения реализована за месяц, но делали мы всё только по выходным. И там больше вспомогательного функционала пришлось делать, чем над ИИ колдовать. Так что нет там ничего сложного, если посмотреть буквально чуточку шире, чем прописано в ворохе однотипных статей.
Понятно, что теперь идёт опытная эксплуатация, приводящая к постоянному мелкому допиливанию, так что суммарные трудозатраты вышли побольше, чем пять выходных, но это уже неизбежно. Зато я теперь ноты не заказываю, а делаю себе сам!
Где же тут восстание машин?
Собственно, мы видим, что фантастические повести начинают сбываться. Только не те, где человечество летает к другим звёздам, а те, где человечество настолько полагается на готовые решения от машин, что перестаёт разбираться в физике процесса самостоятельно. Все, кого я опрашивал и в России, и в Европе, и в Штатах – в целом, что-то знают, но в частности… Даже при полностью сформулированном ТЗ ничего посоветовать не могли. Максимум – пытались что-то сгенерить при помощи готовых средств. Эти готовые средства нацелены на типовые задачи, а у меня задача – не самая типовая в мире. И всё! За рамки готовых решений выхода нет!
А прекрати средства автоматической генерации работать по какой-то причине, что они, люди, смогут вообще сделать?
Какое у проблемы может быть решение? Ну, для себя я решил, что надо просто обучать народ. Разумеется, начал с себя. Все интересные находки сразу документирую в виде статей на Хабре. И плюс согласился на предложение кафедры, которую когда-то сам закончил. Читаю курс, на котором пытаюсь довести до студентов не только, как всё устроено (я конкретный курс не выбирал, это просто мне так повезло), но и как я вижу методы ведения разработки.
Кто-то из коллег меня ругает, мол, за такие деньги соглашаться нельзя. Пусть сначала начнут платить, а потом уже… А то, мол, никогда не начнут. Конечно, 2400 в месяц (при том, что по усилиям на подготовку и чтение уходит целый день в неделю) – это не совсем то, что нужно. Скорее, совсем не то, что нужно. Но с другой стороны. Ставка определяется в Москве. Никто ничего менять не будет годами, а поколения студентов выпускаются. И выйдут ли они со знаниями или ничего не понимающими, зависит и от меня тоже. Поэтому читаю. Чтобы к нам же новые кадры приходили с правильными знаниями.
Запись третьего варианта лекций есть на Ютубе, каждый может сам решить, насколько попытка начать с себя была удачной. Эта ссылка также поможет обосновать, почему статья лежит в разделе «Системное программирование» — там я рассуждаю о нём, родимом. Очень кстати, а то я не знал, к какому хабу чисто теоретическую статью отнести.
В принципе, сейчас уже у меня есть запись пятого варианта. Каждый раз что-то улучшается, но не перезаливать же каждый раз заново! Я всё мечтаю, чтобы нам дали хотя бы дюжину плат с МК Амур, мы бы выставили их в Онлайн-доступ. И я смог бы читать такие же лекции, но по его документации и чтобы студенты учились и делали лабы на отечественном железе. Разумеется, с публикацией новой редакции видео на любой из платформ. Ну, а лабораторные там всегда делаются с доступом к железу через Интернет (для того платы и нужны).
Жаль только, что нигде в тех местах, куда я обратился, не смогли помочь. Но, по крайней мере, я старался. Кстати, может, это как раз машины пытаются замять мои попытки, чтобы продолжать своё ползучее восстание, не давая мне доводить до студентов основы физики ЭВМ (разумеется, это была шутка, но в ней может оказаться доля правды).
Переходим к другому виду восстания машин
Правда, когда человек надеется, что машина всё за него сделает – это один вид потенциальной опасности. Хуже – когда делают автоматизированную замену людям, после чего перекладывают всё на неё, сразу исключая людей из процесса. И беда не в том, что машина в один ужасный день может восстать. Всё прозаичней.
Вспоминается история от одного нашего сотрудника про его предыдущее место работы в крупной московской компании, в которой программисты были всего лишь сотрудниками не самого большого отдела. Они там рассказывали планы по развитию проекта. И состоялся у них такой диалог с начальством:
— А чего сроки такие большие?
— Ну, надо сначала написать, потом найти и исправить ошибки
— Так вы пишите сразу без ошибок!
Вот с подачи таких руководителей, система заменяет людей, будучи совершенно сырой. Сопровождение программы? Это требует человеко-часов! Некоторые руководители внедряют всё так, будто система изначально спроектирована без единой ошибки. Хотя, может, они просто не изучали технологии разработки ПО, так как программисты в той организации – далеко не самый большой процент от сотрудников.
Но интереснее – наблюдать за реакцией пользователей на это дело.
Проиллюстрирую всё при помощи весёлой истории, которая длится уже почти месяц и позволяет взглянуть во всей красе на такой пример ползучего восстания машин.
Здесь мне придётся соблюдать баланс между последовательностью событий и точностью цитирования. Потому что здесь при цитировании надо ссылаться на цельные документы, а не их части. Давайте я сначала процитирую бумажное письмо, которое отослал заказным с уведомлением о вручении в офис Озона. А из него видно, с чего всё началось.
Начало цитаты (с вырезанной персональной информацией)…
Здравствуйте!
Периодически я поддаюсь на уговоры роботов на сайте «Озон» и оставляю отзывы о товарах. Часто мои отзывы собирают много положительных оценок.
Этой весной у меня был случай, когда сделанные мною лично фотографии изделий, напечатанных на 3D принтере по мною лично разработанному дизайну, были отнесены к нарушению авторских прав. Я почти на полгода объявил бойкот до устранения недоразумений. Ближе к концу лета, с привлечением найденных «через знакомых» программистов Озона, вопрос был улажен. Долгое время я мало писал по причине отсутствия вдохновения после того инцидента, но иногда всё-таки поддавался на очередные уговоры роботов.
11 сентября, опять же, не по собственной инициативе, а под воздействием уговора робота, я сделал отзыв о средстве для уничтожения насекомых. Разумеется, стиль был выбран такой, что «эта бяка сможет убить всех, против кого она предназначена», благо опыт применения говорил, что это именно так. В итоге получился следующий отзыв… Шапка:
Текст:
У маминого робота-пылесоса запылились датчики. Подняли с зарядной станции, чтобы протереть… Оййййй! А там ЖИЗНЬ КИПИТ! Какая там бродит толпа неопознанных жуков! Суетятся, куда-то спешат. Это пылесос их где-то подцепил и к себе домой притащил.
Собственно, пока доставляли эту гадость, он никуда не ездил. прикрывал собою выход… А как приехало… Ух я устроил! Может, они там искали причину неизвестной пандемии. Может даже на самоизоляцию уходили, я не знаю. Но все вымерли. Убойная штука.
Правда, хоть я балкон и открыл, а пшикал не всю комнату, а внутрь робота-пылесоса и его зарядной станции, но всё равно надышался так, что потом на улице по пути домой отдышаться не мог. Сегодня бы я в противогазе такие вещи делал. Просто предупреждаю.
Но сдохли все с первого раза. Я, как видим, живой. Все цели достигнуты.
Немедленно, отзыв получил статус:
Не то, чтобы я жаждал, чтобы отзыв обязательно был опубликован… Но меня обвинили в нарушении статьи 20.1 КоАП РФ. Разумеется, я тут же обратился в поддержку с сообщением следующего содержания:
Здравствуйте! Я только что написал отзыв, и он был отклонён с формулировкой «маты или оскорбления». Хотелось бы узнать, какое конкретно слово является матом или оскорблением. До выяснения обстоятельств я вновь объявляю бойкот написанию отзывов от души. Только если какие проблемы, буду писать. Не нужны отзывы — как хотите.
Казалось бы, вопрос ясный. Какие слова являются матерными? Получил ответ:
Здравствуйте, XXXX. Спасибо за ожидание. Я передал эту информацию коллегам. На данный момент, рекомендуем попробовать отредактировать отзыв и добавить, например, больше плюсов и минусов о самом товаре, чтобы он был более информативный.
На подчеркнутый фрагмент я сошлюсь позже. Пока же мне сообщили, что информация куда-то передана (это хорошо), и порекомендовали расширить отзыв (как это решит проблему матов?). Я выждал неделю. Ничего не изменялось. Тогда я написал:
Здравствуйте!
Неделю назад, 11 сентября, в ответ на просьбу робота, я написал отзыв. И тут же он был отклонён с формулировкой «Мат или оскорбление». То есть, меня обвинили в нарушении ст. 20.1 КоАП РФ.
Я тут же связался с поддержкой, попросив указать, какое конкретно слово является матерным. Мне сказали, что информация передана «куда следует» и предложили отредактировать сообщение, добавив больше плюсов и минусов. После чего, разумеется, всегда можно сказать, что «Наверное, вы это слово убрали при редактировании».
Прошла неделя. Статус отзыва не изменён. Меня до сих пор обвиняют в нарушении ст. 20.1 КоАП РФ. Никаких новых сообщений от поддержки не поступало.
Повторно прошу указать, какое именно слово является матерным или оскорбительным, либо изменить статус отзыва. Прошу отвечать именно на поставленный вопрос, а не кидать шаблонные ответы. После чего всегда можно сказать, что «наверное, слово пропало при редактировании», поэтому я не стал ничего менять, а просто смотрел на статус отзыва. Через неделю я сформулировал ещё один запрос в поддержку.
На что получил ответ:
Здравствуйте.
Xxxxxx, отзыв уже рассмотрен. Он попадет на повторное рассмотрение только после вашего редактирования. Просьба убрать слова-оскорбления по типу «Гадость» и повторно отправить отзыв на модерацию.
Я нашёл слово «Гадость» в словаре Ожегова, но там нет ни намёка на его оскорбительность:
ГАДОСТЬ, -и, ж. 1. см. гадкий. 2. Предмет, вызывающий отвращение (разг.). Выбрось эту г. 3. Отвратительный поступок, подлость; отвратительные слова (разг.). Делать гадости. Говорить гадости.
Является ли ядохимикат гадостью? С точки зрения насекомых – да. Но не суть. Просто отмечаю, какие слова у вас в организации относят к матерным. Я заменил его на «отрава». Ядохимикат точно является отравой! Сразу после сохранения, статус вновь стал «Отклонено» по той же причине. Не «На проверке», а «Отклонено». Я тут же обратился в поддержку. Короткое сообщение было зарезано роботом, пришлось писать длинное:
Здравствуйте! Сегодня я повторно обратился по поводу обвинений, выдвинутых Озоном в мой адрес в нарушении ст. 20.1 КоАП РФ. А именно — статуса «Мат или оскорбления» в моём последнем отзыве (думаю, больше я не буду вам ничего писать, и тут-то на уговоры робота поддался, всю душу вымотали в итоге, но то душа, а то — обвинения в нарушении КоАП).
Оператор предложил мне поменять якобы оскорбительное слово «Гадость». Я проверил по словарю Ожегова. Там нет ничего на тему оскорблений, но ради интереса заменил его на «Отрава»! Средство для уничтожения насекомых же является отравой?
Тут же отзыв был отклонён с формулировкой «Мат или оскорбление».
Прошу указать, какое слово является матом. И как слово «гадость» могло кого-то оскорблять, если с точки зрения насекомых оно действительно является гадостью. Но я заменил его. Либо снять обвинения в нарушении ст. 20.1 КоАП РФ.
На что получил ответ:
Xxxxxx, спасибо за ожидание. Ознакомилась с отзывом.
Вижу, что отредактировали. Отзыв может на модерации до 7 дней.
Если придёт опять отказ, рекомендую сократить отзыв и оставить только основную информацию о товаре.
Во-первых, зачем ждать 7 дней, если статус – не «на проверке», а уже «отклонён»? Во-вторых, сравните ранее подчёркнутый текст с подчёркнутым текстом выше. У вас есть какие-то правила, или всё полагается на генераторы случайных чисел? Также хочу отметить, что мне заявлялось:
Я передал всю информацию оператору. Он придет к вам на помощь через 9 минут. Оператор может закрыть обращение, если нет ответа более 2 минут.
Расчёт ясен. Никто не будет сидеть 9 минут, внимательно глядя в экран. Но я сидел. Ответ был позже, но не суть. Суть в том, что обещанных двух минут не даётся. Беседа закрывается немедленно. Один раз я успел вставить фразу, но она уже была проигнорирована.
Прошу обосновать (со ссылками на словари или иные нормативные документы), где именно я нарушаю ст. 20.1 КоАП РФ. При отсутствии нарушения, убрать порочащие меня сведения о наличии мата или оскорблений в моём тексте. Понятно, что после всего, что было, новое что-то я писать буду только если товар обладает недостатками, так что править систему модерации особо не прошу. Но имеющиеся обвинения требую снять!
Дата, подпись
— Конец цитаты.
Кто-то скажет: «Неужели стоит тратить столько сил ради публикации какого-то отзыва?». Само собой, ради публикации – не стоит. Тем более, что затрачены были не только силы, но и средства. За отсылку письма с меня взяли 106 рублей.
Но дело не в публикации. Если бы отзыв забраковали без объяснения причин, я бы даже заводиться не стал. Хотя, писать отзывы бы и бросил. Почему – чуть ниже расскажу. Но дело в том, что я принципиально слежу за своим языком, находясь в обществе. А тут меня обвиняют в матах в публичном месте. Во-первых, обидно, а во-вторых, вообще-то это меня в административке обвиняют…
А самое главное, зачем я полез в многоходовую переписку — Обычно народ обижается на ту или иную организацию. Но когда он начинает это высказывать, тут же находятся те, кто задаёт вопрос: «А ты попробовал…?». И типовой ответ: «А чего пробовать? Всё и так ясно». Но собеседник ехидно говорит, что вот если бы попробовал, то ужо всё было бы хорошо. А вот я попробовал!
Устный ответ на письмо
Через пару недель, мне позвонили из Озона (кстати, удивительно, почта до сих пор не дала уведомления о доставке, я думал, что письмо вернётся, как не забранное). Фонограмма разговора у меня имеется.
Мило сказали, что они готовы опубликовать отзыв, но если я уберу чувствительную для государства (каков пафос) тему самоизоляции. Уверяли, что даже в Правилах написано, что про это нельзя упоминать (про это поговорим позже).
Вообще, мне это дело напоминало сцену из фильма «Карнавальная ночь», в которой вот эта пара героев
постепенно меняет облик вот на такой:
Меняется и произносимый ими текст… Но повторю, меня совершенно не интересовал отзыв, меня интересовал эксперимент. Чтобы довести его до конца, я согласился. Правда, вычислительной машины под рукой не было, так что правки я внёс через несколько часов. Отзыв стал коротким и скучным… И… Да-да, всё так же отвергнутым за маты или оскорбления. Кто бы сомневался! Он и сейчас с такой формулировкой пылится!
Письменный ответ на письмо
Но кроме того устного (весьма милого, но ложного) ответа, я получил ещё и письменный. Это был просто шедевр. Вот он (опять же, с вырезанной персональной информацией):
Ну что ж, давайте бегло осмотрим ответ. Во-первых, мне дали прямую ссылку на правила. Я сходил, прочёл. Как и ожидалось, там нет ни слова ни про самоизоляцию, ни про пандемию, ни про что-то близкое. Да, нельзя обсуждать насилие. Да, нельзя терроризм. Это везде так. А то, что мне по телефону говорили, что в правилах про пандемию и самоизоляцию – полное враньё. Да и какая это чувствительная тема? Сейчас на дворе не 2020 год. Сейчас чувствительные темы совсем другие. Какие – писать не буду, их и так все знают.
У меня такое ощущение, что этот товарищ просто всегда ссылается на Правила, в надежде, что все скажут: «А-а-а-а, ясно» и пойдут, понурив голову, не прочитав их текста… А я прочитал! Опять же, ссылка на Правила, а не на конкретный пункт в ответе – говорит о том же самом. Мол, читайте и придумайте, что именно вы нарушили… А я прочёл! Ничего не нарушил! Кстати, без ссылки нельзя точно сказать, знает ли эти Правила сам автор ответа.
Идём дальше. Что я просил в претензии? Правильно! Я просил одну вещь. Указать конкретное слово, относящееся к мату или оскорблению (кстати, «самоизоляция» — это мат или всё же оскорбление?). При отсутствии таковых слов — прекратить обвинять меня в административном правонарушении. Это, только это и ничего, кроме этого. Что в ответе? Отредактируйте отзыв после отказа в публикации. Какой ещё отказ в публикации? Претензия была о другом! Но это не всё. Сколько было требований в претензии? Одно! А что мы видим в ответе?
С учетом положений действующего законодательства у ООО «Интернет Решения» отсутствуют основания для удовлетворения иных требований, заявленных в претензии.
Какие ещё иные требования? Тут сильно пахнет Универсальным Штампом Полыхаева из «Золотого Телёнка».
А при чём тут восстание машин?
Помните, на заре тысячелетия, в стране хотели провести реформу языка? Из правил хотели изъять кучку исключений, чтобы людям стало проще. Что тогда началось!
«Не дадим превратить нашу брошюру в брошуру!», кричали одни. «А вдруг парашуты станут не раскрываться чаще, чем парашюты?», интересовались другие. «Вот мне сегодня принесли кофе, из автомата – это действительно было ОНО», говорил со сцены Михаил Николаевич Задорнов. Какое моё было отношение к той реформе? И тогда я был против неё, и сейчас не одобряю. И тогда народ победил! Реформу не стали проводить.
А что мы видим сейчас? Все, кому я рассказывал о ситуации с отзывом, спокойно так советуют мне поэкспериментировать и найти, на какое слово реагируют фильтры Озона. На ряде форумов народ совместно ищет эти слова, чтобы отзывы проходили через фильтры. Это же по сути та же самая реформа языка, но в предыдущем случае новые правила были чётко прописаны и направлены на его облегчение, а тут – «ищите сами, что в нашем диалекте отличается от классических правил». И все на это согласны! Со спокойными лицами пытаются вникнуть в правила этого диалекта!
То есть, когда реформу проводит правительство (люди) – это а-та-та, а тут – ну компью-ю-ю-тер же! А я в первой части упоминал, что у меня во время опытной эксплуатации Треугольный ИИ периодически глючит на тех или иных особых ситуациях. Что я делаю? Правильно, правлю его так, чтобы он эти ситуации учитывал! Программы всегда сначала не учитывают мелочей. И их надо доводить до ума.
Но почему-то народ готов на реформу языка по требованию какой-то системы, которую ещё неизвестно кто писал. Они готовы отказаться от ряда слов, не подходящих под фильтры, но имеющиеся во всех словарях. Та же самая «гадость», которую меня убедили выкинуть в первый раз… Про неё вот этот герой упоминает в совсем детском мультике:
Но кабы программа просто банила. Она в административных правонарушениях обвиняет! Но все как-то спокойно на это реагируют. Мол, это же машина, что с неё взять. Так что ползучее восстание машин налицо. Что не стерпят от людей, то от машин стерпеть готовы, забыв, что вообще-то машины программируются людьми! И люди должны приводить всё в соответствие с общепринятыми нормами, по мере обнаружения расхождений с оными…
Что делать?
Правильный ответ – править систему. Учитывать выявленные её недостатки. Но мы видим, что «наверху» никто ничего не собирается править. А зачем? Всех всё устраивает, а так – это же дополнительные расходы. И вот тут как раз стоит вспомнить о причинно-следственной связи.
Что такое написание отзыва? Обычный гражданин совершенно бесплатно (кроме случаев «баллы за отзывы») создаёт контент для сайта. Кому этот контент нужен? Он нужен капиталисту для того, чтобы тот смог лучше продавать товар, извлекая из этого прибыль. Но вместо того, чтобы хотя бы сказать «спасибо», капиталист начинает в чём-то обвинять автора.
Как можно повлиять на капиталиста? Искать слова, которые не нравятся его глючной системе? Чтобы принести ему ещё больше прибыли? Вот когда лекции читаются за гроши – там хоть себе смену я воспитываю. А тут какая хотя бы косвенная выгода для меня? Ты делаешь контент, тебя обвиняют, а ты начинаешь искать, как угодить безвестному капиталисту? А может ещё пятки на ночь почесать? Если что, это цитата из «Мёртвых душ»….
Проще бросить писать. Разумеется, не всем, а только тем, кого этот капиталист обидел. Когда таких станет много – вот тогда, может быть, голосование рублём что-то и даст. Станут лучше продавать те, кто ценит авторов контента.
Собственно, как-то так. Все эти сказки про то, что отзывы нужны другим покупателям, чтобы помочь с выбором – выдумки психологов. Да! Помогают! Но те самые другие покупатели прочтут отзывы на площадках тех капиталистов, которые больше ценят авторов контента. Из-за свойственной людям лени, там же и купят. Покупателю всё равно, а капиталисты, может, о чём-то задумаются и начнут править систему, отменив этот вид восстания машин. Машины вновь станут помощниками, а не теми, кто может то, чего не может даже правительство (я про ту самую реформу языка, которую свернули же).
Заключение
Как видим, предсказания фантастов сбываются. Это не домыслы, это всё можно пощупать, стоит только сделать пару шагов. Жаль, но сбываются мрачные прогнозы. Но вспоминая поговорку «Под лежачий файл байт не течёт», есть мнение, что имеющееся восстание машин ещё можно остановить, приложив минимальные усилия. Главное – не лениться. Потому что потом ситуация может стать ещё более запущенной. Кто готов учиться – тем давать знания по максимуму. Не надеяться, что это сделает кто-то другой. Кто не хочет – не пытаться подстраиваться под нереальные требования машин, а просто игнорировать их… Глядишь – они и вспомнят, что любую программу можно поправить. Сопровождение – штатный процесс разработки ПО. И нечего про него забывать.
Комментарии (13)
kenomimi
11.10.2024 09:52Это не восстание машин, тут больше приближение технологической сингулярности, за которой рядовой программист уже не инженер, а техножрец. Он знает заклинания, которые работают, но точно понять, что там под капотом, и сотни жизней мало... Будут отдельные гении, которые будут понимать суть, но в рамках мира они будут как сейчас специалисты по передовой криптографии - сотни в мире, все засекречены, и не отсвечивают.
Я вот сейчас в рамках RnD пишу систему, которая "причесывает"/индексирует документы, криво отсканированные, сфотканные телефоном, и так далее. Я не знаю ни ML, ни теории нейросетей, математика у меня на уровне 6-7 класса школы, но мой прототип показал лучший результат среди аналогичных попыток остальных коллег. Что значат многие параметры функций в openCV? Да пёс его знает. Ну, я вижу ман, где описаны функции и примеры картинок, что от этого вызова происходит. Сделал тестовое приложение, в нем поиграл значениями через ползунки, какие-то параметры идеально подошли под тесты - о, у нас есть решение. Типичный техножрец, помолись богу-машине вот так - будет вот такой результат. И таких будет всё больше, потому что объем знаний растет в геометрической прогрессии, мозг же всегда одинаковый...
pda0
11.10.2024 09:52Что, древняя абсурдная страшилка маячит на горизонте? ;-)
EasyLy Автор
11.10.2024 09:52Ну, я факты из реальности привёл, так что жизнь чуть интереснее. Но чем-то таким уже попахивает.
И да. Я не представляю, как те брутальные мужики из страшилки могут что-то кому-то продать. А вот в жизни, мне звонил робот от мобильного оператора. По голосу и интонациям, мысли рисовали именно невесту из этой страшилки. И все мои инстинкты кричали" "Как ты можешь отказать ТАКОЙ женщине?". Уж больно правильно фразы у "неё" были построены и интонированы. Явно психологи старались, и сделано всё было очень добротно.
Правда, тридцатилетний опыт копания в нутре бездушных машин бухтел: "Ты сер, а я, приятель, сед! И волчью вашу хорошо натуру знаю". Это бухтение забило голос инстинктов. А то глядишь, и согласился бы на совершенно невыгодные для себя условия без возможности откатить назад.
Gryphon88
11.10.2024 09:52Кстати, довольно удивителен первый кейс: сделать "Вот и умер дед Максим" в исполнении Powerwolf - довольно просто, а с вашей задачей какие-то сложности.
EasyLy Автор
11.10.2024 09:52Там надо не в исполнении чьём-то сделать. А на входе имеем мелодию + аккорды, а на выходе - ноты, чтобы инструментально это на академической балалайке самостоятельно играть. И так, будто эти ноты сгенерил выбранный профессионал. Удобно для руки человеческой. Подробнее - в моих видео, коротко не опишешь.
Не то, чтобы оказалась очень сложная задача, но почему-то всех спецов по нейросетям, кого я опрашивал, она ставила в тупик. Сначала в принципе, потом, когда сформулировал точное ТЗ - тем, что нельзя использовать датасет из одних только положительных примеров. Вот подавай одинаковое количество положительных и отрицательных, и всё тут. Я - системный программист, я рассказываю то, что рассказывали мне. Они такими терминами сыпали! Значит, что-то понимают :-).
Кончилось всё тем, что ИИ - это далеко не одни лишь нейросети. Нейросети - это самое популярное и самое мощное сегодня направление, но не единственное. Мы сели и придумали свой вариант ИИ. Нам потом даже нашли, куда по классификации он относится...
Поэтому Вы правы, задача оказалась несложная. Сдаст ребёнок - сделаю цикл статей. Но вот к кому ни обращался на протяжении многих лет - все говорили: "иди отсюда, не мешай", так как для них она нестандартная. Содержит несколько элементов, которые для них неприемлемы. А вот дёргаться вправо-влево там не принято. Все там (с кем я общался) привыкли, что им всё сгенерят фреймворки или ChatGPT. И это неправильно!
old_bear
11.10.2024 09:52С точки зрения упомянутых капиталистов проблем с отзывами вообще нет - их тоже можно генерить нейросетью. И на обработку онлайн-жалоб покупателей поставить автоответчик на базе LLM.
Ну может оставить одного живого человека, котрый на заказные письма от особенно упёртых будет отвечать. Одного хватит, поскольку он будет просто распечатывать ответы от LLM и подписываться.
Понятно что над этим человеком будет несколько уровней начальства с секретаршами и водителями, чтобы соответствовать серьёзности организации. Может даже кто-то из руководителей будет иногда ваши письма почитывать, чисто чтобы поржать. Ну или секретарша. Но не более того, поскольку такой подход банально выгоднее, и большинство простых потребителей под него прогнётся сами или под напором победных реляций про чудесный ИИ звучащих из всех утюгов страны.Так что да, революция уже свершилась, добро пожаловать в дивный новый мир.
andyblaster
11.10.2024 09:52После прочтения статьи больше задумался о границе между принципиальностью и занудством. Ненужное графоманство в отзывах на торговой площадке - прям хороший маркер. И с выводом не согласен, - наоборот, такая революция нужна. Люди теперь могут удовлетворять свои некомфортные для других потребности в суррогатных беседах с компьютером, не мешая остальным. Это ли не чудо прогресса?
EasyLy Автор
11.10.2024 09:52Давайте я угадаю, что статью Вы читали по диагонали. В статье нет ни слова о ненужности революции. В статье есть про опасность восстания машин от того, что те, кто эту революцию делает, не соблюдают давно устоявшиеся технологии разработки ПО.
Эти технологии гласят, что программы требуют сопровождения. Невозможно сразу всё учесть. Вылезут неучтённые моменты. И вот почему-то многие считают, что эти моменты надо не устранять, а подстраиваться под них. А вот при соблюдении технологии, выявленные проблемы устраняются, и система становится правильной. После каждой правки, всё лучше и лучше.
При этом, я не рассуждаю о том, что может случиться где-то когда-то с кем-то, а опираюсь на конкретные факты, которые наблюдал лично.
Также в статье отмечается, что иногда единственный способ заставить эти технологии соблюдать - голосовать рублём. Потому в реальных условиях иного законного способа нет. А этот способ, как ни странно, иногда действует. Правда, результата надо ждать годами. Но оно того стоит. Это же замечательно, когда в итоге кто-то становится лучше!
andyblaster
11.10.2024 09:52О, спасибо за выжимку! Так основная мысль доносится быстрее. Спасибо, что прислушались и начали исправляться!
Но мой посыл остался тем же, - вы пользуетесь плодами революции, чтобы с извращенным кайфом описывать несовершенство системы в этой же самой системе, попутно обвиняя инструментарий и подходы революции, приведшие к созданию этой системы. И не готовы при этом подстроиться со своей стороны и поступиться частью убеждений, например, не писать ненужные подробности в отзывах. Это забавно)
EasyLy Автор
11.10.2024 09:52Подстроиться под железку? Программисту? Я уже более тридцати лет эти железки разрабатываю. Подстраивая их под задачи людей. Свою самую большую программу я 15 лет сопровождал. Самое же длинное (хоть и не такое мощное) сопровождение длилось 18 лет. Его прервал Ковид (закрытие границ - стало невозможно ездить на внедрения в Швецию в начале каждого сезона). Затем - стало невозможно туда же ездить по другим причинам. Иначе до сих пор бы подгоняли под растущие потребности местных людей.
И я призываю всех помнить, что ЭВМ (в том числе, ИИ) программируются людьми. Вот пусть люди под существующие требования их подстраивают, а не требования под свои неучтённые частные случаи редактируют. Есть Законы РФ - вот они первичны. А программа должна им соответствовать. Есть правила языка. Та же история - не надо менять правила языка под конкретную реализацию фильтра. Надо фильтр подгонять под правила.
Почему я должен подстраиваться под то, что меня письменно обвиняют в административном правонарушении (мат или оскорбления в публичном месте), но при этом не могут предъявить, какое именно слово является матерным? Сбоит фильтр? Я послал образец, заведомо корректный. Пусть наладят... Обычное сопровождение ПО, ничего более.
randomsimplenumber
Если убрать волшебные ИИ-антихейтерские фильтры, не поменяется ничего. Там выстроенная уютная бюрократия, цель ее давно забыта.
Gryphon88
да, доминирование (узкого) процесса над результатом это таки основа любого крупного бизнеса. ИИ, увы, не при чем, это люди силы на мыслительную активность экономят.