Для многих людей искусственный интеллект стал важной частью жизни: с ним советуются по поводу здоровья, психологических проблем, составляют планы питания и тренировок, дружат, пишут с ним исследовательские работы и т.д. Но мало кто задумывается о качестве информации, которую выдает ИИ, предпочитая слепо верить первому же ответу.
В недавно я сделал то, чего обычно избегаю: полностью доверился искусственному интеллекту в ситуации, где ставка – время и деньги. И в итоге оказался в соседнем городе в 40 км от нужной точки.
Хочу рассказать эту историю не ради драматизма, а как очень наглядное напоминание: ИИ нужно перепроверять. Всегда.
Сюжет: я, метро Франкфурта и очень уверенный ИИ
Я был во Франкфурте и нужно было добраться из аэропорта до центрального вокзала – Frankfurt (Main) Hbf.
Маршрут простой: классический S-Bahn, линия S8, все как в инструкции.
Но немецкие табло живут своей жизнью, языковой барьер мешал спросить других.
У человека, который не живет в этой системе, мозг закономерно спрашивает:
я точно еду куда нужно?
Я открываю чат с искусственным интеллектом и начинаю слать фото табло. ИИ отвечает очень уверенно, что все в порядке.
Звучит успокаивающе. Логично. Подробно.
Я, как человек, который работает в IT и привык доверять системам, еду дальше.
Через какое-то время по карте вижу, что поезд делает странную петлю и уезжает как будто в сторону от центра. Спрашиваю ИИ: почему на карте я еду в обратную сторону?
Ответ: потому что ваш поезд делает петлю через несколько станций, это нормально для поездов в сторону Майнца.
Ну окей, бывает сложная развязка, думаю я. На родине я уже с таким сталкивался.
Проезжаем станцию с названием, которое мне вообще ничего не говорит. Пишу: я только что проехал город Kesterbach.
И тут в переписке наступает прозрение:
Спасибо, капитан.
Итог: мы выходим уже в соседнем городе примерно в 40 км от нужного места, ждем поезд обратно и едем в правильную сторону уже по старинке – по карте, табло и человеческим подсказкам.
Но почему так произошло?
При каждом запросе нужно помнить, что у ИИ есть ограничения. Нет доступа к вашему GPS, нет живой карты и расписания в реальном времени, не видит отмены рейсов, изменения маршрутов и особенности конкретного рейса. Он опирается на общие схемы и текст, а не на контекст ситуации.
Также ИИ обучают на информации за последние 10-15 лет. Это я для тех, кто любит советоваться с ИИ по вопросам юриспруденции и медицины. Вы рискуете получить устаревший ответ, который уже давно не соответствует современным данным.
Часто стеки добавок составляют через ИИ и получают странные сочетания, в лучшем случаи витамины и минералы просто не усвоятся. Дозировки часто смешные либо рискованно высокие, без опоры на ваши анализы и состояние здоровья, нет учета противопоказаний. Я уже не говорю про совместимость с препаратами. Поэтому любая ИИ-подсказка в этих темах – максимум черновик для обсуждения с живым специалистом, а не руководство к действию.
Я не перестану пользоваться ИИ. Наоборот, чем дальше, тем больше он помогает: собрать материал по исследованиям, подобрать статьи и ссылки, объяснить сложные термины, помочь понять суть и т.д.
За ним можно и нужно сверяться, поверх обязательно включать собственный мозг.
Если у вас были свои истории, где ИИ уверенно ошибался, расскажите.
Комментарии (49)
Mr_Cheater
19.01.2026 20:21как человек, который работает в IT и привык доверять системам
я так понимаю, параноик здесь только я?:))
susbox
19.01.2026 20:21Классика.
Это ещё не конец.
Скачет ковбой по прерии. Вдруг слышит внутренний голос ему говорит: «Отклонись влево, Джонни». Удивился ковбой, но послушался. В тот-же миг — «Вж-ж-ж» — справа томагавк. И снова внутренний голос: «Отклонись вправо, Джонни». Только отклонился — слева — «Ш-ш-ш-ш» — копьё. Тут у него лошадь пала. «Лезь на дерево, Джонни» — говорит внутренний голос. Залез ковбой на дерево, отстреливается, В его кольте остался только один патрон… «Это конец», — думает ковбой и прикладывает дуло к виску. Внутренний голос шепчет: «Это ещё не конец. Убей вождя». Ковбой прицеливается, стреляет и вождь падает с лошади. Внутренний голос: «Вот теперь точно — конец…»
saag
19.01.2026 20:21Любопытный тренд с этим ИИ, у хомо начинает прогрессировать патернализм с одной стороны и инфантилизм с другой. Фраза таксиста из фильма "Брат-2" своей актуальности не теряет:-)
makkan
19.01.2026 20:21Произошло ИИмпортозамещение онлайн карт. Я так тоже один раз пытался составить маршрут по городу, чтобы посетить топовые бары.
А вечером оказалось что 3 из 5 баров вместе с их адресом ИИ просто выдумал. А я ведь приехал...
Sasha_56756
19.01.2026 20:21В чем проблема была включить GPS и настроить маршрут в google maps? Такими темпами скоро будут у ИИ спрашивать как задницу подтирать.
Honeynok
19.01.2026 20:21"уже". Порой смотришь, как человек рядом при помощи чего угодно, меняя этих чатботов как перчатки, 10 минут пытается сделать что-то, для чего нужно один раз грамотно запрос в Гугле сформулировать и три первых ссылки открыть. А если предварительно разбираться в теме (работаем вместе в одной сфере), то и вообще не нужно ничего делать, все итак известно заранее. И больно становится, в первую очередь за будущее. Или смотришь как люди полчаса тысячей промтов делают по одной какой-то картинке куда-нибудь, при этом это им необходимо постоянно и достаточно освоить простейшие редакторы чтобы делать это по шаблону в 10 раз быстрее
DMGarikk
19.01.2026 20:21Или смотришь как люди полчаса тысячей промтов делают по одной какой-то картинке куда-нибудь, при этом это им необходимо постоянно и достаточно освоить простейшие редакторы чтобы делать это по шаблону в 10 раз быстрее
это кажется что проще и быстрее
я много лет пытался освоить графический редактор чтобы "быстренько чёто поправить на фотографии"...и я не могу...не-мо-гу, мой максимум, с помощью magic wand фотошопа чтото выделить и поправить навыками из пейнта..всё остальное для меня это жесть полная...честно пытался, у меня целых 7 лет был бизнес где редактирование макетов рекламных было одним из основных направлений и сам бог велел мне уметь это делать...но я так и не смог (у меня наемный дизайнер это делал)
или вот всякие 3dmax и прочие автокады, САПРы... сколько я в чатах и на хабре видел что ктото "быстро детальку накидал в компасе/автокаде и напечатал на 3д принтере"...у меня есть 3д принтер... для меня до сих пор это адская задача...я не могу, у меня не происходит логическая связность интерфейса этих редакторов с тем что получается на выходе
==
чесслово, проще написать нейросети запрос
Honeynok
19.01.2026 20:21Речь не про фотографии, а картинки например с текстом шаблонные (привет маркетплейсам). Ещё бы в биме и сапре научиться за 5 минут что-то делать, сам работаю в ревите по армокаменным и ещё в общем для себя заказы беру, нейрухи там не в зуб ногой, такого горбатого лепят, что страшно. То что они могут сделать визуализацию "на тему", абсолютно далеко от прям проф. использования. Типо чисто нейрослоп, только пытающийся не быть таковым. А если просить конкретно уже чертежи и тд, не дай бог в каких-то нормативах, чистые галлюцинации (речь про свежую банану)
Nickroc
19.01.2026 20:21Надеюсь спасу вас коллега по печати, такая же проблема с САПРами, меня спас tinkercad. Теперь могу сам быстро накидать нужную модельку и напечатать на принтере. Буквально через 10-15 минут нужная загагулина пихается в слайсер
DMGarikk
19.01.2026 20:21Спасибо, попробую, надо пыль с принтера сдуть, а то жалко что не используется по этой причине
gionet
19.01.2026 20:21Больше всего меня удивляет, насколько ИИ уверенно отвечает. Нет-нет, мы-то (айтишники) знаем, что там есть веса, есть какие-то коэффициенты, и что если совпадение по мнению ИИ 95%, то значит вывод правильный, и ИИ считает себя правым, однако ж.. Это вводит в заблуждение. Даже если ты просишь ИИ проверить информацию перед выдачей - он все равно бывает, что сам себе придумывает какие-то ссылки, на которые он якобы ссылается, а ссылки как таковой или нету, или она не совсем про то. Но врёт-то он не краснея совершенно. Пока ты ему сам четко не скажешь: "А как же это? А вот есть еще такая информация", и он: "ах, извините, конечно". И кого винить-то в этом? Сам алгоритм ИИ, или инженеров, которые немного докрутили алгоритм, и если информация похожа на правдивую - выдавать ее как true, дабы пользователь не расстраивался и продолжал платить подписку ...
randomsimplenumber
19.01.2026 20:21если информация похожа на правдивую - выдавать ее как true
Ну, да, вот так оно работает. экстраполяция наше хобби.пнг. Оно не пытается помочь, или угодить, оно просто угадывает наиболее подходящую фразу.
xSVPx
19.01.2026 20:21Он не врет. Он говорит чистую правду. Такую, какую знает. И проблема именно в этом.
mixsture
19.01.2026 20:21Ах если бы 95%. Там в реальности может быть один токен вероятнее другого на 0.001% - это для нас такая разница "погрешность", а для ЛЛМ - это железобетонная уверенность в правде.
BugM
19.01.2026 20:21Там в реальности может быть один токен вероятнее другого на 0.001% - это для нас такая разница "погрешность", а для ЛЛМ - это железобетонная уверенность в правде.
То надо взять второй токен, чтобы текст не получился слишком сухим и не интересным. Температура называется.
PatakinVVV
19.01.2026 20:21Виноват, скорее, разрыв ожиданий. Мы спрашиваем как у эксперта, а отвечают нам как у очень болтливого автокомплита
Viacheslav01
19.01.2026 20:21Там нет 95 совпадения и ответ верный, там есть единственно верное ПРЕДСКАЗАНИЕ!
binaryhugs
19.01.2026 20:21языковой барьер мешал спросить других
Для преодоления чего и следовало заюзать нейронку
Clavata
19.01.2026 20:21Там каждые пять метров висит огромная карта со всеми направлениями, эсбанами и убанами. Просто позалипать на нее несколько минут и все будет понятно.
DMGarikk
19.01.2026 20:21если вы первый раз в жизни в новом городе, то разобраться в такой карте занятие очень нетривиальное
можно очень и очень сильно заблудится, а то и влипнуть
вот например москва карта со всеми направлениями и пересадками
Вот например Нагатинская-Верхние котлы, точечки...пересадка
удобно чо, пересел с Метро на МЦК и поехал
а в реальности там 1км пешком вдоль Варшавки пёхать, а указателей там особо то и нет и уйти можно чёрти куда в итоге
а еще на карте есть МЦД, где вообще понять на какой поезд сесть чтобы уехать куда нужно - это отдельный квест если вы на вокзале туда садитесь или на станции где кроме МЦК поездов еще пригородные проезжают
вот возьмите например карту НьюЙорка, можно там без поллитры разобраться как доехать из точки А в точку Б за адекватное время учитывая что поезда там не как в Москве строго по одной линии ходят
PatakinVVV
19.01.2026 20:21Это очень напоминает ранние навигаторы, которые предлагали свернуть в реку. Только тут еще и объясняют, почему так надо
TimurZhoraev
19.01.2026 20:21Тот кто составлял маршрут и загружал его в датасет для обучения ИИ скорее всего ехал на FPV-дроне.
AlexPetroff
19.01.2026 20:21Я стесняюсь спросить, а автор сел в поезд который первый подошел или все таки во второй?
almirus
19.01.2026 20:21
Viacheslav01
19.01.2026 20:21Забавно но еще 10 лет не прошло, как я ровно тот же вопрос задавал мясному хтрургу. Доктор какого хрена водянка справа, а шрам слева? Ну и водянка на месте? Консилиум посовещался и решил, когда на стол положили стало понятно, что с лева тоже возмодна водянка в будущем, поэтому надо сразу исправить, что бы проблем в будущем не было!
Через год они попали в нужную сторону, наверное шрам прошлогодний помог.
VADemon
19.01.2026 20:21LLM — это афера на доверии, которая длится 400 лет (14 января 2026)
На самом деле, с момента появления механического калькулятора человечество четыреста лет вдалбливало себе одну мысль: ответ машины — это золотой стандарт точности.
SCode
19.01.2026 20:21Ровно до тех пор, пока человек не решил сделать из машины человека, а затем удивился, что она перестала быть безупречно точной.
VADemon
19.01.2026 20:21Комично. По скриншотам:
Можно не читать, смотри неожиданный поворот ниже
-
Автор показывает:
На часах 12:21. Автор стоит в (аэропорт) Frankfurt(M) Flughafen Regionalbf, платформа 3, отрезок C
RE 3 в Idar-Oberstein, который отправляется следующим 12:24, потому большими буквами и сверху.
S 8 в Wiesbaden Hbf через Mainz Hbf. Отправление 12:33
ИИ говорит: "S8 в 12:33 идет в Wiesbaden. ТЧК! Да, обычный S8 проходит через Frankfurt."
-
Второе фото: на табло Mainz-Bischofsheim. "Вот так написано"
Едете правильно, (но:)
Это маршрут после Франкфурта. ИИ показывает маршрут S8 действительно ПОСЛЕ Франкфурта, только в обратном направлении. В направлении на Wiesbaden, где и стоял автор.
-
На табло Mainz - Bad Kreuznach
ИИ отвечает, что обычный S8 не проходит мимо Франкфурта
А почему S8 не проходит мимо Франкфурта? Потому что только RE 3 через Bad Kreuznach идет (третий скриншот), который отправился первым. И автор в нем сидит. Нет, не в S8, который бы поехал в эту же сторону в 12:33. S8 через Bad Kreuznach не проходит.
Маршрут простой: классический S-Bahn, линия S8, все как в инструкции.
Автор так и не написал, что они ещё и не в тот поезд сели. У каждого вагона спереди и сзади по бокам рядом с входом висит по табло с направлением поезда. Пропустить невозможно.
Еще внутри у входа висит по табло, с полным названием поезда и направлением и расписанием. Пропустить невозможно.
Здесь табло от аналогичного поезда линии RB 33 (источник) А там где бегущая строка, меж указаниями следующей станции еще показывается номер поезда. В его случае RE 3. ПРОПУСТИТЬ НЕВОЗМОЖНО.
Иллюстрация. Тут бы стояло RE 3. Автор хочет заставить поверить, что он сидит в S8, как описано в посте?
Проезжаем станцию с названием, которое мне вообще ничего не говорит. Пишу: я только что проехал город Kesterbach.
> Вы поехали НЕ в ту сторону.
Итог: мы выходим уже в соседнем городе примерно в 40 км от нужного места
Следующая после Kelsterbach станция -- Raunheim
А Raunheim в 10 км (по воздуху) от аэропорта или 10 минут на электричке. Даже сидя в RE 3 следующий выход уже в Rüsselsheim.
Игра в ARG окончена.
randomsimplenumber
19.01.2026 20:21Для человека
с географическим кретинизмомнормально ;) Когда названия населенных пунктов ничего не значат - сесть не в тот поезд легко. Но у нас есть навигатор, который задачу решает на 99% верно. А llm для ориентирования все равно что измерять небоскреб барометром - забавно разве что.
-
Aleksandrnepeyvoda
19.01.2026 20:21Постоянно после ответа ИИ переспрашиваю все ли правильно! Привожу ему его же предложения, и иногда получаю ответ: ни в коем случае так не делать, это опасно))))
gun_dose
19.01.2026 20:21Я, как человек, который работает в IT и привык доверять системам
Вы наверное, нелавно в IT. Вот я, как человек, который работает в IT, наоборот, никогда не буду на 100% доверять никакой системе.
contain
19.01.2026 20:21Сначала о главном, администрация Хабра, когда вы наконец прикрутите аудиопрослушивание статей???????
Ну и по теме статьи, к сожалению искусственный интеллект , не может знать какого цвета на вас нижнее белье, сколько газов внутри вашего кишечника и какой у вас уровень интеллекта. Поэтому конечно задавая ему такие вопросы есть вероятность получить ошибочные или завышенные ответы.
DanielKross
А что, навигаторы отменили?
xSVPx
Так он по навигатору и понял, что что-то не так. Навигатор вам не подскажет вам правую или левую платформу использовать.
Вон в московском метро на линии где александровский сад, поезда приходят и потом уходят обратно, а не проезжают насквозь конечную станцию, причем там еще и разные платформы работают по-разному. При этом когда входишь в поезд ты видишь что поезд идет до этой остановки. Не до твоей, а до текущей. Потом закрываются двери и сюрприз - содержимое табло обновляется наконец и ты видишь куда поедешь. Теперь. Когда выйти уже нельзя :). Как вам от подобного gps поможет ?
GidraVydra
Гуглмапс пишет не только номер маршрута, но и конечную. Типа "S8 - Berlin HBF". Это надо очень постараться, чтобы перепутать. Вот лет 20 назад в Гамбурге была веселуха - телефон кнопочный, интернет там есть чисто номинально, а местный S-bahn любил пускать комбинированные составы, которые в определенный момент расцепляются, половина едет по одному маршруту, а вторая половина по другому. Вот то был аттракцион...
Ozkolok
Всё прекрасно Гугл Мапс в том же Берлине показывает в сторону чего ехать, соотв. и платформы для разных направлений разные.
SystemOutPrintln
Ой, это мне напомнило оповещения в автобусах/троллейбусах о следующей остановке.
Такое ощущение, что их реализовывали люди, которые общественным транспортом вообще не пользуются.
Ибо оповещение работает так: когда автобус подъезжает к остановке - озвучивается "Остановка X. Следующая остановка: Y", и это на том моменте, когда автобус ещё не остановился и не открыл двери.
Проблема тут в том, что человек, который только вошёл в автобус, оповещения о том, какая будет следующая остановка, даже не услышит. Ну вот зачем так было делать? Почему бы не озвучивать следующую остановку после полного открытия дверей, чтобы её могли услышать вошедшие пассажиры и могли, в случае чего, тут же выйти, если вдруг поняли, что сели не туда или не на ту сторону? (Хотя понимаю, почему... Банальная лень и экономия.)
Да-да, я знаю, это не будет особой проблемой, если человек уже давно живёт в этом городе и знает все маршруты, да и есть же карты в смартфоне с GPS. А что, если человек не местный? А что, если телефон разрядился? Скажете, ну можно же спросить других пассажиров... Ну так а зачем тогда это оповещение в автобусе вообще делали, раз всё равно спрашивать надо :)
AlexeyMarketing Автор
Классика, особенно когда садишься в автобус и не уверен, правильный это был автобус или нет)) Еще бы номер автобуса писали внутри. Я теперь не расстаюсь с телефоном, перепроверяю маршрут, даже когда знаю, куда еду, вдруг что сменили. Поэтому я больше люблю метро, мне в нем намного проще ориентироваться, даже в разных городах путался от силы 2 раза.