ИИ для генерации текста, который не только сочиняет, но и критически оценивает свою работу. Его архитектура частично вдохновлена последними исследованиями нейробиологии мозга человека и приматов. Рассказываю, как это работает, какие вызовы преодолел и почему иногда даже самый продвинутый код не может заменить настоящего скептика.

Каждый день миллионы людей взаимодействуют с ИИ, который генерирует тексты. От автоматических ответов в чатах до создания статей и сценариев — возможности кажутся безграничными. Но как часто мы задумываемся о том, насколько достоверен этот текст? Настоящий ли он? Или это всего лишь очень убедительно сгенерированная болтовня?

Я решил подойти к этой проблеме с другой стороны. Вместо того, чтобы просто создавать текст, попытался наделить ИИ элементами, которые делают наше мышление глубже: биологическим подобием процессов и врожденным скептицизмом.

Идея и вдохновение:

Проект начался с вопроса: а что, если ИИ будет генерировать текст не как «черный ящик», а как будто мыслит похожими с нами путями?

Я изучил последние данные нейробиологии:

• Какие частотные паттерны (дельта, тета, гамма‑ритмы) связаны с концентрацией, памятью или творчеством?

• Какие области мозга (дорсолатеральная префронтальная кора, височная доля) активны при логических построениях или социальном мышлении?

• Как нейроны у человека и приматов устроены уникальным образом, отличаясь от того, что можно смоделировать в стандартных нейросетях?

Эта информация легла в основу симулятора нейронных паттернов. ИИ не просто знает об этих паттернах — он генерирует их, создавая виртуальные «отпечатки» активности мозга, связанные с разными когнитивными режимами: логическим мышлением, воображением, эмоциями, социальным интеллектом.

Реализация:

Я взял мощную языковую модель, предобученную на русском языке (sberbank-ai/rugpt3large_based_on_gpt2), и интегрировали в неё разработки.

Как это работает?

1. Симуляция: При запуске генерации система создает набор «нейронных паттернов», соответствующих выбранному когнитивному режиму (например, «логическое мышление»).

2. Влияние на генерацию: Эти паттерны не просто украшают код. Они динамически корректируют параметры генерации — температуру и вероятность выборки (top_p), делая текст потенциально более «логичным», «креативным» или «эмоциональным».

3. Скептический анализ: Сразу после генерации текст проходит через собственный модуль SkepticismAnalyzer. Он оценивает текст по множеству критериев:

   • Лексическое разнообразие (похоже ли на человеческую речь?)

   • Структура предложений (есть ли логические связки?)

   • Эмоциональная окраска и личные отсылки.

   • Наличие «красных флагов» (например, подозрительно высокое разнообразие или полное отсутствие эмоций).

4. Результат: Пользователь получает не просто текст, а текст с оценкой его «естественности» и списком потенциальных проблем.

Вызовы и реальность:

Путь был тернист. Основные трудности:

• Язык: Базовые модели gpt2 совершенно не годились для русского. Пришлось перейти на специализированную модель.

• Интеграция: Простое добавление «нейронных паттернов» в модель не дало эффекта. Пришлось искать способы косвенного влияния.

• Качество: Даже с русской моделью добиться идеального «пошагового объяснения фотосинтеза» оказалось непросто. Иногда ИИ «отвечал» совершенно не тем.

Это показало важный урок: создание ИИ — это не только программирование, но и глубокое понимание того, как мы, люди, на самом деле думаем и обрабатываем информацию.

Заключение - Зачем это нужно:

Проект bio-inspired-skeptical-ai — это больше, чем просто генератор текста. Это эксперимент. Эксперимент по созданию ИИ, который:

• Имитирует биологические процессы.

• Сам критикует свой результат.

• Тем самым повышает доверие к своей работе.

В будущем такие принципы могут лечь в основу более надежных и интерпретируемых ИИ-систем, особенно в чувствительных областях, где «естественность» и достоверность текста критически важны.

Ссылка на репозиторий