Меня зовут Зоя Воловикова, и я рада приветствовать вас! Я работаю в центре когнитивного моделирования МФТИ. Мои научные интересы разнообразны, но в последнее время меня особенно увлекает обучение с подкреплением. 

Я убеждена, что взаимодействие различных научных областей может привести к неожиданным и прорывным открытиям. Эта точка зрения уже не первый год мотивирует меня ехать на летнюю школу, которую проводит Институт искусственного интеллекта AIRI. На ней профессионалы из различных областей делятся своими результатами, а также предоставляют возможность попробовать что-то новое под их руководством. Такой опыт, несомненно, помогает приобрести новые знания и навыки.

Сегодня я хочу поделиться своими впечатлениями и впечатлениями моих друзей из МИСиСа, Льва Новицкого и Арсения Иванова, о том, как в этом году прошла летняя школа AIRI.

Летняя школа

Прошедшая недавно школа «Лето с AIRI» стала второй по счету, организованной Институтом. Первая состоялась в июле 2022 года в Сириусе в Сочи. На этот раз местом проведения был выбран город Иннополис, в котором расположен одноименный ВУЗ, а временем — две последние недели июля. 

Отбор на летнюю школу AIRI представляет собой стандартный процесс: необходимо составить свое резюме, написать мотивационное письмо, описать своё научное исследования. Мне особенно было сложно составлять мотивационное письмо, где необходимо убедительно раскрыть свой потенциал и намерения в области искусственного интеллекта. 

И вот я заполнила заявку и начала ждать. В этот раз отбор был особенно жестким, мест было мало. В конечном итоге из 700 заявок было отобрано всего 80 участников. Но, к моей радости, через неделю после подачи заявки, я получила долгожданное письмо из  ̶Х̶о̶г̶в̶а̶р̶т̶с̶а̶ летней школы AIRI. Я была выбрана! Теперь меня ждут две недели приключений, погружения в мир искусственного интеллекта и новые вызовы, предлагающие выйти за рамки собственных возможностей и имеющихся у меня знаний.

Арсений: Для отбора необходимо было лишь загрузить свое CV, мотивационное письмо и аннотацию по исследовательскому проекту. Раньше для подачи требовалось пройти еще и тестирование, в связи с чем я ожидал большую конкуренцию при отборе. Поэтому, когда я увидел письмо о зачислении, я был несомненно очень рад. 

Лев: Я знал, что в 2022 году уже проходило «Лето с AIRI» и хотел поехать на что‑то подобное в 2023. Не зная, состоится ли школа в этом году, я взял билеты во Владивосток. Но через неделю я увидел анонс школы «Лето с AIRI 2023». Недолго думая, я поменял билеты и начал писать мотивационное письмо, править резюме и готовить описание одного из своих исследований. Когда я получил письмо о том, что прошел на смену я был несказанно счастлив!

Иннополис

Иннополис — это небольшой айтишный город, расположенный недалеко от Казани. Он окружен лесом, что создает атмосферу уединения и спокойствия. На улицах города можно встретить сов, летучих мышей и даже больших прыгающих зайцев, а маленькие роботы доставщики и автономные автомобили давно стали здесь обыденностью.

В самом Университете на меня произвело впечатление общежитие, соединенное с учебным корпусом без необходимости выхода на улицу. Это перекликается с моей давней мечтой — жить в месте работы или учебы, не отвлекаясь на лишнее. Я думаю, что близость между общежитием и аудиториями, где проходили лекции и семинары, сыграла важную роль в создании интенсивной и продуктивной атмосферы для работы на школе.

Обособленность Иннополиса от большого города также способствовала тому, чтобы во время работы школы сохранялся продуктивный настрой. В прошлом году, когда мероприятие проводилось в Сочи, участники разъезжались смотреть город и были менее сплоченными. Даже я — не очень общительный человек — смогла в этот раз подружиться с большой частью участников благодаря такой уединенной и дружественной обстановке. В целом, атмосфера была настолько уютной, что можно сравнить ее с атмосферой посиделок у костра.

Как проходила школа

Обычно день на школе начинался с двух лекций, где спикеры рассказывали основы области, в которой они работают, а также делились текущими тенденциями и достижениями в ней. После лекций следовали три семинара, которые предоставляли участникам возможность применить полученные знания на практике, занимаясь программированием и решением конкретных задач.  

Но на учебе день не заканчивался! Не менее увлекательными были мероприятия в конце дня: спортивные соревнования и интеллектуальные игры, например, «Что? Где? Когда?», «Форсайты» и «Спортивная мафия». Захватывающие барные дискуссии о будущем и настоящем Искусственного Интеллекта тоже имели место. 

Арсений: Хочется поблагодарить организаторов за отличную организацию, и досуговые мероприятия. Поездки в центр Казани, исследование природы Татарстана на сапах, походы к Волге, физические активности — все это очень хорошо сочеталось с научно-исследовательской деятельностью.

Середина школы была посвящена постерной сессии, где каждый участник представлял результаты своих научных исследований, проведенных за последний год. Это предоставило отличную возможность поделиться своими знаниями и находками с остальными участниками и обсудить свои идеи. К слову, мой постер назывался «Interpreting Decision Process in Offline Reinforcement Learning for Interactive Recommendation Systems».

Кроме этого, каждый день, за исключением воскресенья, оставалось время для работы над своим проектом. Его нужно было сделать в течение двух недель, после чего защитить в заключительный день. 

О чем рассказывали на школе

На школе было представлено множество интересных тем, включая обучение с подкреплением, робототехнику, моделирование данных на многообразиях машинного обучения, генеративные модели, графовые нейронные сети, 3D компьютерное зрение и многое другое. Доклады, несмотря на сложность и интенсивность, были прочитаны достаточно доходчиво, позволяя понять многое. Не могу не отметить, что каждый из лекторов очень увлечен своим делом, своей областью исследования, и это вдохновляет погружаться в материал, не смотря даже на то, что порог входа в него в может быть высоким.

Особый интерес у меня вызвали направления связанные с графовыми нейронными сетями. Раньше мне уже приходилось решать задачи на графах и всегда было интересно, как эти же задачи могут быть решены с помощью нейронных сетей. 

Арсений: Я занимаюсь языковыми моделями в робототехнике, и на школе было несколько лекций, смежных с моим проектом. Но при этом на занятиях было затронуто и множество других тем из мира искусственного интеллекта, что позволило мне расширить кругозор. Конечно, я не стал гуру RL за две недели, однако, школа дала мне понимание, что это, зачем оно нужно и как туда вкатиться.

Отдельно хочется упомянуть лекцию Дмитрия Ветрова «Удивительные свойства функции потерь в глубоких нейронных сетях» (кстати, эту лекцию и многие другие можно посмотреть на ютюб‑канале AIRI). Ветров рассмотрел более глубокие аспекты работы функции потерь в контексте больших нейронных сетей, подчеркнув значимость не только применения, но и понимания работы этих моделей. Акцент на аналитический подход и исследовательскую работу очень вдохновил и зарядил меня на более фундаментальное отношение к моим собственным экспериментам.

Лев: Больше всего мне понравились лекции и практики по работе с облаками точек, лекции по RL, GNN и тематические лекция от Дмитрия Ветрова и Семёна Будённого. Приятно, что лекции, которые я прослушал дали мне действительно ценный опыт и знания, которые я смогу применять дальше в своих исследованиях и на работе. 

Проекты

Чтобы не просто познакомиться с новым материалом, а действительно в него погрузиться, каждому участнику предлагалось выбрать проект по одной из тем, представленных на школе. Времени было немного, и все приступили к работе с энтузиазмом. У каждой команды был куратор, который помогал и поддерживал участников. Иногда кураторы работали с командами даже по ночам, чтобы помочь достичь наилучших результатов. 

В конце школы проходила общая защита проектов, где каждая команда представляла свою работу. Тематики проектов соответствовали тому, о чем рассказывали на школе. Например, наша команда решала задачу сегментации и трекинга объектов по текстовым запросам. Особенность нашей работы заключалась в том, что датасет для нее был собран с камеры робота, катающегося по кампусу МФТИ.

Арсений: Задачей моей группы было применить большие языковые модели для некоторых классов задач робототехнических манипуляций объектами, управляемых посредством естественной речи. Мы презентовали собственную архитектуру для решения данной задачи. Наш верхнеуровневый пайплайн выдавал текстовые описания по степам для робота, после чего мы подключали модель RT1 для заземления текстовых описаний конкретных задач на экшенсы. В итоге наша команда взяла первое место за лучший проект среди всех представленных проектов!

Лев: На выбор было представлено более 32 проектов, и мне предстояло выбрать всего один из них. Я хотел попробовать себя в чем-то кардинально новом и поэтому выбрал проект по использованию моделей на основе ODE/SDE для решения обратных задач: повышение разрешения, дорисовывание, деблюрринг и раскрашивание. Сначала я испугался большого количества нового материала, но потом взял себя в руки и реализовал алгоритм Flow Matching’а на основе ODE. Этот опыт — отличное начало моего пути в генеративных нейронных сетях!

Смотреть было очень интересно: помимо того, что у участников разные направления работ, каждая из команд по-разному подошла и к самому процессу исследования. Также следует отметить исключительную доброжелательность экспертного состава: они давали комментарии к каждой работе и рекомендации по ее улучшению.

Заключение

Надо сказать, что помимо очевидной пользы от поездки на школу, такой как новые знания, знакомства, яркие впечатления, она несёт важную роль в формировании тематического комьюнити. Посещая подобные мероприятия на протяжении нескольких лет, я наблюдаю уникальное явление — возникновение тесно сплоченного сообщества людей, которые возвращаются на школу снова и снова. Это сообщество объединено общими идеями и целями, и оно выбирает общую дорогу — строить мир будущего, основанный на искусственном интеллекте и новаторских технологиях.

Поэтому, конечно, я обязательно постараюсь приехать на «Лето с AIRI» в следующем году. Хочется надеяться, что кто‑то из прочитавших этот текст, также надумает подать заявку параллельно со мной.