О сладких формах, подготовке разметчиков данных, и современной математике.



Магические константы


Ч — Чистота (см. Маршак),


Б — Баланс (см. Нэш),


МЛПП — Материалы, люди, и процесс в пространстве (см. Маяковский, Корбюзье).


Первые две — классика, третья — загадка — культура готовки. Похоже, вычислимая.


Свежая графовая свёрточная нейронная сеть сгодится и на кухне. Остроумный способ кодирования ингридиентов из Амстердама привлёк интерес к теории графов ещё более широкого круга исследователей. Начать играть в молекулярную кулинарию стало легко как никогда ранее. Вполне достаточно описать блюдо как:


$inline$H = \sigma [ \hat D ^{-?} \hat A \hat D^{-?} Dropout \{\sigma[\hat D ^{-?} \hat A \hat D ^{-?} X W ]\}] , $inline$


Где:


$ Dropout $ — регуляризация обнулением случайно выбранных параметров — то самое 'забывание', запатентованное Google,
$ \sigma \ a.k.a. ReLU $ — нелинейная функция активации $ f(x) = max(0,x) \\ \\ \\ \hat D = D + I, \\ \hat A = A + I, $,
$ D $ — диагональная матрица степеней вершин (количество связей),
$ I $ — диагональная матрица из единиц,
$ А $ — матрица связности,
$ Х $ — матрица свойств вершин,
$ W $ — веса нейросети, которые мы можем:


  • выучить в режиме обучения с учителем;
  • заполнить выбранными наугад значениями;
  • выбросить (функция от этого станет чуть-чуть линейнее).

В деталях механику работы рассмотрел сам автор здесь. Кроме того, пошагово и с примерами, метод рассмотрен ещё и здесь.


О том, где и как врубиться в эмбеддинги графов — ввод в теорию графов и соответствующую нотацию можно освежить — уже писал.


Теперь — о действительно важном.


О подготовке разметчиков данных


Пятилетку в Nestle изучал как специально обученные люди и роботы из сырья и упаковки делали шоколадки. Первое знакомство с сердцем бизнеса произошло ранней весной, когда внедрял процессы жизненного цикла данных продукта на базе SAP — от идеи и до вывода с рынка. Теперь — наблюдаю процесс подготовки бакалавров кулинарии в Лиссабоне. На картинке выше — один из пределов в пироженках — леденец с яичным кремом. Как ёлочная игрушка из сахара, только фаршированная. Тут за четыре года готовят шеф-поваров.


Я в восторге от увиденного. А раз уж образовательные материалы размещаю здесь, то расскажу, почему кулинарии в Португалии учиться лучше, чем математике.



Хогвартс встречает барельефом с надписью 'Работа и порядок'.


Именно это и ждёт студентов. Волей случая образован в качестве и безопасности, и охране природы пищевого производства — отвечал в одном из проектов за сертификацию рынка (юридическое лицо — региональная единица из двух стран — пара фабрик, офис, да ещё пара складов) по всем соответствующим стандартам ISO и построение внутреннего аудита в мировом лидере рынка — интересный опыт. Дающий базу для оценочного суждения.


Расположенная в самом модном районе Лиссабона школа туризма и гостиничного бизнеса — бастион правильного отношения к делу.



В чём смысл внимания к салату из кабачков на Хабре — спросите?


В том, что есть вечные ценности, вроде пироженок и остроумных решений, а код — мимолётен. Например, через пару дней уже второй питон зафиксирует состояние развития. Всё чаще слышны разговоры об этике в отношении применения математики и я считаю, что кондитерские изделия — это отличное поле для экспериментов в молекулярной кулинарии.


Одним из открытий стал шоколадный мусс с клубничным мармеладом. Чёрная икра с белым шоколадом уже становится избитым, но всё ещё впечатляющим сочетанием. В общем весело, иногда вкусно, этично и ии.


Возможно ли совместить математику с кулинарией в Лиссабоне?


Скорее, да. В режиме самоподготовки.


Чего ещё поинтересней впилить в свой кухонный комбайн?


Тут два совета — недавно представленная стратегия предобучения графовых свёрток и новая мера дистанции для генеративных моделей, которая только будет представлена на ICLR 2020.



Первая радует тем, что позволяет обучиться мелким деталям отношений ингредиентов на общедоступных данных и дообучиться местной специфике — эти данные придётся собирать, изучать, готовить и т.д. — как готовится меню ресторана или технологическая карта под отдельные блюда. Рассматривали эту работу на недавнем NeurIPS Lisbon Meetup — проводили организаторы PyData-Lisbon в формате двух дней подряд с 14 до 20 — спасибо им за регулярные поставки рассказов, пироженок, и дропаута с пиццей.



Область прекрасного. Ещё неясно, насколько данная мера дистанции ускорит прогресс в построении рецептов и технологических карт по фотографии, но потенциал — есть.


Представьте, что собрали себе кухонный комбайн и поставили задачу бубликов напечь, показали фото. Расчехлили свой GAN, обученный валентностям и поваренной книге. Запустили процесс выпечки по созданному рецепту. Через некоторое время обнаружили что существующие статистики отклонения от заданной формы не замечают. Вот такие незадачи и решает новая метрика.


Кратко — граф может аппроксимировать многообразие. Его форму получается весьма точно выучить моделируя распространение тепла в структуре.


Математика внутри — местами пугает, да и вообще теория графов стремительно обрастает инструментами и выбор алгебр расширяется — всё чаще говорят про гипергеометрию и прочие пространства. Важнее — особенности применения — не только печь ведь можно рассматривать как чёрный ящик.


Итог — можем качественнее оценить рецепты, что нейросеть нагенерировала.


Известно, обучение нейронных сетей — мудрёная инженерная дисциплина. Потребляет много данных, электричества, и машинных часов. Поэтому если вы ещё не оцифровали бабушкину поваренную книгу, чтобы тренировать отточенные архитектуры под скрежет дросселей, и всё ещё скептически посматриваете на алгоритмическую кулинарию, то альтернатива есть. Люди в белых колпаках.


Если вы ещё не готовы отдать работу по кухне роботам, а ресторан уже открываете, то настоятельно рекомендую присмотреться к выпускникам данного заведения. Их там правильно готовят.



Униформа — часть образовательного опыта.


Личного повара (и вспомогательный персонал) начали предлагать как часть компенсационного пакета — считается, что эта здоровая практика позволяет поддерживать творческий потенциал сотрудника.


Ваш работодатель такое уже практикует?

Комментарии (8)


  1. tvr
    24.12.2019 14:27

    Ничего не понял, но эклектично вкусно!
    Спасибо.
    Пойду пообедаю, пожалуй — аппетит разыгрался.


    1. Safronov Автор
      24.12.2019 18:14

      Графы — занятная математика, а Хогвартс по пироженкам — в Лиссабоне


  1. Sirion
    24.12.2019 15:00
    +4

    Пост, видимо, тоже нейросеть генерила.


    1. Safronov Автор
      24.12.2019 15:07
      -2

      Вы можете предложить модели интереснее?


      1. Sirion
        24.12.2019 15:10
        +3

        Не могу. Я толком ничего не понял, какие уж тут предложения)


        1. Safronov Автор
          24.12.2019 15:39
          -1

          Попробуйте освежить нотацию) графам не только на кухне есть применение


    1. alexxz
      24.12.2019 16:53

      Коменты к посту генерит, похоже, тоже нейросеть.


      1. Safronov Автор
        24.12.2019 16:59

        Сомневаетесь?