Исследовательская группа Microsoft Research представила генеративно-состязательную нейросеть, которая способна генерировать изображения с несколькими объектами на основе текстового описания. В отличие от более ранних подобных алгоритмов text-to-image, способных воспроизводить изображения только базовых объектов, эта нейросеть может справляться со сложными описаниями более качественно.
Сложность создания подобного алгоритма заключалась в том, что, во-первых, ранее бот был не способен в хорошем качестве воссоздавать все базовые объекты по их описаниям, и, во-вторых, не мог проанализировать то, как несколько объектов могут относиться друг к другу в рамках одной композиции. К примеру, чтобы создать изображение по описанию «Женщина в шлеме сидит на лошади», нейросеть должна была семантически «понять», как каждый из объектов относится друг к другу. Эти проблемы удалось решить, обучив нейросеть на основе открытого дата-сета COCO, содержащего разметку и данные сегментации для более 1,5 млн объектов.
В основе алгоритма лежит объектно-ориентированная генеративно-состязательная нейросеть ObjGAN (Object-driven Attentive Generative Adversarial Newtorks). Она анализирует текст, выделяя из него слова-объекты, которые необходимо расположить на изображении. В отличие от обычной генеративно-состязательной сети, состоящей из одного генератора, который создает изображения, и одного дискриминатора, который оценивает качество сгенерированных изображений, ObjGAN содержит два различных дискриминатора. Один анализирует, насколько реалистичен каждый из воспроизведенных объектов и насколько он соответствует имеющемуся описанию. Второй определяет, насколько вся композиция реалистична и соотносится с текстом.
Предшественником алгоритма ObjGAN стал AttnGAN, также разработанный исследователями Microsoft. Он способен генерировать изображения объектов по более простым текстовым описаниям. Технология преобразования текста в изображения может применяться для помощи дизайнерам и художникам в создании эскизов.
Алгоритм ObjGAN находится в открытом доступе на GitHub.
Больше технических подробностей.
Комментарии (14)
mdyakovaml
24.06.2019 12:01Еще лет 10 и нейросети будут экранизировать книги без участия людей.
amarao
24.06.2019 12:48И смотреть тоже. Очень удобно. Сейчас в интернете можно наблюдать как одни роботы (гейтвеи) пишут для других роботв (поисковики) тексты, чтобы третьи роботы (арбитры рекламных сетей) продали место четвёртым роботам (рекламным агентствам) возможность показать рекламу, которую будут смотреть пятые роботы (кликеры).
Tachyon
24.06.2019 13:04Еще лет 10 и нейросети будут экранизировать книги без участия людей.
И снимать порнуху по такому же принципу…
smer44
24.06.2019 14:59Вообщем у сеток проблемы выделять и валидировать крупные абстракции, написать связное предложение или нарисовать отдельный элемент проще, а вот скомпоновать чтоб всё вместе — много предложений или картинка в целом имело смысл там начинается ужас. Из сценария сделать кино это ещё куда ни шло, а вот сделать сам сценарий. А чтоб заставить сетку всё таки уметь так делать нужны чрезмерно большие расчёты. Пройдёт лет 10 и вы увидите что сетки это только для первоначальной сенсорики или генерации конечных образов, а системы работающие с настоящим смыслом — там другие архитектуры, у меня даже есть предположения какие)))
hfinn
Идёт к тому, что туда сценарий или книга, а оттуда — сразу кино.
Alexey2005
Лучше бы наоборот, чтоб нейросети скормить фильм — а на выходе сценарий или лучше даже новеллизация. Но, похоже, генерировать приличный текст нейросетям куда сложнее, чем картинки.
wrietr
Нет, не подумайте что у меня больное воображение, но просто представьте какие она будет рисовать картины для женских романов. С их синонимами и прочим я думаю это превратиться в видео не для слабонервных.
amarao
Итак, книга...
Так и представляю себе генерацию картинок по книге...
lanseg
А что за нейросеть сгенерировала этот текст? Выглядит связно, конечно, но читаемость будто у философов начала века.
amarao
Эта нейросеть называется Герман Гессе, а результат её работы — Игра в бисер
При том, что неподготовленному читателю она может показаться слишком абстрактной, в книге разбирается довольно актуальный вопрос символического перфекционизма. При том, что книга была закончена до появления первого компьютера, она очень серьёзно проходится по мотивации каждого первого поста про git workflow или использования паттернов в объектно-ориентированном программировании.
lanseg
То ли радоваться, что я угадал про философа, то ли огорчаться из-за того, что я не сообразил сразу поискать по цитате.
vikarti
И иски от всяких товарищей считающий что например «актеры» не того цвета и не той ориентации что им нравится.
И при этом — желание других пользователей допустим иметь в качестве входа — Гамлета а в качестве выхода допустим «Гамлет XXI век» Юрия Кары, только с персонажами говорящими на квенья или валирийском.