сгенерировать человека по параметрам
Artbreeder — нейросеть, которая генерирует случайные лица, абстракцию, обложки и пейзажи
Несмотря на изобилие подобных сервисов на основе нейронных сетей, Artbreeder является лучшим по части генерации портретов людей.
Сайт вышел в открытый доступ 9-го сентября, и с тех пор пользователи ежеминутно загружают лучшие работы.
У сервиса разнообразный инструментарий, он делится на следующие разделы:
1. «Общие» (General) – представляет собой микширование нескольких изображений. Например, смешать изображения бургера и собаки. Чаще всего результат микширования получается довольно жутким.
2. «Портреты» (Portraits) – это самая сильная сторона сервиса. В этом разделе вы можете не только микшировать изображения между собой, но и изменять структуру портрета человека: телосложение, возраст, гендер, настроение, реалистичные/нарисованные очертания лица и так далее. Результат практически всегда получается впечатляющим.
3. «Обложки альбомов» (Albums) – это генерация абстрактных изображений на манер обложек музыкальных альбомов. Здесь всё в лучших традициях Nine Inch Nails и Radiohead.
4. «Пейзажи» (Landscapes) – раздел работает аналогично другим, но здесь прослеживается упор на пейзажи. Здесь же лучше всего выходят сюрреалистичные ландшафты.
Artbreeder is a nuclear powered pencil.
Увы, Artbreeder на данный момент работает только на основе своей собственной базы данных. Поэтому загрузка стороннего изображения в галерею пока не представляется возможным. Так же изображения для скачивания ограничены разрешением 512×512 (JPEG), но в будущем обещают расширить до 2048 x 2048 (PNG). Для полноценной работы на сайте необходима регистрация.
Напоследок, хочу представить несколько наиболее удачных работ пользователей за последние дни. В это слабо верится, но я в очередной раз напоминаю, что все изображения сгенерированы нейросетью, и любой пользователь может внести свои собственные изменения. Под каждым примером я оставил на них ссылки:
Генераторы и редакторы персонажей. Создание внешности.
Пытаясь найти тему для написания статьи, я старалась оттолкнуться от рисования и создания адоптов. Порой мне и самой сложно придумать образ героя, поэтому я экспериментирую с редакторами персонажей. Зачастую у меня получаются довольно интересные дизайны, которые служат прототипом к будущему рисунку. Правда, в итоге выходит совершенно другая картина.
В интернете сейчас крайне много игр — редакторов. Не все они подходят под наш случай. Иногда становится неловко, когда находишь то, что видеть не стоило.
Было решено составить список простых редакторов персонажей. Здесь не будет приложений для скачивания — только онлайн. Конечно, можно найти и редакторы с 3D моделями и детальной прорисовкой, но это будет слишком долго и, возможно, дорого.
Лист создавался только на основе предпочтений автора.
Charat — сайт с большим количеством креаторов.
Charat.me — японский сайт с редакторами. Здесь можно найти много мейкеров, но я выделю несколько из них.
Genesis
Genesis — игра с созданием только женских персонажей. Однако у неё много различных инструментов. В любом случае у вас получится сделать уникальный дизайн.
Bigbang
Bigbang — то же самое, но уже исключительно с мужскими персонажами.
Randomall
Нельзя не упомянуть о данном сайте, который, как я считаю, может выручить творческого человека. Здесь собраны генераторы внешности, одежды, сюжета. Конечно, здесь не будет визуальной составляющей — только текстовая. Но и этого может быть достаточно для возникновения новой идеи.
Генерация произвольных реалистичных лиц с помощью ИИ
Контролируемый синтез и редактирование изображений с использованием новой модели TL-GAN
Пример контролируемого синтеза в моей модели TL-GAN (transparent latent-space GAN, генеративно-состязательная сеть с прозрачным скрытым пространством)
Весь код и онлайн-демо доступны на странице проекта.
Обучаем компьютер делать фотографии по описанию
Дискриминантная и генеративные задачи
Человеку легко описать картинку, мы учимся делать это с самого раннего возраста. В машинном обучении это задача дискриминантной классификации/регрессии, т.е. предсказание признаков по входным изображениям. Последние достижения в методах ML/AI, особенно в моделях глубокого обучения, начинают преуспевать в этих задачах, иногда достигая или превосходя способности человека, как показано в задачах вроде визуального распознавания объектов (например, от AlexNet до ResNet по классификации ImageNet) и обнаружения/сегментации объектов (например, от RCNN до YOLO в наборе данных COCO) и т.д.
Тем не менее, обратная задача создания реалистичных изображений по описанию намного сложнее и требует многолетнего обучения графическому дизайну. В машинном обучении это генеративная задача, которая гораздо более сложна, чем дискриминационные задачи, так как генеративная модель должна генерировать намного больше информации (например, полное изображение на некотором уровне детализации и вариации) на основе меньших исходных данных.
Несмотря на сложность создания таких приложений, генеративные модели (с некоторым управлением) чрезвычайно полезны во многих случаях:
Обзор генеративных моделей
Сообщество глубокого обучения быстро совершенствует генеративные модели. Среди них можно выделить три перспективных типа: авторегрессионные модели, вариационные автоэнкодеры (VAE) и генеративные состязательные сети (GAN), показанные на рисунке ниже. Если вам интересны подробности, пожалуйста, можете прочитать отличную статью в блоге OpenAI.
Сравнение генеративных сетей. Изображение из курса STAT946F17 в Университете Ватерлоо
На данный момент самые качественные изображения генерируют сети GAN (фотореалистичные и разнообразные, с убедительными деталями в высоком разрешении). Посмотрите на потрясающие изображения, созданные сетью pg-GAN (прогрессивно растущая GAN) от Nvidia. Поэтому в данной статье мы сосредоточимся на моделях GAN.
Синтетические картинки, сгенерированные сетью pg-GAN от Nvidia. Ни одно из изображений не имеет отношения к реальности
Управление выдачей моделей GAN
Случайная и управляемая генерация изображений
Оригинальная версия GAN и многие популярные модели на её основе (такие как DC-GAN и pg-GAN) являются моделями обучения без учителя. После обучения генеративная нейросеть принимает в качестве входных данных случайный шум и создаёт фотореалистичное изображение, которое едва отличимо от обучающего набора данных. Тем не менее, мы не можем дополнительно контролировать особенности генерируемых изображений. В большинстве приложений (например, в сценариях, описанных в первом разделе) пользователи хотели бы создавать образцы с произвольными признаками (например, возраст, цвет волос, выражение лица и т.д.) В идеале, плавно настраивать каждую функцию.
Для такого управляемого синтеза созданы многочисленные варианты GAN. Их можно условно разделить на два типа: сети переноса стиля и генераторы по условию (conditional generators).
Сети переноса стиля
Сети переноса стиля CycleGAN и pix2pix обучены переводить изображение из одной области (домена) в другую: например, от лошади к зебре, от эскиза к цветным изображениям. В результате мы не можем плавно изменять конкретный признак между двумя дискретными состояниями (например. добавить немножко бороды на лице). Кроме того, одна сеть предназначена для одного типа передачи, поэтому для настройки десяти функций потребуется десять разных нейронных сетей.
Генераторы по условию
Условные генераторы — условные GAN, AC-GAN и Stack-GAN — в процессе обучения одновременно изучают изображения и метки объектов, что позволяет генерировать изображения с настройкой признаков. Когда вы хотите добавить новые признаки в процесс генерации, нужно переобучить всю модель GAN, что требует огромных вычислительных ресурсов и времени (например, от нескольких дней до недель на одном графическом процессоре K80 с идеальным набором гиперпараметров). Кроме того, для выполнения обучения необходимо полагаться на один набор данных, содержащий все пользовательские метки объектов, а не использовать разные метки из нескольких наборов данных.
Наша генеративно-состязательная сеть с прозрачным скрытым пространством (Transparent Latent-space GAN, TL-GAN) использует иной подход для управляемой генерации — и решает перечисленные проблемы. Она предлагает возможность плавно настраивать один или несколько признаков с помощью одной сети. Кроме того, можно эффективно добавить новые настраиваемые признаки менее чем за один час.
TL-GAN: новый и эффективный подход к контролируемому синтезу и редактированию
Делаем это таинственное прозрачное скрытое пространство
Возьмём модель pg-GAN от Nvidia, которая генерирует фотореалистичные изображения лиц с высоким разрешением, как показано в предыдущем разделе. Все признаки сгенерированного изображения 1024×1024px определяются исключительно 512-размерным вектором шума в скрытом пространстве (как низкоразмерное представление содержимого изображения). Поэтому, если понять, что представляет собой скрытое пространство (т.е. сделать его прозрачным), то можно полностью контролировать процесс генерации.
Мотивация TL-GAN: понять скрытое пространство для управления процессом генерации
Экспериментируя с предварительно обученной сетью pg-GAN, я обнаружил, что у скрытого пространства на самом деле два хороших свойства:
Подход: раскрытие осей пространственных объектов
Чтобы найти в скрытом пространстве эти оси признаков, построим связь между скрытым вектором 
и метками признаков 
при помощи обучения с учителем на парах 
. Теперь проблема в том, как получить эти пары, поскольку существующие наборы данных содержат только изображения 
и соответствующие им метки объектов .
Способы связать скрытый вектор z с меткой признака y
Один из вариантов — вычислить соответствующие скрытые векторы изображений 
из существующего набора данных с интересующими нас метками 
. Однако сеть GAN не даёт простого способа вычисления 
, что затрудняет реализацию этой идеи.
Второй вариант заключается в генерации синтетических изображений 
, используя GAN из случайного скрытого вектора как 
. Проблема в том, что синтетические изображения не помечены, поэтому трудно использовать доступный набор помеченных данных.
Главное новшество нашей модели TL-GAN — обучение отдельного экстрактора (классификатор для дискретных меток или регрессор для непрерывных) с моделью 
, используя существующий набор помеченных данных (, ), а потом запуск в связке обученного GAN-генератора 
с сетью извлечения признаков 
. Это позволяет предсказать метки признаков 
синтетических изображений с помощью обученной сети извлечения признаков (экстрактора). Таким образом посредством синтетических изображений устанавливается связь между и как и 
.
Теперь у нас есть парный скрытый вектор и признаки. Можно обучить модель регрессора 
, чтобы раскрыть все оси признаков для управления процессом генерации изображений.
Рисунок: архитектура нашей модели TL-GAN
На приведённом выше рисунке показана архитектура модели TL-GAN, которая содержит пять шагов:
Результаты
Посмотрим, как работает эта простая идея.
Перемещение скрытого вектора вдоль осей объектов
Сначала я проверил, можно ли использовать обнаруженные оси признаков для управления соответствующим признаком сгенерированного изображения. Для этого создаём случайный вектор 
в скрытом пространстве GAN и генерируем синтетическое изображение 
, пропуская его через генеративную сеть 
. Затем перемещаем скрытый вектор вдоль одной оси признаков 
(единичный вектор в скрытом пространстве, скажем, соответствующий полу лица) на расстояние 
, в новое положение 
и генерируем новое изображение 
. В идеале, соответствующий признак нового изображения должен измениться в ожидаемом направлении.
Результаты перемещения вектора вдоль нескольких осей признаков (пол, возраст и т.д.) представлены ниже. Это работает на удивление хорошо! Можно плавно трансформировать изображение между мужчиной/женщиной, юношей/стариком и т.д.
Первые результаты перемещения скрытого вектора вдоль запутанных осей признаков
Распутывание коррелированных осей признаков
В примерах выше виден недостаток исходного метода, а именно cпутанные оси признаков. Например, когда нужно уменьшить растительность на лице, сгенерированные лица становятся более женственными, что не является ожидаемым результатом. Проблема связана с тем, что пол и борода по своей природе коррелируют. Изменение одного признака приводит к изменению другого. Подобное случалось и с другими функциями, такими как причёска и кучерявость. Как показано на рисунке ниже, исходная ось признака «борода» в скрытом пространстве не перпендикулярна оси «пол».
Для решения проблемы я использовал приёмы простой линейной алгебры. В частности, проецировал ось бороды на новое направление, ортогональное оси пола, что эффективно устраняет их корреляцию и, таким образом, может потенциально распутать эти два признака на генерируемых лицах.
Распутывание скоррелированных осей признаков приёмами линейной алгебры
Я применил этот метод к тому же лицу. На этот раз оси пола и возраста выбраны опорными, проецируя все остальные оси так, чтобы они стали ортогональными полу и возрасту. Лица генерируются с перемещением скрытого вектора вдоль вновь сгенерированных осей признаков (показано на рисунке ниже). Как и ожидалось, теперь признаки вроде причёски и бороды не влияют на пол.
Улучшенный результат перемещения скрытого вектора вдоль распутанных осей признаков
Гибкое интерактивное редактирование
Чтобы посмотреть, насколько гибко наша модель TL-GAN способна управлять процессом генерации изображений, я создал интерактивный графический интерфейс с плавным изменением значений объектов по различным осям, как показано ниже.
Интерактивное редактирование с помощью TL-GAN
И опять модель работает на удивление хорошо, если изменять изображения по осям признаков!
Резюме
Этот проект демонстрирует новый метод управления генеративной моделью без учителя, такой как GAN (generative adversarial network). Используя заранее хорошо обученный генератор GAN (pg-GAN от Nvidia), я сделал его скрытое пространство прозрачным, проявив оси значимых признаков. Когда вектор перемещается вдоль такой оси в скрытом пространстве, соответствующее изображение трансформируется вдоль этого признака, обеспечивая управляемый синтез и редактирование.
Этот метод имеет явные преимущества:
Пару слов об этике
Данная работа позволяет детально управлять генерацией изображений, но она по-прежнему в значительной степени зависит от особенностей набора данных. Обучение на фотографиях голливудских звёзд означает, что модель будет очень хорошо генерировать фотографии преимущественно белых и привлекательных людей. Это приведёт к тому, что пользователи смогут создавать лица, представляющие только небольшую часть человечества. Если развернуть этот сервис как реальное приложение, то желательно расширить исходный набор данных, чтобы учесть разнообразие наших пользователей.
Хотя инструмент может сильно помочь в креативном процессе, нужно помнить о возможностях его использования в неблаговидных целях. Если мы создаём реалистичные лица любого типа, то в какой степени можно доверять лицу, которое мы видим на экране? Сегодня важно обсудить вопросы такого рода. Как мы видели на недавних примерах применения техники Deepfake, ИИ быстро прогрессирует, поэтому человечеству жизненно важно начать обсуждение, как лучше всего разворачивать такие приложения.
Онлайн-демо и код
Весь код и онлайн-демо этой работы доступны на странице GitHub.
Если хотите поиграть с моделью в браузере
Вам не нужно загружать код, модель или данные. Просто следуйте инструкциям из этого раздела Readme. Вы cможете изменять лица в браузере, как показано на видео.
Если хотите попробовать код
Просто зайдите на страницу Readme репозитория GitHub. Код собран на Anaconda Python 3.6 с Tensorflow и Keras.
Если хотите внести свой вклад
Добро пожаловать! Не стесняйтесь отправить пул-реквест или сообщить о проблеме на GitHub.
Обо мне
Недавно я получил PhD в области вычислительной и когнитивной нейробиологии в Брауновском университете и степень магистра в области компьютерных наук, со специализацией по машинному обучению. В прошлом я изучал, как нейроны в мозге коллективно обрабатывают информацию для достижения таких функций высокого уровня, как зрительное восприятие. Мне нравится алгоритмический подход к анализу, имитации и реализации интеллекта, а также к применению ИИ для решения сложных проблем реального мира. Я активно ищу вакансию исследователя ML/AI в технологической индустрии.
Генераторы для оригинальных персонажей.
Если вы хотите придумать нового персонажа или у вас нет идей для рисовашек, то предлагаю к вашему вниманию генераторы для оригинальных персонажей. Они не выдадут вам супер подробного описания, но нескольких слов достаточно, чтобы взбудоражить человеческое воображение. Ведь продумывать персонажа самостоятельно намного интереснее! Генераторы дадут вам только смутный образ.
Генератор внешности персонажа не ставит перед собой задачу описать персонажа за вас. Он лишь пытается дать вам идею, а развить её всё равно придётся вам.
Вот, несколько вариантов, которые он мне выдал:
Этот сайт генерирует случайные суперспособности и дает описание к ним, чтобы вы могли разобраться. Примеры:
Генерирует различные черты характера для вашего персонажа.
Так же, на этом сайте вы сможете найти множество полезных генераторов, что помогут вам создать своего индивидуального персонажа.