Нейросетевая реинтерпретация: от музыкального клипа к новым горизонтам

Эксперимент с нейросетевым видеопроизводством, начавшийся как попытка переосмыслить культовый клип Fab Tool, продемонстрировал впечатляющий прогресс в области генеративного контента. Набор инструментов, включающий MidJourney, Runway Gen-2, Pika, Suno, и Luma Dream Machine, дал возможность создавать и анимировать изображения, а также генерировать музыку.
Нейросетевая реинтерпретация: от музыкального клипа к новым горизонтам
Изображение носит иллюстративный характер

Автор столкнулся с ограничениями ранних версий нейросетей, но смог создать полноценные проекты: веб-комикс «Непьющий» и иллюстрированный роман «Гать». Эти работы позволили накопить опыт в создании единого графического стиля и образов, пригодных для будущей анимации. Несмотря на технические сложности, к 2024 году инструменты image-to-video (Runway Gen-3 Alpha и Luma Dream Machine 1.5) достигли значительного прогресса в управлении камерой и пластикой объектов, что позволило реализовать анимацию для проекта «Гать» и создать музыкальное сопровождение с помощью Udio.

Результатом этих усилий стал ремейк Fab Tool, сохранивший атмосферу и сложные переходы оригинала, но при этом с более реалистичным изображением. Процесс создания видео стал значительно быстрее, а качество картинки и музыки существенно улучшилось. Однако, нейросетевое кино по-прежнему остается экспериментальным, поскольку существующие инструменты больше подходят для коротких абстрактных роликов, чем для создания полноценных сюжетных фильмов.

Тем не менее, автор видит перспективы в дальнейшем развитии технологий и планирует создавать сюжетные монтажные видео с использованием смены планов и реплик в кадре. Это говорит о том, что несмотря на текущие ограничения, нейросети, вероятно, кардинально изменят рынок видеопроизводства.


Новое на сайте