Руководство

Как заставить мультяшного персонажа говорить и петь с ИИ

FreeLipSync TeamFreeLipSync Team|5 min read
Оригинальный персонаж мультфильма о красной панде в желтой куртке, используемый для разговора и пения, примеры синхронизации губ с искусственным интеллектом

Чтобы заставить персонажа мультфильма говорить и петь, начните с оригинального изображения персонажа, обращенного вперед, создайте говорящую версию из текста или речи, а затем повторно используйте то же изображение с чистым клипом песни в Make Photo Sing. Два необработанных результата ниже изолируют эффект изменения только звука.

Что вам нужно

  • Исходное изображение: Источником является оригинальный персонаж красной панды, созданный для этого урока, а не персонаж из фильма, игры или франшизы. Глаза и рот четко разделены, морда достаточно контрастна, голова в кадре крупная.
  • Входной звук, используемый в этом примере: Разговорный вход представляет собой короткую синтезированную строку. Пение представляет собой оригинальный 18-секундный джингл с чистым вокалом и устойчивым ритмом. Повторное использование одного изображения делает сравнение полезным: идентичность, обрезка и фон остаются неизменными при изменении производительности.
  • Инструмент: Make Photo Sing

Используйте оригинального персонажа или произведение искусства, на анимацию которого у вас есть лицензия. Не намекайте, что известный персонаж, защищенный авторским правом, поддерживает продукт, послание или песню.

Исходное изображение и входные данные

Оригинальный персонаж мультфильма о красной панде в желтой куртке, используемый для разговора и пения, примеры синхронизации губ с искусственным интеллектом

Входной звук, используемый в этом примере 1

Точная английская расшифровка или тексты песен, использованные в общих демонстрационных носителях:

I started as one drawing.

Now I can talk, tell a story, and welcome viewers without filming a single frame.

The same character can even sing when you switch the audio.

Входной звук, используемый в этом примере 2

Точная английская расшифровка или тексты песен, использованные в общих демонстрационных носителях:

Welcome to our shop today, step right in and stay a while.

Something special's on the way, handpicked just to make you smile.

Come on in, come on in, your new favorite starts right here!

Необработанный результат

Воспроизведите оба результата. Первый показывает нормальную речь; второй показывает тот же рисунок после мелодии и длительных слогов. Ни один из этих клипов не является полноценным обучающим видео — здесь важно увидеть неотредактированные доказательства продукта.

Откройте специальную страницу просмотра видео. 1

Откройте специальную страницу просмотра видео. 2

Пошаговый рабочий процесс

  1. Подготовьте одно четкое исходное изображение. — Используйте одно изображение, обращенное вперед, с видимым ртом, равномерным освещением, без рук, микрофона или тяжелой тени, закрывающей губы.
  2. Откройте соответствующий инструмент FreeLipSync. — Откройте связанный инструмент для этого рабочего процесса. Убедитесь, что режим ввода соответствует вашему источнику: текст, загруженная речь или аудио песни.
  3. Добавьте сценарий или аудиовход — Добавьте короткий чистый ввод. Сделайте первый тест простым, чтобы можно было легко определить, совпадают ли изображение и звук.
  4. Генерация результата синхронизации губ — Сгенерируйте один необработанный результат, не изменяя одновременно несколько переменных. Контролируемый первый проход значительно ускоряет устранение неполадок.
  5. Просмотрите полный результат перед публикацией — Смотреть со звуком от начала до конца. Проверьте видимость рта, время, произношение и то, честно ли клип представляет источник.

Почему эта установка работает

Стилизованные персонажи могут работать, если дизайн лица по-прежнему дает модели читаемые ориентиры. Большая область рта, стабильный вид спереди и простой фон имеют большее значение, чем просто фотореализм.

Контрольный список качества

  • Выбирайте персонажа с видимой формой рта, а не крошечной линией, спрятанной внутри сложной морды.
  • Используйте изолированный, разборчивый вокал; тяжелые эффекты и переполненные инструменты затрудняют диагностику.
  • Сделайте первый клип песни коротким и выберите раздел с четким вокальным вступлением.

Распространенные ошибки, которых следует избегать

  • Используйте оригинального персонажа или произведение искусства, на анимацию которого у вас есть лицензия. Не намекайте, что известный персонаж, защищенный авторским правом, поддерживает продукт, послание или песню.
  • Не начинайте с длинного сценария или песни. Короткий первый проход дает вам более быстрый и качественный сигнал.
  • Не публикуйте лицо, персонаж, запись или песню, если у вас нет необходимого разрешения или лицензии.

Вопросы, которые задают люди

Может ли AI синхронизировать губы с мультфильмами?

Да, когда лицо обращено вперед, а рот, глаза и контур головы визуально четкие. Крайне абстрактные или боковые конструкции менее предсказуемы.

Нужны ли мне отдельные изображения персонажей для разговора и пения?

Нет. Повторное использование одного изображения — полезный способ сравнить речь и песню и сохранить целостность личности персонажа.

Могу ли я анимировать известного мультперсонажа?

Только тогда, когда у вас есть необходимые права. Для коммерческих публикаций более безопасным выбором является оригинальный или лицензированный персонаж.

Сделайте свою версию

Сначала попробуйте рабочий процесс с речью, а затем повторно используйте принятое изображение в Make Photo Sing с коротким оригинальным клипом песни.

Make Photo Sing

Related