MuseNet (OpenAI)

MuseNet — глубокая нейронная сеть, созданная OpenAI. Она может генерировать музыкальные композиции длительностью до 4 минут с использованием 10 разных инструментов и сочетать стили от кантри до Mozart и The Beatles.

Система использует ту же общую технологию неконтролируемого обучения, что и GPT-2 — крупномасштабная трансформерная модель, обученная предсказывать следующий токен в последовательности, будь то аудио или текст.

Модель обучена на данных MIDI-файлов и может создавать образцы в выбранном стиле, начиная с промпта. Для предоставления модели более широкого контекста используются позиционные, временные и структурные эмбеддинги.