MuseNet (OpenAI)

MuseNet est un réseau neuronal profond créé par OpenAI, capable de générer des compositions musicales de 4 minutes avec 10 instruments différents et de combiner des styles allant de la country à Mozart et aux Beatles. Il utilise la même technologie générale non supervisée que GPT-2, un modèle Transformer à grande échelle entraîné à prédire le token suivant d’une séquence, qu’il s’agisse d’audio ou de texte. Le modèle est entraîné sur des données issues de fichiers MIDI et peut générer des échantillons dans un style choisi en commençant par une invite. Il utilise plusieurs embeddings, notamment des embeddings positionnels, un embedding temporel et des embeddings structurels, afin de fournir davantage de contexte au modèle.