OpenAI は ChatGPT よりずっと前の 2019 年に音楽生成器を作っていた

AI ニュースをたまにチェックしていると、OpenAI といえば ChatGPT、GPT-4、そして 2022 年末の大規模言語モデルの爆発を思い浮かべるかもしれません。そのタイムラインは不完全です。OpenAI はチャットボット時代の何年も前から生成音楽システムを構築しており、特に MuseNet と Jukebox の 2 つのプロジェクトは再評価に値します。

MuseNet：2019年4月25日

MuseNet は 2019 年 4 月 25 日にリリースされました。最大 4 分間の楽曲を 10 種類の異なる楽器で生成でき、モーツァルトからビートルズまで幅広いスタイルを組み合わせることができました。誤植ではありません — 同じシステムがバロックピアノ曲を生成し、ポップロックアレンジに切り替えることもできました。

重要な技術的詳細：MuseNet は MIDI 形式のシンボリック音楽を扱いました。生の録音ではなく、音符、楽器構成、構造を処理したのです。楽譜を生成するのと似ており、音声ファイルではありません。シンボリック音楽は生の音声生成ほど複雑ではないため、この区別は重要です。

内部的には、MuseNet は GPT-2 と同じ汎用教師なし技術を使用しました。モデルはシーケンス内の次のトークンを予測するよう訓練されました。文の単語であれ楽曲の音符であれ、基本パターンは同じです。

Jukebox：2020年4月30日

Jukebox はその 1 年後の 2020 年 4 月 30 日に登場し、まったく異なる存在でした。MuseNet がシンボリック音楽を生成したのに対し、Jukebox は生の音声に踏み込みました。粗い歌声を含む音楽を、さまざまなジャンルやアーティストスタイルで音波として直接生成できました。

開発タイムラインは野心の拡大を物語っています。OpenAI は 2019 年 7 に開発を開始し、9 月に拡大、2020 年 1 月にスケールアップ、4 月に公開リリースしました。初期開発から公開リリースまで約 10 ヶ月です。

Jukebox は生の音声生成がいかに困難かを示しました。OpenAI は主要な制限 — ノイズ、弱い曲構成、遅い生成 — を率直に認めました。音声 1 分をレンダリングするのに約 9 時間かかることがありました。

なぜこれが OpenAI の歴史観を変えるのか

MuseNet と Jukebox の存在は、OpenAI に関する一般的な物語を再構成します。ChatGPT への道は GPT-1 から GPT-4 へ、そしてチャットボットインターフェースへの直線ではありませんでした。テキスト、コード、画像、音楽という複数のドメインにわたるシーケンスモデリングの 10 年にわたる探求でした。

まとめ

OpenAI の 2019 年および 2020 年の音楽生成作業は、同社の技術的野心が常に単一の製品よりも広かったことを思い出させます。誰かが OpenAI はチャットボットだけを作っていると言ったら、MuseNet と Jukebox を指してください。