Wizard Notes

音楽信号解析の技術録、音楽のレビューおよび分析、作曲活動に関する雑記です

Python:LibROSA のフェーズボコーダで時間伸縮・ピッチシフト librosa.phase_vocoder

この記事をシェアする

まえがき

オーディオ編集をしていると、楽器の録音データや楽曲データを関して、

「ピッチを変えずに、鳴っている時間長を短く/長くしたい」

「時間長を変えずに、ピッチを低く/高くしたい」

という処理をしたくなることがあります。

それらを実現するには時間伸縮やリサンプリングといった処理が必要ですが、特に前者についてはフェーズボコーダという技術が知られています。

Pythonの音楽分析モジュールLibROSAでも、ピッチシフトとタイムストレッチを行う関数 librosa.effects.time_stretchlibrosa.effects.pitch_shiftのコアとしてフェーズボコーダが利用されています。

本記事では、LibROSAに実装されているフェーズボコーダの関数 librosa.phase_vocoder の中身と使い方を見ていきたいと思います。

使い方

関数の仕様

librosa.phase_vocoder — librosa 0.8.0 documentation

librosa.phase_vocoder(D, rate, hop_length=None)

引数

  • D:
  • rate:
    • 速度(時間長)を制御する変数
    • rate> 0: Dの発音している時間長は短くなります
    • rate< 0: Dの発音している時間長は長くなります
  • hop_length: int > 0

    • 位相進み計算用のパラメタ
    • STFTのフレームシフトのサンプル数を与える
    • デフォルト (hop_length=None)では、(2 * (D.shape[0] - 1)) //4に設定される 返り値
  • D_stretched

    • 2次元のnumpy配列の、短時間フーリエ変換 (STFT) 行列
      • 1次元目: 周波数
      • 2次元目: 時間フレーム
        • ただし、長さはD.shape[1] / rateとなる

サンプルコードとプロット

f:id:Kurene:20201007214806p:plain

librosa.phase_vocoderの中身について

librosa.core.spectrum — librosa 0.8.0 documentation

重要な中間変数を抜粋

# time_steps: 
# 時間長を縮める場合
# np.arange(0, 10, 2.0, dtype=np.float)
# >>> array([0., 2., 4., 6., 8.])
# 時間長を伸ばす場合
# np.arange(0, 10, 0.5, dtype=np.float)
# >>> array([0. , 0.5, 1. , 1.5, 2. , 2.5, 3. , 3.5, 4. , 4.5, 5. , 5.5, 6. , 6.5, 7. , 7.5, 8. , 8.5, 9. , 9.5])
time_steps = np.arange(0, D.shape[1], rate, dtype=np.float)

# 位相補正用のベクトル
phi_advance = np.linspace(0, np.pi * hop_length, D.shape[0])

# フェーズアキュムレータ 
# 初期値として時間フレーム先頭のD[:, 0]を代入
phase_acc = np.angle(D[:, 0])

メイン処理

# librosa.phase_vocoderにおける、時間フレームごとの処理

for (t, step) in enumerate(time_steps):
    # int(step):int(step + 2)であるため、
    # colums.shape[1]は2以上となる (columns[:,2::] は使わない)
    columns = D[:, int(step):int(step + 2)]

    # 現在の時間ステップstepに応じて、線形補間により振幅を修正
    alpha = np.mod(step, 1.0)
    mag = ((1.0 - alpha) * np.abs(columns[:, 0])
               + alpha * np.abs(columns[:, 1]))

    # 修正した振幅成分と位相成分を、出力の配列に代入
    d_stretch[:, t] = mag * np.exp(1.j * phase_acc)

    # 位相進みを計算
    dphase = (np.angle(columns[:, 1])
                  - np.angle(columns[:, 0])
                  - phi_advance)

    # 位相ラッピング(-pi:pi の範囲に変換)
    dphase = dphase - 2.0 * np.pi * np.round(dphase / (2.0 * np.pi))

    # フェーズアキュムレータ(位相進みの累積)
    # 次の時間ステップでの位相として利用
    phase_acc += phi_advance + dphase

return d_stretch

基本的に、

f:id:Kurene:20201007193237p:plain

を計算することで時間伸縮後のSTFT行列を算出します。

実際は離散信号を扱うので、振幅magと位相phase_accは前後の時間フレームの重み付き平均や差分に基づいて計算しています。

phi_advanceについては以下をご参照ください。

A Phase Vocoder in Matlab

補足:フェーズボコーダを使ったピッチシフトの実現方法

librosa.effects — librosa 0.8.0 documentation

def pitch_shift(y, sr, n_steps, bins_per_octave=12):
    rate = 2.0 ** (-float(n_steps) / bins_per_octave)

    # Stretch in time, then resample
    # librosa.effects.time_stretch(y, rate)
    y_shift = core.resample(time_stretch(y, rate), float(sr) / rate, sr)

    # Crop to the same dimension as the input
    return util.fix_length(y_shift, len(y))
def time_stretch(y, rate):

    # Construct the stft
    stft = core.stft(y)

    # Stretch by phase vocoding
    stft_stretch = core.phase_vocoder(stft, rate)

    # Invert the stft
    y_stretch = core.istft(stft_stretch, dtype=y.dtype)

    return y_stretch

以上より、例えば音高を2倍するには、

  1. タイムストレッチ(フェーズボコーダ)で時間長を1/2倍する
  2. 1の信号のサンプリングレートをsr/2と見なし、srにリサンプリングする

という手順で処理することで実現できます。 ただし、srは元信号のサンプリングレートです。

www.wizard-notes.com

librosa.phase_vocoderの音質について

LibROSAのフェーズボコーダはシンプルな実装となっており、アーティファクトが目立つので音質面で問題があります。

wikipedia フェーズボコーダ - 位相コヒーレンス問題

ドキュメントには、オーディオのタイムストレッチとピッチシフトのための高品質信号処理ライブラリであるRubberBandのPythonラッパーpyrubberbandの利用が推奨されています(ただしGNU General Public License)。

librosa.phase_vocoder — librosa 0.8.0 documentation

参考文献