misonoteApp Center

Hugging Face の xet・datasets ダウンロードキャッシュは消していい?

削除して大丈夫自動で作り直されます。Thermo はそのまま削除します。

場所

  • ~/.cache/huggingface/xet
  • ~/.cache/huggingface/datasets/downloads

これは何?

Hugging Face のライブラリがファイルをダウンロードする際に使うキャッシュです。xet は Hub の Xet ストレージから取得したデータの断片を保存する領域、datasets/downloads は datasets ライブラリが取得した元ファイルの置き場所です。

なぜ大きくなる?

大きなモデルやデータセットを扱うと、ダウンロード途中のデータや元ファイルがそのまま残ります。データセットは元ファイルと変換後のデータが別々に保存されるため、同じデータで容量を二重に使うこともあります。

削除しても大丈夫?

安全に削除できます。いずれもダウンロード処理のためのキャッシュで、必要になればライブラリが再度取得します。ただし、変換済みのキャッシュがない状態でデータセットを読み込み直すと、もう一度ダウンロードが走るため時間と通信量がかかります。

ヒント

ダウンロード済みのモデル本体(~/.cache/huggingface/hub)はこの項目に含まれません。モデル単位で整理したい場合は「Hugging Face のモデルキャッシュ」のページを参照してください。

まず容量を確認

du -sh "$HOME/.cache/huggingface/xet" "$HOME/.cache/huggingface/datasets/downloads" 2>/dev/null

手動で削除

「ターミナル」で実行します。削除は元に戻せないので、パスを確認してから実行してください。

rm -rf "$HOME/.cache/huggingface/xet"/*
rm -rf "$HOME/.cache/huggingface/datasets/downloads"/*