Hugging Face の xet・datasets ダウンロードキャッシュは消していい?
削除して大丈夫自動で作り直されます。Thermo はそのまま削除します。
場所
~/.cache/huggingface/xet~/.cache/huggingface/datasets/downloads
これは何?
Hugging Face のライブラリがファイルをダウンロードする際に使うキャッシュです。xet は Hub の Xet ストレージから取得したデータの断片を保存する領域、datasets/downloads は datasets ライブラリが取得した元ファイルの置き場所です。
なぜ大きくなる?
大きなモデルやデータセットを扱うと、ダウンロード途中のデータや元ファイルがそのまま残ります。データセットは元ファイルと変換後のデータが別々に保存されるため、同じデータで容量を二重に使うこともあります。
削除しても大丈夫?
安全に削除できます。いずれもダウンロード処理のためのキャッシュで、必要になればライブラリが再度取得します。ただし、変換済みのキャッシュがない状態でデータセットを読み込み直すと、もう一度ダウンロードが走るため時間と通信量がかかります。
ヒント
ダウンロード済みのモデル本体(~/.cache/huggingface/hub)はこの項目に含まれません。モデル単位で整理したい場合は「Hugging Face のモデルキャッシュ」のページを参照してください。
まず容量を確認
du -sh "$HOME/.cache/huggingface/xet" "$HOME/.cache/huggingface/datasets/downloads" 2>/dev/null手動で削除
「ターミナル」で実行します。削除は元に戻せないので、パスを確認してから実行してください。
rm -rf "$HOME/.cache/huggingface/xet"/*
rm -rf "$HOME/.cache/huggingface/datasets/downloads"/*