Ubuntu

有效處理 2+ 百萬個文件

  • April 8, 2019

我有一個基於文件的數據庫,它在 3 級子目錄中儲存了大約 2M 文件。

2/2/6253
2/2/6252
...

文件從 30 字節到 60 KB 不等。整個數據庫是只讀的。DB 大約 125 GB。

**補充:**所有文件都被zlib(python)壓縮

我想將它作為一個包含文件系統的文件來處理。哪個文件系統是我最好的選擇?

目前我使用以下腳本:

dd if=/dev/zero of=/my_file.iso bs=1024K count=60000
mkfs.ext4 -f /my_file.iso
mount -o loop /my_file.iso /mnt/

您可能只想使用 XFS。

它非常有能力滿足您的要求,並且可以完成工作。

沒有理由用較少使用的文件系統使這一點複雜化,這可能伴隨著其他權衡。

請參閱:子目錄的數量如何影響 Linux 上的驅動器讀/寫性能?高目錄文件比對 XFS 的 影響

如果您想要更深奧的東西,頂部帶有文件系統的 ZFS zvols 可以提供一個有趣的替代方案(用於壓縮、完整性和可移植性目的)。

請參見此處:透明壓縮文件系統與 ext4 結合使用

引用自:https://serverfault.com/questions/688438