Ubuntu
有效處理 2+ 百萬個文件
我有一個基於文件的數據庫,它在 3 級子目錄中儲存了大約 2M 文件。
2/2/6253 2/2/6252 ...
文件從 30 字節到 60 KB 不等。整個數據庫是只讀的。DB 大約 125 GB。
**補充:**所有文件都被zlib(python)壓縮
我想將它作為一個包含文件系統的文件來處理。哪個文件系統是我最好的選擇?
目前我使用以下腳本:
dd if=/dev/zero of=/my_file.iso bs=1024K count=60000 mkfs.ext4 -f /my_file.iso mount -o loop /my_file.iso /mnt/
您可能只想使用 XFS。
它非常有能力滿足您的要求,並且可以完成工作。
沒有理由用較少使用的文件系統使這一點複雜化,這可能伴隨著其他權衡。
請參閱:子目錄的數量如何影響 Linux 上的驅動器讀/寫性能?高目錄文件比對 XFS 的 影響
如果您想要更深奧的東西,頂部帶有文件系統的 ZFS zvols 可以提供一個有趣的替代方案(用於壓縮、完整性和可移植性目的)。
請參見此處:透明壓縮文件系統與 ext4 結合使用