h5py- все статьи тега
Есть ли преимущество в скорости анализа или использовании памяти для использования HDF5 для хранения больших массивов (вместо плоских двоичных файлов)?
я обрабатываю большие 3D массивы, которые мне часто нужно нарезать различными способами для выполнения различных анализов данных. Типичный "куб" может быть ~100 ГБ (и, вероятно, станет больше в будущем) похоже, что типичным рекомендуемым форматом файлов для больших наборов данных в python является использование HDF5 (либо h5py, либо pytables). Мой вопрос: есть ли какая-либо скорость или использование памяти для использования HDF5 для хранения и анализа этих кубов над хранением их в простых плос ...