Часто сталкиваюсь с проблемой, что нужно удалять большое количество файлов и папок, а rm -rf слишком медленный для этого, удаление одного датасета может занимать несколько часов.
Вчера всё-таки дошли руки сделать либу специально для быстрого удаления папок, прикрутить к ней нормальную установку через pip и cli.
https://github.com/boomb0om/parallel-rm-rf