В своем проекте я использую dask (2021.3.0) и rapids (0.18). В этом случае я выполняю задачу предварительной обработки на ЦП, а затем предварительно обработанные данные передаются в графический процессор для кластеризации K-средних. Но в этом процессе у меня возникает следующая проблема:
Ошибка 1 из 1 рабочих заданий: std :: bad_alloc: ошибка CUDA: ~ / envs / include / rmm / mr / device / cuda_memory_resource.hpp: 69: cudaErrorMemoryAllocation вне памяти (перед тем, как полностью использовать память графического процессора, это дало ошибку, т.е. не использует память GPU полностью)
У меня один графический процессор размером 40 ГБ. Размер оперативной памяти 512 ГБ.
Я использую следующий фрагмент кода:
cluster=LocalCluster(n_workers=1, threads_per_worker=1)
cluster.scale(100)
##perform my preprocessing on data and get output on variable A
# convert A varible to cupy
x = A.map_blocks(cp.asarray)
km =KMeans(n_clusters=4)
predict=km.fit_predict(x).compute()
Я также ищу решение, чтобы можно было предварительно обрабатывать данные, размер которых превышает объем памяти графического процессора, и всякий раз, когда происходит утечка памяти графического процессора, проливные данные передаются во временный каталог или ЦП (как мы делаем с dask, где мы определяем временный каталог, когда есть разлив оперативной памяти).
Любая помощь будет принята.
