汗かきAI開発

NVIDIA V100を4万円代で借りた話など。

GPUメモリ使用率

PytorchのGPUメモリの枯渇を解消する

開発中のAIチャットのユーザーをPythonで30人作り、チャットを繰り返すと徐々に重くなり処理しきれない状態になることが分かり、調べると、 Pytorchでは、計算履歴を保存しGPUメモリを枯渇してしまうとのこと。 (Pytorchは、ディープラーニング用フレームワ…