国内と海外でハイスペックなNVIDIA GPUサーバを探し、安価なプランを見つけました。 GPUクラウド比較、NVIDIA V100を4万円代で借りれました。 GPUのラインナップが豊富で、リージョンも選べ、とにかく安いのです。

開発中のAIチャットのユーザーをPythonで30人作り、チャットを繰り返すと徐々に重くなり処理しきれない状態になることが分かり、調べると、 Pytorchでは、計算履歴を保存しGPUメモリを枯渇してしまうとのこと。 (Pytorchは、ディープラーニング用フレームワ…