GPUクラウド比較、NVIDIA V100を4万円代で借りた話。最終的に着地した激安ホスティングサーバー会社について
国内と海外でハイスペックなNVIDIA GPUサーバを探し、安価なプランを見つけました。
・前半:サーバ探しの回想
・中盤:費用の比較
・後半:最終的に着地した激安ホスティングサーバー会社について
・纏め:実際に運用してみた結果
◆サーバ探しの回想
開発中のAIでNVIDIA製GPU搭載のサーバーが必要で2021年の春に探すことになりました。
低スペックで動くだろうと思い国内で探したら、Radeon RX Vega 56でも月額13万円!
無料お試しがあったので、サーバを構築してAIを動かしてみたところ、結局、スペックが足りずAIが動かず。。
スペックを上げるべく新たなサーバを国内のプロバイダーで調べるとNVIDIA V100が月額20~25万円!
最安で9万円!これは予算ギリギリでしたが、詳しく見ると初期費用で85万!が必要という。。
売上があるかどうか分からない、ましてや開発段階で毎月10万も20万も払えません。
そこで、API等を探す時などと同じで、結局、海外で探すことになりました。
(ツールやAPIなど、たいてい海外の方が安いのです。)
探してみたところ、米国、英国、ウクライナ、リトアニア、インド、パキスタン、フランスで安価なGPUサーバの専用ホスティングプランを見つけました。
サーバーのプロバイダーは、それぞれに特徴があるので、Excelでスペックと月額費用のリストを黙々と作り比較します。
弊社は、既に、ウクライナや英国の会社等とサービスの利用契約を結び良い関係が築けていたので海外の会社にあまり不安がありません。
しかし、サーバとなると話は別です。
判断材料に、価格だけではなく下記も含めました。
・クレジットカードで決済しても大丈夫?!
・政情は大丈夫?!紛争は?!デフォルトはしないか?!
・通信速度は?!
・トラブル対応は大丈夫?!
・優しい?!
・テックな人過ぎたら嫌だ
・英語大丈夫?!
・電話で英語は話したくない
・セキュリティ大丈夫?!
不安のない契約をしたいので、
Google検索を駆使して掲示板等で会社の評判やお国事情をチェックします。
あれこれ調べ、3社に絞り込みました。
そして、実際に使ってみました。
(無料お試し、もしくは時間や日単位の従量課金がある)
・最終選考
結局、3社とも使い勝手はいい感じで、最後は、価格、GPUの品揃え、カスタマイズ、拡張性、会社の体制、ビジョン等々でFluidStackを選ぶことになりました。
◆費用の比較
V100s 32GB | V100 16GB | V100 PCle 16GB | A100 40GB | RTX A5000 24GB | RTX 4000 8GB | P100 | 製品数 | |
---|---|---|---|---|---|---|---|---|
FluidStack |
70,370円
|
58,566円
|
53,913円
|
119,793円
|
85,806円
|
32,575円
|
|
11
|
SOROBAN |
179,946円
|
|
|
223,133円
|
|
|
|
6
|
Kagoya |
|
|
|
|
|
|
|
6
|
さくら |
|
|
|
|
|
|
9.9万円(初期85.8万円)
|
3
|
※各社、変更する可能性あり
ずいぶん、歯抜けな表になっていますが、FluidStack以外はラインナップが限定的です。
ここで、「むむむ、NVIDIA V100が、4万円代じゃないの?!」と思う方もご安心ください、47,670円で借りています。(半年使うと53,913円→47,670円になる。)
◆最終的に着地した激安ホスティングサーバー「FluidStack」について
GPUのラインナップが豊富で、リージョンも選べ、とにかく安いのです。
しかし、テストした時、アカウントを作るとマーケティングの担当から「身分証を提出しなさい」と連絡がありました。
私がインターリンクのVPN、固定IPサービスでサーバセンター経由からアクセスをしていたので、同業者だと疑われたようでした。
こちらも安いGPUサーバを使えるチャンスを逃すまいとフレンドリー且つ紳士的な文章で、パスポートをスキャンして送りました。
結局、誤解が解けて、マーケティング担当と距離が縮まりました。
これはいいチャンスと思い、どんな人が運営しているのか、知っておくのも悪くないので、(Google翻訳を駆使して)いろいろとメールで質問しました。
逆に、マーケティング担当は、事業展開のヒントが欲しいらしく日本や他国のGPUホスティング会社の価格や使い勝手等々の質問を受けました。
いろいろ教えるかわりに、多くのことを教えて貰いました。
彼らは、価格競争力、サービス、スタッフ、技術に自信があり戦略的に事業の拡大を進めている印象でした。
技術的なことは、「Aさん」に相談しなさいと言うので、作業面は、Aさんとやり取りすることになります。
まあ、こちらでサーバにモジュールやソースコードを入れてどんどん進めてしまうので、Aさんの出番は、あまりないのですが。
(一度、無限ループでやらかして緊急でサーバを再起動してもらいましたが)
あと、Iさんという上場請負人、私が上場させます!みたいな仕事出来るぜ的な女性も紹介頂きました。
バリッバリッな感じです。
スーツが似合う美人でショートヘア(イメージ)
FluidStackの特徴としては
・GPUマシン 11製品 30,000台以上
・レベル「ティア3 or ティア4」のセキュリティー
・コストが1/3~1/5になる
・グローバル企業も利用
・1時間単位での利用も可能
・スタッフがフレンドリー(Hi, hello!な感じでDearなど使わない)
・コンパネで申し込みと解約が完結出来る
・カスタマイズオーダーが可能
・日本から遠いサーバでも速い
纏め:実際に運用してみた感想
実際に、FluidStackのNVIDIA V100を半年使っていますが安定稼働しおり、
申し込みから、設定までシンプルでしたが、解約も、GeForce RTX4000のテストをした際に、コンパネで簡単な操作でキャンセルが出来ました。
使い勝手の良い会社だと思っています。
(気軽に使えるので、最近、NVIDIA Tesla A100も試したくなっています)
突っ込んだ質問などがある方は、Hideまで、メールください。
私としては、将来的に、FluidStackと何か事業をしたいと考えておりコミュニケーションを取りながらいろいろ勉強が出来たらと考えています。
長くなりましたが、今後のサーバー選択の参考になれば嬉しいです。