1 / 17

48GB VRAM Tesla M40 24GBX2ファン&給電線付 70B即動

¥73,000

(税込) 送料込み

商品の説明

ご覧いただきありがとうございます。 NVIDIA Tesla M40 24GB の2枚セット(合計 48GB VRAM)です。 本品は2枚で1セットの販売となります。単枚追加や複数セットをご希望の場合は、コメント欄にてお知らせいただければ専用出品を作成いたします。 70Bクラスの超大型モデルを破格のコストでローカル運用できる即戦力キットです。 •Qwen2 57B A14B (MoE):約 22.36 tok/s •Swallow 70B (Dense):約 7.93 〜 8.30 tok/s ※詳細な動作・温度画面は掲載画像をご確認ください。 MoE時代:GPU速度よりVRAM容量 今後のLLMはMoEが主流です。VRAM不足は即座にOOMとなるため、GPU演算速度以上に「VRAM容量」が絶対的な壁となります。RTX 4090等のハイエンドを複数枚導入すると莫大な費用がかかる上、MoE推論時のGPU使用率は20%前後に留まり大半が無駄になります。本構成なら最小限の投資で48GBの広大なメモリプールを確保可能です。 セットアップ手順  1.マザーボードのBIOSにて CSM無効、Above 4G Decodingを有効化。 2.初回は「LM Studio」での動作確認を推奨。GPUバックエンドにCUDAを選択し、Tensor Parallelを指定してください。 3.初回起動時は安全のため、BIOS側でファン回転数を高めに設定し、OS起動後に適正値へ調整してください。 【推奨設定:MSI Afterburnerで電力80%制限】 80%(に設定しての運用を強く推奨します。Swallow 70Bの実測比較でも、100%時との速度差はわずか0.37 tok/sですが、消費電力2枚で約100W削減でき、発熱を大幅に抑えられます。 【その他】 •省スペースな小型ツインブロアー仕様で、大型ケースをお持ちで、より強力な冷却を求められる場合は、大型ブロアーファンへのアップグレード(要追加料金)も承りますのでご購入前にご相談ください。 •Winでの回転数制御はFan Controlが便利です。 •簡易セットアップ手順書を同梱いたします。初回基本設定に簡単なご質問でしたら、取引メッセージにて可能な範囲でお答えいたします。

4日前

商品の情報

ブランド

商品の状態

目立った傷や汚れなし

細かな使用感・傷・汚れはあるが、目立たない

配送料の負担

送料込み(出品者負担)

配送の方法

らくらくメルカリ便
匿名配送

発送元の地域

北海道

発送までの日数

1~2日で発送

コメント (2)

Mukaiの画像

Ti VK様 始めらして。コメントいただきありがとうございます。 1枚のみの単品購入も問題なく対応可能です。 当方ではテンソル並列で70Bクラスの超大型モデルを動かす検証用として2枚組で出品しておりましたが、1枚構成でもこの価格帯で24GBのVRAMを確保できるコストパフォーマンスは非常に高く、7B〜14Bはもちろん、30B/32BクラスのQ4量子化モデル(約19〜20GB)までをVRAM内に完全常駐させて運用可能です。 単品での構成および価格は以下の通りとなります。 Tesla M40 24GB 本体 × 1枚 専用ツインブロアーファン x 1枚 専用電源変換ケーブル × 1本 【価格】 送料込み 36,850円 ご検討の参考にしていただければ幸いです。 こちらの構成でご購入をご希望の場合は、専用ページを作成いたしますので、お気軽にお声がけください。

12日前

Ti VKの画像

はじめまして。1枚だけ購入することは可能でしょうか? もし可能でしたら、Tesla M40 24GBを1枚、冷却ファンと必要なケーブル類付きでおいくらになりますか?

13日前

※売り切れのためコメントできません

この商品を見ている人におすすめ