カテゴリー: 自作PC

  • 知らない間に未使用のメモリーが資産になった

    知らない間に未使用のメモリーが資産になった

    時系列としては、みんなミニPCでLLMを動かしていて羨ましい、でも30万円も出せない! となって、Minisforum AI X1 PROを購入することにしましたが、完成品にするかベアボーンにするかは悩ましかったです。

    WindowsはいらないけどSSDも(意外なことに)ストックがないで購入せねばならず、当然メモリーも(DDR5 SO-DIMMは16GBx2しか)ないので、購入しないといけません。それでもベアボーンでいいかーということで8月29日に購入しました。在庫切れで、到着したのはいつの日だったかは忘れてしまいましたが、購入後2週間くらい後でした。

    時を同じくして、本当はメモリーは128GB(64GBx2)が欲しかったものの、ちょっと高すぎるのでCT2K48G56C46S5(48GBx2)にしました。購入価格は36580円。今は12万円!?

    gpt-oss-120bを動かすには64GBでは厳しく128GBでは多いので、別に96GBでも困らないのです。当時はモデルの大きさの分だけ実メモリーが必要でした。gpt-oss-120bだと約60GBになります。

    SSDはSSD-CK2.0N5PLG4Nを購入し、すでに使用していたSSD-CK1.0N5PLG4Nが手狭だったのでデータ移行の上取り出し、接続しています。

    とはいえメモリー128GBを諦めたわけではなく、アークの店頭に行けば38800円で買えることは知っていました。たまたま仕事で関東に行く用事があり、時間もあったので秋葉原に寄り、熟慮の末(そりゃいらんものですからね……)アーク店頭で購入しました。9月26日のことです。

    しかしllama.cppのアップデートによりモデルの大きさの半分くらいをメモリーに読み込めばよくなり、ますます128GBのメモリーを活かす機会がなくなりました。もっと大きなモデルであっても読み込めるようになったものの、今度は充分な速度が出ず、実用に耐えなくなります。動かしたことはないですが。

    というわけで使わずに置いといたら、折からのメモリー不足に加えCrucialブランドの終焉ということで、あれよあれよという間に値段が上がってきました。価格コムによると、今日の段階で20万円を超えています。20万円!?

    一体売ったらいくらになるんでしょうね……というかそもそもまだまだ値段は上がるはずで、一体どこまで行くんでしょうね……。

    現状売る気はあまりないのですが、用途もまたないのでしばらくはこのまま置いておいていくらになるかニヤニヤ眺めることにします。

  • 検証用PCのマザーボードを替えた

    前に書いた検証用PCのスペックは次のとおりでした。

    メーカー型番備考
    CPUAMDRyzen 7 9700X
    メモリーCrucialCP2K32G56C46U564GB
    マザーボードASRockB650 Pro RS
    CPUファンID-COOLINGIS-67-XTファンはP12 PWM PSTに交換
    グラフィックボードASRockIntel Arc B580 Challenger必要に応じて交換
    リムーバブルケースSilver StoneSST-FS202
    電源ユニットSilver StoneSST-SX750-G
    ケースSilver StoneSST-SG11B

    なにせ驚くのはメモリー価格の上がりっぷりで、当時23,248円で購入したものが、現在は9万円を超えているということです。

    それはさておき、B650 Pro RSに何か問題があったわけではありませんが、PCIeスロットが4までにしか対応しないので、最近増えてきたPCIe 5対応ビデオカードだと多少なりとも速度が落ちます。ボトルネックというほどの差はないようですが、ベンチマークを計測する以上ネイティブ対応しているに越したことはありません。

    候補をいろいろと探していたのですが、実際の速度はさておきMicro-ATXでx16スロットが2つ付いているものが意外となく、MSI PRO B850M-A WIFIがよさそうだったので、これにしました。

    Amazonのブラックフライデーセールで安く、かつ期限が近いポイントを使用して2万円で購入しました。さらに1500円分のえらべるPayがもらえるそうです。

    使わないのですが、オンボードNICが5GbE対応ってのがいいですね。はやく10GbE対応のも出てこないかなー。ちなみにもうひとつのx16スロットにはSFP+対応の10GbE NICを接続しています。

    あとはグラフィックボードが取り出しやすいのがすごい助かります。手を突っ込んで押せるようになりました。B650 Pro RSのときは、横からペーパーナイフを差し込んで押すとかしてましたからねぇ。

    そんなグラフィックボードは、Ubuntu Weekly Recipe 第891回で紹介したようにGeForce RTX 5060 Tiを購入しました。ジョーシンで72800円だったのですが、クーポンで1500引き、さらに楽天リーベイツという未だによくわからないもので楽天ポイントが4000ポイント弱付いてきたので、誠にいい買い物でした。現段階で購入価格より9000円上がっているようですね。今後この状況は続くので欲しい人ははよ買っておけというのが第891回の趣旨だったのですが、伝わったかな……。

    個人的にはNVIDIAは好きじゃないのであまり買いたくないのですが、検証用にはどうしても必要で、かつ記事を書く機会も多いので元も取れてしまうのですよねぇ。まぁ今年何枚ビデオカード買ったかは考えないことにしますが、今後2年は買えないのでまぁいいでしょ。知らんけど。

    更新した表を(自分のために)置いておきます。

    メーカー型番備考
    CPUAMDRyzen 7 9700X
    メモリーCrucialCP2K32G56C46U564GB
    マザーボードMSIPRO B850M-A WIFI
    CPUファンID-COOLINGIS-67-XTファンはP12 PWM PSTに交換
    グラフィックボードMSIGeForce RTX 5060 Ti 16G VENTUS 2X OC PLUS必要に応じて交換
    リムーバブルケースSilver StoneSST-FS202
    電源ユニットSilver StoneSST-SX750-G
    ケースSilver StoneSST-SG11B
  • 検証用PCについて

    みなさんご存知のとおり、私は主にUbuntuに関する記事を執筆しています。たいていのことはVirtualBoxのゲストOSで検証できるのですが、どうしても実機が必要な場合があります。

    あ、VirtualBoxの翻訳は忘れているわけではありません。もうしばらくお待ち下さい。

    閑話休題。したがって検証用PCがあるわけですが、以前はこれで何でもかんでも行っていました。検証用兼ビルド用兼LLM用兼Windows用……などです。

    当然Ubuntuも複数バージョンがあるわけですし、またビデオカードもAMD、Intel、NVIDIA(アルファベット順であって他意はないです。ないんだからね!)でそれぞれドライバーが必要です。

    ではどうやってOSを切り替えているのかというと、フロントの3.5インチベイ(5インチしかない場合は3.5インチマウンターをつけて)に2.5インチSSD/HDD用リムーバブルケースをつけています。よって2.5インチSSDが10個くらいあります。

    ビルドPCと検証用PCは一緒にしたり分離したりしていますが、現在は以前ほどパッケージをビルドしなくなったので、一緒でも特に問題ないかなと考えています。ストレージの速度がボトルネックになることも少ないですしね。

    LLM用PCは、ケースが古くて大量の発熱に耐えられずに落ちまくったため、より冷える(ファンをたくさん内蔵できる)ケースに移行しています。あと巨大なモデルはメモリーへの読み込みに時間がかかるので(gpt-oss-120bで60GBくらいですからねぇ)、SATA接続だとやってられないという理由もあります。

    OSは2.5インチSSDにインストールしてあるということは、検証用PCが複数あってもリムーバブルケースさえついていれば対応できるというわけです。そんな理由で、現在は検証用PCその2もあります。

    どうしても最高性能のパーツはLLM用に振り分けることになるので、検証用PCのスペックはこんな感じでした。

    メーカー型番備考
    CPUIntelCore i5-13500
    メモリーCrucialCP2K32G56C46U564GB
    マザーボードASRockASRock B760M Pro RS WiFi
    CPUファンID-COOLINGIS-55
    リムーバブルケースSilver StoneSST-FS202
    電源ユニットSilver StoneSST-SX750-G
    ケースSilver StoneSST-SG11B

    その2はこんな感じでした。

    メーカー型番備考
    CPUIntelCore i3-14100
    メモリーCrucialCT16G4DFRA32A232GB
    マザーボードASRockASRock B760M Pro RS/D4 WiFi
    CPUファンID-COOLINGIS-40X-V3
    リムーバブルケースオウルテックOWL-IE322B
    ケースIN WINIW-BL057B/300B

    まぁだいたいこれですね。

    この度阪神タイガースがセ・リーグ優勝を果たしまして、スポンサーであるところのジョーシンがセールをやってくれました。AMDのCPUの価格もすっかり上がってしまいましたが、Ryzen 7 9700Xはセール価格で値上げ前くらいの価格で購入できました。

    正直なところMinisforum AI X1 PROよりも先に購入していたのですが、10/13にようやく箱を開けることができました。スペックはこんな感じになりました。

    メーカー型番備考
    CPUAMDRyzen 7 9700X
    メモリーCrucialCP2K32G56C46U564GB
    マザーボードASRockB650 Pro RS
    CPUファンID-COOLINGIS-67-XTファンはP12 PWM PSTに交換
    ビデオカードASRockIntel Arc B580 Challenger必要に応じて交換
    リムーバブルケースSilver StoneSST-FS202
    電源ユニットSilver StoneSST-SX750-G
    ケースSilver StoneSST-SG11B

    メーカー型番備考
    CPUIntelCore i5-13500
    メモリーCrucialCT16G4DFRA32A232GB
    マザーボードASRockASRock B760M Pro RS/D4 WiFi
    CPUファンID-COOLINGIS-55
    リムーバブルケースオウルテックOWL-IE322B
    ケースIN WINIW-BL057B/300B

    Ryzen 7 9700Xは思っていたよりも速いですが、思っていたよりも熱くなるのでCPUファンを交換しました。P12 PWM PSTはぶん回すとうるさいですけど85度くらいが上限で、それなりに冷えます。UEFI BIOSを確認したらTDPは65Wだったので、105Wにしたら更に熱くなるということですよね……怖……(参考記事)。

    とりあえずVirutalBoxのビルドが速くなったので助かりました。