「LLMサーバーとクライアントマシンの2台体制にしたい」

昨日ローカルLLMを動かしていてそんなふうに思った。1台はLM Studioとかで全力で推論を動かして、もう1台のマシンでコーディングしたりウェブを見たりするとちょうど良さそうだ。

出社することもほぼ無いので、もう1台のマシンはデスクトップマシンでいい。MacMiniの64GBがほしい。MacStudioの128GBだともっといい。移動するとしても1台はラップトップを持っていればLLM用のデスクトップマシンにはVPNで繋げばいいだけではあるが。

ちょっと話は変わるけど、勤務先はフルリモートだけど、フルリモートでよかった。最近は音声入力を多用しているので、出社したら入力するのに話しまくるのはやりづらいだろう(もしくは禁止されそう)。

少し前までは出社することの意味もあると感じていて去年の転職活動では出社も全然OKむしろ歓迎という立場だったが考えが変わった。音声入力を気兼ねなくできる場所でないと働きづらいと感じるようになった。