ぬぷお

Copilot+ PC の眠ってる NPU を、自分専用LLMサーバーに変える

せっかく Copilot+ PC を買ったのに、Windows 標準のチャット以外で NPU はほとんど使われていない――その NPU を直接動かして、自分専用の LLM API サーバを立てる。OpenAI に課金せず、機密データを外に出さず、オフラインでも動く。Windows on ARM + ONNX Runtime GenAI + Phi-3.5、HTTP API で誰でも繋げる軽量ランタイム。