NPUで数十種類のチャットAIを動かし放題の「Lemonade Server」。ただしAMD Ryzen AIに限る
https://forest.watch.impress.co.jp/docs/serial/usecopilotpc/2132902.htmlAIプロセッサであるNPUでLLMを動かすのは簡単ではないようで、Copilot+ PCが登場して2年経っても、なかなか実用的なものが出てこない。そう思っていたのだが、実はAMDでは、もうハイレベルなローカルチャットAI環境が整えられる。
その他のコメント
ログインすると、この議論に書き込めます。