ローカルLLM実装 MiniCPM5-1Bを本格検証:656 MiBの小型LLMは日本語・コード・ゲーム生成に使える?
約10.8億パラメータ、Q4 656 MiBのMiniCPM5-1BをRTX 4070環境で検証。日本語、JSON、推論、コード、ツール呼び出し、4K~120K長文、ゲーム実操作、速度・VRAMをQwen/LFMと比較します。
ローカルLLM実装
ローカルLLM実装
ローカルLLM実装
ローカルLLM実装
ローカルLLM実装
ローカルLLM実装