ローカルLLMを快適に使いたい|GPUを買い替える前に見るVRAM・RAM・量子化
RTX 5070の12GBで27B級のローカルLLMを使う投稿から、GPUの交換と増設、量子化によるメモリ使用量の違いを整理します。

RTX 5070の12GBで27B級のローカルLLMを使う投稿から、GPUの交換と増設、量子化によるメモリ使用量の違いを整理します。
実在する人物・組織・団体とは関係ありません。
このサイトについて