Ollamaについて

Ollamaについては、llama.cppを直接ビルドする みたいな泥臭い手間から解放してくれた神ツールなのは間違いない。ただ、本気でチューニングしようとすると、隠された設定を探して結局 CLI を深掘りする羽目になる、開発者の良心と煩わしさのハイブリッドって感じ。

そう本体が1.1GBくらいあって...AIモデルをダウンロードする毎に、3~4GBくらいと結構ディスクを消費する点、比較的、高性能なGPUを搭載していないと快適に動作しない点、ゲーミングノートみたいな環境の場合、質問等を投げたときにCPUファンが一気に回り始めるみたいな現象が気になったのは一応あげとく・・・。

0 件のコメント:

ふるさと納税について

  1. 鹿児島県の食肉加工業者による不適正表示問題(直近の事例) 加工業者「有限会社水迫畜産」(鹿児島県指宿市)による牛肉の牛種・原産地および個体識別番号の不適正表示が九州農政局より公表され、同社の商品を返礼品として採用していた複数の自治体で発覚・対応が行われました。 関わ...