BBS

いつの間にかアニメ化されてた…。
https://yushanokuzu.com/

> Ollama使ってgpt-oss-20b入れてみた。
LM Studioより良さそうだね、今度暇を見て入れてみよう。
120bは必要メモリ80GBとかいうから流石にねｗ

gpt-oss-20bは動かすだけなら内蔵GPUでも動くらしいから、画像生成AIよりは軽いんだね。

Ollama使ってgpt-oss-20b入れてみた。
https://digeon.co/blog/ollama-gpt-oss-local-llm#hecdec40004
いい感じに動いてる。
gpt-oss-20bに、120bは動くか聞いたら全く無理だってw

gpt-oss-20bならRTX 3060 Ti以上あればビジネス用途で「リアルタイム」に近い速度が得られるとのこと(gptの受け売りw)

あけおめー
yama生存確認ｗ

明けましておめでとうございます。今年がみなさまに良い年となりますように。

> 前から思ってたんだけど、エスコンフィールドってAMAの実家の近くか?
エスコンフィールドのすぐ隣が私の通ってた北広島高校、なので実家から徒歩圏内です。
もう少し近ければ駐車場でも作って一稼ぎできたんだけどねｗ

前から思ってたんだけど、エスコンフィールドってAMAの実家の近くか?
なんか、昔書いてた年賀状の住所が北広島だった記憶が・・・

あけましておめでとうございます。
今年はお米とメモリとガソリンが下がりますように( ˘ 人˘)

明けましておめでとうございます。
なんとか起きてましたw
もう、寝るけど。(⁠*⁠´⁠ω⁠｀⁠*⁠)

>Pixel10aが出たら買おうかと思ってたんだけど、今Pixel10買った方が良いのか悩み中
あ-、5070 Ti Superと同じく出ない、もしくは出てもショボくて高いなんて可能性もあるねー

>ローカルAI動かすならグラボのメモリ12G以上必須ってのは本当なの？
俺が使っている画像系の、Stable Diffusionは、GTX1060 6GB でも動くっちゃ動く。
(Stable Diffusionを動かすにはNVIDIA製GPUでVRAM 8GB以上が最低ラインと言われてる)

汎用LLMは、これから入れるつもりだが、gpt-oss-20bとかでなければいけるんじゃないかな。
Google Gemma 3n E4Bとかなら、Stable Diffusionよりも軽いらしい。

>メモリ8Gと12Gの差がどこまであるんだろうかと…
俺も調べたけど一概には言えないっぽい。
どんな用途のLLMを使うかにもよるらしい。
https://soroban.highreso.jp/article/techblog-aigpu

一般的には、GPT-OSS-20Bみたいな大型言語モデルはメモリの容量で、画像生成AIはGPUの演算性能とVRAMの速さらしい。