@miro@soc.crw.li @pmj@social.pmj.rocks

[monkee@other.li]

@miro@soc.crw.li @pmj@social.pmj.rocks

Muss ich wohl mal PMJ nerven und fragen wie er das mit den lokalen Modellen genau macht ​​ ​​

[pmj@social.pmj.rocks]

@monkee @miro

jap, die schreiben in die files, erstellen files, lesen files, erstellen git commits, das ganze programm
gibt ja diese CLI tools, nanocoder, opencode, claudecode oder auch openclaw - nutze nano am meisten
die kann ich so einrichten dass sie auf meine ollama instanz zugreifen und dann nutze ich die lokalen modelle

[monkee@other.li]

@pmj@social.pmj.rocks @miro@soc.crw.li

Teste mal LM Studio - lokal hab ich bisher nie irgendwas LLM-mässiges ausprobiert ​​

https://lmstudio.ai/

[monkee@other.li]

@pmj@social.pmj.rocks @miro@soc.crw.li

That was very easy ​:ablobcatsweatsiphard:​

Testing different models with the phrase:
"How do i convert a django sqlite project into a postgres one?"
So far:
- Gemma 3 4B (113 tok/sec 1490 tokens)
- qwen3.5 9B (60 tok/sec 3950 tokens)

Interresting...

Gemma was much faster - qwen seems to have more detail. (Both gave me more or less the same instructions)

[monkee@other.li]

@pmj@social.pmj.rocks @miro@soc.crw.li

qwen3-coder-next (8.55 tok/sec 1199 tokens)