wow, #qwen 3.5 echt geil!
-
wow, #qwen 3.5 echt geil!
hab mal bisschen mit dem 9b modell mit 64k kontext gespielt und bin echt begeistert
1. passt es mit dem kontext in meine 12gb rtx 3060 (10gb)
2. ist es für mich das erste lokale modell das ootb ohne gefummel funktioniert
3. sind die resultate beim agentic coding überzeugend - nicht vergleichbar mit den cloud modellen, aber besser als alles was bisher lokal mit ner mid-range gpu möglich war
#homelab #ki #llm #coding -
wow, #qwen 3.5 echt geil!
hab mal bisschen mit dem 9b modell mit 64k kontext gespielt und bin echt begeistert
1. passt es mit dem kontext in meine 12gb rtx 3060 (10gb)
2. ist es für mich das erste lokale modell das ootb ohne gefummel funktioniert
3. sind die resultate beim agentic coding überzeugend - nicht vergleichbar mit den cloud modellen, aber besser als alles was bisher lokal mit ner mid-range gpu möglich war
#homelab #ki #llm #coding@pmj@social.pmj.rocks Was ist mit "agentic coding" gemeint? Fummelt dir das direkt in deine Projekt Files rein?
-
wow, #qwen 3.5 echt geil!
hab mal bisschen mit dem 9b modell mit 64k kontext gespielt und bin echt begeistert
1. passt es mit dem kontext in meine 12gb rtx 3060 (10gb)
2. ist es für mich das erste lokale modell das ootb ohne gefummel funktioniert
3. sind die resultate beim agentic coding überzeugend - nicht vergleichbar mit den cloud modellen, aber besser als alles was bisher lokal mit ner mid-range gpu möglich war
#homelab #ki #llm #codingleute!!
#opencode + #ollama + #qwen 3.5 9b (bisschen an den parametern geschraubt) + rtx 3060 12gb + 64k kontext=
"Build · qwen3.5-pmjcoder1:latest · 5m 54s"
innerhalb von 6 minuten erstellt
im nächsten post folgt noch der prompt - das ist alles was ich gemacht habe, nix zusätzliches oder manuelles, nur dieses kleine 9b modell bei mir zuhauseedit: das ist kein konkretes projekt, ich hatte die domain schon und wollte einfach mal gucken wie weit man ohne cloud kommt
#ai #llm #homelab -
leute!!
#opencode + #ollama + #qwen 3.5 9b (bisschen an den parametern geschraubt) + rtx 3060 12gb + 64k kontext=
"Build · qwen3.5-pmjcoder1:latest · 5m 54s"
innerhalb von 6 minuten erstellt
im nächsten post folgt noch der prompt - das ist alles was ich gemacht habe, nix zusätzliches oder manuelles, nur dieses kleine 9b modell bei mir zuhauseedit: das ist kein konkretes projekt, ich hatte die domain schon und wollte einfach mal gucken wie weit man ohne cloud kommt
#ai #llm #homelab@pmj@social.pmj.rocks 0 Jahre Erfahrung