LocalAI 4.2.1: nieuwe ds4-backend en nog wat fijne kleine verbeteringen
LocalAI 4.2.1 is uit. De grootste nieuwe stap is de ds4-backend, met DeepSeek V4 Flash. Ook zijn er kleine updates voor ollama, docs en de bouw van het project.
Deze update draait niet om één groot nieuw scherm, maar om een paar duidelijke verbeteringen. De belangrijkste is dat LocalAI nu ds4 heeft, met tool calls, thinking en KV cache. Dat zijn lastige woorden, dus ik houd het simpel:
- tool calls: het model kan een hulpmiddel of actie gebruiken
- thinking: het model kan intern stapjes zetten
- KV cache: dingen die al bekend zijn, hoeven niet steeds opnieuw uitgerekend te worden
Voor thuisgebruik betekent dat vooral: meer keuze, en in sommige gevallen vlotter werken. Als je LocalAI al gebruikt, is dit een update om even te bekijken.
3 dingen die opvallen
1.Nieuwe ds4-backend
De bron noemt: feat: add ds4 backend (DeepSeek V4 Flash) with tool calls, thinking, KV cache.
Dat is meteen de grootste wijziging. Er is nu dus een ds4-backend in LocalAI. Als je lokaal met modellen werkt, kan dat handig zijn als je met deze backend wilt testen of deze wilt gebruiken in je eigen setup.
Wat je op het scherm ziet hangt af van hoe jij LocalAI gebruikt. Maar als je de juiste setup hebt, is het idee dat ds4 nu als optie erbij komt. Dat is prettig als je graag verschillende modellen of backends probeert.
2. Ollama geeft meer details
Er staat ook een update voor Ollama:
feat(ollama): report model capabilities + details on /api/tags adn /api/show.
Simpel gezegd: als je via die routes kijkt, krijg je meer info over wat een model kan en welke details erbij horen. Dat is handig als je snel wilt zien wat er beschikbaar is,zonder overal los te hoeven zoeken.
Voor thuisgebruik is dat vooral zichtbaar als je met een tool werkt die deze routes aanroept. Dan zie je meer info terug. Dat maakt kiezen en vergelijken iets fijner.
3. Kleine onderhoudsupdates
verder zijn er een paar onderhoudsregels:
- docs zijn bijgewerkt
- in de CI is ds4 geregistreerd en is de versiepin verplaatst naar de Makefile
ikawrakow/ik_llama.cppis geüpdatet naar een specifieke commit- de go_modules-groep heeft 2 updates gekregen
Dat klinkt technisch,maar het effect is vooral: de release is beter in lijn met de rest van het project. Voor jou als gebruiker is dit minder zichtbaar dan de ds4- en Ollama-update, maar het hoort wel bij een nette update.
Wanneer is dit handig?
Deze release is vooral handig als je:
- LocalAI lokaal draait op je pc of laptop
- graag nieuwe backends uitprobeert
- met model-info werkt en snel wilt zien wat een model kan
- een setup wilt die wat netter meebeweegt met de laatste code
Gebruik je LocalAI alleen af en toe? Dan is het nog steeds slim om te weten wat er nieuw is. Maar de echte winst zit vooral bij mensen die het graag testen of vaker gebruiken.
Zelf proberen
Als je thuis klein wilt beginnen, pak dan dit simpele plan:
- Kijk welke versie je nu gebruikt.
- Lees de releasepagina van LocalAI 4.2.1.
- Check of je ds4 wilt testen.
- Kijk daarna of jouw manier van starten of beheren iets met de bijgewerkte docs of CI te maken heeft.
- Gebruik je Ollama-routes? Kijk dan of
/api/tagsen/api/shownu extra info geven.
Een kleine test is vaak al genoeg. Je hoeft niet meteen alles om te gooien. Start met één wijziging en kijk wat er verandert. Beverstijl: rustig aan, dan blijft je dam heel.
Handige dingen om op te letten
Als je ds4 wilt gebruiken
De bron zegt dat ds4 is toegevoegd met tool calls, thinking en KV cache. Dat betekent niet dat je setup vanzelf goed staat.Je moet dus nog steeds kijken of jouw installatie dit ondersteund gebruikt.
Als je vooral met modeloverzicht werkt
De Ollama-update is fijn als je veel lijstjes of modelinfo bekijkt. Je ziet dan meer details terug. Dat maakt het makkelijker om snel te kiezen.
Als je alleen wilt bijwerken
Dan is dit een normale release met een duidelijke hoofdverandering en wat onderhoud eromheen. Niks overdreven groots, maar wel genoeg om te checken of je alles netjes mee wilt nemen.
mini-checklist voor thuis
| Vraag | Waar kijk je naar? |
|---|---|
| Gebruik ik LocalAI nu al? | Dan is deze release relevant |
| Wil ik ds4 testen? | Dan is de nieuwe backend belangrijk |
| Werk ik met Ollama-routes? | Dan zijn extra modeldetails handig |
| Wil ik alleen stabiel bijblijven? | Dan is updaten en even testen slim |
Veelgemaakte misser
Te snel denken dat “nieuwe backend” ook meteen “klaar voor alles” betekent. Dat staat niet in de bron. De bron zegt alleen dat ds4 is toegevoegd,met tool calls,thinking en KV cache.
Dus de veilige aanpak is:
- eerst lezen wat er precies is toegevoegd
- dan testen in je eigen setup
- pas daarna groter gebruiken
Nog een misser: vergeten dat de Ollama-update alleen nuttig is als jij die routes ook gebruikt. Zie je daar nooit iets van terug? Dan merk je er in het dagelijks gebruik misschien weinig van.
Wil je hier nog even mee verder spelen? Kijk dan ook eens naar LocalAI 4.2.3: lokale AI op je eigen pc.
Handige link
Wil je de oorspronkelijke pagina of documentatie zelf zien? Kijk dan even naar LocalAI v4.2.1.
Bevers gedachte
Dit is een fijne onderhoudsrelease met één echte blikvanger: ds4. Vooral voor mensen die lokaal met modellen spelen, is dat leuk nieuws 🦫
De rest van de update maakt LocalAI gewoon weer wat netter en handiger. Niet schreeuwerig,wel nuttig. En dat is vaak precies het soort update waar je later blij van wordt.