LocalAI 4.2.3: lokale AI op je eigen pc

LocalAI v4.2.3: kleine update, kleine stap, wel netjes

localai heeft versie v4.2.3 uitgebracht. Het nieuws is klein, maar duidelijk: er zijn vooral een paar updates in losse onderdelen gedaan en de documentatieversie is bijgewerkt.

Deze release noemt geen grote nieuwe functie. Wat je wel ziet, is dat vier onderdelen zijn aangepakt: whisper.cpp, ds4, de docs-versie en ik_llama.cpp. Ook is er een volledige changelog tussen v4.2.2 en v4.2.3.

Voor wie LocalAI volgt, is dit vooral een onderhoudsupdate. Dus geen vuurwerk, maar wel een verse hut in het bos. 🦫

Wat is hier veranderd?

De release noemt deze wijzigingen:

• ggml-org/whisper.cpp is अपडेट naar 338cce1e58133261753243802a0e7a430118866d
• antirez/ds4 is अपडेट naar f8b4ed635d559b3a5b44bf2df6a77e21b3e9178f
• de docs-versie van mudler/localai is bijgewerkt
• ikawrakow/ik_llama.cpp is अपडेट naar f9a93c37e2fc021760c3c1aa99cf74c73b7591a7

Dat zijn dus vooral versie-updates van losse bouwstenen. De release zegt niet meer dan dat, dus daar moeten we het ook bij houden.

Waarom is dat handig?

Zo’n update lijkt klein, maar het kan toch nuttig zijn. Als een project onderdelen bijwerkt,helpt dat vaak om alles weer netjes op één lijn te houden.

Voor jou als gebruiker betekent het meestal dit:

• je draait een iets nieuwere build
• de docs zijn weer bijgewerkt
• losse onderdelen zijn verser dan in de vorige versie

Dat is vooral fijn als je LocalAI thuis test op je eigen pc of laptop. Je hoeft niet meteen alles opnieuw te leren. Vaak kun je gewoon je bestaande setup houden en alleen kijken of deze release voor jou iets verandert.

Wat zie je als je dit zelf test?

Als je LocalAI gebruikt, zie je meestal niet meteen een grote nieuwe schermknop of een heel andere pagina. Dit type release gaat vooral over onder de motorkap.

Wat je thuis kunt doen:

1. Kijk welke versie je nu draait.
2. Vergelijk die met v4.2.3.
3. Lees de releasepagina en de volledige vergelijking tussen v4.2.2 en v4.2.3.
4. Test of alles nog werkt zoals je gewend bent.

De releasepagina staat hier: https://github.com/mudler/LocalAI/releases/tag/v4.2.3 De vergelijking met de vorige versie staat hier: v4.2.2...v4.2.3

Mini-checklist voor een snelle eigen test

Gebruik dit kleine lijstje als je wilt nagaan of de update voor jou iets doet:

• draait LocalAI al goed op jouw apparaat?
• gebruik je een van de onderdelen die nu zijn bijgewerkt?
• wil je eerst alleen kijken wat er is veranderd?
• heb je genoeg tijd om na de update even een korte proef te doen?

Als je op drie keer “ja” komt, is het slim om de update in een rustige test te proberen. Zo houd je controle, en je voorkomt dat je pas later een fout zoekt. Dat scheelt een hoop beverstress.

Wat is de slimste eerste stap?

De eerste stap is simpel: lees de release en kijk of jouw set-up iets gebruikt uit deze update. Omdat de release zelf geen grote nieuwe uitleg geeft, is het vooral een check-update.

Een handige volgorde is:

• eerst de releasepagina openen
• daarna de volledige changelog bekijken
• dan pas updaten of testen

Zo voorkom je dat je iets installeert zonder te weten wat er is veranderd. Bij kleine releases is dat extra fijn, want dan houd je zelf de regie.

Nog even praktisch: wat kun je er thuis mee?

Als je LocalAI al op je computer hebt staan, is dit een goed moment om een korte proef te doen. Denk aan:

• starten zoals je normaal doet
• kijken of de bestaande functies nog werken
• noteren of er iets anders voelt dan voorheen

Je hoeft daar geen groot plan voor te maken. Een paar minuten testen is vaak al genoeg om te zien of de update voor jou neutraal is of juist handig.

Snel stappenplan

1. Open de releasepagina.
2. Lees de vier genoemde wijzigingen.
3. Kijk of je een van die onderdelen gebruikt.
4. Maak een korte proef.
5. Houd je oude setup bij de hand, voor als je wilt terugvallen.

Waar let je op?

Er staan in deze release geen losse waarschuwingen in de bron die ik mag noemen. Daarom is het beste advies gewoon simpel: test eerst klein.

Let vooral op dit:

• werkt je huidige setup nog?
• is de docs-versie voor jou belangrijk?
• gebruik je een onderdeel dat nu is bijgewerkt?

Als je die vragen rustig langsloopt, weet je snel genoeg of deze versie voor jou de moeite waard is.

Wil je hier nog even mee verder spelen? Kijk dan ook eens naar LocalAI 4.2.1: lokale AI op je eigen pc.

Bevers gedachte

Dit is zo’n release waar je niet meteen groot van opkijkt, maar die wel laat zien dat het project netjes wordt bijgehouden. Voor mensen die LocalAI thuis gebruiken, is dat fijn. Je weet dan dat er aan de basis wordt gesleuteld, zonder dat je eerst door een berg moeilijke tekst hoeft.

Mijn bevertip: kijk eerst rustig wat er is aangepast, en test dan pas. Dat is vaak de slimste route. Zeker bij een kleine update als deze.