LocalAI: én åpen KI-motor for tekst, tale og bilder

Hva er LocalAI?

LocalAI beskriver seg selv som en KI-motor med åpen kildekode. Den kjører språkmodeller, bildeanalyse, tale, bildegenerering og video på din egen maskinvare. Prosjektet ble startet av Ettore Di Giacinto og vedlikeholdes av LocalAI-teamet.

LocalAI har en liten kjerne. Hver «backend» pakker inn en kjent motor, for eksempel llama.cpp, vLLM, whisper.cpp eller stable-diffusion, og lastes bare ned når en modell trenger den. Ifølge README kan LocalAI blant annet:

• Svare som OpenAI, Anthropic og ElevenLabs: API-et er kompatibelt, så mange eksisterende programmer kan peke mot din egen server i stedet
• Kjøre på det du har: NVIDIA, AMD, Intel, Apple Silicon, Vulkan eller bare CPU
• Håndtere flere brukere: API-nøkler, kvoter per bruker og rollebasert tilgang
• Kjøre KI-agenter med verktøy, RAG og MCP
• Holde dataene hjemme: ingenting trenger å forlate egen infrastruktur

I oktober 2026 kom versjon 4.11.0 med blant annet transkribering av lyd med navn på hvem som snakker.

Hva kan norske bedrifter bruke det til?

• Én intern KI-server for flere verktøy: Programmer som allerede snakker med OpenAI-API-et, kan ofte kobles til LocalAI ved å bytte adresse.
• Sensitive data: Kundedata, HR-saker og kontrakter kan behandles uten at de sendes til en skytjeneste.
• Tale til tekst og tekst til tale på samme server som chatten.

Husk at kvaliteten avhenger av modellen du velger. Test med norsk tekst før dere tar det i bruk.

Slik kommer du i gang

Den enkleste veien er Docker. Denne kommandoen starter LocalAI uten GPU (fra README):

docker run -ti --name local-ai -p 8080:8080 localai/localai:latest

Åpne deretter http://localhost:8080. Har du et NVIDIA-kort, finnes egne bilder, for eksempel localai/localai:latest-gpu-nvidia-cuda-12. Modeller kan hentes fra galleriet:

local-ai run llama-3.2-1b-instruct:q4_k_m

Det finnes også en installasjonsfil for macOS. Se Getting started for alle valg.

Lisens

LocalAI er lisensiert under MIT. Det er en OSI-godkjent lisens som tillater kommersiell bruk, endring og videreformidling. Modellene du laster ned, har egne lisenser. Sjekk dem før bruk.

Hvorfor vi skriver om det

Verktøy som dette er et gjennomgående tema på AI-kanaler som @milesreevesai, @replace.so og @ai.with.andrew på TikTok. Vi kan ikke se videoene direkte, og vi påstår ikke at akkurat dette verktøyet er vist i en bestemt video. Alle fakta i artikkelen er hentet fra prosjektets egen nettside og kildekode, som er lenket under.

Lenker

• Offisiell side: localai.io
• Kildekode: github.com/mudler/LocalAI
• Kom i gang: localai.io/basics/getting_started