Lokale språkmodeller · ca. 2 min lesing

llamafile: kjør en språkmodell fra én enkelt fil

llamafile pakker en språkmodell og alt som trengs for å kjøre den i én kjørbar fil. Prosjektet fra Mozilla.ai gjør det enklere å teste åpne modeller lokalt uten installasjon.

Hva er llamafile?

llamafile lar deg distribuere og kjøre store språkmodeller med én fil. Prosjektet kombinerer llama.cpp med Cosmopolitan Libc. Resultatet er en kjørbar fil, en «llamafile», som ifølge README kjører lokalt på de fleste operativsystemer og prosessorarkitekturer uten installasjon.

Filen kan inneholde selve modellvektene i tillegg til programmet. README sier at prosjektet nå er fornyet av Mozilla.ai, som et Mozilla Builders-initiativ for å gjøre åpne språkmodeller mer tilgjengelige for både utviklere og vanlige brukere.

Hva kan norske bedrifter bruke det til?

Et foreslått eksempel er å la en kollega prøve en lokal språkmodell på en vanlig PC uten å installere noe. Et annet er en enkel demo på et møte der ingen data skal sendes ut av huset. Siden alt ligger i én fil, er det også lett å holde styr på hvilken versjon som ble testet.

Lokale modeller er som regel mindre enn de store skytjenestene. Svarene kan være dårligere, særlig på norsk, og hastigheten avhenger av maskinen. Test med egne eksempler før du bestemmer deg.

Slik kommer du i gang

  1. Last ned en av eksempelfilene som er lenket i README.
  2. På macOS og Linux: gjør filen kjørbar med chmod +x og start den.
  3. På Windows: gi filen endelsen .exe før du kjører den.
  4. Følg instruksjonene i terminalen og prøv noen spørsmål.

README advarer om at Windows bare kan kjøre filer under 4 GB. Større llamafiles virker derfor ikke direkte på Windows. Last bare ned filer fra kilder du stoler på, siden du kjører et program.

Lisens

LICENSE-fila i repoet sier Apache 2.0, med opphavsrett for Mozilla Foundation. Det er en OSI-godkjent lisens som tillater kommersiell bruk. Merk at lisensen gjelder programvaren. Modellvektene som pakkes inn, har sin egen lisens, og den må du sjekke for hver modell. README omtaler ikke lisensene til modellene.

Hvorfor vi skriver om det

llamafile er kanskje den enkleste måten å vise noen hva en lokal språkmodell er. Ingen installasjon, bare én fil. Vi kan ikke lese TikTok direkte og har ikke bekreftet omtale hos bestemte KI-kanaler. Alt faktastoff her er hentet fra prosjektets egen dokumentasjon, repo og LICENSE-fil.

Lenker

Kilder

Opplysningene er hentet fra kildene over 7. november 2026. Lisens, funksjoner og installasjon kan ha endret seg siden.

← Alle artikler om åpen kildekode