KI-utvikling · ca. 2 min lesing

Outlines: få språkmodellen til å svare i riktig format

Outlines styrer hva en språkmodell kan skrive mens svaret lages, slik at det følger et JSON-skjema, et mønster eller en fast liste med valg. Det gjør svarene enklere å bruke videre i egne systemer.

Hva er Outlines?

Outlines er et Python-bibliotek for strukturert generering. I stedet for å tolke et uforutsigbart svar fra språkmodellen i etterkant, begrenser Outlines hva modellen kan skrive mens svaret lages. Ifølge README-en kan du kreve at svaret følger:

  • et JSON-skjema eller en Pydantic-modell,
  • et regulært uttrykk (for eksempel et datoformat),
  • en fast liste med valg, angitt med Literal,
  • eller en grammatikk for mer sammensatte strukturer.

README-en oppgir støtte for blant annet transformers, llama.cpp, vLLM, Ollama og API-ene til OpenAI og Gemini.

Hva kan norske bedrifter bruke det til?

Når et KI-svar skal brukes av et annet system, er formatet ofte viktigere enn formuleringen. Mulige forsøk:

  • Sortere kundehenvendelser i faste kategorier som «Faktura», «Levering» og «Annet».
  • Hente ut felter som ordrenummer og dato fra fritekst til et fast JSON-objekt.
  • Gi en enkel vurdering av tone i tilbakemeldinger med et fast sett av svar.

Dette er forslag til bruk. At svaret har riktig form, betyr ikke at innholdet er riktig. En kategori kan fortsatt være feil valgt, og et felt kan være fylt med en gjetning. Kontroller derfor et utvalg manuelt.

Slik kommer du i gang

  1. Lag et eget Python-miljø og installer med pip install outlines.
  2. Velg en modell fra dokumentasjonens liste, gjerne en liten lokal modell for testing.
  3. Prøv README-eksempelet med Literal og tre faste valg.
  4. Lag deretter en liten Pydantic-modell med feltene dere trenger, og bruk den som utformat.
  5. Kjør 20 oppdiktede eksempler og noter hvor mange som får riktig innhold, ikke bare riktig form.
from typing import Literal
svar = model("Hva gjelder henvendelsen: 'Fakturaen har feil beløp'?", Literal["Faktura", "Levering", "Annet"])

Hvordan model opprettes, avhenger av hvilken modell du bruker. Se dokumentasjonen.

Lisens

Repoets LICENSE-fil er Apache License 2.0, en OSI-godkjent åpen kildekodelisens. Modellene du bruker sammen med Outlines, har egne vilkår.

Hvorfor vi skriver om det

Vi følger verktøytypen som ofte diskuteres i KI-miljøer og korte videoer. TikTok-kanaler kan ikke kontrolleres direkte her, og vi hevder derfor ikke at en bestemt kanal har omtalt dette prosjektet. Omtalen bygger på prosjektets egne kilder. Vi har kildekontrollert funksjonene, men ikke testet dem på norske tekster.

Lenker

Kilder

Opplysningene er hentet fra kildene over 13. november 2026. Lisens, funksjoner og installasjon kan ha endret seg siden.

← Alle artikler om åpen kildekode