LibreChat: én KI-chat for mange modeller, på egen server

Hva er LibreChat?

LibreChat er en nettbasert chattetjeneste som du drifter selv. Utseendet er inspirert av ChatGPT, men du velger selv hvilke språkmodeller den skal snakke med. README nevner blant annet Anthropic (Claude), OpenAI, Azure OpenAI, Google, AWS Bedrock og Mistral. I tillegg kan LibreChat bruke lokale løsninger som Ollama og alle API-er som er kompatible med OpenAI.

Dette trekker README frem:

• Bytte modell midt i arbeidet, fra samme grensesnitt
• Agenter uten koding: lag egne assistenter og del dem med utvalgte brukere og grupper
• MCP-servere som verktøy for agentene
• Kodetolk som kjører Python og flere andre språk i en isolert sandkasse
• Flere brukere med innlogging og tilgangsstyring

Hva kan norske bedrifter bruke det til?

• Én felles KI-chat for de ansatte: Alle får samme verktøy, og bedriften styrer hvilke modeller og leverandører som er tillatt.
• Kostnadskontroll: Bruk egne API-nøkler i stedet for mange enkeltabonnementer, og velg billigere modeller til enkle oppgaver.
• Sensitive data lokalt: Koble LibreChat til en lokal modell via Ollama når teksten ikke skal ut av huset.

Husk at tekst som sendes til en skymodell, behandles av leverandøren. Avklar databehandleravtale og personvern før dere tar det i bruk med kundedata.

Slik kommer du i gang

Dokumentasjonen anbefaler Docker. Du trenger Docker Desktop (eller Docker på en server) og koden fra GitHub:

git clone https://github.com/LibreChat-AI/LibreChat
cd LibreChat
copy .env.example .env
docker compose up -d

På Mac og Linux bruker du cp i stedet for copy. Første oppstart laster ned Docker-bilder og kan ta noen minutter. Deretter åpner du http://localhost:3080, registrerer en konto og legger inn API-nøkkelen til leverandøren du vil bruke.

Lisens

LibreChat er lisensiert under MIT. Det er en OSI-godkjent lisens som tillater kommersiell bruk, endring og videreformidling, så lenge lisensteksten følger med. Språkmodellene du kobler til, har egne vilkår og priser.

Hvorfor vi skriver om det

Egne KI-chatter for bedrifter er et gjennomgående tema på AI-kanaler som @milesreevesai, @replace.so og @ai.with.andrew på TikTok. Vi kan ikke se videoene direkte, og vi påstår ikke at akkurat dette verktøyet er vist i en bestemt video. Alle fakta i artikkelen er hentet fra prosjektets egen nettside og kildekode, som er lenket under.

Lenker

• Offisiell side: librechat.ai
• Kildekode: github.com/LibreChat-AI/LibreChat
• Dokumentasjon: librechat.ai/docs