TorchTPU: kjør PyTorch på Googles TPU-er med få endringer

Hva er TorchTPU?

TorchTPU er Googles programvare for å kjøre PyTorch på Googles egne KI-brikker, TPU-ene (Tensor Processing Units) i Google Cloud. Google kaller det en «native» PyTorch-stakk: Du bruker de vanlige PyTorch-verktøyene og trenger få endringer i koden. Prosjektet er utviklet sammen med PyTorch-teamet hos Meta. Google la det ut som åpen kildekode på GitHub 20. oktober 2026, samtidig med PyTorch Conference 2026.

Ifølge Google fungerer TorchTPU sammen med blant annet vLLM og SGLang (servering av språkmodeller), TorchTitan (trening), Ray, TorchRec og Hugging Face. Med Hugging Face Transformers v5 kan en modell legges på TPU med device_map="tpu". Help Net Security beskriver at du kan feilsøke i eager-modus, der hver operasjon kjøres med en gang, og bytte til torch.compile når du skal kjøre i produksjon.

Hva kan norske bedrifter bruke det til?

• Trene eller finjustere egne modeller i Google Cloud uten å skrive om PyTorch-koden til et annet rammeverk.
• Kjøre språkmodeller i drift med vLLM eller SGLang på TPU i stedet for GPU, hvis det gir lavere pris eller bedre tilgang på kapasitet.
• Sammenligne GPU og TPU på egne arbeidsoppgaver før man binder seg til én leverandør.

Merk: TorchTPU er laget for TPU-ene i Google Cloud, så du trenger tilgang til TPU-kapasitet der. Det er ikke et verktøy for en vanlig PC. For de fleste små bedrifter er det mer aktuelt å bruke ferdige KI-tjenester. TorchTPU passer for team som allerede trener eller drifter modeller selv.

Slik kommer du i gang

README beskriver installasjon med pip (versjon 0.2.0 da vi skrev dette):

pip install torch_tpu==0.2.0 --extra-index-url https://download.pytorch.org/whl/cpu

Prosjektet støtter Python 3.11 eller nyere. README nevner virtuelle maskiner med TPU v6e i Google Cloud som et sted å starte. Google har en egen veiledning for PyTorch på TPU i dokumentasjonen for Cloud TPU. Versjonsnummeret 0.2.0 tyder på at prosjektet fortsatt er tidlig, så test grundig før du flytter noe viktig.

Lisens

TorchTPU er lisensiert under Apache 2.0. Det er en OSI-godkjent lisens som tillater kommersiell bruk. Selve TPU-kapasiteten i Google Cloud er en betalt tjeneste med egne vilkår.

Hvorfor vi skriver om det

Lanseringen ble omtalt i flere KI-nyhetsbrev og teknologimedier 20. og 21. oktober 2026. Vi har ikke tatt fakta fra sosiale medier. Alt i artikkelen er hentet fra Googles kunngjøring, prosjektets README og Help Net Security, som er lenket under.

Lenker

• Kunngjøring: Google Cloud-bloggen
• Kildekode: github.com/google-pytorch/torch_tpu
• Veiledning: PyTorch på Cloud TPU