Moderne AI-arkitektur

Bygget for norsk språk, europeisk datasuverenitet og virksomhetskontroll.

Od1n er bygget på en moderne Transformer-arkitektur og trenes med fokus på stabilitet, skalerbarhet og språklig kvalitet.

Dette er ikke en tilpasset versjon av en eksisterende modell – Od1n trenes fra scratch på norske og nordiske data.

Tekniske kjennetegn

  • 3 milliarder parametere – trent fra scratch på norske og nordiske data
  • Transformer-basert arkitektur
  • Grouped-Query Attention (GQA) for effektivitet
  • RoPE (Rotary Position Embedding)
  • SwiGLU aktivering
  • FlashAttention for rask inferens
  • Kontekstlengde: 2048 tokens
  • Tokenizer: egen norsk byte-BPE, ca. 50 000 vokabular (låst og verifisert)
  • Gated treningsløp med kontinuerlig kvalitetskontroll

Spesifikasjoner

Od1n V5 – norsk grunnmodell

Felt
Od1n V5
Parametere
3 milliarder
Treningsdata
Norsk og nordisk – fra scratch, ikke finjustert utenlandsk modell
Kontekst
2048 tokens
Arkitektur
GQA, RoPE, SwiGLU, FlashAttention
Tokenizer
ca. 50 000 vokabular (egen norsk byte-BPE, låst og verifisert)
Status
Pretrening fullført (sjekkpunkt 28 640) – en ekstra sluttpuss ga ingen målbar forbedring og er ikke brukt

Nr. 3 av 7 i vår norske BPB-måling

I vår interne måling av norsk tekst (bits-per-byte) ligger Od1n 3B foran modeller opptil 3× så store. På oppgavetester (NorEval) er Qwen2.5-3B og NorMistral-modellene fortsatt bedre på leseforståelse og kode.

De to NorMistral-modellene scorer høyere på totalen – men de er 2–4× større. I denne målingen ligger Od1n 3B foran alle de internasjonale modellene, og foran NorMistral-7B på norsk offentlig forvaltning.

Modell
Størrelse
Norsk-score
NorMistral-11B
11B
0,541
NorMistral-7B
7B
0,627
Od1n 3B
3B
0,632
Gemma-2-9BGoogle
9B
0,657
Llama-3.1-8BMeta
8B
0,703
Mistral-7B
7B
0,839
Qwen2.5-3BAlibaba
3B
0,894
7B

Od1n (3B) slår NorMistral-7B – en modell over dobbelt så stor – på norsk offentlig forvaltning.

~29 %

bedre norsk-score (lavere bits-per-byte) enn Qwen2.5-3B, som er like stor.

3B

Slår Gemma-9B, Llama-8B, Mistral-7B og Qwen-3B – alle like store eller større.

Norsk-score er byte-invariant BPB (bits-per-byte) – lavere er bedre. Byte-invariant måling er tokenizer-uavhengig og gjør sammenligning på tvers av modeller rettferdig. Alle modeller er kjørt med samme evalueringskode og samme kontekst (2048 tokens) på en fersk norsk 2026-korpus (Stortinget, kommunal forvaltning, nynorsk og kode) – publisert etter konkurrentmodellenes treningskutt, så den er kontaminerings-fri. Konkurrentene er evaluert som ferdige, publiserte modeller; Od1n er målt ved fullført pretrening (checkpoint 28 640). En ekstra sluttpuss-fase (anneal) ga ingen målbar forbedring og er ikke brukt. Tallene er interne målinger og er ikke tredjeparts-verifisert.

Datagrunnlag

Od1n er trent hovedsakelig på norsk tekst, supplert med engelsk og kode:

  • Offentlig tilgjengelige norske og nordiske kilder, blant annet store åpne nettkorpus.
  • Lisensene i datagrunnlaget er ikke juridisk gjennomgått ennå.
  • Norsk-tungt grunnlag som gir sterk forståelse av norsk språk og forvaltning.
⚡

GPU-akselerert

GPU-akselerert trening og inferens for optimal ytelse.

🔒

Data i EØS

Kan driftes på servere innenfor EØS (Hetzner, Finland). All data forblir i Europa.

🔌

OpenAI-kompatibelt API

OpenAI-kompatibelt API-format for enkel integrasjon.

🏢

On-premise

Egnet for on-premise og private sky-løsninger.

Interessert i Od1n?

Ta kontakt for å diskutere hvordan Od1n kan tilpasses dine behov.

Kontakt oss