Od1n V5
Norsk grunnmodell (base LLM) trent fra scratch på norske og nordiske data – designet for videre spesialisering gjennom fin-tuning, RAG og agent-baserte løsninger.
- 3 milliarder parametere
- Trent fra scratch – ikke en finjustert utenlandsk modell
- Arkitektur: Transformer med GQA, RoPE, SwiGLU, FlashAttention
- Nr. 3 av 7 i våre interne målinger av norsk tekst (bits-per-byte)
- Foran NorMistral-7B på norsk forvaltningstekst i samme måling