#42 - OLMo: De Fleste Open Source LLM’er er Ikke Open Source

Mange virksomheder, der udgiver LLM'er på Hugging Face, taler om, at deres modeller er "open source". Mange mener dog, at disse modeller ikke er open source, da essentielle komponenter som f.eks. kildekoden og datasættet, som modellerne er trænet på, ofte ikke er frigivet sammen med modellen. Allen Institute for AI har dog lige udgivet deres open source LLM-serie "OLMo", som står for Open Language Model, hvor de er gået efter at dele så meget som muligt, altså ikke bare modelartefaktet, men også kode, data, logs og hele molevitten. OLMo https://huggingface.co/allenai/OLMo-7B https://huggingface.co/datasets/allenai/dolma https://arxiv.org/abs/2402.00838 Open Source Initiative https://opensource.org/osd/ https://opensource.org/licenses/ Dansk Data Historisk Forening https://datamuseum.dk/