Er vindt een opvallende verschuiving plaats in de manier waarop organisaties AI consumeren. Volgens Vercel-CEO Guillermo Rauch groeiden open-weight-modellen tussen juni en augustus van 28,4 procent naar 62 procent van het tokengebruik op de AI Gateway van Vercel. Hij beschreef 22 augustus als een recorddag. In slechts enkele maanden tijd gingen open-weight-modellen van een minderheidsaandeel […]
NCP-ArchPreview introduceert Next Concept Prediction (NCP), waardoor taalmodellen in staat zijn om multi-token concepten te voorspellen naast individuele tokens. Het model met 8,9 miljard parameters is getraind op 5,73 biljoen tokens en bereikt het uiteindelijke pre-trainingsverlies van OLMo-3-7B met slechts 51,3% van de trainings-tokens. Het behaalt een 1,95× snellere convergentie en verbetert de downstream-prestaties met […]