text size
Microsoft je predstavio BitNet b1.58, novi open-source veliki jezični model (LLM), optimiziran za učinkovitost umjesto za veličinu. U industriji kojom već dugo dominiraju sve veći AI modeli, BitNet najavljuje novu fazu natjecanja: učiniti više s manje. BitNet b1.58 koristi kombinaciju ternarne kvantizacije težina (izražene nulom i dvama jedinicama, pozitivnom i negativnom) i osmobitne kvantizacije aktivacija, što značajno smanjuje računalne zahtjeve modela. Umjesto standardnih 16-bitnih ili 32-bitnih zapisa s pomičnim zarezom, BitNet koristi kompaktnije reprezentacije, omogućujući tako učinkovito izvođenje i na osnovnom potrošačkom hardveru.
.webp){kind=icon}
