Yazılım devi Microsoft, CPU’da çalışabilen bir yapay zekâ modeli geliştirdi. Bu modele BitNet b1.58 2B4T adı verildi. Yapılan açıklamaya göre BitNet, özellikle matematiksel işlemlerde daha az bit kullanarak yapay zekâ modellerinin eğitim ve çalıştırma maliyetlerini düşürmeyi hedefliyor. Standart LLM’ler 16 bit ya da 32 bit sayılarla çalışırken, BitNet 2 bit veya 1 bit “quantization” kullanıyor. Bu sayede hem bellek tüketimi hem de işlem gücü ciddi oranda azaltılıyor. Aynı zamanda enerji verimliliği de sağlayan BitNet altyapısının son üyesi, Microsoft araştırmacıları tarafından geliştirilen BitNet b1.58 2B4T oldu.

Buradaki bağlantıda yer alan ve Apple’ın M2’si dahi çok sayıda işlemcide çalışabilen, yani özel bir GPU’ya ihtiyaç duymayan BitNet b1.58 2B4T, testlere göre Meta’nın Llama 3.2 1B, Google’ın Gemma 3 1B ve Alibaba’nın Qwen 2.5 1.5B modellerini GSM8K ve PIQA gibi testlerde geride bırakıyor. 2 milyar parametreye sahip ilk BitNet olduğu belirtilen BitNet b1.58 2B4T, çalışmak için “bitnet.cpp” adı verilen özel bir framework’e ihtiyaç duyuyor.