Taalas, yaklaşık iki buçuk yıl önce kurulan bir şirket, yapay zeka modellerini doğrudan silikona gömmeyi öneren "Hardcore AI" mimarisiyle dikkat çekiyor. Şirket, ilk ürünü olan HC1 adlı ASIC (Application-Specific Integrated Circuit) ile etkileyici bir performans sergiliyor. Bu yaklaşım, GPU'lar yerine tek bir model için özel olarak tasarlanmış çipler kullanarak verimlilik ve performansı artırmayı hedefliyor.

Taalas, Llama 3.1 8B modeli üzerine inşa edilmiş ilk örneğiyle, GPU'lardan 100 kat daha hızlı olduğunu iddia ediyor. Maliyet açısından, Llama 8B için milyon token başına 0,75 cent gibi düşük bir maliyet sunulması, veri merkezleri için önemli bir maliyet avantajı sağlayabilir. Enerji tüketimi de dikkat çekici; Taalas sistemleri, 12-15 kW arasında çalışırken, bir GPU rafı 120 ila 600 kW arasında güç tüketebiliyor.

Ancak Taalas'ın mimarisi, veri merkezlerinde esneklik eksikliği gibi handikaplara sahip. Her model için ayrı bir çip kullanmak, operasyonel karmaşıklığı artırabilir. Ayrıca, model güncellemeleri konusunda belirsizlikler mevcut. Büyük dil modelleri genellikle sık güncellemeler alırken, Taalas'ın bu güncellemeleri ne kadar hızlı yapabileceği henüz kesin değil.

Büyük oyuncular, klasik AI çiplerine önemli yatırımlar yapmış durumda ve Taalas'ın yaklaşımının pazar tarafından hemen benimsenip benzemeyeceği belirsiz. Ancak, Taalas'ın yenilikçi yaklaşımının ilgi çekici olduğu ve benimsenmesi durumunda sektör dinamiklerini değiştirebileceği belirtiliyor.