vLLM’in geliştiricisi Inferact, 150 milyon dolar yatırım aldı

Inferact, 800 milyon dolar değerlemeye ulaşarak 150 milyon dolar yatırım aldı

Yapay zeka dünyasında dikkatler, artık modellerin eğitiminden ziyade bu modellerin nasıl daha hızlı ve ekonomik bir şekilde çalıştırılacağına çevrildi. Bu alanda popüler olan açık kaynaklı proje vLLM’in geliştiricileri, ticari bir boyuta geçerek Inferact adlı girişimlerini kurarak teknoloji dünyasında büyük ses getirdi.

Firma, a16z ve Lightspeed Venture Partners önderliğindeki tohum turunda 150 milyon dolarlık yatırım alarak 800 milyon dolar değerlemeye ulaştı. Bu yeni girişim, yapay zeka modellerinin çıkarım aşamasında yani bir komuta yanıt verirken hızı artırıp maliyeti düşüren temel bir teknoloji olan vLLM’e dayanıyor. UC Berkeley kökenli bu teknoloji, “PagedAttention” gibi inovatif yöntemlerle bellek yönetimini optimize ederek yapay zeka modellerinin daha verimli çalışmasını sağlıyor.

Şirketin CEO’su Simon Mo, vLLM’in şu anda Meta, AWS, Mistral AI, Nvidia ve Google gibi teknoloji devleri tarafından kullanıldığını açıkladı. Mo, Inferact’in amacını “yapay zekayı çalıştırmayı zahmetsiz ve ucuz hale getirmek” olarak tanımladı.

Mo, vLLM’in açık kaynak ruhunu koruyacaklarını ancak kurumsal müşteriler için daha ölçeklenebilir ve destek sunan ticari versiyonlar geliştireceklerini de belirtti. Bu girişim, yapay zeka altyapısı verimliliği yarışında önde gelen oyunculardan biri konumuna geldi.

İlginizi çekebilir