Yerel olarak çalıştırılan dil modelleri, yazılım tanımlı araç yapay zeka özelliklerini OEM’lerin ölçeklendirmesinde pahalı hale getiren bulut maliyetlerini azaltabilir FEV, kalıcı bir internet bağlantısı olmadan ses, metin ve jest etkileşimini mümkün kılan, Nvidia donanımında çalışan küçük dil modellerini kullanan araçlara üretken yapay zeka yeteneklerini yerleştirmek için Microsoft ile ortaklık kurdu. İşbirliği, Microsoft’un Nvidia DRIVE AGX hesaplamasındaki Phi-4-mini talimat modeline odaklanıyor ve gösterge paneli ayarları gibi araç işlevlerinin yerel olarak sesli komutla yapılandırılmasına olanak tanıyor. Bu yaklaşım, buluta bağımlı büyük dil modelleri (LLM’ler) yerine gömülü küçük dil modellerini (SLM’ler) tercih ederek, sınırlı bağlantı veya bağlantının olmadığı durumlarda merkezi işlevleri kullanılabilir tutarken, yazılım tanımlı araç işlevlerini ölçeklendiren OEM’ler için arka uç altyapı maliyetlerini azaltır. SLM’ler ayrıca bağlantı kesintiye uğradığında bulut tabanlı LLM’ler için yerel yedekleme zekası görevi görür. FEV, şu anda demo araçlarda test edilen teknolojiyi gösteren ve bu yılın ilerleyen dönemlerinde seriye yakın uygulamaların beklendiği bir gösterge paneli yapılandırıcısı üretti. İncelenmekte olan uygulama alanları arasında Otomotiv Mühendisleri Derneği’nin 3 ila 5. düzeylerinde otomatik sürüş, sürücü ve yolcu izleme ve kişiselleştirilmiş insan-makine arayüzü konfigürasyonu yer alıyor. FEV Akıllı Mobilite ve Yazılım Grup Başkan Yardımcısı Thomas Hülshorst yaptığı açıklamada şunları söyledi: “Microsoft ve Nvidia ile olan işbirliğimiz, küçük, verimli dil modellerinin araç içi deneyimleri nasıl dönüştürebildiğini, daha büyük sistemlerin ek yükü olmadan güçlü işlevsellik sunabildiğini gösteriyor.” Microsoft Mühendislikten Sorumlu Başkan Yardımcısı Boris Scholl şunları ekledi: Bu neden önemli: Çevrimdışı yetenek, SDV mimarisinde rekabet açısından fark yaratan bir unsur haline geliyor. Bulut LLM’lere güvenmek yerine yerel olarak çalışan küçük dil modellerine geçiş, OEM’lerin kabul etmekte yavaş kaldığı yapısal bir güvenlik açığını ele alıyor: AI işlevleri bağlantı olmadan bozulan bir aracın, düzensiz altyapıya sahip pazarlarda daha zor satılması ve gecikmenin önemli olduğu güvenliğe bitişik uygulamalarda bir sorumluluk olması. Arka uç maliyetinin azaltılması, kullanıcının karşılaştığı faydalar kadar ilgi çekici olabilir. Milyonlarca bağlı araçta bulut LLM çıkarımını ölçeklendirmek pahalıdır; Karmaşık sorgular için bulut çağrılarını ayırırken rutin etkileşimleri yerel olarak yöneten yerleşik SLM’ler, SDV dağıtımının birim ekonomisini, maliyet bilincine sahip OEM’ler arasında benimsenmeyi tek başına herhangi bir yetenek argümanından daha fazla hızlandırabilecek şekillerde değiştirir.
Çok Okunanlar
