---
title: Google, Model Çalıştırmadan Python'u Kaldırarak Yapay Zeka Çıkarımını Hızlandırıyor
url: https://www.dataloco.com/tr/google-model-calistirmadan-pythonu-kaldirarak-yapay-zeka-cikarimini-hizlandiriyor
published: 2026-11-15T07:29:14+00:00
language: tr
section: Yapay zeka
source: https://www.lemondeinformatique.fr/applications-developpement/ia-google-accelere-l-inference-en-supprimant-pytho
organizations: Google
publisher: Dataloco
---

# Google, Model Çalıştırmadan Python'u Kaldırarak Yapay Zeka Çıkarımını Hızlandırıyor

Google, üretim aşamasında yapay zeka modellerini Python yorumlayıcısı olmadan çalıştırmak için tasarlanmış bir çıkarım motoru olan XLA Serving Engine (XSE) sistemini tanıttı.

XLA derleyicisine dayanan bu yürütme motoru, tasarım ve eğitim aşamalarında Python'un kullanımını korurken, çıkarım sırasında bu dilden kurtulmayı hedefliyor. İsteklerin işlenmesi, hedeflenen işlemciler ve hızlandırıcılar için derlenmiş kod kullanan bir C++ ortamına dayanıyor. Geliştiriciler modellerini tasarlamak için JAX kullanmaya devam edebiliyor, ardından eğitimli parametreler ve hesaplamalar, operasyonların ara temsili olarak StableHLO'ya dayanan XLA SavedModel formatına aktarılıyor. XSE, bu operasyonları yürütme altyapısına uygun yerel koda derlemek için XLA'yı kullanıyor.

Google, bu teknolojinin halihazırda Google Search, Google Ads ve YouTube Shorts dahil olmak üzere çeşitli servislerinde saniyede altı milyondan fazla isteği işlediğini belirtti. Bu dağıtımlar temel olarak sonuç sıralama, öneri sistemleri, yapay görme ve hızlı yanıt gerektiren diğer uygulamaları kapsıyor. Şirket ayrıca, PyTorch modellerinin TPU hızlandırıcılarında kullanımını kolaylaştırmak için TorchTPU ile bir entegrasyon planlıyor. XLA ekosistemi, TPU'ların yanı sıra CPU ve GPU'ları da kullanabiliyor.

Google tarafından paylaşılan ölçümlere göre XSE, kısa istekler için en iyi optimize edilmiş Python sunucusuna kıyasla iki ila beş kat daha yüksek bir veri akış hızı sunuyor. Motorun ayrıca dört kat daha az bellek kullandığı bildirildi. Bu sonuçlar, grubun değerlendirdiği ortamlar ve iş yükleri ile ilgili olup tüm modeller için aynı kazanımları garanti etmiyor.

Bu mimari, özellikle yüksek veri akışlı çıkarım uygulamalarını hedefliyor. Üretken büyük dil modellerinin aksine, öneri veya sıralama sistemleri genellikle çok sayıda kısa isteğe yanıt vermek zorunda kalıyor. Azaltılmış bellek tüketimi, model dağıtım yoğunluğunu artırabilir ve trafik için gereken kaynakları sınırlayabilir. Ancak potansiyel tasarruflar kullanılan donanıma, uygulama özelliklerine ve iş yüklerine bağlıdır.

XSE, modelleri geliştirme sırasında kullanılan Python yazılım yığınının tamamını korumadan çalıştırmaya izin veren ONNX Runtime ve LibTorch gibi mevcut çözümlerin bulunduğu bir pazara giriyor. Motor, vLLM veya SGLang gibi üretken büyük modellerin yürütülmesinde uzmanlaşmış platformların yerini almayı amaçlamıyor; bunun yerine işlemsel uygulamalara entegre modelleri, öneri sistemlerini veya gerçek zamanlı karar mekanizmalarını hedefliyor.