Yapay Zeka Ajanları ve Kubernetes Kontrol Döngüsündeki Rolleri

worm's eye-view photography of ceiling — Joshua Sortino / Unsplash

Yapay zeka ajanları ve Kubernetes operatörleri, kontrol döngüsü içindeki işlevleri bakımından birbirinden farklılaşmaktadır. Kubernetes operatörleri, kodlanmış kurallara göre kaynakları uzlaştırmak, başarısız işlemleri yeniden denemek ve beyan edilen duruma ulaşmak için öngörülebilir şekilde tasarlanmıştır. Yapay zeka ajanları ise istenen sonucun net olduğu ancak izlenecek yolun belirsiz olduğu durumlarda fayda sağlamaktadır. Bu ajanlar, yabancı durumları inceleyebilir, çeşitli sistemlerden bağlam toplayabilir, ödünleşimleri değerlendirebilir ve bir eylem planı önerebilir.

Son on sekiz ay içinde ajan araçları, yan projeler olmaktan çıkıp bulut yerli yığının bir parçası haline gelmiştir. CNCF, ajan çerçevelerini Sandbox alanına kabul etmiş ve Kubernetes SIG Apps, ajan iş yüklerini güvenli bir şekilde çalıştırmak için Ajan Sandbox projesini bir alt proje olarak üstlenmiştir. Platform ekipleri, canlı bir kümede bir ajanın neleri değiştirebileceğine dair kararları genellikle yazılı bir politika olmaksızın, her seferinde tek bir çekme isteği üzerinden vermektedir.

Güvenli bir mimari model, ajanların akıl yürütme ve bağlam sağladığı, operatörlerin ve politika motorlarının ise yürütme kontrolünü elinde tuttuğu bir yapı sunmaktadır. Açık kaynaklı bir CNCF Sandbox projesi olan kagent, bu modelin somut bir örneğidir. kagent, yapay zeka ajanlarını Kubernetes kaynakları olarak çalıştırarak onları Kubernetes, Helm, gözlemlenebilirlik araçları ve özel araçlara bağlamaktadır. Bir ajan; kaynakları inceleyebilir, günlükleri ve olayları alabilir, metrikleri sorgulayabilir, belgeleri danışabilir ve uzmanlaşmış diğer ajanları koordine edebilir.

Bu sistemde, hassas olmayan okuma işlemleri otomatik olarak yürütülebilirken; kaynakların uygulanması, yamalanması veya silinmesi gibi değişiklikler açık onay gerektirmektedir. Bu ayrım, belirsiz bir akıl yürütme sürecine küme üzerinde sınırsız yetki verilmeden geniş bir inceleme yapılmasına olanak tanımaktadır. Operasyonel döngü; gözlemleme, teşhis etme, önerme, onaylama, uzlaştırma ve doğrulama adımlarından oluşmaktadır. İlk üç adım ajan tabanlı akıl yürütmeden faydalanırken, uzlaştırma adımı Kubernetes ve operatörleri tarafından yönetilmektedir.

Karpenter örneğinde, sistemin kendisi zaten bir operatördür ve zamanlama kısıtlamalarını değerlendirerek NodePool ve NodeClaim yapılarını uzlaştırmaktadır. Bu mantığın bir büyük dil modeli ile değiştirilmesi, kontrol döngüsünü daha az öngörülebilir hale getirebilir. Bunun yerine kagent tabanlı bir operasyon ajanı, Karpenter'ın üzerinde çalışarak yapılandırmaları, bekleyen podları ve metrikleri inceleyebilir. Ajan, gözlemlenen davranışın hedeflerden neden farklı olduğunu araştırabilir ve kanıtlara dayalı dar bir yapılandırma yaması önerebilir. Onaylanan yama, Karpenter'ın mevcut mantığıyla uygulanır ve ajan sonucun hedeflenen iyileşmeyi sağlayıp sağlamadığını izler.

Benzer şekilde, Argo CD tarafından yönetilen bir Helm grafiğinin yükseltilmesi sürecinde, ajanlar değişikliğin çalışan uygulamayı nasıl etkileyeceğini açıklamaya yardımcı olabilir. Ajan; sürüm notlarını, mevcut değerleri ve oluşturulmuş manifestoları karşılaştırarak yükseltmenin varsayılan ayarlara geri dönüp dönmeyeceğini belirleyebilir. Bu bulguları, grafik sürümünü ve etkilenen değerleri güncelleyen, operasyonel riski açıklayan ve dağıtım öncesi gerekli kontrolleri tanımlayan odaklanmış bir çekme isteğine dönüştürebilir.