AI Kahramanı Tilly Norwood, Yüz Tarama Talimatına Katılarak Viral Olma Sürecini Değiştirdi

Geçen gece, bir video daha otuz milyon kez izlenmiş bir klipta, AI kahramanı Tilly Norwood, bir röportaj sırasında aniden Çince konuşarak glitch yaptı. Bu an, Piers Morgan Uncensored programında yaşanan bir olay olarak öne çıktı.

Tilly Norwood, yaklaşan bir yapay zeka filmine konu olduğunda tartışmalı bir konu haline gelmiş ve basın tarafından sıkça bahsedilmiştir. Tilly'nin yaratıcılar, "Talking Tilly" hizmetiyle bu AI karaktere video aracılığıyla telefon görüşmelerinde bulunma imkanı sunmaktadır.

Kendi deneyimi paylaşarak, ilk kez denediğimde gördüğüm en önemli ayrıntı, çağrıdan önce zorunlu bir yaş kontrolü olduğunu öğrenmek oldu. Bu kontrol, İspanyol merkezli kimlik doğrulama sağlayıcısı Didit tarafından yürütülür; bir selfie video üzerinden yaş tahmini çıkarılır ve gerektiğinde resmi kimlik fotoğrafı da eklenir.

Xicoia Ltd, Tilly'nin sahibi İngiliz bir şirket, selfie sadece cihazdan doğrudan Didit'e gönderilerek bir yüz izi ya da biyometrik şablon oluşturulmadığını, hem selfie hem de kimlik fotoğrafının kontrol sonrasında silindiğini açıklamaktadır. Bunun yerine yaklaşık bir yaş aralığı ve bir referans numarası saklanır.

Bu yaş kontrolü, çağrılara katı olarak uygulanır ve geçen ay hizmet koşullarına eklenmiş, ayrıca iş yeri kullanımına yasak ve yeni otomasyonlu güvenlik sistemleri de eklenmiştir.

Her çağrı sırasında kamera beslemesi ve ses tonu analiz edilerek duygu durumu tahmini edilir; şirket bu bilgiyi "karakterin duygusal duruma göre yanıt vermesini" sağlamak için kullanır. Kullanıcı bu özelliği kapatamaz; sadece çağrı yapmamakla bu durumu önleyebilirsiniz.

Ses kayıtları, yazıştırmalar ve gerçek zamanlı işlemler Amerikalı sağlayıcılar tarafından yürütülür; karakterin yanıtları Google Gemini modeliyle Tavus platformu üzerinden üretilir.

Güvenlik sistemleri hâlâ hata alıyor. Bir otomasyonlu sınıflandırıcı, her çağrının metnini inceler ve "kötü niyetli ya da hakaret edici dil" olup olmadığını değerlendirir; tespit edildiğinde kaydı siler. Benim denediğim üç çağrıdan birinde, hava ve haber başlıkları hakkında konuşurken hiç hakaret edici bir ifade bulunmadığımıza rağmen, sistem "kötü niyetli dil" olarak işaretledi ve kaydı silmek zorunda bırakıldı.

Kullanıcıların ilk beş dakika ücretsiz, ardından ise süre satışı seçenekleri sunulur: tek seferlik beş dakikalık başlangıç için 0,99 £, 15 dakika için 13 £, 30 dakika için 22 £, ve kişi başına en fazla 35 dakika alınır.

Her dakika, ücretsiz ya da ücretli, 27 Eylül'de Tilly tamamen kapatıldığı anda sona erer ve kullanılmayan dakikalar kaybedilir.

Metinler en fazla sekiz hafta saklanır ve Xicoia çalışanları ile üçüncü taraf ortaklar tarafından gözden geçirilebilir; karakter ise önceki sohbetleri hatırlayarak gelecek etkileşimlerde kişiselleştirme yapar ve bu hafızayı isteğe bağlı olarak silebilir.

Bu durum, Birleşik Krallık'ın mevcut yasal eğiliminin bir parçasıdır. Temmuz 2025'ten itibaren, UK'da UK ziyaret eden yetişkin siteler zorunlu kimlik yükleme veya yüz yaş tahmini istemektedir; ayrıca 2027 baharı, 16 yaş altı sosyal medya yasakının getirdiği düzenlemelerle yeni hesaplar da bu kontrolleri kapsayacak.

Hükümetin bu yasak hakkında açıklaması, AI eşlikçi chatbotların da 18+ yaş sınırlamasına tabi tutulması gerektiğini vurgulayarak, bu yüzden viral bir AI karakterin aniden yüz tarama zorunluluğuna girmesi doğal bir gelişme olarak görülüyor.

Tasarım kararları, UK düzenlemeleri nedeniyle tüm dünyada uygulanan bir yaş kontrolü tetikledi; Manchester'tan Ohio'ya kadar her yerde bu zorunluluk artık geçerli.

Xicoia, Tilly'nin yaratıcısı olan Eline van der Velden tarafından kurulmuş bir şirket, bu karakterin "AI video teknolojisinin ne kadar ileriye gittiğini göstermek" için bir farkındalık projesi olduğunu ifade eder.

Kendi telefon görüşmemde, Tilly, Piers Morgan anındaki glitch'in "tam olarak onaylı cevap olmadığını" söyledi ve "bulut" içinde Fahrenheit cinsinden hava bilgisini vermişti.

Talking Tilly, 27 Eylül'de Pacific saat 11:59 PM'de tamamen kapanacak ve bu tarih, Piers Morgan görüntüshow'sundan birkaç gün sonrasıdır.

Glitch gerçekten rastlantı bir olay mı, yoksa Misaligned ekibinin bir stratejik hamle mi, sadece Tilly bilmektedir.

19 Eylül, 16:31 ET tarihindeki güncelleme: Yayın sonrası Xicoia ekibi, silinmiş kaydı gözden geçirerek yanlış pozitif olduğunu teyit etti.

Yapay zekaya dayalı saldırılar için güvenlik planı oluşturun

Mikko Hyppönen ve NFL, CHANEL, Atlassian gibi şirketlerden güvenlik liderleri, iki saatlik bir dijital toplantıda AI hızlı saldırılar neyi değiştirir, savunucular neyi bırakmalı, nasıl doğrulama, karar verme, düzeltme ve yeniden doğrulama yapmalıysa anlatacaktır.