Yirmi yılı aşkın süredir otonom sürüşün merkezî vaadi, insanı sürekli cezbedecek kadar yakın ama bir türlü tam anlamıyla erişilemeyecek kadar uzakta duruyor. Elon Musk ve Tesla’daki mesai arkadaşları, direksiyonda insan eli, ufka bakan insan gözü olmadan yollarımızda dolaşan araçların geleceğini istikrarlı biçimde resmetti. Seçili bölgelerde robotaksi konuşlandırmalarına dair son duyurular, bu çağın kimi şüphecilerin beklediğinden daha hızlı yaklaşmakta olduğunu düşündürse de, tüketici açısından bugünün gerçeği hâlâ “denetim”e sabitlenmiş durumda. Full Self-Driving (Supervised) adı verilen teknoloji, her an müdahale etmeye hazır, dikkat kesilmiş bir insan ortağı hâlâ zorunlu kılıyor. Ne var ki Çin’den yükselen tuhaf ve potansiyel olarak tehlikeli bir “kestirme”, bu güvene dayalı modelde önemli bir zafiyeti açığa çıkardı: Gösterge paneline yerleştirilen basit bir bebek başı, Tesla’nın sofistike sürücü izleme sistemlerini, aslında kimse yukarı bakmıyorken bile içeride tetikte bir kişinin bulunduğuna inandırabiliyor.
Bu aldatmacanın çalışma prensibi, aracın kendisinin derin bir “anlayış” geliştirmesinden ziyade, mevcut otonom sistemlerin insanın sürece dahil olduğunu nasıl doğruladığındaki belirli sınırlamaları istismar etmeye dayanıyor. Tesla’nın kabin gözetim teknolojisi, direksiyona ya da direksiyon yakınına yerleştirilmiş bir kamerayla sürücünün yüzünü ve gözlerini sürekli tarıyor. Algoritma, bakış yönünü, başın konumunu ve uzun süreli göz kırpma gibi uykululuk belirtilerini tespit edecek şekilde tasarlanmış. Bu biyometrik sinyaller belirli bir süre alınmazsa sesli uyarı devreye giriyor; ardından sürücünün kontrolü yeniden ele almaması hâlinde aracın yavaşlamasına, hatta tamamen durmasına kadar gidebilen kademeli ikazlar geliyor. Çin’deki son raporların işaret ettiği kusur ise, bu doğrulama sürecinin karmaşık davranış analizi ya da canlı olmayan nesneleri ayırt edebilecek kızılötesi biyometrik kimlik doğrulama yerine, büyük ölçüde genel yüz hatlarının görsel tanınmasına dayanıyor gibi görünmesi.
Bu yöntemi deneyen sürücüler, küçük ve gerçeğe yakın bir bebek başını ya da bir manken yüzünü, vantuzlarla veya güçlü mıknatıslarla, sürücü izleme kamerasının tam karşısına gelecek biçimde gösterge paneline sabitlediklerini anlatıyor. Nesne sensörün görüş hattına güvenle yerleştirilip hafifçe yukarı doğru açı verildiğinde, yapay yüz “uyanık bir insan” varmış izlenimini başarıyla taklit ediyor. Araç, bebeğin donuk bakışını canlı bir yolcunun odaklanmış bakışı gibi algılıyor. Sonuç olarak sistem, denetimin aktif olduğuna kanaat getiriyor; direksiyon başında acil bir durumda devralabilecek kimse yokken bile, aracın otonom özellikleri kesintiye uğramadan çalışmayı sürdürebiliyor.
Bu tablo, sürücü bağlılığını doğrularken daha sağlam fizyolojik izleme yerine görsel kontrole yaslanmanın kritik, belki de istemeden doğan bir sonucunu gözler önüne seriyor. Üreticiler, yol koşullarına göre sorumluluğun makine ile insan arasında el değiştirdiği Seviye 3 otonomiye yetişmek için yarışırken, doğrulama protokollerinin basit yüz tanıma şablonlarının ötesine geçmesi şart. Statik bir görüntü ya da cansız bir nesne sistemin mantık kapılarını tatmin edebiliyorsa, “insan denetimi”nin temel varsayımı işlevsel olmaktan çıkıp yanılsamaya dönüşür. Risk sadece sürücülerin üşengeç davranması değil; felaketle sonuçlanabilecek kazaları önlemek için tasarlanan güvenlik ağının, kabin içinde gerçek tehlikeler hissedilir bir varlık tarafından fark edilmeden yaklaşırken, ekrandaki bir onay işaretine indirgenmesi.
Bu kestirmenin Çin’de ortaya çıkması, otonom teknolojinin küresel benimsenme biçimlerine dair hem düzenleyiciler hem mühendisler için ilgi çekici bir vaka sunuyor. Yerel pazar dinamikleri ya da farklı bölgelerde devreye alınan belirli yazılım sürümleri, bu haberlerin önce oradan gelmesini açıklıyor olabilir; ancak aynı zamanda, böylesine basit bir numara bir kez işe yarıyorsa, benzer kamera sistemlerinin kurulu olduğu diğer pazarlarda da aynı mantığın var olma ihtimalini düşündürüyor. Bir kestirmenin çevrimiçi forumlar ve sosyal medya kanalları üzerinden yayılma hızı, hızlı teknolojik iterasyon ortamında güvenlik standartlarını korumaya çalışan otomobil üreticilerinin işini daha da zorlaştırıyor.
Tesla’nın her yıl sürücüsüz bir filoya dair vizyonunu biraz daha yakına taşırken, güncel yazılım güncellemelerinin bu spesifik boşluğu kapattığına dair henüz bir kanıt yok. Hatta denetimde kameraya dayanmaya devam edilmesi, gelecek sürümlerin yalnızca piksel verisine yaslanmadan canlı dokuyu yapay kopyalardan ayırt edebilecek daha karmaşık sensörleri ya da davranış analizi araçlarını entegre etmesi gerekeceğine işaret ediyor. Bu tür önlemler kitlesel pazara sunulan araçlarda uygulanana kadar, Full Self-Driving vaadi, modern gözetim sistemlerinin varsaydığından daha kolay kandırılabilen bir “insan unsuru”na bağlı kalmayı sürdürecek gibi görünüyor.
Kamu güvenliği açısından sonuçlar, bir algoritmayı oyuncakla kandırmanın “eğlenceli” tarafının çok ötesine uzanıyor. Sürücüler, araçları yarı otonom modda çalışırken tamamen devreden çıkabileceklerine inanmaya başlarsa, anlamadıkları ya da güvenmedikleri sistemlere yaslanmak, otomatik sistem eğitim verisinin dışında kalan senaryolarla karşılaştığında ağır sonuçlar doğuracak bir rehavete yol açabilir. Bebek başı, teknoloji gerçek Seviye 5 otonomiye—hiçbir insan denetiminin gerekmediği noktaya—ulaşana kadar, bugünkü “denetimli” sürüş tanımının teknolojik kesinlikten ziyade kullanıcı uyumuna dayandığını çarpıcı biçimde hatırlatıyor.
Elon Musk’ın müdahale olmadan kendi kendine gidebilen otomobil hayali gerçeğe biraz daha yaklaşırken, bu olay teorik kabiliyet ile pratik güvenlik güvencesi arasındaki boşluğu kapatmanın ne denli zor olduğunu da ortaya koyuyor. Yaygın benimseme, rehavete dayalı kazalara dönüşmeden önce otomotiv sektörünün bu izleme mekanizmalarını acilen rafine etmesi gerekiyor. Şimdilik, denetim sistemlerini göstergelere cansız nesneler yerleştirerek aşmaya çalışan sürücüler; garantileri boşa çıkaran, hayatları tehlikeye atan ve mevcut otonom yardım araçlarının ne kadar kırılgan bir zeminde durduğunu ifşa eden bir davranışın içine giriyor.
Bebek başı hikâyesi, yalnızca bir merak unsuru değil; gerçekliği değil desenleri tanımak üzere eğitilmiş makine öğrenimi algoritmalarına duyulan güvenin kırılganlığına dair bir uyarı. Araçların giderek daha fazla “yaşam-ölüm” kararlarını bizim adımıza verdiği bir döneme ilerlerken, bu sistemlerin insanın uyanıklığı ile akıllıca kurgulanmış hileleri ayırt edebilmesini sağlamak, trafikte yol bulma ya da çarpışmadan kaçınma becerilerini geliştirmek kadar önemli olacak. Teknoloji, yüz hatlarını değil bilincin kendisini tespit edecek kadar olgunlaşana dek, direksiyon başındaki hayalet sürücü pek çoğumuz için ihtimal olmaktan çıkıp gerçekliğe dönüşmeye aday.