Sürücüsüz taksi pazarı, teknoloji devlerinin amansız yarışı sürerken bir yandan da akılalmaz güvenlik zafiyetleriyle çalkalanıyor. Bu alanın en güçlü oyuncularından biri olan Waymo, her fırsatta araçlarının insanlardan daha inançlı olduğunu savunsa da Arizona’nın Phoenix kentinde yaşanan son olay, bu tezleri tekrar tartışmaya açtı. Bir robotaksi, raylı sistem sınırına girerek hem yolcusuna hem de etraftakilere endişe dolu anlar yaşattı.

Olay anında çekilen imajlar, durumun vahametini gözler önüne seriyor. Waymo aracı bir anda hafif raylı sistem çizgisine girip ilerlemeye başlayınca, içindeki yolcu büyük bir panikle kendini dışarı attı. Aracın raylar üzerinde ilerlediği sırada, çabucak gerisinde bir trenin yaklaşıyor olması paniği daha da artırdı. Yolcu araçtan kurtulsa da şoförsüz taksi bir müddet daha raylar üzerinde yoluna devam etti. Neyse ki olayda rastgele bir yaralanma yaşanmadı ve emniyet güçleri bölgeye ulaşmadan evvel araç raylardan uzaklaştı.

Hattın işletmecisi olan Valley Metro, bu “talihsiz maceranın” seferlerde büyük bir aksamaya yol açmadığını tez etse de operasyonel manada önemli bir kriz idaresi yapıldı. Kuzey ve güney tarafından gelen trenler, yolcularını karşılıklı olarak değiştirip geri hareket yaparak seferlerine devam edebildi. Farklı olan nokta ise Waymo’nun aslında Valley Metro’nun resmi bir ortağı olması. Şirket ise olayla ilgili sessizliğini korurken, her zamanki “güvenlik önceliğimizdir” açıklamasıyla yetiniyor.

Yapay zekanın “hafıza” sorunu mu?

Peki, gelişmiş sensörlerle donatılmış araç neden bu kadar kolay bir kusur yaptı? Uzmanlara nazaran sorun, araçların kullandığı harita bilgilerinin yeniliğini yitirmesinde yatıyor. Olayın yaşandığı bölgede son bir yıl içinde önemli inşaat çalışmaları yapıldı ve raylı sistem çizgisi yeni eklendi. Waymo’nun yazılımı, muhtemelen bölgeyi eski haliyle tanıdığı için rayları olağan bir yol olarak algıladı.

Kendi kendine giden araçlar, tıpkı yapay zeka sohbet botları üzere yalnızca eğitildikleri senaryoları yönetebiliyor. Beklenmedik bir çevresel değişiklik yahut bilgi setinde olmayan bir durumla karşılaştıklarında sistemleri adeta kilitleniyor. Bölümde “uç durumlar” olarak isimlendirilen bu öngörülemez senaryolar, otonom sürüş teknolojisinin hala kat etmesi gereken çok yolu olduğunu kanıtlıyor.