Çinli teknoloji devi Xiaomi’nin elektrikli otomobili SU7, bu kez donanımıyla değil, yapay zeka tabanlı bir güvenlik sistemiyle gündeme geldi. Zhejiang eyaletinde yaşayan Li isimli bir sürücünün yaşadığı sorun, araçta yer alan yorgunluk algılama sisteminin Asyalı anatomisine uygun olmamasından kaynaklanıyor.

Söz konusu sistem, sürücünün göz kapaklarının açıklığını izleyerek uykulu olup olmadığını analiz ediyor. Ancak Li’nin doğal olarak kısık göz yapısı, sistem tarafından “uykulu” şeklinde yorumlanınca sürüş esnasında sık sık sesli uyarılar devreye giriyor, hatta araç hızını otomatik olarak azaltıyor. Sürücü, bu durumu aşmak için gözlerini normalden daha fazla açık tutmak zorunda kaldığını belirtiyor.

Xiaomi müşteri hizmetleriyle temasa geçen Li’ye sistemin kalibre edilebileceği veya tamamen devre dışı bırakılabileceği iletildi. Ancak sistemi kapatmak, araçta sunulan diğer güvenlik unsurlarının da etkisini azaltabileceği için bu çözüm pek cazip görünmüyor.

Evrensel Standartlar, Herkes İçin Uygun Değil

Bu olayın ardından benzer şikayetlerin başka Asyalı sürücülerden de gelmesi, problemin bireysel değil sistemsel olduğunu gözler önüne serdi. SU7’de kullanılan sürücü izleme sistemi, Amerikan kökenli PERCLOS P80 standardına göre tasarlanmış durumda. Bu standart, göz kapakları gözbebeğinin %80’ini örttüğünde sürücüyü uykulu kabul ediyor. Ancak Asyalı bireylerin göz yapısındaki farklılık, bu algoritmayı yanıltıyor.

Olay, yapay zekâ destekli sistemlerin evrensel kabul gören ölçütlere göre değil, bölgesel anatomik farklara göre daha esnek ve kapsayıcı biçimde geliştirilmesi gerektiğini ortaya koyuyor. Zira tek bir güvenlik standardı, farklı coğrafyalarda yaşayan kullanıcılar için beklenmedik ve potansiyel olarak tehlikeli sonuçlar doğurabiliyor.

Daha fazla güncel haberler için Sinetech.tr’yi takip etmeye devam edin.