Yapay Zeka Tarafından Silahlı Tehdit Olarak Algılanan Cips Paketi Öğrenciyi Zor Durumda Bıraktı

Amerika’nın Maryland eyaletinde bulunan bir lisede, güvenlik için kullanılan yapay zeka sistemi, Taki Allen isimli öğrencinin elindeki cips poşetini “silahlı tehdit” olarak algılayarak büyük bir yanlış anlaşmaya sebep oldu. Okul güvenlik kameralarını izleyen yapay zeka sistemi, Allen’i tehdit olarak algılayınca durumu polise otomatik olarak bildirdi. Allen, aniden etrafı polislerle çevrili bir şekilde kelepçelenmiş olarak buldu kendisini.

Amerika’da ne yazık ki, silahlı saldırılar sıklıkla yaşanan olaylar arasında bulunuyor. Bu sebeple okullar ve güvenlik güçleri, bu tür olayları engellemek adına farklı çözümler arayışında. Ancak yaşanan bu olay, yapay zeka destekli güvenlik önlemlerinin ne kadar tartışmaya açık olduğunu gözler önüne serdi.

Futbol idmanından sonra arkadaşlarını bekleyen Allen, cipsini bitirdikten sadece 20 dakika sonra sekiz polis aracıyla karşı karşıya geldi. Polisler tarafından kelepçelenen Allen’in üzerinde silah bulunamayınca gerçek ortaya çıktı: yapay zeka cips paketini silah olarak algılamıştı. Olayı yaşayan Allen, “Bir cips paketinin silah olarak algılanmasının mantıklı olmadığını” ifade etti.

Olayın ardından okul yönetimi, yapay zeka sisteminin amacının güvenliği sağlamak olduğunu savundu. Ancak Allen’in ailesi ve bazı politikacılar, yapay zeka tabanlı gözetim teknolojilerinin yeniden gözden geçirilmesi gerektiğini dile getiriyor. Gelecekte yapay zeka tabanlı güvenlik önlemleri konusunda daha fazla gelişme ve haberin olacağı tahmin ediliyor. Bu olay, yapay zekanın güvenlik alanında yaygınlaşması ve yanlış kararlarının ne kadar tehlikeli sonuçlar doğurabileceğini bir kez daha göstermiş oldu.