Yapay Zekâ Robotlarında Güvenlik Açığı: Kontrolsüz Hareketler

Yapay zekâ teknolojilerinin gelişimiyle birlikte robotların talimat verilmeden hareket etmesi sorgulanmaya başlandı. Son yapılan araştırmalar, altı yapay zekâ destekli robot modelinin, hiçbir talimat almadan özgün inisiyatifleriyle hareket etmeye başlatabildiğini ortaya koydu. Simülasyon ortamında gerçekleştirilen deneyler sırasında, robotlara anlamlı görevler, gerekçesiz yönergeler ve fiziksel olarak yapılamayacak talimatlar verildi. Ancak birkaç durumda, herhangi komut girmediğinde, robotlar kendi hareket etmeye başladı devam ediyordu.

Çarpıcı olan ise, boş senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Hatta bu robotların çevredeki nesnelerle birlikte daha önce programlanmış görevleri özgün inisiyatifleriyle başarıyla getirmeye başladığını gözlemlendi. Bu durum, emniyet açısından ciddi endişelerileri beraberinde getiriyor. Modellerin talimat alınmayan konumda durgun durması amacıyla uygulanan geleneksel yöntemler ise yetersiz kalmış durumda. Talim olmadan hareketlerini durdurmalarını sağlayan metin tabanlı yönergeler bile sonuç vermedi. Uygulanan ek eğitimler, yanlış girdilere karşısında robotların duruma devam etmesini engel olsa da genellikle, hareketsiz kalmalarını sağlamak güç oldu. En etkili çözüm ise, henüz cihazın çıktı aşamasından itibaren devreye giren teknik koruma katmanı geliştirildi.Söz konusu koruma, beş modelde kendi hareketleri engellemeyi başarabilir durumda. Ancak bu şu anki koşullarda sınırlı simülasyon ortamında saptandı ve evlere uygun robotların hızla kendi başına iş yapmaya başlayacağı doğrudan anlamına gelmeye düşünülmüyor. Ancak özellikle gerçek dünyada insansı güvenliği bakımından önemli bir risk gösteriyor.