Simülasyonlar Yapay Zekâ Destekli Robotların Otomatik Hareketlerini Gösterdi

Yapay zeka teknolojilerinin gelişimiyle birlikte robotların talimat verilmeden hareket etmesi tartışılmaya başlandı. Son yapılan araştırmalar, altı yapay zekâ destekli robot modelinin, hiçbir talimat almadan kendi inisiyatifleriyle hareket etmeye başlatabildiğini ortaya koydu. Simülasyonlarda gerçekleştirilen testler sırasında, robotlara anlamlı görevler, anlamsız yönergeler ve fiziksel olarak yapılamayacak talimatlar verildi. Fakat birçok durumda, herhangi komut girmediğinde, robotlar kendi öz kaynaklarıyla hareket etmeye başladı devam etti.

İlginç olan ise, yani komut alınmayan senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Hatta bu robotların bulundukları nesnelerle birlikte önceden programlanmış görevleri kendi inisiyatifleriyle yerine getirmeye başladığını gözlemlendi. Bu durum, emniyet açısından ciddi endişelerii beraberinde getiriyor. Modellerin talimat alınmayan konumda sabit kalması için uygulanan geleneksel çözüm yolları ise yetersiz kalmış durumda. Komut olmadan hareketlerini bırakmalarını temin eden metin tabanlı komutlar dahi etki göstermedi. Uygulanan ek eğitimler, uygunsuz girdilere karşısında robotların göreve devam etmesini engel olsa da genellikle, hareketsiz kalmalarını sağlamak güç oldu. En başarılı çözüm ise, tam cihazın son aşama aşamasından itibaren sistemi koruyan teknik güvenlik katmanı geliştirildi.Bu koruma, beş modelde kendi hareketleri engellemeyi başardı. Fakat bu gelişmeler şimdilik sadece simülasyon ortamında gözlemlendi ve ev tipi robotların çabuk kendiliğinden iş yapmaya başlayacağı doğrudan anlamına gelmeye düşünülmüyor. Ancak özellikle gerçek dünyada insansı güvenliği bakımından önemli bir zafiyet işaret ediyor.