Gridworld: Mühendislik, yapay zekanın risklerini keşfetmeye yardımcı oluyor

Uzay-zaman, uzayın üç boyutunu (uzunluk, genişlik ve genişlik) zamanın dördüncü boyutuyla birleştiren kavramsal bir modeldir. Bunu yaparak 4 boyutlu geometrik bir nesne oluşturulur. Araştırmacılar son zamanlarda yapay zeka ortamlarını incelemek için benzer düşünceyi kullandılar ve bu da yapay zeka sorunlarının mühendislik açısından benzersiz bir şekilde yeniden çerçevelenmesine yol açtı.

Okinawa Bilim ve Teknoloji Enstitüsü'nde (OIST) doktora mezunu ve misafir araştırmacı olan Dr. Thomas Burns ve Xi'an Jiaotong Üniversitesi-Liverpool'da matematikçi ve OIST'te eski bir doktora sonrası araştırmacı olan Dr. Robert Tang, çalışmak istedi. Yapay zeka sistemlerinin mühendislik açısından özelliklerini daha doğru bir şekilde temsil etmesi. Gromov'un sözde korelasyon durumundaki bir başarısızlık olan “geometrik bir kusurun” ortaya çıkmasının, hareket eden yapay zeka ajanları arasında çarpışma olasılığının olduğu yerle tam olarak ilişkili olduğunu buldular. Bulguları dergide yayınlandı Makine Öğrenimi Araştırmalarına İlişkin İşlemler.

Ağ dünyalarını kullanarak gerçek dünya senaryolarını modelleme

Izgara dünyası, hücrelerin koala gibi tek bir ajan veya plaj topu gibi bir nesne (aşağıdaki videoda gösterildiği gibi) tarafından işgal edilebileceği veya edilmeyebileceği bir ızgara halinde düzenlenmiş kare hücrelerden oluşur. Ağ dünyasındaki aracılar bulmacaları çözecek ve ödüllerin peşinde koşacak şekilde programlanabilir. Izgaradaki bitişik kareler arasında hareket edebilirler ve araştırmacılar, ızgara dünyasında belirli bir konuma ulaşmak gibi belirli hedeflerle görevlendirildiklerinde genellikle onların hareketlerini, planlamalarını ve stratejilerini incelerler.

Gridworlds uzun süredir yapay zeka araştırmalarında, özellikle de satranç ve Go gibi video ve masa oyunlarında dünya şampiyonlarını yenmek için kullanılan takviyeli öğrenmede kullanılıyor. Otonom araç hareketlerinin veya depo robotlarının güvenli koordinasyonu gibi potansiyel gerçek dünya uygulamaları için basit ama ölçeklenebilir modeller sağlarlar.

Izgara dünyasında seçilen bir durumdan başlayarak – Aracı(lar)ın ve nesne(ler)in belirli bir düzenlemesi – İki eyleme izin verilir: Taşı – aracının bitişikteki boş bir hücreye hareket etmesine izin verir ve İt/Çek – aracının Aracının bir nesneyi düz bir çizgide itmesi veya çekmesi.

Bu süreç yeterince tekrarlandığında bir “devlet kompleksi” oluşturulabilir. Durum kompleksleri, bir sistemin olası tüm konfigürasyonlarını tek bir geometrik gövde olarak temsil eder; bu, onları geometri (nesnelerin tam şekliyle ilgili), topoloji (bükülme, esneme gibi deformasyonlar altında korunan uzayların özellikleri) gibi matematiksel araçlar kullanarak inceleyebileceğimiz anlamına gelir. ve sözleşme) ve kombinatorik (şeylerin sayılması ve düzenlenmesi). Araştırmacılar, bu çalışmada oluşturulan vaka komplekslerini oluşturmak ve analiz etmek için kalem ve kağıt matematiği ile özel bir bilgisayar programının bir kombinasyonunu kullandılar.

Dr Burns, “Eski bir atari oyununa benziyor, ancak kapılar, düğmeler ve düşmanlar gibi her türlü şeyi ekleyebilir ve ardından bu daha karmaşık senaryolardan herhangi birinin geometrisi ve topolojisi hakkında düşünebilirsiniz” dedi. “Devlet kompleksini, her biri ağ bağlantılı dünyanın belirli bir yeniden yapılandırmasını temsil eden küpler, kareler ve çubukların birbirine yapıştırıldığı fiziksel bir Lego seti olarak sezgisel olarak düşünebilirsiniz.”

Çarpışmadan önceki an

İki ajan birbirine çok yaklaştığında muhtemelen birbirlerine çarpacaklardır. Bu potansiyel çökmenin bir mühendislik kusuruna işaret ettiği ve ağ bağlantılı bir dünyada meydana gelen her durumda, bir çarpışmanın da olması muhtemel olduğu ortaya çıktı.

İlginçtir ki matematikçiler çoğunlukla böyle bir nesnenin herhangi bir geometrik kusur içermediğini kanıtlamayı amaçlamaktadır. Bunun nedeni, nesneye arzu edilen matematiksel özellikleri veren şeyin bu kusurların yokluğu olmasıdır. Tek bir mühendislik hatası durumunda tüm devlet kompleksi bu faydalarını kaybeder.

“İlk başta hiçbir mühendislik hatası olmadığını göstermek istedik, ancak daha sonra bu küçük rahatsızlıklardan oluşan yığınla bulduk ve bunların belki o kadar da sinir bozucu olmadığını ve belki de önemli bir şeyle bağlantılı olduğunu düşündük. Ve sonuç evet oldu.” Önemli bir şeyle bağlantılılar,” diye vurguladı Dr. Burns. Temel güvenlik kaygıları.

Bilim adamları ayrıca bu geometrik kusurların, bir satranç oyununda iki ajanın bir at hamlesiyle veya bir piskoposun iki adım hamlesiyle ayrıldığı karmaşık durumlarda ortaya çıktığını da kanıtladılar. “Bu kusurların meydana geldiği yegane durumlar bunlardır. Örneğin, gerçek dünyada robotlar potansiyel olarak bir depoda birbirleriyle çarpışabilir veya sürücüsüz arabalar bir kavşakta çarpışabilir. Bu, çarpışma noktası değil, çarpışmanın gerçekleştiği noktadır.” çarpışmadan hemen önce.” “. “Önemli olan çarpışmadır.”

Yapay zekanın pratik uygulamaları

Genel olarak mühendislik kusurları ve mühendislik yöntemleri, mevcut yapay zeka sistemlerine ilişkin anlayışımızı geliştirmemize yardımcı olabilir. Örneğin araştırmacılar, nesneler arasındaki çarpışmaları önlemek için eğitilmiş bir yapay zeka sistemini kullanabilir ve bu geometrik kusurların nerede bulunduğunu tespit etmeye çalışabilir. Bu, bilim adamlarının, insanların ve robotların sık sık etkileşime girdiği destekli yaşam senaryoları gibi yapay zeka sistemlerindeki potansiyel çarpışmaları daha verimli bir şekilde tespit etmelerine yardımcı olabilir.

“Bu sonuçlar, birden fazla aracının bulunduğu yapay zeka ortamlarında garantili güvenlik kısıtlamalarını araştırmak için yeni bir yol sunuyor; bunların koala olmaları gerekmiyor; ev işlerine yardımcı olan, afet bölgelerini keşfeden robotlar veya teslimat hizmetleri için otonom araçlar olabilirler. .” Dr. Burns şunu fark etti.