İçerik: Facebook, Karışık Verileri Ele Almak İçin Bir Yapay Zeka Eğitti
Facebook, Karışık Verileri Ele Almak İçin Bir Yapay Zeka Eğitti:Bilgisayarlar, onlara öğrettiğimiz her şeyi hatırlamakta çok iyidir. Normalde sorun değil; tıbbi veya finansal kayıtlarınızı tutan sistemlerin rastgele 1’leri ve 0ları düşürmeye başlamasını istemezsiniz (Tamam, belki de kredi kartı borcunuzu izleyen sistem, ancak bunun dışında). Bununla birlikte, bu sistemler genellikle bilgi kaynakları arasında ayrım yapmaz, yani eşit güçle işlenen her veri biti anlamına gelir. Ancak mevcut bilgi miktarı arttıkça, yapay zeka sistemleri bunun üstesinden gelmek için giderek daha fazla sınırlı bilgi işlem kaynağı harcamalıdır. Facebook araştırmacıları, verilere bir son kullanma tarihi vererek gelecekteki AI’ların daha fazla dikkat etmesine yardımcı olmayı umuyor.
Expire-Span olarak adlandırılır ve sinir ağlarının kendilerine verilen görevlere en uygun bilgileri daha verimli bir şekilde sıralayıp depolamasına yardımcı olmak için tasarlanmıştır. Expire-Span, önce verilen bağlamda hangi bilgilerin ağ için en yararlı olacağını tahmin ederek ve ardından bu veri parçasına bir son kullanma tarihi atayarak çalışır. Expire-Span bir bilginin ne kadar önemli olduğunu düşünürse, o kadar uzağa son kullanma tarihini atar, FAIR’daki araştırmacı bilim adamları Angela Fan ve Sainbayar Sukhbaatar Cuma günkü blog yazısında açıkladılar. Böylelikle sinir ağları, ilgisiz veri noktalarını “unutarak” bellek alanını sürekli olarak temizlerken ilgili bilgileri daha uzun süre saklayabilecektir. Her yeni veri parçası eklendiğinde, sistem yalnızca göreli önemini değil, aynı zamanda onunla ilgili mevcut veri noktalarının önemini de yeniden değerlendirecektir. Bu aynı zamanda yapay zekanın mevcut belleği daha etkili bir şekilde kullanmayı öğrenmesine yardımcı olacak ve bu da daha iyi ölçeklenebilirliğe yol açacaktır.
Unutma eylemi, en azından AI’lar için, bunu yapmanın sağduyulu bir işlem olduğu için zor olabilir. Yapay zekanın kodunu oluşturan 1’ler ve 0’lar gibi, sistem de bir bilgi parçasını hatırlayabilir veya hatırlamayabilir. Bu tür bir ikili sistem için optimizasyon yapmak esrarengiz bir şekilde zordur. Fan ve Sukhbaatar’a göre, bu zorluğun üstesinden gelmek için önceki girişimler, bellekte daha az yer kaplayacak şekilde daha az kullanışlı verileri sıkıştırmayı içeriyordu, ancak bu çabalar, sıkıştırma işlemi bilginin “bulanık sürümlerine” neden olduğu için kısa çıktı.
“Expire-Span, her gizli durum için bilginin sona erme değerini hesaplar, her yeni bilgi parçası sunulduğunda ve bu bilginin bir bellek olarak ne kadar süreyle korunacağını belirler,” diye açıkladılar. “Bazı bilgilerin bu kademeli olarak azalması, önemli bilgileri bulanıklaştırmadan saklamanın anahtarıdır. Ve öğrenilebilir mekanizma, modelin aralık boyutunu gerektiği gibi ayarlamasına izin verir. Expire-Span, verilerden öğrenilen ve çevreleyen belleklerden etkilenen bağlama dayalı bir tahmin hesaplar. “
Araştırma ekibi, araştırmanın ilk aşamalarında olmasına rağmen, “Daha insan benzeri yapay zeka sistemlerine yönelik araştırmamızın bir sonraki adımı olarak, farklı anı türlerini sinir ağlarına nasıl dahil edeceğimizi araştırıyoruz” diye yazdı. Ekip, gelecekte insan belleğine daha da yakın bir yaklaşım geliştirmeyi umuyor, ancak yeni bilgileri mevcut teknolojinin izin verdiğinden çok daha hızlı öğrenme yeteneğine sahip.