Radyal Temel Fonksiyon Ağları – Multimedya Bölümü – Multimedya Bölümü Ödevleri – Multimedya Bölümü Tez Yaptırma –Multimedya Bölümü Ödev Ücretleri

Radyal Temel Fonksiyon Ağları

Diğer bir ileri beslemeli ağ türü, radyal temel fonksiyon (RBF) ağıdır. Gizli katmandaki her nöron, aktivasyon işlevi olarak hizmet etmesi için bir RBF (örneğin bir Gauss çekirdeği) kullanır.

RBF ağındaki ağırlıklandırma parametreleri, bu çekirdeklerin merkezleri, genişlikleri ve yükseklikleridir. Çıktı işlevleri, bu RBF’lerin doğrusal birleşimidir (çekirdeklerin yükseklikleriyle ağırlıklandırılmıştır). RBF ağının bir MLP ile aynı evrensel yaklaşım gücüne sahip olduğu gösterilmiştir.

Geleneksel MLP, tüm sınıfların tek bir süper ağda toplandığı, hepsi bir arada ağ (ACON) yapısını benimser. Süper ağın tüm öğretmenleri aynı anda tatmin etme yükü vardır, bu nedenle gizli birimlerin sayısı büyük olma eğilimindedir. Ampirik sonuçlar, gizli birimlerin eğitimi farklı öğretmenlerden gelen (potansiyel olarak çelişkili) sinyallerden etkilendiği için, ACON’un yakınsama oranının ağ boyutuna göre büyük ölçüde düştüğünü doğrulamaktadır.

Buna karşılık, RBF’nin, bir alt ağın yalnızca bir sınıfa atandığı ağda bir sınıf (OCON) yapısını başka bir ağ yapısı türünü benimsemesi doğaldır. Bu iki yapı arasındaki fark gösterilmektedir.

OCON ağındaki her alt ağ, kendi sınıfını diğerlerinden ayırma konusunda uzmanlaşmıştır, dolayısıyla gizli birimlerin sayısı genellikle azdır.

Ayrıca OCON yapıları aşağıdaki özelliklere sahiptir:

• Bireysel alt ağlar için başlangıç ağırlıklarını belirlemek üzere yerel olarak denetimsiz öğrenme uygulanabilir. İlk kümeler, VQ veya K-ortalama kümeleme teknikleri ile eğitilebilir. Küme olasılıkları isteniyorsa, her sınıf koşullu olabilirlik yoğunluğu için maksimum olabilirlik tahminini elde etmek için EM algoritması uygulanabilir.
•OCON yapısı, artımlı eğitim için uygundur (yani, üyeliklerin eklenmesi/çıkarılması yoluyla ağ yükseltme [57, 58]).
• OCON ağ yapısı, dağıtılmış işleme kavramını destekler. Akıllı kartlı biyometrik sistemlere hitap etmektedir. OCON tipi bir sınıflandırıcı, kişisel ayırt edici kodları ayrı sınıf alt ağlarında depolayabilir, bu nedenle karttaki mıknatıs şeridinin, alt ağda yalnızca kart sahibine atanmış olan ağ parametrelerini saklaması gerekir.

Uygulama örnekleri: Başarılı yüz tanıma uygulamaları için “hyperBF” ağı olarak adlandırılan özel bir RBF ağı türü önermiştir. İçinde, ilgili ses bilgisinden video sahnesi sınıflandırması için yararlanılır. Çeşitli ses özelliklerinin, farklı sahne sınıflarının ses özelliklerini ayırt etmede etkili olduğu bulunmuştur. Bu özelliklere dayanarak, bir sinir ağı sınıflandırıcısı, ses kliplerini farklı TV programlarından başarıyla ayırabilir.

Karar Tabanlı Sinir Ağı

Karara dayalı bir sinir ağının (DBNN) iki çeşidi vardır: biri zor karar modeli ve diğeri olasılık modelidir. ADBNNhasamodularOCONağ yapısı: bir alt ağ, bir nesne sınıfını temsil edecek şekilde atanır.

Çok sınıflı sınıflandırma problemlerinde, alt ağların çıktıları (ayırıcı işlevler) birbiriyle rekabet edecek ve en büyük çıktı değerine sahip alt ağ, girdi modelinin kimliğini talep edecektir.

Karar Tabanlı Öğrenme Kuralı

DBNN’nin öğrenme şeması iki aşamaya ayrılmıştır: yerel olarak denetimsiz ve küresel olarak denetimli öğrenme. Amaç, zor tahmin problemini birkaç yerelleştirilmiş alt probleme bölerek basitleştirmek ve ardından ince ayar süreci minimum kaynak gerektirecektir.

• Yerel Denetimsiz Öğrenme: VQ veya EM Kümeleme Yöntemi

Gizli düğümlerin sayısını tahmin etmek için çeşitli yaklaşımlar kullanılabilir veya ilk kümeleme, VQ veya EM kümeleme yöntemlerine dayalı olarak belirlenebilir.
– Zor karar DBNN’de, merkezlerin ilk konumlarını elde etmek için VQ tipi kümeleme (örn., K-ortalama) algoritması uygulanabilir.
– PDBNN olarak adlandırılan olasılıksal DBNN için, her bir sınıf koşullu olasılık yoğunluğu için maksimum olabilirlik tahminini elde etmek üzere EM algoritması uygulanabilir. (Olasılık yoğunlukları mevcut olduğunda, sonraki olasılıkların kolayca elde edilebileceğini unutmayın.)

Aktivasyon fonksiyonu nedir
Aktivasyon fonksiyonu ne ise yarar
ReLU aktivasyon fonksiyonu
Aktivasyon fonksiyonu yapay sinir ağları
Aktivasyon fonksiyonları
Sigmoid aktivasyon fonksiyonu
Relu Fonksiyonu Nedir
Softmax aktivasyon fonksiyonu

• Küresel Denetimli Öğrenme

Bu başlangıç koşuluna bağlı olarak, karar sınırlarına daha fazla ince ayar yapmak için karara dayalı öğrenme kuralı uygulanabilir. DBNN öğrenme şemasının ikinci aşamasında, öğrenme sürecinin amacı maksimum olabilirlik tahmininden minimum sınıflandırma hatasına doğru değişir.

Sınıflar arası ortak bilgi, karar sınırlarına ince ayar yapmak için kullanılır (yani, küresel olarak denetlenen öğrenme). Bu aşamada DBNN, ağ parametrelerini ayarlamak için güçlendirilmiş-anti-güçlendirilmiş öğrenme kuralını veya ayrımcı öğrenme kuralını uygular. Bu eğitim aşamasında yalnızca yanlış sınıflandırılmış modeller yer alır.

DBNN, OCR ve doku sınıflandırması ile yüz ve avuç içi tanıma problemleri gibi birçok örüntü sınıflandırma problemi için etkili bir sinir ağıdır. Etkileşimli insan-bilgisayar görüşü için son zamanlarda DBNN’ye dayalı modüler bir sinir ağı ve model tabanlı bir sinir ağı önerilmiştir.

Uzman Karışımı

Uzman karışımı (MOE) öğreniminin, çözümleri eğitilebilir geçitleme kullanılarak dinamik olarak tutarlı bir bire entegre edilen daha küçük ve modüler hale getirilmiş eğitilebilir ağlar (yani uzmanlar) tarafından büyük ve karmaşık bir görevi etkili bir şekilde çözme becerisi nedeniyle daha iyi performans sağladığı gösterilmiştir. ağ. Belirli bir x girdisi için, K uzmanı kullanılarak x verilen y sınıfını oluşturmanın sonsal olasılığı hesaplanır.

Burada y bir ikili vektördür, φ bir parametre vektörüdür [v, θi ], gi uzman çıktılarını ağırlıklandırma olasılığıdır, v geçitleme ağı için parametrelerin bir vektörüdür, θi i’inci için parametrelerin bir vektörüdür uzman ağı (i = 1,…,K) ve P(y|x,θi) i. uzman ağının çıktısıdır.

Geçitleme ağı, doğrusal olmayan bir sinir ağı veya doğrusal bir sinir ağı olabilir. Doğrusal yolluk ağ çıkışını elde etmek için softmax işlevi kullanılır.

MOE için öğrenme algoritması, parametreleri tahmin etmek için maksimum olabilirlik ilkesine dayanmaktadır (yani, verilen eğitim setinin olasılığının en yüksek olduğu parametreleri seçin). Gradyan yükselme algoritması, parametreleri tahmin etmek için kullanılabilir.

MOE, her biri girdi uzayının belirli bir bölümünde sınıflandırma görevlerini yerine getiren bir dizi “uzmanın” çıktılarının, her bir bölümün olasılığını modelleyen bir “geçitleme” ağı tarafından olasılıksal bir şekilde birleştirildiği modüler bir mimaridir. Girdi alanının yüzdesi nihai ağ çıktısını oluşturur.

Her bir yerel uzman ağı, her modelin yalnızca bir sınıfı temsil ettiği K’dan bağımsız bir binom modeli veya tüm sınıflar için bir çok terimli model kullanarak K sınıfları üzerinde çok yollu sınıflandırma gerçekleştirir.

Makale Deniz

Biyografinin Tamamını Gör