"Üçüncü Nesil Nöral Ağlar: Derin Ağlar" makalesi için tartışma - sayfa 4
Alım-satım fırsatlarını kaçırıyorsunuz:
- Ücretsiz alım-satım uygulamaları
- İşlem kopyalama için 8.000'den fazla sinyal
- Finansal piyasaları keşfetmek için ekonomik haberler
Kayıt
Giriş yap
Gizlilik ve Veri Koruma Politikasını ve MQL5.com Kullanım Şartlarını kabul edersiniz
Hesabınız yoksa, lütfen kaydolun
vlad1949:
... (muhtemelen yetenekli bir programcı olan) bir yalnızın gelişimi henüz pratik olarak hayata geçirilmemiştir.
Öyle. İlk versiyon code.google.com adresinde yayınlandı. Projenin adı libvmr.
Şimdilik sadece Java üzerinde. Daha sonra mql5 de dahil olmak üzere diğer dillere taşıyacağım.
vlad1949:
...
İşte bir öneri: Reshetov'un konusunu blogunda veya ayrı bir başlıkta tartışın (eğer organize ederse).
Makalenin konusu olan "Derin Sinir Ağları" hakkındaki görüşler ve düşünceler burada kabul edilir.
Derin öğrenme konusunda da mümkündür.
Örneğin, sınıflandırmayı iyileştirmek için, örneğin görüntüler için, değişmezlik kullanarak oto kodlayıcıları eğitin. Örneğin, iki sınıfa ait görüntüler arasında ayrım yapmamız gerekiyor. Bunlar, bu göstergelerin görüntülerini içeren finansal araçların grafikleri olsun. Birinci sınıf, kotasyonların yukarı doğru büyümesinden önceki grafiktir. İkinci sınıf ise kotasyonların aşağı doğru büyümesinden önceki grafiktir. Bu durumda, oto kodlayıcıları eğitirken, birinci sınıf için girdilere değişmemiş görüntüler ve ikinci sınıf için ters, yani negatif görüntüler sağlamak gerekir.
Ayrıca, geri yayılım algoritması kullanılarak eğitilmiş hazır otoenkoderler bir kaskad halinde birleştirilebilir ve çıkışa VMR kullanılarak eğitilmiş bir nöron yerleştirilebilir.
Reshetov:
Eğer haklıysan, Turing testini geçen "derin" zekân çoktan interneti köleleştirmiş ve dünyayı yönetiyor olmalı.
Açıkçası, bu kadar inatçı olmanızdan bıktım.
Eğer haklıysanız, Turing testini geçen "derin" zekanız interneti çoktan köleleştirmiş ve dünyayı yönetiyor olmalı.
Andryukha, fazla gürültü yapma. Ya da emir erleri Turing'i duyacak, uyanacak ve o zaman dünya hakimiyetinin ele geçirilmesi sona erecek.
Dürüst olmak gerekirse, bu kadar dik kafalı olmandan bıktım.
Bir sakinleştirici al, iyi olacaksın. Entelektüel köleleştirmeden sonra, eğer çok yüksek sesle öfkelenmezsen, evrenin onda birine sahip olacaksın.
Bu makaleyi yazdıktan sonra "Derin Öğrenme" alanında önde gelen araştırmacılardanbiri olan Yoshua Bengio ve arkadaşlarınınbir kitap taslağına rastladım. http://www. iro.umontreal.ca/~bengioy/dlbook/
Çok fazla matematik, ancak aynı zamanda konuyla ilgili temelden ileri seviyeye kadar net tanımlar ve temel kavramlar verilmektedir.
Aşağıda serbest çeviriden birkaç alıntı yer almaktadır.
Bölüm 10'da" Denetimsiz ve Transfer Öğrenme" bölümünde yazarlar , öğretmen rehberliğindeki öğrenmeninderin öğrenmenin son dönemdeki endüstriyel başarılarının beygir gücü olmasına rağmen, gelecekteki ilerlemelerin kilit unsurunun temsillerin (görüntülerin?) öğretmen olmadan denetimsiz öğrenilmesi olabileceğine inanmaktadır.) Buradaki fikir, bazı temsillerin diğerlerine göre daha faydalı olabileceğidir (örneğin, görüntülerden nesneleri veya konuşmadan fonemleri sınıflandırmada). Burada tartışıldığı gibi, bu, sistematik bir şekilde en iyilerini seçmek için temsilleri öğrenmeyi içerir, yani. Ham veriyi temsil eden özelliği optimize ederek onların temsilleriиtemsilcilikler.
Bu makalede, temsillerin denetimsiz öğrenimi için bazı temel yapı taşlarını ( Otomatik Kodlayıcı ve RBM) ve bunları derin temsiller (Yığılmış Otomatik Kodlayıcı ve Yığılmış RBM) oluşturmak üzere birleştirmek için çok başarılı tariflerigözden geçirdik ve açgözlü katmanlı denetimsiz ön eğitim eğittik.
Daha sonra, derin ağları bir öğretmenle eğitirken (ince ayar), temsilleri, girdilertarafından temsil edilen hedefi tahmin etme görevine en uygun olanı seçmek amacıylaeğitiriz.
Ya tek bir görev yerine, ortaktemsillere ya da bunların birkısmına sahip olabilecek birçok görevimiz olursa ? (bu çoklu görev öğrenmesidir, )
"Transfer Öğrenimi ve Alan Adaptasyonu "
Bilgi transferi ve alanadaptasyonu
bazı koşullarda (yani P1 dağılımı)öğrenilenlerin diğer koşullarda (örneğin P2 dağılımı) genellemeyi geliştirmek için kullanıldığı durumu ifade eder
Bilgi aktarımı durumunda,görevlerin farklı olduğunu düşünüyoruz, ancak P1 dağılımını açıklayanfaktörlerin çoğu
P2'yi öğrenmek için yakalanması gereken değişikliklerle ilgilidir. Bu genellikledenetimli öğrenme bağlamında anlaşılmaktadır, hangi girdilerinы aynıdır aynıыGirdiler aynıdır, ancak hedef farklı olabilir. Doğa, Örneğin,birinci veikinci örneklerdefarklı olan görselkategoriler hakkında bilgi edinmek için. İlk örnekte (P1'den alınan) çok daha fazla veri varsa, P2 'den alınan örnekleriişlerken hızlı genelleme için yararlı olan temsilleri öğrenmek yardımcı olabilir.
Örneğin, birçok görsel kategorinin ortak düşük seviye kavramları(kenarlar vegörselşekiller), geometrik değişikliklerin etkileri , ışıktaki değişiklikler vb. vardır.
Genel olarak, bilgi transferi, çoklu görevöğrenimi vealan adaptasyonu,farklı ortamlar veya görevler için faydalı olabilecek özellikler olduğunda , yani altta yatan ortak faktörler olduğunda ,öğrenme temsilleri yoluyla elde edilebilir.
Etki alanı uyarlaması durumunda, çözülmesi gereken görevin aynı ancak girdi kümelerinin farklı olduğunu düşünürüz. Örneğin, internetteki metinyorumlarıyla ilgili duyarlılığı(olumlu veyaolumsuz)tahmin edersek,ilk örnek kitap, video vemüzikle ilgilitüketici yorumlarınabir referans olabilirken, ikinci set televizyon veyadiğerürünlere atıftabulunabilir.
Çok görevli öğrenme genellikle bir öğretmenle öğrenme bağlamında ele alınsa da, daha genel bir kavram olan transfer öğrenme, denetimsiz öğrenme ve pekiştirmeli öğrenme için geçerlidir.
Transfer öğrenmenin uç bir biçimi , yeni bir görevin bir örneğinin verildiği ya da hiç verilmediğitek seferlik öğrenme ya da sıfır seferlik öğrenmedir .
Kısaca, iki önemli sonuç.
Ön eğitimli sinir ağlarının derin öğrenimi için, bireysel tahmincilerin önemi hakkında konuşmak anlamsızdır. Önemli olan kümedeki iç yapıdır. Bu, öğretmen olmadan eğitim aşamasında derin temsillerin (görüntülerin)çıkarılmasını ve bir öğretmenle eğitim aşamasında eldeki göreve ne kadar iyi karşılık geldiklerini belirlemeyimümkün kılacaktır .
Ön eğitimin olumlu bir yan etkisi, sinir ağının ikinci aşamada öğrettiğimiz görevi değil, başka bir görevi çözmesi için uygun olan temsillerin çıkarılmasıdır .
Daha spesifikolarak. Makaleyi dikkatlice okursanız, sinir ağını ZigZag sinyalleri sunarak girdileri sınıflandırmak üzere eğittiğimizi fark edeceksiniz . Sonuç olarak, Doğruluk sonuçları etkileyici değildir. Ancak eğitilmiş sinir ağının tahmin edilen sinyalleri kullanılarak elde edilen toplam bakiyenin sonuçları ,ZigZag sinyalleri kullanılarak elde edilenlerden daha yüksektir ! Tahminin verimliliğini değerlendirmek için bir K katsayısı ekledim. Bu, grafiğin bir çubuğu başına küçük noktalardaki ortalama artıştır. Örneğin, ZZ için 17'ye eşitken, ağ tahminleri için enstrümana bağlı olarak 25 ila 35 arasındadır (TF M30'da).
Bu bilgi transferidir ( transfer öğrenme ) - bir veri kümesi üzerinde öğrenirken birkaç farklı görev için çözümler elde ederiz.
Bu son derece umut verici ve gelişmekte olan bir konudur.
Makalede başlatılan çalışmayı bitirmek için, birsonraki yazıda DN SAE parametrelerinin evrimsel (genetik) bir algoritma kullanılarakoptimize edilmesine bir örnek vereceğim .
DN SRBM kullanımını dikkate almadım . Uygulamamda istikrarlı sonuçlar göstermedi.
Başarılar
Bu makaleyi yazdıktan sonra "Derin Öğrenme" alanında önde gelen araştırmacılardanbiri olan Yoshua Bengio ve arkadaşlarınınbir kitap taslağına rastladım. http://www. iro.umontreal.ca/~bengioy/dlbook/
Çok fazla matematik, ancak aynı zamanda temelden ileri seviyeye kadar konuyla ilgili net tanımlar ve temel kavramlar verilmektedir.
Dürüst olacağım, makaleyi okuduğumda edindiğim izlenim biraz garip ve bulanıktı, ancak "hepsini yığ" yaklaşımı olarak yazdım. Sonra linkteki kitabı okudum. Ne yazık ki, bu çalışmada sunulan neredeyse her şey, birileri tarafından yeni ve şaşırtıcı bir şeymiş gibi sunulan, uzun süredir çiğnenmiş fikirler. Ve şimdi içimdeki matematikçi ve araştırmacı mühendis tek bir şey söylüyor: bu konu devlet bütçelerinden para sızdırmak için tasarlanmış, ne yazık ki.
Bu arada, kitapta matematik (bir ders kitabından kopyalanmamış, kendi matematiği) yok. Sadece formüller şeklinde bazı büyüler.... En azından bu yönde gerçekten yeni bir fikir ortaya çıkana kadar, genel olarak bilimsel beklentiler görmüyorum. Ancak bu her şeyden önce teorik araştırma gerektirir (ki kimse bunu yapmıyor), pratik büyü değil. Şimdiye kadar, görünüşe göre adamlar ne istediklerini gerçekten anlamıyorlar.
Yani CS'nin uygulamalı kullanımını yasaklamak ve teorik inekleri bunun üzerine salmak mı istiyorsunuz?
İnekler olmasa bile, sadece en net sinyalin oto kodlayıcılardan veya MB'den sızacağı ve diğer her şeyin bulaşacağı ve görünmez olacağı açıktır.
Yani CS uygulamalarını yasaklamak ve teorik inekleri buna karşı mı getirmek istiyorsunuz?
Tabii ki hayır. Ben sadece, ister uygulamalı ister teorik olsun, bilimin yerine şamanizmi geçirme girişimleriyle elimden geldiğince mücadele ediyorum. Ve yaklaşık on yıldır hem uygulamalı hem de teorik alanda sıkışıp kalmış olan NS alanında olan da tam olarak budur.
Peki bilim için sorun nedir? Makine öğrenimi hakkında teori üretmeyi kim yasaklıyor?
Diğer bir komposto ise tüm bu teorilerin anında çürütülebilmesidir, çünkü uygulamalı alanlardan örnekler içeren açık havuzlar ve herhangi birinin herhangi bir teorik hipotezi kolayca çürütebileceği R veya Weka gibi hazır araştırma paketleri vardır.
Makine öğreniminin, sadece çıplak teorilerin olduğu kısa pantolonlardan büyüdüğü, ancak algoritmaların genelleştirilebilirliği alanındaki pratik sonuçların kaidenin üzerinde olmadığı sorunların eksikliğidir. Hesaplama kaynakları genel olarak kullanılabilir hale gelir gelmez, uygulama bilimcileri teorik inekleri alanın dışına itti.
Bilim için sorun nedir? Makine öğrenimi hakkında teori üretmeyi kim yasaklıyor?
Bir başka komposto da tüm bu teorilerin kısa sürede çürütülebilmesidir, çünkü uygulamalı alanlardan örnekler içeren açık havuzlar ve herkesin herhangi bir teorik hipotezi kolayca çürütebileceği R veya Weka gibi hazır araştırma paketleri vardır.
Makine öğreniminin, sadece çıplak teorilerin olduğu kısa pantolonlardan büyüdüğü, ancak algoritmaların genelleştirilebilirliği alanındaki pratik sonuçların kaidenin üzerinde olmadığı sorunların eksikliğidir. Hesaplama kaynakları genel olarak kullanılabilir hale gelir gelmez, uygulama bilimcileri teori ineklerini alanın dışına itti.
Nerede anlaşmazlık yaşıyoruz? Uygulamalı bilim insanlarının inekleri yerinden etmesi doğal olarak iyi bir şeydir. Ayrıca, hesaplama kaynaklarının kullanılabilir hale gelmesiyle birlikte, daha önce teorik olarak düşünülmesi gereken pek çok sorun çözülebilir hale geldi. Ancak bu, bilgisayar kaynaklarının tüm sorunları çözeceği anlamına gelmiyor. Kapsamlı yol ebedi değildir ve olanakları şimdiden sona ermektedir. Yani er ya da geç botanizme dönmek zorunda kalacağız.