Adam revisited: a weighted past gradients perspective

Zhong, Hui; Chen, Zaiyi; Qin, Chuan; Huang, Zai; Zheng, Vincent W.; Xu, Tong; Chen, Enhong

doi:10.1007/s11704-019-8457-x

Cited by 28 publications

(16 citation statements)

References 10 publications

Supporting

Mentioning

Contrasting

Unclassified

Order By: Relevance

“…For the second network, the best training was achieved with 6 epochs and, again, a batch size equal to 32. For both networks, the initial learning rate [33] with 0.001 and the "adam" optimizer [34] were the parameters used in the training process.…”

Section: Cps Performancementioning

confidence: 99%

Cyber-Physical System for Environmental Monitoring Based on Deep Learning

Monedero

Barbancho

Márquez

et al. 2021

Sensors

View full text Add to dashboard Cite

Cyber-physical systems (CPS) constitute a promising paradigm that could fit various applications. Monitoring based on the Internet of Things (IoT) has become a research area with new challenges in which to extract valuable information. This paper proposes a deep learning classification sound system for execution over CPS. This system is based on convolutional neural networks (CNNs) and is focused on the different types of vocalization of two species of anurans. CNNs, in conjunction with the use of mel-spectrograms for sounds, are shown to be an adequate tool for the classification of environmental sounds. The classification results obtained are excellent (97.53% overall accuracy) and can be considered a very promising use of the system for classifying other biological acoustic targets as well as analyzing biodiversity indices in the natural environment. The paper concludes by observing that the execution of this type of CNN, involving low-cost and reduced computing resources, are feasible for monitoring extensive natural areas. The use of CPS enables flexible and dynamic configuration and deployment of new CNN updates over remote IoT nodes.

show abstract

Section: Cps Performancementioning

confidence: 99%

Cyber-Physical System for Environmental Monitoring Based on Deep Learning

Monedero

Barbancho

Márquez

et al. 2021

Sensors

View full text Add to dashboard Cite

show abstract

“…𝑚 ve 𝑣 'nin başlangıç değerleri genellikle sıfır olarak kabul edilmektedir. Birinci ve ikinci momentler, Eşitlik 4 ve Eşitlik 5'e göre; maliyet fonksiyonu ise Eşitlik 6'ya göre hesaplanmaktadır [17,18]. Bu çalışmada kullanılan diğer değerler; 𝛽 için 0,99, 𝛽 için 0,99 ve ∊ için 10 -8 olarak tercih edilmiştir.…”

Section: Veri Büyütme Tekniğiunclassified

Dikkat Modülleri ile Oluşturulmuş Derin Öğrenme Modelini Kullanarak Pamuk Hastalığının Tespiti

Toğaçar

2021

Çukurova Üniversitesi Mühendislik Fakültesi Dergisi

View full text Add to dashboard Cite

Pamuk, dünya genelinde önemli bir endüstri sektörü olup, tarıma dayalı ülkelerde ekonomik kalkınmanın en önemli faktörlerinden biridir. Ülkemiz, pamuk tarımına elverişli ülkeler arasında yer almaktadır ve genelde Akdeniz ile Güneydoğu Anadolu bölgesinde pamuk üretimi gerçekleştirilmektedir. Pamuk bitkisinden iç ve dış etmenlerden kaynaklı birçok hastalık görülebilmektedir. Araştırmacılar, pamuk hastalığının tespitini gerçekleştirmek ve verimli bir üretim elde edebilmek için son zamanlarda yapay zekâ tabanlı çalışmalara odaklanmışlardır. Bu çalışmada kullanılan veri kümesi; hastalıklı pamuk yaprağı, hastalıklı pamuk bitkisi, sağlam pamuk yaprağı ve sağlam pamuk bitki görüntülerinden oluşmaktadır. Önerilen yaklaşımda, veri büyütme tekniği ile dikkat modüllerinden oluşan derin öğrenme modeli birlikte kullanılmıştır. Çalışmanın analizlerinde, Olasılıksal Dereceli Azalma (ODA) ve Uyarlanabilir Moment Tahmini (UMT) optimizasyon yöntemleri kullanılmıştır. Sınıflandırma sürecinde elde edilen en iyi genel doğruluk başarısı %96,56 olmuştur.

show abstract

“…Bu öznitelikler ResNet-18 modelinin son katmanında yer alan tam bağlantılı katmandan elde edildi ve Kuantum öğrenme modeline girdi verisi olarak aktarıldı. Sınıflandırma sürecinde "Linear Regresyon" yöntemi [24] tercih edildi ve hibrit modelin optimizasyon işlemleri için "Adam" yöntemi [25] kullanıldı. Bu iki yöntemin tercih edilmesinin en önemli nedeni diğer alternatif yöntemler (adamax, rmsprop vb.)…”

Section: öNeri̇len Yaklaşim: Kuantum Transfer öğRenme Modeli̇unclassified

X-ışınlı Göğüs İmgelerini Kullanarak Solunum Yolu Hastalıklarının Tespitinde Kuantum Transfer Öğrenme Modelinin Rolü

Toğaçar

2021

Düzce Üniversitesi Bilim Ve Teknoloji Dergisi

View full text Add to dashboard Cite

Solunum yolu hastalıkları çeşitli kanallar vasıtasıyla insanların solunum yollarına bulaşan; virüs ve bakteri gibi mikro organizmaların neden olduğu hastalıklardır. Bu canlılar vücudun bağışıklık sistemini zayıflatarak enfeksiyon oluşmasına yol açar ve bireyde kulak, burun, boğaz, solunum borusu ve akciğer gibi organlarda çoğalabilirler. Bunun sonucunda; zatürre, Ciddi Akut Solunum Sendromu (SARS), Orta Doğu Solunum Sendromu (MERS), Korona Virüs Hastalığı (COVID-19) gibi hastalıkların oluşmasına neden olabilmektedir ve erken müdahale alınmadığı takdirde hastaların ölümüne yol açabilmektedir. Bu çalışmada Kuantum modeli, derin öğrenme modeli ile yoğrularak farklı bir öğrenme yaklaşımı önerilmiştir. Bu model çeşitli kütüphane yazılımcıları tarafından verilen destekler ile gelişimini sürdürmektedir. Çalışmada kullanılan veri seti, solunum hastalıkları ve normal X-ışınları görüntülerinden oluşmaktadır. Deney analizinde, Kuantum Transfer Öğrenme (KTÖ) modeli kullanılarak veri setinin eğitimi gerçekleştirildi ve analiz sonuçlarından elde edilen doğruluk %92,50'ydi. Sonuç olarak, kuantum öğrenme modelinin derin öğrenme modelleri gibi umut verici sonuçlar verdiği bu çalışmada gözlemlendi.

show abstract

Adam revisited: a weighted past gradients perspective

Cited by 28 publications

References 10 publications

Cyber-Physical System for Environmental Monitoring Based on Deep Learning

Cyber-Physical System for Environmental Monitoring Based on Deep Learning

Dikkat Modülleri ile Oluşturulmuş Derin Öğrenme Modelini Kullanarak Pamuk Hastalığının Tespiti

X-ışınlı Göğüs İmgelerini Kullanarak Solunum Yolu Hastalıklarının Tespitinde Kuantum Transfer Öğrenme Modelinin Rolü

Contact Info

Product

Resources

About