ЭФФЕКТИВНАЯ РЕАЛИЗАЦИЯ АЛГОРИТМОВ ОБУЧЕНИЯ НЕЙРОННЫХ СЕТЕЙ С ПОМОЩЬЮ КОНЦЕПЦИИ Q- ДЕТЕРМИНАНТА

Авторы: 
В. Н. Алеева, А. С. Сапожников
УДК: 
004.021, 004.032.24, 004.051, 004.272
DOI: 
10.24412/2073-0667-2025-3-5-16
Аннотация: 

. EDX: XGOUCS

В статье впервые рассматривается эффективная реализация с помощью концепции Q- детерминанта алгоритмов обучения нейронных сетей. Для эффективной реализации алгоритмов применяется метод проектирования Q-эффективных программ, использующих ресурс параллелизма реализуемых ими алгоритмов полностью. Применение метода показано на примере алгоритмов, выполняющих часто используемые методы стохастического градиентного спуска и обратного распространения ошибки. Для этих алгоритмов разработаны Q-эффективные программы для общей и распределенной памяти параллельных вычислительных систем. С помощью вычислительных экспериментов выполнена оценка ускорения и эффективности разработанных программ. Вычислительные эксперименты проводились на суперкомпьютере «Торнадо» Южно-Уральского государственного университета.

Список литературы

  1.  Алеева В.Н. Анализ параллельных численных алгоритмов. Препринт У 590. Новосибирск: ВЦ СО АН СССР, 1985. 23 с.
  2.  Valentina Aleeva, Rifkhat Aleev. Investigation and Implementation of Parallelism Resources of Numerical Algorithms // ACM Transactions on Parallel Computing. 2023. Vol. 10. N 2, Article number 8. P. 1-64. DOI: 10.1145/3583755.
  3.  Ершов Ю.Л., Палютин E. А. Математическая логика. М.: Наука, 1987. 336 с.
  4.  Aleeva V. N. Improving Parallel Computing Efficiency // Proceedings — 2020 Global Smart Industry Conference, GloSIC 2020. IEEE. 2020. P. 113-120. Article number 9267828. DOI: 10.1109/doSIC50886.2020.9267828.  
  5.  Aleeva V. Designing a Parallel Programs on the Base of the Conception of Q-Determinant // Supercomputing. RuSCDays 2018. Communications in Computer and Information Science. 2019. V. 965. P. 565-577. DOI: 10.1007/978-3-030-05807-4_48.
  6.  Гудфеллоу Я., Бенджио И., Курвилль А. Глубокое обучение. М.: ДМК Пресс, 2018. 652 с.
  7.  Nielsen M.A. Neural Networks and Deep Learning [Электронный ресурс]: http:// neuralnetworksanddeeplearning.com/chap2.html. Дата обращения: 11.02.2025.
  8.  Николенко С. П., Кадурин А. А., Архангельская Е. О. Глубокое обучение. СПб.: Питер, 2018. 480 с.
  9.  Суперкомпьютер «Торнадо ЮУрГУ». [Электронный ресурс]: http://supercomputer.susu. ru/computers/tornado/. Дата обращения: 11.02.2025.
  10.  Открытая энциклопедия свойств алгоритмов. [Электронный ресурс]: https://algowiki- project.org/ru. Дата обращения: 11.02.2025.  
Ключевые слова: 
обучение нейронных сетей, метод стохастического градиентного спуска, метод обратного распространения ошибки, Q-детерминант алгоритма, Q-эффективная реализация алгоритма, Q-эффективная программа.
Номер журнала: 
3(68) 2025 г.
Год: 
2025
Адрес: 
Южио-Уральcкий государственный университет (НИУ), 454080, Челябинск, Россия
Библиографическая ссылка: 
В. Н. Алеева, А. С. Сапожников ЭФФЕКТИВНАЯ РЕАЛИЗАЦИЯ АЛГОРИТМОВ ОБУЧЕНИЯ НЕЙРОННЫХ СЕТЕЙ С ПОМОЩЬЮ КОНЦЕПЦИИ Q- ДЕТЕРМИНАНТА //"Проблемы информатики", 2025, № 3, с.5-16 DOI: 10.24412/2073-0667-2025-3-5-16. – EDN:XGOUCS