Complex signals parameters optimization on the base of linear approximations using the gradient method and Newton’s method
DOI:
https://doi.org/10.18664/ikszt.v29i3.313786Ключові слова:
linear approximations, ensembles of complex signals, gradient method, Newton's method, gradient norm, objective function, optimization of signal parameters, iterative algorithm, noise immunityАнотація
The article examines the effectiveness of the gradient descent and Newton methods for optimizing the parameters of ensembles of complex signals. Algorithms have been developed and implemented that increase the accuracy of setting parameters and ensure reasonable optimization of spectral, temporal and statistical characteristics of signals.
The effectiveness of the application of the methods was confirmed experimentally on the example of reducing the error and increasing the level of immunity. The obtained results substantiate the improvement of the parameters of complex signals, which proves the efficiency of use for wireless telecommunication systems in order to ensure stable and reliable operation in conditions of dynamic changes in the environment and a high level of interference.
The article compares the mathematical methods of optimization, namely the gradient method and Newton's method, proposes mathematical models and constructs algorithms that empirically prove the effectiveness of the application of the studied mathematical methods in the specified scientific area - for optimizing the parameters of ensembles of complex signals. Scientific works [1-6, 9, 12] present algorithms based on the gradient method and Newton's method, but they do not consider in detail the comparative analysis of the effectiveness of these methods for optimizing the parameters of ensembles of complex signals for implementation in various scientific and practical tasks.
The effectiveness of the algorithms proposed in the article was confirmed experimentally, which made it possible to reduce the error and improve the characteristics of ensembles of complex signals.
As a result of the experiments using the methods of gradient descent and Newton, a significant reduction of the error and an improvement of the stability of the signals were achieved. Newton's method reduced the error from 0.1 to 0.0027, justifying the high accuracy of setting the signal parameters. The gradient descent method provided a stable reduction of the gradient norm from 12.75 to less than 1.23, effectively reducing the interference level, i.e. increasing the interference immunity.
Посилання
Лінійні апроксимації та градієнтний метод в оптимізації параметрів сигналів / [Іванов В.В., Шовкун В.М.] // Вісник Національного технічного університету України «КПІ». Серія «Радіотехніка, радіоелектроніка». – 2017. № 3. С. 45-50.
Метод Ньютона для оптимізації складних сигналів: теоретичні аспекти та практичне застосування / [Петренко І.М., Коваленко О.А.] // Журнал «Сучасні проблеми радіотехніки». – 2018. Т. 5. № 2. С. 23-30.
Методи оптимізації ансамблів сигналів з використанням алгоритмів градієнтного спуску та Ньютона / [Іванов О.М., Петренко В.І.] // Вісник Національного технічного університету України «КПІ». Серія «Радіотехніка, радіоелектроніка». – 2021. № 4. С. 67-74.
Аналіз ефективності градієнтного методу для оптимізації спектральних характеристик сигналів / [Сидоренко В.В., Кузьмін І.М.]// Наукові праці НТУУ «КПІ». – 2019. № 6. С. 89-95.
Дослідження застосування методів градієнтного спуску та Ньютона для оптимізації параметрів ансамблів сигналів у задачах розпізнавання образів / [Сидоренко В.В., Кузьмін І.М., Кравченко Л.П.] // Наукові праці НТУУ «КПІ». – 2022. № 8. С. 112-118.
Порівняльний аналіз методів градієнтного спуску та Ньютона для оптимізації характеристик ансамблів сигналів в задачах локалізації джерел / [Петренко В.І., Коваленко О.А., Селезньов М.В.] // Журнал «Сучасні проблеми радіотехніки». – 2023. Т. 10. № 3. С. 42-49.
Оптимізація параметрів фільтрів з використанням алгоритмів Нелдера-Міда та Левенберга-Марквардта / [Пугач О. В., Іванов А. М.] // Вісник Національного технічного університету «Харківський політехнічний інститут». Серія «Радіоелектроніка, електрозв'язок, інформатика». – 2020. № 3. С. 22-27.
Optimization of Synthesized Signals Using Differential Evolution Algorithm /[O. V. Oleinik, O. M. Sydorenko] // International Journal of Microelectronics and Nanotechnology. – 2019. Vol. 14. № 3. P. 195-202.
Blind signal separation based on widely linear complex autoregressive process of order one / [Jiong Li, Yuan Qin, Menglan Fan, Xiaogang Tang, Lijuan Gao, Long Chen, Junhao Feng] // EURASIP Journal on Wireless Communications and Networking. – 2018. Vol. 2018. P. 1-12. DOI: 10.1186/s13638-018-1286-x
Polynomiography via the Hybrids of Gradient Descent and Newton Methods / [Bahman Kalantari] // International Journal of Mathematical Modeling and Computations. – 2017. Vol. 10. № 4. P. 243-258. DOI: 10.1007/s11721-017-0131-4.
Gradient regularization of Newton method with Bregman distances / [S. O. Ivasyshen, M. V. Klymchuk] // Mathematical Programming. – 2019. Vol. 173. P. 509-536. DOI: 10.1007/s10107-018-1263-3 (SpringerLink)
Optimal sum-throughput analysis for downlink cooperative SWIPT NOMA systems / [T. N. Do, B. An] // Proceedings of the 2018 2nd International Conference on Recent Advances in Signal Processing, Telecommunications & Computing (SigTelCom). – 2018. P. 85-90. DOI: 10.1109/SIGTELCOM.2018.8325811 (GitHub).
Gradient Descent vs. Newton’s Gradient Descent / [A. Blum, J. Hopcroft, R. Kannan] // Journal of Machine Learning Research. – 2016. Vol. 17. P. 1-30. DOI: 10.1145/1235
##submission.downloads##
Опубліковано
Номер
Розділ
Ліцензія
Ця робота ліцензується відповідно до Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
