Рассматривается система нелинейных разностных уравнений, допускающая нулевое решение. С помощью метода функций Ляпунова изучается его устойчивость. Наряду с полной системой уравнений рассматривается линеаризованная система разностных уравнений. Известно, что если все корни характеристического уравнения линеаризованной системы по модулю меньше единицы, то нулевое решение полной системы асимптотически устойчиво. Если хотя бы один из корней характеристического уравнения по модулю больше единицы, то нулевое решение полной системы неустойчиво. В случае, когда часть корней характеристического уравнения по модулю меньше единицы, а часть равна единице, задача устойчивости не решается рассмотрением лишь линейных членов, и для ее решения нужно привлечь нелинейные слагаемые. Такой случай называется критическим. В настоящей работе рассмотрен критический случай одного корня, равного единице, когда задача устойчивости решается членами до третьего порядка малости в разложении правых частей исходных уравнений в ряды Маклорена.
A system of nonlinear difference equations which admits the zero solution is considered. Its stability is studied by means of Lyapunov’s direct method. Side by side with this system, a linearized system of difference equations is also considered. It is well known that if all roots of the characteristic equation of a linearized system lie within the unit circle on the complex plane, then the zero solution of the original full system is asymptotically stable. If at least one eigenvalue lies outside the unit disk, then the zero solution of the original system is unstable. In the case where the moduli of some eigenvalues are equal to unity, and the moduli of others are less than unity, the stability problem cannot be solved by considering only the linear terms. To solve this problem, it is necessary to use the terms of higher orders in expansions of the righthand sides of the original system of difference equations in Maclaurin series. Such case is called a critical one. In this paper, we consider the critical case where one eigenvalue is equal to unity, and the stability problem can be solved by involving terms up to the third order in expansions of the right-hand sides of the initial equations in Maclaurin series.