Собственные значения и собственные векторы матрицы: как их найти

Поставьте стрелку компаса в поток — она развернётся строго на север, что бы с ней ни делали. У матриц есть свои «стрелки компаса»: особые направления, которые линейное преобразование не сворачивает, а лишь растягивает. Найдя их, вы разглядываете скелет матрицы — и внезапно обнаруживаете, что колебания мостов, ранжирование страниц в поиске и энергетические уровни атома описываются одной и той же строкой в характеристическом уравнении.

Определение: направления-исключения#

Ненулевой вектор $\vec{v}$ называется собственным вектором матрицы $A$, если выполняется равенство $A\vec{v}=\lambda \vec{v}$: преобразование не поворачивает вектор, а лишь умножает его на число. Число $\lambda$ — собственное значение (собственное число) этой матрицы. Любая пара — вектор и множитель — связана жёстко: одному значению $\lambda$ принадлежит целое подпространство векторов, а вот вектор без своего $\lambda$ не существует.

Собственные значения у матрицы $2\times 2$ читаются прямо из неё: сумма собственных значений равна следу (сумме диагональных элементов), произведение — определителю. Для матрицы выше след $5$, определитель $6$ — и в самом деле $3+2=5$, $3\cdot 2=6$. Эта двойная проверка спасает от арифметических опечаток быстрее любого калькулятора.

1. Посмотрите на след и определитель — вы уже знаете сумму и произведение будущих корней; это заготовка для проверки
2. Составьте $A-\lambda E$ и запишите характеристическое уравнение $\det (A-\lambda E)=0$
3. Для матрицы $2\times 2$ сразу пишите ${\lambda }^2-\mathrm{tr}(A)\lambda +\det A=0$ — раскрытие определителя даст то же самое
4. Для каждого корня решите однородную систему $(A-\lambda E)\vec{v}=\vec{0}$ и выберите ненулевое решение
5. Умножьте и проверьте: $A\vec{v}=\lambda \vec{v}$ — последняя строка решения, за неё ставят плюс балл

Характеристическое уравнение: полный разбор#

Для квадратной матрицы $2\times 2$ уравнение $\det (A-\lambda E)=0$ после раскрытия превращается в квадратное. Разберём матрицу $A=\left(\begin{array}{cc}2& 1\\ 1& 2\end{array}\right)$ по всем правилам — этот пример попадается на зачётах с завидной регулярностью.

Три на три и нестандартные случаи#

С ростом размера растёт и уравнение — для $3\times 3$ это уже кубическое. К счастью, у симметричных матриц и матриц с блоками корни подбираются красиво. Возьмём $A=\left(\begin{array}{ccc}2& 0& 0\\ 0& 3& 4\\ 0& 4& 3\end{array}\right)$: определитель раскладывается по первому столбцу, уравнение $(2-\lambda )((3-\lambda {)}^2-16)=0$ распадается на $\lambda =2$ и $(3-\lambda {)}^2=16$, откуда $3-\lambda =\pm 4$ и $\lambda =-1$ или $\lambda =7$.

Векторы по блокам: для $\lambda =7$ система в нижнем блоке даёт $v_2=v_3$, берём $(0,1,1)$; для $\lambda =-1$ — $v_2=-v_3$, берём $(0,1,-1)$; для $\lambda =2$ — $(1,0,0)$. Контроль одной тройкой: $A(0,1,1{)}^T=(0,7,7{)}^T=7\cdot (0,1,1{)}^T$. Всё честно.

А что, если корни не находятся? Для вещественной матрицы они могут быть комплексными — классика: матрица поворота на $90^{\circ }$ $\left(\begin{array}{cc}0& -1\\ 1& 0\end{array}\right)$ имеет уравнение ${\lambda }^2+1=0$ с корнями $\pm i$. Геометрия всё объясняет: поворот не оставляет на месте ни одну прямую, кроме вырожденной. Работать с такими числами учит ТФКП — стартовая точка в уроке про комплексные числа и в статье словаря. Симметричным матрицам такие фокусы недоступны: их собственные значения всегда вещественны, а векторы из разных собственных подпространств ортогональны — это фундамент метода наименьших квадратов и многих численных алгоритмов.

Ортогональность видно на нашей рабочей матрице $\left(\begin{array}{cc}2& 1\\ 1& 2\end{array}\right)$: векторы $(1,1)$ и $(1,-1)$ дают скалярное произведение $1-1=0$ — перпендикулярны, как и обещала теория. Из этого следует симпатичное следствие: нормировав такие векторы, получаем ортонормированный базис, а матрица перехода $P$ становится ортогональной ($P^{-1}=P^{\top }$) — диагонализация без обращения матрицы. Симметричная задача — самая приятная в курсе: корни вещественные, базис ортогональный, вычисления сходятся у численных методов быстрее.

Зачем это всё: диагонализация и приложения#

Если набрать базис из собственных векторов, матрица в этом базисе становится диагональной — её действие распадается на независимые растяжения по осям. Запись $A=PD{P}^{-1}$, где столбцы $P$ — собственные векторы, а $D$ диагональна с собственными значениями, даёт молниеносную арифметику: $A^{100}=P{D}^{100}{P}^{-1}$, а степень диагональной матрицы — просто степень диагональных чисел. Так считают состояния марковских цепей и решают разностные уравнения.

1. 1
   Берём матрицу $A=\left(\begin{array}{cc}2& 1\\ 1& 2\end{array}\right)$ из прошлого раздела: собственные пары уже найдены — ${\lambda }_1=3$ с вектором $(1,1)$ и ${\lambda }_2=1$ с вектором $(1,-1)$.
2. 2
   Собираем $P=\left(\begin{array}{cc}1& 1\\ 1& -1\end{array}\right)$ из столбцов-векторов; $P^2=2E$, поэтому $P^{-1}=\frac{1}{2}P$ — обратная почти бесплатна.
3. 3
   Формула $A^n=P\left(\begin{array}{cc}{3}^n& 0\\ 0& 1\end{array}\right)P^{-1}$ раскрывается в $A^n=\frac{1}{2}\left(\begin{array}{cc}{3}^n+1& 3^n-1\\ 3^n-1& 3^n+1\end{array}\right)$.
4. 4
   Контроль при $n=1$: $\frac{1}{2}\left(\begin{array}{cc}4& 2\\ 2& 4\end{array}\right)=\left(\begin{array}{cc}2& 1\\ 1& 2\end{array}\right)$ — исходная матрица, формула работает.
5. 5
   Для $n=5$: $3^5=243$, и $A^5=\left(\begin{array}{cc}122& 121\\ 121& 122\end{array}\right)$. Проверка прямым счётом: $A^2=\left(\begin{array}{cc}5& 4\\ 4& 5\end{array}\right)$, $A^4=\left(\begin{array}{cc}41& 40\\ 40& 41\end{array}\right)$, $A^5=A^4\cdot A=\left(\begin{array}{cc}122& 121\\ 121& 122\end{array}\right)$ — сошлось до единицы.

Отдельный вопрос — как искать собственные векторы, когда матрица огромна и характеристический многочлен вручную не решить. Работает степенной метод: стартуем с любого вектора и многократно применяем матрицу, нормируя результат. Вектор быстро поворачивается в сторону наибольшего по модулю собственного значения — именно так PageRank обрабатывает матрицу ссылок размером в миллиарды строк: точные корни не нужны, достаточно направления.

Живой пример силы метода — последовательность Фибоначчи. Пары соседних чисел обновляются матрицей $\left(\begin{array}{cc}1& 1\\ 1& 0\end{array}\right)$, её собственные значения $\frac{1\pm \sqrt{5}}{2}$ — то самое золотое сечение. Большее значение примерно $1.618$: потому каждое следующее число Фибоначчи и получается умножением предыдущего на $1.618$ с точностью, растущей от шага к шагу. У марковских цепей та же механика даёт предельное распределение вероятностей — собственное значение $1$ отвечает стационарному состоянию. Таблицу одношаговых вероятностей систематизирует матрица перехода цепи Маркова.

Ручная практика: найдите собственные пары для $\left(\begin{array}{cc}4& 1\\ 2& 3\end{array}\right)$ — след $7$, определитель $10$, уравнение ${\lambda }^2-7\lambda +10=0$ даёт $\lambda =2$ и $\lambda =5$. Затем добейте тему задачами в тренажёре по матрицам и вернитесь к статье словаря — короткие определения там оформлены для повторения перед парой. Продолжение темы — в уроке про квадратичные формы: там собственные значения классифицируют кривые и поверхности второго порядка.

Главный геометрический смысл: собственный вектор — тот, который матрица не поворачивает, а лишь растягивает. Потаскайте вектор мышью и поймайте инвариантное направление — картинка запомнится лучше формулы.