🧮 Линал

Как решать задачи про евклидовы пространства: разбор и примеры

Q: Что будет, если векторы линейно зависимы?

Алгоритм сообщит сам: у какого-то $b_k$ получится нулевой вектор, ведь соответствующий $a_k$ целиком лежит в оболочке предыдущих. Нулевой вектор нельзя нормировать — процесс останавливается, а число построенных ненулевых $b_k$ равно рангу набора. Так Грам–Шмидт заодно проверяет линейную независимость, без определителей и приведения матрицы к ступенчатому виду.

Процесс Грама–Шмидта на числах, ортогональные проекции и ближайший вектор, наименьшие квадраты как проекция — каждое вычисление доведено до ответа и проверено.

Сложность: Первый курс 2 схемы действий

На экзамене по линейной алгебре — задание из трёх пунктов: по трём векторам постройте ортонормированный базис, спроектируйте четвёртый вектор на построенную плоскость, найдите расстояние. Пункты цепляются друг за друга: ошибка в первом сносит второй и третий, а заметить её можно только проверкой, о которой в условии не пишут. Определения — в уроке евклидовы пространства, здесь — полный численный разбор, где каждое число можно пересчитать руками.

Инструментов всего три: скалярное произведение, процесс Грама–Шмидта и формула проекции. На них держатся и задачи про ближайший вектор, и метод наименьших квадратов — это одна и та же геометрия в разных одеждах. Порядок работы: произведение и норма, ортогонализация, проекция, расстояние.

Что даёт скалярное произведение и откуда берётся норма?#

Скалярное произведение превращает набор координат в геометрию: появляются длины, углы и перпендикулярность. Для столбцов из $R^{3}$ это сумма произведений координат, и у него три свойства: симметрия, линейность по каждому аргументу и положительная определённость — $(x, x) > 0$ для ненулевого $x$ . Норма — длина вектора, выращенная из произведения, а угол считается через косинус.

(x, y) = x_{1} y_{1} + x_{2} y_{2} + x_{3} y_{3}, ∥ x ∥ = (x, x), cos ∠ (x, y) = \frac{( x , y )}{∥ x ∥ ∥ y ∥}

скалярное произведение симметрично, линейно по каждому аргументу и положительно определено: (x, x) > 0 при x ≠ 0

Неравенство Коши–Буняковского $∣ (x, y) ∣ \leq ∥ x ∥ ∥ y ∥$ гарантирует, что дробь с косинусом не вылезет за пределы от $- 1$ до $1$ . Числовой пример на угол: $cos ∠ (a_{1}, a_{2}) = \frac{( a _{1} , a _{2} )}{∥ a _{1} ∥∥ a _{2} ∥} = \frac{1}{2 2} = \frac{1}{2}$ — векторы $(1, 1, 0)$ и $(1, 0, 1)$ расставлены под $6 0^{\circ}$ , и это видно без всякого арккосинуса. База по операциям с векторами — в уроке векторы и операции, подробности про произведение — в скалярном произведении. И сразу о самой ходовой ошибке: норма — не сумма модулей координат. $∥ (3, 4) ∥ = 9 + 16 = 5$ , а не $7$ : под корнем складываются квадраты, Пифагор тут главный.

Как работает процесс Грама–Шмидта?#

Из линейно независимых векторов он делает ортогональные: каждый следующий вектор очищается от проекций на уже построенные, а в конце всё нормируется. Считается всё через скалярные произведения, без СЛАУ — линейную зависимость здесь предполагают, а не ищут.

b_{k} = a_{k} - j < k \sum \frac{( a _{k} , b _{j} )}{( b _{j} , b _{j} )} b_{j}, e_{k} = \frac{b _{k}}{∥ b _{k} ∥}

вычитаем проекции a_k на каждый предыдущий b_j; в знаменателе квадрат нормы, не норма

Первый вектор без изменений: $b_{1} = (1, 1, 0)$ , $∥ b_{1} ∥^{2} = 2$ , и после нормировки $e_{1} = \frac{( 1 , 1 , 0 )}{2}$ .
Второй: $(a_{2}, b_{1}) = 1$ , поэтому вычитаем $\frac{1}{2} (1, 1, 0)$ : $b_{2} = (1, 0, 1) - (\frac{1}{2}, \frac{1}{2}, 0) = (\frac{1}{2}, - \frac{1}{2}, 1)$ . Проверка: $b_{2} \cdot b_{1} = 0$ .
Норма: $∥ b_{2} ∥^{2} = \frac{1}{4} + \frac{1}{4} + 1 = \frac{3}{2}$ . Умножив на $\frac{6}{2}$ , получаем $e_{2} = \frac{( 1 , - 1 , 2 )}{6}$ — вектор $(\frac{1}{2}, - \frac{1}{2}, 1)$ пропорционален $(1, - 1, 2)$ .
Третий: две проекции — на $b_{1}$ с коэффициентом $\frac{( a _{3} , b _{1} )}{∥ b _{1} ∥ ^{2}} = \frac{1}{2}$ и на $b_{2}$ с коэффициентом $\frac{( a _{3} , b _{2} )}{∥ b _{2} ∥ ^{2}} = \frac{1/2}{3/2} = \frac{1}{3}$ .
Вычитаем обе: $b_{3} = (0, 1, 1) - (\frac{1}{2}, \frac{1}{2}, 0) - (\frac{1}{6}, - \frac{1}{6}, \frac{1}{3}) = (- \frac{2}{3}, \frac{2}{3}, \frac{2}{3})$ , и $∥ b_{3} ∥^{2} = \frac{4}{9} \cdot 3 = \frac{4}{3}$ .
Нормируем: $e_{3} = \frac{( - 1 , 1 , 1 )}{3}$ . Финальный контроль — попарные произведения: $e_{1} \cdot e_{2} = 0$ , $e_{1} \cdot e_{3} = 0$ , $e_{2} \cdot e_{3} = 0$ , и все нормы равны единице.

e_{1} = \frac{( 1 , 1 , 0 )}{2}, e_{2} = \frac{( 1 , - 1 , 2 )}{6}, e_{3} = \frac{( - 1 , 1 , 1 )}{3}

готовый ортонормированный базис; все попарные скалярные произведения нулевые, все нормы единичные

Дополнительная проверка на здравый смысл: $e_{2}$ обязан лежать в плоскости первых двух векторов. Плоскость $span (a_{1}, a_{2})$ описывается условием $x = y + z$ — подставьте сами $a_{1}$ и $a_{2}$ : сходится. У $e_{2} = \frac{( 1 , - 1 , 2 )}{6}$ тоже сходится: $1 = - 1 + 2$ . А $e_{3}$ из плоскости выпадает — он к ней перпендикулярен, как и положено третьему вектору. Матричный контроль: соберите базисные векторы в матрицу $Q$ по столбцам, и $Q^{T} Q = E$ — недиагональный элемент мгновенно выдаст брак.

Матрица Грама исходной тройки — удобная сводка стартовой информации: $211121112$ — на диагонали квадраты норм, вне её — произведения пар. Её определитель равен $4$ : это квадрат объёма параллелепипеда на трёх векторах, и ноль означал бы линейную зависимость. После ортогонализации грам-матрица диагонализируется с элементами $2$ , $\frac{3}{2}$ , $\frac{4}{3}$ — квадратами норм $b_{k}$ — а после нормировки становится единичной.

Как найти проекцию вектора на подпространство и ближайший вектор?#

Ближайшая точка подпространства — это ортогональная проекция: у неё с исходным вектором разность перпендикулярна всему подпространству. В ортонормированном базисе формула короткая: координаты — скалярные произведения, собрать — умножить и сложить.

pr_{U} b = i \sum (b, e_{i}) e_{i}, d (b, U) = ∥ b - pr_{U} b ∥

коэффициенты — координаты b в ортонормированном базисе; невязка b − pr перпендикулярна всему подпространству

Координаты по базису: $(b, e_{1}) = \frac{2 + 1}{2} = \frac{3}{2}$ , $(b, e_{2}) = \frac{2 - 1 + 6}{6} = \frac{7}{6}$ , $(b, e_{3}) = \frac{- 2 + 1 + 3}{3} = \frac{2}{3}$ .
Складываем: $pr = \frac{3}{2} (1, 1, 0) + \frac{7}{6} (1, - 1, 2) = (\frac{8}{3}, \frac{1}{3}, \frac{7}{3}) \approx (2, 67; 0, 33; 2, 33)$ .
Невязка: $b - pr = (- \frac{2}{3}, \frac{2}{3}, \frac{2}{3})$ — она параллельна $e_{3}$ , и это не совпадение: невязка обязана быть перпендикулярна плоскости, а направление такой перпендикулярности одно.
Расстояние: $d = (- \frac{2}{3}, \frac{2}{3}, \frac{2}{3}) = \frac{4}{3} = \frac{2}{3} \approx 1, 15$ — корень из $\frac{4}{9} \cdot 3$ .

Заметьте ускорение: расстояние до плоскости оказалось равно модулю третьей координаты $\frac{2}{3}$ — в ортонормированном базисе нормальная координата и есть расстояние, считать невязку отдельно не обязательно. Ортонормированный базис упрощает и разложение любого вектора: возьмём $v = (3, 1, 2)$ , тогда $(v, e_{1}) = 22$ , $(v, e_{2}) = 6$ , $(v, e_{3}) = 0$ . Нулевая третья координата сразу говорит: вектор лежит в плоскости $a_{1} a_{2}$ . Проверка: $22 e_{1} = (2, 2, 0)$ , $6 e_{2} = (1, - 1, 2)$ , сумма $= (3, 1, 2)$ — сошлось.

Задача	Формула в ортонормированном базисе	Комментарий
длина вектора	$∥ v ∥ = c_{1}^{2} + c_{2}^{2} + c_{3}^{2}$	Пифагор по координатам $c_{i} = (v, e_{i})$
угол двух векторов	$cos ∠ = c_{1} d_{1} + c_{2} d_{2} + c_{3} d_{3}$	произведение — сумма произведений координат
разложение вектора	$v = \sum (v, e_{i}) e_{i}$	каждая координата — одно скалярное произведение
проекция на подпространство	$pr_{U} b = \sum_{e_{i} \in U} (b, e_{i}) e_{i}$	сумма только по базисным векторам подпространства
расстояние до подпространства	$d = ∣ (b, e_{⊥}) ∣$	модуль нормальной координаты

сводка: в ортонормированном базисе все формулы темы читаются скалярными произведениями

v = (v, e_{1}) e_{1} + (v, e_{2}) e_{2} + \dots + (v, e_{n}) e_{n}

разложение по ортонормированному базису: каждая координата — одно скалярное произведение, без систем уравнений

Координаты в таком базисе — базисе со всеми удобствами — читаются скалярными произведениями; в произвольном базисе пришлось бы решать систему. В этом весь смысл затеи с Грамом–Шмидтом: один раз потрудиться, чтобы потом каждую задачу про длины, углы и проекции считать в одну строку.

Причём тут наименьшие квадраты?#

Система $A x = b$ без решения — не тупик, а вопрос о ближайшем векторе: ищем $x$ , при котором $A x$ ближе всего к $b$ . Столбцы матрицы натягивают подпространство, и лучший $x$ тот, что даёт ортогональную проекцию $b$ на него. Условие перпендикулярности невязки всем столбцам — это нормальные уравнения, их вывод и приложения — в методе наименьших квадратов (урок).

A^{T} A \overset{x}{^} = A^{T} b

нормальные уравнения: невязка b − Ax̂ перпендикулярна всем столбцам A

Точки $(0, 1)$ , $(1, 2)$ , $(2, 2)$ , модель $y = k t$ . Значения: столбец времени $u = (0, 1, 2)$ , столбец измерений $y = (1, 2, 2)$ .
Проекция $y$ на направление $u$ : $k = \frac{( y , u )}{( u , u )} = \frac{0 + 2 + 4}{0 + 1 + 4} = \frac{6}{5} = 1, 2$ .
Предсказания: $\overset{y}{^} = 1, 2 u = (0; 1, 2; 2, 4)$ . Невязки: $y - \overset{y}{^} = (1; 0, 8; - 0, 4)$ .
Контроль: невязка перпендикулярна $u$ — $0 \cdot 1 + 0, 8 \cdot 1 - 0, 4 \cdot 2 = 0$ . Сумма квадратов: $1 + 0, 64 + 0, 16 = 1, 8$ .

Любой другой наклон даст больше: при $k = 1$ сумма квадратов $2$ , при $k = 1, 5$ — уже $2, 25$ . В этом смысл слова «наименьшие»: минимум у проекции, и перебор не нужен — формула его гарантирует. Для линейной алгебры это же рассуждение — мост от геометрии к системам уравнений: переопределённая система решается проекцией, а не Крамером.

Чем евклидовы пространства изоморфны между собой?#

Евклидово пространство — линейное пространство со скалярным произведением; разница уровней описана в линейных пространствах. Изоморфизм — биекция, сохраняющая произведение: длины, углы и расстояния при ней не меняются. Теорема проста: любые два евклидовых пространства одной размерности изоморфны. Ортонормированный базис каждого переводится в стандартный базис $R^{n}$ , и произведение превращается в обычную сумму произведений координат.

(x, y) = x_{1} y_{1} + \dots + x_{n} y_{n} в ортонормированном базисе, матрица Грама = E

в ортонормированном базисе грам-матрица единичная — вся геометрия сворачивается в арифметику Rⁿ

Практический вывод: считать можно в любом удобном базисе — ответ про длины и углы не изменится, а доказывать удобнее всего в $R^{n}$ , где всё проверяется в лоб. Матрица Грама $(a_{i}, a_{j})$ работает лакмусом: единичная — базис ортонормированный, диагональная — хотя бы ортогональный, ноль на диагонали — линейная зависимость.

Изоморфизм — не формальность: пространство многочленов степени не выше 2 с произведением $(p, q) = \int_{0}^{1} p q d x$ — трёхмерное евклидово, и весь этот гайд применим к нему буквально. Грам–Шмидт по базису $1$ , $x$ , $x^{2}$ выдаёт $1$ , $x - \frac{1}{2}$ , $x^{2} - x + \frac{1}{6}$ : обе ортогональности проверяются интегралами, каждый из которых даёт ноль, — та же арифметика, другой носитель.

Типичные ошибки

Первая — норма как сумма модулей:

∥ (3, 4) ∥ = 5

, а не

7

; квадраты складываются под корнем. Вторая — знаменатель в Граме–Шмидте: вычитаемое — дробь

\frac{( a _{k} , b _{j} )}{( b _{j} , b _{j} )}

; деление на норму вместо квадрата нормы — классическая поломка ортогональности. Третья — «проекция всегда ближайшая»: верно только в евклидовой метрике; в манхэттенской

d_{1} (x, y) = ∣ x_{1} - y_{1} ∣ + ∣ x_{2} - y_{2} ∣

для точки

(0, 2)

и прямой

y = x

ближайших точек целый отрезок от

(0, 0)

до

(2, 2)

— уникальность исчезла. Четвёртая — проекция на плоскость как проекция на один вектор: вычитать нужно сумму по всем базисным направлениям подпространства.

Проверь себя+15 XP

После Грама–Шмидта для $a_{1} = (1, 1, 0)$ , $a_{2} = (1, 0, 1)$ пара $(b_{2}, e_{2})$ равна:

Проверь себя+15 XP

Расстояние от $b = (2, 1, 3)$ до плоскости $span {(1, 1, 0), (1, 0, 1)}$ равно:

Частые вопросы

Чем евклидово пространство отличается от линейного?

В линейном пространстве определены сложение векторов и умножение на число — и всё. Евклидово добавляет скалярное произведение, а с ним длины, углы, расстояния и перпендикулярность. Один и тот же набор векторов можно снабдить разными скалярными произведениями — геометрия изменится, хотя линейная структура останется прежней. Поэтому сначала фиксируют произведение, потом говорят о нормах и углах.

Зачем нормировать векторы после Грама–Шмидта?

Ортогональный базис уже решает главную задачу — проекции считаются, решать систему не нужно. Нормировка добавляет удобство: координаты становятся просто скалярными произведениями $(v, e_{i})$ , грам-матрица — единичной, исчезают делители на $∥ b_{j} ∥^{2}$ в формуле проекции. Если условие требует именно ортонормированный базис, делить на нормы обязательно; для одних проекций хватит и ортогональности.

Что будет, если векторы линейно зависимы?

Алгоритм сообщит сам: у какого-то $b_{k}$ получится нулевой вектор, ведь соответствующий $a_{k}$ целиком лежит в оболочке предыдущих. Нулевой вектор нельзя нормировать — процесс останавливается, а число построенных ненулевых $b_{k}$ равно рангу набора. Так Грам–Шмидт заодно проверяет линейную независимость, без определителей и приведения матрицы к ступенчатому виду.

Почему наименьшие квадраты — это проекция?

Минимизируется сумма квадратов невязок, то есть квадрат расстояния $∥ b - A x ∥$ — а ближайшая точка подпространства в евклидовой метрике и есть ортогональная проекция. Перпендикулярность невязки всем столбцам $A$ даёт нормальные уравнения $A^{T} A x = A^{T} b$ . Квадраты появляются именно из-за скалярного произведения: расстояние измеряется через него, и в другой метрике минимизация выглядела бы иначе.

Куда дальше: определения и доказательства — в уроке евклидовы пространства, формулы — в шпаргалке по векторной алгебре. Конкретный следующий шаг: возьмите те же три вектора в другом порядке и прогоните Грам–Шмидт заново — базис выйдет другим, а плоскость и нормаль к ней останутся прежними; на этом проверяется главное свойство метода. Технику решения систем подтянет тренажёр СЛАУ и разбор матриц и определителей, задачи с решениями — по системам; дальше ортогональные базисы работают на полную в собственных значениях и квадратичных формах.