Лекция 6 Ортогональные векторы евклидова пространства и их свойства

Презентация доступна здесь

Два вектора \(\mathbf{u}\) и \(\mathbf{v}\) евклидова пространства называются ортогональными (перпендикулярными), если их скалярное произведение равно нулю: \(\langle \mathbf{u},\mathbf{v}\rangle = 0\).

Система векторов \(\mathbf{v}_1,\mathbf{v}_2,\ldots, \mathbf{v}_k\) называется ортогональной, если все ее векторы попарно ортогональны, т.е. \(\langle \mathbf{v}_i, \mathbf{v}_j\rangle=0\) при \(i\ne j\).
Система векторов \(\mathbf{v}_1, \mathbf{v}_2, \ldots,\mathbf{v}_k\) называется ортонормированной, если все ее векторы попарно ортогональны и длина (норма) каждого вектора системы равна единице, т.е.

\[ \langle \mathbf{v}_i, \mathbf{v}_j\rangle = \begin{cases} 1, & i=j,\\ 0, & i\ne j. \end{cases} \]

Говорят, что вектор \(\mathbf{v}\) ортогонален (перпендикулярен) множеству \(M\), если он ортогонален каждому вектору из \(M\). Ортогональность векторов обозначается знаком перпендикуляра (\(\perp\)).

Свойства ортогональных векторов

1. Нулевой вектор ортогонален каждому вектору пространства.

2. Взаимно ортогональные ненулевые векторы линейно независимы.

   В самом деле, пусть векторы \(\mathbf{v}_1,\mathbf{v}_2,\ldots,\mathbf{v}_k\) попарно ортогональны. Составим из них линейную комбинацию и приравняем ее нулевому вектору:

   \[ \lambda_1\cdot \mathbf{v}_1+\lambda_2\mathbf{v}_2+\ldots+\lambda_k\mathbf{v}_k=\mathbf{o}. \]

   Умножим обе части равенства скалярно на вектор \(\mathbf{v}_1\):

   \[ \lambda_1\langle \mathbf{v}_1,\mathbf{v}_1\rangle + \lambda_2\underbrace{\langle \mathbf{v}_1,\mathbf{v}_2\rangle}_{0} + \ldots + \lambda_k\underbrace{\langle \mathbf{v}_1,\mathbf{v}_k\rangle}_{0} = \underbrace{\langle \mathbf{v}_1,\mathbf{o}\rangle}_{0}. \]

   Следовательно, \(\lambda_1\cdot|\mathbf{v}_1|^2=0\). Так как \(\mathbf{v}_1\ne \mathbf{o}\), то \(\lambda_1=0\). Аналогично доказывается, что \(\lambda_2=\ldots=\lambda_k=0\), т.е. рассматриваемая линейная комбинация тривиальна. Значит, ортогональная система векторов \(\mathbf{v}_1,\mathbf{v}_2, \ldots,\mathbf{v}_k\) линейно независима.

3. Если сумма взаимно ортогональных векторов равна нулевому вектору, то каждое из слагаемых равно нулевому вектору.

4. Если вектор \(\mathbf{u}\) ортогонален каждому вектору системы \(\mathbf{v}_1,\mathbf{v}_2,\ldots,\mathbf{v}_k\), то он также ортогонален и любой их линейной комбинации.
   Иными словами, если \(\mathbf{u}\perp \mathbf{v}_i\), \(i=1,\ldots,k\), то \(\mathbf{u}\perp \operatorname{Lin} (\mathbf{v}_1,\ldots, \mathbf{v}_k)\).

5. Если вектор \(\mathbf{u}\) ортогонален подмножеству \(M\) евклидова пространства, то он ортогонален и линейной оболочке этого подмножества, т.е.
   \[ \mathbf{u}\perp M~\Rightarrow~ \mathbf{u}\perp \operatorname{Lin}(M). \]

6. Если \(\mathbf{v}_1,\mathbf{v}_2,\ldots,\mathbf{v}_k\) — ортогональная система векторов, то

\[ |\mathbf{v}_1+\mathbf{v}_2+\ldots+\mathbf{v}_k|^2= |\mathbf{v}_1|^2+ |\mathbf{v}_2|^2+\ldots+|\mathbf{v}_k|^2. \]

Это утверждение является обобщением теоремы Пифагора.

Процесс ортогонализации Грама-Шмидта

Рассмотрим следующую задачу.
Дана линейно независимая система \(\mathbf{v}_1,\mathbf{v}_2,\ldots,\mathbf{v}_k\) векторов конечномерного евклидова пространства.
Требуется построить ортогональную систему \(\mathbf{w}_1,\mathbf{w}_2, \ldots,\mathbf{w}_k\) векторов того же пространства так, чтобы совпадали линейные оболочки:

\[ \operatorname{Lin}(\mathbf{v}_1,\mathbf{v}_2, \ldots,\mathbf{v}_k)= \operatorname{Lin}(\mathbf{w}_1, \mathbf{w}_2,\ldots,\mathbf{w}_k). \]

Решение задачи находится при помощи процесса ортогонализации Грама–Шмидта, выполняемого за \(k\) шагов.

1. Положить \(\mathbf{w}_1=\mathbf{v}_1\).

2. Найти

\[ \mathbf{w}_2=\mathbf{v}_2-\alpha_{21}\cdot \mathbf{w}_1, \quad \text{где} \quad \alpha_{21}= \frac{\langle \mathbf{v}_2, \mathbf{w}_1\rangle}{\langle \mathbf{w}_1, \mathbf{w}_1 \rangle}. \]

1. Найти

\[ \mathbf{w}_3=\mathbf{v}_3-\alpha_{31} \mathbf{w}_1-\alpha_{32} \mathbf{w}_2, \] где

\[ \alpha_{31}=\frac{\langle \mathbf{v}_3,\mathbf{w}_1 \rangle}{\langle \mathbf{w}_1, \mathbf{w}_1\rangle}, \quad \alpha_{32}= \frac{\langle \mathbf{v}_3,\mathbf{w}_2 \rangle}{\langle \mathbf{w}_2, \mathbf{w}_2\rangle}; \] и так далее.

1. Найти

\[ \mathbf{w}_k=\mathbf{v}_k-\sum_{i=1}^{k-1}\alpha_{ki}\mathbf{w}_i, \quad \text{где} \quad \alpha_{ki}= \frac{\langle \mathbf{v}_k,\mathbf{w}_i\rangle}{\langle \mathbf{w}_i, \mathbf{w}_i\rangle},~ i=1,\ldots,k-1. \]

Поясним процесс ортогонализации.
Искомый на втором шаге вектор \(\mathbf{w}_2\) представлен в виде линейной комбинации

\[ \mathbf{w}_2=\mathbf{v}_2-\alpha \mathbf{w}_1. \]

Коэффициент \(\alpha\) подбирается так, чтобы обеспечить ортогональность векторов \(\mathbf{w}_2\) и \(\mathbf{w}_1\). Приравняем нулю их скалярное произведение:

\[ \langle \mathbf{w}_2,\mathbf{w}_1\rangle= \langle \mathbf{v}_2,\mathbf{w}_1\rangle- \alpha \langle \mathbf{w}_1,\mathbf{w}_1\rangle=0. \]

Отсюда получаем, что \(\alpha=\alpha_{21}\) (см. пункт 2 алгоритма).
Подбор коэффициентов \(\alpha_{ji}\) на \(j\)-м шаге алгоритма осуществляется так, чтобы искомый вектор \(\mathbf{w}_j\) был ортогонален всем ранее найденным векторам \(\mathbf{w}_1, \mathbf{w}_2,\ldots,\mathbf{w}_{j-1}\).

Пример расчетов

. Даны системы векторов евклидовых пространств:

\[ x=\begin{pmatrix}1\\0\end{pmatrix}\!,\quad y=\begin{pmatrix}2\\0\end{pmatrix}\!,\quad z=\begin{pmatrix}0\\1\end{pmatrix} \]

— элементы пространства \(\mathbb{R}^2\) со скалярным произведением:

\[ \langle x,y\rangle= x^T\cdot\! \begin{pmatrix}2&1\\1&1\end{pmatrix}\!\cdot y= 2\cdot x_1\cdot y_1+x_1\cdot y_2+x_2\cdot y_1+x_2\cdot y_2\,; \]

Провести ортогонализацию данных векторов.

Решение. Заметим, что система векторов \(x,\,y,\,z\) линейно зависимая, так как \(x\) и \(y\) пропорциональны, поэтому используем процесс ортогонализации Грама–Шмидта с учетом пункта 3 замечаний 8.11.

1. Полагаем \(\mathbf{u}=x\).

2. Вычисляем

\[ \alpha_{21}=\frac{\langle y,\mathbf{u}\rangle}{\langle \mathbf{u}, \mathbf{u}\rangle}= \frac{2\!\cdot\!2\!\cdot\!1+ 1\!\cdot\!0+ 0\!\cdot\!2+0\!\cdot\!0}{2\!\cdot\!1\!\cdot\!1+ 1\!\cdot\!0+ 0\!\cdot\!1+0\!\cdot\!0}=2 \]

и находим

\[ \mathbf{v}=y-\alpha_{21}\mathbf{u}= \begin{pmatrix}2\\0\end{pmatrix}-2\! \begin{pmatrix}1\\0\end{pmatrix}= \begin{pmatrix} 0\\0 \end{pmatrix}. \]

Получили нулевой вектор.

1. Вычисляем

\[ \alpha_{31}=\frac{\langle z,\mathbf{u}\rangle}{\langle \mathbf{u},\mathbf{u}\rangle}= \frac{2\!\cdot\!0\!\cdot\!1+ 0\!\cdot\!0+ 1\!\cdot\!1+1\!\cdot\!0}{2\!\cdot\!1\!\cdot\!1+ 1\!\cdot\!0+0\!\cdot\!1+ 0\!\cdot\!0}=\frac{1}{2}\,; \]

\(\alpha_{32}=0\) согласно пункту 3 замечаний 8.11, так как \(\mathbf{v}=\mathbf{o}\), и находим

\[ \mathbf{w}=z-\alpha_{31}\cdot \mathbf{u}-\alpha_{32}\cdot \mathbf{v}= \begin{pmatrix} 0\\1\end{pmatrix}-\frac{1}{2}\cdot\! \begin{pmatrix}1\\0\end{pmatrix}- 0\cdot\! \begin{pmatrix}0\\0 \end{pmatrix}= \begin{pmatrix}-1/2\\1\end{pmatrix}\!. \]

Проверим условие ортогональности:

\[ \langle \mathbf{u},\mathbf{w}\rangle= 2\cdot1\cdot \left(-\frac{1}{2}\right)+ 1\cdot1+ 0\cdot\left(-\frac{1}{2}\right)+0\cdot1=0. \]

Для получения ортонормированной системы исключаем нулевой вектор \(\mathbf{v}=\mathbf{o}\), а остальные нормируем (см. пункт 4 замечаний 8.11):

\[ \begin{gathered} |\mathbf{u}|= \sqrt{\langle \mathbf{u},\mathbf{u} \rangle}= \sqrt{2}\,;\\[5pt] |\mathbf{w}|= \sqrt{\langle \mathbf{w},\mathbf{w}\rangle}= \sqrt{2\cdot\!\left(-\frac{1}{2}\right)\!\cdot\!\left(-\frac{1}{2}\right)+\left(-\frac{1}{2}\right)\!\cdot1+ 1\cdot\left(-\frac{1}{2}\right)+ 1\cdot1}= \sqrt{1/2}\,;\\[5pt] \widehat{\mathbf{u}}= \frac{1}{|\mathbf{u}|}\cdot \mathbf{u}= \frac{1}{\sqrt{2}}\cdot\! \begin{pmatrix}1\\0\end{pmatrix}= \begin{pmatrix}1/\sqrt{2}\\ 0\end{pmatrix}\!,\\[5pt] \widehat{\mathbf{w}}= \frac{1}{|\mathbf{w}|}\cdot \mathbf{w}= \frac{1}{\sqrt{1/2}}\cdot\! \begin{pmatrix}-1/2\\1\end{pmatrix}= \begin{pmatrix}-1/\sqrt{2}\\ \sqrt{2}\end{pmatrix}\!. \end{gathered} \]

Таким образом, для системы трех векторов \(x,\,y,\,z\) построена ортогональная система из трех векторов \(\mathbf{u},\mathbf{v},\mathbf{w}\) и ортонормированная система из двух векторов \(\widehat{\mathbf{u}},\widehat{\mathbf{w}}\). Линейные оболочки этих трех систем совпадают между собой (и со всем пространством \(\mathbb{R}^2\)).

Ортогональный и ортонормированный базисы евклидова пространства

Так как евклидово пространство является линейным, на него переносятся все понятия и свойства, относящиеся к линейному пространству, в частности, понятия базиса и размерности.

Базис \(\mathbf{e}_1, \mathbf{e}_2, \ldots, \mathbf{e}_n\) евклидова пространства называется ортогональным, если все образующие его векторы попарно ортогональны, т.е.

\[ \langle \mathbf{e}_i, \mathbf{e}_j \rangle = 0 \quad \text{при} \quad i \neq j, \quad i = 1, 2, \ldots, n, \quad j = 1, 2, \ldots, n. \]

Ортонормированный базис

Базис \(\mathbf{e}_1, \mathbf{e}_2, \ldots, \mathbf{e}_n\) евклидова пространства называется ортонормированным, если его векторы попарно ортогональны и длина каждого из них равна единице:

\[ \langle \mathbf{e}_i, \mathbf{e}_j \rangle = \begin{cases} 1, & \text{если} \ i = j, \\ 0, & \text{если} \ i \neq j, \end{cases} \quad i = 1, 2, \ldots, n, \quad j = 1, 2, \ldots, n. \]

Теорема В конечномерном евклидовом пространстве любую систему ортогональных (ортонормированных) векторов можно дополнить до ортогонального (ортонормированного) базиса.

В самом деле, по теореме 8.2 любую систему линейно независимых векторов, в частности, ортогональную (ортонормированную), можно дополнить до базиса. Применяя к этому базису процесс ортогонализации, получаем ортогональный базис. Нормируя векторы этого базиса (см. пункт 4 замечаний 8.11), получаем ортонормированный базис.

Выражение скалярного произведения через координаты сомножителей

Пусть \(\mathbf{e}_1, \mathbf{e}_2, \ldots, \mathbf{e}_n\) — базис евклидова пространства, в котором векторы \(\mathbf{x}\) и \(\mathbf{y}\) имеют координаты \(x_1, x_2, \ldots, x_n\) и \(y_1, y_2, \ldots, y_n\) соответственно, т.е.

\[ \mathbf{x} = x_1 \mathbf{e}_1 + x_2 \mathbf{e}_2 + \ldots + x_n \mathbf{e}_n, \quad \mathbf{y} = y_1 \mathbf{e}_1 + y_2 \mathbf{e}_2 + \ldots + y_n \mathbf{e}_n. \]

Выразим скалярное произведение, используя следствие 3 из аксиом скалярного произведения:

\[ \langle \mathbf{x}, \mathbf{y} \rangle = \langle x_1 \mathbf{e}_1 + x_2 \mathbf{e}_2 + \ldots + x_n \mathbf{e}_n, \, y_1 \mathbf{e}_1 + y_2 \mathbf{e}_2 + \ldots + y_n \mathbf{e}_n \rangle = \sum_{i=1}^{n} \sum_{j=1}^{n} x_i y_j \langle \mathbf{e}_i, \mathbf{e}_j \rangle. \]

Преобразуем это выражение, используя операции с матрицами:

\[ \langle \mathbf{x}, \mathbf{y} \rangle = x^T \cdot G(\mathbf{e}_1, \mathbf{e}_2, \ldots, \mathbf{e}_n) \cdot y, \]

где \(x = \begin{pmatrix} x_1 & \cdots & x_n \end{pmatrix}^T\), \(y = \begin{pmatrix} y_1 & \cdots & y_n \end{pmatrix}^T\) — координатные столбцы векторов \(\mathbf{x}\) и \(\mathbf{y}\), а \(G(\mathbf{e}_1, \mathbf{e}_2, \ldots, \mathbf{e}_n)\) — квадратная симметрическая матрица, составленная из скалярных произведений:

\[ G(\mathbf{e}_1, \mathbf{e}_2, \ldots, \mathbf{e}_n) = \begin{pmatrix} \langle \mathbf{e}_1, \mathbf{e}_1 \rangle & \langle \mathbf{e}_1, \mathbf{e}_2 \rangle & \cdots & \langle \mathbf{e}_1, \mathbf{e}_n \rangle \\ \langle \mathbf{e}_2, \mathbf{e}_1 \rangle & \langle \mathbf{e}_2, \mathbf{e}_2 \rangle & \cdots & \langle \mathbf{e}_2, \mathbf{e}_n \rangle \\ \vdots & \vdots & \ddots & \vdots \\ \langle \mathbf{e}_n, \mathbf{e}_1 \rangle & \langle \mathbf{e}_n, \mathbf{e}_2 \rangle & \cdots & \langle \mathbf{e}_n, \mathbf{e}_n \rangle \end{pmatrix}. \]

Преимущества ортонормированного базиса

Для ортонормированного базиса \( \mathbf{e}_1, \mathbf{e}_2, \dots, \mathbf{e}_n \) формула (8.32) упрощается, так как из условия (8.31) следует, что матрица Грама \( G(\mathbf{e}_1, \mathbf{e}_2, \dots, \mathbf{e}_n) \) ортонормированной системы \( \mathbf{e}_1, \mathbf{e}_2, \dots, \mathbf{e}_n \) равна единичной матрице: \( G(\mathbf{e}_1, \mathbf{e}_2, \dots, \mathbf{e}_n) = E \).

1. В ортонормированном базисе \( \mathbf{e}_1, \mathbf{e}_2, \dots, \mathbf{e}_n \) скалярное произведение векторов \( \mathbf{x} \) и \( \mathbf{y} \) находится по формуле: \[ \langle \mathbf{x}, \mathbf{y} \rangle = x_1 y_1 + x_2 y_2 + \dots + x_n y_n, \] где \( x_1, \dots, x_n \) — координаты вектора \( \mathbf{x} \), а \( y_1, \dots, y_n \) — координаты вектора \( \mathbf{y} \).

2. В ортонормированном базисе \( \mathbf{e}_1, \mathbf{e}_2, \dots, \mathbf{e}_n \) длина вектора \( \mathbf{x} \) вычисляется по формуле: \[ |\mathbf{x}| = \sqrt{x_1^2 + x_2^2 + \dots + x_n^2}, \] где \( x_1, \dots, x_n \) — координаты вектора \( \mathbf{x} \).

1. Координаты \( x_1, \dots, x_n \) вектора \( \mathbf{x} \) относительно ортонормированного базиса \( \mathbf{e}_1, \mathbf{e}_2, \dots, \mathbf{e}_n \) находятся при помощи скалярного произведения по формулам: \[ x_1 = \langle \mathbf{x}, \mathbf{e}_1 \rangle, \dots, x_n = \langle \mathbf{x}, \mathbf{e}_n \rangle. \]

В самом деле, умножая обе части равенства \( \mathbf{x} = x_1 \mathbf{e}_1 + \dots + x_n \mathbf{e}_n \) на \( \mathbf{e}_1 \), получаем: \[ \langle \mathbf{x}, \mathbf{e}_1 \rangle = x_1 \underbrace{\langle \mathbf{e}_1, \mathbf{e}_1 \rangle}_{1} + x_2 \underbrace{\langle \mathbf{e}_1, \mathbf{e}_2 \rangle}_{0} + \dots + x_n \underbrace{\langle \mathbf{e}_1, \mathbf{e}_n \rangle}_{0} \quad \Rightarrow \quad x_1 = \langle \mathbf{x}, \mathbf{e}_1 \rangle. \]

Изменение матрицы Грама при переходе от одного базиса к другому

Пусть \( (\mathbf{e}) = (\mathbf{e}_1, \ldots, \mathbf{e}_n) \) и \( (\mathbf{f}) = (\mathbf{f}_1, \ldots, \mathbf{f}_n) \) — два базиса евклидова пространства \( \mathbb{E} \), а \( S \) — матрица перехода от базиса \( (\mathbf{e}) \) к базису \( (\mathbf{f}) \colon \, (\mathbf{f}) = (\mathbf{e}) S \).

Требуется найти связь матриц Грама систем векторов \( (\mathbf{e}) \) и \( (\mathbf{f}) \).

По формуле (8.32) вычислим скалярное произведение векторов \( \mathbf{x} \) и \( \mathbf{y} \) в разных базисах:

\[ \langle \mathbf{x}, \mathbf{y} \rangle = {\mathop{x}\limits_{(\mathbf{e})}}^T \cdot G(\mathbf{e}_1, \ldots, \mathbf{e}_n) \cdot \mathop{\mathbf{y}}\limits_{(\mathbf{e})} = {\mathop{x}\limits_{(\mathbf{f})}}^T \cdot G(\mathbf{f}_1, \ldots, \mathbf{f}_n) \cdot \mathop{\mathbf{y}}\limits_{(\mathbf{f})}, \]

где \( \mathop{x}\limits_{(\mathbf{e})} \), \( \mathop{x}\limits_{(\mathbf{f})} \), и \( \mathop{y}\limits_{(\mathbf{e})} \), \( \mathop{y}\limits_{(\mathbf{f})} \) — координатные столбцы векторов \( \mathbf{x} \) и \( \mathbf{y} \) в соответствующих базисах.

Подставляя в последнее равенство связи \( \mathop{x}\limits_{(\mathbf{e})} = S \mathop{x}\limits_{(\mathbf{f})} \), \( \mathop{y}\limits_{(\mathbf{e})} = S \mathop{y}\limits_{(\mathbf{f})} \), получаем тождество:

\[ {\mathop{x}\limits_{(\mathbf{f})}}^T \cdot S^T \cdot G(\mathbf{e}_1, \ldots, \mathbf{e}_n) \cdot S \cdot \mathop{\mathbf{y}}\limits_{(\mathbf{f})} = {\mathop{x}\limits_{(\mathbf{f})}}^T \cdot G(\mathbf{f}_1, \ldots, \mathbf{f}_n) \cdot \mathop{\mathbf{y}}\limits_{(\mathbf{f})}. \]

Отсюда следует формула изменения матрицы Грама при переходе от одного базиса к другому:

\[ G(\mathbf{f}_1, \ldots, \mathbf{f}_n) = S^T \cdot G(\mathbf{e}_1, \ldots, \mathbf{e}_n) \cdot S. \]

Записав это равенство для ортонормированных базисов \( (\mathbf{e}) \) и \( (\mathbf{f}) \), получаем:

\[ E = S^T E S, \]

так как матрицы Грама ортонормированных базисов единичные: \( G(\mathbf{e}_1, \ldots, \mathbf{e}_n) = G(\mathbf{f}_1, \ldots, \mathbf{f}_n) = E \).

Поэтому матрица \( S \) перехода от одного ортонормированного базиса к другому является ортогональной: \( S^{-1} = S^T \).

Свойства определителя Грама

Определитель матрицы (8.33) называется определителем Грама. Рассмотрим свойства этого определителя.

1. Критерий Грама линейной зависимости векторов: система векторов \( \mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k \) линейно зависима тогда и только тогда, когда определитель Грама этой системы равен нулю.

Действительно, если система \( \mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k \) линейно зависима, то существуют такие числа \( x_1, x_2, \ldots, x_k \), не равные нулю одновременно, что:

\[ x_1 \cdot \mathbf{v}_1 + x_2 \cdot \mathbf{v}_2 + \ldots + x_k \cdot \mathbf{v}_k = \mathbf{o}. \]

Умножая это равенство скалярно на \( \mathbf{v}_1 \), затем на \( \mathbf{v}_2 \) и т.д. на \( \mathbf{v}_k \), получаем однородную систему уравнений:

\[ G(\mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k) x = \mathbf{o}, \]

которая имеет нетривиальное решение \( x = \begin{pmatrix} x_1 & \cdots & x_k \end{pmatrix}^T \). Следовательно, её определитель равен нулю. Необходимость доказана. Достаточность доказывается, проводя рассуждения в обратном порядке.

Следствие: Если какой-либо главный минор матрицы Грама равен нулю, то и определитель Грама равен нулю.

Главный минор матрицы Грама системы \( \mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k \) представляет собой определитель Грама подсистемы векторов. Если подсистема линейно зависима, то и вся система линейно зависима.

1. Определитель Грама не изменяется в процессе ортогонализации системы векторов. Другими словами, если в процессе ортогонализации векторов \( \mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k \) получены векторы \( \mathbf{w}_1, \mathbf{w}_2, \ldots, \mathbf{w}_k \), то:

\[ \det G(\mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k) = \det G(\mathbf{w}_1, \mathbf{w}_2, \ldots, \mathbf{w}_k) = \langle \mathbf{w}_1, \mathbf{w}_1 \rangle \cdot \langle \mathbf{w}_2, \mathbf{w}_2 \rangle \cdot \ldots \cdot \langle \mathbf{w}_k, \mathbf{w}_k \rangle. \]

Действительно, в процессе ортогонализации по векторам \( \mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k \) последовательно строятся векторы:

\[ \mathbf{w}_1 = \mathbf{v}_1, \quad \mathbf{w}_2 = \mathbf{v}_2 - \alpha_{21} \mathbf{w}_1, \quad \ldots, \quad \mathbf{w}_k = \mathbf{v}_k - \sum_{j=1}^{k-1} \alpha_{kj} \mathbf{w}_j. \]

После первого шага определитель Грама не изменяется:

\[ \det G(\mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k) = \det G(\mathbf{w}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k). \]

Выполнив с определителем \( \det G(\mathbf{w}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k) \) следующие преобразования, получаем:

\[ \det G(\mathbf{w}_1, \mathbf{w}_2, \mathbf{v}_3, \ldots, \mathbf{v}_k). \]

Продолжая аналогично, получаем после \( k \) шагов:

\[ \det G(\mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k) = \det G(\mathbf{w}_1, \mathbf{w}_2, \ldots, \mathbf{w}_k). \]

1. Определитель Грама любой системы \( \mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k \) векторов удовлетворяет двойному неравенству:

\[ 0 \leqslant \det G(\mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k) \leqslant \langle \mathbf{v}_1, \mathbf{v}_1 \rangle \cdot \langle \mathbf{v}_2, \mathbf{v}_2 \rangle \cdot \ldots \cdot \langle \mathbf{v}_k, \mathbf{v}_k \rangle. \]

Ортогональные дополнения евклидова пространства

Ортогональным дополнением непустого подмножества M евклидова пространства \(\mathbb{E}\) называется множество векторов, ортогональных каждому вектору из M. Ортогональное дополнение обозначается

\[ M^{\perp}= \Bigl\{ \mathbf{v}\colon\, \langle \mathbf{v},\mathbf{w}\rangle=0,~ \forall \mathbf{w}\in M \Bigr\}. \]

Рассмотрим примеры ортогональных дополнений евклидова пространства.

1. Ортогональным дополнением нулевого подпространства \(\{\mathbf{o} \} \triangleleft \mathbb{E}\) служит все пространство \(\mathbb{E} \colon\, \{\mathbf{o} \}^{\perp}= \mathbb{E}\). Ортогональным дополнением всего пространства является его нулевое подпространство \(\mathbb{E}^{\perp}= \{\mathbf{o} \}\).

2. Пусть в пространстве \(V_3\) радиус-векторов (с началом в точке O) заданы три взаимно перпендикулярных радиус-вектора \(\overrightarrow{OA}\), \(\overrightarrow{OB}\) и \(\overrightarrow{OC}\). Тогда ортогональным дополнением вектора \(\overrightarrow{OA}\) является множество радиус-векторов на плоскости, содержащей векторы \(\overrightarrow{OB}\) и \(\overrightarrow{OC}\), точнее, \(\{\overrightarrow{OA}\}^{\perp}= \operatorname{Lin}(\overrightarrow{OB},\overrightarrow{OC})\). Ортогональным дополнением векторов \(\overrightarrow{OA}\) и \(\overrightarrow{OB}\) служит множество радиус-векторов на прямой, содержащей вектор \(\overrightarrow{OC}\colon \{\overrightarrow{OA},\overrightarrow{OB}\}^{\perp}= \operatorname{Lin} (\overrightarrow{OC})\). Ортогональным дополнением трех заданных векторов служит нулевой радиус-вектор: \(\{\overrightarrow{OA}, \overrightarrow{OB}, \overrightarrow{OC}\}^{\perp}= \{\overrightarrow{OO}\}\).

3. В пространстве \(P_2(\mathbb{R})\) многочленов степени не выше второй со скалярным произведением (8.29) задано подмножество \(P_0(\mathbb{R})\) - многочленов нулевой степени. Найдем ортогональное дополнение этого подмножества. Для этого приравняем нулю скалярное произведение многочлена \(p_2(x)=ax^2+bx+c\) на постоянный многочлен \(p_0(x)=d\colon \langle p_2(x),p_0(x)\rangle= a\cdot0+b\cdot0+c\cdot d=0\). Поскольку величина \(d\) произвольная, то \(c=0\). Следовательно, ортогональным дополнением подмножества \(P_0(\mathbb{R})\) является множество многочленов из \(P_0(\mathbb{R})\) с нулевым свободным членом.

Свойства ортогонального дополнения

Рассмотрим свойства ортогональных дополнений подмножеств n-мерного евклидова пространства \(\mathbb{E}\).

1. Ортогональное дополнение \(M^{\perp}\) непустого подмножества \(M\subset \mathbb{E}\) является линейным подпространством, т.е. \(M^{\perp} \triangleleft \mathbb{E}\), и справедливо включение \(M\subset (M^{\perp})^{\perp}\).

В самом деле, множество \(M^{\perp}\) замкнуто по отношению к операциям сложения векторов и умножения вектора на число, так как сумма двух векторов, ортогональных \(M\), ортогональна \(M\), и произведение вектора, ортогонального \(M\), на любое число является вектором, ортогональным \(M\). Докажем включение \(M\subset (M^{\perp})^{\perp}\). Пусть \(\mathbf{w}\in M\), тогда \(\langle \mathbf{w},\mathbf{v}\rangle=0\) для любого вектора \(\mathbf{v}\in M^{\perp}\). Но это означает, что \(\mathbf{w}\subset (M^{\perp})^{\perp}\).

1. Пересечение любого непустого подмножества \(M\subset \mathbb{E}\) со своим ортогональным дополнением есть нулевой вектор: \(M\cap M^{\perp}= \{\mathbf{o}\}\).

Действительно, только нулевой вектор ортогонален самому себе.

1. Если \(L\) - подпространство \(\mathbb{E}\)~ \((L\triangleleft \mathbb{E})\), то \(\mathbb{E}=L\oplus L^{\perp}\).

Действительно, возьмем в \(L\) ортогональный базис \((\mathbf{e})= (\mathbf{e}_1, \ldots,\mathbf{e}_k)\). Дополним его векторами \((\mathbf{f})= (\mathbf{f}_{k+1},\ldots, \mathbf{f}_n)\) до ортогонального базиса \((\mathbf{e}),\,(\mathbf{f})\) всего пространства \(\mathbb{E}\). Тогда произвольный вектор \(\mathbf{w}\in \mathbb{E}\) можно представить в виде суммы

\[ \mathbf{w}= \underbrace{\sum_{i=1}^{k}\mathbf{w}_i \mathbf{e}_i}_{\mathbf{u}}+ \underbrace{\sum_{j=k+1}^{n}\mathbf{w}_j \mathbf{f}_j}_{\mathbf{v}} =\mathbf{u}+ \mathbf{v}, \]

где \(\mathbf{u}\in L\), а \(\mathbf{v}\in L^{\perp}\), так как \(\langle \mathbf{v},\mathbf{e}_i\rangle= \sum_{j=k+1}^{n}\mathbf{w}\langle \mathbf{f}_j, \mathbf{e}_i \rangle_{{}_{=0}}=0\) для \(i=1,\ldots,k\). Следовательно, любой вектор пространства \(\mathbb{E}\) раскладывается по подпространствам \(L\) и \(L^{\perp}\), т.е. \(\mathbb{E}= L+L^{\perp}\). Эта алгебраическая сумма является прямой суммой по свойству 2, поскольку \(L\cap L^{\perp}=\{\mathbf{o}\}\). Следовательно, \(\mathbb{E}=L\oplus L^{\perp}\).

1. Если \(L\triangleleft \mathbb{E}\), то \(\dim{L^{\perp}}= \dim\mathbb{E}-\dim{L}\).

2. Если \(L\) - подпространство \(\mathbb{E}\), то \(L=(L^{\perp})^{\perp}\).

Из первого свойства следует включение \(L\subset(L^{\perp})^{\perp}\). Докажем, что \((L^{\perp})^{\perp}\subset L\). Действительно, пусть \(\mathbf{w}\in (L^{\perp})^{\perp}\). По свойству 3: \(\mathbf{w}=\mathbf{u}+\mathbf{v}\), где \(\mathbf{u}\in L\),~ \(\mathbf{v}\in L^{\perp}\). Найдем скалярное произведение

\[ \underbrace{\langle \mathbf{w},\mathbf{v}\rangle}_{0}= \langle \mathbf{w}+ \mathbf{v}, \mathbf{v}\rangle= \underbrace{\langle \mathbf{u},\mathbf{v}\rangle }_{0}+\langle \mathbf{v}, \mathbf{v}\rangle= \langle \mathbf{v},\mathbf{v}\rangle. \]

Следовательно, \(\langle \mathbf{v},\mathbf{v}\rangle=0\), и согласно аксиоме 4 скалярного произведения \(\mathbf{v}=\mathbf{o}\), поэтому \(\mathbf{w}=\mathbf{u}+ \mathbf{v}= \mathbf{u}+\mathbf{0}=\mathbf{u}\in L\). Значит, \((L^{\perp})^{\perp}\subset L\). Из двух включений \(L\subset (L^{\perp})^{\perp}\) и \((L^{\perp})^{\perp} \subset L\) следует равенство \(L=(L^{\perp})^{\perp}\).

1. Если \(L_1\triangleleft \mathbb{E}\) и \(L_2\triangleleft \mathbb{E}\), то \((L_1+L_2)^{\perp}=L_1^{\perp}\cap L_2^{\perp}\) и \((L_1\cap L_2)^{\perp}= L_1^{\perp}+ L_2^{\perp}\).

Последние свойства аналогичны свойствам алгебраических дополнений.

Нахождение ортогонального дополнения подпространства

Ранее для описания подпространств линейных пространств использовались два способа описания (внешний и внутренний). Рассмотрим применение этих способов описания для нахождения ортогональных дополнений подпространств. Учитывая изоморфизм евклидовых пространств, будем рассматривать арифметическое пространство \(\mathbb{R}^n\) со скалярным произведением (8.27).

Для заданного подпространства \(L \triangleleft \mathbb{R}^n\) требуется найти его ортогональное дополнение \(L^{\perp}\). В зависимости от способа описания подпространства \(L\) используем одно из следующих двух утверждений.

1. Если подпространство \(L \triangleleft \mathbb{R}^n\) задано как линейная оболочка \(L = \operatorname{Lin}(a_1, \ldots, a_k)\) столбцов матрицы \(A = \begin{pmatrix} a_1 & \cdots & a_k \end{pmatrix}\), то множество решений однородной системы \(A x = 0\) является его ортогональным дополнением \(L^{\perp} \triangleleft \mathbb{R}^n\), т.е.

\[ L = \operatorname{Lin}(a_1, \ldots, a_k) \quad \Rightarrow \quad L^{\perp} = \{ A x = 0 \} \tag{8.34} \]

1. Если подпространство \(L \triangleleft \mathbb{R}^n\) задано как множество решений однородной системы \(A x = 0\) \(m\) уравнений с \(n\) неизвестными, то линейная оболочка столбцов \(a_1^T, \ldots, a_m^T\) транспонированной матрицы \(A^T = \begin{pmatrix} a_1^T & \cdots & a_m^T \end{pmatrix}\) является его ортогональным дополнением \(L^{\perp} \triangleleft \mathbb{R}^n\), т.е.

\[ L = \{ A x = 0 \} \quad \Rightarrow \quad L^{\perp} = \operatorname{Lin}\begin{pmatrix} a_1^T & \cdots & a_m^T \end{pmatrix} \tag{8.35} \]

где \(a_i^T\) — \(i\)-й столбец матрицы \(A^T\).

Докажем, например, первое утверждение. Линейное однородное уравнение

\[ a_{i\,1} \cdot x_1 + a_{i\,2} \cdot x_2 + \ldots + a_{i\,n} \cdot x_n = 0 \]

можно записать при помощи скалярного произведения \(\langle \mathbf{a}_{i}, \mathbf{x} \rangle = 0\), так как \(\langle \mathbf{a}_{i}, \mathbf{x} \rangle = (a_{i})^T x\) по формуле (8.27). Тогда множество \(\{\langle \mathbf{a}_{i}, \mathbf{x} \rangle = 0\}\) решений одного уравнения совпадает с множеством векторов, ортогональных \(\mathbf{a}_i\).

Метрические приложения определителя Грама

Пусть \(\boldsymbol{v}_1, \boldsymbol{v}_2, \ldots, \boldsymbol{v}_k\) — линейно независимая система векторов \(n\)-мерного евклидова пространства (\(k \leqslant n\)). Определим по индукции понятие многомерного объема. Обозначим через \(\boldsymbol{h}_j\) — перпендикуляр, опущенный из конца вектора \(\boldsymbol{v}_j\) на подпространство \(\operatorname{Lin}(\boldsymbol{v}_1, \ldots, \boldsymbol{v}_{j-1})\), \(j = 2, \ldots, k\).

Обозначим:

• \(V_{\ast \boldsymbol{v}_1} = |\boldsymbol{v}_1|\) — одномерный объем — длина вектора \(\boldsymbol{v}_1\);
• \(V_{\ast \boldsymbol{v}_1, \boldsymbol{v}_2} = V_{\ast \boldsymbol{v}_1} \cdot |\boldsymbol{h}_2| = |\boldsymbol{v}_1| \cdot |\boldsymbol{h}_2|\) — двумерный объем — площадь параллелограмма, построенного на векторах \(\boldsymbol{v}_1, \boldsymbol{v}_2\);
• \(V_{\ast \boldsymbol{v}_1, \boldsymbol{v}_2, \boldsymbol{v}_3} = V_{\ast \boldsymbol{v}_1, \boldsymbol{v}_2} \cdot |\boldsymbol{h}_3| = |\boldsymbol{v}_1| \cdot |\boldsymbol{h}_2| \cdot |\boldsymbol{h}_3|\) — трехмерный объем — объем параллелепипеда, построенного на векторах \(\boldsymbol{v}_1, \boldsymbol{v}_2, \boldsymbol{v}_3\);
• \(V_{\ast \boldsymbol{v}_1, \ldots, \boldsymbol{v}_k} = V_{\ast \boldsymbol{v}_1, \ldots, \boldsymbol{v}_{k-1}} \cdot |\boldsymbol{h}_k| = |\boldsymbol{v}_1| \cdot |\boldsymbol{h}_2| \cdot \ldots \cdot |\boldsymbol{h}_k|\) — \(k\)-мерный объем — объем параллелепипеда, построенного на векторах \(\boldsymbol{v}_1, \boldsymbol{v}_2, \ldots, \boldsymbol{v}_k\).

Проводя ортогонализацию системы векторов \(\boldsymbol{v}_1, \boldsymbol{v}_2, \ldots, \boldsymbol{v}_k\), получаем, согласно пункту 4 замечаний 8.14, перпендикуляры \(\boldsymbol{h}_1 = \boldsymbol{v}_1, \boldsymbol{h}_2, \ldots, \boldsymbol{h}_k\). Тогда по свойству 2 определителя Грама имеем:

\[ V_{\ast \boldsymbol{v}_1, \ldots, \boldsymbol{v}_k}^2 = |\boldsymbol{h}_1|^2 \cdot |\boldsymbol{h}_2|^2 \cdot \ldots \cdot |\boldsymbol{h}_k|^2 = \det G(\boldsymbol{v}_1, \boldsymbol{v}_2, \ldots, \boldsymbol{v}_k), \]

т.е. определитель Грама векторов \(\boldsymbol{v}_1, \boldsymbol{v}_2, \ldots, \boldsymbol{v}_k\) равен квадрату \(k\)-мерного объема параллелепипеда, построенного на этих векторах. В этом заключается геометрический смысл определителя Грама.

Расстоянием от конца вектора \(\boldsymbol{v}\) до подпространства \(L\) называется наименьшее значение длин векторов \((\boldsymbol{v} - \boldsymbol{l})\), где \(\boldsymbol{l} \in L\), т.е.

\[ d = \min_{\boldsymbol{l} \in L} |\boldsymbol{v} - \boldsymbol{l}|. \]

Аналогично определяется расстояние от конца вектора до многообразия.

Углом между ненулевым вектором \(\boldsymbol{v}\) и подпространством \(L\) называется наименьший угол \(\varphi\) между вектором \(\boldsymbol{v}\) и ненулевыми векторами подпространства, т.е.

\[ \varphi = \min_{\boldsymbol{l} \in L} \left( \arccos \frac{\langle \boldsymbol{v}, \boldsymbol{l} \rangle}{|\boldsymbol{v}| \cdot |\boldsymbol{l}|} \right). \]

Аналогично определяется угол между вектором и многообразием, как угол между вектором и однородной частью многообразия.

Из неравенств пункта 1 замечаний 8.14 следует, что:

1) расстояние \(d\) от конца вектора \(\boldsymbol{v}\) до подпространства \(L\) равно длине перпендикуляра \(\boldsymbol{h}\), опущенного из конца вектора \(\boldsymbol{v}\) на подпространство \(L\), т.е. \(d = |\boldsymbol{h}|\);

2) угол между ненулевым вектором \(\boldsymbol{v}\) и подпространством \(L\) равен углу между вектором \(\boldsymbol{v}\) и его ортогональной проекцией на подпространство \(L\).

Для нахождения расстояний и углов можно использовать формулу (8.37).

Пусть задан вектор \(\boldsymbol{v}\) и подпространство \(L = \operatorname{Lin}(\boldsymbol{e}_1, \ldots, \boldsymbol{e}_r)\), причем векторы \(\boldsymbol{e}_1, \ldots, \boldsymbol{e}_r\) линейно независимы. Тогда

\[ V_{\ast \boldsymbol{e}_1, \ldots, \boldsymbol{e}_r, \boldsymbol{v}} = V_{\ast \boldsymbol{e}_1, \ldots, \boldsymbol{e}_r} \cdot |\boldsymbol{h}|, \]

где \(\boldsymbol{h}\) — ортогональная составляющая вектора \(\boldsymbol{v}\) относительно подпространства \(L\). Отсюда

\[ \boldsymbol{h} = \frac{V_{\ast \boldsymbol{e}_1, \ldots, \boldsymbol{e}_r, \boldsymbol{v}}}{V_{\ast \boldsymbol{e}_1, \ldots, \boldsymbol{e}_r}}. \]

Используя (8.37) для вычисления объемов, получаем, что длина \(|\boldsymbol{h}|\) ортогональной составляющей (расстояние от конца вектора \(\boldsymbol{v}\) до подпространства \(L = \operatorname{Lin}(\boldsymbol{e}_1, \ldots, \boldsymbol{e}_r)\)) находится по формуле:

\[ |\boldsymbol{h}| = \sqrt{\frac{\det G(\boldsymbol{e}_1, \ldots, \boldsymbol{e}_r, \boldsymbol{v})}{\det G(\boldsymbol{e}_1, \ldots, \boldsymbol{e}_r)}}. \]

А угол \(\varphi\) между ненулевым вектором \(\boldsymbol{v}\) и подпространством находится по формуле:

\[ \varphi = \arcsin \frac{|\boldsymbol{h}|}{|\boldsymbol{v}|}. \]

Приложение теории к практике: матрица Грама в задачах ДЗЗ

Матрица Грама в контексте дистанционного зондирования Земли (ДЗЗ) используется для оценки зависимости различных спектральных характеристик — например, отражений на разных каналах — и применяется в задачах классификации, анализа сходства и выделения признаков.

Представление данных. Пусть для каждого пикселя изображения известны спектральные данные, представленные вектором характеристик — например, вектором значений отражения в разных спектральных диапазонах.

Вычисление матрицы Грама. Матрица Грама вычисляется как произведение транспонированной матрицы данных \(X\) на саму матрицу данных: \(G = X^T X\). Если строки матрицы \(X\) — это каналы снимка (каждый развёрнут в вектор по всем пикселям), то элемент \(G_{ij}\) матрицы Грама — это скалярное произведение канала \(i\) и канала \(j\), то есть мера их сходства.

Практическое применение процесса ортогонализации Грама–Шмидта в ДЗЗ — метод паншарпенинга.

Паншарпенинг — повышение пространственного разрешения многоспектрального снимка (с крупным пикселем, но многими каналами) за счёт совмещения его с панхроматическим снимком той же территории (с мелким пикселем, но одним широким каналом).

Метод Грама–Шмидта для паншарпенинга строит по спектральным каналам многоспектрального снимка синтетический панхроматический канал, ортогонализует к нему остальные каналы (по той же схеме, что и для обычных векторов выше), заменяет этот синтетический канал на реальный панхроматический снимок высокого разрешения, а затем выполняет обратное преобразование. В результате пространственная детализация подтягивается к панхроматическому снимку, а исходные спектральные соотношения между каналами — сохраняются, поскольку ортогонализация не разрушает линейную оболочку исходной системы векторов (см. постановку задачи ортогонализации в начале лекции).

Метод Грама–Шмидта — один из нескольких классических подходов к паншарпенингу (наряду с бикубической интерполяцией, IHS и Brovey) и подробнее рассматривается на Практике 9 «Паншарпенинг», где методы сравниваются на реальных снимках.