WikiSort.ru - Не сортированное

Норма вектора

Норма в векторном пространстве ${\displaystyle V\ }$ над полем вещественных или комплексных чисел — это функционал ${\displaystyle p\colon V\to \mathbb {R} }$ , обладающий следующими свойствами:

1. ${\displaystyle p(x)=0\Rightarrow x=0_{V};}$
2. ${\displaystyle \forall x,y\in V,p(x+y)\leqslant p(x)+p(y)}$ (неравенство треугольника);
3. ${\displaystyle \forall \alpha \in \mathbb {C} ,\forall x\in V,p(\alpha \,x)=|\alpha |p(x).}$

Эти условия являются аксиомами нормы.

Векторное пространство с нормой называется нормированным пространством, а условия (1—3) — также аксиомами нормированного пространства.

Из аксиом нормы очевидным образом вытекает свойство неотрицательности нормы:

${\displaystyle \forall x\in V,p(x)\geqslant 0}$ .

Действительно, из третьего свойства следует: ${\displaystyle p(0_{V})=p(0\cdot 0_{V})=0\cdot p(0_{V})=0}$ , а из свойства 2 — ${\displaystyle \forall x\in V\colon 0=p(0_{V})=p(x-x)\leqslant p(x)+p(-x)=2p(x)}$ .

Чаще всего норму обозначают в виде: ${\displaystyle \|\cdot \|}$ . В частности, ${\displaystyle \|x\|}$  — это норма элемента ${\displaystyle x}$ векторного пространства ${\displaystyle \mathbb {R} }$ .

Вектор с единичной нормой ${\displaystyle \left(\|x\|=1\right)}$ называется единичным или нормированным.

Любой ненулевой вектор ${\displaystyle x}$ можно нормировать, то есть разделить его на свою норму: вектор ${\displaystyle {\frac {x}{\|x\|}}}$ имеет единичную норму. С геометрической точки зрения это значит, что мы берем сонаправленный вектор единичной длины.

Норма матрицы

Нормой матрицы ${\displaystyle A}$ называется вещественное число ${\displaystyle \|A\|}$ , удовлетворяющее первым трём из следующих условий:

1. ${\displaystyle \|A\|\geqslant 0}$ , причём ${\displaystyle \|A\|=0}$ только при ${\displaystyle A=0\ }$ ;
2. ${\displaystyle \|\alpha A\|=|\alpha |\cdot \|A\|}$ , где ${\displaystyle \alpha \in \mathbb {R} }$ ;
3. ${\displaystyle \|A+B\|\leqslant \|A\|+\|B\|}$ ;
4. ${\displaystyle \|AB\|\leqslant \|A\|\cdot \|B\|}$ .

Если выполняется также и четвёртое свойство, норма называется субмультипликативной. Матричная норма, составленная как операторная, называется подчинённой по отношению к норме, использованной в пространствах векторов. Очевидно, что все подчинённые матричные нормы субмультипликативны.

Матричная норма ${\displaystyle \|\cdot \|_{ab}}$ из ${\displaystyle K^{m\times n}}$ называется согласованной с векторной нормой ${\displaystyle \|\cdot \|_{a}}$ из ${\displaystyle K^{n}}$ и векторной нормой ${\displaystyle \|\cdot \|_{b}}$ из ${\displaystyle K^{m}}$ если справедливо:

${\displaystyle \|Ax\|_{b}\leqslant \|A\|_{ab}\|x\|_{a}}$

для всех ${\displaystyle A\in K^{m\times n},x\in K^{n}}$ .

Норма оператора

Норма оператора ${\displaystyle A}$  — число, которое определяется так:

${\displaystyle \|A\|=\sup _{\|x\|=1}\|Ax\|}$ ,

где ${\displaystyle A}$  — оператор, действующий из нормированного пространства ${\displaystyle L}$ в нормированное пространство ${\displaystyle K}$ .

Это определение эквивалентно следующему:

${\displaystyle \|A\|=\sup _{x\neq 0}{\frac {\|Ax\|}{\|x\|}}}$

• Свойства операторных норм:

1. ${\displaystyle \|A\|\geqslant 0}$ , причём ${\displaystyle \|A\|=0}$ только при ${\displaystyle A=0}$ ;
2. ${\displaystyle \|\alpha A\|=|\alpha |\cdot \|A\|}$ , где ${\displaystyle \alpha \in \mathbb {R} }$ ;
3. ${\displaystyle \|A+B\|\leqslant \|A\|+\|B\|}$ ;
4. ${\displaystyle \|AB\|\leqslant \|A\|\cdot \|B\|}$ .

В конечномерном случае, оператору в некотором базисе соответствует матрица — матрица оператора. Если норма на пространстве(пространствах), где действует оператор, допускает одно из стандартных выражений в базисе, то свойства нормы оператора повторяют аналогичные свойства нормы матрицы.

Эквивалентность норм

• Две нормы ${\displaystyle p}$ и ${\displaystyle q}$ на пространстве ${\displaystyle V}$ называются эквивалентными, если существует две положительные константы ${\displaystyle C_{1}}$ и ${\displaystyle C_{2}}$ такие, что для любого ${\displaystyle x\in V}$ выполняется ${\displaystyle C_{1}p(x)\leqslant q(x)\leqslant C_{2}p(x)}$ . Эквивалентные нормы задают на пространстве одинаковую топологию. В конечномерном пространстве все нормы эквивалентны.

Линейные нормированные пространства

• Любое предгильбертово пространство можно считать нормированным, так как скалярное произведение порождает естественную норму

${\displaystyle \|x\|={\sqrt {\langle x,x\rangle }},\quad x\in X.}$

• Гёльдеровы нормы ${\displaystyle n}$ -мерных векторов (семейство): ${\displaystyle \|x\|_{p}={\left(\sum _{i}|x_{i}|^{p}\right)}^{\frac {1}{p}}}$ ,

где ${\displaystyle p\geqslant 1}$ (обычно подразумевается, что это натуральное число). В частности:

• ${\displaystyle \|x\|_{1}=\sum _{i}|x_{i}|}$ , что также имеет название метрика L1, норма ${\displaystyle \ell _{1}}$ или манхэттенское расстояние. Для вектора представляет собой сумму модулей всех его элементов.
• ${\displaystyle \|x\|_{2}={\sqrt {\sum _{i}|x_{i}|^{2}}}}$ , что также имеет название метрика L2, норма ${\displaystyle \ell _{2}}$ или евклидова норма. Является геометрическим расстоянием между двумя точками в многомерном пространстве, вычисляемым по теореме Пифагора.
• ${\displaystyle \|x\|_{\infty }=\max |x_{i}|}$ (это предельный случай ${\displaystyle p\rightarrow \infty }$ ).

• Нормы функций в ${\displaystyle C[0,1]}$  — пространстве вещественных (или комплексных) непрерывных функций на отрезке [0,1]:
  • ${\displaystyle \|f\|_{C[0,1]}=\sup _{x\in [0,1]}|f(x)|}$  — в смысле этой нормы пространство ${\displaystyle C[0,1]}$ непрерывных на отрезке функций образует полное линейное пространство. Этого нельзя сказать о следующих двух примерах нормы на этом пространстве, тем не менее, законных:
  • ${\displaystyle \|f\|=\int \limits _{0}^{1}|f(t)|\,dt}$
  • ${\displaystyle \|f\|={\sqrt {\int \limits _{0}^{1}|f(t)|^{2}\,dt}}}$

• Аналогично можно ввести нормы для конечномерных векторных функций конечномерных векторных аргументов, заменив ${\displaystyle |f(x)|\ }$ на ${\displaystyle \|f(x)\|\ }$ , а интегрирование по отрезку интегрированием по области (максимум же на отрезке — в соответствующем случае — максимумом на области).

${\displaystyle \ell _{0}}$ «норма»

Особым случаем является ${\displaystyle \ell _{0}}$ (L0-«норма»), определяемая как количество ненулевых элементов вектора. Строго говоря, это не является нормой, так как не выполняется третья аксиома нормы. В основном таким видом «нормы» пользуются в задачах разреженного кодирования, в частности в Compressive sensing, где нужно найти наиболее разреженное представление вектора (с наибольшим количеством нулей), то есть с наименьшей ${\displaystyle \ell _{0}}$ -нормой. С помощью этой «нормы» может быть определенно расстояние Хэмминга.

Некоторые виды матричных норм

• Порожденные нормы ${\displaystyle \|A\|_{p}=\sup _{\|x\|_{p}=1}\|Ax\|_{p}}$ :
  • ${\displaystyle p=1}$ : ${\displaystyle m}$ -норма, ${\displaystyle \|A\|_{m}=\max _{j}\sum _{i}|a_{ij}|}$
  • ${\displaystyle p=2}$ (евклидова норма) и ${\displaystyle m=n}$ (квадратные матрицы), подчиненная норма матрицы называется спектральная норма. Спектральная норма матрицы ${\displaystyle A}$ равна наибольшему сингулярному числу матрицы ${\displaystyle A}$ или квадратному корню из наибольшего собственного числа положительно полуопределённой матрицы ${\displaystyle A^{\dagger }A}$ : ${\displaystyle \left\|A\right\|_{2}={\sqrt {\lambda _{\text{max}}(A^{\dagger }A)}}}$ , где ${\displaystyle A^{\dagger }}$ обозначает матрицу, сопряжённую к матрице ${\displaystyle A}$ .
  • ${\displaystyle p=\infty }$ : ${\displaystyle l}$ -норма ${\displaystyle \|A\|_{l}=\max _{i}\sum _{j}|a_{ij}|}$

Здесь ${\displaystyle A^{\dagger }}$  — сопряжённая к ${\displaystyle A}$ матрица, ${\displaystyle \mathrm {Tr} }$  — след матрицы.

• Поэлементная ${\displaystyle p}$ -норма (${\displaystyle p>0}$ ): ${\displaystyle \|A\|_{p}=\left(\sum _{i,j}|a_{ij}|^{p}\right)^{\frac {1}{p}}}$
  • Норма Фробениуса: ${\displaystyle \|A\|_{F}=\|A\|_{2}={\sqrt {\sum _{i,j}|a_{ij}|^{2}}}={\sqrt {\mathrm {Tr} \,A^{\dagger }A}}}$ .

Топология пространства и норма

Норма задаёт на пространстве метрику (в смысле — функцию расстояния метрического пространства), порождая таким образом метрическое пространство, а значит топологию, базой которой являются всевозможные открытые шары, то есть множества вида ${\displaystyle B(x,r)=\{y\colon \|x-y\|<r\}}$ . Понятия сходимости, определённой на языке теоретико-множественной топологии в такой топологии и определённой на языке нормы, при этом совпадают.