Норма (математика)

Норма — функционал, заданный на векторном пространстве и обобщающий понятие длины вектора или абсолютного значения числа.

ОпределениеПравить

Норма вектораПравить

Основная статья: Нормированное пространство

Норма в векторном пространстве $V$$V\$  над полем вещественных или комплексных чисел — это функционал $p:<!--\; :\; -->V\to <!--\; \to \; -->{\mathbb{R}}_{\mathbb{+}}$$p\colon V\to \mathbb {R_{+}}$ , обладающий следующими свойствами:

1. $p(x)=0\Rightarrow <!--\; \Rightarrow \; -->x=0_V;$$p(x)=0\Rightarrow x=0_{V};$ 
2. $\mathrm{\forall <!--\; \forall \; -->}x,y\in <!--\; \in \; -->V,p(x+y)⩽<!--\; ⩽\; -->p(x)+p(y)$$\forall x,y\in V,p(x+y)\leqslant p(x)+p(y)$  (неравенство треугольника);
3. $\mathrm{\forall <!--\; \forall \; -->}\mathrm{\alpha <!--\; \alpha \; -->}\in <!--\; \in \; -->\mathbb{C},\mathrm{\forall <!--\; \forall \; -->}x\in <!--\; \in \; -->V,p(\mathrm{\alpha <!--\; \alpha \; -->}x)=|\mathrm{\alpha <!--\; \alpha \; -->}|p(x).$$\forall \alpha \in \mathbb {C} ,\forall x\in V,p(\alpha \,x)=|\alpha |p(x).$ 

Эти условия являются аксиомами нормы.

Векторное пространство с нормой называется нормированным пространством, а условия (1—3) — также аксиомами нормированного пространства.

Из аксиом нормы очевидным образом вытекает свойство неотрицательности нормы:

$\mathrm{\forall <!--\; \forall \; -->}x\in <!--\; \in \; -->V,p(x)⩾<!--\; ⩾\; -->0$$\forall x\in V,p(x)\geqslant 0$ .

Действительно, из третьего свойства следует: $p(0_V)=p(0\cdot <!--\; \cdot \; -->0_V)=0\cdot <!--\; \cdot \; -->p(0_V)=0$$p(0_{V})=p(0\cdot 0_{V})=0\cdot p(0_{V})=0$ , а из свойства 2 — $\mathrm{\forall <!--\; \forall \; -->}x\in <!--\; \in \; -->V:<!--\; :\; -->0=p(0_V)=p(x-<!--\; -\; -->x)⩽<!--\; ⩽\; -->p(x)+p(-<!--\; -\; -->x)=2p(x)$$\forall x\in V\colon 0=p(0_{V})=p(x-x)\leqslant p(x)+p(-x)=2p(x)$ .

Чаще всего норму обозначают в виде: $\Vert <!--\; \Vert \; -->\cdot <!--\; \cdot \; -->\Vert <!--\; \Vert \; -->$$\|\cdot \|$ . В частности, $\Vert <!--\; \Vert \; -->x\Vert <!--\; \Vert \; -->$$\|x\|$  — это норма элемента $x$$x$  векторного пространства $\mathbb{R}$$\mathbb {R}$ .

Вектор с единичной нормой $\left(\Vert <!--\; \Vert \; -->x\Vert <!--\; \Vert \; -->=1\right)$$\left(\|x\|=1\right)$  называется единичным или нормированным.

Любой ненулевой вектор $x$$x$  можно нормировать, то есть разделить его на свою норму: вектор $\frac{x}{\Vert <!--\; \Vert \; -->x\Vert <!--\; \Vert \; -->}$${\frac {x}{\|x\|}}$  имеет единичную норму. С геометрической точки зрения это значит, что мы берем сонаправленный вектор единичной длины.

Норма матрицыПравить

Основная статья: Норма матрицы

Нормой матрицы $A$$A$  называется вещественное число $\Vert <!--\; \Vert \; -->A\Vert <!--\; \Vert \; -->$$\|A\|$ , удовлетворяющее первым трём из следующих условий:

1. $\Vert <!--\; \Vert \; -->A\Vert <!--\; \Vert \; -->⩾<!--\; ⩾\; -->0$$\|A\|\geqslant 0$ , причём $\Vert <!--\; \Vert \; -->A\Vert <!--\; \Vert \; -->=0$$\|A\|=0$  только при $A=0$$A=0\$ ;
2. $\Vert <!--\; \Vert \; -->\mathrm{\alpha <!--\; \alpha \; -->}A\Vert <!--\; \Vert \; -->=|\mathrm{\alpha <!--\; \alpha \; -->}|\cdot <!--\; \cdot \; -->\Vert <!--\; \Vert \; -->A\Vert <!--\; \Vert \; -->$$\|\alpha A\|=|\alpha |\cdot \|A\|$ , где $\mathrm{\alpha <!--\; \alpha \; -->}\in <!--\; \in \; -->\mathbb{R}$$\alpha \in \mathbb{R}$ ;
3. $\Vert <!--\; \Vert \; -->A+B\Vert <!--\; \Vert \; -->⩽<!--\; ⩽\; -->\Vert <!--\; \Vert \; -->A\Vert <!--\; \Vert \; -->+\Vert <!--\; \Vert \; -->B\Vert <!--\; \Vert \; -->$$\|A+B\|\leqslant \|A\|+\|B\|$ ;
4. $\Vert <!--\; \Vert \; -->AB\Vert <!--\; \Vert \; -->⩽<!--\; ⩽\; -->\Vert <!--\; \Vert \; -->A\Vert <!--\; \Vert \; -->\cdot <!--\; \cdot \; -->\Vert <!--\; \Vert \; -->B\Vert <!--\; \Vert \; -->$$\|AB\|\leqslant \|A\|\cdot \|B\|$ .

Если выполняется также и четвёртое свойство, норма называется субмультипликативной. Матричная норма, составленная как операторная, называется подчинённой по отношению к норме, использованной в пространствах векторов. Очевидно, что все подчинённые матричные нормы субмультипликативны.

Матричная норма $\Vert <!--\; \Vert \; -->\cdot <!--\; \cdot \; -->{\Vert <!--\; \Vert \; -->}_{ab}$$\|\cdot \|_{{ab}}$  из $K^{m\times <!--\; \times \; -->n}$$K^{{m\times n}}$  называется согласованной с векторной нормой $\Vert <!--\; \Vert \; -->\cdot <!--\; \cdot \; -->{\Vert <!--\; \Vert \; -->}_a$$\|\cdot \|_{{a}}$  из $K^n$$K^n$  и векторной нормой $\Vert <!--\; \Vert \; -->\cdot <!--\; \cdot \; -->{\Vert <!--\; \Vert \; -->}_b$$\|\cdot \|_{{b}}$  из $K^m$$K^{m}$  если справедливо:

$\Vert <!--\; \Vert \; -->Ax{\Vert <!--\; \Vert \; -->}_b⩽<!--\; ⩽\; -->\Vert <!--\; \Vert \; -->A{\Vert <!--\; \Vert \; -->}_{ab}\Vert <!--\; \Vert \; -->x{\Vert <!--\; \Vert \; -->}_a$$\|Ax\|_{b}\leqslant \|A\|_{{ab}}\|x\|_{a}$ 

для всех $A\in <!--\; \in \; -->K^{m\times <!--\; \times \; -->n},x\in <!--\; \in \; -->K^n$$A\in K^{{m\times n}},x\in K^{n}$ .

Норма оператораПравить

Основная статья: Операторная норма

Норма оператора $A$$A$  — число, которое определяется так:

$\Vert <!--\; \Vert \; -->A\Vert <!--\; \Vert \; -->=\underset{\Vert <!--\; \Vert \; -->x\Vert <!--\; \Vert \; -->=1}{sup}\Vert <!--\; \Vert \; -->Ax\Vert <!--\; \Vert \; -->$$\|A\|=\sup _{{\|x\|=1}}\|Ax\|$ ,

где $A$$A$  — оператор, действующий из нормированного пространства $L$$L$  в нормированное пространство $K$$K$ .

Это определение эквивалентно следующему:

$\Vert <!--\; \Vert \; -->A\Vert <!--\; \Vert \; -->=\underset{x\ne <!--\; \ne \; -->0}{sup}\frac{\Vert <!--\; \Vert \; -->Ax\Vert <!--\; \Vert \; -->}{\Vert <!--\; \Vert \; -->x\Vert <!--\; \Vert \; -->}$$\|A\|=\sup _{{x\neq 0}}{\frac {\|Ax\|}{\|x\|}}$ 

• Свойства операторных норм:

1. $\Vert <!--\; \Vert \; -->A\Vert <!--\; \Vert \; -->⩾<!--\; ⩾\; -->0$$\|A\|\geqslant 0$ , причём $\Vert <!--\; \Vert \; -->A\Vert <!--\; \Vert \; -->=0$$\|A\|=0$  только при $A=0$$A=0$ ;
2. $\Vert <!--\; \Vert \; -->\mathrm{\alpha <!--\; \alpha \; -->}A\Vert <!--\; \Vert \; -->=|\mathrm{\alpha <!--\; \alpha \; -->}|\cdot <!--\; \cdot \; -->\Vert <!--\; \Vert \; -->A\Vert <!--\; \Vert \; -->$$\|\alpha A\|=|\alpha |\cdot \|A\|$ , где $\mathrm{\alpha <!--\; \alpha \; -->}\in <!--\; \in \; -->\mathbb{R}$$\alpha \in {\mathbb {R}}$ ;
3. $\Vert <!--\; \Vert \; -->A+B\Vert <!--\; \Vert \; -->⩽<!--\; ⩽\; -->\Vert <!--\; \Vert \; -->A\Vert <!--\; \Vert \; -->+\Vert <!--\; \Vert \; -->B\Vert <!--\; \Vert \; -->$$\|A+B\|\leqslant \|A\|+\|B\|$ ;
4. $\Vert <!--\; \Vert \; -->AB\Vert <!--\; \Vert \; -->⩽<!--\; ⩽\; -->\Vert <!--\; \Vert \; -->A\Vert <!--\; \Vert \; -->\cdot <!--\; \cdot \; -->\Vert <!--\; \Vert \; -->B\Vert <!--\; \Vert \; -->$$\|AB\|\leqslant \|A\|\cdot \|B\|$ .

В конечномерном случае, оператору в некотором базисе соответствует матрица — матрица оператора. Если норма на пространстве(пространствах), где действует оператор, допускает одно из стандартных выражений в базисе, то свойства нормы оператора повторяют аналогичные свойства нормы матрицы.

Свойства нормыПравить

1. $\Vert <!--\; \Vert \; -->x\Vert <!--\; \Vert \; -->-<!--\; -\; -->\Vert <!--\; \Vert \; -->y\Vert <!--\; \Vert \; -->⩽<!--\; ⩽\; -->\Vert <!--\; \Vert \; -->x\pm <!--\; \pm \; -->y\Vert <!--\; \Vert \; -->⩽<!--\; ⩽\; -->\Vert <!--\; \Vert \; -->x\Vert <!--\; \Vert \; -->+\Vert <!--\; \Vert \; -->y\Vert <!--\; \Vert \; -->$$\|x\|-\|y\|\ \leqslant \|x\pm y\|\leqslant \|x\|+\|y\|$ 
2. ${(\Vert <!--\; \Vert \; -->x\Vert <!--\; \Vert \; -->-<!--\; -\; -->\Vert <!--\; \Vert \; -->y\Vert <!--\; \Vert \; -->)}^2⩽<!--\; ⩽\; -->{\Vert <!--\; \Vert \; -->x\pm <!--\; \pm \; -->y\Vert <!--\; \Vert \; -->}^2⩽<!--\; ⩽\; -->{(\Vert <!--\; \Vert \; -->x\Vert <!--\; \Vert \; -->+\Vert <!--\; \Vert \; -->y\Vert <!--\; \Vert \; -->)}^2$${{\bigl (}\|x\|-\|y\|{\bigr )}}^{2}\leqslant {\|x\pm y\|}^{2}\leqslant {{\bigr (}\|x\|+\|y\|{\bigl )}}^{2}$ 
3. $\frac{\Vert <!--\; \Vert \; -->x{\Vert <!--\; \Vert \; -->}^2+\Vert <!--\; \Vert \; -->y{\Vert <!--\; \Vert \; -->}^2-<!--\; -\; -->\Vert <!--\; \Vert \; -->x-<!--\; -\; -->y{\Vert <!--\; \Vert \; -->}^2}{2\Vert <!--\; \Vert \; -->x\Vert <!--\; \Vert \; -->\Vert <!--\; \Vert \; -->y\Vert <!--\; \Vert \; -->}\in <!--\; \in \; -->[-<!--\; -\; -->1,1]$${\frac {\|x\|^{2}+\|y\|^{2}-\|x-y\|^{2}}{2\|x\|\|y\|}}\in [-1,1]$  [косинус угла]
4. $\Vert <!--\; \Vert \; -->0_V\Vert <!--\; \Vert \; -->=\Vert <!--\; \Vert \; -->x-<!--\; -\; -->x\Vert <!--\; \Vert \; -->=\Vert <!--\; \Vert \; -->0x\Vert <!--\; \Vert \; -->=0\cdot <!--\; \cdot \; -->\Vert <!--\; \Vert \; -->x\Vert <!--\; \Vert \; -->=0$$\|0_{V}\|=\|x-x\|=\|0x\|=0\cdot \|x\|=0$ 
5. $0=\Vert <!--\; \Vert \; -->x-<!--\; -\; -->x\Vert <!--\; \Vert \; -->⩽<!--\; ⩽\; -->\Vert <!--\; \Vert \; -->x\Vert <!--\; \Vert \; -->+\Vert <!--\; \Vert \; -->-<!--\; -\; -->x\Vert <!--\; \Vert \; -->=2\Vert <!--\; \Vert \; -->x\Vert <!--\; \Vert \; -->\Rightarrow <!--\; \Rightarrow \; -->\Vert <!--\; \Vert \; -->x\Vert <!--\; \Vert \; -->⩾<!--\; ⩾\; -->0$$0=\|x-x\|\leqslant \|x\|+\|-x\|=2\|x\|\Rightarrow \|x\|\geqslant 0$ 

Эквивалентность нормПравить

• Две нормы $p$$p$  и $q$$q$  на пространстве $V$$V$  называются эквивалентными, если существует две положительные константы $C_1$$C_{1}$  и $C_2$$C_{2}$  такие, что для любого $x\in <!--\; \in \; -->V$$x \in V$  выполняется $C_{1}p(x)⩽<!--\; ⩽\; -->q(x)⩽<!--\; ⩽\; -->C_{2}p(x)$$C_{1}p(x)\leqslant q(x)\leqslant C_{2}p(x)$ . Эквивалентные нормы задают на пространстве одинаковую топологию. В конечномерном пространстве все нормы эквивалентны.

ПримерыПравить

Линейные нормированные пространстваПравить

 

Изображение единичных окружностей для различных норм.

• Любое предгильбертово пространство можно считать нормированным, так как скалярное произведение порождает естественную норму

$\Vert <!--\; \Vert \; -->x\Vert <!--\; \Vert \; -->=\sqrt{⟨<!--\; ⟨\; -->x,x⟩<!--\; ⟩\; -->},x\in <!--\; \in \; -->X.$$\|x\|={\sqrt {\langle x,x\rangle }},\quad x\in X.$ 

• Гёльдеровы нормы $n$$n$ -мерных векторов (семейство): $\Vert <!--\; \Vert \; -->x{\Vert <!--\; \Vert \; -->}_p={\left(\underset{i}{\sum <!--\; \sum \; -->}|x_i{|}^p\right)}^{\frac{1}{p}}$$\|x\|_{p}={\left(\sum _{i}|x_{i}|^{p}\right)}^{\frac {1}{p}}$ ,

где $p⩾<!--\; ⩾\; -->1$$p\geqslant 1$  (обычно подразумевается, что это натуральное число). В частности:

• $\Vert <!--\; \Vert \; -->x{\Vert <!--\; \Vert \; -->}_1=\underset{i}{\sum <!--\; \sum \; -->}|x_i|$$\|x\|_{1}=\sum _{{i}}|x_{{i}}|$ , что также имеет название метрика L1, норма ${\mathrm{\ell <!--\; \ell \; -->}}_1$$\ell _{1}$  или манхэттенское расстояние. Для вектора представляет собой сумму модулей всех его элементов.
• $\Vert <!--\; \Vert \; -->x{\Vert <!--\; \Vert \; -->}_2=\sqrt{\underset{i}{\sum <!--\; \sum \; -->}|x_i{|}^2}$$\|x\|_{2}={\sqrt {\sum _{{i}}|x_{{i}}|^{2}}}$ , что также имеет название метрика L2, норма ${\mathrm{\ell <!--\; \ell \; -->}}_2$$\ell _{2}$  или евклидова норма. Является геометрическим расстоянием между двумя точками в многомерном пространстве, вычисляемым по теореме Пифагора.
• $\Vert <!--\; \Vert \; -->x{\Vert <!--\; \Vert \; -->}_{\mathrm{\infty <!--\; \infty \; -->}}=max|x_i|$$\|x\|_{\infty }=\max |x_{{i}}|$  (это предельный случай $p\to <!--\; \to \; -->\mathrm{\infty <!--\; \infty \; -->}$$p\rightarrow \infty$ ).

• Нормы функций в $C[0,1]$$C[0,1]$  — пространстве вещественных (или комплексных) непрерывных функций на отрезке [0,1]:
  • $\Vert <!--\; \Vert \; -->f{\Vert <!--\; \Vert \; -->}_{C[0,1]}=\underset{x\in <!--\; \in \; -->[0,1]}{sup}|f(x)|$$\|f\|_{{C[0,1]}}=\sup _{{x\in [0,1]}}|f(x)|$  — в смысле этой нормы пространство $C[0,1]$$C[0,1]$  непрерывных на отрезке функций образует полное линейное пространство. Этого нельзя сказать о следующих двух примерах нормы на этом пространстве, тем не менее, законных:
  • $\Vert <!--\; \Vert \; -->f{\Vert <!--\; \Vert \; -->}_1=\underset{0}{\overset{1}{\int <!--\; \int \; -->}}|f(t)|dt$$\|f\|_{1}=\int \limits _{0}^{1}|f(t)|\,dt$ 
  • $\Vert <!--\; \Vert \; -->f{\Vert <!--\; \Vert \; -->}_2=\sqrt{\underset{0}{\overset{1}{\int <!--\; \int \; -->}}|f(t){|}^{2}dt}$$\|f\|_{2}={\sqrt {\int \limits _{0}^{1}|f(t)|^{2}\,dt}}$ 

• Аналогично можно ввести нормы для конечномерных векторных функций конечномерных векторных аргументов, заменив $|f(x)|$$|f(x)|\$  на $\Vert <!--\; \Vert \; -->f(x)\Vert <!--\; \Vert \; -->$$\|f(x)\|\$ , а интегрирование по отрезку интегрированием по области (максимум же на отрезке — в соответствующем случае — максимумом на области).

«L0 норма»Править

Особым случаем является ${\mathrm{\ell <!--\; \ell \; -->}}_0$$\ell _{0}$  (L0-«норма»), определяемая как количество ненулевых элементов вектора. Строго говоря, это не является нормой, так как не выполняется третья аксиома нормы. В основном таким видом «нормы» пользуются в задачах разреженного кодирования, в частности в Compressive sensing, где нужно найти наиболее разреженное представление вектора (с наибольшим количеством нулей), то есть с наименьшей ${\mathrm{\ell <!--\; \ell \; -->}}_0$$\ell _{0}$ -нормой. С помощью этой «нормы» может быть определенно расстояние Хэмминга.

Некоторые виды матричных нормПравить

• Порожденные нормы $\Vert <!--\; \Vert \; -->A{\Vert <!--\; \Vert \; -->}_p=\underset{\Vert <!--\; \Vert \; -->x{\Vert <!--\; \Vert \; -->}_p=1}{sup}\Vert <!--\; \Vert \; -->Ax{\Vert <!--\; \Vert \; -->}_p$$\|A\|_{{p}}=\sup _{{\|x\|_{{p}}=1}}\|Ax\|_{{p}}$ :
  • $p=1$$p=1$ : $m$$m$ -норма, $\Vert <!--\; \Vert \; -->A{\Vert <!--\; \Vert \; -->}_m=\underset{j}{max}\underset{i}{\sum <!--\; \sum \; -->}|a_{ij}|$$\|A\|_{m}=\max _{j}\sum _{i}|a_{{ij}}|$ 
  • $p=2$$p=2$  (евклидова норма) и $m=n$$m=n$  (квадратные матрицы), подчиненная норма матрицы называется спектральная норма. Спектральная норма матрицы $A$$A$  равна наибольшему сингулярному числу матрицы $A$$A$  или квадратному корню из наибольшего собственного числа положительно полуопределённой матрицы $A^{†<!--\; †\; -->}A$$A^{\dagger }A$ : ${\Vert A\Vert }_2=\sqrt{{\mathrm{\lambda <!--\; \lambda \; -->}}_{\text{max}}(A^{†<!--\; †\; -->}A)}$$\left\|A\right\|_{2}={\sqrt {\lambda _{{{\text{max}}}}(A^{\dagger }A)}}$ , где $A^{†<!--\; †\; -->}$$A^{\dagger }$  обозначает матрицу, сопряжённую к матрице $A$$A$ .
  • $p=\mathrm{\infty <!--\; \infty \; -->}$$p=\infty$ : $l$$l$ -норма $\Vert <!--\; \Vert \; -->A{\Vert <!--\; \Vert \; -->}_l=\underset{i}{max}\underset{j}{\sum <!--\; \sum \; -->}|a_{ij}|$$\|A\|_{l}=\max _{i}\sum _{j}|a_{{ij}}|$ 

Здесь $A^{†<!--\; †\; -->}$$A^{\dagger }$  — сопряжённая к $A$$A$  матрица, $\mathrm{T}\mathrm{r}$${\mathrm {Tr}}$  — след матрицы.

• Поэлементная $p$$p$ -норма ($p>0$$p>0$ ): $\Vert <!--\; \Vert \; -->A{\Vert <!--\; \Vert \; -->}_p={\left(\underset{i,j}{\sum <!--\; \sum \; -->}|a_{ij}{|}^p\right)}^{\frac{1}{p}}$$\|A\|_{p}=\left(\sum _{i,j}|a_{ij}|^{p}\right)^{\frac {1}{p}}$ 
  • Норма Фробениуса: $\Vert <!--\; \Vert \; -->A{\Vert <!--\; \Vert \; -->}_F=\Vert <!--\; \Vert \; -->A{\Vert <!--\; \Vert \; -->}_2=\sqrt{\underset{i,j}{\sum <!--\; \sum \; -->}|a_{ij}{|}^2}=\sqrt{\mathrm{T}\mathrm{r}{A}^{†<!--\; †\; -->}A}$$\|A\|_{F}=\|A\|_{2}={\sqrt {\sum _{i,j}|a_{ij}|^{2}}}={\sqrt {\mathrm {Tr} \,A^{\dagger }A}}$ .

Связанные понятияПравить

Топология пространства и нормаПравить

Норма задаёт на пространстве метрику (в смысле — функцию расстояния метрического пространства), порождая таким образом метрическое пространство, а значит топологию, базой которой являются всевозможные открытые шары, то есть множества вида $B(x,r)=\{y\colon \|x-y\|<r\}$ . Понятия сходимости, определённой на языке теоретико-множественной топологии в такой топологии и определённой на языке нормы, при этом совпадают.

См. такжеПравить

• Полунорма
• Метрика
• Скалярное произведение