Обозначения

Ниже приведён обзор обозначений, используемых в книге.

Числа

• $x$ — скаляр
• $\mathbf{x}$ — вектор
• $\mathbf{X}$ — матрица
• $\mathsf{X}$ — тензор
• $\mathbf{I}$ — единичная матрица
• $x_i$, $[\mathbf{x}{]}_i$ — $i$-й элемент вектора $\mathbf{x}$
• $x_{ij}$, $[\mathbf{X}{]}_{ij}$ — элемент матрицы $\mathbf{X}$ в $i$-й строке и $j$-м столбце

Теория множеств

• $\mathcal{X}$ — множество
• $\mathbb{Z}$ — множество целых чисел
• $\mathbb{R}$ — множество действительных чисел
• ${\mathbb{R}}^n$ — множество $n$-мерных действительных векторов
• ${\mathbb{R}}^{a\times b}$ — множество действительных матриц с $a$ строками и $b$ столбцами
• $\mathcal{A}\cup \mathcal{B}$ — объединение множеств $\mathcal{A}$ и $\mathcal{B}$
• $\mathcal{A}\cap \mathcal{B}$ — пересечение множеств $\mathcal{A}$ и $\mathcal{B}$
• $\mathcal{A}\setminus \mathcal{B}$ — разность множеств $\mathcal{A}$ и $\mathcal{B}$ (относительное дополнение $\mathcal{B}$ до $\mathcal{A}$)

Функции и операторы

• $f(\cdot )$ — функция
• $\log (\cdot )$ — натуральный логарифм
• $\exp (\cdot )$ — показательная функция
• $1_{\mathcal{X}}$ — индикаторная функция
• ${(\cdot )}^{\top }$ — транспонирование вектора или матрицы
• ${\mathbf{X}}^{-1}$ — обратная матрица
• $\odot$ — поэлементное умножение
• $[\cdot ,\cdot ]$ — конкатенация
• $|\mathcal{X}|$ — мощность множества
• $\Vert \cdot {\Vert }_p$ — норма $L_p$
• $\Vert \cdot \Vert$ — норма $L_2$
• $⟨\mathbf{x},\mathbf{y}⟩$ — скалярное произведение векторов $\mathbf{x}$ и $\mathbf{y}$
• $\sum$ — сумма
• $\prod$ — произведение
• $\stackrel{\mathrm{def}}{=}$ — определение

Математический анализ

• $\frac{dy}{dx}$ — производная $y$ по $x$
• $\frac{\partial y}{\partial x}$ — частная производная $y$ по $x$
• ${\nabla }_{\mathbf{x}}y$ — градиент $y$ по $\mathbf{x}$
• ${\int }_a^{b}f(x)dx$ — определённый интеграл $f$ по $x$ на отрезке от $a$ до $b$
• $\int f(x)dx$ — неопределённый интеграл $f$ по $x$

Теория вероятностей и теория информации

• $P(\cdot )$ — распределение вероятностей
• $z\sim P$ — случайная величина $z$ имеет распределение вероятностей $P$
• $P(X\mid Y)$ — условная вероятность $X$ при условии $Y$
• $p(x)$ — функция плотности вероятности
• $E_x[f(x)]$ — математическое ожидание функции $f$ по $x$
• $X\perp Y$ — случайные величины $X$ и $Y$ независимы
• $X\perp Y\mid Z$ — случайные величины $X$ и $Y$ условно независимы при заданной случайной величине $Z$
• $\mathrm{Var}(X)$ — дисперсия случайной величины $X$
• ${\sigma }_X$ — стандартное отклонение случайной величины $X$
• $\mathrm{Cov}(X,Y)$ — ковариация случайных величин $X$ и $Y$
• $\rho (X,Y)$ — корреляция случайных величин $X$ и $Y$
• $H(X)$ — энтропия случайной величины $X$
• $D_{\mathrm{KL}}(P\Vert Q)$ — дивергенция Кульбака — Лейблера между $P$ и $Q$

Сложность

• $\mathcal{O}$ — обозначение «O-большое»

Обсуждение