База

Множества, логика и чтение формул

Множества

venn

Запись Читается Пример
$x \in A$ x принадлежит A $3 \in \mathbb{N}$
$A \subseteq B$ A — подмножество B целые ⊆ вещественные
$A \cup B$ объединение train ∪ val
$A \cap B$ пересечение train ∩ test должно быть пусто!
$A \setminus B$ разность словарь без стоп-слов
$\varnothing$ пустое множество
$\lvert A\rvert$ мощность (число элементов) размер словаря
$\mathbb{N}, \mathbb{Z}, \mathbb{R}$ натуральные, целые, вещественные $\mathbf{x} \in \mathbb{R}^{768}$
$[a, b]$, $(a, b)$ отрезок (с концами), интервал (без) $p \in [0, 1]$

Запись через условие: $\lbrace x \in \mathbb{R} : x > 0 \rbrace$ — «все вещественные $x$, такие что $x > 0$».

IoU в детекции и сегментации — $\frac{\lvert A \cap B\rvert}{\lvert A \cup B\rvert}$ — прямо формула про множества пикселей.

Логика и кванторы

Символ Смысл Пример
$\forall$ для всех $\forall x: x^2 \ge 0$
$\exists$ существует $\exists x: x^2 = 4$
$\Rightarrow$ следует $x > 2 \Rightarrow x > 1$
$\iff$ тогда и только тогда $x^2 = 0 \iff x = 0$
$\wedge$, $\vee$, $\neg$ и, или, не

Ловушка: из «$A \Rightarrow B$» не следует «$B \Rightarrow A$». «Если модель переобучилась, то train-лосс низкий» — верно; обратное — нет.

Как читать формулу из статьи

  1. Выпиши все обозначения и их размерности (что вектор, что матрица, что число).
  2. Найди, по чему идёт сумма или ожидание: $\sum_{i}$, $\mathbb{E}_{x \sim p}$.
  3. Переведи в псевдокод: $\sum$ → цикл, $\mathbb{E}$ → среднее по сэмплам, $\arg\max$ → argmax.
  4. Подставь маленькие числа (2×2 матрицы, 3 примера) и посчитай руками или в NumPy.
  5. Проверь крайние случаи: что будет при $T \to 0$, $\lambda = 0$, одном примере.

Пример. $\mathcal{L} = -\frac{1}{N}\sum_{i=1}^{N} \log p_\theta(y_i \mid \mathbf{x}_i)$ читается: «средний по N примерам минус логарифм вероятности, которую модель с параметрами θ присвоила правильному ответу $y_i$ для входа $\mathbf{x}_i$» — это cross-entropy.

🏋️ Практика Б12

Б12.1. Train — примеры с id 1–800, test — 750–1000. Найдите пересечение. Что не так?

▶️ Ответ Пересечение — id 750–800, 51 пример. Это **утечка данных**: модель видела часть теста на обучении, оценка качества завышена. Должно быть train ∩ test = ∅.

Б12.2. Предсказанная рамка — 100 пикселей, истинная — 80, общих — 60. IoU?

▶️ Ответ $\lvert A \cup B\rvert = 100 + 80 - 60 = 120$. IoU = 60/120 = 0.5 — обычный порог «детекция засчитана».

Б12.3. Прочитайте вслух: $\forall \varepsilon > 0\ \exists N: \forall n > N\ \lvert a_n - L\rvert < \varepsilon$.

▶️ Ответ «Для любой сколь угодно малой точности ε найдётся номер N, начиная с которого все члены последовательности отличаются от L меньше чем на ε» — определение предела $a_n \to L$.