3. Линейные нейронные сети

Прежде чем переходить к глубоким нейронным сетям, нужно освоить основы обучения нейронных сетей. В этой главе мы опишем весь процесс обучения: определение простой архитектуры, подготовку данных, выбор функции потерь и способ обучения модели. Чтобы материал было легче усвоить, мы начнём с классического алгоритма — линейных нейронных сетей. Линейная регрессия и softmax-регрессия из классической статистики и машинного обучения можно рассматривать как линейные нейронные сети. Эти знания станут основой для более сложных методов, которые встретятся в остальных частях книги.