12. Вычислительная производительность

В глубоком обучении наборы данных и модели обычно очень велики, а значит, велики и вычислительные затраты. Поэтому производительность вычислений очень важна. В этой главе мы сосредоточимся на основных факторах, которые на неё влияют: императивном программировании, символьном программировании, асинхронных вычислениях, автоматическом распараллеливании и вычислениях на нескольких GPU. Изучив эту главу, можно дополнительно повысить производительность моделей из предыдущих глав. Например, можно заметно сократить время обучения, не жертвуя точностью.