Численные методы оптимизации архитектур машинного обучения

1. ЧИСЛЕННЫЕ МЕТОДЫ РЕШЕНИЙ ОБЫКНОВЕННЫХ ДИФФЕРЕНЦИАЛЬНЫХ УРАВНЕНИЙ. МЕТОДЫ ЗАДАЧ КОШИ 6 Краевые задачи для обыкновенных дифференциальных уравнений 6 Метод фундаментальных систем 6 Жесткость систем обыкновенных дифференциальных уравнений 9 Задачи типа Штурма – Лиувилля 12 Краевые задачи типа Штурма – Лиувилля 13 2. ЧИСЛЕННЫЕ МЕТОДЫ РЕШЕНИЯ КРАЕВЫХ ЗАДАЧ ДЛЯ ОБЫКНОВЕННЫХ ДИФФЕРЕНЦИАЛЬНЫХ УРАВНЕНИЙ 16 Решение нелинейных задач 21 Метод стрельбы 21 Метод Фурье 23 3. РАЗНОСТНЫЕ УРАВНЕНИЯ И МЕТОДЫ ИХ РЕШЕНИЯ. ЗАДАЧА КОШИ ДЛЯ ОБЫКНОВЕННЫХ ДИФФЕРЕНЦИАЛЬНЫХ УРАВНЕНИЙ 24 Задача. Общее решение неоднородного разностного уравнения 26 Задача. Общее решение однородной системы разностных уравнений 27 Теорема Жордана 28 Задача. Собственные значения разностного оператора 28 4. ЧИСЛЕННЫЕ МЕТОДЫ РЕШЕНИЯ УРАВНЕНИЙ В ЧАСТНЫХ ПРОИЗВОДНЫХ 30 Параболические задачи 30 Гиперболические задачи 31 Решение Даламбера 32 Уравнение синус-Гордона 33 Уравнение Кортевега – де Фриза 33 Уравнение неразрывности или сохранения массы 34 Уравнение движения 34 Уравнение энергии 34 Эллиптические задачи 34 Явная схема 36 Неявная схема 37 Базовые определения в теории разностных схем 38 Определение корректности задачи по Адамару 38 5. ОСНОВЫ ТЕОРИИ РАЗНОСТНЫХ СХЕМ. БАЗОВЫЕ ПОНЯТИЯ 38 Задачи на сходимость 40 Практический пример 41 Первое дифференциальное приближение 43 Теорема Куранта 44 Метод исследования устойчивости Джона фон Неймана 46 Спектральное условие устойчивости Виктора Соломоновича Рябенького 47 Теория устойчивости Рябенького 48 6. УРАВНЕНИЯ ПАРАБОЛИЧЕСКОГО ТИПА 49 Аппроксимирующие уравнения 50 7. КРИТЕРИЙ УСТОЙЧИВОСТИ САМАРСКОГО 56 Теорема Самарского 57 Доказательство теоремы 57 Вариант применения критерия 58 8. ЧИСЛЕННЫЕ МЕТОДЫ РЕШЕНИЙ УРАВНЕНИЙ ПАРАБОЛИЧЕСКОГО ТИПА 60 Пример трехслойной схемы, пригодной для решения этих задач 63 Схема Ромб 64 Численные методы решений не одномерных уравнений параболического типа 65 Метод американской группы 68 Метод русской группы 69 Схема Дугласа Ганна 71 9. РЕШЕНИЕ УРАВНЕНИЙ ГИПЕРБОЛИЧЕСКОГО ТИПА 73 Численные методы решения уравнений 75 Монотонная схема. Определение монотонности 76 Теоремы Годунова 76 Построение численных решений 78 10. КВАЗИЛИНЕЙНЫЕ УРАВНЕНИЯ ПЕРЕНОСА 82 Разностная форма 82 Интерполяционный метод 82 Разложение в ряд Тейлора 83 Трехслойные схемы 88 Волновые уравнения и уравнения переноса 90 Гибридные схемы 92 11. ЧИСЛЕННЫЕ МЕТОДЫ РЕШЕНИЯ КВАЗИЛИНЕЙНЫХ УРАВНЕНИЙ ГИПЕРБОЛИЧЕСКОГО ТИПА 93 Схема предиктор-корректор 94 Схема Лип-Фрог (Чихарда) 95 Схема Маккормака 96 Схема Русанова 97 Схема для системы квазилинейных уравнений 99 12. РЕШЕНИЕ УРАВНЕНИЙ ЭЛЛИПТИЧЕСКОГО ТИПА 101 Метод Якоби 103 Метод Зейделя 104 Метод верхней релаксации 104 Аппроксимация. Первое дифференциальное приближение 105 Построение итерационных процессов с выбором оптимальных итерационных параметров 105 Итерационный метод установления 112 Таблица итерационных процессов 113 БИБЛИОГРАФИЧЕСКИЙ СПИСОК 115