Оглавление
Предисловие к русскому изданию ....................................................................10
Предисловие из оригинального издания..........................................................13
Вступление ............................................................................................................. 15
Кому адресована эта книга................................................................................... 16
От издательства ................................................................................................... 17
Глава 1. Введение .................................................................................................... 18
1.1. Что такое машинное обучение....................................................................... 18
1.2. Типы обучения .............................................................................................. 18
1.3. Как работает обучение с учителем ................................................................ 20
1.4. Почему модель способна работать с новыми данными............................. 25
Глава 2. Обозначения и определения....................................................................... 27
2.1. Обозначения.................................................................................................. 27
2.2. Случайная величина ...................................................................................... 34
2.3. Несмещенные оценки .................................................................................... 37
2.4. Правило Байеса ............................................................................................. 37
2.5. Оценка параметров........................................................................................ 38
2.6. Параметры и гиперпараметры ....................................................................... 39
2.7. Классификация и регрессия ........................................................................... 39
2.8. Обучение на основе моделей и на основе примеров ............................. 40
2.9. Поверхностное и глубокое обучение.............................................................. 41
Глава 3. Фундаментальные алгоритмы .................................................................. 42
3.1. Линейная регрессия....................................................................................... 42
3.2. Логистическая регрессия ............................................................................... 46
3.3. Обучение дерева решений............................................................................. 49
6   Оглавление
3.4. Метод опорных векторов ............................................................................... 53
3.5. Метод k ближайших соседей.......................................................................... 57
Глава 4. Анатомия алгоритмов обучения.................................................................. 59
4.1. Строительные блоки алгоритмов обучения .................................................... 59
4.2. Градиентный спуск ........................................................................................ 60
4.3. Как работают инженеры, занимающиеся машинным обучением..................... 66
4.4. Особенности алгоритмов обучения ................................................................ 67
Глава 5. Практические основы ................................................................................. 69
5.1. Проектирование признаков............................................................................ 69
5.2. Выбор алгоритма обучения............................................................................ 74
5.3. Три набора .................................................................................................... 76
5.4. Недообучение и переобучение....................................................................... 78
5.5. Регуляризация ............................................................................................... 81
5.6. Оценка эффективности модели...................................................................... 82
5.7. Настройка гиперпараметров........................................................................... 88
Глава 6. Нейронные сети и глубокое обучение................................................ 91
6.1. Нейронные сети............................................................................................. 91
6.2. Глубокое обучение ........................................................................................ 95
Глава 7. Проблемы и решения................................................................................ 110
7.1. Ядерная регрессия ....................................................................................... 110
7.2. Многоклассовая классификация................................................................... 112
7.3. Одноклассовая классификация .................................................................... 113
7.4. Классификация с многими метками.............................................................. 116
7.5. Обучение ансамбля..................................................................................... 118
7.6. Обучение маркировке последовательностей ......................................... 123
7.7. Обучение преобразованию последовательностей в последовательности...... 124
7.8. Активное обучение....................................................................................... 126
7.9. Обучение с частичным привлечением учителя............................................. 128
7.10. Обучение с первого раза............................................................................ 131
7.11. Обучение без подготовки........................................................................... 133
Оглавление 7
Глава 8. Продвинутые методики............................................................................. 135
8.1. Работа с несбалансированными наборами данных ....................................... 135
8.2. Объединение моделей ................................................................................. 137
8.3. Обучение нейронных сетей.......................................................................... 139
8.4. Продвинутая регуляризация ........................................................................ 140
8.5. Обработка нескольких входов...................................................................... 141
8.6. Обработка нескольких выходов ................................................................... 142
8.7. Перенос обучения ........................................................................................ 143
8.8. Эффективность алгоритмов ......................................................................... 144
Глава 9. Обучение без учителя .............................................................................. 147
9.1. Оценка плотности........................................................................................ 147
9.2. Кластеризация............................................................................................. 149
9.3. Сокращение размерности............................................................................. 159
9.4. Обнаружение аномалий ............................................................................... 164
Глава 10. Другие формы обучения......................................................................... 165
10.1. Определение метрик.................................................................................. 165
10.2. Определение ранга.................................................................................... 167
10.3. Обучение делать рекомендации................................................................. 170
10.4. Самообучение с учителем: вложения слов ............................................ 174
Глава 11. Заключение............................................................................................ 177
11.1. Что не было затронуто............................................................................... 177
11.2. Благодарности ........................................................................................... 181
Алфавитный указатель....................................................................................... 183