Предисловие. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ... .9

Введение . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . 19
Человечеству брошен вызов . . . . . . . . . . . . . . . . . . . . . . . . .. 21
Манифест процветания человечества . . . . . . . . . . . . . . . .... 21
То, что мы можем что-то сделать, не значит,
что мы должны это делать . . . . . . . . . . . . . . . . . . . . . . . . . ....22

ГЛАВА 1. ПРОЛОГ К БУДУЩЕМУ. . . . . . . . . . . . . . . . ...... . . . 29
Историческая точка начала глобального
экспоненциального развития технологий . . . . . . . . . . ...... .. 31
Добро пожаловать в ХелВен! . . . . . . . . . . . . . . . . . . . . . .. . . 35
Насколько параноидален этот взгляд? . . . . . . . . . . . . ..... .. 36
Технологии и человечество переживают сближение,
и мы находимся в точке поворота . . . . . . . . . . . . . . . . ...... . . 37
Искусственный интеллект и редактирование генома
как два главных двигателя прогресса. . . . . . . . . . . . . . . ...... 40
Уподобиться богу?. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41
Научная фантастика становится научной
реальностью . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43
Сначала постепенно, а потом сразу . . . . . . . . . . . . . . . . . . 44
За пределами управляемости. . . . . . . . . . . . . . . . . . . . . . . . 46

ГЛАВА 2. ТЕХНОЛОГИИ ПРОТИВ НАС . . . . . . . . . . . . ...... . 51
Мораль и другие нравственные особенности
свойственны только человеку . . . . . . . . . . . . . . . . . . . . . . . . 53
Рожден и взращен внутри машины? . . . . . . . . . . . . . . . . . . . 55
Хорошо ли это для человечества? Короткий опросник. . . . 56
Принцип 90/10 в точке бифуркации . . . . . . . . . . . . . . . . . . . . . 574
Технологии, власть и ответственность . . . . . . . . . . . . . . . . . . . 58
Технологии — это не то, что мы ищем, а то,
как мы ищем . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62
Алгоритмы против андроритмов . . . . . . . . . . . . . . . . . . . . . . . . . 63
STEM и CORE. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65
Интерфейсы и этика . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67
Искусственный интеллект и стирание границ . . . . . . . . . . . . 69

ГЛАВА 3. МЕГАСДВИГИ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 75
Экспоненциальные и одновременные. . . . . . . . . . . . . . . . . 77
Мегасдвиг 1: переход на цифровой формат . . . . . . . . . . 78
Мегасдвиг 2: переход на мобильные устройства
и в медиаформат («медиазация») . . . . . . . . . . . . . . . . . . . . 81
Мегасдвиг 3: скринификация и эволюция
интерфейсов . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85
Мегасдвиг 4: ликвидация посредников . . . . . . . . . . . . . . . 88
Мегасдвиг 5: преобразование. . . . . . . . . . . . . . . . . . . . . . . . 90
Мегасдвиг 6: интеллектуализация. . . . . . . . . . . . . . . . . . . . 91
Мегасдвиг 7: автоматизация. . . . . . . . . . . . . . . . . . . . . . . . . 92
Мегасдвиг 8: виртуализация . . . . . . . . . . . . . . . . . . . . . . . . . 93
Мегасдвиг 9: цифровые предсказатели. . . . . . . . . . . . . . . 95
Мегасдвиг 10: роботизация . . . . . . . . . . . . . . . . . . . . . . . . . . 97

ГЛАВА 4. АВТОМАТИЗАЦИЯ ОБЩЕСТВА . . . . . . . . . . . 99
Автоматизация в квадрате — пять составляющих . . . 105
Автоматизация как неминуемый исход . . . . . . . . . . . . . . 105
Слепое подчинение. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109
Отречение . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109
Экспоненциальное отречение . . . . . . . . . . . . . . . . . . . . . . . 111
Побочные эффекты . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112
Утрата контроля. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 113
Поиск баланса . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 114
Автоматизация внутри нас?. . . . . . . . . . . . . . . . . . . . . . . . . 115
Захватят ли кротовьи норы мир?. . . . . . . . . . . . . . . . . . . . 121

ГЛАВА 5. ИНТЕРНЕТ ВЕЩЕЙ. . . . . . . . . . . . . . . . . . . . . . . . 127
Может ли интернет вещей превратить нас
в вещи? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 130
Кто контролирует ситуацию?. . . . . . . . . . . . . . . . . . . . . . . . 133
Андроритмы и превентивные принципы. . . . . . . . . . . . . . 134

ГЛАВА 6. ОТ МАГИИ К МАНИИ И ВРЕДУ. . . . . . . . . . 137
Волшебные люди — интеллект внутри . . . . . . . . . . . . . . 142
Так в чем проблема? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 143
Экспоненциальные технологии, как и атомные
бомбы, провоцируют целую цепочку проблем . . . . . . . . 144
Поприветствуем магический взрыв?. . . . . . . . . . . . . . . . . 148
Вопрос не «что, если» и «как», а «почему»?. . . . . . . . . . 149
Технологии проникают внутрь нас, отчуждая нас
от мира и человеческого опыта. . . . . . . . . . . . . . . . . . . . . 150
Как же мы будем реагировать?. . . . . . . . . . . . . . . . . . . . . 155
От магии к мании и вреду. . . . . . . . . . . . . . . . . . . . . . . . . . 156
Нежелательные последствия будут увеличиваться
прямо пропорционально экспоненциальным
технологиям, их порождающим . . . . . . . . . . . . . . . . . . . . . 157
Умные цифровые помощники и облако как
продолжение нас. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159
Кто хочет тотальную слежку? . . . . . . . . . . . . . . . . . . . . . . . 164
Так почему же так мало людей обеспокоено этой
проблемой? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 171
Чего хотят технологии: превратиться из второй
натуры в просто природу . . . . . . . . . . . . . . . . . . . . . . . . . . . 172

ГЛАВА 7. ЦИФРОВОЕ ОЖИРЕНИЕ:
НАША НОВАЯ ПАНДЕМИЯ . . . . . . . . . . . . . . . 177
Жажда обладания означает процветание . . . . . . . . . . . 180
Пристрастие и зависимость — технологическая
бизнес-модель . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 181
На ком лежит ответственность за ожирение? . . . . . . . 182
Надвигается цунами данных . . . . . . . . . . . . . . . . . . . . . . . . 184
Изобилие снаружи, дефицит внутри —
велосипед для разума или пули для души?. . . . . . . . . . 185
Новые интерфейсы, например, дополненная
и виртуальная реальность, добавляют проблем. . . . . . 186
Данные — новая нефть: плати или становись
контентом. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 187
Перспективы цифрового ожирения в 2020 году . . . . . 188
Речь идет уже не о том, «сможем ли мы»,
а о том, «нужно ли нам». . . . . . . . . . . . . . . . . . . . . . . . . . . . 189
От «чем больше, тем лучше» к «чем меньше,
тем лучше». . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 189

ГЛАВА 8. МЕРЫ ПРЕДОСТОРОЖНОСТИ ПРОТИВ
АКТИВНЫХ ДЕЙСТВИЙ . . . . . . . . . . . . . . . . . ................ . 191
Продуманный и гуманистический баланс . . . . . . . . . . . . 195

ГЛАВА 9. СЧАСТЛИВАЯ СЛУЧАЙНОСТЬ. . . . . . . . . . . . 199
Что же такое счастье? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 201
Что делает нас счастливыми? . . . . . . . . . . . . . . . . . . . . . . 203
Неправильное определение процветания
человечества только укрепит положение
машин . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 206
Сострадание — уникальная черта, связанная
со счастьем . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209
Счастье против денег: впечатления против
материальных вещей . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 211
Счастье человека является — или должно
являться — главной целью технологий. . . . . . . . . . . . . . 212
У технологий нет этики, они существуют
в облаке нигилизма, в пространстве без
убеждений . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 213
Благополучие человека должно стать целью . . . . . . . . 217
Могут ли технологии производить счастье? . . . . . . . . . 218• 7
Боты настроения и технологические
удовольствия. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 220
Будьте осторожнее с желаниями . . . . . . . . . . . . . . . . . . . 223
Положительный пример . . . . . . . . . . . . . . . . . . . . . . . . . . . . 225
Торговля счастьем ради высокотехнологичного
гедонизма?. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 226
Поставить технологии на свое место. . . . . . . . . . . . . . . . 229

ГЛАВА 10. ЦИФРОВАЯ ЭТИКА . . . . . . . . . . . . . . . . . . . . . . 231
И никакой религии?.. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 239
Создание Глобального совета по вопросам
цифровой этики. Какое определение мы дадим
этике, подходящее для экспоненциальной
эпохи? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 240
Новое моральное исчисление . . . . . . . . . . . . . . . . . . . . . . . 242
«Homo roboticus? Люди и машины в поисках
взаимопонимания» . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 243
Пять новых прав человека в цифровую эпоху. . . . . . . . 243
15 ошибок, которые следует избегать. . . . . . . . . . . . . . . 246
Производительность не должна ставиться выше
человечества. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 249
Жизнь вне алгоритма . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 253

ГЛАВА 11. ЗЕМЛЯ 2030: РАЙ ИЛИ АД? . . . . . . . . . . . . 255
2020: гиперсвязанность и гиперманипуляция. . . . . . . . . . . . 257
2022: мой лучший друг — в облаке . . . . . . . . . . . . . . . . . . . . 259
2024: прощайте, конфиденциальность
и анонимность . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 261
2026: автоматизация всего и основная гарантия
дохода . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 265
2028: свобода воли только для богатых . . . . . . . . . . . . . . . . 267
2030: 90 — это новые 60. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 269
Адский рай — неизбежный путь?. . . . . . . . . . . . . . . . . . . . . . . 270

ГЛАВА 12. ВРЕМЯ РЕШЕНИЙ. . . . . . . . . . . . . . . . . . . . . . . . 271
Девять принципов . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 276
Оценка экспоненциальных технологий: семь важных
вопросов . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 281
Вы в команде людей?. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 283

Благодарности. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 285
Ресурсы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 289
Источники . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 293