Другие художники смелее используют машины, чем авторы этого весьма условного портрета. Они пытаются создавать на компьютерах работы, подобных которым раньше никто не видел. Но чем дальше искусственный интеллект уходит от известного, созданного ранее, тем больше человеку приходится вмешиваться в этот процесс. Потому что машина может только предлагать, но не определять ценность своей продукции. Таким образом, машины не открыли в живописи никаких новых горизонтов, и в процессорах нет ничего от Тициана или Рембрандта. Скорее, компьютеры работают так же, как и подмастерья этих гениев: они только изменяют и выполняют то, что им велит мастер.

Когда студия Warner показывает будущее, в котором машины побеждают людей, она почти всегда описывает в своих сценариях превосходный интеллект компьютеров. Так называемая сингулярность, когда машины начнут управлять миром, окажется реальной угрозой, как только компьютеры, во-первых, станут сильнее нашего мозга, во-вторых, станут творческими, и, в-третьих, начнут преследовать собственные цели.

Это три важных условия. Они почти всегда упоминаются вместе, как если бы второй и третий пункт неизбежно следуют из первого, то есть развития все более мощных компьютеров. Но есть разница: одно дело добиться превосходства мощности машин над мощностью нашего мозга, а другое – смогут ли они действительно изобрести что-то новое. И, наконец, вопрос, чему следует искусственный интеллект: нашим или своим замыслам. Именно это главное условие: только если компьютерам удастся генерировать идеи независимо от нас, человеческий разум перестанет играть главенствующую роль.

Даже Ада Лавлейс, обычно не боявшаяся смелых замыслов, понимала это. Она сомневалась, что машины способны к независимому творчеству. Ада действительно предвидела появление устройств, которые сочиняют музыку; тем не менее она отрицала, что аналитическая машина, созданная ею вместе с Чарльзом Бэббиджем, сама по себе будет способна творить. «Она может делать все, что мы ей приказываем, – писала Ада. – Но аналитическая машина не претендует на то, чтобы самостоятельно создавать что-либо».

Даже если бы удалось научить искусственный интеллект самостоятельно оценивать свои идеи, машины все равно были бы в световых годах от того, чтобы перевернуть мир. Тогда компьютеры могли бы выполнять задачи исследовательского творчества до некоторой степени независимо: искать ранее неоткрытые решения в рамках заданного диапазона возможностей для достижения определенной цели, как это уже сегодня делает игровая программа AlphaGo. Возможно, скоро мы увидим гениальную рекламу, придуманную машинами, будем принимать лекарства, действующие вещества которых синтезированы искусственным интеллектом, услышим поп-музыку, сочиненную компьютером. Тем не менее машины останутся инструментами. Они поддержат наше исследовательское мышление и откроют для него новые горизонты. Но они не смогут заменить человеческий разум.

О высочайшем уровне творчества в связи с искусственным интеллектом говорить бессмысленно: искусство преобразования не основано на игре по правилам и не стремится к достижению конкретной цели. Преобразующее творчество отказывается от известных целей и находит новые. Оно нарушает правила и пишет собственные. Так у людей рождались самые влиятельные идеи. Выйдя за рамки ньютоновской механики, которой в то время было 300 лет, Альберт Эйнштейн внес в физику новые концепты. Считалось немыслимым, чтобы симфония начиналась с четырех ритмических громовых ударов оркестра, пока Бетховен не отказался в своей Пятой симфонии от принципа, согласно которому мелодия должна быть такой, чтобы ее можно было петь. Своими реди-мейдами Марсель Дюшан навсегда похоронил убеждения, что искусство обязательно должно быть связано с мастерством.

Смогут ли машины, какими бы умными они ни были, задавать новое направление? Программы просто выполняют свои спецификации. Они предназначены для решения конкретных задач, а не для создания новых. Следовательно, компьютер, который должен изучать уравнения классической физики, никогда не откроет теорию относительности. Компьютер, запрограммированный для создания бронзовых скульптур человеческих тел, никогда не выступит с предложением объявить писсуар скульптурой.

Только люди могут освободиться от своего образования и предыдущего опыта. Причина не в том, что мозг работает принципиально иначе, чем компьютер. Есть много оснований полагать, что мозг можно рассматривать как автомат, который, хотя и имеет другую структуру, обрабатывает информацию в соответствии с теми же или, по крайней мере, очень похожими принципами, что и компьютер. Мозг работает как машина Тьюринга.

Однако у мозга совсем другое предназначение. Мозг эволюционировал более 500 миллионов лет, чтобы служить выживанию и воспроизводству организма. В этом принципиальное различие между человеческим разумом и машиной: компьютеры призваны решать задачи, а мозг используется для выживания.

Как и любая машина Тьюринга, мозг запрограммирован на достижение цели. Но, в отличие от компьютеров, которые выигрывают настольные игры, торгуют ценными бумагами, водят машины, сочиняют музыку для лифтов или выполняют другие специальные задачи, мозг преследует очень общую цель: хороши все действия, которые могут принести пользу нашему выживанию и воспроизводству. При этом нужно избегать всего, что угрожает существованию собственного тела и распространению его генов.

Эволюция заставила мозг следовать этим двум принципам. Чтобы мы действовали в соответствии с ними, нам подаются сигналы – чувства. Со страхом и гневом, грустью и счастьем мы оцениваем события, которые переживаем, и наши возможные действия. Негативные эмоции предупреждают нас, когда ситуация или решение угрожают нашему здоровью или жизни. Положительные эмоции сопутствуют многообещающим обстоятельствам. Таким образом, наши чувства жизненно важны. Они управляют нашим поведением[163]. Наш разум работает гораздо более гибко, чем компьютер. Принципы эволюции и чувства лишь задают нам рамки. В этих пределах мы можем преследовать практически любую цель. (Даже рамки можно сместить. Человек в силах нарушить принципы воспроизводства и собственного выживания.)

Нами руководят принципы самой жизни, в том числе поддержание метаболизма и способность воспроизводить собственный организм. Ни один из этих принципов не применим к компьютерам. У них есть конкретные цели, тогда как мы запрограммированы на свободу.

Таким образом, мы можем отказаться от одного проекта и заняться другим, если он кажется нам более полезным или просто более интересным. Преобразующее творчество основано на таком изменении приоритетов: часто после неоднократных неудач и длительной внутренней борьбы человек перестает искать решение в соответствии с правилами, заданными известным диапазоном возможностей. Вместо этого он пытается взглянуть на проблему под другим углом. Тот, кому это удается, открывает новые возможности. И тогда обычно возникают вопросы, которые нельзя было сформулировать заранее. Альберт Эйнштейн, например, столкнулся с загадкой того, как свет движется в пространстве и времени, и