Басинский: Люди становятся роботами или роботы — людьми
Впервые термин «искусственный интеллект» в 1956 году употребил американский информатик Джон Маккарти. Так что ему почти семьдесят лет. Но до сих пор искусственный интеллект вызывает разные чувства и рождает противоречивые прогнозы. Кто-то считает, что он попросту невозможен, кто-то видит в нем главную угрозу для человечества, а кто-то утверждает, что нас ждет светлое будущее, где умные роботы будут не только выполнять все рутинные работы, но и лучше нас решать все человеческие проблемы. Об этом и о том, как эта тема отражается в мировой литературе, мы поговорили с известным писателем, ректором Литературного института Алексеем Варламовым.
У меня не выходит из памяти передача "Человек в меняющемся мире" в серии передач "Агора", которую ведет на канале "Культура" Михаил Швыдкой. Там был солидный состав участников. Кроме тебя — Александр Каплан, академик РАН, директор Института перспективных исследований мозга МГУ; Андрей Себрант, профессор ВШЭ, директор по стратегическому маркетингу "Яндекс"; Анна Серебряникова, президент Ассоциации больших данных, управляющий партнер компании nlogic; Андрей Незнамов, управляющий директор центра регулирования Искусственного интеллекта Сбербанка; Юрий Минкин, руководитель департамента разработки беспилотных транспортных средств компании Cognitive Pilot. Разговор был очень интересный, но, как выяснилось, вы обсуждали нечто несуществующее — искусственный интеллект. Считается, что искусственный интеллект — это "свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека". Если говорить на простом языке, это способность компьютера обучаться, принимать решения и выполнять действия, свойственные человеческому мозгу. Вроде бы ничего особенного, мы давно этим пользуемся. Но почему разговоры об искусственном интеллекте, который якобы заменит собой человека, не смолкают и уже стали такой страшилкой? Вот появится искусственный интеллект, и человек будет больше не нужен. При этом Анна Серебряникова сказала, что искусственного интеллекта не существует, его выдумали писатели. Ты готов отвечать за наш писательский цех?
Алексей Варламов: Разговор действительно получился любопытный, особенно учитывая, что выступающие все были из разных областей знания. А то, что начали с литературы, мне даже понравилось. Это и мой любимый Василий Розанов говорил: во всем виноваты писатели. На самом деле, я думаю, что идея некоего разума, не связанного с человеческим мозгом, с человеком вообще, интересует нас с самых древних времен. Все языческие религии, наделявшие сознанием природные стихии, небесные светила, деревья, животных, разных волков-оборотней, все наши сказки и мифы, включая еврейское предание о Големе или греческую легенду про Галатею, — из этой сферы. Человеку как будто одиноко в окружающем мире, и он ищет то ли друга, то ли врага, и это становится отличным материалом для литературы.
Тут можно вспомнить и другого моего любимого писателя — Александра Грина с его оживающими манекенами, и Станислава Лема с "Солярисом", и роботов Карела Чапека и Айзека Азимова… Если говорить о последних книгах — это великолепный роман английского писателя японского происхождения, лауреата Нобелевской премии Кадзуо Исигуро "Клара и солнце", который вошел в длинный список премии "Ясная Поляна" в иностранной номинации в этом году. Да и одна из предыдущих его книг "Не отпускай меня" тоже на эту тему написана. Благодатное поле! Другое дело, что сегодня сказка стала былью. И тут возникает вопрос: а что со всем этим делать?
Подожди! Никакой былью она не стала. Для того чтобы искусственный интеллект стал для нас реальностью, он должен быть персонифицирован, то есть обрести личность. Но нет никаких Големов и Великих Гудвинов. Или вспомним более близкую историю — американский фильм "Газонокосильщик", которому, впрочем, в этом году уже исполняется тридцать лет. Там простой парень, став компьютерным гением, буквально растворяется в Сети и начинает управлять миром. Он заставляет звонить все телефоны, а ночью везде врубает электрический свет. То есть он пока еще только хулиганит, но обещает нечто большее.
Ну и где этот Великий Хакер, которым нас пугали тридцать лет назад? Куда больше нас заботят реальные хакеры, как говорится, хакеры "с человеческим лицом", которые кошмарят банки, министерства обороны и спецслужбы всех стран, а заодно их предвыборные штабы. Но это не искусственный интеллект, а использование компьютерных технологий конкретными людьми. Мы все ими пользуемся так или иначе, и проблема в том, как это влияет на нас. Хорошо это или плохо?
Но ты правильно вспомнил Исигуро. Во время передачи ты точно сказал, что он переводит проблему трансформации человека в киборга в "сердечную" плоскость. Об этом и его прежний пронзительный роман (и одноименный фильм 2010 года) "Не отпускай меня", где детей-клонов выращивают для замены органов настоящих людей. И дети знают об этом, мужественно принимают свою судьбу, но по-человечески страдают.
В "Кларе и солнце" — несколько другая тема. Люди создают андроидов, которые заменяют живым подросткам друзей и подруг: ИД (Искусственный Друг) и ИП (Искусственная Подруга). Это уже не клоны, а роботы-андроиды, но со своими опять-таки человеческими страданиями.
Исигуро — отличный писатель, но он, мягко говоря, неоригинален. "Страдающие" андроиды, у которых просыпаются человеческие эмоции, появились в литературе и кино как минимум полвека назад, если не раньше. Я напомню, что в 1967 году на "Ленфильме" была снята картина Ильи Ольшвангера "Его звали Роберт" с Олегом Стриженовым и Марианной Вертинской в главных ролях. Там поднималась тема, как будут страдать "очеловеченные" роботы. Как, став во всем похожими на людей, они начнут переживать наши человеческие чувства: любовь, ревность, одиночество и т.п. Этот фильм вышел в СССР почти за двадцать лет до "Терминатора", не говоря уже о нашем недавнем сериале "Проект "Анна Николаевна", где полицейский-андроид, женщина, натурально влюбляется в своего напарника.
О чем это говорит? О том, что литература и кино продолжают решать те же самые темы, что и раньше, только в более современных образах.
Об этом вы тоже говорили во время передачи. О том, что в эпоху слишком стремительного развития информационных технологий задача литературы — сохранение традиционных ценностей.
Алексей Варламов: Исигуро, кстати, об этом отчасти и пишет. Страшная тревога наполняет его роман. Другое дело, что это не паника, не спекуляция на читательских настроениях, а именно размышление, сердечная история, взгляд на человека со стороны. Важно, где и когда это происходит и с кем. Какое светит солнце, как выглядят люди, что чувствуют, о чем говорят и мечтают. Важны не просто смыслы, но "вещество жизни". Литература скорее про это, чем про отстаивание традиционных ценностей. Для этих же целей у нас есть целый научный институт в Москве.
Будут ли страдать "очеловеченные" роботы? Став во всем похожими на людей, начнут ли они переживать наши человеческие чувства?
Что за институт?
Алексей Варламов: Я имею в виду Российский институт культурного и природного наследия имени Д.С. Лихачева в Москве, который подготовил проект указа о традиционных ценностях, но документ был весьма неласково принят в театральной и кинематографической среде. Литературную спросить не успели…
Писатели обычно в такие споры не вмешиваются. Писателю любой указ не указ, потому что ему нечего терять, кроме своего ноутбука. Деятелям театра и кино в этом смысле гораздо труднее, они зависят от государственного финансирования, особенно репертуарные театры. Поэтому к любого рода "нормативам" относятся с тревогой, понимая, что это новые правила игры, с которыми им придется работать, добиваясь финансового обеспечения.
Но насчет литературного пессимизма ты прав. Как писал Пушкин в "Домике в Коломне": "От ямщика до первого поэта / Мы все поем уныло…" Я еще добавлю пессимизма, причем от лица ученого, который принимал участие в вашей дискуссии. Александр Каплан, который занимается проблемами человеческого мозга, сказал, что главная опасность не в появлении искусственного интеллекта, а в том, что человеческий мозг не справляется с современным потоком информации. На самом деле он не изменился со времен пещерных людей, а это было, по разным гипотезам, от 35 до 50 тысяч лет назад.
Я сначала удивился этому его заявлению, а потом вдруг подумал…
На наскальной живописи мы видим фигурки людей, которые убивают мамонта палками с острыми наконечниками. Но такими же пиками сражалась конница во время Первой мировой войны. Понятно, что тогда уже были изобретены новые орудия убийства, включая отравляющие газы. Но любопытно, что и палки с наконечниками тоже остались. Как и непостижимая страсть человека убивать живое, и не только на охоте.
И я согласен с Александром Капланом, что наш мозг не справляется с чудовищным потоком новой информации.
Алексей Варламов: Я лично очень ощущаю плотность времени. И не только информационную. Другое дело, что прежде подача информации была не такая острая и действенная, как сейчас. Но что лучше: дефицит или избыток, бедность или роскошь информационного поля? Это большой вопрос. Я категорически против цензуры, но иногда ощущаю себя невольником интернета, в котором смотрю новости на разных сайтах, сравниваю, анализирую, а потом беру в руки книгу, да хотя бы из длинного списка "Ясной Поляны", и вдруг понимаю, что вот это подлинное, а то преходящее, мусорное. И это я еще не играю в соцсети. А если человек выкладывает свои мысли, фотографии, посты и перепосты в соцсети, то складывается впечатление, что ради этого, собственно, он и живет. Пусть все знают, какой у меня кот, что я ел сегодня на ужин и что думаю про весь мир. Нет, все-таки больше всего я ценю те дни в году, когда уезжаю на северное озеро подальше от этого сумасбродства. Но и там, если не клюет, а интернет ловится, достаю зачем-то телефон и смотрю, что там в мире делается. Сеть нас всех уловила, только одни это ощущают, а другие нет.
25 лет назад, в мае 1997 года, суперкомпьютер Deep Blue впервые выиграл шахматный матч у человека, одержав победу над чемпионом мира Гарри Каспаровым
Еще вы интересно говорили о грядущей эпохе беспилотного транспорта. Как всегда остроумный Михаил Швыдкой сказал, что он сильно беспокоится за беспилотное такси не потому, что оно будет ездить неправильно, а потому, что неправильно будут ездить те, кто на беспилотники не пересядут. "Умного" беспилотного водителя будет просто "клинить" в этой ситуации, ведь этот условный "он" (или "она") будут уверены, что все управляют автомобилями правильно и соблюдают правила дорожного движения. Был такой старый, еще советских времен анекдот про таксиста-кавказца (национальность не уточняем), который едет на красный свет и стоит на зеленый. На красный — потому что он джигит, и ему все нипочем. А стоит на зеленый, потому что справа по перекрестку едет другой джигит.
Ты, кстати, готов пересесть в беспилотники и отказаться от радости личного вождения?
Алексей Варламов: Нет, я слишком люблю водить машину. И нас таких много.
Я хочу закончить разговор на позитивной ноте. В районе, где я живу, рядом с отделением почты стоят два милейших робота-почтальона от "Яндекса". Они развозят посылки по дворам. Подъезжают к подъезду, посылают месседж заказчику, тот спускается, подносит с экрана телефона присланный QR-код, открывается крышка, а там — заветная посылочка. Иногда по дороге в магазин я вижу, как они ездят по улицам, пересекают пешеходные переходы (строго на зеленый свет!), как они пару минут думают, прежде чем объехать какой-нибудь столб, как "разъезжаются" с пешеходами… Все это выглядит удивительно трогательно! Честное слово, я один раз не удержался и погладил этого чудесного "почтальона", ну как, знаешь, собачку, которая рядом с тобой виляет хвостом. Но самое забавное, что раньше возле почты стоял один робот. А потом их стало двое. Такая семейная пара образовалась. Вот жду, когда у них появятся детишки…
Ты прав! Главное — не интеллект, человеческий или искусственный. Главное — сердце! Его не обманешь.
Ключевой вопрос
Павел Басинский: Посмотри, как изменилась футурология в литературе. Научная фантастика с ее верой в технологические чудеса, в заселение космоса и принципиальное обновление земной жизни, где все будут летать среди небоскребов на чудо-аппаратах и обслуживаться умными роботами, ушла в прошлое. Сейчас в моде технологические антиутопии. То есть, по мнению читателей, в будущем все будет плохо. Не означает ли это, что люди перестали верить в него? На место "человека разумного" пришел "человек растерянный"?
Алексей Варламов: В светлое будущее давно перестали верить и у нас, и на Западе. Я даже не говорю про романы Замятина и Оруэлла "Мы" и "1984", но и более поздние Брэдбери, Саймак или Франсис Карсак печально вглядывались в грядущее. А у нас — Стругацкие, Ефремов. Или один из самых грандиозных русских романов ХХ века "Пирамида" Леонида Леонова, написанный в 1950-1970-е годы. Автор считал, что история человечества — это подъем в гору, краткое пребывание на вершине и спуск в долину, где люди превратятся в колонию мыслящих грибов.
Кстати
Большинство пользователей предпочитают, чтобы устройства с искусственным интеллектом говорили женским голосом. Женский голос, по их мнению, звучит доброжелательнее и не кажется угрожающим.
