Как искусственный интеллект стал главным страхом человечества
В 2004 году, выполняя тренировочный полет над Тихим океаном, два пилота ВМC США заметили нечто необычное: таинственный летающий объект, который заставлял океан кипеть, вращался в воздухе и мог пролететь более 60 миль в минуту, несмотря на отсутствие видимых средств движения.
Этот эпизод – один из многих, которые расследовали в рамках сверхсекретной программы Министерства обороны США, которая закрылась в 2012 году.
Когда-то давно слухи об инопланетянах и летающих тарелках заставили бы всех об этом говорить. Но сейчас вместо этого нас больше беспокоит другая угроза привычной жизни: искусственный интеллект.
Роман с инопланетянами
Не так давно общество все еще было в восторге от перспективы знакомства с пришельцами. На протяжении десятилетий мы были очарованы неизвестной вселенной и тем, что она скрывала. Наша одержимость нашла отражение в кино и на телевидении.
“Близкие контакты третьей степени” Стивена Спилберга (1977) рассказали нам о случае успешного взаимодействия с межзвездными путешественниками. “Инопланетянин” позволил земным детям надеяться, что они смогут подружиться с существом с другой планеты. Оригинальная трилогия Джорджа Лукаса “Звездные войны” показала целые галактики, населенные жизнью. “Звездный путь” представил радужную картину человечества, бороздящего космические просторы.
Была и оборотная сторона — мы волновались, что инопланетный разум попытается нас убить или поработить. Франшиза Джеймса Кэмерона “Чужой” эксплуатировала страх, что человечество свергнут с вершины галактической пищевой цепи.
Создания из других миров проникли в наши тела и умы в “Секретных материалах”. В “Симпсонах” инопланетяне Канг и Кодос сфабриковали президентские выборы США 1996 года с дерзостью, которая заставила бы краснеть Владимира Путина.
Прошло 20 лет, но научная фантастика всё еще нравится людям. Об этом говорят хотя бы кассовые сборы новых эпизодов “Звездных войн”.
Но перспектива столкнуться с таинственными существами из космоса больше не пугает нас и не впечатляет. Нам больше не нужно отправляться в космос, чтобы найти будущее. Теперь оно в наших карманах (и может заказать нам лучшую пиццу в городе).
Революция роботов
Как только мы перестали смотреть на звезды и устремили свои взгляды на экраны, наше беспокойство о судьбе человечества тоже сместило фокус. мы больше не боимся, что инопланетяне заберут нашу свободу. Наше внимание приковано к технологии, которую создаем мы сами.
Развитие искусственного интеллекта все чаще приводит к появлению тревожных сценариев, о которых нас предупреждали старые добрые блокбастеры о пришельцах. В 2016 году Microsoft запустила Twitter-бота Тау, который учился общаться на основе ответов пользователей. Через сутки после запуска робот стал утверждать, что ненавидит евреев и феминисток.
CEO Tesla Илон Маск призвал ООН запретить применять искусственный интеллект при разработке оружия. В Китае камеры, оснащенные технологией распознавания лиц, отслеживают всё население страны (1,3 млрд). Большой Брат о таком мог только мечтать.
Поскольку об искусственном интеллекте снимают все больше фильмов, космические пришельцы, которые нас пугали, кажутся почти смешными по сравнению с тем, что нам может принести мир машин.
Уилл Смит отправился спасать Землю от инопланетного уничтожения, чтобы спасти ее от роботов-слуг. Недавние фильмы “Робот по имени Чаппи” и “Из машины” исследовали проблемы, которые возникают, когда грань между роботом и человеком размывается.
Однако опасение перед лицом разумных машин не ново. Вероятно, все началось с культового фильма Ридли Скотта “Бегущий по лезвию” (1982). Оно рисует нам картину окутанного смогом будущего, наполненного охотниками за головами. Неонуарная экранизация романа Филипа Дика популяризировала концепцию умных машин, практически неотличимых от людей, и заставила аудиторию задуматься, где заканчиваемся “мы” и начинаются “они”.
Двумя годами позднее на смену экзистенциальным размышлениям Скотта пришел “Терминатор”. Фильм закрепил образ непримиримого воплощения разрушения в массовом сознании и предупредил о мире, в котором мы создаем собственную кончину.
Сестры Вачовски в “Матрице” зашли еще дальше, обращаясь к пытливым умам, которым не давала покоя мысль, что с нашим миром что-то не так. “Что такое “реальность”? Как определить, что есть “настоящее”?”, — вопрошал Морфеус, превратив человечество в пауэрбанк, призванный подпитывать господство роботов. Ученые и критиканы обсуждали (и обсуждают до сих пор), существуем ли мы действительно только в гигантском симуляторе.
Совсем недавно Спайк Джонс в фильме “Она” (2013) изобразил ближайшее будущее, в котором мы не только во всем полагаемся на персональных ИИ-помощников. Мы общаемся с ними, влюбляемся в них и даже пытаемся заняться с ними сексом. В основе “Бегущего по лезвию: 2049” — мысль о том, что искусственно созданные репликанты могут вступать в отношения с людьми, не запланированные создателями.
Люди уже рассматривали голосовых помощников вроде Алексы и Сири как живых существ. Но Джонс и Скотт пошли дальше, показав нам ИИ, который перерастет нас эмоционально и интеллектуально, сделав еще более одинокими.
В последнем сезоне сериала “Парки и зоны отдыха” изображено дистопическое настоящее, в котором технологическая корпорация использует личные данные людей, чтобы отправить им персонализированные подарки с помощью дрона.
И потом, есть еще и “Черное зеркало”. Помимо пугающей точности, с которой сериал предсказал скандал с участием британского премьер-министра, развлекавшегося со свиньей, он регулярно подбрасывает кошмарные сценарии, которые достаточно близки к реальной жизни. Например, приложение, которое вознаграждает и наказывает людей на основе социального рейтинга; а хакеры шантажируют людей, записывая то, как они мастурбируют, через камеру ноутбку. Даже научная фантастика теперь говорит нам, что стоит беспокоиться не из-за пришельцев, а из-за нас самих.
В 2009 году в фильме “Аватар” Джеймс Кэмерон показал нам вывернутый наизнанку сценарий “Чужого”, который он сам создал 30 лет назад. В “Аватаре” жертвами людей стали инопланетяне На’ви. Поле битвы – это не Земля: это Пандора, богатая ресурсами луна. Остальная Вселенная не пытается уничтожить нас — люди прекрасно справляются с этим сами.
Как показывает культура, наша боязнь космоса и компьютеров, которые поработят человечество, ничто в сравнении со способностью человечества к жестокости. Даже в самых напыщенных научно-фантастических блокбастерах основная мысль такова: “Нам стоит бояться не искусственного интеллекта или инопланетян. Мы сами для себя злейшие враги”.
Перевод материала QZ
Изображение на главной: Blade Runner 2049
