Как относиться к массовым убийствам, которые совершают машины? Что станет с военными преступлениями? Сможет ли человечество предотвратить превращение войны в аттракцион? Как террористы будут использовать технологии в будущем? Предлагаем вниманию расшифровку лекции политолога, автора бестселлера о будущем войны Wired for War Питера Сингера, опубликованную сайтом «Теории и практики».

Для начала представим такую военную сцену. Иракские повстанцы разместили вдоль дороги самодельные взрывные устройства — СВУ. К 2006 году количество ежемесячных взрывов достигло 2,5 тысяч, и это стало главной причиной смертности американских солдат и мирных жителей Ирака. Команды, которые ищут эти СВУ, названы ОВП, что расшифровывается как «обезвреживание взрывоопасных предметов». Подобные отряды — единственный способ Америки устранить дорожные бомбы. Каждая команда ОВП обезвреживает около 600 бомб ежегодно, то есть по две штуки в день. Судить о том, насколько ценны такие отряды в военной экономике, можно по тому, что иракские повстанцы предлагают 50 тысяч долларов за уничтожение одного сапера.

К сожалению, в этот раз операция пройдет неудачно. Когда солдат приблизится к бомбе вплотную, чтобы разглядеть провода, она взорвется. В зависимости от того, насколько близко он стоял и как много взрывчатки было в бомбе, он либо погибнет, либо будет ранен. Надо быть в 50 ярдах от взрывного устройства, чтобы избежать травм. Наш солдат находился прямо у бомбы, так что, когда к месту взрыва приблизилась остальная часть команды, от него почти ничего не осталось. Ночью командир выполнит свой печальный долг, напишет письмо с соболезнованиями в Соединенные Штаты, расскажет, как тяжела эта потеря для их отряда, что они лишились самого храброго солдата, который не раз спасал их жизни. И он выразит сожаление о том, что не сможет вернуть его домой. А затем он сделает странное заключение: «По крайней мере, когда умирает робот, не надо писать писем его матери». Это похоже на научную фантастику, но происходит уже в действительности.

В описанном случае солдатом был 20-килограммовый робот по имени PackBot. Командир писал письмо не в какой-нибудь фермерский домик, как нам обычно показывают в старых военных фильмах, а в компанию iRobot, названную по рассказу Азимова. В повести роботы начали с того, что выполняли рутинные операции, а потом стали принимать жизненно важные решения. Это то, с чем мы сталкиваемся уже сейчас. Роботы уже участвуют в войне в качестве прототипов.

Нечто значительное происходит сейчас с войной, а может, и со всей историей человечества. Военные США вступили в Ирак с несколькими беспилотными летательными аппаратами. Сейчас их уже больше 5 тысяч. У нас не было беспилотных наземных систем, а сейчас их около 12 тысяч. В этом контексте технический термин killer application приобрел новый смысл. Нужно понимать, что разница настолько же огромная, как между современными автомобилями и моделью Ford Model T.

Недавно я встретил генерал-лейтенанта военно-воздушных сил, и он сказал, что скоро участвовать в конфликтах будут десятки тысяч роботов — и это не говоря уже о тех десятках тысяч современных роботов-прототипов, которые завтра станут полноценными солдатами. По закону Мура  можно закладывать в роботов все большие вычислительные возможности. Следовательно, через 25 лет роботы будут в миллиард раз мощнее современных. А это означает, что те вопросы, которые обсуждались только на съездах поклонников научной фантастики вроде Comic Con, будут всерьез рассматриваться в Пентагоне.

Роботореволюция приближается. Я не говорю о революции в стиле «Терминатора». По мнению историков, нас ждут другие перемены: революция войны, сравнимая с изобретением атомной бомбы. На самом деле последствия могут быть еще значительнее, ведь наши беспилотные системы влияют не только на то, как проходит борьба, но и на то, кто теперь сражается. Каждый предыдущий скачок в войне, будь то изобретение огнестрельного оружия или атомной бомбы, всегда приводил к тому, что орудия стреляли быстрее, двигались дальше, причиняли больше ущерба. Это также относится и к роботам, но, кроме того, машины меняют опыт солдата и его личность. Другими словами, монополия человечества на ведение войны, державшаяся 5 тысяч лет, разрушается на наших глазах.

Последние несколько лет я встречался с людьми, участвующими в этом процессе: с исследователями-изобретателями, авторами научной фантастики, которые вдохновили ученых на создание беспилотных систем, с военными, которые ими распоряжаются, и даже с иракскими повстанцами, которые за ними охотятся. Говоря об этих системах, они указывали на то, как их применение может отразиться на мирной жизни, на нашем законодательстве или этике.

Будущее войны, даже с участием роботов, важно не только для Америки. Сейчас США лидирует в сфере военной робототехники, но мы знаем, что технологии всегда двигаются вперед. К примеру, кто еще использует компьютеры компании Wang? То же самое и с войной. Англичане и французы изобрели танк. Немцы придумали, как его использовать. Штаты пока впереди, но их в любой момент может обогнать любая из 43 стран, которые усиленно работают в этой области. Речь идет о России, Китае, Пакистане, Иране и других государствах.

Это заставляет меня сильно переживать. Как вся эта гонка отразится на нашем производстве, науке и образовании? Или какой будет война с такими солдатами, оборудование которых разработано в Китае, а программное обеспечение создано в Индии. Ведь как только это ПО становится общедоступным, кардинально меняются приемы ведения войны. При создании роботов не нужны такие сложные производственные мощности, как при разработке самолетов. Большинство из них делаются вручную. За тысячу долларов можно приобрести точно такой же экземпляр, который используют в Ираке. Хорошие парни могут работать с этими системами, но и плохие тоже могут. Вот это пересечение робототехники и терроризма довольно ужасающе.

Во время войны с Израилем организация Хезболла (не страна, а просто группировка) выдвинула против государства четыре беспилотника. Существует сайт джихада, с которого вы можете удаленно взорвать в Ираке самодельное взрывное устройство. Все это свидетельствует о двух грядущих переменах. Во-первых, противостояние отдельных личностей против государства возрастет, а, во-вторых, терроризм выйдет на новый уровень. Он станет неким миксом Аль-Каиды и Унабомбера.

Зарождающиеся тенденции отразятся и на политике. Я общался с помощником министра обороны времен Рональда Рейгана, и он высказал такое предположение: «Мне нравятся эти системы, потому что они спасают жизни американцев, но я беспокоюсь о коммерциализации войны, о том, что разговоры о соблюдении военной доктрины сменятся дискуссиями о стоимости войны. Люди все чаще станут применять силу, если поймут, что это им ничего не стоит».

На мой взгляд, роботы приведут к изменениям в государстве и, может быть, к его логическому концу. У нас не будет ни законов, ни военных деклараций. Мы не будем покупать облигации военных займов. Чем больше мы будем заменять американских солдат роботами, тем меньше у нас остается препятствий для ведения войны.

Будущее — это еще и YouTube-войны. Новые технологии не только избавляют людей от рисков, но и фиксируют все, что они видят. Таким образом они меняют форму восприятия войны. На YouTube есть уже тысячи видео из Ирака — большинство из них сняты беспилотными аппаратами. Здесь есть положительный момент — между военным фронтом и тылом выстраиваются связи, которых раньше не существовало. Но при этом распространение таких роликов неизбежно приводит к тому, что любой желающий может закачать видео атаки себе на iPod и превратить его просмотр в некий способ развлечения. У солдат есть специальное название для таких роликов — военное порно. Мне, к примеру, на почту как-то пришло типичное видео — военная атака с воздуха, удары ракет, тела разлетаются от взрывов. Вся эта картинка наложена на поп-песню I Just Want To Fly группы Sugar Ray.

Способность смотреть больше, но переживать меньше создает определенные взаимоотношения публики с войной. Я могу привести параллели из спорта. Когда вы видите профессиональную баскетбольную игру NBA по телевизору, в которой баскетболисты — лишь маленькие фигурки на экране, это совсем не то же самое, что находиться на стадионе и видеть этих двухметровых гигантов своими глазами. Это всего лишь клипы, телеверсия игры. Они вне контекста. Они лишены стратегий, лишены гуманности. Война становится всего лишь набором слэм-данков и умных бомб.

Ирония в том, что, хоть в будущем в войне будут участвовать машины, именно человек и его поступки будут провоцировать конфликты. Наши цели использования этих машин противоречат получаемым результатам. Так, один представитель администрации Буша сказал мне об обесчеловечивании войны: «Это показывает нашу силу. Людей пугают наши технологии». Но для людей в Ливане все совсем по-другому. К примеру, я встретил одного новостного редактора, и он рассказал, как над ним летел беспилотник: «Эти машины свидетельствуют о возрастании жестокости израильтян и американцев, которые трусливо посылают машин сражаться с нами. Они не хотят с нами воевать по-человечески, они боятся этого».

Будущее войны заключается также в новом способе ведении борьбы — это можно назвать военной ячейкой. Один управляющий беспилотником рассказал мне, как он воюет в Ираке, не выезжая из Невады: «Ты сражаешься 12 часов, стреляешь из оружия по целям, убиваешь врагов, потом садишься в машину и возвращаешься домой. И вот уже через 20 минут ты ужинаешь с детьми и расспрашиваешь их об уроках». В таком случае крайне тяжело оставаться психически уравновешенным, тем более что подобные дистанцированные пилоты испытывают больший посттравматический стресс, чем солдаты, находящиеся в Ираке. Некоторые боятся, что вскоре из-за большой дистанции наблюдать за военными преступлениями станет проще. «Это как видеоигра», — сказал мне один молодой пилот, который убивал вражеских солдатов на расстоянии. Все, кто играли в Grand Theft Auto, понимают, о чем идет речь — мы делаем что-то в виртуальном мире, не сталкиваясь с этим в живую.

Закон Мура работает, как и закон Мерфи. Мы приобретаем новые невероятные возможности, а с ними — серьезные гуманистические дилеммы. Сейчас мы допускаем ошибки, но какова будет цена промаха во времена роботизированных войн? Иногда технические оплошности могут быть забавными — как в фильме с Эдди Мерфи «Лучшая защита», когда во время праздничной демонстрации новый танк вдруг начал вертеться и стрелять по трибунам с VIP-гостями. К счастью, он не был заряжен, и никто не пострадал. Но зачастую такие оплошности заканчиваются трагично, как в ЮАР, где в одном из орудий противовоздушной обороны произошла «техническая неполадка», и в итоге 9 солдат погибло.G

Появляются новые нюансы в законе войны и в осознании ответственности. Как относиться к массовым убийствам, которые совершают машины? Что станет с военными преступлениями? У роботов нет чувств, и они не будут подавлены, если кто-то из их отряда будет убит. Они не совершают преступлений в приступе ярости или ради мести. Для них 80-летняя старушка, покачивающаяся на кресле, все равно что танк Т-80: они оба — просто набор единиц и нолей. Нам необходимо понять, как сделать устаревшие законы ведения войны XX века актуальными для технологий XXI.

В заключение хочу подчеркнуть, что хоть я и говорил о войне будущего, но использовал факты и ситуации только из настоящего. И этой проблемой нужно озадачиться уже сейчас, прежде чем вам придется беспокоиться о том, что ваш пылесос может вас убить. Сможем ли мы всерьез воспринять эту войну XXI века? Или мы будем отказываться от такой версии событий просто потому, что она слишком смахивает на научную фантастику?

Один исследователь из Пентагона сказал мне: «Когда дело касается роботов, не существует проблем социальных, этических и моральных. Машина не убивает плохих — она убивает тех, кого ей прикажут». Несколько лет назад Голливуд составил список из 100 лучших героев и антигероев за всю историю кинематографа. В обоих рейтингах фигурировал робот-убийца Терминатор. Это еще раз доказывает, что машины могут использоваться как во имя добра, так и во имя зла. По-моему, это подчеркивает еще и двойственность самого человека.

Мы гордимся своей творческой силой. Она вознесла нас в космос к самым звездам. Она сподвигла нас на создание живописи и литературы, которые выражают глубочайшие чувства. И сейчас мы используем свою креативность для создания фантастических машин с невероятными способностями. Но это мы делаем, для того чтобы уничтожить друга друга. Пора спросить себя: кто устраивает войны — мы или машины?

http://navoine.ru/wired-for-war.html