Европейская авиастроительная корпорация Airbus учредила комиссию по изучению этических аспектов программы "Боевая авиационная система будущего" FCAS/SCAF (Future Combat Air System/Système de Combat Aérien Futur). Одним из ее компонентов должен стать истребитель нового поколения.

FCAS по своей структуре задумана как "система систем", где каждый компонент одной общей структуры также обладает сетевыми признаками. Она будет объединять несколько разных воздушных платформ, наземных станций и прочих объектов, связанных между собой каналами связи.

Одним из компонентов FCAS станет истребитель шестого поколения, макет которого уже показали на авиасалоне Ле Бурже в 2019 году.

Над его созданием работают производитель истребителей Rafale - компания Dassault - и концерн Airbus. Создавать новую машину будут Германия и Франция при участии Испании. Планируется, что новый самолет постепенно заменит после 2040 года истребители Rafale и Eurofighter.

Деятельность такой сложной конструкции невозможна без искусственного интеллекта. Хранение, обработка и передача данных в ней будет происходить во многом без контроля со стороны человека.

Главная задача комиссии - определить, насколько те или иные решения в конструкции FCAS соответствуют этическим нормам.

Комиссию официально учредили 14 мая, однако она уже собиралась в сентябре 2019 года. В ее составе - инженеры, военные, политологи, ученые из различных областей, есть даже два теолога. Один из них - бывший капеллан Бундесвера Хартвиг фон Шуберт - заявил, что поддерживает этику, в которой сила применяется только в необоходимом для соблюдения закона объеме и сочетается с уважением к противнику.

В интервью, опубликованном на странице комиссии, глава Airbus Defence and Space Дирк Хоке назвал одной из главных причин создания комиссии то, что в проекте будет широко применяться искусственный интеллект, этические аспекты применения которого широко обсуждаются в современном обществе.

Под контролем человека

Русская служба Би-би-си обратилась в компанию Airbus с просьбой объяснить, в чем заключается конкретная задача этой комиссии.

Представитель европейской корпорации рассказал Би-би-си, что главная цель не столько в разработке системы, которая будет максимально активно использовать искусственный интеллект, сколько в том, чтобы человек все-таки мог контролировать ее.

В случае с FCAS, объяснил он, предстоит определить контрольные точки системы, которые гарантировали бы 100-процентную ответственность человека за принятие решений, и эти точки должны быть распределены на всей протяженности процесса.

"Таким образом, задача в том, чтобы, во-первых, определить их, и во-вторых, внедрить их технологически в структуру FCAS. Вот почему так важно, чтобы в группе были не только люди, которые могут рассуждать о таких вопросах с теоретической, философской и этической точек зрения, а также инженеры, которым приходится внедрять результаты таких обсуждений в структуру этой системы", - сказал представитель Airbus.

Присутствие двух теологов в комиссии в Airbus объясняют тем, что им нужны были специалисты в области разумного и ответственного использования технологий, и оба члена комиссии хорошо разбираются в этом аспекте.

При этом бывший капеллан Бундесвера Хартвиг фон Шуберт много лет служил в армии и много знает о поведении солдат, их мыслительных процессах.

Новое поколение

"Система систем" - принцип, по которому развивается военная техника. Этот принцип называют сетецентрическим.

Уже сейчас военные самолеты, например, активно обмениваются информацией между собой. В будущем этот обмен станет еще более активным.

Например, в России создается ударный беспилотник С-70 "Охотник", который, как предполагается, будет действовать в паре с истребителем пятого поколения Су-57.

В аналогичном направлении развиваются, наземные и морские военные системы.

Даже простые по сравнению с сетецентрической архитектурой FCAS современные автоматизированные боевые системы периодически дают сбой на уровне принятия решений, и это оборачивается серьезными инцидентами.

Так, на учениях "Запад-2017" вертолет Ка-52, система управления огнем которого была поставлена в боевой режим, при случайном захвате радаром военного автомобиля на земле автоматически выпустил по нему две ракеты. В результате инцидента никто не погиб, хотя на видеозаписи видно, что рядом с уничтоженным автомобилем находятся люди.

Одной из главных дилемм боевых беспилотных автоматических систем является с одной стороны, уязвимость линий коммуникаций, используемых для контроля беспилотников человеком, а с другой - опасность ошибок автономных систем искусственного интеллекта.

С одной стороны, существует опасность ошибки системы в идентификации цели и принятия решения о ее уничтожении, с другой - каналы связи между человеком и машиной можно перекрыть.

В настоящее время многие страны вкладывают большие средства в разработку систем радиоэлектронной борьбы, задача которых, в частности, лишить дистанционного контроля беспилотные системы.

Поэтому автономность, способность действовать и принимать решения самостоятельно рассматривается как ключевое свойство роботизированной техники будущего.