Роботы-убийцы в центре внимания: Мы чего-то не знаем?

Внезапно во всем мире начали обсуждать военные автоматизированные системы. Вчера на Международной объединенной конференции по искусственному интеллекту (IJCAI) в Буэнос-Айресе была составлена петиция, в которой ведущие ученые призывают отказаться от разработки роботов-убийц.

Возникает ощущение, будто мы чего-то не знаем.

Тема армейских роботов и возможного «восстания машин» обсуждается уже давно. Но именно сейчас, несмотря на отсутствие громких новостей в данной области, составляется петиция. И что еще интереснее, ее подписывают крупнейшие действующие лица высокотехнологической сцены. Среди них Стивен Хокинг и даже Элон Маск, который, вообще-то, открыто признает, что сотрудничает с военными.

Конференция International Joint Conference on Artificial Intelligence, которая проводится с 1969 г., на этот раз действительно стала одним из важнейших событий в хайтеке. Петицию против «роботов-убийц» подписали более 1 тыс. выдающихся ученых и бизнесменов, что привлекло всеобщее внимание к этому мероприятию. Помимо Хокинга и Маска подпись поставил и сооснователь Apple Стив Возняк.

Ученые говорят о том, что военные роботы могут быть разработаны в течение двадцати лет. Надо сказать, что такие прогнозы очень хорошо вписываются в мир научной фантастики, ведь именно в первой половине XXI века, согласно многим книгам и фильмам, должны быть созданы машины, способные мыслить, а возможно, и уничтожить человечество. Участники конференции не шутят, когда подтверждают: такое развитие событий возможно.

Разработку боевых роботов уже назвали третьей военной технологической революцией. До этого произошло два ключевых события, навсегда изменивших войну: изобретение пороха и ядерного оружия. И нельзя исключать, что именно третья революция станет последней, а люди, попытавшиеся защитить свою жизнь, лишатся ее.

В петиции говорится: «Автоматические оружейные системы идеальны для таких целей, как убийство, дестабилизация государств, подавление народных волнений и уничтожение отдельных групп людей по этническому признаку». То есть роботы-убийцы хорошо подходят как для диктаторских режимов, так и для геноцида, а ведь именно от этих вещей человечество пытается избавиться.

Напомним, что аргумент в пользу внедрения роботизированных соединений в армейскую сферу заключается в том, что можно будет снизить количество смертей, предоставив войну роботам.

Но гости IJCAI сомневаются в этом и считают, что гонка вооружений, которая вспыхнет после появления роботов, не принесет нам ничего хорошего. Вместо этого предлагается использовать искусственный интеллект иным образом, не давая ему в управление летальное оружие.

Инициатором составления петиции стал Институт жизни будущего (FLI). И хотя это не первое письмо с призывом отказаться от разработки роботов-убийц, эксперты обращают внимание на то, что стиль изложения мыслей сильно изменился. Требования стали более жесткими. FLI был основан в 2014 г., и в его создании поучаствовал сооснователь Skype Ян Таллин.

Ученые и бизнесмены, подписавшие петицию, не рассказывают нам все, что знают. Однако известно, что Пентагон активно финансирует разработки в области робототехники. Хотелось бы услышать откровения Элона Маска, который через компанию SpaceX активно сотрудничает с американскими военными и собирается запускать спутники для Вооруженных сил США.

Он ведь тоже поставил свою подпись, хотя активно вкладывает деньги в новейшие и перспективнейшие технологии. Может быть, Маск получил заказ, от которого предпочел отказаться?