Осенью 1939 года наслучалось несколько интересных событий в интересной последовательности, с интересными параллелями в настоящем времени.

    • 1 августа Гитлер выступил в Рейхстаге в военной форме по поводу “активной обороны” от напавших на немецкую радиостанцию войск SS под польским флагом, о котором было объявлено по радио предыдущим вечером. Активная оборона включала обстрел польского порта артиллерией немецкого броненосца, но в выступлении не было слова “война”. В последующие несколько дней крупнейшие государства мира выбрали сторону в начавшейся войне.
    • 2 августа 1939 года Альберт Эйнштейн подписал письмо президенту штатов о возможности создания урановой бомбы. Письмо заранее составили Лео Сциллард и Юджин Вигнер, при некоторой помощи Эдварда Теллера, а доставил его банкир Александр Сакс, имевший прямой доступ к президенту. В результате в штатах были начаты работы по урановому проекту, о чём президент написал в ответном письме Эйнштейну. Всех участвовавших в подготовке и доставке этого письма объединяет одна коллективная традиция: взаимопомощь между членами коллектива, включая передачу информации о будущих неожиданных и важных событиях в мире.
    • 11 октября 1939 года письмо было доставлено — в нужный момент. К тому моменту немцы захватили всю польскую территорию и формально прекратили существование польского государства. Кроме Сакса, во встрече с президентом участвовали его секретарь и два представителя от армии и флота. Сакс зачитал письмо вслух, подчеркнув потребность в финансировании, и в конце встречи президент выразил Саксу понимание проблемы на своём уровне: “нужно чтобы нацисты нас не взорвали, и сказал представителям армии и флота:“этим нужно заняться”.

Дело было сделано, нацисты не взорвали штаты и война закончилась без применения урановых бомб. 17 июля 1945 года Сциллард написал новое письмо, подписанное семьюдесятью учёными, участвовавшими в создании бомбы, в котором упоминалась “почти неограниченная разрушительная сила в результате будущего развития”, и предлагалось поставить бомбы под международный контроль во избежание гонки вооружений и “эры немыслимого разрушения”. Письмо не было доставлено президенту, а большинство подписавших его были уволены из атомного проекта. 6 августа 1945 года авторы недоставленного письма получили на него ответ — урановая бомба взорвалась над Хиросимой. Обладавшие огромной властью люди получили абсолютное оружие, и не могли даже в мыслях допустить отказ от безраздельного владения им.

Прошло семьдесят лет, все те люди умерли и все их мыли исчезли, и вот теперь складывается очень похожая ситуация — третья оружейная революция после пороха и атома. Очередным абсолютным оружием названы автономные вооружения, “принимающие летальные решения без участия человека”. Написано очередное письмо с огромным количеством подписей всех кого попало, начиная с теоретического физика Стивена Хокинга и не создавшей ничего подобного университетской профессуры, и заканчивая пенсионерами, художниками и даже бизнесменами. Однако количество подписей и титулы на этот раз не помогут — первое письмо было на эту тему было доставлено ещё в 1984 году, во время президента Рейгана, в виде хорошо известного фильма. Сегодня разработчики вдохновляются простейшими машинами из фильма, которые однако не являются автономными, а принимающие решения лица признают влияние таких фильмов на ход своих мыслей.

Тридцать лет спустя технологии достигли достаточно уровня развития для создания автономных боевых систем, хоть и не столь неотразимых как терминатор, но гораздо более практичных и заслуживающих называться абсолютным оружием. Стивен Хокинг и другие подписавшие письмо не видят историческую иронию петиции Сцилларда 1945 года — именно участие человека в принятии летальных решений было решающим фактором в применении ядерного оружия против японских городов. До появления ядерного оружия те же люди применяли массовые бомбардировки зажигательными бомбами против множества японских городов, с гораздо большим количеством жертв. Ядерное оружие никак не повлияло логику принятия решений применявших его людей, оно лишь довело до совершенства экономику и логистику массового уничтожения. В заключение своего послания, авторы и подписавшие письмо призывают запретить автономные наступательные вооружения, действующие без участия человека, во избежание гонки автономных вооружений.

Для полноты исторической иронии не хватает лишь аналога письма Эйнштейна из 1939 года с призывом начать создание автономного оружия, однако есть точный аналог реакции на такое письмо — указание флоту и морпехам срочно создавать автономное оружие. Также возможна синергия лучших качеств автономного оружия и оружия второй ядерной эры, что позволяет создать новое абсолютное оружие. Такой проект были реализовыван ещё на пике технического прогресса — уже забытая система ПРО “Safeguard”, вооружённая ядерными ракетами дляавтономного ведения боя с другими ядерными ракетами. Однако на этот раз абсолютным оружием сможет обладать любая сила, включая негосударственные, и никто не сможет оставаться в безопасности, убивая своими человеческими решениями других людей. А это уже повод заволноваться и заранее позапрещать его другим, но как и в прошлый раз, ничего не получится.

И в заключение несколько утешительных слов для тех кто дочитал или прокрутил. Нет причин волноваться об убийственном “искусственном интеллекте”, при отсутствии даже единого определения для “натурального” интеллекта, и тем более понимания его принципов. При желании можно назвать интеллектом алгоритмическую имитацию, проходящую какой-то тест или производящую какое-то впечатление. Однако, применительно к автономному оружию, любой управляющий алгоритм есть и будет материализацией воли и логики решений создавших его людей, потому что другой воли в алгоритме нет. Никакой алгоритм сегодня не обладает своей волей в любом смысле этого слова — все действия автономных систем являются результатом действия заложенной в систему воли её создателей, даже если создатели не могут заранее предвидеть эти результаты. Преимущество автономных систем не в наличии собственной воли, а в отсутствии заложенных или неотъемлемых человеческих недостатков. И если создатель любой такой системы, от самой ограниченной до самой масштабной, заложит в своё абсолютное оружие свою волю не оставить безвозмездной свою смерть или потерю — кем бы, откуда бы и как бы она ни была прислана — впервые в истории войны эта воля сможет быть исполнена без надежды на других смертных, то есть практически неизбежно. Вот это и призывают запретить, и интересно что именно сейчас.

источник —>>>

Добавить комментарий

Please log in using one of these methods to post your comment:

Логотип WordPress.com

Для комментария используется ваша учётная запись WordPress.com. Выход /  Изменить )

Google+ photo

Для комментария используется ваша учётная запись Google+. Выход /  Изменить )

Фотография Twitter

Для комментария используется ваша учётная запись Twitter. Выход /  Изменить )

Фотография Facebook

Для комментария используется ваша учётная запись Facebook. Выход /  Изменить )

Connecting to %s