Глава Palantir Александр Карп (Alexander Karp) со своим сотрудником Николасом Замиской (Nicholas Zamiska) опубликовали на этой неделе замечательную статью об ИИ-оружии.
Не о том, как такое оружие создавать, что было бы логично для людей из технологической компании. Нет, авторы на мелочь не размениваются, текст посвящён размышлениям о судьбах человеческой популяции (используется термин «наш [биологический] вид»).
Мы уже 80 лет живём с ядерным оружием, которое способно «наш вид» уничтожить. До сих пор как-то обходилось, но теперь всё, время вышло. Наступает пост-атомная эпоха, эпоха ИИ-оружия, которое будет покруче атомной бомбы. Далее тезисно.
1. Атомной войны так и не случилось благодаря превосходству военной мощи США. Да, США применили на войне (нет, не на войне, целью были мирные представители нашего вида – АА) атомную бомбу, сбросили её на Хиросиму и Нагасаки, но это так, эпизод. Атомное оружие в массовом сознании больше не выглядит таким ужасным, каким выглядело в прошлом веке. И вообще, неразумно объяснять страхом перед ядерным оружием то, что мы так долго воздерживались от мировых войн.
2. Нынешний век – век другого оружия, искусственно-интеллектуального. Оно круче ядерного. В войнах будущего воевать, управляя военной техникой, станет искусственный интеллект, развитие которого идёт намного быстрее, чем развитие обычных вооружений.
3. США следует создавать ИИ-оружие ударными темпами, добиваться подавляющего превосходства, поскольку «для страны, которая придерживается более высоких моральных стандартов, чем её противники (это, понятно, мы, ещё китайцы – АА), паритета с врагом недостаточно».
4. Но есть проблема: молодые американские инженеры недостаточно умны. Нет, в своём деле они разбираются и могли бы создавать потребное высокоморальным Карпу с Замиской ИИ-оружие. Но ума для того, чтобы этим делом заняться, не хватает. Не хотят. В Google и Microsoft вообще дошло до требований к работодателю не ввязываться в военные проекты.
Дальше ничего особо содержательного нет, однако любопытные заявления имеются, например: «Пацифизм порождён нашим инстинктивным сочувствием к бессильным».
Не знаю, надо ли тут что-то объяснять нашим читателям. Аморально говорить о морали от имени нации, в анамнезе которой – успешный геноцид индейцев Северной Америки и атомные бомбардировки японских городов. Надо быть действительно неумным программистом, чтобы всерьёз надеяться на то, что ядерное оружие, управляемое человеком, спасует перед ИИ. И т.д. Там что ни абзац, то откровение.
Беспомощные рассуждения этих людей не отменяют их крайней опасности. Они угрожают дальнейшему существованию «нашего вида».
Историческую аналогию провести можно, она даже напрашивается. Palantir – это Fríedrich Krupp AG 21-го века. Стальные пушки Круппа обеспечили немцам в 1870 году под Седаном то самое подавляющее превосходство, о котором сегодня мечтается Карпу. Новая технология выиграла решающее сражение войны. Выиграла и Fríedrich Krupp AG – компания пошла в рост на военных заказах, исключительно на них.
Ровно то же и в случае с Palantir: военные заказы единственная основа бизнеса. Фридрих Крупп статей в газеты подобно Карпу не писал, «Deutschland, Deutschland über alles» не распевал – но только потому, что времена были для этого неподходящими, не постмодернистскими. Это непринципиальное отличие, общий знаменатель у Palantir и компании Круппа один и тот же: милитаризм.
Быть индейцем с термоядерным оружием, конечно, лучше, чем быть просто индейцем, но прислушаться к искусственному интеллектуалу Карпу следует со всей внимательностью. Чтобы уравновесить Круппа, потребовалась индустриализация. Сейчас задача ещё сложнее. Иллюзии на сей счёт угрожают нашей государственности.