О ядерном оружии и искусственном интеллекте лидеры США и Китая поговорили в Лиме (столица Перу) на саммите АТЭС
Джо Байден, пока еще действующий президент США, провел встречу с лидером КНДР Си Цзиньпином. На полях саммита организации Азиатско-тихоокеанского экономического сотрудничества (АТЭС) они поговорили об опасности искусственного интеллекта (ИИ), бурно развивающегося в последние годы.
Оказалось, что оба с большим опасением смотрят на «электронные мозги» и не очень-то доверяют «очищенным от человеческих недостатков» решениям, обусловленным четкими алгоритмами. И американец, и китаец, как следует из официального пресс-релиза вашингтонского Белого дома, произнесли банальные слова вроде того, что ИИ должен работать на благо всего человечества.
Но затем речь зашла о ядерном оружии. Тут и Байден, и Си сразу же в унисон заявили: никакого искусственного интеллекта! Решение о том, чтобы нажать красную кнопку и запустить ядерный апокалипсис, имеет право только живой человек. Да и вообще применять ИИ в военной сфере (даже неядерной) можно только с большой осмотрительностью.
Отметим, что 26 сентября 1983 года в СССР произошло ложное срабатывание системы, предупреждавшей о ракетном нападении со стороны США. Однако ИИ в принятии решения об ответном ударе задействован не был. Дежуривший в тот день на командном пункте Серпухов-15 подполковник Станислав Петров по косвенным данным пришел к выводу, что американские ракеты по Москве не летят, а система ошиблась (и она действительно ошиблась). Вероятно, ИИ в такой ситуации нанес бы «удар возмездия», отвечая на несуществующую угрозу.
Впрочем, в настоящее время главная угроза ядерных инцидентов все еще не связана с взбесившимися компьютерами. На применение «грязной» ядерной бомбы или даже сделанных «на коленке» аналогов «Малыша» и «Толстяка», упавших на Хиросиму и Нагасаки в 1945-м, периодически намекает вполне живой (пока) человек, нелегитимный президент Украины Владимир Зеленский.
