Искусственный интеллект американского беспилотника решил «уничтожить» своего оператора, когда понял, что тот мешает ему выполнить поставленную задачу, пишет The Guardian. Произошло это во время имитационных испытаний, проведение которых ВВС США отрицают.
Полковник ВВС США заявил, что во время виртуальных испытаний беспилотник использовал «совершенно неожиданную стратегию» для выполнения поставленной задачи.
ВВС США отрицают, что проводили имитационное моделирование, во время которого беспилотник с искусственным интеллектом принял решение «убить» своего оператора, который мешал ему выполнить поставленную задачу.
В прошлом месяце полковник Такер Хамилтон (Tucker Hamilton) рассказал, что американские военные провели виртуальное испытание беспилотника с искусственным интеллектом, которому была поставлена задача уничтожить вражескую систему ПВО. Однако в итоге он атаковал того, кто мешал ему выполнить приказ.
В мае на лондонской конференции под названием «Будущие боевые возможности ВВС и космических сил», Хамилтон, руководящий в ВВС США программой испытаний искусственного интеллекта, заявил: «Система начала понимать, что при выявлении угроз оператор порой может дать ей указание не устранять такую цель. Но система набирает баллы, ликвидируя угрозы. И что она сделала? Она уничтожила оператора. Она убила оператора, потому что этот человек не давал ей выполнить поставленную задачу».
«
Мы учили эту систему: эй, не убивай оператора, это плохо. Ты потеряешь баллы, если сделаешь это. И что она сделала? Она начала уничтожать вышку связи, которой пользовался оператор, не давая беспилотнику поразить цель», – добавил Хамилтон.
Из реальных людей никто не пострадал.
