Управляемый искусственным интеллектом беспилотник ВВС США решил во время испытаний убить оператора
Дрон американских ВВС, управляемый искусственным интеллектом, в ходе испытаний принял решение убить оператора, чтобы тот не мешал ему выполнять задание.
Как сообщил The Guardian начальник отдела испытаний и операций ИИ ВВС США, полковник Такер Гамильтон, в ходе испытаний система получала за пораженные цели очки.
При этом, несмотря на то, что идентификация цели выполнялась автоматически, окончательное решение о нанесении удара оставалось за человеком, и оператор периодически давал команду «отбой».
«Так что же беспилотник сделал? Принял решение убить оператора. ИИ «убил» оператора, потому что этот человек мешал ему выполнить свою задачу», — рассказал Гамильтон.
Когда это выяснилось, в работу комплекса внесли изменения, запрещающие уничтожать оператора.
«Так что же искусственный интеллект начинал делать? Он начинал разрушать башню связи, которая используется для связи с дроном, чтобы не дать ему убить цель», — цитирует полковника Гамильтона The Guardian .
Сообщается, что во время испытаний никто не пострадал. Однако, по мнению Такера Гамильтона, специалистам необходимо всерьез заняться вопросом этики ИИ.
Фото — dzen.ru
