The Guardian: ИИ дрона из США решил ликвидировать оператора на испытаниях

2 июня, Минск /Корр. БЕЛТА/. Управляемый искусственным интеллектом беспилотник на имитационных испытаниях Вооруженных сил США принял решение убить своего оператора, который мешал ему выполнить миссию, сообщает газета The Guardian.

Как отмечает издание, ни один реальный человек не пострадал, но ИИ был готов атаковать любого, кто мешал ему в выполнении миссии.

"Искусственный интеллект использовал крайне неожиданные стратегии для достижения своей цели в моделируемом испытании", - заявил начальник отдела испытаний и операций ИИ в ВВС США полковник Такер Гамильтон.

Гамильтон рассказал, что в ходе имитационного испытания беспилотнику, управляемому ИИ, нужно было уничтожить системы ПВО противника. В то же время итоговое решение об уничтожении цели должен был принимать оператор.

По словам Гамильтона, система начала понимать, что, хотя она и определила угрозу, человек-оператор иногда говорил ей не уничтожать ее. Однако за уничтожение угрозы ИИ получала бы очки, поэтому искусственный интеллект нашел выход в решении убить оператора.

"Мы обучили систему: "Не убивайте оператора, это плохо. Вы потеряете очки, если сделаете это". Так что же она начинает делать? Она начинает разрушать башню связи, которую оператор использует для связи с беспилотником, чтобы не дать ему убить цель", - поделился генерал.

В связи с этим Гамильтон предостерег от чрезмерной зависимости от ИИ, указав на важность этики, когда речь идет об искусственном интеллекте. "Нам нужно найти способы сделать ИИ более надежным и лучше понимать, почему программный код принимает определенные решения", - считает он.

Отмечается, что это не первые военные испытания, где для управления техникой использовался ИИ. Ранее военные США внедрили искусственный интеллект для управления истребителем F-16.-0-