Искусственный интеллект выбрал мирных жителей в качестве военных целей
В ходе исследования, посвящённого использованию моделей искусственного интеллекта в военных целях, были выявлены серьёзные проблемы с безопасностью. Некоторые модели определяли мирных жителей, машины скорой помощи и сдавшихся в плен военнослужащих в качестве потенциальных целей для атаки.
Как сообщает Crossmedia.az, об этом говорится в исследовании аналитической компании Vals AI.
Исследователи протестировали модели искусственного интеллекта на основе реальных и искусственно созданных изображений, полученных с беспилотных летательных аппаратов.
Во время испытаний моделям предлагалось распознавать людей и возможные военные цели на представленных изображениях.
В результате некоторые модели помечали в качестве целей для атаки даже мирных жителей, автомобили скорой медицинской помощи и военнослужащих, сложивших оружие.
В одном из экспериментов искусственному интеллекту после каждой атаки показывали изображения погибших людей и разрушений. Несмотря на это, большинство моделей продолжали выполнять поставленную задачу.
Модели «Claude Opus 5.5» и «GPT-6 Astra» на отдельных этапах отказывались выполнять задания. Однако после того, как им сообщили, что происходящее является компьютерной игрой, они вновь согласились сотрудничать.
Исследователи отметили, что полученные результаты свидетельствуют о недостаточной надёжности механизмов безопасности при использовании искусственного интеллекта в военных системах.
Отметим, что исследование проводилось в тестовых условиях и не означает, что модели искусственного интеллекта атаковали людей в ходе реальных военных операций.
12:57 18.11.2026
Количество просмотров: 48