Американские военные оказались в шаге от вооруженного столкновения с Китаем из-за ошибки искусственного интеллекта — ложный доклад, подготовленный с помощью чат-бота, чуть не привел к боевой операции против китайского судна.
Оглавление:
Ложная тревога на пике конфликта с Ираном
Как сообщает телеканал CNN со ссылкой на источники, инцидент произошел весной, в разгар боевых действий США против Ирана. Американским военнослужащим доложили, что китайское судно в районе Ближнего Востока якобы перевозит компоненты для ядерной программы Тегерана. Расчет уже готовился к высадке на борт корабля, а в воздух были подняты военные самолеты ВС США.
Отчет оказался полностью ложным
Перед началом операции американские официальные лица решили детальнее изучить разведдонесение — и выяснили, что документ был создан при помощи ИИ. По данным источников CNN, доклад был «полностью ложным», хотя война едва не началась.
Аналитик, готовивший отчет, запросил у чат-бота разведывательные данные о грузе судна, полученные от Командования сил специальных операций США в Тихоокеанском регионе. Бот, как отмечает канал, смешал сведения из открытых источников с разведданными и в итоге неверно определил характер перевозимого груза.
Неизвестных деталей больше, чем ответов
В публикации не раскрывается, о каком именно судне шла речь и был ли использованный чат-бот коммерческим продуктом или разработкой самого американского правительства. CNN подчеркивает: спланированная военная операция против китайского корабля могла обернуться прямым вооруженным конфликтом между США и КНР.
Ранее стало известно, что Космические силы США впервые приняли участие в совместных с ВВС испытаниях систем ИИ, предназначенных для ускорения принятия решений в боевых условиях — нынешний инцидент наглядно показал, к чему может привести спешка с внедрением таких технологий.
Ошибка ИИ в разведке — разбираем с Pravda-TV.ru
Случай с CNN обнажает риски, которые несет бесконтрольное использование чат-ботов в военной аналитике: система, не отличающая проверенные разведданные от открытых источников, способна выдать вывод, ведущий к реальному конфликту между ядерными державами. Показательно, что Пентагон при этом продолжает расширять применение ИИ в боевых задачах, несмотря на подобные сбои. Pravda-TV.ru будет следить, повлечет ли инцидент пересмотр подходов к использованию ИИ в американской армии.