Разузнавателен бюлетин на редактора
Служителят представи този случай като илюстрация за това как работите нещата, без обаче да потвърди или отрече дали в момента AI системите се използват по този начин.
Други източници съобщават, че Claude от Anthropic е интегриран във вече съществуващи военни AI системи и се използва в операции в Иран и Венецуела. Въпреки това, коментарите на официалното лице допринасят за представата за специфичната роля, която чатботовете могат да играят, особено за улесняване на избора на цели. Те също разкриват начина, по който военните интегрират два различни вида AI технологии, всеки със свои ограничения.
От поне 2017 година американската армия работи по инициатива за „големи данни“, наречена Мейвън. Тя използва по-стари видове AI, особено компютърно зрение, за да анализира огромните обеми данни и изображения, събрани от Пентагона. Мейвън може да прегледа хиляди часове въздушни кадри от дронове и алгоритмично да идентифицира цели. През 2024 година доклад от университета в Джорджтаун показа войници, които използват системата за избор и проверка на целите, което ускоря процеса на получаване на одобрение за тези цели. Войниците комуникираха с Мейвън чрез интерфейс с карта на бойното поле и табло, което могло да подчертае потенциални цели в един цвят и приятелски сили в друг.
Коментарите на официалното лице предполагат, че генеративният AI се добавя като допълнителен слой в чатбота – такъв, който военните могат да използват за по-бързо намиране и анализиране на данни, докато вземат решения относно приоритетите на целите.
Генеративните AI системи, като тези, които са основа на ChatGPT, Claude и Grok, са съвсем различна технология от AI, която основно се използва в Мейвън. Изградени върху големи езикови модели, те са много по-малко тествани на поле. И докато интерфейсът на Мейвън изисква потребителите директно да анализират и интерпретират данните на картата, резултатите, генерирани от генеративните AI модели, са по-достъпни, но по-трудни за проверка.
Използването на генеративни AI за такива решения намалява времето, необходимо за насочване, добави служителят, който не предостави подробности, когато беше попитан колко допълнителна скорост е възможна, ако от хората се изисква да отделят време за двойна проверка на резултатите от модела.
Използването на военни системи с изкуствен интелект е предмет на усилен обществен контрол след скорошния удар срещу девическо училище в Иран, при който загинаха повече от 100 деца. Множество новини източници съобщиха, че ударът е бил извършен с американска ракета, въпреки че Пентагонът заяви, че все още се извършва разследване. И въпреки че на Вашингтон пост има съобщения, че Клод и Мейвън са участвали в решенията за насочване в Иран, все още няма доказателства, които да обяснят каква роля са изиграли генеративните AI системи, ако са участвали. Ню Йорк Таймс докладва в сряда, че предварителното разследване показва, че старите данни за насочване са частично отговорни за удара.