Разследване: Защо не бива да третирате AI агентите като служители
Според проучване на професор Ема Уайлс от Бостънския университет, ако се отнасяте към AI агентите като „колеги“, а не като софтуерни инструменти, резултатът може да бъде по-лош. Според изследването на Уайлс, хората извършват 18% по-малко грешки, когато разглеждат работата като дело на AI агент, а не просто на чатбот. Изглежда, името има голямо значение.
Това представлява тревожен поглед за бъдещето на технологичния център, към който се движим. През миналата година изпълнителният директор на Nvidia, Дженсън Хуанг, разговаряше за работата на „дигиталните хора“. Компании като Microsoft, OpenAI, Anthropic и Google вече предлагат нови инструменти, насочени към управлението на екипи от AI агенти, които се представят като дигитални колеги със същата гъвкавост и когнитивни способности като реалните хора. Почти третина от мениджърите, участвали в проучването на Уайлс, твърдят, че техните компании вече гледат на AI агентите като на служители (23% дори ги включват в организационните си диаграми).
Технологичният напредък на AI агентите не е просто празен звук. Агентите, които се разглеждат като AI инструменти, програмирани да действат до постигане на цел, са постигнали значително по-добри резултати при по-сложни задачи. Въпреки това, наричането на тези инструменти „колеги“ или „служители“ може да създаде нереалистични очаквания за тяхната функционалност, като постави човешките служители в по-неблагоприятно положение.
Това се дължи на факта, че изследването на Уайлс променя усещането ни за отговорност. Когато AI инструментът е представен като служител, участниците в проучването се чувстват по-малко отговорни за резултатите му. Също така, те са с 44% по-склонни да сигнализират на мениджъра за съмнителна работа, вместо да направят собствени корекции (което отрича целта за спестяване на време, предвидена от използването на AI агента).
Този проблем е важен не само за офисната среда: тъй като AI агентите се използват в здравеопазването, военните операции, образованието и правителството, съществува риск те да бъдат използвани като удобен извинител за човешки грешки, които в действителност са резултат от лоши решения и надзор от страна на хората. Нека не забравяме, че вината за бомбардировката на училище за момичета в Иран беше първоначално приписана на AI, въпреки че всички доказателства сочеха към човешки грешки.