Ролята на изкуствения интелект в киберсигурността
Софтуерните инженери използват изкуствен интелект за подпомагане при писането на код и проверка на грешки. Също така, хакерите също се възползват от тези инструменти, за да намалят времето и усилията, нужни за извършване на атаки. Това прави бариерите пред по-малко опитни нападатели да бъдат по-ниските.
В Силициевата долина има предупреждения, че изкуственият интелект може да бъде използван за напълно автоматизирани атаки. Въпреки това повечето изследователи по сигурността смятат, че трябва да се обърне повече внимание на рисковете, които вече настъпват от ускоряването и увеличаването на обема на измамите, предизвикани от изкуствения интелект.
Престъпниците се възползват от последните технологии за дълбоко фалшифициране, за да измамят хората и да ги замамят да платят големи суми пари. Ние трябва да бъдем готови за предстоящите предизвикателства.
– Рианън Уилямс
Тази история е част от предстоящото издание на списание MIT Technology Review, което е посветено на киберсигурност и престъпления. Ако все още не сте се абонирали, направете го сега за да получавате бъдещите броеве.
Може ли да има защитен изкуствен интелект?
AI агентите представляват рисков бизнес. Дори когато са в оградата на чат кутията, LLM може да допусне грешки и да се държи неадекватно. Когато разполагат с инструменти като уеб браузъри и имейл адреси за комуникация с външния свят, последиците от тези грешки могат да бъдат сериозни.
Проектът за вирусен AI агент OpenClaw е на фокус през последните седмици, като използва съществуващите LLM, за да позволи на потребителите да създадат свои персонализирани асистенти. Въпреки че за някои това означава споделяне на големи количества лични данни, от имейли до съдържание на твърдия диск, експертите по сигурността изразяват загриженост.
В отговор на тези опасения създателят на проекта предупреждава, че хората без технически познания не трябва да използват софтуера. Въпреки това има голям интерес към OpenClaw и всички AI компании, които се стремят да участват в сферата на персонализираните асистенти, трябва да се уверят, че разработват системи, които защитават данните на потребителите. За постигането на това целите трябва да приложат най-новите изследвания в областта на киберсигурността.
— Грейс Хъкинс