Использование искусственного интеллекта (ИИ, AI) во многих сферах жизни уже не кажется сегодня чем-то несбыточным, тем, что могло существовать только в научно-фантастических фильмах или книгах. Теперь его применяют для автоматизации производства, бизнеса, улучшения условий быта.

Наивно было бы полагать, что возможностями искусственного интеллекта пользуются исключительно добропорядочные и законопослушные люди. Мошенника и киберпреступники не дремлют и не отстают: они тоже в курсе о новых технологических достижениях и благах. Просто применяют их себе на пользу. И чаще всего ради вымогательства денег, данных или важных секретов.

Банальный пример – использование дипфейков. На видеофаиле, обработанном при помощи искусственного интеллекта, можно изменить внешность, голос и другие аудиовизуальные эффекты как это угодно злоумышленнику.

Как они это делают

Есть несколько способов, с помощью которых хакеры используют достоинства и недостатки искусственного интеллекта для взлома защитных систем (в числе и защитного ИИ).

Самый грубый – банальное внешнее (физическое) воздействие на его «физическое тело» для полного отключения и неспособности защитить систему. Например, отключение от сети (обесточивание электрической сети, подрыв и т.д.). Конечно, это не похоже на сложную битву интеллектов, но иногда и этот вполне неизящный трюк может оказаться эффективным. Самый яркий пример – беспорядки в Гонгконге, где протестующие выводили камеры наблюдения с помощью карманных лазеров. Демонстрант светил им в объектив и тем самым выводил технику из строя.

Иной способ победы над «цифровым стражем данных является создание копии, его двойника. В основе такого конструкта лежат данные, полученные посредством обучения ИИ. Разновидность этого метода – заставить два ИИ («доброго» и «злого») атаковать друг друга. Причём оба «соперника» могут узнавать друг друга и адаптироваться к «стилю боя» своего оппонента. В результате этого происходит переписывание изначального кода программы до такой степени, чтобы другой «антивирус» другой не заподозрил ничего подозрительного.

Самым сложным вариантом взлома считается обман обучающей программы защитного ИИ. Это можно сделать, если у хакера есть полный доступ к алгоритму, отвечающему за то самое обучение.

Все пропало?

Это звучит неутешительно, но сегодня никогда нельзя быть уверенным в стопроцентной гарантии работы ИИ в качестве надежного средства защиты любых данных. ИИ – не человек, у него нет чувств, эмоций и совести. Он не знает усталости. В руках хакера он всего лишь инструмент.

Тут важно сказать, что это даже и не удивительно. Как известно, сами по себе технологии не являются «злыми» или «добрыми». К ним этим понятия попросту неприменимы. Всё всегда зависит от их использования. А раз уж технологический прогресс неостановим, то и вполне логично, что его достоинствами и недостатками будут пользоваться и не вполне законопослушные люди.

Что делать?

Значит ли всё вышеописанное, что вы никак не сможете защитить важные для вас данные, будь это что-то личное или засекреченные коммерческая/государственная тайна? Нет смысла бороться с «неживым» противником?

Как утверждает Александр Нефедов – являющийся техническим директором проектов «Ойл Ресурс Групп» – все не настолько плохо. Во-первых, современные защитные системы постоянно обновляются, исправляют бреши в своей «броне». Во-вторых, важно соблюдать правила безопасности: осторожно использовать Интернет, помнить логины и пароли входа на рабочие аккаунты, постоянно обновлять программное обеспечение и стараться пополнять свои знания в области защиты информации. Для сотрудников крупных компаний дополнительным советом будет не пренебрегать рекомендациями от отдела безопасности, если таковой имеется.