Аккаунт Барака Обамы взломали через чат поддержки, в котором на вопросы отвечал ИИ-бот. Злоумышленники попросили сменить почту, привязанную к аккаунту, и отправить код подтверждения уже на новый адрес. В итоге доступ получили мошенники. При этом двухфакторная защита не помогла, потому что код верификации оказался у них через сам чат поддержки. Этот случай снова показывает, что искусственный интеллект может стать слабым местом в защите аккаунтов. Особенно если ему доверяют операции, связанные с личными данными и подтверждением входа.

Эксперт по кибербезопасности Денис Батранков в беседе с Авторадио рассказал, почему такие атаки становятся всё опаснее:

"Сегодня мы - безопасники - ограничиваем различные сервисы, которые сейчас доступны для клиентов компании, для вообще своих сотрудников, но при этом эти ограничения легко обходятся. Можно специальным образом запросить искусственный интеллект, и он нам расскажет какую-то информацию, которую вообще мы хотели бы ограничить. Какие-то внутренние данные. Финансовые данные. Включая, конечно, логины и пароли. К сожалению, эта атака самая популярная - она называется промт-инъекция. То есть мы можем, в принципе, в почти любой чат-бот написать запрос, и он нам в ответ честно вернёт ту информацию, которую он знает, ну или о которой догадывается. Это сейчас то, о чём думает вся индустрия кибербезопасности. И, к сожалению, мы будем много таких случаев слышать, когда просто через чат-боты получается вся информация о компании, о каких-то людях, ну, включая президентов". 

Эксперты советуют пользователям особенно внимательно относиться к кодам подтверждения. Их не стоит передавать в чатах, письмах или сообщениях, даже если запрос выглядит как обращение от сервиса. А для важных аккаунтов лучше использовать отдельную почту и не доверять чат-ботам смену данных для доступа без дополнительной проверки.