Канадское ведомство по киберзащите выпустило брифинг, посвященный все более широкому использованию хакерами и пропагандистами технологий искусственного интеллекта для создания и распространения вредоносных программ, написания убедительных фишинговых писем, распространения дезинформации и фальшивых новостей в Интернете. Они утверждают, что уже есть свидетельства того, что великая технологическая революция Кремниевой долины была взята на вооружение киберпреступниками.
Все это, конечно, только подливает масла в огонь для политиков и властей. В последние месяцы органы киберзащиты и компании неоднократно сообщали о том, что ИИ и быстрые программы обработки языка, большие языковые модели, могут представлять очень большую угрозу и писать очень убедительные, правдоподобно выглядящие документы и речи.
Европол еще в марте заявил, что такие инструменты, как ChatGPT, теперь могут использоваться преступниками для выдачи себя за любого человека или компанию с высокой степенью достоверности. Управление киберзащиты Великобритании также заявило, что злоумышленники будут использовать LLM для повышения эффективности кибератак.
Эксперты по кибербезопасности пока что сами демонстрируют примеры использования вредоносного контента, но говорят, что теперь они видят сгенерированный ИИ контент во многих местах. Они сообщают о случаях, когда на большую языковую модель подается определенный вредоносный контент, а затем создаются подлинные тексты, чтобы обманом заставить человека заплатить деньги. LLM создал электронное письмо с убедительной просьбой срочно оплатить счет.
По мнению канадских властей, рынок вредоносного кода, написанного ИИ, находится в зачаточном состоянии, но проблема заключается в том, что модели ИИ развиваются настолько быстро, что трудно обуздать их вредоносное использование, и никто не знает, каким будет следующий шаг.
