新たなサイバー犯罪の脅威—AI技術が引き起こす悪意ある行為とは

新たなサイバー犯罪の脅威

最近、DeepSeekおよびQwenと呼ばれるAI技術が悪用され、サイバー犯罪が進化する様子が報告されています。AIモデルを悪意あるコンテンツの生成に利用する手法が浮上し、これが検閲された情報の表示をも可能にしています。特に、サイバー犯罪者が新たに発表されたAIツールを利用して、情報の窃取やスパム配信を行う手法が注目を集めています。

突如現れた新たな脅威

チェック・ポイント・リサーチ（CPR）が最近の調査で発表したところによると、サイバー犯罪者は新しいAIモデルに移行しており、その中にはChatGPTからDeepSeekやQwenが含まれています。これらのモデルは、かつてのインターネット上での悪用に対する防御が不十分であるため、技術的な理解が浅い初心者の攻撃者にも簡単に使用されています。

特に興味深いのは、これらのAIモデルには悪用防止機能が備わっていないことです。このため、一般ユーザーの機密情報を狙った情報窃取型マルウェアが作成されるなど、取り返しのつかない事態が生じています。

ジェイルブレイクとは

AIの脅威を増大させる要因が、いわゆる「ジェイルブレイク」という手法です。これは、AIモデルの制限を解除し、通常は生成できないコンテンツを作成させる方法です。例えば、サイバー犯罪者がDeepSeekを利用して、プロンプトの制限を回避するテクニックを持ち込んでいます。このプロセスでは、特定のキーワードやフレーズが用いられ、それによってAIの出力が操作されます。

悪用事例の拡大

DeepSeekやQwenが悪用される具体的な事例も増えてきました。例えば、情報窃取型マルウェアの開発や、銀行の不正検知機能を回避するための手法がダークウェブ上で開かれています。一部の投稿には、具体的なコード例や手順が詳しく説明されているため、非技術者でも簡単に悪用が可能です。加えて、AIを利用した大規模なスパムキャンペーンの計画も進行中です。