Source: Nikkei Online, 2023年12月30日 5:00
文章や画像を生み出す生成AI（人工知能）の悪用が目立ってきた。1〜6月の世界のビジネス関連の詐欺は前年同期比2倍近くに増加し、日本でも不正送金の被害が16倍になった。人の声や商習慣も模倣され、新たな犯罪を生んでいる。生成AIが普及し始めて1年。新技術の「影」を抑える取り組みが急務だ。
「資産買収の最終段階にある。手を借りたい」。5月、日本企業の海外関連会社の社長に本社の会長を名乗る人物からメールが届いた。続いて「専務」から電話があり「連絡した件のフォローをしている」と語った。不審に感じ「別人ではないか」と指摘すると電話は切れた。
連絡を受けた情報処理推進機構はすぐに詐欺と判断した。幹部を装って会社の資金を振り込ませる「ビジネスメール詐欺」だ。声は専務と似ており、メールと合わせてAIで合成したとみられる。
生成AIの普及で犯罪が増えている。
インターネットの安全対策を手掛ける米アブノーマルセキュリティーによると、2023年上半期（1〜6月）の世界のビジネス詐欺のメール数は89%増加した。メールボックス1000個に届く詐欺メールの数が週平均2.5通まで増えた。22年上半期の増加率（46%増）よりも大幅に上昇している。
日本でも被害が目立つ。警察庁によれば23年上半期のネットバンキングを通じた不正送金の被害は2322件と16倍に急増した。被害額は30億円に達し、件数と被害額ともに過去最高になった。不正送金はパスワードやクレジットカードの情報を盗み出すフィッシング詐欺をもとにしており虚偽サイトの作成などにAIが使われている。犯罪者の正体が分かりにくく検挙は難しい。
昨年11月に米オープンAIの「Chat（チャット）GPT」が公開され、生成AIの活用が世界で本格化した。仕事の効率化など利便性が高まる一方、負の側面も表面化しつつある。
AIを使えば詐欺メールやサイトは自動でつくれる。闇サイトでは犯罪者向けの生成AIのサービスが相次ぎ登場している。ディー・エヌ・エーの松本隆氏が日本で使うビジネスメールをAIに作成させると、言葉遣いはもちろん、添付資料の開封のためにパスワードが自動で送られる日本独特の習慣まで再現した。
アブノーマルのマイク・ブリトン氏は「AIの登場が詐欺の増加につながっている。巧妙で誤りのないメールなどを大規模につくることがはるかに容易になった」と語る。
米IBMの実験では、人間とAIが作成した詐欺メールでだまされた人の割合は人間の14%に対しAIは11%だった。AIはわずかに及ばなかったが、メールの作成にかかった時間は人間の16時間に対して5分。詐欺の「効率」がAIで大きく高まっている。
詐欺だけではない。イスラエルの調査会社アクティブフェンスによると、小児性愛者の集まる闇サイトで1〜3月、AIで生成したとみられる子どもの性的画像が68点見つかった。その前の3カ月間に比べて3倍近くに増えた。有名人の裸など偽画像を取り扱うサイトも急増している。
独スタティスタによれば、生成AIの世界市場は30年に2070億ドル（約30兆円）に達し、23年の5倍近くに拡大する見込み。一方で悪用を防ぐ取り組みは緒に就いたばかり。主要7カ国（G7）や欧州連合（EU）は12月、AIの包括ルールを導入することで相次ぎ合意した。偽情報拡散などの防止策を盛り込んだ。新技術の恩恵をより多く享受するためにも各国が連携して対策を練る重要性が増している。
（寺岡篤志、グラフィックス 藤沢愛）