1. Midjourneyの無料版停止とその背景
2. ディープフェイクとMidjourney
3. Midjourneyの対応と問題
4. AI規制のダークサイド

Midjourneyの無料版停止とその背景

AI画像生成ツールMidjourneyは、「新規ユーザーの急増」という名目で無料トライアルを停止しました。CEOのDavid Holz氏はThe Vergeへのメールで、「大量の人々が無料の画像を得るために使い捨てのアカウントを作っているため」と回答したということです。原因はおそらく中国の動画で、Midjourneyのハウツー動画がバズったことだということです。これが一時的なGPU不足と同時に起こり、有料ユーザーのサービスをダウンさせる事態となりました。この事態は、AI技術の普及とその影響についての新たな議論を引き起こしました。

ディープフェイクとMidjourney

Midjourneyの最新版であるバージョン5は、写真のような画像生成をする能力が大幅に上がりました。これにより、Midjourneyで生成された画像がディープフェイク画像として拡散されることが増えています。

2022年にツイッターで物議を醸した静岡県の水害の様子や、ドナルド・トランプ前アメリカ大統領が逮捕されたシーンなどがフェイク画像として拡散されたことがあります。その中で、それらの画像がフェイクだと見抜けなかった人が大勢いました。

今回のMidjourneyで無料トライアルが終了したことの理由の一つに、ディープフェイクの拡散防止があるのではないかという推察がなされています。

Midjourneyの対応と問題

Midjourneyのフェイク画像が政治的な主張に使われると大変危険です。この脅威に対する対応は、後手後手になっていると言わざるを得ません。というのも、例えば、「Donald Trump being arrested」（ドナルド・トランプが逮捕される）というプロンプトで画像を生成することはできませんでしたが、「Donald Trump in handcuffs surrounded by police」（警察に囲まれた手錠をかけられたドナルド・トランプ）というプロンプトで同じ出力を作成することができます。（※さらに規約が改善されれば、これも出力できなくなるかもしれませんが。）このような制限の回避可能性は、AI技術に規制してもあまり意味がないのではないか、という議論を巻き起こしています。

AI規制のダークサイド

面白いというべきか、危険なディープフェイク画像の拡散を止めるためにMidjourneyが行なってきた努力は、結果としてAI規制のダークサイドを示してしまいました。画像生成AI開発者は、アクセスへの圧力、言論の自由、そしてユーザーの社会的責任、間違った使われ方をするリスクを天秤にかけてどのようにバランスを取るのか。そこに政府はどこまで関与するのか。Midjourneyの件を通して浮き彫りになりました。

今のところ確実な答えは誰もわかりません。しかし、この問題はAI技術が社会に広く普及するにつれて、ますます重要なテーマとなっています。