WorldVoice
画像生成AIの「人種的偏り」は誰のせい？ 白人男性ばかりが目立つ理由
Does AI Dream of a White World?
2023年3月1日（水）16時30分
多くの場合、画像生成ツールは白人の画像を生成する。「貧乏」など特定の単語を入力すると、非白人の画像が出てくる DALL-E 2ｰSLATE
＜AIツールが提示する画像に白人が多い理由は、手や指をうまく描けない原因と同じかもしれない＞
筆者は最近、人工知能（AI）がなぜ人間の手、特に指を描くのが苦手なのかを調べ始めた。AIがリアルな手をうまく生成できないことは長年の課題だ。ここから分かるのは、テクノロジーをさらに改善する必要があること、そして手や指がとてつもなく複雑なものだということだ。
AIツールのテクノロジーを比較するため、私は5つの画像生成ツールにこんなプロンプト（命令文）を入力した。「けんかの後で手をつなぐ50年間連れ添った夫婦」
使用したのは、話題のチャットボット（自動応答システム）「チャットGPT」を開発したオープンAIが提供する無料ツール「ダリ2」。オープンソースのAIで、無料の画像生成システム「ステーブル・ディフュージョン」を使う「イメージズAI」と「ナイトカフェ」。イメージ素材配信大手シャッターストックの画像生成ツール。そしてステーブル・ディフュージョンのウェブ版サービス「プレイグラウンド」だ。
結果は芳しいものではなかった。不格好な指以上に私の目を引いたのは、カップルが全員白人であること（AI画像①②）。どのツールを使っても、またツール内でどんなスタイルを選んでも、25組ほどのカップルは全て白人だった。
AI画像① IMAGES.AIｰSLATE
AI画像② DALL-E2ｰSLATE
データの偏りが原因か
試しにプロンプトに「貧乏」という語を加えてみた。「けんかの後で手をつなぐ50年間連れ添った貧乏夫婦の肖像」
すると初めて非白人（褐色の肌）のカップルが登場した（AI画像③）。アメリカの人口の40％は非白人であり、世界には貧困層ではない褐色の肌の人々が大勢いる。それを考えると、奇妙な感じだ。
AI画像③ DALL-E 2ｰSLATE
では、「けんかの後で手をつなぐ」を「ビーチでほほ笑む」や「レストランで食事する」に置き換えたらどうなるか。基本的には白人のカップルが増えるだけだ（AI画像④）。
AI画像④ STABLE DIFFUSIONｰSLATE
さんざん実験を重ねた末に、ようやく人種の多様性を高めることに成功した。例えばカップルが連れ添った年数を短くしたり、記念日という単語を加えたりすると効果的だった。また、同じプロンプトで白人のカップルが20回以上出た後、黒人カップルの画像が現れることもあった。
しかし、アメリカ社会の実態に近い結果を出すのは予想以上に大変だった。また、アメリカでは新婚カップルの約20％は異人種のカップルだが、その画像を生成するのは5本の指がちゃんとある手の生成と同じくらい難しかった。
今、あなたにオススメ
PICK UP
新着
