ファンタジーRPGの定番モンスターであるゴブリンを巡って、OpenAIがまさかの公式メモを発表する事態になりました。同社のAIにゴブリンへの偏った扱い(いわゆる「反ゴブリンバイアス」)が組み込まれているのではないか、という憶測が数日にわたってネット上で広がった末の対応です。
ニュース概要
OpenAIのAIサービスにおいて、ゴブリンに関する出力に何らかの制限や偏りが存在するのではないかという疑念がユーザーの間で話題となり、数日間にわたり議論が続きました。これを受けてOpenAIは「Where the goblins came from(ゴブリンはどこから来たのか)」と題した公式メモを公開し、いわゆる「反ゴブリン的な挙動」がどこから生じたものなのかを説明する事態となっています。
出典: PC Gamer
ハマケンのひとこと
巨大AI企業がわざわざ「ゴブリン」について公式声明を出すという、字面だけ見ると2025年とは思えない出来事ですが、これは実は結構面白い問題を含んでいると思います。AIの出力フィルタは、差別的表現や有害コンテンツを防ぐために様々な単語に重みづけがされていますが、「ゴブリン」のようにファンタジー文脈では完全に無害なのに、現実世界の文脈では差別的に使われた歴史を持つ単語が、意図せず制限対象になってしまうケースがあるんですよね。これはD&Dや『バルダーズ・ゲート3』、『エルダー・スクロールズ』などを愛するゲーマーにとっては地味に死活問題で、TRPGのシナリオ作成やキャラ設定をAIに手伝わせたい人が「なぜかゴブリンの話だけ妙にしぶい」みたいな現象に遭遇していた可能性があります。AIとファンタジー文化のすり合わせは、今後もこの手の珍事件を生みそうで、編集者としては観察し甲斐のある領域です。
