AIの分類バイアスを問う映像作品が栄誉賞

発表内容のポイント

• AIの画像生成における「エラー排除」のプロセスに潜むマイノリティ排斥を告発
• 裂手症の当事者や医療従事者との対話を通じ、AI社会の分類の暴力性に迫る内容
• AIエンジニアでもある作家自身が、自らの無意識のバイアスとも向き合うプロセス

発表の背景

AI開発の現場では、出力精度を向上させるために入力データから異質な「外れ値」を排除する処理が一般的に行われる。しかし、この効率化や最適化のプロセスにおいて、社会的マイノリティや標準から外れた存在が「エラー」としてシステム上から消去されているのではないかという疑問が、本作を制作する背景となった。AI技術の進化がもたらす影の部分に焦点を当てている。

何が発表されたのか

本作は、AIが「5本指ではない手」をエラーとして排除するフィルターの存在に着目し、生まれつき5本指ではない裂手症の当事者や家族、医療従事者との対話を重ねて制作された。AIのバイアスを抽象的な倫理問題にとどめず、身体を持つ人々の現実の課題として提示している。審査員団からは、安易な技術的解決主義を拒み、データセットの監査と当事者へのインタビューを組み合わせることで、デジタル上の尊厳を問い直した点が評価された。

製造業・生産管理への見方

製造業や生産管理の現場において、AIやアルゴリズムを用いた自動化、外観検査、データ分析の導入が急速に進んでいる。しかし、システムが「異常値」や「エラー」として排除するデータの中には、現場の多様な個別事情や、標準化の枠から漏れた重要な要素が含まれている可能性がある。本作が提起する「分類の暴力性」は、製造現場におけるデータ選別や、システム設計者が無意識に設定する「正常と異常」の境界線を見直す契機となり得る。DXを推進する上で、技術の利便性だけでなく、排除されるデータの意味を考慮する視点として重要である。

現場で確認したいポイント

• 自社の生産ラインや検査システムで、AIが「異常」と判定する基準に偏りがないか
• データクレンジングの過程で、現場の重要な個別事象を「ノイズ」として排除していないか
• システム設計や開発において、多様な現場作業者の身体的特徴や状況が考慮されているか

確認しておきたい点

本ニュースは芸術賞の受賞に関するものであり、特定の製造業向けAI製品の仕様や、具体的な産業用システムの導入効果を示すものではない点に留意する必要がある。

関連リンク

• 関連ページ（窪田望 公式サイト）：作家のプロフィールや作品の詳細情報を確認できます。
• 発表企業のPR TIMESページ：株式会社Creator’s NEXTのプレスリリース一覧です。

出典情報