“はだいろ”を覚えていますか？

突然ですが、”はだいろ”色鉛筆を覚えていますか？あるいは、ご存知でしょうか？

“薄めのだいだい色”のその色は、私が小学生の頃は色鉛筆、クレヨン、絵の具セットに入っていた色で、当時は、「人はこの色で塗る」と無意識に使っていました。しかし、それから十数年後にアメリカで生活を始めた時、この”はだいろ“に違和感を覚えました。

テクノロジーとバイアス

私たちが毎日行う情報取得、そのインフラがテクノロジーに頼っていくことで、デジタルのプラットフォームとの付き合い方自体が人々のバイアス意識に大きく影響すると考えています。テクノロジーの視点からダイバーシティ課題と向き合うTECHNOLOGY MEETS DIVERSITYプロジェクトでは、テクノロジーがいかにバイアス（偏見）形成に影響するか、という点に注目してみます。※1

ネット時代の検索行動

インターネットの時代です。総務省の統計※2によると、日本での個人のインターネット利用率は、13 歳〜59歳では各階層9 割以上です。かつてAIDMA※3と呼ばれた消費行動は、「Search（検索）」と「Share（共有）」が組み込まれたAISAS※4に変化し、インターネットで情報を検索するという行動は、もはや我々の日常の一部です。

検索エンジンは常に進化しており、「○社の株価」「△市にある歯医者」などの検索精度は高まっています。

ではもし、「日本人　肌色」と検索したら、その結果はどうなるのでしょうか？あるいは、どんな結果が正しいといえるでしょうか？

アメリカでは、カリフォルニア大学ロサンゼルス校でコミュニケーションを教えるサフィア・ノーブル氏が、「black girl」と検索した際に、人種差別や性差別を助長する検索結果がでることを指摘しました。長年の調査を基に、インターネット上で見つかる価値観が、その構築者の価値観に大きく依存することを指摘したのです。インターネット上での情報の見つけやすさ（discoverability）が人種差別や性差別をうんでいるのではないか、有色人種や女性の価値観が反映されていないのではない、という問題提起をしています。

本稿では、検索エンジンのアルゴリズムの良し悪しを議論するのではありません。ここで注目したいのは、概念的な情報やアイデンティティに関する複雑な問いに対しては、検索結果が正しいとは限らないこと、更に、受け取り方次第では検索行動がバイアスを生む可能性があるといえることです。

自分の肌色で検索する

では、検索エンジンは誰をユーザーとして想定すべきなのでしょう？

 “肌色“を規定しようと直面するこの問いに対して、”自分の肌の色で検索を絞り込む機能”をつけたPinterest（ピンタレスト）の例を紹介します。

Pinterest とは、アイデアを画像検索するビジュアルディスカバリーエンジンです。「映画のポスター」、「建物」、「スイーツ」など、インターネット上の画像から自分が興味あるトピックごとにお気に入りへ保存して楽しむ画像収集サービスから始まり、今では「何を着よう？」、「何を食べよう？」といった日常生活のアイデア探しにパーソナライズされたインスピレーションの提供が可能なサービスと成長しました。自分で撮った写真や文章をアップする SNS と比べると、感覚的にはビジュアルでサーチする検索サービスといえます。

そのPinterestが、美容関連の検索結果を自分の肌色から絞り込める機能をPC版に追加したのは2018年（モバイル版には2019年1月）、自社内にダイヴァーシティ・アンド・インクルージョン（D&I）部門を創設した年でした。

それまでは、ヘアスタイルやメイク、ファッションといった分野で白人女性以外の写真を見つけたければ、特定のキーワードを付け足す必要があました。しかし、黒人や白人、アジア系かラテン系かといった人種の選択ではなく16色の肌色チャートから、「あなたの肌色のトーンを選んでください」と、ユーザーに指定させる機能を追加したのです。※5　

実際の検索イメージは、以下画像をご覧ください。

イメージ画像１

イメージ画像１：Pinterestで「eyeshadow」と検索すると、画面下部の検索結果の画像が現れます。画像の上に、青点線で囲った「あなたのスキントーンを選んで、検索を絞ってください」という文言と４つの円（16色）のカラーチャートが現れます。

イメージ画像２

イメージ画像２：カラーチャートの一番右の円を選択すると、検索結果が更新されます。カラーチャートの横には「選択されたスキントーンで見つかったアイディアです」と、注意書きも変わっています。

 “当たり前”を、見つめ直す

テクノロジーは、日々進化しています。インターネットの検索行動だけに焦点を当ててみても、わたしたちの質問に対する回答速度や精度は向上し、その手法や表現も進化しています。「あなたへのオススメ」 と各ユーザーに最適化された情報の中には、企業の広告も存在します。アメリカではつい先日、ある大手ソーシャルプラットフォーマーが配信する広告が差別を助長していると指摘された問題が起きました。AI、IoT、ビッグデータの発展と並行して、情報の取り扱いについての議論や法の整備も加速しています。

このような時代、このような環境の中では、バイアスが生まれる可能性は至るところに潜んでいますが、その根本にあるのは人間にあるといえるのではないでしょうか。テクノロジーと人間、そのどちらか一方に非がある、という視点ではなく、与える側も享受する側も、双方に多様な視点を持つ事の重要性が今まで以上に求められています。

かつての“はだいろ”色鉛筆は、2000年頃に「ペールオレンジ」「ライトオレンジ」「薄橙」と名前が変わったようです。わたしたち一人一人が自分の肌色を規定していくように、見つけにいく情報にも、与えられる情報に対して、自分で判断できる力を培っていく事が、社会全体をインクルーシブに変える貴重な一歩になると信じています。

以下、本文注釈

※1：アンコンシャスバイアスについて、以前cococolorでは「アンコンシャス・バイアスって悪いこと？」という記事で触れました。

※2：総務省 平成30年版 情報通信白書「第2節ICTサービスの利用動向」

※3：AIDMA：一般的な消費者の行動プロセスを「Attention（認知）」「Interest（関心）」「Desire（欲求）」「Memory（記憶）」「Action（行動）」の５つに分けたフレームワーク。1920年代に米国のサミュエル・ローランド・ホール氏によって提唱された。

※4：AISAS：AIDMAの「Desire」と「Memory」を「Search（検索）」に置き換え、「Action」の後に「Share（共有）」を追加したフレームワーク。AIDMAに続くフレームワークは、AISAS以外にも複数存在する。

※5：本機能はアメリカ版のPinterestでは備わっているが、日本版には備わっていない。