top of page
  • 執筆者の写真Dr. K. Shibata

統計のマジック:数字は中立か?

AIと人間の未来について考える


かなり前の記事(2019年5月)ですが、#ChatGPT の登場で改めてデータとAIの役割が注目されているので再掲します。現在内容を更新中の「論文の書き方-発展編」にもつながる内容です。


フィナンシャル・タイムズ(FT)紙のアフリカ編集長・デイヴィッド・ピリングさんによる『幻想の経済成長』に関するインタビュー記事を読みました。ピリング氏は、著書の中で「各国で取材した豊富な事例をもとに「成長至上主義」の限界を明らかにし、脱却するための道筋を示した」そうです。


「GDPをケーキのレシピに例えると」 経済紙編集長が示すこれからの経済成長の指針 https://dot.asahi.com/aera/2019051600055.html


日頃の報道や一般の日本人の言動から、いつも不満に思っていたことを丁寧に説明してくれている良書だと思いました。とりわけ、統計に関する以下の指摘は重要です。

「統計に何を選び、何を除外するかは、ケーキのレシピに似ています。シンプルなスポンジケーキのような経済成長を望むのか、チョコレートケーキにすべくフィリング(詰め物の中身)を追加するのか。クズネッツ自身は、『国民経済統計は社会福祉に有害なもの(軍備や広告、ギャンブルなど)は指標から除外し、国民に有益な経済活動に限定すべきだ』というスポンジケーキ派でしたが、現実にはホイップクリームをトッピングした、ダブルチョコレートファッジケーキのレシピが残ったのです」

AERA


統計に限らず、経済学でもその数字はどんな変数(要素)を使うか、どのように仮説を立てるかで結果が全く変わってしまう事と同じです。日本人でこれを理解できない人がかなり多いのに驚かされます。時々「僕は論文の文章なんか読まない、数字しか見ないから」という趣旨の発言をする日本人に遭遇します。

この発言をしたひとりは、シリコンバレーのIT企業に長年勤めて米国で永住権を持っている日本人男性でした。IT、シリコンバレー、英語が話せる、米国永住権と聞くと「凄い頭脳の持ち主」と思ってしまう日本人は多いと思いますが、あゆるる科学に対する敬意がないと、本当の知性は身に着きません。


これは現在利用が進んでいるAIの分野も同じです。どんな種類のデータが集められたのか、どう基準が設定されたのか、が重要なのです。例えば、日本でもAIによる採用や選考が取り入れられ始めたことが話題になっていますが、昨年AmazonはAIによる採用を取りやめています。


焦点:アマゾンがAI採用打ち切り、「女性差別」の欠陥露呈で https://reut.rs/2PtxC7Z


大きな理由の一つはAIが過去のデータに基づいて採用を行った結果、以下のように女性差別が強化されてしまったのです。

これはコンピューターモデルに10年間にわたって提出された履歴書のパターンを学習させたためだ。つまり技術職のほとんどが男性からの応募だったことで、システムは男性を採用するのが好ましいと認識したのだ。逆に履歴書に「女性」に関係する単語、例えば「女性チェス部の部長」といった経歴が記されていると評価が下がる傾向が出てきた。関係者によると、ある2つの女子大の卒業生もそれだけで評価を落とされた。

ロイター


アマゾンの人材採用AIが「女性を差別した」理由を考えてみる | Forbes JAPAN https://forbesjapan.com/articles/detail/23419


過去の採用実績が著しく差別的だったので、そのデータを使うことに弊害があったのです。「AI(データ)は中立」という一般人の思い込みが間違いであることをこの事例は思い起こさせてくれます。


閲覧数:2回0件のコメント

Comentários


bottom of page