2018年01月08日18時57分掲載
無料記事
http://www.nikkanberita.com/print.cgi?id=201801081857041
科学
アルゴリズムを疑え 数学者でデータサイエンティストCathy O'NeilのＴＥＤ講演 「専制君主のようなアルゴリズムに対して説明を求める必要があります」
インターネット時代、多くのことがコンピューターの「アルゴリズム」によって決められている。しかし、アルゴリズムが何かを正確に説明できる人は多くはないだろう。情報処理の手順だが、それがどのようにプログラムされて、何を基準に演算処理がなされ、情報が配られてくるのか全くブラックボックスの中にある。
●「アルゴリズムは秘密のタレ」
数学者でデータ科学者のキャシー・オニールがアルゴリズムを盲信していたらとんでもないことになりかねない、とＴＥＤ講演で警告を発している。アルゴリズムとは純粋科学的で客観的なもののように見えるが、実はプログラムする人間の価値観が演算の鍵を握っているという。つまり、プログラムする人物の価値観によってまったく異なるアルゴリズムになりえる、というのだ。だから、キャシー・オニール氏はしばしばアルゴリズムを検証するために演算の数式を見せて欲しい、と調査を行っているのだという。それを調べたら、どのような価値観が注入されて人間を選別しているのかがわかるのだ、という。だから「専制君主のようなアルゴリズムに対して説明を求める必要があります」と述べる。そして、そのことは政治闘争なのだ、と。アルゴリズムをより公平なものにするために監査を常に行って修正を求める必要があるという。そう言えば、身近なところではグーグルの情報検索でもアルゴリズムが使われている。そこには様々な価値観が挿入されていると言われている。どんなウェブサイトを上位にして、どれを下げるか、と言った基準である。
以下のリンクがＴＥＤでのキャシー・オニールの講演で非常に面白い。誰にでもわかる言葉で複雑なアルゴリズムを説明している。カリフォルニア大学バークレー校とハーバード大学で数学を学んだオニールが言葉の使い方も巧みであることが伝わって来る素晴らしい講演だと思う。
https://www.ted.com/talks/cathy_o_neil_the_era_of_blind_faith_in_big_data_must_end?language=ja
「アルゴリズムは、誰がローンを組めるか、誰が就職面接を受けられるか、誰が保険を掛けられるかなど、様々なことを決めています。ただアルゴリズムは自動的に公平性を生む訳ではありません。数学者でデータサイエンティストのキャシー・オニールは、秘密で、重要性が高く、悪影響を及ぼすアルゴリズムに『大量破壊数学』と名付けました。アルゴリズムの裏側にある隠れた意図を、もっと知ろうではありませんか。」（ＴＥＤの紹介から）
■Robot-Proof: Higher Education in the Age of Artificial Intelligence (MIT Press) 「ロボット時代を生き抜くための高等教育」
http://www.nikkanberita.com/read.cgi?id=201801061208326
Copyright (C) Berita unless otherwise noted.
日刊ベリタに掲載された記事を転載される場合は、有料・無料を問わず、編集部にご連絡ください。ただし、見出しとリード文につきましてはその限りでありません。
印刷媒体向けの記事配信も行っておりますので、記事を利用したい場合は事務局までご連絡下さい。