Chapter 8 解釈可能な機械学習の未来

解釈可能な機械学習の未来とは何でしょうか。この章では、解釈可能な機械学習が今後どのように発展していくかについて主観的な熟考により推測してみようと思います。

私は、3つの前提に基づいて機械学習の未来を「予測」してみます。

デジタル化: （興味のある）情報は全てデジタル化されるでしょう。 電子マネーやオンライン取引について考えてみてください。電子書籍、音楽、ビデオについて考えてみてください。私たちの環境、行動、産業生産プロセスなどに関する全ての知覚的なデータについて考えてみてください。すべてのデジタル化は、安価なコンピュータ/センサー/ストレージ、スケーリング効果（勝者が全てを手に入れる）、新しいビジネスモデル、モジュラーバリューチェーン、コスト圧力などによって推進されます。
自動化: タスクが自動化可能で、自動化のコストがタスクの実行コストよりも低くなる場合、タスクは自動化されるでしょう。 コンピュータが導入される以前でさえ、ある程度の自動化は行われてきました。例えば、織機や蒸気式機械です。しかしながら、コンピュータとデジタル化は、自動化を次のレベルに引き上げます。 forループのプログラムやExcelのマクロ、電子メールの自動応答など、個人でも様々な自動化ができます。券売機は電車の切符の購入を自動化し（販売係はもう不要です）、洗濯機は洗濯を自動化し、銀行の自動振替は支払い取引を自動化します。タスクを自動化すれば時間とお金から開放されるため、自動化は経済的にも個人的にも大きなインセンティブとなります。私たちは現在、翻訳、運転、そして僅かな程度であれ科学的な発見の自動化を目の当たりにしています。
誤った仕様: 私たちは全ての制約を利用して目標を完璧に定めることはできません。 あなたの願いを常に文字通り受けとってくれる魔人を考えてみてください。「私は世界で一番の金持ちになりたい！」→ あなたは最もリッチな人になりますが、副作用としてあなたの保有する通貨はインフレのために台無しになります。「私は残りの人生ずっと幸せでいた！」 → 次の5分はとても幸せだと感じますが、そこで魔人はあなたを殺します。「私は世界平和を願っています！」→ 魔人は全人類を抹殺します。私たちは、全ての制約を知らないか、あるいは、それらを測定することが出来ないため目標を誤って設定してしまいます。不完全な目標の仕様の例として、企業をみてみましょう。ある企業は株主のためにお金を稼ぐという単純な目標をもっています。しかし、この仕様は、私たちが本当に努力すべき全ての制約をみたす真の目標とは言えません。例えば、お金を稼ぐために人を殺したり、川を汚染させたり、単に自社のためにお金を印刷するような企業ではありがたみがありません。私たちは、不完全な目標の仕様を修正するために、法律、規制、制裁、コンプライアンス手続き、労働組合などを発明してきました。自身で体験できるもう1つの例は、Paperclipsです。これは、出来るだけ多くのペーパークリップを生産することを目標とした機械で遊ぶゲームです。ただし、中毒性があります。台無しにしたくはありませんが、物事があっという間に制御不能になったとしましょう。機械学習では、目標仕様の不完全さは、不完全なデータの抽象化（偏った母集団、測定誤差、など）、制約のない損失関数、制約に関する知識の欠如、学習データとアプリケーションデータの間の分布のシフトなどに起因します。

デジタル化により自動化が進んでいます。不完全な目標仕様は自動化と対立します。私はこの対立は部分的には解釈法によって媒介されると主張します。

これで「予測」の準備が整い水晶玉の準備ができました。それでは何処へ向かおうとしているのか占ってみましょう。