子猫に自分の考えを伝える - ブラックボックス効果
高度な人工知能アルゴリズムはブラック ボックス (1) のようなもので、結果にどのように到達したかを明らかにせずに結果を吐き出すという事実は、一部の人を悩ませ、他の人を動揺させます。
2015 年、ニューヨーク市のマウント サイナイ病院の研究チームは、この方法を使用して地元の患者の大規模なデータベースを分析するよう依頼されました (2)。 この膨大なコレクションには、検査結果や医師の指示など、患者に関する膨大な情報が含まれています。
科学者たちは、研究中に開発された分析プログラムに名前を付けました。 約700万人からのデータに基づいてトレーニングされました。 新しいレジストリでテストしたところ、病気の予測に非常に効果的であることが証明されました。 人間の専門家の助けを借りずに、彼は病院の記録から、どの患者が肝臓がんなどの病気に進行しているかを示すパターンを発見しました。 専門家によると、このシステムの予後および診断効率は、他の既知の方法よりもはるかに高かったとのことです。
2. 患者データベースに基づく医療用人工知能システム
同時に、研究者たちは、それが不思議な方法で機能することに気づきました。 たとえば、次のような場合に最適であることがわかりました。 精神障害の認識統合失調症など、医師にとっては非常に困難な病気です。 AI システムがどのようにして患者の医療記録のみに基づいて精神疾患を検出するのにこれほど優れているのか誰も知らなかったので、これは特に驚きでした。 はい、専門家はこのような効率的な機械診断士の助けに非常に満足していましたが、AI がどのように結論に達したかを理解できれば、さらに満足するでしょう。
人工ニューロンの層
当初、つまり人工知能の概念が知られるようになった瞬間から、AI については XNUMX つの視点がありました。 最初の提案は、最も賢明な方法は、既知の原則と人間の論理に従って推論するマシンを構築し、内部の仕組みが誰にとっても透明になるようにすることであると提案しました。 また、機械が観察と実験の繰り返しを通じて学習すれば、知性がより容易に出現するだろうと信じている人もいた。
後者は、典型的なコンピューター プログラミングを逆転することを意味します。 プログラマーが問題を解決するためのコマンドを作成する代わりに、プログラムは 独自のアルゴリズム サンプルデータと望ましい結果に基づいて。 機械学習技術は、後に今日知られている最も強力な AI システムに進化しましたが、本質的には次の道をたどったところです。 機械自体がプログラムする.
このアプローチは、60 年代と 70 年代の AI 研究の周縁に留まりました。 わずか XNUMX 年前の初めに、いくつかの革新的な変更と改善を経て、 「深い」ニューラルネットワーク は、自動認識機能の根本的な改善を実証し始めました。
深層機械学習により、人間とほぼ同じ正確に話し言葉を認識する能力など、コンピューターに並外れた能力が与えられました。 これは事前にプログラムするには複雑すぎるスキルです。 マシンは、次の方法で独自の「プログラム」を作成できなければなりません。 巨大なデータセットでのトレーニング.
ディープラーニングはコンピューターの画像認識にも革命をもたらし、機械翻訳の品質を大幅に向上させました。 現在、医療、金融、製造などにおけるあらゆる種類の重要な意思決定を行うために使用されています。
ただし、これだけでは ディープ ニューラル ネットワークの内部を調べるだけで、それが「内部で」どのように機能するかを確認することはできません。 ネットワーク推論プロセスは、何千ものシミュレートされたニューロンの動作に組み込まれており、複雑に相互接続された数十、さらには数百の層に編成されています。.
最初の層の各ニューロンは、画像内のピクセルの強度などの入力信号を受け取り、出力信号を出力する前に計算を実行します。 それらは複雑なネットワークで次の層のニューロンに送信され、最終的な出力信号まで送信されます。 さらに、トレーニング ネットワークが目的の出力を生成するように、個々のニューロンによって実行される計算を調整するというプロセスがあります。
犬の画像認識に関するよく引用される例では、AI の下位層が輪郭や色などの単純な特徴を分析します。 より高いものは、毛皮や目などのより複雑な問題を扱います。 最上層だけがすべてをまとめて、情報の完全なセットを犬として識別します。
同じアプローチは、機械に自己学習を促す他のタイプの入力にも適用できます。たとえば、音声で単語を構成する音、テキストで文章を構成する文字や単語、ハンドルなどです。 車両を制御するために必要な動き。
機械は何も見逃しません
このようなシステムで正確に何が起こっているのかを説明する試みがなされています。 2015 年、Google の研究者は深層学習ベースの画像認識アルゴリズムを修正し、写真内の物体を見るのではなく、物体を生成または変更できるようにしました。 彼らは、アルゴリズムを逆方向に実行することで、プログラムが鳥や建物などを認識するために使用する特徴を発見したいと考えていました。
タイトルによって公に知られているこれらの実験は、(3) グロテスクで奇妙な動物、風景、人物の驚くべき画像を生み出しました。 彼らは、特定のパターンがループバックして何度も繰り返されるという事実など、機械の知覚の秘密のいくつかを明らかにする一方、深層機械学習が人間の知覚とどのように異なるのかも示しました。私たちが何も考えずに認識の中で無視しているアーティファクトを複製します。 。
3. プロジェクトで作成したイメージ
ところで、 その一方で、これらの実験は私たち自身の認知メカニズムの秘密を明らかにしました。 おそらく、私たちの認識の中に、機械が「重要ではない」オブジェクトに対して忍耐強く反復を繰り返す一方で、私たちが何かをすぐに理解して無視するような、さまざまな理解できないコンポーネントが存在すると認識しているのでしょう。
マシンを「理解する」ために、他のテストや研究も行われました。 ジェイソン・ヨシンスキー 彼は、脳に刺さったプローブのように機能するツールを作成し、任意の人工ニューロンをターゲットにし、それを最も強く活性化する画像を探しました。 最後の実験では、ネットワークによる現行犯の「スパイ」の結果として抽象的な画像が出現し、システム内で発生するプロセスがさらに謎めいたものになりました。
しかし、多くの科学者にとって、そのような研究は誤解です。なぜなら、彼らの意見では、システムを理解し、複雑な意思決定を行うためのパターンと高次のメカニズムを認識するために、 すべての計算上の相互作用 深いニューラル ネットワークの内部。 これは、数学関数と変数の巨大な迷路です。 現時点では、私たちには理解できません。
コンピューターが起動しませんか? なぜ？
高度な人工知能システムの意思決定メカニズムを理解することがなぜ重要なのでしょうか? どの受刑者を仮釈放できるか、どの受刑者に功績を与えることができるか、どの受刑者に就職できるかを決定するために、すでに数学モデルが使用されている。 興味のある人なら誰でも、なぜ別の決定ではなくこの特定の決定がなされたのか、その理由とメカニズムは何なのかを知りたいと思っています。
彼は 2017 年 XNUMX 月に MIT Technology Review で認めました。 トミー・ジャーコラ、MITの教授であり、機械学習アプリケーションに取り組んでいます。 -。
AI システムの意思決定メカニズムを精査し、理解する能力は基本的人権であるという法的および政治的立場さえあります。
EUは2018年以来、自動システムによる意思決定について顧客に説明するよう企業に義務付ける取り組みを進めている。 ディープサイエンスを使用して広告を配信したり、曲を推奨したりするアプリやウェブサイトなど、比較的単純に見えるシステムであっても、これが不可能な場合があることが判明しました。
これらのサービスを実行するコンピューターは自らプログラムを作成しており、私たちには理解できない方法でプログラムを実行しています...これらのアプリケーションを作成するエンジニアですら、それがどのように機能するかを完全に説明することはできません。
