（c）



本日お話しするArtificial General Intelligence（AGI ） プロジェクトは、強力なAIよりも野心的ではないと考えられています。ただし、一部の科学者は、コンピューターが人間の知性の機能をキャプチャすることは決してできないと主張しています。



人間が抱える知的問題を解決できるコンピューターのアイデアの支持者と反対者の両方が、彼らの立場を擁護する多くの議論があります。それぞれの側がどのような議論をもたらすのかを調べ、AGIに現在および将来のチャンスがあるかどうかを理解しようとします。



この記事は、Ragnar Fjelland教授による最近の出版物、なぜ汎用AIが作成されないのかを基にしていますが、短所だけではありません。 

サイレントナレッジ

人間の知性は一般的である（つまり、ほとんどすべての知的問題を解決できる）ため、ヒューマノイドAIは一般的な人工知能（AGI）と呼ばれることがよくあります。AGIは人間の知性の重要な特性を持っているという事実にもかかわらず、それでも弱いAIと見なすことができます。ただし、これは従来の弱いAIとは異なり、特定のタスクまたは領域に限定されます。したがって、従来の弱いAIは、人工ナローインテリジェンス（Artificial Narrow Intelligence、ANI）と呼ばれることもあります。



アルゴリズムを驚異的な速度で使用できることはANIの特徴ですが、自然な知性に近づくことはできません。数学者で物理学者のロジャー・ペンローズは、彼の有名な著書「王の新しい心」に登場します。 1989年に発行された「コンピュータ、思考、および物理法則について」は、人間の思考はほとんど非アルゴリズム的であり、したがってチューリングマシンなどの通常のコンピュータを使用してモデル化できないことを示唆しています。



ペンローズの30年前、哲学者のヒューバート・ドレイファスは彼の作品「錬金術と人工知能」で同様の考えを表明しました。彼はまた、「コンピューターができないこと」という本を書きました。この本では、人間の知識はほとんど暗黙的（非言語的）であり、コンピュータープログラムで定式化することはできないと主張しました。 



1958年、物理学者、化学者、哲学者のMichael Polaniは、最初に「個人的な（または暗黙の、暗黙の）知識」の概念を策定しました。私たちが日常生活で使用する知識のほとんどは暗黙的です—タスクを完了するときにどのルールを適用するかはわかりません。例として、Polanyiは、すべての動きが自動的に実行されるときの水泳とサイクリングを引用しました。 



問題は、専門知識の多くが無口のままであるということです。たとえば、私たちの多くはウォーキングの専門家ですが、私たちがどのように歩くかを正確に定式化しようとすると、実際のプロセスについて非常に漠然とした説明をします。 

AIのマイルストーン

（c）



1980年代に、Polanyi、Dreyfus、およびPenroseの議論は力を失い始めました-明示的な外部の指示なしに自分で学ぶことができる神経ネットワークの発見のおかげで。



大規模なプロジェクト（たとえば、1982年に始まり、大規模な並列ロジックプログラミングを使用したAIの作成を約束した日本の「第5世代コンピュータ」）は失敗しましたが、歴史的には成功しか記憶されていません。 20世紀の終わりに向けた最も注目すべきAIの進歩IBMスペシャリストによるデモンストレーション。 1997年、ディープブルーは一連の試合で世界のチェスチャンピオンであるギャリーカスパロフを破りました。 



IBMスーパーコンピューターは、チェスボード上の特定の問題を解決するために作成されたものであり、誰もがそれをAIの成功と見なしたわけではありません。しかし、2011年、IBM WatsonはJeopardyで人間に勝ちました！ （ロシアでは、ショーは「自分のゲーム」として知られています）。ディープブルーを背景に、ワトソンは大きな前進でした。システムは自然な言語でクエリを理解し、さまざまな知識分野で答えを見つけました。 



エキスパートシステムの新時代が間もなく始まるように思われました。 IBMは、コンピューターの能力を医療に活用することを計画していました。アイデアは表面上にありました。ワトソンがすべての医学文献にアクセスできれば、どの医師よりも優れた診断と治療を提供できるでしょう。その後数年間、IBMはいくつかの医療プロジェクトに関与しましたが、ささやかな成功を収めました。今日の会社の取り組み日常的なタスクを実行するAIアシスタントの開発に焦点を当てています。 



もちろん、今日のAI開発者の主な成果であるAlphaGoシステムについては、AGIに対する議論の最終的な崩壊が関係していると言わざるを得ません。AlphaGoは、コンピューターが暗黙の知識を処理できることを示しました。DeepMindのアプローチは、Atari Breakout、Space Invaders、StarCraftにうまく適用されていますが、システムには柔軟性がなく、実際の環境の変化に適応できないことがわかりました。刻々と変化する世界で問題が発生するため、これまでのところ、深層強化学習では商用アプリケーションはほとんど見つかりませんでした。 

原因と調査

（c）



近年、AI支持者は強力な新しいツールを手に入れました。膨大な量のデータに数学的な方法を適用して、相関関係を見つけ、確率を決定します。ビッグデータは強力なAIを作成するという野心を反映していませんが、その支持者はそれは不要であると主張しています。でブックヴィクトル・メイヤー-SchoenbergerとケネスKuke「ビッグデータ：私たちが生きる道、仕事を変えると思うだろう革命」 -逆に、私たちは私たちの思考を変えることができ、我々は人間の知性にコンピュータを開発する必要がないかもしれないと言いますコンピューターのようになります。 



ビッグデータでは、相関関係を操作しますが、原因がどこにあり、結果がどこにあるかを常に理解しているわけではありません。ではブックパールとマッケンジーなぜ？因果関係の新しい科学」著者は、実際のAIを作成するには、コンピューターが因果関係に対処できなければならないと述べています。マシンは、必要な情報をすばやく取得し、質問に正しく答え、3歳の子供でも簡単にそれを実行できるように、因果関係を表すことができますか？





ニューラルネットワークでさえ、ここに欠陥があります。システムがなぜこれまたはその決定を下すのか、私たちは本当に知りません。数年前、ワシントン大学のチームは、ハスキーとオオカミを区別するためのトレーニングを行うプログラムを開発しました。図に見られるように、動物は似ているので、作業は非常に困難です。しかし、複雑さにもかかわらず、システムは90％の精度で動作しました。結果を分析した後、チームは、オオカミの画像がほとんど雪であったという理由だけで、ニューラルネットワークが非常にうまく機能していることに気づきました。

仮に… 

歴史家のユヴァル・ハラリは、7万年から3万年前に世界で認知革命が起こり、その特徴は存在しない何かを想像する能力であったと主張しています。例として、彼はドイツのシュターデル洞窟で見つかった最も古い既知の象牙の置物「雄のライオン」（または「雌の雌ライオン」）を引用しました。フィギュアは人体とライオンの頭を持っています。 



パールとマッケンジーはハラリに言及し、ライオンマンの創造は哲学、科学的発見、技術革新の先駆者であると付け加えています。この作成の主な前提条件は、「私が...？」という形式で質問をし、それらに答える能力でした。 



ただし、因果関係のあるコンピューターはうまく機能していません。30年前と同様に、ディープニューラルネットワークプログラムを含む機械学習プログラムは、ほぼ完全に連想モードで動作します。しかし、これだけでは十分ではありません。原因となる質問に答えるには、世界に介入できなければなりません。 



Ragnar Fjellandによると、問題の根本は、コンピューターに現実のモデルがなく、周囲の現実を変えることができず、コンピューターと相互作用しないことです。 

用語の行き詰まり 

最も明白な問題ではないが、一部の専門家によると、「ゲームのルール」を理解せずに特定の分野で成功することはできないということです。用語を使ってもまだ困難があり、人工知能を正確に何と呼ぶべきかわかりません。さらに、自然の知性の理解は理想からはほど遠いです-私たちは単に脳がどのように機能するかを完全には知りません。 



たとえば、感覚と運動の情報を伝達する役割を担う視床について考えてみましょう。脳のこの部分は、古代ローマの医師ガレンによって最初に説明されました。 2018年に、彼らは視床のアトラスを作成しました。組織学に基づいて、26の視床核が分離され、MRIで識別されました。これは素晴らしい科学的成果ですが、科学者は視床に80以上の核があると想定しています（正確な数今までインストールされていません）。 



で知能の測定に、フランソワSchollet（GoogleのAI研究者、Keras深い学習ライブラリとTensorFlow機械学習フレームワークの共同開発者の作成者）は、その前に人間の知能を持つ別のインテリジェントシステムを比較しようとする試み「知性が、何である」上の世界的なコンセンサスを指摘します失敗する運命にある。 



明確な指標がなければ、成果を記録することは不可能であり、その結果、人工知能システムの開発においてどこに移動するかを正確に決定することは不可能です。悪名高いチューリングテストでさえ命の恩人になることはできません。この問題は、「チャイニーズルーム」での思考実験からわかります。 

インテリジェンスのサインとしての存在 

今日、AGI（および強力なAI）のほとんどの支持者は、YuvalHarariの主張に従います。 21世紀の21のレッスンで、彼は神経科学と行動経済学に言及し、私たちの決定は「不思議な自由意志」の結果ではなく、「考えられるすべての確率を計算する脳内の数十億のニューロンの働き」の結果であると主張しています。決定する前に。」



したがって、AIは人間よりも多くのことを実行できます。例として、作家は、歩行者でいっぱいの路上を運転し、見知らぬ人に貸し出し、商取引を交渉することを引用しています。これらはすべて、「他の人々の感情や欲求を正しく評価する」能力を必要とします。理論的根拠は次のとおりです。「これらの感情や欲求が本当に生化学的アルゴリズムにすぎない場合、コンピューターがこれらのアルゴリズムを解読できない理由はありません。そして、どのホモサピエンスよりもはるかに優れています。」 



この引用エコーフランシス・クリックの思考アメージング仮説"："驚くべき仮説は、 "あなた"、あなたの喜びと悲しみ、あなたの記憶と野心、あなたの個人的なアイデンティティと自由の感覚は、実際には神経細胞の巨大な蓄積の行動にすぎず、関連しているということですそれらは分子です。」 



別の意見もあります。最も抽象的な理論でさえ、私たちの日常の世界に基づいています。現象学の創設者である哲学者エドマンド・フッセルは、アインシュタインの相対性理論に言及し、それは「ミシェルソン実験」と他の研究者による確認に依存すると主張している。この種の実験を行うには、科学者は動き回ったり、楽器を扱ったり、同僚とコミュニケーションをとることができなければなりません。 



Hubert Dreyfussが指摘したように、私たちは物質的および社会的世界に住む身体的および社会的存在です。他の人を理解するために、彼の脳の化学的性質を研究する必要はありません。むしろ、彼の人生の世界を理解するために、この人の「肌」にいる必要があります。 



ドレイファスの発言を説明するために、作家のセオドア・ロザックは提案した思考実験を行います。精神科医の仕事を見ていると想像してみてください。彼は勤勉で経験豊富な人であり、明らかに非常に良い習慣を持っています。待合室はさまざまな感情的および精神的障害のある患者でいっぱいです：誰かがヒステリーの危機に瀕している、誰かが自殺の考えに苦しんでいる、他の人が幻覚に苦しんでいる、何人かの患者は最も深刻な悪夢に苦しんでいます、そして何人かは何を考えて狂気に駆り立てられます彼らは彼らを傷つける人々によって見守られています。精神科医はそれらのそれぞれに注意深く耳を傾け、助けるために最善を尽くしますが、あまり成功しませんでした。それどころか、精神科医の英雄的な努力にもかかわらず、患者の状態は悪化しているようです。 



Rozzakは今、状況をより広い文脈に置くように私たちに求めています。精神科医のオフィスは、患者が集中キャンプの受刑者であるブッヘンヴァルトにある建物にあります。生化学的アルゴリズムは、患者を理解するのに役立ちません。本当に必要なのは、より広い文脈の知識です。精神科医のオフィスが集中キャンプにあることを知らなければ、例は意味がありません。ナチスドイツの囚人の立場に立つことができる人はほとんどいません。私たち自身の経験とは大きく異なる状況にある人々を完全に理解することはできません。しかし、私たちは他の人と同じ世界にいるので、それでも何かを理解することができます。 



次に、コンピューターは独自のマシンの世界に存在します。これは、IBM WatsonHealthとAlphabetDeepMindが現実の世界の問題を解決することを妨げる問題を少なくとも部分的に説明しています。IBMは、機械の学習方法と医師の働き方の根本的な不一致に直面しています。DeepMindは、Goの問題を解決しても、癌の治療法を見つけることに関連する質問への回答に近づくことはできないことを発見しました。 

結論：コンピューターは世界に出て行く

（c）



AGIの批評家だけが問題について知っているわけではありません。世界中の研究者が新しいアプローチを探しており、障壁を克服する上でいくつかの進歩がすでになされています。 



事実にもかかわらず、でも犬は賢くIBMのワトソンよりよると、にAIの理論家ロジャー・シャンク、医学の将来は間違いなくコンピュータシステムに属しています。 2020年6月に発行されたこの論文は、Pharnextの大きな成功を示しています。実際、彼らのAIは、遺伝性のCharcot-Marie-Tooth病の問題に対する簡単で手頃な解決策を見つけました。 



AIは、遺伝性運動感覚神経障害を軽減するために、3つの承認された薬の驚くべきカクテルを集めました。新しい「薬」を考えると、当惑が保証されます。最初の成分はアルコール依存症の治療に使用される薬剤であり、2番目の成分はオピオイド受容体に影響を及ぼし、アルコールとオピオイド中毒と戦うために使用されます。3番目の成分は一般に砂糖の代替品です。 



何百万ものオプションを経た後、AIはまさにそのような組み合わせを選択しました。そしてそれはうまくいきました：マウスと人間での実験は神経と筋肉の間の増加した接続を示しました。患者の健康状態が改善され、副作用が軽微であったことが重要です。 



世界での存在の問題について言えば、言及する価値があります最近、ミュンヘン工科大学で野心的な研究が行われました。相互接続されたレベルのロボットが、現実の世界を認識してそこで行動するように教えられました。この研究は、ロボット工学と認知心理学を組み合わせてより目の肥えた機械を開発する、ヨーロッパの大規模プロジェクトSELFCEPTIONの一部です。 



研究者たちは、ロボットや人工エージェントに、人間と同じように自分の体を知覚する能力を提供することにしました。主な目標は、不確実性に直面して相互作用する能力を向上させることでした。彼らは、昨年ロシアに講義で来た神経生物学者Karl Fristonの活発な成果の理論を基礎として採用しました（このトピックに興味のある人は、ロシア語または英語）。



理論によれば、脳は絶えず予測を行い、感覚からの情報と照合して調整を行い、サイクルを再開します。たとえば、エスカレーターに向かう途中で突然交通渋滞を見つけた場合、それに応じて動きを調整します。 



フリストンの自由エネルギー原理（予測脳理論の1つの数学的形式化）に基づくアルゴリズムは、予測誤差を減らすという共通の目標に向かって働く知覚と行動を表しています。このアプローチでは、機械で初めて、感覚データが内部モデルによって行われた予測とよりよく一致します。 



長期的には、この研究は人間の適応性と相互作用を備えたAGIの開発に役立ちます。人工知能の未来が関連しているのはこのアプローチです。窮屈なサーバーから現実の世界にAIをリリースすれば、いつかマシンで自己発見をオンにできるかもしれません。