これは後の質問です。その中で、私はニューラルネットワークの主な問題を定式化しようとしました。その解決策はAIテクノロジーにブレークスルーをもたらす可能性があります。基本的に、テキストを処理するネットワーク（GPT、BERT、ELMOなど）について話します。ご存知のように、問題の適切な定式化はその解決策の半分です。しかし、私自身はこれらの解決策を見つけることができません。同じ問題に直面し、おそらく解決策を「見る」人がたくさんいるので、「聴衆の助け」を期待しています。
そう。
1.一見単純に見えますが、ニューラルネットワークは事実を考慮していません。ニューラルネットワークは特定の事実から学習しますが、それらについては知らないようです。認知言語では、NNは大まかに言えば、一時的な記憶ではなく、意味的な記憶を持っています。
解決策は単純かもしれませんが、ニューラルネットワークは分類子であり、前例をクラスにすることはできません。これは矛盾です。そして、多くの場合、ボットからのそのような応答が必要です。「応答」テンプレートについて話していない場合、ボットは事実に対して非常にうまく機能しません。問題は、十分な例外例がない場合にネットワークが考慮できない例外が常に存在するという事実によって悪化します。そして、十分な例があれば、これも例外ではありません。一般的に、NNはこれが帽子であると言うことができますが、どの帽子が私のものであるかを言うことはできません（1つの例しかありませんでした）。
2.「常識」。 「AIダークマター」とも呼ばれるよく知られた問題。たとえば、この記事には、ソリューションに対する興味深いアプローチがあります。、シンボリック（論理）AIとニューラルネットワークアプローチを組み合わせる試みについて説明しています。しかし、これは前進するのではなく後退する試みです。問題は、「常識」がトレーニングデータセットになかった世界についての暗黙の知識であるということです。誰もそのような礼儀を発音しません、彼らはまだ書くことができない4-6歳で認識されます。 KomprenoおよびCycプロジェクトの大きな失敗は、すべての事実を明確に説明することは不可能であることを示しています。それらはどういうわけかその場で表示されます。語彙の制限を除いて、まだ良い解決策のアイデアはありません。たとえば、「男子生徒」は、そのような「フィルター」を回答の語彙に「向ける」必要があります。これにより、選択したオプションに、結婚式での兄の存在ではなく、自分自身に関するものである場合、「軍隊」または「結婚」という言葉が含まれなくなります。 NNでこれを行う方法は（私には）明確ではありません。
3.3。同様に重要な問題であり、おそらく前の問題に関連しているのは、推論を構築する問題です。ニューラルネットワークは、音節を作成する方法、つまり、一貫した推論を伴う最も単純な結論（中間結論）を知りません。一方、同じ問題は、推論の目標を追求できないこと、または少なくとも特定の意味に固執できないことです。 GPTは特定のトピックに関するニューステキストを作成できますが、「Xを中傷するニュースを書く」と言っても意味がありません。最良の場合、彼女は他人による中傷について、そして私たち人間のようにではなく、明確な形で線の間に書きます。音節の結論も目標です-前提と結論を関連付ける必要があります。最初のステートメント（前提）でそれを覚えておいてください。これを「どちら側から」ネットワークに入れるべきかさえ明確ではありません。多分誰かが知っていますか？
4.4。そして別の問題は、ダークマターではなく、AIのブラックホールです。これらは類推と比喩です。 AIはすべてを文字通りしか理解しません。彼女が「Xのように」と言うのは無意味です。ネットワークは説明に追加できますが、アナログを説明することはできません。多分それは対応するデータセットの問題です。しかし、それはより深く、現在のAIアーキテクチャと項目3の根本的な「欠陥」を示しているように私には思えます。私たちの言語は完全に比喩的であるため、「言語学者の呪い」、つまり同義性はここから成長します。同じレクセムが、さまざまな「概念」の比喩を通して使用されます。そして、これで簡単にナビゲートできます。これはインテントを定義するタスクで部分的に解決されますが、これも「テーマ」の定義であり、ボットのようにインテントの名前と関連する応答テンプレートだけで構成される概念全体ではありません。
今のところ、これらの4つで十分に議論できますが、たとえば、ボットの構築には、より具体的ですが、それほど重要ではありません。アリスとチャットするだけで十分であり、彼らは直感的に明らかになります。しかし、彼らの言い回しでは、すべてがそれほど単純ではありません-問題が何を推測するのか、そしてそれをどのように解決するのかを推測することです。これはもっと難しいです。トピックに関する建設的なコメントをありがとう。
AIに欠けているものは何ですか？
All Articles