まだ読んでいない場合は読んでください。終わりは本当に強い感情を呼び起こします。私にとって、彼らは私が比較的専門的にAI、テキスト生成、および意味の問題に従事しているという事実によって悪化しました-したがって、私は機械によって生成されたテキストを簡単に認識できると合理的に信じていました...
はい、はい、購入しました。記事「OpenAIのGPT-3はビットコイン以来最高のものかもしれない」のテキストは（おそらく）AIによって作成されましたが、私は一般的に専門的にそれを行い、マシンで使用される基本的な技術を知っているにもかかわらず、私はそれを見ませんでしたテキストの生成。
私の最初の軽度のショックが眠った後、私はいくつかの考慮事項を共有したいと思います。
これは機械のテキストではなく、人間が処理したテキストです
おそらく、テキストに対する最初の反応は、このテキストが機械によって作成されたことを受け入れたくないという否定でした。私の脳は、これに適した議論を見つけるために必死のペースで始まりました。一般的に言って、私自身はそれらをかなり弱いと考えていますが、それでもそれらを引用したいと思います。
- テキストの何パーセントと著者がそれをどのように編集したかは不明です。機械で作成されたように見えるが、人が修正したテキストの例があります。たとえば、AIによって作成された映画/本のスクリプトについての話がありました。微妙な点は常に細部にありました-レビューを読むと、AIが物語の始まりを作ったという精神的な何かが常に言われ、その後、作家のグループがそれを完成させました。私はいつも結果の質を、作家がファイナライズで彼ら自身の意味のいくつかを単にもたらしたという事実に帰しました。なぜなら、抽象的な絵画では、強い欲求で何かを見つけることができるからです。おそらく、この議論はここでは機能しません。なぜなら、著者の保証によれば、彼はテキストのフォーマットを修正しただけだからです。
- . , , . , « ?» . , , .
- . , , . GPT-2, , - . - , , , . , «» GPT-3 , …
しかし、私はこれらの議論がかなり弱いことも認めたいと思います。そして、マシンは実際に人間のものと同様に比較的長いニューステキストを作成することができます。
私はお茶を脇に置いて、「これはどういう意味ですか？この話からどのような教訓を学ぶことができますか？良いテキストと悪いテキストまたは無意味なテキストを区別する機能について、少なくともいくつかアドバイスを与えることはできますか？」
レピュテーションインスティテュートとファクトチェック
読んでいる過程で生じた感情に戻って、私が起こっていることを「信じ」始めた後の記事の断片は、ビットコイントークフォーラムでの実験の説明であったことを思い出しました。記事の冒頭は気になりませんでした。GPT-3の作成に関する事実に専念しており、そのような事実はどこからでも借りることができるため、著者や主題の理解について何も述べていないという事実にすでに慣れています。
しかし、実験の説明は興味深いものでした。実際、それは記事の「内容」を作成しました-投稿ルール、フォーラムの他の人々の反応...
...そして結果として、私たちは実験がなかったことを理解しています。
これは私を興味深い考えに導きました。信頼の成長に基づいたビジネスサイクルのモデル化についてずっと前に書いた..。要するに、成長は当事者の義務が果たされている間だけ起こるということです。もっと簡単に言えば、「この製品を1週間以内にXの価格で発送します」と言えば、あなたは私を信頼し、本当にやります。すべては信頼のみに基づいています-あなたが私を信頼しない場合、または私があなたを欺く場合、もちろん、私たちは法廷を通じて事件を解決しようとすることができますが、これにはHELLOの費用が伴います。店でヨーグルトを購入するたびに重大な訴訟の可能性が伴うとしたらどうなるか想像してみてください...
そしてここで、私は現代世界の深刻な問題に直面します。ある意味で、言葉や文章に関して評判の機関はほとんど残っていません。つまり、誰を信頼できるのかまったくわかりません。
セルラーオペレーターの代表者があなたに電話をかけたと想像してみてください。または銀行。あなたのための新しい、ユニークで、有利なオファーで。あなたはそれがあなたにとって有益であると信じますか？
メディアが誤って「間違った」写真を掲載する可能性があります。彼らは状況を一方的に考えることができます。メインページの下部に小さな碑文を付けて挑発的な記事を投稿してください。「これは著者のコラムです。著者の意見は編集委員会の意見と一致しないかもしれません。」彼らは、ククエボにある世界研究所の未知の教授を「科学者は学んだ...」という言葉で言及することができ、彼らはそれに対して何も得られません。少なくとも、彼らは事実確認の欠如について不平を言うでしょう、そして多分あなたが数ヶ月後にそれを決して見つけられないコーナーに反論を投稿するでしょう。
「有能な」人々の存在でさえ助けにはなりません。おそらく、ほぼ医学的な革命を約束し、印象的な取締役会を結成したTheranos社（Habré）のすべての話を最もよく覚えています（同社の取締役会には、元米国国務長官のHenryKissingerやGeorgeSchultzなどの有名人が含まれていました）。そのような人々は間違いではないように思われましたが、実際には、技術は実際には機能しませんでしたが、彼らは口頭での保証にも依存していました。そこに7億ドルを投資したとしても、何かを信頼できるとは思わないでください。
残念ながら、要点は、他の誰かの意見を信頼できなくなったということです。評判はほとんど費用がかからず、喜んでお金と交換されます。実際、私たちの家族と愛する人は、信頼の唯一の良い空間であり続けています-そして幸いなことに、個人の信頼を利用するネットワークマーケティング（Oriflameなど）のアイデアは、私たちの生活から多かれ少なかれ消えています。
しかし、記事に戻って...私は自分自身のために2つの結論を出しました：
テキストと対話のスムーズさ
生成されたテキストのコレクションとそのジェネレーターをまとめています。しかし、私は生成されたテキストや偽物が社会にどのように影響するかについて議論することにあまり興味がありません-このトピックは十分に支払われているかもしれませんが。私にとって、生成されたテキストのすべての例は、「人間の思考のどの部分を形式化できたのか」という質問です。そして、「何が説明されておらず、依然として人の特権であるのか？」
GPT-3と最新のニューラルネットワークは、これらのテキストに含まれる意味ではなくテキストでトレーニングするため、Yandex.Abstractsでおそらく使用されているN-gramまたはMarkovネットワークによるテキスト生成の遠い子孫です。生成されたテキストの基本的な原則と例を見ると、いくつかの重要なルールを導入できます。
- . , . (.) 4-7 , GPT-3, , , . , – , , .
- . , , , . - , «, » « Apple, , ». , . !
- . « , , » « , » .
また、AIとの対話については別途お話したいと思います。特に、どの教師も、学生から提供された要約に基づいて自分の知識について何も言えないことを知っています。しかし、彼と5〜10分間話すと、彼が「いじくり回している」かどうかを簡単に理解できます。
でchatbots上の私の記事、私はAIのための主な問題は、現在のアカウントに対話のコンテキストを取っていることを言及対談を理解します。..。特定のフレーズにうまく反応するAIを想像するのは簡単ですが、それはすべてについて少し聞いたが、本質を理解していない人のように見えます。学生の中にはそのようなものもあります-キーフレーズに反応します。複雑なトピックに触れず、個人的な知識や理解を評価しないと、対話者は知的であり、彼が話していることを知っていると感じるかもしれませんが、実際にはどこかで聞いた真実を繰り返しているだけです。
人は明らかに彼の言うことによって決定されていません。人は自分の信念に基づいて行動できるという事実によって決定されます。彼は自分の経験を分析したり、他の人の経験を認識したりすることができます。
彼は自分の言葉に責任を負わずに、専ら話すことに従事しているわけではありません。