🧒🏾 🚴🏻 💶 音声アシスタントはエレクトロポエティックスを夢見ていますか？Tatiana Landoへのインタビュー：Googleアナリスト言語学者 🏏 ⚖️ 👸🏾

8月24日、Googleの言語アナリストであるTatianaLandoとライブで話をしました。 TatianaはGoogleアシスタントに取り組んでおり、制作と開発の間のプロジェクトに携わっています。彼女は、人々が互いにどのように話し合うか、そしてアシスタントにもっと人間的な行動を教えるためにこれを使用するためにどのような戦略を使用するかを探ります。ロシア市場とロシア語のアシスタントに取り組むためにGoogleに来ました。それ以前は、Yandexで8年間働いていました。彼女は言語技術、構造化されていないテキストからの事実の抽出に従事していました。 Tatianaは、AINL：Artificial Intelligence and Natural LanguageConferenceの創設者の1人です。

放送の記録をあなたと共有します。

私が言語学者であると言うとき、せいぜい「構造言語学者」についてのStrugatskysを読んだかどうか尋ねられます。最悪の場合、私はいくつの言語を知っているか尋ねられます。言語学者は多くの言語を知っている人ではありません。どんな専門家でも多くの言語を知ることができ、つながりはありません。言語学者とは、言語がどのように機能するか、人々の間のコミュニケーションがどのように機能するかを理解している人です。これは大きな科学分野であり、私がしていること以外にも多くの側面があります。作者を確立するためのテキストの分析があり、法医学には言語学があります-たとえば、言語学者がテキストに極端主義があるかどうかを判断するとき。これは一例です。

私が行っている計算言語学は、主に、テクノロジー、コンピューター、人間の間の音声インターフェースの開発と、言語処理への数値手法の導入を目的としています。コーパス言語学の全領域があります-取得したデータに基づいて言語がどのように機能するかについて結論を出すために、テキストを大量に自動的に処理しようとすると。私はGoogleアシスタントに取り組んでいます-それは電話またはコンピューターと人との間の音声インターフェースです。

ロンドンに引っ越してGoogleで働き始める前は、Yandexで7。5年間働き、そこで計算言語学も学びました。Yandexで行っていたタスクは、かなり広範囲の計算言語タスクをカバーしていました。形態、構文、つまり単語がどのように変化するか、単語がどのように組み合わされるかを研究しました。この点で、ロシア語は英語よりも複雑です。英語にはケースがなく、名詞の形式は2つしかなく、すべてが比較的単純です（ロシア語では、6〜9のケース、奇妙な複数の構成-まあ、すべてのネイティブスピーカーはこれらの機能を知っています）。そのため、Googleに切り替えたとき、ロシア語のスペシャリストとして雇われましたが、現在は別のことをしています。

ロシア語版のGoogleアシスタントの開発に関連する欠員はありますか？どのようにしてGoogleアシスタントの仕事に就きますか？

ロシア版のGoogleアシスタントに関連する特別な欠員はありません。 Googleは、一度に最大数の言語を対象とした方法論を開発しようとしています。言語の特異性は、特定の方法論を使用するのではなく、データを使用して解決する必要があります。つまり、ロシア語、英語、ドイツ語、中国語のアルゴリズム-いくつかのニュアンスはありますが、サポートされているすべての言語は同じになっています。共通の部分はたくさんあり、特定の言語を扱う人々は主にデータの品質を監視し、個々の言語用の特別なモジュールを追加します。たとえば、ロシア語やその他のスラブ言語の場合、形態が必要です（これは、私が今話したことです-ケース、複数の形成、複雑な動詞）。そしてトルコ語では、さらに複雑な形態があります-ロシア語で12の名詞形式しかない場合、それからトルコ語ではそれははるかに多いです。したがって、言語に依存する部分を処理するある種の特別なモジュールが必要です。しかし、これは、自分の言語を知っている言語学者と、データを使用してアルゴリズムを作成する一般的な言語エンジニアの助けを借りて行われます。私たちは協力して、これらのアルゴリズムとデータの品質を向上させます。したがって、ロシア語に特別な欠員はありませんが、Googleアシスタントの開発には欠員があり、主にチューリッヒ、カリフォルニア、ニューヨーク、ロンドンにかなりあります。ロシア語に特別な欠員はありませんが、Googleアシスタントの開発には欠員があり、主にチューリッヒ、カリフォルニア、ニューヨーク、かなりの数のロンドンにあります。ロシア語に特別な欠員はありませんが、Googleアシスタントの開発には欠員があり、主にチューリッヒ、カリフォルニア、ニューヨーク、かなりの数のロンドンにあります。

, ?

私が引っ越した4年前、ロンドンはまだヨーロッパでした。実際、彼は現在ヨーロッパですが、EUではありません。私はロンドンが本当に好きです。誰もが英語を話します。他の言語を学ぶ必要はありません。他の言語を学びたくなかったわけではありませんが、引っ越しへの入り口は最小限でした。ここには素晴らしい劇場もあります。私は劇場に行くのが大好きです。もちろん、今では文化と娯楽を備えたロンドンのすべての利点はある程度平準化されていますが、最高のものを期待しましょう。さらに、ここでのビザはチューリッヒよりもはるかに簡単です。何らかの理由で、スイスのビザ法は定期的に変更されます。私と他の何人かの男をロンドンに置くほうがはるかに簡単であることがわかり、私たちはここに定住しました。私はここが好きです、私はどこにも移動したくありません。カリフォルニアへの出張は私を憂鬱に追いやる-そこであなたは車に乗らなければならない、巨大な距離。そこにはもっとキャリアの機会がありますが。

?

英語より難しいです。実際、ほとんどすべての言語は英語よりも複雑です。この複雑さには2つの異なる側面があります。まず、非常に複雑な形態です。さらに、ロシア語にはフリーワードの順序があり、アルゴリズムを構築する際の作業が複雑になります。修正された場合、条件付きの「ママソープフレーム」の場合、システムに「subject-predicate-object」を理解するように教えるために1つの文が必要です。ただし、これらの単語を任意の順序にすることができる場合は、より多くのデータが必要です。同時に、英語用の既製のリソースがたくさんあります。科学の世界全体が英語に従事しており、すべての企業はアメリカ市場で競争しているため、英語に従事しています。そして、他の言語に関与することははるかに少なく、資金も少なく、企業も少なくなります。ドイツ語またはフランス語のチャンクまたは既製のデータがまだある場合は、再利用できる場合、ロシア語はさらに悪くなります。既製のケースもありますが、小さくてすべてに適しているわけではありません。つまり、ロシア語には英語よりもはるかに多くのデータが必要ですが、利用できるデータは少なくなります。さらに、追加の文法レイヤー。同じ形態を別々に理解しようとすると、ロシア語でのパーサーの高品質な作業に必要なデータの量を減らすことができます（英語と比較して）。ロシア語でのパーサーの高品質な作業に必要なもの（英語と比較して）。ロシア語でのパーサーの高品質な作業に必要なもの（英語と比較して）。

したがって、他のスラブ言語と同様に、ロシア語は非常に難しいことがわかります。トルコ語はさらに難しいです。東洋の言語には他の問題があります：たとえば、中国語には単語の間にスペースがありません。各部分が何を言っているかを判断するために、テキストの配列を断片に分割する方法を理解する必要があります。一般に、各言語には独自のジョークがありますが、タスクが解決される言語データが大量にあるため、基本的にすべてを解決できます。すべては、ロシア語の場合はそれほど多くないため、ロシア語での作業は困難であり、英語の場合はその逆であるという事実に基づいています。

計算言語学は、たとえば、地上とのパイロットの交渉において、理解できない場所を再構築できますか？

はい。基本的に、これを行うアルゴリズムは検索候補に似ています。（任意の言語の）検索にクエリを入力すると、システムは最も人気のあるクエリを提供し、いくつかのフィルタリングを行います。もちろん、アルゴリズムはやや複雑ですが、わかりやすくするために忘れてしまいます。システムは、既に入力した単語から始めて、クエリで最も頻繁に使用される単語の組み合わせを提案します。同様の手法を使用して、あいまいな場所を復元できます。交渉はたくさんありますが、これは膨大なテキストのコーパスであり、それらを分析して、どの部分が最も一般的であるかを確認できます。私自身、パイロットと地上の交渉の話題を扱ったことはありませんが、同様の提案がたくさんあるはずだと思います。情報の構造はかなり体系化されており、コミュニケーションの方法は標準的です。そのようなことは非常に予測しやすいので、簡単に復元できます。

音声アシスタントの音響と音声信号のクリーニングについて教えてください

これについて私はほとんど何も知りません、私は書かれたテキストだけを扱います。音声学、音響学は私の分野ではありません。しかし、信号をクリアするのに役立つ音声メソッドがあると確信しています。音声信号と予測エンジンの交差点で、仮説を除外してテキストを復元できます。

処理して理解するのが最も難しい言語は何ですか？

それらはすべて複雑です。それらのいずれかがそれ自体でより複雑または単純であるということではありません。英語のデータがたくさんあるので、それを使って作業する方が簡単で、誰もがそれをやっています。

それは悪循環になります。会議の人々が新しいアルゴリズムを試したいとき、彼らは有名なコーパスを取り、メトリックの数がどのように増加するかを監視します。アルゴリズムを測定するには、優れたコーパスが必要です。英語には良いコーパスがたくさんあるので、それらは英語でアルゴリズムを実行し、増加し、それによって他の研究者がアルゴリズムの穴を見つけるためにさらに多くのコーパスを作るように刺激します。これは、助成金を簡単に取得できるタスクです。たとえば、質問に自動的に回答するための10のアルゴリズムがあります。既存のコーパスでは、これらのアルゴリズムは多かれ少なかれ類似しており、研究者はそれらの違いを確認するために新しいコーパスを作成することにしました。これは良いタスクです、それはアルゴリズムのより良いチューニングを可能にします。彼らはそれを行います、そして英語のためのより多くのコーパスがあります-そしてより多くのコーパス、より多くのアルゴリズムが現れます。過去数年間のNLPの分野での作業を見ると、会議ではパーセンテージではなく、数パーセントの品質向上が測定されます。

一般に、これは実際の問題ではあまり役に立ちません。また、実際には計算言語ではありません。これは、エンジニアが言語学者と協力していない場合（つまり、平凡または非常に理論的）に言語を扱う方法です。

ロシア語に十分なデータがないのはなぜですか？

この質問は、私が応用言語学を学んだ大学から、ロシア語を勉強していたすべての年に私を苦しめます。

知りません。たぶん、ロシアの科学には単に十分なお金がないので、ロシア語のデータはほとんど作成されていません。ロシアでの会議は一般的に少し時代遅れです。応用言語学や自動自然言語処理に関する会議がありますが、これに従事している大規模なチームはほとんどありません。科学者は大企業に行きます-Yandex、ABBYY、現在MTSは言語学者も雇っています。音声アシスタントの登場により、この職業の需要はますます高まっています。彼らは海外にも行きます。スタートアップ、アマゾンとグーグルには多くの言語学者がいます。

唯一の大きなコーパスは、ロシア語の国立コーパスです。私の友人によって作られたコーパスもあります-ロシア語のオープンコーパス。しかし、一般的に、これのための資金を得るのは非常に難しく、それに興味を持っている人はほとんどいません。

システムがロシア語で質問に答える方法やロシア語でコマンドを理解する方法を比較するなど、特定のタスクのために小さなコーパスが作成されたアルゴリズムの競合がありましたが、これらのデータは大規模なシステムをトレーニングするのに十分ではありません。また、逆方向の悪循環であることが判明しました。トレーニングするものがないため、トレーニングするものがないため、測定するものがないため、データがありません。さらに、英語よりも多くのデータが必要です。卒業証書を受け取った後、すぐにYandexに行ったので、なぜここでうまくいかないのかを言うのは難しいです。

Googleは言語処理に対してどのようなアプローチを取っていますか？ニューラルネットワークまたはアルゴリズム？

ニューラルネットワークもアルゴリズムです。二分法は少しわかりませんが、計算言語学における言語の分析処理において、私たちがどのような（そして一般的に）アプローチしているのかをお話ししようと思います。

最も古い歴史的アプローチは、ルールベースのアプローチです。言語学者は、ほとんどプログラミング言語のように、手作業でルールを作成します。知覚されたテキストで、最初に件名、次に動詞、次に述語があるとします。述語が1つの場合の場合、-1つの結論など。たとえば、ユーザーが「OK Google、アラームを午前7時に設定してください」などと言った場合、次のルールを作成できます。午前中に-任意の単語-アラームクロック-オン-番号-を配置します。これは、システムに記述して教えることができるテンプレートです。このようなテンプレートを使用して機能する場合は、番号の形式で示された時間にアラームを設定する必要があります。もちろん、これは非常に原始的なパターンであり、はるかに複雑にすることができます。これらは組み合わせることができます。たとえば、1つのテンプレートで日付と時刻を抽出し、その上にアラームを設定するためのテンプレートを書き込みます。

これは非常に古いアプローチであり、すでに70年前のものです。これが、心理アナリストを装った最初のチャットボットであるElizaが1966年に作成された方法です。それから人々は非常に驚いた。このチャットボットの作成者が同僚に見せたという話があり、彼らは彼らを部屋から追い出し、「本物の」精神分析医と話をしました。そして、このボットはルールのみに基づいて作成されました。それは画期的なアプローチでした。もちろん、これは行いたくありません。必要なルールがたくさんあるためです。アラームを設定するためだけに使用できるさまざまなフレーズの数を想像してください。純粋なルールを使用する場合は、それぞれを手動で説明する必要があります。私たちはずっと前にハイブリッドシステムに切り替えました。それらはパターンを認識できますが、一般に、機械学習にニューラルネットワークを使用し、監視された学習に監視されたアプローチを適用しようとします。つまり、データをマークアップして次のように言います。わかりました。ユーザーが言うことができるこの配列では、この部分は時間であり、そのように正規化されます。この部分は、ユーザーがアラームを設定するデバイスであり、この部分は、たとえば、アラームの名前です。 iPhoneの午前7時に「School」という名前のアラームクロックを設定できるようにします。次に、大きなコーパスを設定し、その上でパーサーをトレーニングします。次に、パーサーがユーザーリクエストに適用され、それらが認識されます。これがGoogleAssistantの現在の仕組みであり、これが現在使用しているアプローチです。次に、大きなコーパスを設定し、その上でパーサーをトレーニングします。次に、パーサーがユーザーリクエストに適用されるため、それらが認識されます。これがGoogleAssistantの現在の仕組みであり、これが現在使用しているアプローチです。次に、大きなコーパスを設定し、その上でパーサーをトレーニングします。次に、パーサーがユーザーリクエストに適用され、それらが認識されます。これがGoogleAssistantの現在の仕組みであり、これが現在使用しているアプローチです。

それは原始的に聞こえますが、今では文献やニュースで、ニューラルネットワークが巨大なコーパスで自分で学習する方法について情報が漏れることがよくあります。彼らはすべてに答えて会話をサポートします。もちろん、これは真実であり、クールですが、システムが応答するだけでなく、少なくともアラームクロックの設定でその状態を変更する必要がある場合、このようなアプローチは役に立ちません。それでも、内部表現が必要であり、ユーザーが言ったことを何らかの形でもたらす必要があります。ユーザーがアラームを設定するように要求する大量のテキストがあり、それがマークされない場合でも、システムを変更するようにパーサーをトレーニングすることはできません。彼が「はい、アラームを設定しています」と言って何もしなかったように、彼をトレーニングすることができます。しかし、ラベルのないデータを使用して、状態が変化するようにシステムをトレーニングするには、まだ不可能です。したがって、OpenAIとDeepMind（Googleの親会社であるAlphabetの一部）によって最近リリースされたものはクールで、人間に反応する優れたチャットボットテクニックですが、システムの状態を変更するための手作業を排除するテクニックはありません。したがって、残念ながら、この意味で業界の基準はかなり低くなっています。Googleアシスタントだけではありません。すべてのアシスタントは、パーサーのデータを処理するか、ルールを作成する（やりたくない）など、多くの手動作業でほぼ同じアプローチで作業します。私たちはパートナー企業の助けを借りて手作業を行うようにしています。システムの状態を変更するための手作業を除く、いいえ。したがって、残念ながら、この意味で業界の基準はかなり低くなっています。Googleアシスタントだけではありません。すべてのアシスタントは、パーサーのデータを処理するか、ルールを作成する（やりたくない）など、多くの手動作業でほぼ同じアプローチで作業します。私たちはパートナー企業の助けを借りて手作業を行うようにしています。システムの状態を変更するための手作業を除く、いいえ。したがって、残念ながら、この意味で業界の基準はかなり低くなっています。Googleアシスタントだけではありません。すべてのアシスタントは、パーサーのデータを処理するか、ルールを作成する（やりたくない）など、多くの手動作業でほぼ同じアプローチで作業します。私たちはパートナー企業の助けを借りて手作業を行うようにしています。私たちはパートナー企業の助けを借りて手作業を行うようにしています。私たちはパートナー企業の助けを借りて手作業を行うようにしています。

Googleアシスタントの開発における有望な方向性について教えてください。

実際、今話し合ったこと。方向性は、手動のデータ処理を必要とせずに、システムの状態をデータから変更できる新しいトレーニングシステムを考案することです。それはかっこいいでしょう。しかし、これまでのところ、私はすでにアシスタントとの仕事の経験が豊富ですが、そのようなシステムが原則としてどのように機能するかを想像することは困難です。ニューラルネットワーク、教育方法、ハイブリッドアプローチが今どのように複雑になっているのか、トレーニング用のデータの準備がどのように複雑になっているのかは理解していますが、教師なしでデータを直接接続してシステムを変更する方法はわかりません。これを可能にする何らかの内部表現が必要です。誰かがこの部分に革命を起こして再発明することができれば、それは素晴らしいことです。

さらに、現在、この内部表現の生成に多くの投資が行われています。つまり、マークアップなしでデータから直接システムの状態を変更できない場合は、その間に何かを行うのに役立つアルゴリズムを作成する必要があります。たとえば、テキストからシステムビューを生成すると、最初から作成するのではなく、ユーザーがそれをクリーンアップするとします。これは非常に有望な方向性であり、進展はほとんどありませんが、研究者たちはまさにそこを探しています。

プラス-答えとアシスタントの会話の正気のための新しい信号。そして評価方法。現在、私たち（つまり、業界全体）には、対話システムの品質を評価するための単一の適切な方法がなく、アシスタント、アリス、アレックス、シリなどを比較できる単一のメトリックもありません。ユーザーをポーリングし、さまざまなアシスタントを使用して同様のシナリオを解決し、これから結論を導き出すことができますが、適切な定量的メトリックは存在しません。マシン変換にはメトリックがあり、多かれ少なかれ正常ですが、これには何もありません。これは、現在業界で会議で議論されている問題の1つです。英語の会話型コーパスがついに始まりました。それらの数も非常に少ないです。指標を数えるものはなく、誰もいないし、その方法も明確ではありません。誰かが良い考えを持っているなら、その後、この人は会議ですべての月桂樹を集め、スタートアップを作り、それをどこにでも売るでしょう。アシスタント間の違いを定量的に、数で測定するのに役立つプロジェクトを手で切り取ります。

これとは別に、私が現在最も行っているハイブリッド研究があります。昨年、私はロシア語からこのトピックに切り替えました。私はアシスタントをより会話的でより自然なものにする方法についてプロジェクトを行っています。私たちは人々が互いに話し合うのを見ます。ここで使用されているのは単語だけではありません（「アラームの設定/設定」）。実際、この部分は原始的であり、すでに解決されていますが、多くのルーチンがまだ完了していません。未解決のタスクは、たとえば、ユーザーがさまざまな形式で「アラームを設定してください」、「アラームを設定できますか？」、「アラームを設定できますか？」と言った場合です。ほぼ同じことですが、ある場合にはコマンドが使用され、他の場合には質問が使用されます。私たちは、このレベルの言語学、つまり実践、つまり意味を超えるもの、つまりセマンティクスに注目しています。言語や言語を勉強したことがある人のために、テキストのセマンティックマークアップは新しい用語ではありませんが、実用主義はそれに追加のコンテキストを追加します。つまり、「彼らが言うこと」だけでなく、「彼らが言う方法」、「彼らが言う理由」も。大まかに言えば、ユーザーがアシスタントに「あなたは愚かですか？」と言った場合、彼は「はい/いいえ」の答えを望んでいません。これは別のシグナルであり、システムの動作の何が問題だったのかを前に尋ねる必要があります。これは質問としてではなく、苦情として分類されるべきです。

私のグループ（別の部門に異動した後、3人の言語学者が残っています）は、人々がどのように相互作用するか、人々がアシスタントとどのように相互作用するか、そしてこれを機械学習の信号に変換し、実際にシステムをトレーニングして物事をよりよく理解する方法を理解しようとしています。非言語的および間接的に送信されます。

問題ステートメントの質問に関連する再試行とスタブの数はどうですか？

これは優れた指標ですが、残念ながら、ユーザーがアシスタントに理解していないフレーズの数のみが考慮されます。それらのフレーズがどれほど難しいか、ユーザーエクスペリエンスがどれほど快適であったかはわかりません。放送後、アシスタントを比較するためのアイデアを持っているすべての人に私に書いてください、あなたはこれについて別々に話すことができます-しかしそこでは非常に複雑な何かが必要です。別のセクションで、たとえば、ユーザーのリクエストの何パーセントがシステムが理解していないか、N回目から理解しているか、エラーが発生したかなど、音声をテキストに変換する際に、テキスト自体で、変更時にさらにどこかで何かを理解することをすでに学びました。システム。しかし、システムがどの程度適切に応答したかを評価することは、すでにより困難です。実際、「適切な応答」とは何ですか？ユーザーがシステムを「あなた」と呼んだ場合のように、あらゆる種類の「ケーキの上のチェリー」もあります。彼女は「あなた」と答えます-それは良いですか悪いですか？悪いようです、助手は部下です。

一般に、定量的な測定では考慮に入れるのが難しい小さなチップがたくさんあります。

処理を簡略化してから目的の言語に切り替えるための中間の共通言語はありますか？

これは素晴らしい質問ですが、私ではありませんが、長年それをやろうとしてきたABBYYの代表者です。つまり、言語学では、すべての言語が同じように構築されているという考えがあり、普遍的な文法、辞書、その他すべてを作成して、すべての言語間の中間リンクを取得できます。次に、ある言語からメタ言語に翻訳し、次に他の言語に翻訳することができます。このタスクには多くの人年が費やされましたが、アイデアの美しさにもかかわらず、言語はまだかなり異なっており、そのようなマッピングを実行することはほとんど不可能であることが判明しました。そして、これを自動的に行う方法は明確ではありません-手動ではありません。その結果、トピックは消滅しました。

大量のデータを入力してニューラルネットワークを実行すると、メタ言語がなくてもマシン変換は十分な品質であることがわかりました。ニューラルネットワークは、文法的なパターンを含むパターンの計算に優れているため、データの量が十分であれば、中間リンクからのプロンプトなしでネットワーク自体が対処します。機械翻訳では、適切な並列テキストがある場合、すべてがうまく機能します。たとえば、ロシア語と英語の間には多くの並列テキストがありますが、ロシア語と一部のアメリカのインド語の間にはまったくありません-しかし、それと英語の間には多くの並列テキストがあります。つまり、英語は中間言語の役割を果たすことができます。多くの場合、ロシア語からの翻訳は最初に英語に、次に第3言語に行われます。このテクニックは十分に一般的ですそのため、実際には英語が同じメタ言語に置き換わります。結局のところ、最も翻訳されたデータは英語との間でやり取りされます。もちろん、品質は低下しますが、何もないよりはましです。システムに教えるものが何もない場合は、何もしないよりも、そのような段階的な翻訳について教える方がよいでしょう。

一般的に、理論的な観点からはアイデアは美しいですが、実際には英語が使用されます。

Googleで取り組んでいる問題の例を挙げてください。興味深く日常的なタスクの割合はどれくらいですか？

私がRussianAssistantを立ち上げたとき、アルゴリズムが普遍的であるという理由だけで、多くの日常的なタスクがあり、ほとんどの作業は手動でバグを修正し、ロシア語のデータを準備することになりました。品質をチェックし、時には手作業でデータを書きました。とても悲しいように聞こえますが、ユーザーデータを使用できず、どこかから取得する必要がありました。データを取得するために、ルールを記述してデータを生成することもできます。またはデータを開きます。興味深いことに、形態を扱うことができ、テキストの生成と理解が巧妙であり、「アラームクロック」という単語のすべての形式を列に書き出す必要がないことがわかりました。残念ながら、「実行-参照-品質-修正-再実行-正しいデータなど」のサイクルがたくさんありました。最初は楽しかったですが、すぐに日常的になりました。さて、私はもっと研究をしているので、ある意味で私たちは自分たちのアジェンダを作ります。私は、将来メトリクスに役立つ可能性のある新しいデータを作成し、モデルのトレーニングに使用できる信号を理解するために、人々が互いにどのように話し、アシスタントとどのように話し合うかを調査しています。品質を分析します。私が現在行っている作業の一部は製品です。私たちは、人とアシスタントの間の対話の相互作用における問題のロードマップを作成し、それを分類する方法を理解し、現在何を解決できるか、後で何を解決できるかを理解しようとしています。つまり、今では日常的なタスクがほとんど残っておらず、セットアップに満足しています。これは、将来、メトリクスに役立つ可能性があります。また、モデルのトレーニングに使用できる信号を理解するために、人々が互いにどのように話し、アシスタントと話しているかを調査することもできます。品質を分析します。私が現在行っている作業の一部は製品です。私たちは、人とアシスタントの間の対話の相互作用における問題のロードマップを作成し、それを分類する方法を理解し、現在何を解決できるか、後で何を解決できるかを理解しようとしています。つまり、今では日常的なタスクがほとんど残っておらず、セットアップに満足しています。これは、将来、メトリクスに役立つ可能性があります。また、モデルのトレーニングに使用できる信号を理解するために、人々が互いにどのように話し、アシスタントと話しているかを調査することもできます。品質を分析します。私が現在行っている作業の一部は製品です。私たちは、人とアシスタントの間の対話の相互作用における問題のロードマップを作成し、それを分類する方法を理解し、現在何を解決できるか、後で何を解決できるかを理解しようとしています。つまり、今では日常的なタスクがほとんど残っておらず、セットアップに満足しています。私たちは、人とアシスタントの間の対話の相互作用における問題のロードマップを作成し、それを分類する方法を理解し、現在何を解決できるか、後で何を解決できるかを理解しようとしています。つまり、今では日常的なタスクがほとんど残っておらず、セットアップに満足しています。私たちは、人とアシスタントの間の対話の相互作用における問題のロードマップを作成し、それを分類する方法を理解し、現在何を解決できるか、後で何を解決できるかを理解しようとしています。つまり、今では日常的なタスクがほとんど残っておらず、セットアップに満足しています。

このバランスは、言語学者によって異なります。私たちは最近記念日を迎えました-会社には100人の言語学者がいますが、今ではもう少しです。4年前に入社したときは30人でしたので、かっこいいです。私たちの需要は確実に伸びています。

コンテキスト定義を使用してテキストを分析していますか？

質問の作者がまだ探しているかどうかはわかりません-再定式化してください、私は理解していませんでした。

もちろん、コンテキストを使用しています。それがなければ、対話の相互作用はありません。もちろん、ユーザーが毎回「アラームクロック」と言うのではなく、自然な発音を使用できるように問題を解決しようとしています（「アラームを7に設定し、いいえ、8に変更します」）。これはすでに英語ではうまく機能します。すでにロシア向けに発売されたかどうかは覚えていません。

ロシア語のコラムが発表されなかったのはなぜですか？

私の知る限り、Googleにはさまざまな言語があります。優先順位は市場の量と価値に応じて調整する必要があり、ロシア市場は最も興味深いものではありません。ロシアにYandexがあり、競争できるのは少し刺激的ですが、実用的な観点からは、誰も望んでいません。さらに、個人データに関する法律が採択された後、Googleはロシアの開発オフィスを閉鎖しました。

音声認識と生成のためのオープンライブラリ、ニューラルネットワークをトレーニングするためのデータアレイはありますか？このテクノロジーはどれほどオープンですか？

はい、オープンソースアルゴリズムでいっぱいです。Googleは最近、超新しいライブラリであるBertをリリースしました。現在、会議はそれに対する更新でいっぱいです。それはさまざまな面白い言葉と呼ばれ、その中に「バート」（アルバート）があります。ベルリンの優秀な科学者によって作られた、すべてオープンソースです。あなたは何でも訓練することができます。科学コミュニティには、ニューラルネットワークをトレーニングして何が起こるかを確認するためのデータがあります。私が言ったように、これらのデータはロシア人にとっては十分ではなく、英語にとってはもっと多いので、誰もが彼を楽しんでいます。

つまり、ユーザーログテキストがありませんか？

ユーザーログを読み取ることができません。唯一の例外は、ユーザーが不満を言っている場合であり、最後の非常に多くのステートメントを共有する許可を特に求められます。しかし、そのような場合でも、特別に訓練されたサポートと「アシスタントが理解していないと答えた」という形式の集計された統計からの問題の再告知だけが見られます。 Googleはユーザーデータを非常に慎重に取ります。私のチームが行っていることの一部は、現実的なデータを生成する方法、または特別に支払われた人々からそれを収集する方法について考えています。プライバシーが侵害されてはならないため、これはすべての産業チームにとって重要な方向性です。データ収集の新しい方法を探し、新しいツールを作成する必要があります。私は過去6か月間、これをかなり緊密に行ってきました。残念ながら、詳細はまだ公開されていません。会議の記事を書きたかったのですが、流行が邪魔になりました。あなたが会社で働くとき、あなたは原則として、会社を犠牲にして会議に行き、たむろするためだけに記事を必要とします。そして今、すべての会議がオンラインになり、あなたはたむろすることができなくなります-記事を書く動機は本当に消えました。これで流行は終わり、私たちはそれを行います。これで流行は終わり、私たちはそれを行います。これで流行は終わり、とにかくやります。

, , ?

テスト項目はお見せしませんが、インタビューについてはお話しできます。私が言ったように、現在100人の言語学者がいて、インタビューはエンジニアに知られている形式で行われます。つまり、プールでのインタビューです。私たちは言語学者に続けてインタビューし、優秀な言語学者がいる場合は、空席がある場所を探してチームに割り当てます。さまざまなプロファイルの言語学者がいます。誰かがプログラムしますが、誰かは実際にはプログラムしません。私は2番目のカテゴリーから来ました：私はもっと研究の部分にいます、私は自分でモデルを訓練しません-これをするチームの人がいます。現在、さまざまな規模の言語学者からなる8つのチームがあり、私がロシア語のスペシャリストであった内部化チームもあります。これらはアシスタントの品質を監視する人々です（現在、私は単なる言語学者研究者であり、特定の言語に関係のないタスクを実行しています） ..。彼らのプロフィールに応じて、言語学者はこれらのチームの1つに分類されます。

タスクが特定の言語のためのものである場合、特定の言語の話者が必要です;彼らはこの言語で特別な割り当てを受けます-私たちはその人が機能をよく理解しているかどうかを調べようとしています。たとえば、ロシア語のポジションを採用している場合（現在はありません）、ロシア語が英語よりも複雑である理由、これらの困難を克服するために存在する方法、ロシアの形態がどのように機能するか、コンピューターがこれを理解するために必要なもの、それがどのように影響するかを尋ねますデータの量によって。役割が一般的である場合、人が言語学の現在の現実をどれだけよく理解しているか、アルゴリズムについてどれだけ考えることができるかについて質問します。自分でプログラムすることはほとんどありませんが、マシンラーニングの仕組み、システムのトレーニングに必要なもの、信号、監視付き/監視なしの学習などについてはよく理解しています。実はこれが私は通常インタビューで尋ねます。最も一般的な例：「タイプミスをどのように修正しますか？無限の金額と開発者がいますが、まだ製品はありません-言語の観点からそれを構築する方法、ステップは何ですか？」一般的に、自然な言語を含むあらゆる要素について尋ねることができます。回答者によると、それはどのように構築されていますか？人はどのようにして同様のものを作るつもりですか、彼はどのような問題を見ていますか？経験を英語から中国語、中国語からロシア語、ロシア語からヒンディー語に移す方法は？彼は自分の知らない言語でどのように作品を整理するのでしょうか。たくさんのオプションがあります。手順は何ですか？」一般に、自然な言語を含むすべてのコンポーネントについて質問できます。回答者によると、それはどのように構築されていますか？人はどのようにして同様のものを作るつもりですか、彼はどのような問題を見ていますか？経験を英語から中国語、中国語からロシア語、ロシア語からヒンディー語に移す方法は？彼は自分の知らない言語でどのように作品を整理するのでしょうか。たくさんのオプションがあります。手順は何ですか？」一般に、自然な言語を含むすべてのコンポーネントについて質問できます。回答者によると、それはどのように構築されていますか？人はどのようにして同様のものを作るつもりですか、彼はどのような問題を見ていますか？経験を英語から中国語、中国語からロシア語、ロシア語からヒンディー語に移す方法は？彼は自分の知らない言語でどのように作品を整理するのでしょうか。たくさんのオプションがあります。

ユーザーの行動を監視していますか：ユーザーはどのコマンドを実行し、デバイスはどのようなアクションを実行しましたか？

ユーザーの行動を監視することはできません。それをシミュレートし、システムがどのように応答するかをテストする方法しか考えられません。これが私たちが実際に行っていることです。それを測定する方法を理解しようとし、アルゴリズムをトレーニングするためにデータを収集しようとしています。

会話のコンテキストはどのように追跡されますか？これにはどのくらいのメモリが使用されますか？セッション間に永続性はありますか？

メモリの使用量は多いですか？詳細はわかりません。私が働いている部署でもありません。私たちの部門は品質にもっと関心がありますが、十分なメモリがあるかどうか、リークがあるかどうか、アシスタントがアラームを設定するために10分間愚かにつまずくかどうかを調べる部門があります。

コンテキストを追跡します。これまでのところ、残念ながら、1回のセッション内でのみです。これは、私たちの部門（私のチーム、隣接するエンジニアリングチーム）が来年に解決するタスクの1つです。非常にクールで興味深いタスク：コンテキストを保持する期間、会話が終了したと見なす時点、ユーザーのコンテキストを常に保持するかどうか、システムがそれ自体に格納するユーザーに関する情報。相対的に言えば、ユーザーが「ピザが嫌い」と言った場合、このコンテキストを永久に維持し、状況が変化したかどうかを年に1回尋ねるのはおそらく良いことです。また、ユーザーが変更していないと回答した場合は、ピザの配達を提供しないでください。アシスタントはこれを行う方法を知りませんが、残念ながら、まだ完璧にはほど遠いため、さらに多くの異なるコンテキストが必要になります。

これで、1つのセッション内で発音を理解できます（「アラームを設定し、午前8時に設定する」）。私たちはこのコンテキストを拡大するために取り組んでおり、どのコンテキストが有用で、どれだけ必要で、どこにどれだけ保存するかを理解するために個別に調査を行っています。もちろん、Googleには多くのサーバーがあるので、お金を節約する必要はありませんが、アシスタントが各リクエストを3時間処理しないようにします。今はかなり速いですが、完璧ではありません。そして、それを完璧にすれば、それが迅速に機能し続けることを望んでいます。

チーム間で競争はありますか？

はいといいえ。もちろん、Google内の作業の配置に応じて、個別のブロードキャストを作成できます。私たちは地元のイニシアチブをたくさん持っています。人々は何でもプロトタイプを作って、それを上司に提案することができます-上司は常に非常にオープンであり、彼らはトップの上司に提案します。誰かが何かをしようとして成功したという事実から、かなり多くのプロジェクトが発生し、リリースに適した品質でそれを行うことが決定されました。もちろん、5か所で同時に同じ考えになり、10個のプロトタイプが得られる場合もあります。そのようなとき、プロトタイプの1つを選択しなければならないこともありますが、通常、新しい機能を一緒に開発して本番環境にリリースできるように、人々をチームにまとめようとします。誰もが満足していました。

ですから、競争はありますが、政治が多すぎないように、競争を健全に保つように努めています。全体的に、雰囲気は素晴らしいです。私たちは現在、研究と生産の間に位置し、アイデアをもたらしています。私たちは製品マネージャー、プロジェクト、そしてすべての人との中心にいます。すべての人が調整され、協力しています。カオスですが、すべてが精神的です。

何がより速く起こるのでしょうか？彼らは人よりも悪くないことを理解するインテリジェントな音声アシスタントを作るのでしょうか、それともElon Muskがニューラルインターフェイスを発明するのでしょうか？

ニューラルインターフェイスがどの段階にあるかについては何も知りません。しかし、人と同様に理解するインテリジェントな音声アシスタントはまだ非常に遠いです。これまでのところ、アシスタントに理解させる方法を誰も理解していません。強力なニューラルネットワーク上のすべてのチャタリングは模倣です。チューリングテストについての質問を見ました。これは模倣のテストでもあり、システムが人間のふりをして理解しているふりをしますが、結局のところ、システムは何も理解していません。テストの1つに勝ったチャットボットのEugeneGoostmanがいました-だまされなければならなかった裁判官の一定の割合に合格しました。彼はオデッサ出身の15歳の少年のふりをして、父親、婦人科医、ギニアピッグを連れていました（冗談ではありません。彼は自分のことを話していました）。ボットはコンテキストを少し維持し、「どこから来たの？」と尋ねました。 -そして答えから街を思い出しました、しばらくして記憶したものを使って、すごい効果を出しました。今では音声アシスタントでワウ効果を作成することはそれほど難しくありませんが、彼らは完璧ではありません。さらに、競争は英語で行われたため、ボットのスピーチの不規則性は、彼が「オデッサ出身」であるという事実に起因していました-彼らは外国人の男の子を信じていました。

問題は、何を「理解」と呼ぶか、「人間と同じくらい良い理解」とは何か、そしてチャットボットに基本的に何を求めているかです。この質問に対する答えも誰も知りません。彼に親友のように私たちとチャットしてもらいたいのか、それともスマートホームと車を着実に制御してアラームクロックを設定してもらいたいのか。彼は何ができる？彼は私たちに名前を呼んで私たちをからかうことができますか？親友全員が名前や嘲笑を呼ぶわけではありませんが、愛する人とコミュニケーションをとる特別な方法があります。おそらく、システムが私たちとうまく話し合ってジョークを鳴らしたくないのでしょうか？

音声アシスタントはエレクトロポエティックスを夢見ていますか？Tatiana Landoへのインタビュー：Googleアナリスト言語学者