ロシア語のテキストにおける感情分析、パート1：はじめに

感情分析は、あらゆるテキストソースで表現された意見を大規模に処理するための強力なツールになりました。このツールの英語での実用化はかなり発達しており、ロシア語については言えません。このシリーズの記事では、感情分析アプローチがロシア語のテキストにどのように、どのような目的で使用されたか、どのような結果が得られたか、どのような問題が発生したかを見て、有望な方向性について少し話します。以前の作品とは異なり、アプローチ自体や分類の質ではなく、応用アプリケーションに焦点を当てました。最初の部分は入門です。 「感情分析」とは何か、それが何であるか、そしてそれがロシア語のテキストを分析するために過去8年間どのように使用されてきたかを考察します。では第二部私が見つけた32の主要な研究のそれぞれを詳しく見てみましょう。第3部と最後の部分（再び来週）では、研究者が直面する一般的な困難と、将来の有望な方向性について話します。

注意：この記事は科学雑誌のために書かれたものなので、情報源へのリンクはたくさんあります。

1.はじめに

感情分析は、計算言語学におけるコンテンツ分析の方法のクラスであり、その主なタスクは、テキストをその気分に従って分類することです。感情分析を使用することにより、研究者はテキストの感情を一般化し、さまざまなトピックについて結論を出すことができます。たとえば、この分析では、証券市場の予測[1]、主観的な幸福の指標の計算[2]、選挙結果の予測[3]、いくつかのイベントやニュースへの反応の評価[4]が可能です。英語の感情分析はすでに十分に開発されていますが[5]-[7]、他の言語、特にロシア語はこれまであまり注目されていません。 Omnibus GFKの調査[9]によると、16歳以上の75.4人のロシア人（9千万人）がインターネットを使用しています。すべての大陸にロシア語を話すディアスポラがありますが、それらの大部分はCISに住んでいます。主にロシアとウクライナで。 W3Techsの調査によると、ロシア語はインターネットでの普及率の点で主要な言語の1つです。 2020年4月の時点で、世界で最も人気のある1,000万のWebサイトの8.6％がロシア語でした。したがって、ロシア語のテキストは、自動分析、特に感情分析のための重要なデータソースです。



ViksnaとJekabsonsによって実施された1つの調査研究[10]だけが、ロシア語のテキストの感情の分析に専念しています。他のいくつか[11]-[14]は、既存のアプローチとの一般的な比較の文脈でそれについて言及しています。他のいくつかの研究は、ロシア語のテキストの感情の分析の特定の側面に専念しています。たとえば、最良のアプローチの評価[15]-[18]、感情分析のためのニューラルネットワークアーキテクチャの比較[19]、[20]、感情評価のためのオープンなロシア語の語彙選択の比較[21]。ただし、これらの研究はすべて、実際の適用と分析結果ではなく、アプローチ自体と分類の速度に焦点を合わせています。実際のデータに基づいて分析結果が得られた作品のみを検討しました。そして、分類器のトレーニングだけに専念しているものは考慮しませんでした。この記事は、IEEEAccessで公開された記事を要約したものです。詳細が必要な場合、または英語で読む場合-あなたここ。



2番目のセクションでは、感情分析のタスクと現在のアプローチについて簡単に説明します。これに既に精通している場合は、スキップしてかまいません。3番目のセクションは主要なものの1つであり、ロシア語のテキストに対する感情分析の使用法を検証し、32の主要な研究、それらの洞察と弱点についても説明します。4番目のセクションは現在の課題に専念し、5番目のセクションは有望な分野に専念します。

2.感情分析の方法について簡単に

感情分析は、計算言語学におけるコンテンツ分析の方法のクラスであり、その主なタスクは、その気分に従ってテキストを分類することです。単純なケースでは、感情分析の問題は、テキストをポジティブとネガティブにバイナリ分類することになります。場合によっては、別のクラスのニュートラルテキストを追加します。より高度なアプローチでは、恐怖、怒り、悲しみ、幸福など、テキストに関連する感情的な状態を特定しようとします。多くのアプローチでは、テキストには所定のスケールの値が割り当てられます：たとえば、負の場合は-2から正の場合は2まで。したがって、分析は回帰問題に還元されます。アスペクトベースの感情分析は、感情分析のサブセットであり、そのタスクは、議論の主要な主題の特定のアスペクトとの関係を決定することです。感情分析へのすべてのアプローチは、3つのグループに分けることができます。



1つ目はルールベースのアプローチです（ルールベース）。ほとんどの場合、手動で定義された分類ルールと感情的にマークされた語彙を使用します。これらのルールは通常、感情的なキーワードと他のキーワードとの組み合わせに基づいてテキストクラス[22]-[24]を計算します。それらは主題において非常に効果的ですが、ルールベースの方法は一般化が不十分です。また、特に適切な感情辞書にアクセスできない場合は、作成に非常に時間がかかります。後者は、特に感情分析の分野では、英語ほど多くの情報源がないため、特にロシア語の特徴です。最大のロシア語の感情辞書は、RuSentiLex [25]とLINISCrowd [26]です。しかし、それらには、感情の特徴がなく、ポジティブからネガティブまでの色調に関する情報のみが含まれています。この方法では、SenticNet [27]、SentiWordNet [28]、SentiWords [29]のような広範な感情的特徴を備えた強力な英語の編集に代わるものはありません。



2番目のグループ-機械学習アプローチ..。テキストからの自動特徴抽出を使用し、機械学習アルゴリズムを適用します。極性を分類するための古典的なアルゴリズムは、Naive Bayes Classifier [30]、Decision Tree [31]、Logistic Regression [32]、およびSupport Vector Machine [33]です。近年、センチメント分析において従来の手法よりも大幅に優れた深層学習手法が研究者の注目を集めています[34]。これは、SemEval競争の年代学によって確認されており、その間、主要なソリューションは、畳み込み（CNN）および反復（RNN）ニューラルネットワーク[35]-[37]、および転移学習法[38]の使用に成功しました。機械学習システムの主な機能の1つは、テキストからの自動機能抽出です。ベクトル空間でテキストを表現する簡単なアプローチでは、通常、バッグオブワードモデルを使用します。単語の埋め込みを生成するためのより複雑なシステムでは、分散セマンティクスのモデルが使用されます。たとえば、Word2Vec [39]、GloVe [40]、またはFastText [41]です。さまざまな自然言語処理タスク間で学習を転送するように設計された、文または段落レベルで埋め込みを生成するためのアルゴリズムもあります。これらのアルゴリズムには、ELMo [42]、Universal Sentence Encoder（USE）[27]、Transformersからの双方向エンコーダ表現（BERT）[43]、情報エンティティを使用した拡張言語表現（ERNIE）[44]、およびXLNet [45]が含まれます。埋め込みの生成に関する主な欠点の1つは、トレーニング用に大量のテキストが必要になることです。ただし、すべての監視対象学習アルゴリズムではトレーニングにラベル付きデータセットが必要なため、これはすべての機械学習方法に当てはまります。



3番目のグループ-ハイブリッドアプローチ..。これらは、前の2つのタイプのアプローチを組み合わせたものです。たとえば、Kumarと彼の同僚は、ペルシャ語で感情分析のためのハイブリッドフレームワークを開発しました。これは、言語規則、畳み込みニューラルネットワーク、および感情分類用のLSTMを組み合わせたものです[46]。 MeskeleとFrasincarは、感情情報をキャプチャするための感情オントロジー、単語の埋め込みのためのBERT、および拡張感情分類のための2つのCNNレイヤーを組み合わせたハイブリッドアスペクト分析モデルALDONArを提案しました[47]。モデルは、SenEval 2015タスク12データセット[48]で83.8％、SemEval 2016タスク5データセット[49]で87.1％の精度を示しました。ルールベースのソリューション[50]-[52]と同様に、言語モデルはハイブリッドアルゴリズムでよく使用されます。片側、ルールベースの方法と機械学習の組み合わせは、通常、より正確な結果を生成します。一方、ハイブリッドアプローチは、構成アルゴリズムの難しさと制限を継承します。

3.

ロシア語のテキストの応用感情分析に関する主要な出版物を見つけるために、私は主要なコンピューターサイエンスジャーナルと会議をカバーする科学データベースを検索しました：IEEE Xplore、ACM Digital Library、ScienceDirect、SAGE Journals Online、SpringerLink。ソースの範囲を拡大するために、英語の記事に加えて、Russian Science Citation Index（RSCI）からロシア語の記事も研究しました。検索は、クエリ（（ '' SENTIMENT '' OR '' POLARITY ''）AND（ '' ANALYSIS '' OR '' DETECTION '' OR '' CLASSIFICATION '' OR '' OPINION MINING '' OR '' TOPIC MODELING ' '）AND（' 'ロシア語' 'または' 'ロシア語' '））。関連する記事のほとんどは、 ScienceDirect、Springer Link、RSCIにあります。..。また、新たな展開を見逃さないように、一流の研究者の作品の予備刊行物をレビューしました。その結果、灰色の文献やプレプリントを除いて、数千の潜在的に関連する記事が収集されました。最も新鮮で最も引用された作品が好まれました。次に、残りの出版物のタイトル、キーワード、紹介を分析して、ソースの選択を絞り込みました。サンプルの品質を向上させるために、ピアレビューされた記事のみが検索されました。私は灰色の情報源（たとえば、進行中の作業、編集、論文）と、私の研究に不適切な情報源（感情分類モデルを適用しない）を除外しました。次に、この記事でさらに詳しく説明するために、32の主要な出版物を手動で選択しました。これは、ロシア語のテキストの感情を分析するための少なくとも1つの実用的なアプローチを説明しています。

4.

. 1. .



この場合、カテゴリ内のアプローチには同様の目標、課題、および制限があるため、データソースごとにアプローチを分類することにしました。一部のカテゴリーには1つの研究しか含まれていませんが、使用されたアプローチ、結果、および困難の根本的な違いのために、それらを強調することにしました。また、ロシア語は感情分析の観点からあまり研究されていないため、作品の数が限られていることを忘れないでください。図では1は、一連のカテゴリを示します。ほとんどのアプローチは、ソーシャルメディアデータ分析に依存して、さまざまなトピックに対するユーザーの態度を測定していました。たとえば、ウクライナの紛争や移民に関連する問題についての態度や意見。過去10年間で、多くのソーシャルネットワークがソーシャルエンゲージメントのための最新のツールになりました[53]、したがって、それらはオープンで広く利用可能な世論の情報源として、または少なくともそれのある種の反映として認識される可能性があります[54]。最も一般的な情報源としてのソーシャルネットワークからのUGCは、次の3つの基準に従って調査されました。社会的気分指数;さまざまな気分を表現するデータとのユーザーインタラクションの機能。さまざまなトピックに対する態度がさまざまな観点から研究されました。たとえば、移民や民族グループに対する態度（たとえば、[55]）、ウクライナ危機時の感情の表現（たとえば、[56]）、社会的緊張のレベルの測定（たとえば、[57]）、またはいくつかの重要な問題についての話し合いに焦点を当てる質問（たとえば、[58]）。通常、これらのアプローチでは、トピックモデリングと感情分析を組み合わせて使用​​します。テーマと関連する気分を強調します。極性をさらに分類せずにトピックモデリングが適用される（したがって、この記事では考慮されない）研究の多く（[59]-[67]など）では、感情分析はさらなる開発段階と呼ばれます。研究の別の部分（たとえば[68]）では、社会的態度の指標は、主観的な幸福の従来の指標に代わるものを得るために、ソーシャルネットワークで表現された意見に基づいて計算されます。最後に、別の研究（[69]など）では、感情的な色に応じて、コンテンツに対するユーザーの操作のパターンを調べています。このような研究における主な問題の1つは、代表的なデータサンプルの抽出と、その後の分析のための関連テキストの選択です。トピックモデリングがさらなる極性分類なしで適用される（したがって、この記事ではカバーされない）研究の多く（たとえば、[59]-[67]）では、感情分析はさらなる発達段階と呼ばれます。研究の別の部分（たとえば[68]）では、社会的態度の指標は、主観的な幸福の従来の指標に代わるものを得るために、ソーシャルネットワークで表現された意見に基づいて計算されます。最後に、別の研究（[69]など）では、感情的な色に応じて、コンテンツに対するユーザーの操作のパターンを調べています。このような研究における主な問題の1つは、代表的なデータサンプルの抽出と、さらなる分析のための関連テキストの選択です。トピックモデリングがさらなる極性分類なしで適用される（したがって、この記事ではカバーされない）研究の多く（たとえば、[59]-[67]）では、感情分析はさらなる発達段階と呼ばれます。研究の別の部分（たとえば[68]）では、社会的態度指数は、従来の主観的幸福指数の代替を得るために、ソーシャルネットワークで表現された意見に基づいて計算されます。最後に、別の研究（[69]など）では、感情的な色に応じて、コンテンツに対するユーザーの操作のパターンを調べています。このような研究における主な問題の1つは、代表的なデータサンプルの抽出と、さらなる分析のための関連テキストの選択です。極性をさらに分類せずにトピックモデリングが適用される場合（したがって、この記事では取り上げません）、感情分析はさらなる開発段階と呼ばれます。研究の別の部分（たとえば、[68]）では、社会的態度の指標は、主観的な幸福の従来の指標に代わるものを得るために、ソーシャルネットワークで表現された意見に基づいて計算されます。最後に、別の研究（[69]など）では、感情的な色に応じて、コンテンツに対するユーザーの操作のパターンを調べています。このような研究における主な問題の1つは、代表的なデータサンプルの抽出と、さらなる分析のための関連テキストの選択です。主題モデリングが極性をさらに分類せずに適用される場合（したがって、この記事では取り上げません）、感情分析はさらなる開発段階と呼ばれます。研究の別の部分（たとえば[68]）では、社会的態度の指標は、主観的な幸福の従来の指標に代わるものを得るために、ソーシャルネットワークで表現された意見に基づいて計算されます。最後に、別の研究（[69]など）では、感情的な色に応じて、コンテンツに対するユーザーの操作のパターンを調べています。このような研究における主な問題の1つは、代表的なデータサンプルの抽出と、さらなる分析のための関連テキストの選択です。



次に一般的な情報源は、製品とサービスのレビューです。それらは、レビューア自身の特性（[70]など）、製品およびサービスの特性（[71]など）、および販売者の特性（[72]など）の観点から分析されました。ソーシャルネットワークからユーザーが生成したデータの分析とは異なり、古いデータにアクセスするのに問題はありません。レビュー専用のサイトでは、レビューテキストに加えて評価を評価できることがよくあります。評価クラスはすでにわかっているため、気分分類モデルを正式に作成する必要はありません。ただし、一部の研究では、感情分類モデルは学術的関心のためにのみ使用されています。ソーシャルメディアのユーザーデータとユーザーレビューは主観的な視点を反映していることが多いため、このデータの分析は、ニュースの分析とは異なります。通常、ジャーナリストは、客観性が彼らの職業の中心であるため、判断や完全な偏見、疑い、曖昧さを避けようとします。または少なくとも中立[73]。したがって、ジャーナリストはしばしばポジティブまたはネガティブな語彙に関連する言葉を使用せず、彼らの意見を表現する他の方法に頼ります[74]。



3番目の主な情報源はメディアからのニュースであり、2つの基準に従って分析されました。感情（[75]など）とニュースの感情に基づく経済およびビジネスの予測の形成（[76]など）です。ソーシャルネットワークからユーザーが生成したデータの分析とは異なり、メディアは通常、古いデータへのアクセスを制限しないため、古いデータへのアクセスに問題はありません。しかし、いくつかの研究の著者は、特定のトピックに対する一般市民の態度を決定しようとしました。これには、私の意見では、さらに詳しく説明する必要があります。もちろん、メディアは世論の反映と見なすことができます。しかし、場合によっては、編集方針が提出に影響を与えた可能性があるため、ニュースは必ずしも世論を反映しているとは限りません。研究者たちは、最新の方向性、つまり教科書の感情の分析に少し注意を払っていませんでした。そのような研究は2019年にのみ登場しました。これらの作品は、さまざまな教科書で表現された感情（[77]など）と、これらの感情が教育プロセスに与える影響（[78]など）の比較に焦点を当てています。主な課題は、気分固有の語彙と教科書指向の学習データセットの欠如から来ています。さらに、ドキュメントレベルの分析テキストの場合、教科書のテキストは長く、一度に複数の異なる感情が含まれる可能性があるため、テキストを特定のクラスのムードに関連付けることが困難になります。教科書指向。さらに、ドキュメントレベルの分析テキストの場合、教科書のテキストは長く、一度に複数の異なる感情が含まれる可能性があるため、テキストを特定のクラスのムードに関連付けることが困難になります。教科書指向。さらに、ドキュメントレベルの分析テキストの場合、教科書のテキストは長く、一度に複数の異なる感情を含む可能性があるため、テキストを特定のクラスのムードに関連付けることが困難になります。



より広い範囲の意見を収集するために、いくつかの研究は混合データソースで動作します。このグループでは、研究者は通常、ウクライナの危機（例[79]）やAlexei Navalnyのメディア報道（例[80]）など、さまざまなトピックに対する態度を研究します。ソースが混在しているため、このようなデータはあらゆる可能な調査に使用できます。しかし、表明された幅広い意見に加えて、著者はまた、情報源に固有の困難と制限に直面しています。



見つかったアプローチの要約を表1に示します。年ごとの記事の分布を考慮すると、ロシア語のテキストの感情に関する研究の数は2014年から2016年に増加し、2017年にピークに達したことがわかります。同じジャーナルや会議の議事録に掲載されている記事の数は多少異なります。分析された記事の複数は、7つのジャーナルとコレクションにのみ公開されました。発見された記事のほとんどは、会議「デジタル変革とグローバル社会」の資料集に掲載されました。



表1.発見された研究の要約。RB-ルールベースのアプローチ、ML-機械学習アプローチ、UNK-未知のアプローチ、WL-単語レベルの分析、DL-ドキュメントレベルの分析。





ルールベースのアプローチ（40.63％）と機械学習（37.5％）の比率はほぼ同じでした。最初のグループは、個々のルールベースのモデルまたはSentiStrength [22]のいずれかを最も頻繁に使用しました。これは、サードパーティのすぐに使用できるソリューションの中で最も人気のあるアルゴリズムになりました。そして2番目のグループでは、ロジスティック回帰[32]、サポートベクトルマシン[33]、ナイーブベイジアン分類器[30]が最も頻繁に使用されました。最も人気があったのは単純な機械学習方法であり、16.7％だけがニューラルネットワークを使用していました。ただし、2019年以降、機械学習アプローチのシェアは、ルールベースのアプローチのシェアを大幅に上回っています。調査の15.6％は、感情分析にMedialogia、IQBuzz、CrimsonHexagonなどのサードパーティのクラウドサービスを使用していることがわかりました。これらの場合、適用された分類アルゴリズムに関する公式情報が不足しているため、使用されたアプローチを特定できませんでした。



いくつかのケースでは、前処理、データマークアップ、学習プロセス、分類品質メトリックの説明の欠如など、方法論的な欠陥が見つかりました。多くの場合、分類モデルは、サブジェクトエリアに関連するデータセットに対して検証されませんでした。これは、ルールベースのアプローチまたはサードパーティのサービスを使用した感情分析に特に当てはまります。研究者は通常、テキストのセットを手動でマークアップしなかったため、分類の品質を評価できませんでした。

5.次へ

この記事の第2部は来週リリースされ、私が見つけた32の主要な研究のそれぞれを詳しく見ていきます。第3部と最後の部分（再び来週）では、研究者が直面する一般的な困難と、将来の有望な方向性について話します。記事全体を一度に英語で読みたい場合は、こちらにアクセスしてください。

6.出典

ソースの完全なリストはここにあります。