インメモリDBMSアーキテクチャ：1つの記事で10年の経験

インメモリデータベースは新しい概念ではありません。しかし、それは「キャッシュ」および「永続的ではない」という言葉とあまりにも密接に関連しています。今日は、これが必ずしも当てはまらない理由を説明します。インメモリソリューションは、目に見えるよりもはるかに広いアプリケーション分野とはるかに高いレベルの信頼性を備えています。



この記事では、インメモリソリューションのアーキテクチャの原則について説明します。ディスクベースのリレーショナルシステムの長所を犠牲にせずに、インメモリの世界（信じられないほどのパフォーマンス）を最大限に活用するにはどうすればよいでしょうか。まず第一に、信頼性-データが安全であることをどのように確認できますか。



このストーリーは、インメモリソリューションに関する10年の経験を1つのテキストにまとめたものです。エントリのしきい値は可能な限り低くなっています。読書の恩恵を受けるために長年の経験は必要ありません。ITの基本的な理解で十分です。

• 前書き
• 開発の歴史
• 今日のタランツール
• カーネルのしくみ
• ルア
• ファイバーと協調マルチタスク
• データベース機能
• 他のシステムとの比較
  
  
  • インメモリプラットフォーム
  • リレーショナルデータベース
  • Key-Value DB
  • ドキュメント指向データベース
  • ボーナスラウンド：列ベース
• 使用シナリオ
  
  
  • 使用しない場合
  • いつ使用するか
• 結論と結論
• リンク

前書き

私の名前はウラジミール・ペレペリツァですが、モンス・アンダーソンとしてよく知られています。私はTarantoolのアーキテクト兼プロダクトマネージャーです。 S3準拠のオブジェクトストレージを構築するときなど、本番環境で長年使用しています[1]。したがって、私は彼の内外を十分に知っています。



テクノロジーを理解するためには、歴史に飛び込むことが役立ちます。 Tarantoolがどのようなものであったか、どのように通過したか、現在は何であるかを調べ、他のソリューションと比較し、その機能、ネットワーク上でどのように機能するか、周囲のエコシステムに何があるかを検討します。



この例では、インメモリソリューションからどのようなメリットが得られるかを理解できます。信頼性、規模、使いやすさを犠牲にしない方法を学びます。



PS：これは公開レッスンのトランスクリプトであり、記事に適合しています。YouTubeを2倍で聴きたい場合は、記事の最後にビデオへのリンクがあります[2]。

開発の歴史

Tarantoolは、2008年にMail.ru Groupの内部開発チームによって作成されましたが、当初はオープンソースの範囲がありませんでした。しかし、社内で2年間運用した結果、製品が十分に成熟していて、一般に公開されていることに気づきました。これがTarantoolのオープンソースの歴史が始まった方法です。

commit 9b8dd7032d05e53ffcbde78d68ed3bd47f1d8081
Author: Yuriy Vostrikov <vostrikov@corp.mail.ru>
Date:   Thu Aug 12 11:39:14 2010 +0400

      
      

        
        
        
      

    
        
        
        
      
      

        
        
        
      

    
    

しかし、なぜそれが作成されたのですか？



Tarantoolは、もともとMyWorldソーシャルネットワーク用に開発されました。当時、私たちはすでにかなり大きな会社でした。プロファイル、セッション、およびユーザーを格納するMySQLクラスターには多くの費用がかかります。生産性に加えて、お金についても考えたほどです。ここから「データベースに100万ドルを節約する方法」という話が生まれました[3]。



つまり、Tarantoolは巨大なMySQLクラスターでお金を節約するために作られました。それは徐々に進化しました。それは単なるキャッシュ、次に 永続キャッシュ、そして本格的な データベースでした。



あるプロジェクトで社内の評判を得て、それは他の人に広がり始めました：メール、広告バナー、クラウド。社内で広く使用されている結果、デフォルトでTarantoolで新しいプロジェクトが開始されることがよくあります。



Tarantoolの開発の歴史をたどると、次の図を見ることができます。 Tarantoolは元々メモリ内キャッシュでした。当初は、memcachedとほとんど変わりませんでした。



コールドキャッシュの問題を解決するために、Tarantoolは永続的になりました。さらにレプリケーションが追加されました。レプリケーションを備えた永続キャッシュがある場合、これはすでにKey-Valueデータベースです。このKey-Valueデータベースにインデックスが追加されました。つまり、Tarantoolをリレーショナルデータベースのように使用することができました。



そして、Lua関数を追加しました。当初、これらはデータを操作するためのストアドプロシージャでした。その後、Luaの機能は協調ランタイムとアプリケーションサーバーに進化しました。



徐々に、これらすべてがさまざまな追加機能、機能、およびその他のストレージエンジンで大きくなりすぎました。今日、それはすでにマルチパラダイムデータベースです。これについての詳細。

今日のタランツール

現在、Tarantoolは、柔軟なデータスキーマインメモリコンピューティングプラットフォームです。



Tarantoolは、高負荷のアプリケーションを作成するために使用でき、使用する必要があり ます。つまり、キャッシュを作成するだけでなく、データを保存および処理するための複雑なソリューションを実装することです。さらに、それは単なるデータベースではなく、何かを作成できるプラットフォームです。



Tarantoolには2つのバージョンがあります。ほとんどの人が利用でき、最も理解しやすく、よく知られているのはオープンソースバージョンです。 Tarantoolは、Simplified BSDライセンスの下で開発され、Tarantool組織によってGitHubで完全にホストされています。



Tarantool自体、そのコア、外部システムへのコネクタ、シャーディングやキューなどのトポロジがあります。開発チームとコミュニティの両方からのモジュール、ライブラリ。コミュニティモジュールは、私たちがホストしている可能性があります。



オープンソースバージョンに加えて、Tarantoolにはエンタープライズブランチもあります。まず第一に、これはサポート、エンタープライズ製品、トレーニング、カスタム開発、およびコンサルティングです。今日は、製品のすべてのバージョンで利用できる主な機能について説明します。



今日のTarantoolは、データベース中心のアプリケーションの基本コンポーネントです。

カーネルはどのように機能しますか？

Tarantoolが生まれ、開発された主なアイデアは、データがメモリ内にあるということです。このデータは 常に1つのスレッドからアクセスされます。行った変更は、先行書き込みログに直線的に書き込まれます。



インデックスは、メモリ内のデータに基づいて作成されます。つまり、データへのインデックス付きで予測可能なアクセスがあります。このデータのスナップショットは定期的に保存されます。ディスクに書き込まれたものを複製できます。



Tarantoolには1つの主要なトランザクションスレッドがあります。これをTXスレッドと呼びます。このスレッド内には、アリーナがあります。これは、データを保存するためにTarantoolによって割り当てられたメモリの領域です。データはTarantoolのスペースに保存されます。



スペースはセットであり、ストレージユニットのコレクションです-タプル。Taplはテーブルの行のようなものです。インデックスはこのデータに基づいて作成されます。アリーナとアリーナ内で働く専門のアロケータは、これらすべてを保存して整理する責任があります。

• Tapl =文字列
• スペース=テーブル

また、TXスレッド内には、イベントループ、イベントループがあります。ファイバーはイベントループ内で機能します。これらは、スペースと通信できる協調的なプリミティブです。そこからデータを読み取ったり、データを作成したりできます。また、ファイバーはイベントループと直接相互作用することも、特別なプリミティブ（チャネル）を使用して相互作用することもできます。





外部からユーザーと連携するために、別のスレッドであるiprotoがあります。 iprotoはネットワークからの要求を受け入れ、Tarantoolプロトコルを処理し、要求をTXに渡し、ユーザーの要求を別のファイバーで実行します。



データの変更が発生すると、（ログ先行書き込みからの）WALと呼ばれる別のスレッドがxlogと呼ばれるファイルを書き込みます。



Tarantoolが大量のxlogを蓄積すると、すぐに起動するのが難しい場合があります。したがって、起動を高速化するために、スナップショットを定期的に保存します。スナップショットを保存するために、スナップショットデーモンと呼ばれるファイバーがあります。 Arena全体の一貫した内容を読み取り、スナップショットファイルでディスクに書き込みます。



協調マルチタスクのため、Tarantoolからディスクに直接書き込むことはできません。ブロックすることはできず、ディスクはブロック操作です。したがって、ディスクの操作は、fioライブラリとは別のスレッドプールを介して実行されます。





Tarantoolにはレプリケーションがあり、整理が非常に簡単です。レプリカがもう1つある場合、それにデータを配信するために、別のスレッドが発生します-リレー。そのタスクは、xlogを読み取り、それらをレプリカに送信することです。レプリカでファイバーアプライヤーが起動され、リモートホストから変更を受け取り、それらをアリーナに適用します。



そして、これらの変更は、WALを介してローカルで行われた場合とまったく同じであり、xlogに書き込まれます。すべてがどのように機能するかを知っていると、このセクションまたはそのTarantoolセクションの動作を理解および予測し、それをどうするかを理解できます。





再起動するとどうなりますか？Tarantoolがしばらく実行されていて、スナップショットがあり、xlogがあると想像してみましょう。再起動した場合：

1. Tarantoolは最新のスナップショットを見つけて、それを読み始めます。
2. このスナップショットの後にあるxlogを読み取り、確認します。それらを読みます。
3. スナップショットとxlogの読み取りが完了すると、再起動時のデータのスナップショットが作成されます。
4. 次に、Tarantoolがインデックスを完成させます。スナップショットの読み取り時には、プライマリインデックスのみが作成されます。
5. すべてのデータがメモリに格納されたら、セカンダリインデックスを作成できます。
6. Tarantoolがアプリケーションを起動します。

6行のカーネル構造：

• データはメモリにあります
• 1つのスレッドからデータにアクセスする
• 変更は先行書き込みログに書き込まれます
• インデックスはデータに基づいて構築されます
• スナップショットは定期的に保存されます
• WALが複製されます。

ルア

TarantoolアプリケーションはLuaJITに実装されています。ここで立ち止まって、LuaJITの理由について話すことができます。



まず、Luaは、もともとプログラマー向けではなくエンジニア向けに作成された、アクセシブルなスクリプト言語です。つまり、技術的な教育を受けているが、プログラミングの詳細にあまり深く没頭していない人向けです。



Luaは可能な限りシンプルに保たれています。したがって、スクリプト言語のパフォーマンスをほぼCのパフォーマンスに近づけることができるJITコンパイラを作成することが可能であることが判明しました。LuaJITでコンパイルされた小さなLuaプログラムが実際に同様のCに追いつく場合の例を見つけることができます。パフォーマンスのプログラム[4]。



Luaを使用すると、効率的なものを簡単に作成できます。一般に、Tarantoolの周りには、データと並べて作業するというアイデアがありました。同じ名前空間とデータが配置されているプロセスでプログラムを実行することにより、ネットワークを歩き回る時間を無駄にすることはできません。



私たちはメモリに直接アクセスしているので、読み取りの待ち時間はほぼゼロで予測可能です。これはすべてLua関数で簡単に実現できましたが、Tarantoolの内部にはイベントループとファイバーがあります。Luaはそれらと統合されています。



合計：

• Lua：エンジニア向けのシンプルなスクリプト言語
• 非常に効率的なJITコンパイル
• データと一緒に作業する
• プロシージャではなく、協調ランタイム

ファイバーと協調マルチタスク

ファイバーは実行のスレッドです。これはスレッドに似ていますが、より軽量で、協調マルチタスクプリミティブを実装します。これにより、次のプロパティが適用されます。

• 一度に複数のタスクが実行されていません。
• システムにはスケジューラがありません。すべてのファイバーは自発的に降伏する必要があります。

スケジューラーがなく、タスクを同時に実行すると、寄生オーバーヘッドの消費が減り、パフォーマンスが向上します。これらすべてを組み合わせることで、アプリケーションサーバーの構築が可能になります。 Tarantoolを終了して外の世界に行くことができます。



Tarantoolには、ネットワークとデータの両方を操作するためのライブラリがあります。 Python、Perl、JavaScriptと同様に、使い慣れたプログラミング言語として使用し、データベースにまったく関係のないタスクを解決できます。



Tarantoolの内部には、アプリケーションサーバー自体の内部にデータベースを操作するための関数があります。 Tarantoolの開発の過程で、プラットフォームはこのアプリケーションサーバー上で進化してきました。プラットフォームという用語では、次のことを意味します。



プラットフォームは 基本的にインメモリデータベースと組み込みアプリケーションサーバー。またはその逆、アプリケーションサーバーとデータベース。ただし、Tarantoolには、シャーディング用のレプリケーション用のツールも付属しています。このクラスターをクラスター化および管理するためのツール、および外部システムへのコネクター。



合計：

• ファイバーは、協調マルチタスクを実装する軽量の実行スレッドです。
• 次のタスクは、現在のタスクが制御の転送をアナウンスした後に実行されます
• アプリケーションサーバー
  
  
  • ファイバーによるイベントループ
  • ノンブロッキングソケットワーク
  • ネットワークとデータライブラリのコレクション
  • データベースを操作するための関数
• Tarantoolプラットフォーム
  
  
  • インメモリデータベース
  • 内蔵アプリケーションサーバー
  • クラスタリングツール
  • 外部システムへのコネクタ

データベース機能

データの保存にはテープを使用します。タプルです。これは、型指定されていないデータを含む配列です。タプルまたはタプルはスペースに結合されます。スペースは基本的にテープのコレクションにすぎません。 SQLの世界からの類似物はテーブルです。



Tarantoolには2つのストレージエンジンがあります。メモリまたはディスクに保存するためのさまざまなスペースを定義できます。データを操作するには、プライマリインデックスが必要です。プライマリインデックスのみを作成すると、Tarantoolはkey-valueのようになります。



しかし、多くのインデックスを持つことができます。インデックスは複合することができます。それらはいくつかのフィールドで構成できます。インデックスとの部分一致で選択できます。インデックス、つまりイテレータの順次反復に取り組むことができます。



インデックスにはさまざまなタイプがあります。デフォルトでは、TarantoolはB + *ツリーを使用します。そして、ハッシュ、ビットマップ、rtree、機能インデックス、JSONパス上のインデックスがあります。この多様性により、リレーショナルデータベースが適している場所でTarantoolを非常にうまく使用できます。



TarantoolにはACIDトランザクションメカニズムもあります。シングルスレッドのデータアクセスデバイスにより、シリアル化可能な分離レベルを実現できます。アリーナを参照するときは、アリーナから読み取ることも、書き込むこともできます。データを変更します。発生するすべてのものは、1つのスレッドで順次かつ排他的に実行されます。



2本のファイバーを並行して実行することはできません。しかし、インタラクティブトランザクションについて話している場合は、別のMVCCエンジンがあります。これにより、すでに対話型であるシリアル化可能なトランザクションを実行できますが、潜在的なトランザクションの競合をさらに処理する必要があります。



Luaアクセスエンジンに加えて、TarantoolにはSQLがあります。リレーショナルストレージとしてTarantoolをよく使用しました。リレーショナル原則に従ってストレージを設計すると結論付けました。



SQLでテーブルが使用されていた場所には、スペースがあります。つまり、各行はタップで表されます。スペースのスキーマを定義しました。任意のSQLエンジンを使用して、プリミティブをマップし、Tarantool上でSQLを実行できることが明らかになりました。



Tarantoolでは、LuaからSQLを呼び出すことができます。SQLを直接使用することも、SQLからLuaで定義されているものを呼び出すこともできます。



SQLは補完的なメカニズムであり、使用できます。使用する必要はありませんが、Tarantoolを使用する可能性を広げる非常に優れた追加機能です。



合計：



データストレージプリミティブ

• tapl（タプル、文字列）
• スペース（テーブル）-テープのコレクション
• エンジン：
  
  
  
  
  • memtx-データの全量がメモリとディスク上の信頼性の高いコピーに収まります
  • vynil-ディスクに保存されている場合、データの量がメモリの量を超える可能性があります
• プライマリインデックス

インデックス

• 多分たくさん
• 複合
• インデックスタイプ
  
  
  
  
  • ツリー（B⁺*）
  • ハッシュ
  • ビットマップ
  • rtree
  • 機能的
  • jsonパス

トランザクション

• 酸
• シリアル化可能（歩留まりなし）
• インタラクティブ（MVCC）

SQLとLua

• 表：スペース
• 行：タプル
• スキーマ：スペース形式
• Lua-> SQL：box.execute

他のシステムとの比較

DBMSの世界におけるTarantoolの位置をよく理解するために、他のシステムと比較します。あなたは誰かと多くを比較することができますが、私は4つの主要なグループに興味があります：

• インメモリプラットフォーム
• リレーショナルDBMS
• キーバリューソリューション
• ドキュメント指向システム

インメモリプラットフォーム

GridGain、GigaSpaces、Redis Enterprise、Hazelcast、Tarantool。



それらはどのように似ていますか？インメモリエンジン、インメモリデータベース、およびいくつかのアプリケーションランタイム。さまざまな量のデータに対して柔軟にクラスターシステムを構築できます。



特に、これはデータグリッドの役割での使用です。これらのプラットフォームは、ビジネス上の問題を解決することを目的としています。各グリッド、各インメモリプラットフォームは、同じクラスに属している間、独自のアーキテクチャ上に構築されています。また、プラットフォームが異なれば、ツールのセットも異なります。これは、それぞれが異なるセグメントを対象としているためです。



Tarantoolは、汎用のセグメントレスプラットフォームです。これにより、より幅広い機会と解決すべきさまざまなビジネスシナリオが提供されます。

リレーショナルデータベース

次に、TarantoolインメモリデータベースエンジンをMySQLおよびPostgreSQLと比較してみましょう。これにより、エンジン自体をアプリケーションサーバーから分離して、さらにはプラットフォームから分離して配置できます。



Tarantoolは、データを表形式（テープとスペース）で格納するという点でリレーショナルデータベースに似ています。インデックスは、リレーショナルデータベースの場合と同様に、データに基づいて作成されます。 Tarantoolでは、スキーマを定義できます。SQLもあり、データを操作できます。



しかし、Tarantoolを従来のリレーショナルデータベースと区別するのはSQLスキーマです。 SQLが存在する場合でも、SQLを使用する必要はありません。これは、データベースと対話するための主要なツールではありません。



Tarantoolのスキーマは厳密ではありません。データのサブセットに対してのみ定義できます。



従来のリレーショナルデータベースでは、インメモリテーブルは、ある種の高速操作に使用される永続ストレージではありません。Tarantoolでは、データの全量がメモリに収まり、メモリ から提供されると同時に、 信頼性と永続性があります。



これは非常に重要なので、もう一度書き込みます。Tarantoolはデータセット全体をメモリに保存すると同時に、データを 安全にディスクに保存します。

Key-Value DB

比較する次のクラスはkey-valueです-memcached、Redis、Aerospike。 Tarantoolはそれらとどのように似ていますか？ Key-Valueモードで動作し、1つのインデックスのみを使用できます。この場合、Tarantoolは従来のKey-Valueストアのように動作します。



たとえば、Tarantoolはmemcachedのドロップイン代替として使用できます。対応するプロトコルを実装するモジュールがあり、この場合、memcachedを完全に模倣します。



Tarantoolは、メモリ内アーキテクチャがRedisに似ていますが、データ記述のスタイルが異なるだけです。 Redisがアーキテクチャシナリオに適用できる場合はいつでも、Tarantoolを使用できます。これらの横綱の戦いは、リンク[5]の記事に記載されています。



TarantoolとKey-Valueデータベースの違いは、リレーショナルデータベースに固有のセカンダリインデックス、トランザクション、イテレータ、およびその他のものの存在です。

ドキュメント指向データベース

4番目のカテゴリーとして、ドキュメントベースのデータベースを引用したいと思います。ここで最も印象的な例はMongoDBです。 Tarantoolはドキュメントを保存することもできます。したがって、Tarantoolには、ドキュメント指向のベースを含め、独自の方法があると言えます。



Tarantoolの内部ストレージ形式自体はmsgpackです。これはそのようなバイナリJSONです。これは、Mongoで使用されている形式とほぼ同じです。これはBSONです。それは同じコンパクトさを持っています。同じタイプのデータを反映しています。そうすることで、これらのドキュメントのコンテンツにインデックスを付けることができます。最近の記事[6]でmsgpackの詳細を読んでください。



Tarantoolには、Avroスキーマライブラリも含まれています。これにより、通常の構造のドキュメントを行に解析でき、これらの行はすでにデータベースに直接保存されています。



しかし、Tarantoolは元々、ドキュメント指向のデータベースとして考えられていませんでした。これは彼にとってのボーナスであり、データの一部をドキュメントとして保存する機能です。したがって、同じMongoと比較して、インデックス作成メカニズムがわずかに弱くなります。

ボーナスラウンド：列ベース

そのような質問が時々起こります。ここでの答えは簡単です-Tarantoolは列型データベースではありません（誰が考えたでしょう）。柱状ベースに適したスクリプトは、Tarantoolでは機能しません。それらは互いに非常によく補完し合っていることに注意することができます。



あなたの多くはクリックハウスに精通していると思います。これは優れた分析ソリューションです。これは列ベースです。さらに、ClickHouseはマイクロトランザクションが好きではありません。小さなトランザクションを大量に送信すると、最大スループットに達しません。データをまとめて送信する必要があります。



同時に、マイクロトランザクションはTarantoolに送信でき、送信する必要があります。彼はそれらを蓄積することができます。さまざまなコネクタがあるため、これらのトランザクションを蓄積して、ClickHouseタイプのストレージにバッチとして送信できます。陰と陽。



合計：

Tarantoolを使用すべきでない場合の例から始めます。主なシナリオは、SQLの使用を含む、分析、別名OLAPです。



この理由は非常に単純です。 Tarantoolは、基本的にシングルスレッドアプリケーションです。データアクセスロックはありません。ただし、1つのスレッドが長いSQLを実行している場合、そのスレッドの実行中は他のスレッドを実行できなくなります。



したがって、分析データベースは通常、マルチスレッドデータアクセスモードを使用します。次に、別のスレッドで何かをごまかすことができます。 Tarantoolの場合、1つのスレッドが他の多くのソリューションよりも高速です。しかし、それは1つであり、複数のスレッドからのデータを処理する方法はありません。



ただし、たとえば、事前に計算された分析を構築する場合は、このような累積データが必要になることがわかっています。データのストリームがあり、ある種のカウンターが必要であることがすぐにわかります。この事前設定された分析は、Tarantoolに基づいて構築されています。

いつ使用するか

主なシナリオは、その歴史的遺産、それが作成された目的から来ています。多くの小さなトランザクション。



これらは、セッション、ユーザープロファイル、およびこの期間中にそれから成長したすべてのものである可能性があります。たとえば、Tarantoolは、機械学習の横にあるベクターストアとしてよく使用されます。これは、そこに保存すると便利だからです。これは、すべてのトラフィックをそれ自体を通過させる高負荷のカウンター、ブルートフォース防止システムとして使用できます。



小計：悪用の



例

• 分析（OLAP）
• 含む SQLの使用

良い使い方の例

• 高周波マイクロトランザクション（OLTP）
• ユーザープロファイル
• カウンターと看板
• データキャッシュプロキシ
• キューブローカー

結論と結論

Tarantoolは永続的であり、他の多くのシステムに移動する機能があります。したがって、レガシーシステムのキャッシュプロキシとして使用されます。真のプロキシの書き込みとプロキシの背後の書き込みの両方で、重くて複雑になります。



また、Tarantoolのアーキテクチャ、その中のファイバーの存在、および複雑なアプリケーションを作成する機能により、Tarantoolはキューを作成するための優れたツールになります。私は6つのキューの実装を知っています。それらのいくつかはGitHubにあり、いくつかはプライベートリポジトリまたはプロジェクトのどこかにあります。



これの主な理由は、アクセスの低遅延が保証されていることです。Tarantoolの内部にいて、データを取得するときは、メモリからデータを提供します。データへの高速で競争力のあるアクセスが可能です。次に、データのすぐ隣で実行されるマッシュアップを作成できます。 当社のWebサイトで



Tarantoolを試して、Telegramチャットに質問 をしてください 。

リンク

1. S3アーキテクチャ：Mail.ruクラウドストレージの3年間の進化
2. ビデオ-高負荷アプリケーションの基盤としてのTarantool
3. Tarantool：高負荷プロジェクトのデータベースで100万ドルを節約する方法
4. https://github.com/luafun/luafun
5. Tarantool vs Redis：インメモリテクノロジーで何ができるか
6. 高度なMessagePack機能