ストレージパフォーマンスエンジニアリング

みなさん、こんにちは！私たちの大規模でフレンドリーなエンジニアチームは、毎日、複雑な問題を解決し、データ処理およびストレージシステムなどのハイテク製品の作成に貢献しています。私たちはあなたに彼らのルーチンをより詳しく紹介することに決めました、そして今日私たちは一人称での彼らの仕事のすべてのニュアンスについてあなたに話すために同僚との一連のインタビューを始めています。







パフォーマンスは優れたソフトウェアの重要な特性の1つです。ストレージシステムの他の特性は、低速または不安定な場合は評価されません。今日はセルゲイ・カチキンと話しています カチニ-YADROの応用研究および技術専門知識部門の技術専門知識部門の責任者。



彼の職業には、パフォーマンスアナリスト、パフォーマンスエンジニア、パフォーマンステスターなどの名前があります。そして、それらのすべてはロシアでは非常にまれです。一方、パフォーマンスエンジニアリングは、迅速かつ確実に動作する効率的なコンピュータシステムの作成に役立ちます。彼の仕事は、システムが期待どおりに機能しない理由を調査し、作業のターゲットパラメータが遅い、または対応していない理由を理解し、問題のある領域を特定して見つけ、それらを排除することです。  



Sergey Kachkinは、ソフトウェアスタックのボトルネックを見つけ、ストレージパフォーマンスを最適化することについて、彼のチームが行っていることについて話しました。

 

セルゲイ、どうやってヤドロに来たの？ OpenPOWERの使用経験はありますか？

それ以前は、別のベンダーで働いており、カーネルパフォーマンスの観点からIA64（x86と混同しないでください）プロセッサで独自バージョンのUNIXOSをサポートすることに携わっていました。 EPICアーキテクチャはRISCとは異なり、完全に異なります。ですから、これはYADROでOpenPOWERを使用した最初の経験であり、再構築には時間がかかりました。しかし、OpenPOWERの考え方は、いくつかのミニマリズムにもかかわらず同じであるため、すべてを習得することができます。



パフォーマンスエンジニアは何をしますか？仕事ではどのような方法が使われていますか？新入社員の採用は難しいですか？



私たちのチームの主な専門分野は、パフォーマンスエンジニアリングまたはパフォーマンスエンジニアリングです。これは、開発中のソリューションが機能以外の要件、特にパフォーマンスを確実に満たすようにすることを目的とした別の分野です。これには、ソフトウェア開発のさまざまな段階（準備、プログラミング、テスト、システム操作）に適用できる一連のプラクティス、知識、方法、および手法が含まれています。



ロシアでは、この分野はあまり普及していません。少なくとも、そのような印象は、従業員の検索結果によって作成されます。しかし、世界では、これは確立された方向性です。このIT専門分野では、直接コーディングが必要になることはめったにありません。私たちはほとんどプログラミングをしていませんが、実際、プロのプログラマーのようにそれを行う方法を知りません。これには、機能しない要件に影響を与えるソフトウェアの「ホットスポット」をローカライズするための特定のスキルが必要です。一方では、要件を満たす製品を作成するのに役立ちますが、他方では、さらなる最適化ややり直しのコストを防ぎます。



ソフトウェアスタックの品質管理とボトルネックの特定をどのように保証しますか？



メソッドは2つのタイプに分けることができます。 1つ目は、システム中心のアプローチです。これはリソース指向です。システムの個々のコンポーネントの負荷を分析し、得られた結果に基づいて、ボトルネックがあると想定します。



2つ目は、アプリケーション中心のアプローチです。調査の対象がアプリケーション全体またはLinuxの個々のプロセスである場合です。アプリケーションが何をしているのか、どのような作業をしているのかを調べます。この作業は役に立ちますか、それとも役に立たないこと、つまり時間を無駄にしているのでしょうか。アプリケーションが待機している場合は、何を待機しているかがわかります。通常、これらはハードウェアまたはソフトウェアリソース、同期メカニズムです。



実際には、これらの方法を切り替える必要があります。つまり、一方では、リソースを調べます。明らかな問題やエラーはありますか。結論を導き出します。次に、アプリケーションを見てみましょう。それがどのように感じられるかです。この場合、アプリケーションは、ストレージシステムコードまたは最適化の対象となるその他のものです。



ストレージが「限界で」機能していることを理解するにはどうすればよいですか？生産性が低下しているかどうかをどのように判断できますか？これを示すパラメータは何ですか？ストレージのパフォーマンスを測定するために使用される主な指標は何ですか？



平均的なユーザーは、いくつかの指標を利用できます。主なものは応答時間です。その絶対値は重要です。応答時間に加えて、帯域幅も重要です。負荷の増加に伴って応答時間が長くなり始め、IOPSと転送されるデータの量が増加しない場合、これは一部のストレージリソースが飽和状態に近いことを意味します。ご存知のように、ストレージシステムは、最も遅いリソースが機能できる限り高速に動作します。



同時に、さまざまなアプリケーションが応答時間または帯域幅のいずれかにとって重要になる可能性があります。たとえば、データベースについて話している場合、通常、これは小さなブロックでのランダムアクセス、大量の読み取りであり、IOPSでのパフォーマンスと最小応答時間が重要です。バックアップ用のストリーミング、ビデオカメラやInternet of Thingsからの記録などの他の負荷の場合、帯域幅、つまり大きなデータストリームを記録する機能がより重要になります。



ストレージシステムは特定のタスク用に最適化されていますか、それともユニバーサルソリューションとして作成されていますか？



長い間、ストレージシステムは、少なくとも一般的な目的のために、用途が広いものでした。それらは特定の負荷に対して「シャープ」ではなく、最も一般的なアプリケーションを「喜ばせ」ようとします。結局のところ、データベース、バックアップシステム、ビデオ監視などの負荷プロファイルは大まかにわかっています。ストレージシステムは、追加の構成なしで、このような負荷に適切に応答する必要があります。



したがって、汎用ストレージシステムは、最も一般的なタスクに適合するようにゼロから設計されています。このために、合成テストは、実際の状況をシミュレートする一連の「重要な」プロファイルとともに使用されます。ほとんどの場合は機能しますが、現実は常にはるかに複雑です。



実際の負荷は、非常に近似的に合成によってモデル化されます。 IOPS、帯域幅、ブロックサイズ、および読み取り/書き込み操作の比率に加えて、負荷にははるかに多くの特性があるため、これは一般に科学集約的な領域です。これは、ディスク上のデータスポットのローカリゼーション、「ホットエリア」の存在、時間内の要求の分散、およびそれらの到着の均一性です。したがって、特定の負荷kがどのプロファイルにも当てはまらない可能性があります。おそらく、ソフトウェアの機能またはビジネスタスク自体の詳細が原因です。この場合、特定のタスク用にシステムを構成する必要があります。



アプリケーション、それがどのように機能するかを調べます。また、アプリケーションまたはストレージ設定のいずれかを変更する必要がある場合があります。ストレージシステムを変更するよりも、何らかのカスタマイズを行う方が、アプリケーション側の問題を解決する方がはるかに簡単な場合があります。



システムはタスク用に自動的に構成されていますか？これには人工知能が必要ですか？管理者またはユーザーは自分で負荷プロファイルを選択できますか？



ストレージシステムはこれを長い間自動的に行ってきました-管理者にはそのようなタスクがロードされていません。通常、彼らは人工的な知性（従来のアルゴリズム）を使用せずにこれを達成しようとします。ただし、AIには大きな可能性があります。アプリケーションが要求できるデータのブロックとその時点を予測できる場合は、事前にこれに備えることができます。



以前の最適化アルゴリズムが非常に単純であった場合、つまり、データを順次読み取る場合、システムはデータを事前にキャッシュにロードするか、逆にキャッシュメモリを他のデータ用に解放した場合、可能性が広がります。システムは、要求のピークまたは複雑に編成された要求に備えることができます。ホットデータスポット」。



ストレージ最適化の規模はどのくらいですか？サーバーソフトウェア/ハードウェア、インフラストラクチャ（SAN）も対象ですか？ソフトウェアスタックとハードウェアスタックを緊密に統合する必要がありますか？



パフォーマンスエンジニアリングの観点から、システムは全体として、つまり、アプリケーション、ホスト（サーバー）、ストレージインフラストラクチャ、（SAN）、ストレージの複合体と見なされます。ストレージシステムへの要求を生成するのはアプリケーションであるため、アプリケーションがどのように機能するかを理解することが重要です。もちろん、これはすべて考慮されて使用されます。



ストレージシステムでさまざまなタイプのドライブを使用するための最適なオプションは、階層型データストレージであると考えられています。ストレージのパフォーマンスを向上させる手段として、ティアリングを検討できますか？



一般的に言って、ティアリングはキャッシングに似ています-それらは共通の要素を持っています。唯一の違いは、キャッシュされるとデータが複製されることです。つまり、データはSSD（キャッシュ内）とディスクの両方に配置され、階層化が1か所にのみ保存されることです。つまり、キャッシングがパフォーマンスを最適化する方法である場合、ティアリングも最適化方法と見なすことができます。



パフォーマンス分析とシステム最適化の観点から、ソフトウェア定義ストレージ（SDS）の長所/短所はどこにありますか？たぶん、これらはより単純でより柔軟なソリューションですか？



実際、まったく逆です。 SDSは、相互に作用する多数のサーバーで構成される分散システムです。特別なオペレーティングシステム、ある種のファイルシステムが使用されている場合、これも複雑さを増します。エンジニアリングの観点からは、これはより困難ですが、いくつかの点でより興味深いものです。一方、SDSには通常、厳密なパフォーマンス要件はありませんが、従来のストレージシステムはより厳密です。ソフトウェア定義のシステムで許可されていることは、従来のストレージでは許可されません。



同社の目標の1つは、人工知能、IoT、および第5世代ネットワーク向けに最適化された製品を開発することです。これはどれくらい難しいと思いますか？これらの製品はどのようになりますか？



現在、ファイルストレージは、トレーニングやモデル構築のために生データをAIに保存するためによく使用されます。つまり、SDSです。つまり、これらはほとんどの場合、分散ソリューションです。私の意見では、多くの企業が現在AIを実験として使用しており、AIを見て、それがどのように役立つかを理解しようとしています。したがって、ハードウェアの要件はそれほど厳密ではありません。それが機能する場合-まあ、それは機能しません-あなたは1日か2日待つことができます。企業でのAIの作業がより重要になるにつれて、ディスクサブシステムの要件も重要になります。 AIとInternetofThingsの新しいストレージソリューションはすでにミッションクリティカルなクラスです。



YADROとグローバルテクノロジー企業とのパートナーシップは、ソフトウェアの最適化においてどのような役割を果たしますか？



技術者の観点から、それは確かに役立ちます。このような協力により、エンジニア同士のコミュニケーション、情報へのアクセス、既成の開発が容易になり、毎回「車輪を再発明」する必要がなくなります。



ストレージにおける仮想化の役割をどのように見ていますか？ソフトウェアのボトルネックを取り除くのに役立ちますか、またはその逆ですか？また、システムのパフォーマンスと信頼性はどのように関連していますか？生産性を高めながら信頼性を維持できますか？

もちろん、仮想化は複雑さを増しますが、あるストレージ機能を別のストレージ機能から分離するのに役立つ場合があります。一般に、これらは追加のコストと複雑さであるため、慎重に検討する必要があります。



生産性の向上に関しては、途中で信頼性を失うことは確かに簡単です。これは一種の二元論です。たとえば、サーバーについて話すとき、高性能サーバー（HPC）の場合、通常、信頼性が2番目になります。ストレージシステムは通常、最初に高可用性、機能、およびパフォーマンスを提供する必要があります。冗長性レベルの信頼性が高まると、システムはより複雑になります。要素を同期する必要があります。ただし、システムのパフォーマンスは必然的に低下します。開発のタスクは、この影響を最小限に抑えることです。



現在、ストレージクラスメモリ、永続メモリなどの新しいクラスのメモリがあり、フラッシュドライブが改善されています。これはシステムアーキテクチャにどのように影響しますか？ソフトウェアはこれらの変更に対応していますか？



まあ、少なくとも彼はしようとします。一般に、高速メモリの出現により、パフォーマンスエンジニアの業界での作業方法が大幅に変わりました。 SSDが登場する前は、ITパフォーマンスの問題の大部分はストレージI / Oに関連していました。プロセッサよりも何桁も遅い機械的要素を備えた高速プロセッサとディスク（HDD）があるためです。したがって、アルゴリズムを犠牲にして、低速ディスクからの遅延を平滑化する必要がありました。



高速メモリとアルゴリズムの出現により、変更する必要があります。アルゴリズムが十分に重い場合でも、ディスクがはるかに遅いため、以前は役に立ちました。メカニックの遅れを隠すことができれば、それは良いことです。 SSDの登場により、ソフトウェアの動作は異なるはずです。 SSDから最大速度を取得するには、最小のレイテンシーを導入する必要があります。つまり、ディスクからレイテンシを隠す複雑なアルゴリズムの必要性が減少しました。応答時間に特に敏感なI / O集約型データベースは、SSDに移行できます。



これにより、ストレージアーキテクチャが変更されますか？はいといいえ。ディスクがどこにも行かなかったからです。一方では、コードはSSDで動作できる必要があります。つまり、非常に高速である必要があります。一方、メカニカルディスクは、ストリーミングなど、十分に耐えられる負荷を使用します。同時に、ディスクのサイズは何倍にもなりましたが、速度は10年前と同じままです。