みなさん、今日はスケラブエレバスバックエンドを紹介しますクーバネティスとECMPを使用しています私の名前はしゅんやきただ私はプライビルクラウドエンジニア日本のインフラクトスタクチャーティームです2030年からプライビルクラウドエンジニアを参加しました私はプライビルクラウドエンジニアを開発しています私はユースケタツミですこんにちは、私はユースケタツミです私はプライビルクラウドエンジニアを参加しました私はプライビルクラウドエンジニアを参加しましたでは、私はプライビルクラウドエンジニアのアジェンダーですまず、私たちは日本のインフラクトスタクチャーティームについてお話しします次はバッククラウドエンジニアのモチベーションです次に、私たちはロードバーシングシステムのバッククラウドエンジニアのモチベーションとしてお話しします最後に、私たちはモチベーションとインフラクトスタクチャーティームのモチベーションとしてお話ししますまず、私たちは日本のインフラクトスタクチャーティームについてお話しします日本は日本の大きなポータルサイトです私たちはバリアスサービスを購入し、ユース、ショーピング、ウェザーフォーキャスサービスを購入しました私たちは100万サービスを購入しました私たちは毎日インターネットで通過しています私たちは多くのサービスを使って、多くのコンピューティングリソーシスを使っています私たちのコンピュートリソーシスはバーチャルマシンを購入しました今、私たちはオープンスタックでこのスケールにより、コンピュートリソーシスを購入しました最近、このトピックを行いますコンピューターのオーケストレートのオープンスタックを紹介していますスケラブルコンピュートリストのパークラスターと、ロードバンサーのスケラブルコンピュートリストのパークラスターです今日は、スケラブルコンピュートリストのアクティビティを紹介します次に、このプレゼンテーションのバックランドとモチベーションを紹介しますまず、ロードバンサーのリクエメントを紹介しますこのプレゼンテーションは、ホワイトボックス、スケラブルコンピュートリスト、高いアベラビティ、エジ2オペレーションを紹介しますまずは、キャラクターリストの3枚のエクスティングのバックエンドを紹介していますこの一部のオクタビアやアプランサーのロードバンサーを紹介しますまず、エジ2オペレーションのバックエンドを紹介してくださいエジ2オペレーションが使用されていますこれを前にこのエジ2オペレーションの弊社の駅にリプロクシーのバックエンドを紹介しますビップは和らんで、エジ2オペレーションのビップスポットがLVに乗ることは人間の事を受けますそして、HAProxyをリスティングしているために、バース2のバッグに対するコンテンツを取り入れることができます。HAProxyは、簡単なサービスを使うことができることができます。しかし、このエンバイオメントは、未来の高さによりも高さにあることができます。そして、パワーマンスケーリングは、オクタービアバッグに対しています。オクタービアバッグに対してLVノードのVMを作り、オクタービアアジェントがLVノードに対してBIPスポートをアタックします。そして、HAProxyをリスティングしているために、バース2のバッグに対するコンテンツを取り入れることができます。この場合は、HAProxyのバッグに対することができます。この場合は、エンバイオメントに対することができます。高さのエンバイオメントで、パワーマンスケーリングを作り、最後に、アプラインスロードバンサーを作り、リストAPIを使って、ネタのエルバスを使って、アプラインスロードバンサーが高さ、高さのエンバイオメントで、アプラインスロードバンサーを使って、この場合は、サービスライフを調節しているため、パワーマンスケーリングがドラオンの温度を少しずつ、バーバンスケーリングを解決するため、エンバイオメントの温度を少しずつ、スタッグレスに、このバーバンサーが多く、エヴォンスタッグレスのラウンドを、オフェンスタッグレスのラウンドを設定させるために、アプラインスロードバンサーを製作するために、これをアプラインスロードバンサーに対して、です。このバッグを設定させて、ロードマッシングシステムについて新しいロードマッシングシステムについて今日はロードマッシングシステムのデザインとフロスフィールを share with youそして私たちは良い and weak points of both opinions次はシステムオーバービューまずは高級システムオーバービューこのシステムは3個1. トラフィックディスリビーション2. オーケストレーションLVリソーシー3. クバネティス3. オペレーションクバネティス2. ニュトロンコントローラーそれでは一つのディープダイブを行いましょうまずはトラフィックディスリビーション始めますトラフィックディスリビーションこの3つを確認しますBGP, VARD, and ECMPまずはBGPボーダーゲートウィープロトコープロトコーはインターネットサービスプロバイダーでBGPスピーカーがソケットでローティンのローティンのローティンのローティンのローティンのナイバースのローティンのローティンのインファンションが発生します次はバードバードはダイナミックアイピーローティングデーモンBGPプロトコーとラッターバードのローティンのローティンのローティンの3つは ECMP ECMPはローティンのローティンのローラルエントリーは同じディステレビューションがディファイントゲートウェイを使っていますRouterはECMPメソッドを使うことができますこの場合 トラフィックがIPハッシングでエンダーゲートウェイを配置することができますでは トラフィックディステレビューションを詳しく説明しますまず 新のビープがルートリフレクターでアドバイスすることができますルートリフレクターはリレーアポイントを使うことができますローラルエントリーは更に弱いことを作ることができますローラルエントリーはローラルアドバイスにアドバイスすることができますこのシステムはローラルエントリーを使ったことができます外側からのアクセスを使わない時 アクセスは1個のノードを取り除きますさらに、ノードが下がると、ルートのノードが使われることができます。このプロセスはノードのアスペクティブについて全てのレソースをオケストレートすることができます。全てのレソースをLBに付けたことがクーバネテスに付けたことができます。このシステムで、クーバネテスのサービスレソースはサービスをキロとしてクーバネテスはくび込んでいます。そして、サービスのリレーションの後でモスターランドバンサーをアクトすることができます。外出としては、ソフトランドバンサーです。コンフィレーションのハープロクセスはクーバネテスのコンフィグマップに寄り出されています。そして、コンフィレーションはクーバネテスをクリーバネテスにアクトランクのコンフィグマップにクバネティスノードを使ってこのシステムをプレイしてリソースプールをスキルすることができます詳細を説明します最初はクバネティスのサービスリソースはクバネティスのサービスリソースですこのIPアドレスはニュートロンではありませんクバネティスではありませんこのフィギュアがクバネティスについてクバネティスをクバネティスについてクバネティスについてエンジンソンのステージをプレイして実際にクバネティスはコンフィニティスビニュースになっていることができますクバネティスはNCMのサービスリソースをクバネティスのサービスリソースのコンフィギュアでその通りを行いますクバネティスのサービスリソースをクバネティスでクバネティスビニュースをバッグエンドのためにサブスチークエンドの中でバッグエンドに 同じバッグエンドのためにこのプロセスは今のモジュールで 生産されているこのシステムでソフトロードバーサブとアダフトのエッジエプロクシーに 改善するために簡単な理由がありますだって他の人たちがエッジエプロクシーに 学んだことがあるソフトロードバーサブはローズバンサーのオペレッティングを再現しています最後はコントラーコンポーネントですコントラーコンポーネントはヘルムですヘルムは1つのパッケージマネージャーでクバネティシーのマニフェストファイルですセントウエスのYAMのようなものですパッケージはマニフェストファイルですセントウエスのRPMのようなものですティラーはコントラーデモンですクバネティスのリソーシーを使用します例えばクレイターンポートのチャットを準備しますヘルムのインストールコマンドを使用しますこのコマンドのリクエストはティラーですチャットマニフェストのようにティラーはクバネティスのポートを使用しますヌートロンコントラーのパスペクティブはヌートロンエルバスプラグインがヘルムラッパーを使用しますそしてヘルムを使用しますコマンドのインストールで例えばロードバンサーを作成する時ヘルムインストールコマンドを使用しますロードバンサーをアップデートする時ヘルムアップクラウドコマンドを使用します実際にヘルムコマンドを使用するとヌードランはロードバンサーをオペレットする必要はありませんヌードランのアクターのロールはパイアートピープそしてアクチャローケストレーションはクーバネで提供されています次はデモンストレーションですデモンストレーションをお見せしますこのデモンストレーションはロードバンサーをクリエイターする必要がありますまずロードバンサーをクリエイターする必要がありますロードバンサーはクリエイターする必要がありますクバネでサービスをクリエイターする必要がありますロードバンサースタッドコマンドのステータをチェックしてみますこのコマンドはクーバシータルゲットポートを受けますこのステータのステータをチェックしてみますこのステータが28秒前から通ったことがあります次にロードバンサースタッドコマンドのビップをクリエイターする必要がありますしかしこのロードバンサースタッドコマンドはまだポートを受けませんこのビップはこのビップではないのですロードバンサースタッドコマンドのリスナーをクリエイターする必要がありますロードバンサースタッドコマンドのリスナーをクリエイターする必要がありますこの時、HTMLは取り入れていますが、ステータはアビルを受けますまだメンバーはないので、プール、メンバー、ヘルスモニターをクリエイターする必要があります1.クリエイターするプール2.クリエイターするメンバー3.クリエイターするヘルスモニターここで、HTMLのコンフィルをチェックしてみましょうこのロードバンサースタッドコマンドのリスナーを受けますこのコマンドはクリエイターする必要がありますHTMLのコンフィルをチェックしてみますまた、クリエイターする必要があります次に、シンプルフォルトテースを表現してみますこのロードバンサースタッドコマンドで、1.クリエイターするプールを受けますそして、1.クリエイターするプールを受けますそして、1.クリエイターするプールを受けますそのプールを受けますまた、クリエイターのプールを受けますそして、パールを消対すっぽりシンプルフォルトの待ちをこ縮し、この装置はクバネティスで開催されていますネートローンエルバスはスキルのインターフェイスでこのクバネティスを作るためにネットローンエルバスのインターフェイスを作るためにこのクバネティスを作るために次はパフォーマンス価値の等についてこの装置はこのロードバンスの価値に価値ですこの装置はこの装置の効果が数回のパフォーマンスでこのプロジェクトの効果が3個目の試験についてお伺いします。ポッドスケーリング、ポッドリミュレーション、ノードスケーリングについてお伺いします。試験の結果についてお伺いします。試験のセッティングについてお伺いします。Http RPSを使用して、クライアントとエンジンXを使用して、バックエンドについてお伺いします。バックエンドは、Httpベンジマーキングソフトウェアで、Httpデモの高発生デモを使用しています。このセッティングで、クライアントとバックエンドは、ボトルネックについてお伺いします。テールレテンシーで、バックエンドの上に30mmのセッティングを設定しました。19.9%のセッティングで、バックエンドの上に30mmのセッティングを設定しました。まず、ポッドスケーリングを使用して、4ノーズのセッティングで、このセッティングを構成するための、パフォーマンスが同じように、ポッドブラウンドの上に増して、そのため、このセッティングのまるくタパスティーを、ポッドブラウンドの上に増員し、脅量を足して、 angel軸の上に増えるための、スケーリングを使用して、それを使用して、くらうことをスケーリングするための、4.0kgと8kgの成長をして、サチュレーションを使用して、このスケーリングを使用して、このスケーリングの製造のための、大量の成長の効果は非常に高いことです。例えば、iP 作業ネットワークトポジーはとても良いです。次に、アップルリミットのコンピュータの順序の詳細は、1ノードの1つのクレスを見ると、RPSが発生する時に、8ポーツがより良いと言い聞くことができます。8ポーツでこのセッティングの最良の行動が、さらに48ポーツが必要となっているのですが、このシステムは4つのCPUコアが必要です。他にも、8ポーツはリニアパフォーマンスの改善が必要となります。この辺りのCPUマイクレジオンがドラマティカルに増えます。そのため、このシステムのレッテンスの高さとなります。CPUコアアフィンティメソッティはこのシステムの高さとなっているのですが、CPUコアアフィンティメソッティはこのシステムの高さとなっているのです。最後に、ノードステーリングを調整します。前回のスライドでは、8ポーツのノードステーリングを調整します。このグラフについては、リニアパフォーマンスの改善が必要となっているのです。この結果、ノードステーリングが必要となっているのです。このシステムについては、ユースケースの詳細です。 when we use more RPS、all we need is to create more pods. it is much better with using pod alt-scaling mechanism according to some road metrics such as CPU or networking utilization. Also when we need more capacity of hold system, we just add more nodes.この使用でこのロードバーシング システムでパフォーマンスとキャパスティーを計画することができます最後にオペレーション最初はモニタリングトゥースを使ってフォローリングトゥースを使ってセンス、グラファイト、グラファーナー、スプランクを使ってセンスはモニタリングトゥースを使ってセンスはモニタリングプロセスとサービスリソーシーを使ってセンス、サービスリソーシー、メトリックスとグラファイトグラファイトはメトリックスを使ってグラファーナーはメトリックスがグラファイトを使ってまた、メトリックスを使ってエチアプロクシーのエチアスタートを使ってセッション、バッグ、ヘレスを使って最後はスプランクスプランクはログリングトゥースを使ってモニタリングログのクマネティスとバードを使って例えば、TCP、タイマーやコネクションエラーを使ってこのトゥースは、アープラビットオープンスタッグクラスターを使ってこのシステムもこのトゥースを使って次は、インシネンツのタクシャルを使うウォーニングケースとクリティカルケース1.ウォーニングケース1.ウォーニングインシネンツはバッグ&サーバーがクロックされたエチアプロクシーのヘレスチェックでこの通り、5mmセッグのインターバスを3個のエチアプロクシーを使って私たちも、エチアプロクシーでミリセッグのインターバスを使って2.ティラースレスポンスがリスポンスがとても弱くなり、ヌートロンのエピアが止まってしまうのです。リスポンスのアマウントのリソーシーが3つのアマウントが増えられます。この時、リスポンスのアマウントが1,000点増えられます。リスポンスは数十分で増えられました。そのため、ヌートロンのネームスペースで増えられます。数十分で増えられます。リスポンスのアマウントが増えられます。リスポンスのアマウントが増えられます。次はクリティカルケースです。クリティカルケースの最初のインシテントは、クリバネティスのカーネルパーニックの2つのコーヒー。カリコースのログが増えられます。このインシテントに増えました。CPUスタックとカーネルパーニックのコーヒーです。カーネルのログのコーヒーを増えられます。2つのコーヒーは、一度下のコーヒーを増えます。自分の大きな状態に次ぐらい下がってクーベルトが下がってクーベルトはこの状態に引き出しもう一度下がってクーベルトが下がってクーベルトが下がってそして下がってそのため アルケティパーのノードを減らせることができますこのプログレーションは エンベローメントの中に起こっていますそのため 気をつけてください最後はこのプレゼンテーションのサマリーですロゾバンスターのリクエメントを再現しますファイトボックス、ハイパフォーマンス、ハイスケラビーティ、ハイアベラビーティ、エジティオプリレーションですしかし エジティンの課題はこのリクエメントが適切ですそのため 新たなロゾバンスターのシステムを作りましょうこれを オASSで作りましょうファイトボックスを作りましょうプログレーションのパフォーマンスを使用するために エジェプロクシーポーツを使用しますパフォーマンスを減らせるために エジティスケラビーティの数を減らせますやっぱり リソウスプールを減らせるための investigation by increasing the number of nodesQ保健者にもザンプ エジティンシ雨のパフォーマンス特にさらにいいボンディス ToolNWES DPDK XDP 8セートラーOK thank you for your attentionAny questions?You mean do I build the driver from Newton to...Did you answer that question?Ready for the next question?I'm just going to go.So ECMP on the front end is super powerfulBut one challenge that we've had in our infrastructureis when we lose one of the front end nodesthat actually is receiving the first packet from ECMPIt's really disruptive when we lose itand then try and reinsert the nodebecause the ECMP hash immediately starts forwarding to that nodeSo I was wondering if you guys had any advice on what you did to address thatハッシュがバランスシングスリハッシュされたときに言われちゃうので何かアドバイスない?なんかすらになったときありますねそらない?なんて言ったいいの?答える?もう一度Because all communication paths are changed due to rehashingTCP socket are disconnectedand reconnection of TCP socket is requiredThis mainly happens when adding one nodeSo we want to avoid this program as wellIf I can decide both choices with a consistent hashInstead of randomI think that the impact can be reducedSo consistent hashing you said?NoKind is random choice and portAre you doing anything to ensure that that node is ready to accept trafficbefore reintroducing it into the system?Selectively advertising the VIP northbound or anything?YesThat's rightWe were in the language barrierSo we thinkTo avoid this situationRecently hash-based module of IP tables is necessarySo do I try to build module to avoid this situation?Anyway, some module is needed, we thinkOkay, cool, thanksIs the code that you wrote for the neutron to KubernetesIs that available as open source?Or is that currently still being worked on?オープンスコースで開いて開いたドライバーはさオープンスコースにするかどうかみたいなオープンスコースなの?NoNo, but I triedIt was printDo you try to open your driver?Oh, yeahSo currently, noDo you want to use or do you want to tryIn case we want to try itSo we try to open this driverOkay, thank youAnyway else?Okay, thank you for your attentionThank you