腾讯雲負荷均衡CLB高可用性アーキテクチャ: どのようにしてあなたのビジネスシステムを「泰山のように安定させるのか?
インターネットの世界で、2つのことが設計者と上司に最も注目されている。1つは業務が突然爆発し、サーバーが瞬時に崩壊したことであるもう一つは、あるサーバが何の兆候もなくダウンしていることですユーザー集団がアクセスできなくなります。
この問題を解決するために、みんなは基礎層で「集団殴り戦術」をしています。しかし、問題は次のようになった。こんなに多くのサーバ、ユーザーの要求はいったい誰に送るべきなのか?誰が暇なのか?誰がもう我慢できないのか?誰が実は「死んでいる」のか?
このとき、ロードバランシング (Cloud Load Balancer、CLB) が登場する番になった。経験豊かな「交通警官兼救急隊員」のように、すべてのサーバーの先頭に立って、大量のユーザーのトラフィックを均一に、スマートに後ろのサーバーに配布する。
今日は掻いてみましょう
テンセントクラウドCLBの高可用性アーキテクチャ
。あいまいな専門用語を話さず、大きな口語と人間の視点で、腾讯雲がどんなハードコア手段を使っているのかを見て、極端な災害の下でも業務は依然として「馬が走る、踊る」ことができる。
一、なぜ単独機の高可用性が「偽命題」なのか?
CLBの枠組みについて話す前に、私たちはまず共通認識を達成します
どんなハードウェアや単点システムでも壊れてしまう可能性がある。
創業したばかりのチームの多くは、私は最高の高級車を買って (非常に高いクラウドサーバーを買って) 、私の業務は安定していると思っている。しかし、現実的には、光ケーブルが施工チームによって切断されたり、機械室が停電したり、マザーボードが焼失したり、システムパッチがアップグレードされたりしてブルースクリーンを引き起こす可能性がある。
だから、本当の安定は「悪くない」と賭けているのではなく、「壊れているが、すぐにスペアタイヤの頂上があり、ユーザーは全く発見できない」としている。
腾讯雲CLBは本質的に流量の集散センターである。このセンターが自分でハングアップしたら、後ろに何千台ものサーバーがあっても無駄になる。そのため、CLB自身の高可用性設計は、ビジネスシステム全体の命の扉である。
二、腾讯雲CLBの「三層防御線」: 単体から都市横断まで
腾讯雲CLBが99.99% 以上の可用性を実現できる秘訣は、下から上に三層の銅壁の鉄壁を建設したことである。私たちは次のように見てみましょう
第一の防御線: データセンター内の「双機ホットスペア」とクラスター化
もしあなたが腾讯雲で最も基礎的なパブリックネットワークCLBを買ったら、あなたはipアドレスを1つしか買っていないと思っていますが、実際、腾讯雲は下の階であなたのために準備しています
高可用性クラスタ
。
4層負荷分散 (LVS/DPDKベース): 全クラスタのアーキテクチャを採用しています。簡単に言えば、たくさんのサーバがあなたのトラフィックを担いでいます。いずれかの物理サーバは「突然死」し、基盤となるルーティングプロトコル (OSPF/ECMP) はミリ秒レベルでトラフィックをクラスタ内の他のヘルスサーバに自動的に切り替えます。
7層負荷分散 (Nginxベース): マスタースペア (Master-スレーブ) またはマルチアクティブモードを採用。
マスターノードのハートビートが停止すると、スペアノードはすぐにジョブを引き継ぎます。
実写翻訳:
ボディーガードを雇ったと思ったが、実は後ろにボディーガードが立っている。そのうちの一人が倒れ、後ろの人はすぐに位置を補充し、ユーザーはwebページのカールトンさえ感じない。
第二の防御線: 同城「同城双活/多区分」
最初の防御線は「ある機械が壊れた」という問題を解決したが、もし機械室全体 (利用可能エリア) が大変だったら?例えば、ある豪雨の日、A室は不幸にも浸水して停電した。
このような「黒鳥」事件を防ぐために、テンセント雲CLBは支持しています。
利用可能エリア間で高可用性
。
CLBを構成するときは、「広州二区(主) 」と「広州三区 (予備) 」に配置することができます。この二つの利用可能な地域は物理的に数十キロ離れており、独立した電力供給とネットワークを持っている。
通常の状況では、トラフィックは主に主に使用可能なエリアから入ってきます。
極端な状況では、広州二区は完全に連絡を失って、腾讯雲のDNSと基礎ネットワークは自動的にエクストラネットトラフィックを広州三区の予備CLBに切り替える。このプロセスは通常数秒で完了します。
第三の防御線: Anycastネットワークを組み合わせたグローバル/地域間の高可用性
もしあなたの業務レベルが「いかなる形式の単一地域災害も受け入れられない」 (例えば華南地域全体のネットワークバックボーンが切断されている) ほど高いなら、CLBはテンセント雲に協力することもできる
Anycast (任意放送)
技術を世界の高可用性にアップグレードする。
簡単に言えば、世界の複数の異なる都市の機械室が同じCLBのipアドレスを公開している。北京のユーザー訪問会は近く北京の機械室に入ります。上海のユーザーは上海の機械室に入ります。上海の機械室全体が利用できなければ、インターネットは自動的に上海に行ったトラフィックを北京や武漢に引き寄せます。このような「空間交換安全」のやり方は、現在のインターネットのトップレベルの防災配置である。
三、自分だけが安定していない: CLBはどのようにバックエンド・サーバの世話をしているのか?
CLBは自分で「金剛は悪くない」としていますが、後の業務サーバ (CVM/Lighthouse) がチェーンを外さないようにするにはどうすればいいですか?ここには二つの核心的な仕組みがあります。
1.ミリ秒レベルのヘルスチェック
CLBは厳しい監督のようで、数秒ごとに後ろのサーバーのドアをノックします (Ping、TCPハンドシェイク、HTTPリクエストを送信します)。
監督: 「1番サーバー、あなたはまだ生きていますか?」と言いました1番「生きていて、すべて正常です。」と言いました数秒後…… 監督者は「1日、まだ生きていますか?」と言いました1番: (メモリがオーバーフローしたため、応答しなかった) 監工: 「悪い、1番に股を引いた、すぐに列から出て!後ろの流量は全部2番と3番です!」と言いました
1番のサーバが管理者によって修復され、再オンラインになった後、CLBはそれが回復したことをチェックし、自動的にチームに追加します。プロセス全体
自動化、ゼロ人工介入
。
2.複数の知能スケジューリングアルゴリズム (材料による教育)
異なる事業
業務シーン、トラフィックを配布するポリシーも異なります。CLBはいくつかの賢いプレイを提供しています:
加重ポーリング (WRR): あなたの後ろに2台の機械があれば、1台は4核8Gの老臣で、1台は16核32Gのハマーです。ハマーにもっと高い重みを設定して、もっと流量を担わせることができます。
加重最小接続数(WLC): 誰が今手元にたまっているアクティブな接続が最も少ないのか、新しいお客さんを誰に割り当てる。ゲームや長い接続業務に最適です。
ソースアドレスハッシュ (Source Hash): ユーザーのipアドレスに基づいてサーバを固定的に割り当てます。これにより、同じユーザーが常に同じバックエンドサーバにアクセスし、ログイン状態 (Session) を維持することが保証されます。
四、実戦ピット回避ガイド: CLBの高可用性をどのようにして本当に搾り出すのか?
多くのクラスメートは腾讯雲でCLBを買ったが、業務はよく崩れている。ここでは、実際の運送次元でよく雷を踏む「真人のピット回避経験」をいくつか紹介します
卵を使用可能なゾーンに入れないでください。CLBを購入するときに使用可能なゾーンを選択しましたが、後にマウントされたクラウドサーバ (CVM) は「広州二区」で購入するのが面倒です。その結果、二区がハングアップすると、CLBはしっかりしているが、後ろには仕事ができるサーバーがなく、「空殻司令官」になった。正しい方法は、CLBが空き領域を越え、バックエンドのサーバも異なる空き領域に均等に分散することです。
「会話の保持」をオンにしたことを覚えていますが、悪用しないでください。もしあなたのサイトにログインが必要なら、会話の保持をオンにすると、ユーザーがページを更新して不可解にオフラインになるのを防ぐことができます。しかし、セッションが保持する時間が長すぎると、トラフィックの配布が不均一になる可能性があります (大規模な顧客はすべて同じマシンに詰め込まれています)。
「優雅で断ち切らない」 (スムーズな移行を接続する): バックエンドのサーバをメンテナンスしてオフラインにする場合は、直接バインドを解除しないでください。CLBの「優雅期限超過」機能をオンにすると、既存の古いユーザーが手元の仕事を終わらせる (例えば、この書類を渡したり、支払いをしたりする) と同時に、新しいユーザーを配布しなくなります本当の「无感メンテナンス」を実现します。
五、結語: 高可用性、実は「保険」です。
システムが穏やかな時、負荷バランスCLBは静かなマイクのように見え、ネットワークリンクのホップ数を増やしたと感じる人もいた。
しかし、大促されたり、攻撃されたり、基礎的なハードウェアに物理的な故障が発生したりする生死の瀬戸際になると、CLBの高可用性アーキテクチャは、あなたの年末賞と会社の業務を守る「エアバッグ」である。基礎的な複雑さで表面的な簡単さと引き換えに、開発者は基礎的な物理的な細部を心配することなく、ビジネスロジックの作成に専念できる。
この「体験至上」の時代には、利用可能な畏敬の念が多く、業務は風雨の中で波を割って進むことができる。