موازنة التحميل السحابي لـ Tencent CLB بنية عالية قابلة للاستخدام: كيف تجعل نظام عملك "مستقرًا مثل جبل تاي" ؟

في عالم الإنترنت ، هناك شيئان يثيران قلق المهندسين المعماريين والرؤساء: أحدهما هو أن العمل قد انفجر فجأة وأن الخادم قد تم غسله على الفور ؛ والآخر هو أن الخادم معطل دون سابق إنذار ، مما يجعل المستخدمين غير قادرين على الوصول.

من أجل حل هذه المشكلة ، سينخرط الجميع في "تكتيكات القتال الجماعي" في الأسفل-نشر عدد قليل من الخوادم الأخرى. لكن السؤال جاء بعد ذلك: مع وجود العديد من الخوادم ، من الذي يجب إرسال طلب المستخدم ؟ من هو خامل ؟ من لا يستطيع الصمود بعد الآن ؟ من هو في الواقع "ميت" ؟

في هذا الوقت ، حان دور Cloud Load Balancer (CLB). إنه مثل "شرطي مرور وعامل طوارئ" متمرس ، يقف في مقدمة جميع الخوادم ، ويوزع كمية هائلة من حركة مرور المستخدم بالتساوي وذكاء على الخوادم التالية.

اليوم سوف نلتقط

بنية Tencent Cloud CLB عالية الاستخدام

. لا تتحدث عن المصطلحات المهنية الغامضة ، استخدم منظور اللغة العامية والأشخاص الحقيقيين لمعرفة الأساليب المتشددة التي تستخدمها Tencent Cloud للتأكد من أنه حتى في ظل الكوارث الشديدة ، لا يزال بإمكان العمل "الجري والرقص".

1. لماذا يمكن استخدام جهاز واحد عالي "اقتراح خاطئ" ؟

قبل أن نتحدث عن بنية CLB ، توصلنا إلى إجماع:

أي جهاز ونظام نقطة واحدة لديه القدرة على الانهيار.

يشعر العديد من الفرق الناشئة أنه عندما أشتري سيارة فاخرة (أشتري خادمًا سحابًا عالي التكوين) ، فإن عملي مستقر للغاية. ولكن في الواقع ، قد يتم قطع الكبل البصري من قبل فريق البناء ، وقد يتم انقطاع التيار الكهربائي في غرفة الكمبيوتر ، وقد يتم حرق اللوحة الأم ، وحتى ترقية تصحيح النظام يمكن أن تؤدي إلى شاشة زرقاء.

لذلك ، فإن الاستقرار الحقيقي لا يتعلق بالمراهنة على "أنها ليست سيئة" ، ولكن "إنها مكسورة ، ولكن هناك إطار احتياطي على الفور ، ولا يمكن للمستخدمين العثور عليه على الإطلاق."

Tencent Cloud CLB هو في الأساس مركز توزيع لحركة المرور. إذا تم تعليق المركز من تلقاء نفسه ، حتى الآلاف من الخوادم في الخلف ستكون بلا جدوى. لذلك ، فإن التصميم عالي الاستخدام لـ CLB هو مصدر الحياة لنظام الأعمال بأكمله.

2. "خط الدفاع المكون من ثلاث طبقات" لـ Tencent Cloud CLB: من آلة واحدة إلى عبر المدينة

سر توفر Tencent Cloud CLB بنسبة 99.99 ٪ أو حتى أعلى هو أنه بنى ثلاث طبقات من الجدران النحاسية والجدران الحديدية من الأسفل إلى الأعلى. دعونا ننظر إلى طبقة تلو الأخرى:

خط الدفاع الأول: "الاستعداد الحراري المزدوج" والتجمع في مركز البيانات

إذا اشتريت CLB من الشبكة العامة الأساسية في Tencent Cloud ، فأنت تعتقد أنك اشتريت عنوان IP واحد فقط ، ولكن في الواقع ، أعدت Tencent Cloud مجموعة كاملة لك في الأسفل

مجموعات عالية المتاحة

.

توازن التحميل المكون من أربع طبقات (استنادًا إلى LVS/DPDK): يتم استخدام بنية مجموعة كاملة. ببساطة ، هناك مجموعة من الخوادم التي تحمل حركة المرور الخاصة بك معًا. أي من الخوادم المادية "تموت فجأة" ، وسيحول بروتوكول التوجيه الأساسي (OSPF/ECMP) حركة المرور تلقائيًا إلى خوادم صحية أخرى في المجموعة في غضون ميلي ثانية.

توازن الحمل المكون من سبع طبقات (استنادًا إلى Nginx): يعتمد وضع Master-Slave أو الوضع متعدد المعيشة.

بمجرد توقف ضربات قلب العقدة الرئيسية ، تتولى العقدة الاحتياطية العمل على الفور.

ترجمة حية:

كنت تعتقد أنك استأجرت حارسًا شخصيًا ، لكن في الواقع كانت هناك شركة حارس شخصي خلف ظهرك. سقط أحدهم ، وقام الشخص الذي يقف خلفه على الفور بملء الموضع ، ولم يستطع المستخدم حتى إدراك أن صفحة الويب كانت متسرعة.

خط الدفاع الثاني: "حياة مزدوجة/مناطق متعددة في نفس المدينة"

خط الدفاع الأول يحل مشكلة "آلة معطلة" ، ولكن ماذا لو حدث شيء كبير في غرفة الكمبيوتر بأكملها (المنطقة المتاحة) ؟ على سبيل المثال ، في يوم ممطر بغزارة ، دخلت غرفة الكمبيوتر A للأسف وانقطعت الكهرباء.

من أجل منع هذا النوع من حادثة "البجعة السوداء" ، تدعم Tencent Cloud CLB

عالية المتاحة عبر المناطق المتاحة

.

عندما تقوم بتكوين CLB ، يمكنك اختيار نشره في "منطقة قوانغتشو الثانية (الرئيسية)" و "منطقة قوانغتشو الثالثة (جاهزة)". يتم فصل المنطقتين القابلة للاستخدام فعليًا بعشرات الكيلومترات ، مع إمدادات طاقة وشبكة مستقلة.

في ظل الظروف العادية: تدخل حركة المرور بشكل أساسي من المنطقة الرئيسية المتاحة.

في الحالات القصوى: المنطقة الثانية من قوانغتشو فقدت الاتصال تمامًا ، وستحول DNS والشبكة الأساسية لـ Tencent Cloud تلقائيًا جميع حركة مرور الشبكة الخارجية إلى CLB الاحتياطية في منطقة قوانغتشو الثالثة. تتم هذه العملية عادة في غضون ثوان.

خط الدفاع الثالث: الجمع بين شبكة Anycast العالمية/عبر الإقليمية عالية المتاحة

إذا كان مستوى عملك مرتفعًا مثل "لا يمكنك قبول أي شكل من أشكال الكوارث الإقليمية الفردية" (مثل شبكة العمود الفقري للشبكة في منطقة جنوب الصين بأكملها) ، يمكن لـ CLB أيضًا التعاون مع Tencent Cloud

Anycast (Ren Ba)

ترقية التكنولوجيا إلى عالية المتاحة في جميع أنحاء العالم.

ببساطة ، يتم إصدار نفس عنوان IP CLB في غرف الكمبيوتر في العديد من المدن المختلفة حول العالم. ستدخل زيارات المستخدمين في بكين غرفة الكمبيوتر القريبة في بكين ، وسيدخل المستخدمون في شنغهاي غرفة الكمبيوتر في شنغهاي. إذا كانت غرفة الكمبيوتر في شنغهاي غير متوفرة ككل ، فإن الشبكة ستسحب تلقائيًا حركة المرور إلى شنغهاي إلى بكين أو ووهان. هذا النوع من "الفضاء مقابل الأمان" هو أفضل تكوين للوقاية من الكوارث على الإنترنت.

3. لا يكفي أن تكون مستقرًا: كيف يعتني CLB بالخادم الخلفي ؟

لقد حقق CLB "الماس ليس سيئًا" بنفسه ، فكيف يضمن أن خادم الأعمال التالي (CVM/Lighthouse) لن يسقط السلسلة ؟ هناك آليتان أساسيتان هنا:

1. الفحص الصحي بالمللي ثانية (الفحص الصحي)

CLB مثل المشرف الصارم ، الذي يطرق باب الخادم الخلفي كل بضع ثوانٍ (إرسال بينغ أو مصافحة TCP أو طلبات HTTP).

المشرف: "الخادم رقم 1 ، هل ما زلت على قيد الحياة ؟" رقم 1: "على قيد الحياة ، كل شيء طبيعي". (استمر في إرسال حركة المرور) بعد بضع ثوانٍ... المشرف: "رقم 1 ، هل ما زلت على قيد الحياة ؟" رقم 1: (بسبب تدفق الذاكرة ، لا يوجد استجابة) المشرف: "ليس جيدًا ، تم سحب الرقم 1 ، وانتقل من قائمة الانتظار على الفور! حركة المرور في الخلف كلها إلى رقم 2 ورقم 3!"

عندما يتم إصلاح الخادم رقم 1 من قبل المسؤول وإعادة الاتصال بالإنترنت ، يتحقق CLB من أنه تمت استعادته ، وسوف يعيدها تلقائيًا إلى الفريق. العملية برمتها

الأتمتة ، صفر تدخل بشري

.

2. خوارزميات جدولة ذكية متعددة (تعليم الطلاب وفقًا لقدراتهم)

مختلف الصناعات

في سيناريو الخدمة ، تختلف استراتيجية توزيع حركة المرور أيضًا. يقدم CLB العديد من طرق اللعب الذكية:

الاستعلام المرجح (WRR): إذا كان لديك جهازان خلفك ، أحدهما وزير قديم ذو 4 نواة 8G ، والآخر هو جبابرة من 16 نواة 32G. يمكنك تعيين وزن أعلى لـ Titans والسماح لها بحمل المزيد من حركة المرور.

الحد الأدنى من الاتصالات المرجحة (WLC): كل من لديه أقل اتصال نشط في متناول اليد الآن سيخصص ضيوفًا جدد لمن. مناسبة جدا للألعاب أو خدمات الاتصال الطويلة.

Source Hash (Source Hash): يتم تثبيت خادم التوزيع وفقًا لعنوان IP الخاص بالمستخدم. يمكن أن يضمن ذلك أن نفس المستخدم يمكنه دائمًا الوصول إلى نفس الخادم الخلفي لفترة من الوقت ، مما يسهل الحفاظ على حالة تسجيل الدخول.

رابعًا ، دليل تجنب الحفر في القتال الفعلي: كيف تضغط حقًا على المستوى العالي المتاح لـ CLB ؟

اشترى العديد من الطلاب CLB على Tencent Cloud ، لكن أعمالهم غالبًا ما تنهار. فيما يلي بعض "تجارب تجنب الحفر للأشخاص الحقيقيين" التي غالبًا ما تخطو على الرعد في التشغيل الفعلي والصيانة:

لا تضع البيض في منطقة قابلة للاستخدام: عند شراء CLB ، اخترت المنطقة القابلة للاستخدام ، لكن الخادم السحابي (CVM) الذي تم تثبيته لاحقًا كان جشعًا لتوفير المتاعب وشرائه في "منطقة قوانغتشو الثانية". نتيجة لذلك ، تم تعليق المنطقة الثانية ، وعلى الرغم من أن CLB قوي ، لم يكن هناك خادم للعمل في الخلف ، وأصبح "قائد الصدفة". الشيء الصحيح الذي يجب فعله هو: CLB يمتد عبر المناطق القابلة للاستخدام ، ويجب أيضًا توزيع الخوادم الخلفية بالتساوي في مناطق قابلة للاستخدام المختلفة.

تذكر أن تفتح "الاحتفاظ بالجلسة" ، ولكن لا تسيء استخدامها: إذا كان موقع الويب الخاص بك بحاجة إلى تسجيل الدخول ، فإن فتح الجلسة يمكن أن يمنع المستخدمين من التوقف عن الاتصال بالإنترنت عن طريق تحديث صفحة الويب. ومع ذلك ، إذا تم ضبط الجلسة لفترة طويلة جدًا ، فقد يؤدي ذلك إلى توزيع غير متساوٍ لحركة المرور (يتم ضغط جميع العملاء الكبار على نفس الجهاز).

استفد جيدًا من "الأناقة" (الاتصال والترحيل السلس): عندما تريد صيانة خادم معين في النهاية الخلفية دون اتصال بالإنترنت ، لا تقم بفك الارتباط مباشرة. قم بتشغيل وظيفة "Achievable" الخاصة بـ CLB ، وستسمح للمستخدمين القدامى الحاليين بإكمال العمل في متناول اليد (مثل تمرير هذا الملف ودفع هذا النموذج) ، وفي نفس الوقت لم يعد توزيع المستخدمين الجدد على الماضي ، وتحقيق "لا شعور حقيقي" الصيانة ".

5. الخاتمة: الاستخدام العالي هو في الواقع نوع من "التأمين"

عندما يكون النظام هادئًا ، يبدو CLB موازنة التحميل وكأنه ميكروفون غير معروف ، حتى أن بعض الناس يعتقدون أنه يزيد من عدد قفزات روابط الشبكة.

ولكن بمجرد أن تصل إلى لحظة الحياة والموت عندما يكون هناك ترويج كبير أو هجوم أو عطل مادي في الأجهزة الأساسية ، فإن البنية عالية الاستخدام لـ CLB هي "الوسادة الهوائية" التي يمكنها الحفاظ على مكافآت نهاية العام وأعمال الشركة. إنه يتبادل تعقيد الطبقة السفلية للبساطة السطحية ، مما يسمح للمطورين بالتركيز على كتابة منطق العمل دون القلق بشأن التفاصيل المادية للطبقة السفلية.

في عصر "الخبرة أولاً" هذا ، مع وجود رهبة أكبر من Gao القابل للاستخدام ، يمكن للأعمال أن تكون أكثر ثقة في كسر الأمواج في الرياح والأمطار.