Tencent Cloud Load Balancing CLB สถาปัตยกรรมที่มีความพร้อมใช้งานสูง: จะทำให้ระบบธุรกิจของคุณ "มั่นคงเหมือนภูเขาไท่" ได้อย่างไร?

ในโลกอินเทอร์เน็ตมีสองสิ่งที่ทำให้สถาปนิกและเจ้านายกังวลมากที่สุดอย่างหนึ่งคือธุรกิจระเบิดอย่างกะทันหันและเซิร์ฟเวอร์ถูกทำลายทันทีอีกอย่างคือเซิร์ฟเวอร์หยุดทำงานโดยไม่มีการเตือนล่วงหน้าทำให้ผู้ใช้ไม่สามารถเข้าถึงได้โดยรวม

เพื่อแก้ปัญหานี้ทุกคนจะมีส่วนร่วมใน "กลยุทธ์การต่อสู้แบบกลุ่ม" ที่ด้านล่าง-ปรับใช้เซิร์ฟเวอร์เพิ่มเติมอีกสองสามเครื่องแต่คำถามก็มา: ด้วยเซิร์ฟเวอร์จำนวนมากใครควรส่งคำขอของผู้ใช้? ใครว่าง? ใครไม่สามารถถือมันได้? ใคร "ตาย" จริง?

ในขณะนี้ถึงคราวของการจัดสรรภาระงาน (Cloud Load Balancer, CLB สำหรับระยะสั้น) เปรียบเสมือน "ตำรวจจราจรและผู้ปฐมพยาบาล" ที่มีประสบการณ์ยืนอยู่แถวหน้าของเซิร์ฟเวอร์ทั้งหมดกระจายปริมาณการใช้งานของผู้ใช้จำนวนมากไปยังเซิร์ฟเวอร์ด้านหลังอย่างเท่าเทียมกันและชาญฉลาด

วันนี้เราจะมารับ

สถาปัตยกรรมที่มีความพร้อมใช้งานสูงของ Tencent Cloud CLB

。โดยไม่ต้องพูดถึงคำศัพท์ทางวิชาชีพที่คลุมเครือให้ใช้ภาษาพื้นถิ่นและมุมมองในชีวิตจริงเพื่อดูว่า Tencent Cloud ใช้วิธีการแบบฮาร์ดคอร์แบบใดเพื่อให้แน่ใจว่าแม้จะเกิดภัยพิบัติรุนแรงธุรกิจก็ยังสามารถ "วิ่งและเต้นรำ" ได้

1.เหตุใดความพร้อมใช้งานสูงของเครื่องเดียวจึงเป็น "เรื่องเท็จ"?

ก่อนที่จะพูดถึงสถาปัตยกรรมของ CLB เราบรรลุฉันทามติ:

ฮาร์ดแวร์และระบบจุดเดียวอาจพังได้

ทีมงานหลายคนที่เพิ่งเริ่มต้นรู้สึกว่าถ้าฉันซื้อรถหรูที่มีอุปกรณ์ครบครัน (ซื้อเซิร์ฟเวอร์คลาวด์ที่มีการกำหนดค่าสูงมาก) ธุรกิจของฉันจะมีเสถียรภาพมากแต่ในความเป็นจริงสายเคเบิลออปติคอลอาจถูกตัดโดยทีมงานก่อสร้างห้องคอมพิวเตอร์อาจไฟฟ้าดับเมนบอร์ดอาจถูกไฟไหม้และแม้แต่การอัปเกรดแพตช์ระบบก็อาจทำให้หน้าจอสีน้ำเงิน

ดังนั้นความเสถียรที่แท้จริงจึงไม่ใช่การเดิมพันว่า "มันไม่เลว" แต่ "มันเสียแต่มียางอะไหล่อยู่ด้านบนทันทีและผู้ใช้ไม่สามารถหาได้เลย"

Tencent Cloud CLB เป็นศูนย์กระจายการจราจรหากศูนย์ถูกวางสายด้วยตัวเองแม้แต่เซิร์ฟเวอร์หลายพันเครื่องก็จะไร้ประโยชน์ดังนั้นการออกแบบที่มีความพร้อมใช้งานสูงของ CLB จึงเป็นประตูชีวิตของระบบธุรกิจทั้งหมด

2."แนวป้องกันสามชั้น" ของ Tencent Cloud CLB: จากเครื่องเดียวไปจนถึงข้ามเมือง

ความลับของการใช้งาน Tencent Cloud CLB 99.99% หรือสูงกว่าคือการสร้างกำแพงทองแดงสามชั้นจากล่างขึ้นบนมาดูทีละชั้น:

แนวป้องกันแรก: "การสำรองข้อมูลแบบคู่" และการรวมกลุ่มในศูนย์ข้อมูล

หากคุณซื้อ CLB เครือข่ายสาธารณะขั้นพื้นฐานที่สุดใน Tencent Cloud คุณคิดว่าคุณซื้อที่อยู่ IP เพียงแห่งเดียวแต่ในความเป็นจริง Tencent Cloud ได้จัดเตรียมทั้งหมดไว้ให้คุณที่ด้านล่าง

คลัสเตอร์ที่มีความพร้อมใช้งานสูง

。

การจัดสรรภาระงานสี่ชั้น (ตาม LVS/DPDK): ใช้สถาปัตยกรรมคลัสเตอร์เต็มรูปแบบพูดง่ายๆก็คือมีเซิร์ฟเวอร์จำนวนมากมารวมกันเพื่อรองรับการรับส่งข้อมูลของคุณเซิร์ฟเวอร์ทางกายภาพใดๆ "เสียชีวิตอย่างกะทันหัน" โปรโตคอลการกำหนดเส้นทางพื้นฐาน (OSPF/ECMP) จะเปลี่ยนการรับส่งข้อมูลไปยังเซิร์ฟเวอร์สุขภาพอื่นๆในคลัสเตอร์โดยอัตโนมัติภายในมิลลิวินาที

การจัดสรรภาระงานเจ็ดชั้น (ขึ้นอยู่กับ Nginx): ใช้โหมดมาสเตอร์-Slave หรือโหมดมัลติแอคทีฟ

เมื่อการเต้นของหัวใจของโหนดหลักหยุดลงโหนดสแตนด์บายจะเข้ารับงานทันที

การแปลสด:

คุณคิดว่าคุณจ้างบอดี้การ์ดแต่จริงๆแล้วบริษัทบอดี้การ์ดยืนอยู่ข้างหลังคุณหนึ่งในนั้นล้มลงและคนที่อยู่ข้างหลังก็เติมทันทีและผู้ใช้ไม่สามารถรับรู้ได้ว่าหน้าเว็บค้าง

แนวป้องกันที่สอง: เมืองเดียวกัน "ชีวิตคู่/หลายเขตในเมืองเดียวกัน"

แนวป้องกันแรกแก้ปัญหา "เครื่องเสีย" แต่จะเกิดอะไรขึ้นถ้าเกิดอะไรขึ้นกับห้องคอมพิวเตอร์ทั้งหมด (พื้นที่ว่าง)? ตัวอย่างเช่นในวันที่ฝนตกหนักห้องคอมพิวเตอร์ A โชคไม่ดีที่ถูกน้ำท่วมและไฟฟ้าดับ

เพื่อป้องกันเหตุการณ์ "หงส์ดำ" ดังกล่าว Tencent Cloud CLB สนับสนุน

พื้นที่ว่างสูง

。

เมื่อคุณกำหนดค่า CLB คุณสามารถเลือกที่จะปรับใช้ใน "Guangzhou Second District (Main)" และ "Guangzhou Third District (Preparation)" พื้นที่ว่างทั้งสองนี้อยู่ห่างกันหลายสิบกิโลเมตรและมีแหล่งจ่ายไฟและเครือข่ายที่เป็นอิสระ

ภายใต้สถานการณ์ปกติ: การจราจรส่วนใหญ่เข้ามาจากพื้นที่ว่างหลัก

ในกรณีที่รุนแรง: เขตที่สองของกวางโจวขาดการติดต่อโดยสิ้นเชิง DNS และเครือข่ายพื้นฐานของ Tencent Cloud จะเปลี่ยนการรับส่งข้อมูลเครือข่ายภายนอกทั้งหมดไปยัง CLB สำรองในเขตที่สามของกวางโจวโดยอัตโนมัติกระบวนการนี้มักจะเสร็จสิ้นภายในไม่กี่วินาที

แนวป้องกันที่สาม: ความพร้อมใช้งานสูงทั่วโลก/ข้ามภูมิภาครวมกับเครือข่าย Anycast

หากระดับธุรกิจของคุณสูงมากจน “ไม่สามารถยอมรับภัยพิบัติในภูมิภาคเดียวได้ทุกรูปแบบ” (เช่นเครือข่ายกระดูกสันหลังของภูมิภาคจีนตอนใต้ทั้งหมดถูกตัดการเชื่อมต่อ) CLB ยังสามารถร่วมมือกับ Tencent Cloud's

Anycast (ออกอากาศ)

อัพเกรดเทคโนโลยีที่มีอยู่สูงทั่วโลก

พูดง่ายๆก็คือห้องคอมพิวเตอร์ในเมืองต่างๆทั่วโลกได้เผยแพร่ที่อยู่ IP ของ CLB เดียวกันผู้ใช้ในปักกิ่งจะเข้าห้องคอมพิวเตอร์ในปักกิ่งที่ใกล้ที่สุดและผู้ใช้ในเซี่ยงไฮ้จะเข้าห้องคอมพิวเตอร์ในเซี่ยงไฮ้หากห้องคอมพิวเตอร์เซี่ยงไฮ้ไม่สามารถใช้งานได้โดยรวมเครือข่ายจะดึงข้อมูลจากเซี่ยงไฮ้ไปยังปักกิ่งหรืออู่ฮั่นโดยอัตโนมัติรูปแบบการเล่น "พื้นที่เพื่อความปลอดภัย" นี้เป็นการกำหนดค่าการป้องกันภัยพิบัติอันดับต้นๆของอินเทอร์เน็ตในปัจจุบัน

3.ไม่เพียงพอที่จะรักษาเสถียรภาพของตัวเอง: CLB ดูแลเซิร์ฟเวอร์ส่วนหลังอย่างไร?

CLB ทำ "คิงคองไม่เลว" แล้วจะมั่นใจได้อย่างไรว่าเซิร์ฟเวอร์ธุรกิจ (CVM/Lighthouse) ที่อยู่เบื้องหลังจะไม่สูญเสียโซ่? นี่คือสองกลไกหลัก:

1.ตรวจสุขภาพระดับมิลลิวินาที (Health Check)

CLB เปรียบเสมือนหัวหน้างานที่เข้มงวดทุกๆสองสามวินาทีจะเคาะประตูเซิร์ฟเวอร์ด้านหลัง (ส่ง Ping, TCP จับมือหรือคำขอ HTTP)

หัวหน้างาน: "เซิร์ฟเวอร์1คุณยังมีชีวิตอยู่หรือไม่" ลำดับที่1: "ยังมีชีวิตอยู่ทุกอย่างเป็นปกติ" (ส่งกระแสต่อไป) ไม่กี่วินาทีต่อมา... หัวหน้างาน: "หมายเลข1คุณยังมีชีวิตอยู่หรือไม่" ลำดับที่1: (เนื่องจากหน่วยความจำล้นจึงไม่มีการตอบสนอง) หัวหน้างาน: "ไม่หมายเลข1ถูกดึงออกจากคิวทันที! การจราจรต่อไปนี้เป็นหมายเลข2และหมายเลข3ทั้งหมด!"

เมื่อเซิร์ฟเวอร์หมายเลข1ได้รับการซ่อมแซมโดยผู้ดูแลระบบและออนไลน์อีกครั้ง CLB จะตรวจสอบว่ามีการกู้คืนและจะเพิ่มเซิร์ฟเวอร์กลับไปยังทีมโดยอัตโนมัติกระบวนการทั้งหมด

ระบบอัตโนมัติการแทรกแซงด้วยตนเองเป็นศูนย์

。

2.อัลกอริธึมการตั้งเวลาอัจฉริยะที่หลากหลาย (สอนนักเรียนตามความถนัด)

อุตสาหกรรมที่แตกต่างกัน

สถานการณ์ทางธุรกิจกลยุทธ์ในการกระจายการเข้าชมก็แตกต่างกันเช่นกัน CLB มีวิธีการเล่นที่ชาญฉลาดหลายวิธี:

การสำรวจแบบถ่วงน้ำหนัก (WRR): หากคุณมีเครื่องสองเครื่องอยู่ข้างหลังเครื่องหนึ่งเป็นทหารผ่านศึก4คอร์8G และอีกเครื่องเป็นไททัน16คอร์32G คุณสามารถกำหนดน้ำหนักที่สูงขึ้นสำหรับไททันส์และปล่อยให้มันบรรทุกการจราจรได้มากขึ้น

จำนวนการเชื่อมต่อขั้นต่ำแบบถ่วงน้ำหนัก (WLC): ใครก็ตามที่มีการเชื่อมต่อที่ใช้งานอยู่ในมือน้อยที่สุดจะได้รับมอบหมายให้แขกใหม่เหมาะสำหรับการเล่นเกมหรือธุรกิจการเชื่อมต่อยาว

แหล่งที่มาแฮช: กำหนดเซิร์ฟเวอร์ตามที่อยู่ IP ของผู้ใช้สิ่งนี้ช่วยให้มั่นใจได้ว่าผู้ใช้คนเดียวกันจะเข้าถึงเซิร์ฟเวอร์แบ็คเอนด์เดียวกันเสมอในช่วงเวลาหนึ่งซึ่งสะดวกในการรักษาสถานะการเข้าสู่ระบบ (เซสชัน)

4.คู่มือการต่อสู้จริงเพื่อหลีกเลี่ยงหลุม: จะบีบ CLB ที่มีความพร้อมใช้งานสูงได้อย่างไร?

นักเรียนหลายคนซื้อ CLB บน Tencent Cloud แต่ธุรกิจของพวกเขามักจะล่มสลายนี่คือ "ประสบการณ์การหลีกเลี่ยงหลุมโดยคนจริง" บางส่วนที่มักจะเหยียบฟ้าร้องในการใช้งานและการบำรุงรักษาจริง:

อย่าใส่ไข่ในพื้นที่ว่าง: เมื่อซื้อ CLB ฉันเลือกพื้นที่ว่างข้ามแต่เซิร์ฟเวอร์คลาวด์ (CVM) ที่ติดตั้งอยู่ด้านหลังต้องการประหยัดปัญหาและซื้อทั้งหมดใน "Guangzhou Second District" เป็นผลให้เขตที่สองเชื่อมโยงกันแม้ว่า CLB จะแข็งแกร่งแต่ก็ไม่มีเซิร์ฟเวอร์ที่สามารถทำงานได้และกลายเป็น "ผู้บัญชาการเชลล์" แนวทางที่ถูกต้องคือ: CLB ข้ามพื้นที่ว่างและเซิร์ฟเวอร์ส่วนหลังควรกระจายอย่างเท่าเทียมกันในพื้นที่ว่างต่างๆ

อย่าลืมเปิด "การเก็บรักษาเซสชัน" แต่อย่าใช้ในทางที่ผิด: หากเว็บไซต์ของคุณจำเป็นต้องเข้าสู่ระบบการเปิดการเก็บรักษาเซสชันสามารถป้องกันไม่ให้ผู้ใช้รีเฟรชหน้าเว็บและถูกเตะแบบออฟไลน์อย่างไรก็ตามหากตั้งค่าเซสชันไว้นานเกินไปอาจทำให้การกระจายการรับส่งข้อมูลไม่สม่ำเสมอ (ลูกค้ารายใหญ่ทั้งหมดอยู่ในเครื่องเดียวกัน)

ใช้ประโยชน์จาก "สง่างามโดยไม่หยุดชะงัก" (การย้ายการเชื่อมต่อที่ราบรื่น): เมื่อคุณต้องการบำรุงรักษาเซิร์ฟเวอร์บางเครื่องที่แบ็กเอนด์แบบออฟไลน์อย่าเพิ่งเลิกผูกเปิดฟังก์ชัน "การหมดอายุที่หรูหรา" ของ CLB ซึ่งจะช่วยให้ผู้ใช้เก่าที่มีอยู่สามารถทำงานในมือได้ (เช่นการอัปโหลดไฟล์และการชำระเงิน) ในขณะที่ไม่แจกจ่ายผู้ใช้ใหม่ในอดีตอีกต่อไปโดยตระหนักถึง "ความรู้สึกที่แท้จริง" การบำรุงรักษา ".

5.สรุป: ความพร้อมใช้งานสูงเป็น "ประกัน" ชนิดหนึ่ง

เมื่อระบบสงบโหลดบาลานซ์ CLB ดูเหมือนไมโครโฟนที่ไม่รู้จักและบางคนคิดว่ามันเพิ่มจำนวนการกระโดดของการเชื่อมโยงเครือข่าย

แต่เมื่อถึงช่วงเวลาแห่งชีวิตและความตายเมื่อมีโปรโมชั่นใหญ่ถูกโจมตีหรือฮาร์ดแวร์พื้นฐานล้มเหลวทางกายภาพสถาปัตยกรรมที่มีความพร้อมใช้งานสูงของ CLB คือ "ถุงลมนิรภัย" ที่สามารถรักษารางวัลสิ้นปีและธุรกิจของบริษัทของคุณได้ใช้ความซับซ้อนของเลเยอร์ล่างเพื่อแลกกับความเรียบง่ายของพื้นผิวเพื่อให้นักพัฒนาสามารถมุ่งเน้นไปที่การเขียนตรรกะทางธุรกิจโดยไม่ต้องกังวลเกี่ยวกับรายละเอียดทางกายภาพของเลเยอร์ล่าง

ในยุคของ "ประสบการณ์มาก่อน" นี้ด้วยความกลัวของความพร้อมใช้งานที่สูงมากขึ้นธุรกิจจะมีความมั่นใจมากขึ้นในการก้าวไปข้างหน้าท่ามกลางลมและฝน