การซื้อบัญชี AWS: Amazon Athena ใช้เซิร์ฟเวอร์ฟรีเพื่อสอบถามสถาปัตยกรรมของ S3 Big Data โดยตรงเทคโนโลยีสีดำ!

เมฆ 2026-06-23 阅读 50
cloud

วันนี้เมื่อข้อมูลแบบกระจายและแบบจำลองปัญญาประดิษฐ์ (LLM) กำลังพุ่งสูงขึ้นบริษัทอินเทอร์เน็ตไซต์อิสระอีคอมเมิร์ซและไซต์ขนาดกลางและขนาดใหญ่กำลังสร้างบันทึกวิถีพฤติกรรมของผู้ใช้คำสั่งซื้อและข้อมูลสตรีมคลิกต่างๆด้วยความเร็วที่น่าตกใจทุกวัน

ในฐานะสถาปนิกระบบคลาวด์คอมพิวติ้งที่อยู่ในแวดวงสถาปัตยกรรมคลาวด์มาหลายปีเขายังเป็นบล็อกเกอร์ผู้ดูแลเว็บ SEO ที่ทำลายน้ำหนักการค้นหางบประมาณการรวบรวมข้อมูล (Crawl Budget) และอัตราการแปลงทุกวันฉันมักจะได้ยินเพื่อนร่วมงานด้านเทคนิคบ่น:

"ในการวิเคราะห์บันทึกหลายร้อย GB หรือหลาย TB ที่เก็บไว้ใน Amazon S3เราต้องสร้างคลัสเตอร์ EMR(Hadoop) ขนาดใหญ่หรือสร้าง ClickHouse ของเราเองไม่เพียงแต่ต้องเขียนช่องทาง ETL (การแยกการแปลงการโหลด) ที่ซับซ้อนเท่านั้นแต่ยังต้องจ่ายค่าใช้จ่ายที่ไม่ได้ใช้งานเซิร์ฟเวอร์ที่สูงเมื่องานไม่ทำงานมันเป็นเรื่องตลกเกี่ยวกับกระแสเงินสดของบริษัท!"

ต้องเผชิญกับจุดเจ็บปวดนี้กระสุนเงินที่ดีที่สุดที่ได้รับจากสถาปนิกคลาวด์คอมพิวติ้งคือ:

Amazon Athena

นี่คือความบริสุทธิ์

บริการสอบถามข้อมูลแบบไม่มีเซิร์ฟเวอร์ (Serverless) แบบโต้ตอบ

。ด้วยวิธีนี้คุณไม่จำเป็นต้องตั้งค่าเซิร์ฟเวอร์หรือคลัสเตอร์คอมพิวเตอร์ไว้ล่วงหน้าคุณสามารถทำความสะอาดและสืบค้นข้อมูลที่ไม่มีโครงสร้างและกึ่งโครงสร้างขนาดใหญ่ที่เก็บไว้ใน Amazon S3ได้โดยตรงภายในไม่กี่วินาทีผ่านคำสั่ง SQL มาตรฐาน

ในบทความนี้ฉันจะเลือกจากด้านล่างของสถาปนิกบันทึก SEO ของผู้ดูแลเว็บและวิธีการรวม

การซื้อบัญชี AWS

กลยุทธ์ทางการเงินและมิติอื่นๆจะทำให้เทคโนโลยีสีดำหลักของข้อมูลขนาดใหญ่ที่ไม่มีเซิร์ฟเวอร์นี้ถูกแยกออกจากกันอย่างลึกซึ้ง

1.เหตุใด Amazon Athena จึงทำลายห่วงของข้อมูลขนาดใหญ่แบบเดิมๆ

ในคลังข้อมูลสมัยใหม่แบบดั้งเดิม (เช่นคลัสเตอร์ทางกายภาพที่สร้างขึ้นเองโหมด Redshift ที่ไม่ใช่เซิร์ฟเวอร์แบบดั้งเดิม) ตรรกะการประมวลผลของข้อมูลขนาดใหญ่คือ:

"ข้อมูลต้องเคลื่อนไหวพลังการคำนวณไม่เคลื่อนไหว"

。คุณต้องขนส่งและจัดโครงสร้างข้อมูลเย็นบน S3ไปยังดิสก์ภายในของเครื่องมือฐานข้อมูลผ่านท่อ ETL เพื่อเริ่มการสืบค้นสถาปัตยกรรมนี้มีข้อบกพร่องร้ายแรงสองประการ:

ค่าใช้จ่ายในการจัดการจำนวนมาก: ไม่เพียงแต่ต้องรักษาเสถียรภาพของการจัดการข้อมูลเท่านั้นแต่ยังต้องจัดการระดับฮาร์ดแวร์ของโหนดด้วย

หลุมดำงบประมาณ: เมื่อเปิดคลัสเตอร์แม้ว่าจะไม่มีนักวิเคราะห์ข้อมูลทำงานในเวลากลางคืนบริษัทต่างๆจะต้องจ่ายเงินสำหรับ CPU และหน่วยความจำที่ไม่ได้ใช้งาน

Amazon Athena ล้มล้างตรรกะนี้โดยสิ้นเชิงมันทำได้

"การคำนวณย้ายข้อมูลไม่ขยับ (Query in Place)"

:

สถาปัตยกรรม Serverless 100%: คุณไม่จำเป็นต้องเปิดอินสแตนซ์ EC2ใดๆในคอนโซลของคุณทรัพยากรคอมพิวเตอร์จะถูกกำหนดเวลาโดยอัตโนมัติและยืดหยุ่นโดย AWS แบบเรียลไทม์ตามความซับซ้อนของ SQL ที่คุณส่งมาและจะถูกทำลายทันทีเมื่อใช้

การเรียกเก็บเงินตามปริมาณข้อมูลที่สแกน: การกำหนดราคามาตรฐานนั้นบริสุทธิ์มาก1ต่อการสแกน

ข้อมูล TB มีค่าใช้จ่ายเพียง $5.00 USD (น้อยกว่า10MB จะถูกปัดเศษเป็น10MB) หากคุณไม่เรียกใช้แบบสอบถามบิลรายเดือนจะเป็นศูนย์โดยตรง

การเชื่อมต่อที่สมบูรณ์แบบกับ AWS Glue: ผ่าน AWS Glue Data Directory (Data Catalog) เป็นศูนย์ข้อมูลเมตา Athena สามารถแมปไฟล์ในรูปแบบหลวมๆเช่น JSON, CSV, Parquet, ORC และแม้แต่ Avro บน S3ให้เป็นโครงสร้างมาตรฐานได้ในทันทีตารางฐานข้อมูล (Database & Tables)

2.การต่อสู้เชิงลึก: "กฎทองสามประการในการลดต้นทุน" ของประสิทธิภาพข้อมูลขนาดใหญ่ของ S3ด้วย Athena

แม้ว่า Athena จะสะดวกแต่หากนักวิเคราะห์ข้อมูลที่ไม่เป็นมืออาชีพได้รับอนุญาตให้ดำเนินการ

SELECT* FROM large_table

เท่ากับการเสียเลือดในบัญชีการเงินของบริษัทหากคุณต้องการลดค่าธรรมเนียมการสแกนสถาปนิกมีเคล็ดลับสามประการสำหรับ "เทคโนโลยีหลักสีดำ" ที่อุตสาหกรรมไม่แพร่กระจาย:

1.กอดจัดเก็บคอลัมน์ (Columnar Formats)

อย่าใช้ Athena โดยตรงเพื่อตรวจสอบต้นฉบับ

CSV

หรือ

JSON

ไฟล์ CSV คือที่เก็บข้อมูลแบบแถวหากคุณต้องการค้นหาฟิลด์เฉพาะ Athena จะต้องสแกนทุกแถวและทุกคอลัมน์ของตารางทั้งหมดเพื่อสร้างใบเรียกเก็บเงินที่สแกนจำนวนมาก

กลยุทธ์การเพิ่มประสิทธิภาพ: แปลงข้อมูลดิบเป็นรูปแบบ Apache Parquet หรือ ORC ผ่าน AWS Glue Job 。 Parquet ไม่เพียงแต่มาพร้อมกับการบีบอัดสูง (GZIP/Snappy ซึ่งสามารถบีบอัดได้60% ~ 90% ของปริมาตรทางกายภาพ) และเป็นการจัดเก็บคอลัมน์เมื่อ SQL ของคุณเลือกเพียงสองคอลัมน์สำหรับ GROUP BY Athena จะสแกนบล็อกข้อมูลของสองคอลัมน์นี้เท่านั้นและโดยปกติค่าใช้จ่ายและเวลาจะลดลงมากกว่า80% ในทันที

2.แนะนำพาร์ทิชันสไตล์ Hive (Partitioning)

สำหรับข้อมูลอนุกรมเวลา (เช่นบันทึกการเยี่ยมชมเว็บไซต์รายวัน) ต้องสร้างโครงสร้างพาร์ติชันไดเร็กทอรีที่เป็นมาตรฐานเช่น:

S3: // my-bucket/logs/year = 2026 /month = 06 /day = 23/

กลยุทธ์การเพิ่มประสิทธิภาพ: ใช้เทคโนโลยีการฉายภาพพาร์ติชันด้วยวิธีนี้เมื่อคุณเพิ่มข้อจำกัด WHERE year = '2026 'และเดือน = '06' เมื่อดำเนินการ SQL Athena จะข้ามไดเร็กทอรีของปีและเดือนอื่นๆอย่างชาญฉลาดและสแกนเฉพาะพาร์เก็ตในโฟลเดอร์เฉพาะนี้ไฟล์. ปริมาณการสแกนลดลงโดยตรงจากหลายสิบเทราไบต์เหลือเพียงไม่กี่ GB ซึ่งทำให้เกิด "การตอบสนองระดับที่สอง" อย่างแท้จริง

3.รูปแบบการตีลดขนาด: Apache Iceberg และ S3 Anno

Tations

ในปี2026ปัจจุบันใช้ความร่วมมือของ Athena

Apache Iceberg

รูปแบบตารางโอเพนซอร์สกลายเป็นเกณฑ์มาตรฐานระดับองค์กรรองรับการอัปเดตระดับบรรทัดธุรกรรม ACID และการตรวจสอบย้อนหลัง

ข่าวล่าสุด: คุณสมบัติใหม่ของ Amazon S3 Annotations ที่เพิ่งเปิดตัวโดย AWS สามารถเพิ่มข้อมูลเมตาที่กำหนดเองขีดจำกัดสูงให้กับวัตถุ S3ได้โดยตรงด้วยการใช้คุณสมบัตินี้ร่วมกับตาราง Annotation Athena สามารถทำการดึงข้อมูลเมตาแนวนอนที่แม่นยำข้ามโดเมนของอ็อบเจ็กต์ถังเก็บข้อมูลเต็มรูปแบบด้วยความเร็วสูง10,000เท่าโดยไม่ต้องอ่านเนื้อหาเฉพาะของอ็อบเจ็กต์

3.จากเทคโนโลยีสู่การเงิน: กลโกงการประหยัดเงินเกี่ยวกับ "การซื้อบัญชี AWS" และ FinOps

เมื่อคุณตัดสินใจที่จะโยกย้ายการตรวจสอบบันทึกขององค์กรรายงาน BI และระบบโปรไฟล์ผู้ใช้ไปยังสถาปัตยกรรม Data Lake ที่ทันสมัยของ Athena S3เนื่องจากความยืดหยุ่นมากเกินไปการปฏิบัติตามข้อกำหนดทางการเงินและการแยกทรัพยากรจึงกลายเป็นสิ่งสำคัญอันดับต้นๆสถาปนิกและเจ้าของธุรกิจที่ชาญฉลาดจะสร้างมาตรฐานการไหลทางการเงินในช่วงเริ่มต้นของโครงการ:

1.กำหนดมาตรฐานการซื้อบัญชี AWS และการตรวจสอบชื่อจริง

การกำกับดูแลข้อมูลขนาดใหญ่ต้องมั่นใจในความบริสุทธิ์และการปฏิบัติตามบัญชีคลาวด์พื้นฐานก่อนการปรับใช้อย่าลืมกรอกบัญชีหลักหรือองค์กรหลายบัญชีขององค์กร (AWS Organization) ผ่านช่องทางการปฏิบัติตามกฎระเบียบอย่างเป็นทางการ

การซื้อบัญชี AWS

และการรับรอง

ความปลอดภัยในการหลีกเลี่ยงหลุม: อย่าทิ้งบัญชีมือสองที่ไม่มีชื่อจริงหรือบัญชีที่แตกซึ่งไม่ทราบที่มาข้อมูลขนาดใหญ่และทรัพย์สิน Data Lake เป็นความลับหลักที่สุดขององค์กรหากคุณพบการควบคุมความเสี่ยงของบัญชีไตรภาคีหรือการห้ามเก็บหนี้โดยไม่ได้ตั้งใจบันทึกพฤติกรรมผู้ใช้หลักของ HDFS หรือ S3ที่สะสมมาหลายปีจะถูกเผา

2.ใช้ Workgroups (กลุ่มงาน) เพื่อใช้ค่าใช้จ่ายในการกำหนดค่าใช้จ่าย

เมื่อคุณเสร็จสิ้นอย่างเป็นทางการ

การซื้อบัญชี AWS

และหลังจากลงชื่อเข้าใช้คอนโซลแล้วจำไว้ว่าสิ่งแรกคือการใช้ Athena

Workgroups (คณะทำงาน)

ฟังก์ชัน.

คุณสามารถแบ่งกลุ่มงานต่างๆสำหรับแผนก SEO แผนกวิเคราะห์ข้อมูลและแผนกพัฒนา

กำหนดค่ากลยุทธ์ที่เข้มงวดในกลุ่มงาน: จำกัดปริมาณข้อมูลการสแกนสูงสุดของแบบสอบถามเดียว (เช่นไม่เกิน50GB) หรือกำหนดเกณฑ์ค่าใช้จ่ายรวมรายวันและรายเดือนเมื่อโปรแกรมเมอร์รุ่นเยาว์เขียนข้อความค้นหาแบบวนซ้ำที่เลวร้ายโดยไม่มีการกรองโซนโบนัสคณะทำงานจะตัดมันออกอย่างเด็ดขาดเมื่อถึงเกณฑ์เพื่อป้องกันไม่ให้บริษัทต้องเผชิญกับ "บิลบนคลาวด์ราคาสูง" โดยสิ้นเชิง).

4.การพูดคุยส่วนตัวของผู้ดูแลเว็บที่มีความเชี่ยวชาญด้าน SEO: ใช้ Athena เพื่อปลดล็อก "รหัสผ่านการรวบรวมข้อมูลแมงมุม" ของคุณเป็นชุด

ในฐานะบล็อกเกอร์ที่มีความเชี่ยวชาญด้าน SEO เหตุผลที่ฉันชื่นชมสถาปัตยกรรม Athena S3อย่างเมามันเพราะมันสามารถช่วยเราแก้ปัญหาในระยะยาวได้:

บันทึกโปรแกรมรวบรวมข้อมูลของเครื่องมือค้นหาจำนวนมาก (A

Ccess Logs) การวินิจฉัยระดับที่สอง

[Architecture of processing Nginx access logs via S3, Glue and Amazon Athena]

หากเมทริกซ์เว็บไซต์ของคุณมีขนาดใหญ่รวมถึงไซต์อิสระแนวตั้งหลายร้อยไซต์และไซต์อีคอมเมิร์ซในต่างประเทศขนาดของบันทึกการเข้าถึง Nginx/Apache ที่คุณสร้างขึ้นทุกวันนั้นน่ากลัวอย่างยิ่ง

การเก็บถาวรแบบเย็นที่ยาวนานโดยไม่มีค่าใช้จ่าย: คุณสามารถใช้ต้นทุนที่ถูกมากเพื่อโยนบันทึก Nginx ทั้งหมดในช่วงสองหรือสามปีที่ผ่านมาลงในถัง Amazon S3 Standard หรือ S3 Express One Zone

การวิเคราะห์เส้นทางโปรแกรมรวบรวมข้อมูลที่ไม่ต้องบำรุงรักษา: เมื่อคุณต้องการทราบว่าเหตุใดการรวมหมวดหมู่ของ Google จึงลดลงอย่างรวดเร็วเมื่อเร็วๆนี้คุณไม่จำเป็นต้องเรียกใช้ grep ที่ใช้เวลานานบนเซิร์ฟเวอร์การผลิตลงชื่อเข้าใช้บัญชี AWS ของคุณโดยตรงเพื่อซื้อ Athena Lthena และเขียน SQL สั้นๆ: SQLSELECT request_uri, COUNT(*) as crawl_count FROM "seo_lit Bog_db"."nginx_parquet" WHERE user_agent LIKE '% Googlebot' AND stus_coestP "= 04

ในเวลาไม่ถึง2วินาที Athena สามารถค้นหาหน้า404ที่ไม่ถูกต้องและลิงก์ที่ผิดปกติ500รายการสำหรับคุณได้อย่างแม่นยำซึ่งกำลังกลืนงบประมาณการรวบรวมข้อมูลของ Google (Crawl Budget) ในบันทึกต้นฉบับหลายพันล้านรายการการใช้ข้อมูลนี้เพื่อเพิ่มประสิทธิภาพ 'robots.txt 'และลิงก์ภายในไซต์สามารถทำให้น้ำหนักเว็บไซต์ของคุณและการจัดอันดับคำหลักหลักนำไปสู่การฟื้นตัวอย่างรวดเร็ว

---

# #5.สรุปและรายชื่อหัวหน้าสถาปนิก

เสน่ห์หลักของ Amazon Athena สามารถสรุปได้4คำ: ** การโจมตีลดมิติ ** ช่วยขจัดการทำงานหนักของเซิร์ฟเวอร์และทำให้บริษัทต่างๆสามารถมุ่งเน้นไปที่การเขียน SQL และค้นพบคุณค่าของข้อมูลได้

สุดท้ายให้รายการยืนยันขั้นสุดท้ายสำหรับช่างเทคนิคทุกคนที่พร้อมจะยอมรับ Data Lake:

** การยืนยันรูปแบบข้อมูล **: ละทิ้งการตรวจสอบ CSV/JSON โดยตรงโดยสิ้นเชิงใช้ AWS Glue โดยอัตโนมัติหรือด้วยตนเองเพื่อแปลง ** การบีบอัด Parquet + Snappy/Gzip **

* ** การยืนยันสิทธิ์การสอบถาม **: หลังจากเข้าสู่ระบบช่องทางมาตรฐานเพื่อดำเนินการตรวจสอบความถูกต้องด้วยชื่อจริง ** การซื้อบัญชี AWS ** ต้องกำหนดหลักการสิทธิพิเศษขั้นต่ำของ IAM เพื่อป้องกันไม่ให้พนักงานใช้บัญชีรูทสำหรับการดำเนินการที่มีความเสี่ยงสูง

*

** การยืนยันทางการเงิน **: สภาพแวดล้อมการผลิตจะไม่ใช้กลุ่มงานเริ่มต้นต้องสร้างและกำหนดค่ากลุ่มงานใหม่ ** ขีดจำกัดการสแกนครั้งเดียว/รายวัน **

ปล่อยให้พลังการประมวลผลพร้อมใช้งานและปล่อยให้ข้อมูลปล่อยค่าใน S3อย่างเงียบๆด้วยสถาปัตยกรรม Serverless ที่ใช้งานได้จริงในทะเลแดงของข้อมูลขนาดใหญ่นี้ให้ตัดผลกำไรและอัตราการเติบโตที่มีค่าที่สุดขององค์กรออกไป!

1
← 返回新闻中心