การซื้อบัญชี AWS: Amazon Athena ใช้เซิร์ฟเวอร์ฟรีเพื่อสอบถามสถาปัตยกรรมของ S3 Big Data โดยตรงเทคโนโลยีสีดำ!
วันนี้เมื่อข้อมูลแบบกระจายและแบบจำลองปัญญาประดิษฐ์ (LLM) กำลังพุ่งสูงขึ้นบริษัทอินเทอร์เน็ตไซต์อิสระอีคอมเมิร์ซและไซต์ขนาดกลางและขนาดใหญ่กำลังสร้างบันทึกวิถีพฤติกรรมของผู้ใช้คำสั่งซื้อและข้อมูลสตรีมคลิกต่างๆด้วยความเร็วที่น่าตกใจทุกวัน
ในฐานะสถาปนิกระบบคลาวด์คอมพิวติ้งที่อยู่ในแวดวงสถาปัตยกรรมคลาวด์มาหลายปีเขายังเป็นบล็อกเกอร์ผู้ดูแลเว็บ SEO ที่ทำลายน้ำหนักการค้นหางบประมาณการรวบรวมข้อมูล (Crawl Budget) และอัตราการแปลงทุกวันฉันมักจะได้ยินเพื่อนร่วมงานด้านเทคนิคบ่น:
"ในการวิเคราะห์บันทึกหลายร้อย GB หรือหลาย TB ที่เก็บไว้ใน Amazon S3เราต้องสร้างคลัสเตอร์ EMR(Hadoop) ขนาดใหญ่หรือสร้าง ClickHouse ของเราเองไม่เพียงแต่ต้องเขียนช่องทาง ETL (การแยกการแปลงการโหลด) ที่ซับซ้อนเท่านั้นแต่ยังต้องจ่ายค่าใช้จ่ายที่ไม่ได้ใช้งานเซิร์ฟเวอร์ที่สูงเมื่องานไม่ทำงานมันเป็นเรื่องตลกเกี่ยวกับกระแสเงินสดของบริษัท!"
ต้องเผชิญกับจุดเจ็บปวดนี้กระสุนเงินที่ดีที่สุดที่ได้รับจากสถาปนิกคลาวด์คอมพิวติ้งคือ:
Amazon Athena
。
นี่คือความบริสุทธิ์
บริการสอบถามข้อมูลแบบไม่มีเซิร์ฟเวอร์ (Serverless) แบบโต้ตอบ
。ด้วยวิธีนี้คุณไม่จำเป็นต้องตั้งค่าเซิร์ฟเวอร์หรือคลัสเตอร์คอมพิวเตอร์ไว้ล่วงหน้าคุณสามารถทำความสะอาดและสืบค้นข้อมูลที่ไม่มีโครงสร้างและกึ่งโครงสร้างขนาดใหญ่ที่เก็บไว้ใน Amazon S3ได้โดยตรงภายในไม่กี่วินาทีผ่านคำสั่ง SQL มาตรฐาน
ในบทความนี้ฉันจะเลือกจากด้านล่างของสถาปนิกบันทึก SEO ของผู้ดูแลเว็บและวิธีการรวม
การซื้อบัญชี AWS
กลยุทธ์ทางการเงินและมิติอื่นๆจะทำให้เทคโนโลยีสีดำหลักของข้อมูลขนาดใหญ่ที่ไม่มีเซิร์ฟเวอร์นี้ถูกแยกออกจากกันอย่างลึกซึ้ง
1.เหตุใด Amazon Athena จึงทำลายห่วงของข้อมูลขนาดใหญ่แบบเดิมๆ
ในคลังข้อมูลสมัยใหม่แบบดั้งเดิม (เช่นคลัสเตอร์ทางกายภาพที่สร้างขึ้นเองโหมด Redshift ที่ไม่ใช่เซิร์ฟเวอร์แบบดั้งเดิม) ตรรกะการประมวลผลของข้อมูลขนาดใหญ่คือ:
"ข้อมูลต้องเคลื่อนไหวพลังการคำนวณไม่เคลื่อนไหว"
。คุณต้องขนส่งและจัดโครงสร้างข้อมูลเย็นบน S3ไปยังดิสก์ภายในของเครื่องมือฐานข้อมูลผ่านท่อ ETL เพื่อเริ่มการสืบค้นสถาปัตยกรรมนี้มีข้อบกพร่องร้ายแรงสองประการ:
ค่าใช้จ่ายในการจัดการจำนวนมาก: ไม่เพียงแต่ต้องรักษาเสถียรภาพของการจัดการข้อมูลเท่านั้นแต่ยังต้องจัดการระดับฮาร์ดแวร์ของโหนดด้วย
หลุมดำงบประมาณ: เมื่อเปิดคลัสเตอร์แม้ว่าจะไม่มีนักวิเคราะห์ข้อมูลทำงานในเวลากลางคืนบริษัทต่างๆจะต้องจ่ายเงินสำหรับ CPU และหน่วยความจำที่ไม่ได้ใช้งาน
Amazon Athena ล้มล้างตรรกะนี้โดยสิ้นเชิงมันทำได้
"การคำนวณย้ายข้อมูลไม่ขยับ (Query in Place)"
:
สถาปัตยกรรม Serverless 100%: คุณไม่จำเป็นต้องเปิดอินสแตนซ์ EC2ใดๆในคอนโซลของคุณทรัพยากรคอมพิวเตอร์จะถูกกำหนดเวลาโดยอัตโนมัติและยืดหยุ่นโดย AWS แบบเรียลไทม์ตามความซับซ้อนของ SQL ที่คุณส่งมาและจะถูกทำลายทันทีเมื่อใช้
การเรียกเก็บเงินตามปริมาณข้อมูลที่สแกน: การกำหนดราคามาตรฐานนั้นบริสุทธิ์มาก1ต่อการสแกน
ข้อมูล TB มีค่าใช้จ่ายเพียง $5.00 USD (น้อยกว่า10MB จะถูกปัดเศษเป็น10MB) หากคุณไม่เรียกใช้แบบสอบถามบิลรายเดือนจะเป็นศูนย์โดยตรง
การเชื่อมต่อที่สมบูรณ์แบบกับ AWS Glue: ผ่าน AWS Glue Data Directory (Data Catalog) เป็นศูนย์ข้อมูลเมตา Athena สามารถแมปไฟล์ในรูปแบบหลวมๆเช่น JSON, CSV, Parquet, ORC และแม้แต่ Avro บน S3ให้เป็นโครงสร้างมาตรฐานได้ในทันทีตารางฐานข้อมูล (Database & Tables)
2.การต่อสู้เชิงลึก: "กฎทองสามประการในการลดต้นทุน" ของประสิทธิภาพข้อมูลขนาดใหญ่ของ S3ด้วย Athena
แม้ว่า Athena จะสะดวกแต่หากนักวิเคราะห์ข้อมูลที่ไม่เป็นมืออาชีพได้รับอนุญาตให้ดำเนินการ
SELECT* FROM large_table
เท่ากับการเสียเลือดในบัญชีการเงินของบริษัทหากคุณต้องการลดค่าธรรมเนียมการสแกนสถาปนิกมีเคล็ดลับสามประการสำหรับ "เทคโนโลยีหลักสีดำ" ที่อุตสาหกรรมไม่แพร่กระจาย:
1.กอดจัดเก็บคอลัมน์ (Columnar Formats)
อย่าใช้ Athena โดยตรงเพื่อตรวจสอบต้นฉบับ
CSV
หรือ
JSON
ไฟล์ CSV คือที่เก็บข้อมูลแบบแถวหากคุณต้องการค้นหาฟิลด์เฉพาะ Athena จะต้องสแกนทุกแถวและทุกคอลัมน์ของตารางทั้งหมดเพื่อสร้างใบเรียกเก็บเงินที่สแกนจำนวนมาก
กลยุทธ์การเพิ่มประสิทธิภาพ: แปลงข้อมูลดิบเป็นรูปแบบ Apache Parquet หรือ ORC ผ่าน AWS Glue Job 。 Parquet ไม่เพียงแต่มาพร้อมกับการบีบอัดสูง (GZIP/Snappy ซึ่งสามารถบีบอัดได้60% ~ 90% ของปริมาตรทางกายภาพ) และเป็นการจัดเก็บคอลัมน์เมื่อ SQL ของคุณเลือกเพียงสองคอลัมน์สำหรับ GROUP BY Athena จะสแกนบล็อกข้อมูลของสองคอลัมน์นี้เท่านั้นและโดยปกติค่าใช้จ่ายและเวลาจะลดลงมากกว่า80% ในทันที
2.แนะนำพาร์ทิชันสไตล์ Hive (Partitioning)
สำหรับข้อมูลอนุกรมเวลา (เช่นบันทึกการเยี่ยมชมเว็บไซต์รายวัน) ต้องสร้างโครงสร้างพาร์ติชันไดเร็กทอรีที่เป็นมาตรฐานเช่น:
S3: // my-bucket/logs/year = 2026 /month = 06 /day = 23/
กลยุทธ์การเพิ่มประสิทธิภาพ: ใช้เทคโนโลยีการฉายภาพพาร์ติชันด้วยวิธีนี้เมื่อคุณเพิ่มข้อจำกัด WHERE year = '2026 'และเดือน = '06' เมื่อดำเนินการ SQL Athena จะข้ามไดเร็กทอรีของปีและเดือนอื่นๆอย่างชาญฉลาดและสแกนเฉพาะพาร์เก็ตในโฟลเดอร์เฉพาะนี้ไฟล์. ปริมาณการสแกนลดลงโดยตรงจากหลายสิบเทราไบต์เหลือเพียงไม่กี่ GB ซึ่งทำให้เกิด "การตอบสนองระดับที่สอง" อย่างแท้จริง
3.รูปแบบการตีลดขนาด: Apache Iceberg และ S3 Anno
Tations
ในปี2026ปัจจุบันใช้ความร่วมมือของ Athena
Apache Iceberg
รูปแบบตารางโอเพนซอร์สกลายเป็นเกณฑ์มาตรฐานระดับองค์กรรองรับการอัปเดตระดับบรรทัดธุรกรรม ACID และการตรวจสอบย้อนหลัง
ข่าวล่าสุด: คุณสมบัติใหม่ของ Amazon S3 Annotations ที่เพิ่งเปิดตัวโดย AWS สามารถเพิ่มข้อมูลเมตาที่กำหนดเองขีดจำกัดสูงให้กับวัตถุ S3ได้โดยตรงด้วยการใช้คุณสมบัตินี้ร่วมกับตาราง Annotation Athena สามารถทำการดึงข้อมูลเมตาแนวนอนที่แม่นยำข้ามโดเมนของอ็อบเจ็กต์ถังเก็บข้อมูลเต็มรูปแบบด้วยความเร็วสูง10,000เท่าโดยไม่ต้องอ่านเนื้อหาเฉพาะของอ็อบเจ็กต์
3.จากเทคโนโลยีสู่การเงิน: กลโกงการประหยัดเงินเกี่ยวกับ "การซื้อบัญชี AWS" และ FinOps
เมื่อคุณตัดสินใจที่จะโยกย้ายการตรวจสอบบันทึกขององค์กรรายงาน BI และระบบโปรไฟล์ผู้ใช้ไปยังสถาปัตยกรรม Data Lake ที่ทันสมัยของ Athena S3เนื่องจากความยืดหยุ่นมากเกินไปการปฏิบัติตามข้อกำหนดทางการเงินและการแยกทรัพยากรจึงกลายเป็นสิ่งสำคัญอันดับต้นๆสถาปนิกและเจ้าของธุรกิจที่ชาญฉลาดจะสร้างมาตรฐานการไหลทางการเงินในช่วงเริ่มต้นของโครงการ:
1.กำหนดมาตรฐานการซื้อบัญชี AWS และการตรวจสอบชื่อจริง
การกำกับดูแลข้อมูลขนาดใหญ่ต้องมั่นใจในความบริสุทธิ์และการปฏิบัติตามบัญชีคลาวด์พื้นฐานก่อนการปรับใช้อย่าลืมกรอกบัญชีหลักหรือองค์กรหลายบัญชีขององค์กร (AWS Organization) ผ่านช่องทางการปฏิบัติตามกฎระเบียบอย่างเป็นทางการ
การซื้อบัญชี AWS
และการรับรอง
ความปลอดภัยในการหลีกเลี่ยงหลุม: อย่าทิ้งบัญชีมือสองที่ไม่มีชื่อจริงหรือบัญชีที่แตกซึ่งไม่ทราบที่มาข้อมูลขนาดใหญ่และทรัพย์สิน Data Lake เป็นความลับหลักที่สุดขององค์กรหากคุณพบการควบคุมความเสี่ยงของบัญชีไตรภาคีหรือการห้ามเก็บหนี้โดยไม่ได้ตั้งใจบันทึกพฤติกรรมผู้ใช้หลักของ HDFS หรือ S3ที่สะสมมาหลายปีจะถูกเผา
2.ใช้ Workgroups (กลุ่มงาน) เพื่อใช้ค่าใช้จ่ายในการกำหนดค่าใช้จ่าย
เมื่อคุณเสร็จสิ้นอย่างเป็นทางการ
การซื้อบัญชี AWS
และหลังจากลงชื่อเข้าใช้คอนโซลแล้วจำไว้ว่าสิ่งแรกคือการใช้ Athena
Workgroups (คณะทำงาน)
ฟังก์ชัน.
คุณสามารถแบ่งกลุ่มงานต่างๆสำหรับแผนก SEO แผนกวิเคราะห์ข้อมูลและแผนกพัฒนา
กำหนดค่ากลยุทธ์ที่เข้มงวดในกลุ่มงาน: จำกัดปริมาณข้อมูลการสแกนสูงสุดของแบบสอบถามเดียว (เช่นไม่เกิน50GB) หรือกำหนดเกณฑ์ค่าใช้จ่ายรวมรายวันและรายเดือนเมื่อโปรแกรมเมอร์รุ่นเยาว์เขียนข้อความค้นหาแบบวนซ้ำที่เลวร้ายโดยไม่มีการกรองโซนโบนัสคณะทำงานจะตัดมันออกอย่างเด็ดขาดเมื่อถึงเกณฑ์เพื่อป้องกันไม่ให้บริษัทต้องเผชิญกับ "บิลบนคลาวด์ราคาสูง" โดยสิ้นเชิง).
4.การพูดคุยส่วนตัวของผู้ดูแลเว็บที่มีความเชี่ยวชาญด้าน SEO: ใช้ Athena เพื่อปลดล็อก "รหัสผ่านการรวบรวมข้อมูลแมงมุม" ของคุณเป็นชุด
ในฐานะบล็อกเกอร์ที่มีความเชี่ยวชาญด้าน SEO เหตุผลที่ฉันชื่นชมสถาปัตยกรรม Athena S3อย่างเมามันเพราะมันสามารถช่วยเราแก้ปัญหาในระยะยาวได้:
บันทึกโปรแกรมรวบรวมข้อมูลของเครื่องมือค้นหาจำนวนมาก (A
Ccess Logs) การวินิจฉัยระดับที่สอง
。
[Architecture of processing Nginx access logs via S3, Glue and Amazon Athena]
หากเมทริกซ์เว็บไซต์ของคุณมีขนาดใหญ่รวมถึงไซต์อิสระแนวตั้งหลายร้อยไซต์และไซต์อีคอมเมิร์ซในต่างประเทศขนาดของบันทึกการเข้าถึง Nginx/Apache ที่คุณสร้างขึ้นทุกวันนั้นน่ากลัวอย่างยิ่ง
การเก็บถาวรแบบเย็นที่ยาวนานโดยไม่มีค่าใช้จ่าย: คุณสามารถใช้ต้นทุนที่ถูกมากเพื่อโยนบันทึก Nginx ทั้งหมดในช่วงสองหรือสามปีที่ผ่านมาลงในถัง Amazon S3 Standard หรือ S3 Express One Zone
การวิเคราะห์เส้นทางโปรแกรมรวบรวมข้อมูลที่ไม่ต้องบำรุงรักษา: เมื่อคุณต้องการทราบว่าเหตุใดการรวมหมวดหมู่ของ Google จึงลดลงอย่างรวดเร็วเมื่อเร็วๆนี้คุณไม่จำเป็นต้องเรียกใช้ grep ที่ใช้เวลานานบนเซิร์ฟเวอร์การผลิตลงชื่อเข้าใช้บัญชี AWS ของคุณโดยตรงเพื่อซื้อ Athena Lthena และเขียน SQL สั้นๆ: SQLSELECT request_uri, COUNT(*) as crawl_count FROM "seo_lit Bog_db"."nginx_parquet" WHERE user_agent LIKE '% Googlebot' AND stus_coestP "= 04
ในเวลาไม่ถึง2วินาที Athena สามารถค้นหาหน้า404ที่ไม่ถูกต้องและลิงก์ที่ผิดปกติ500รายการสำหรับคุณได้อย่างแม่นยำซึ่งกำลังกลืนงบประมาณการรวบรวมข้อมูลของ Google (Crawl Budget) ในบันทึกต้นฉบับหลายพันล้านรายการการใช้ข้อมูลนี้เพื่อเพิ่มประสิทธิภาพ 'robots.txt 'และลิงก์ภายในไซต์สามารถทำให้น้ำหนักเว็บไซต์ของคุณและการจัดอันดับคำหลักหลักนำไปสู่การฟื้นตัวอย่างรวดเร็ว
---
# #5.สรุปและรายชื่อหัวหน้าสถาปนิก
เสน่ห์หลักของ Amazon Athena สามารถสรุปได้4คำ: ** การโจมตีลดมิติ ** ช่วยขจัดการทำงานหนักของเซิร์ฟเวอร์และทำให้บริษัทต่างๆสามารถมุ่งเน้นไปที่การเขียน SQL และค้นพบคุณค่าของข้อมูลได้
สุดท้ายให้รายการยืนยันขั้นสุดท้ายสำหรับช่างเทคนิคทุกคนที่พร้อมจะยอมรับ Data Lake:
** การยืนยันรูปแบบข้อมูล **: ละทิ้งการตรวจสอบ CSV/JSON โดยตรงโดยสิ้นเชิงใช้ AWS Glue โดยอัตโนมัติหรือด้วยตนเองเพื่อแปลง ** การบีบอัด Parquet + Snappy/Gzip **
* ** การยืนยันสิทธิ์การสอบถาม **: หลังจากเข้าสู่ระบบช่องทางมาตรฐานเพื่อดำเนินการตรวจสอบความถูกต้องด้วยชื่อจริง ** การซื้อบัญชี AWS ** ต้องกำหนดหลักการสิทธิพิเศษขั้นต่ำของ IAM เพื่อป้องกันไม่ให้พนักงานใช้บัญชีรูทสำหรับการดำเนินการที่มีความเสี่ยงสูง
*
** การยืนยันทางการเงิน **: สภาพแวดล้อมการผลิตจะไม่ใช้กลุ่มงานเริ่มต้นต้องสร้างและกำหนดค่ากลุ่มงานใหม่ ** ขีดจำกัดการสแกนครั้งเดียว/รายวัน **
ปล่อยให้พลังการประมวลผลพร้อมใช้งานและปล่อยให้ข้อมูลปล่อยค่าใน S3อย่างเงียบๆด้วยสถาปัตยกรรม Serverless ที่ใช้งานได้จริงในทะเลแดงของข้อมูลขนาดใหญ่นี้ให้ตัดผลกำไรและอัตราการเติบโตที่มีค่าที่สุดขององค์กรออกไป!

