บัญชี AWS: Amazon Bedrock คืออะไร? เซิร์ฟเวอร์ฟรีเพียงคลิกเดียวเรียกสิ่งประดิษฐ์ที่ดีที่สุดของ DeepSeek-R1และ Claude 3.5

เทคโนโลยีโมเดลขนาดใหญ่มีการเปลี่ยนแปลงในแต่ละวันที่ผ่านไปเท้าหน้าเพิ่งถูก

Claude 3.5

ซีรีส์นี้มีความสามารถในการเขียนโปรแกรมและตรรกะที่น่าทึ่งอย่างยิ่งและรูปแบบการใช้เหตุผลแบบโอเพนซอร์สที่สร้างขึ้นในยุคที่เท้าหลัง

DeepSeek-R1

มันแพร่กระจายไปทั่วโลก

สำหรับนักพัฒนาและทีมองค์กรจุดเจ็บปวดของการเชื่อมต่อโมเดลชั้นนำเหล่านี้เข้ากับระบบธุรกิจของตนเองนั้นชัดเจนมาก:

ใช้โมเดลโอเพนซอร์ส (เช่น DeepSeek-R1): คุณต้องซื้อเซิร์ฟเวอร์กราฟิกการ์ด A100/H100ที่มีราคาแพงด้วยตัวเองและคุณต้องโยนกรอบการให้เหตุผลและการแยกโครงสร้างที่ซับซ้อนต่างๆการขยายกำลังการประมวลผลและการเพิ่มประสิทธิภาพพร้อมกันสูงและค่าใช้จ่ายในการดำเนินการและการบำรุงรักษาก็สูง

ใช้ API เชิงพาณิชย์ (เช่นเจ้าหน้าที่ Anthropic): แม้ว่าจะช่วยขจัดปัญหาของเซิร์ฟเวอร์แต่ก็ต้องเผชิญกับความไม่เสถียรของเครือข่ายเกณฑ์การชำระเงินที่สูงและความปลอดภัยของข้อมูลหลัก (ไม่สามารถผ่านการตรวจสอบการปฏิบัติตามข้อกำหนดของอินทราเน็ต) ในประเทศจีน

หากคุณกำลังเผชิญกับภาวะที่กลืนไม่เข้าคายไม่ออกเหล่านี้ก็ถึงเวลาทำความเข้าใจกับสิ่งประดิษฐ์ที่มีการโฮสต์นี้-

Amazon Bedrock

。

พูดง่ายๆก็คือ Amazon Bedrock เปิดตัวโดย Amazon Cloud (AWS)

สร้าง AI บริการโฮสติ้งเต็มรูปแบบ

。นักฆ่าที่ใหญ่ที่สุดคือ:

การกำจัดเซิร์ฟเวอร์โดยสิ้นเชิงเพียงแค่ API แบบรวมคุณสามารถเรียกกลุ่มผลิตภัณฑ์โมเดลที่แข็งแกร่งที่สุดของเครือข่ายทั้งหมดรวมถึง DeepSeek-R1เวอร์ชันเลือดเต็ม, Claude 3.5 Family Barrel, Amazon Nova, Llama 3และอื่นๆได้ด้วยคลิกเดียว

หลักการสำคัญ: "ไม่มีเซิร์ฟเวอร์" ของ Amazon Bedrock เจ๋งแค่ไหน?

การปรับใช้โมเดลคลาวด์แบบเดิม (เช่นการใช้ SageMaker หรือเซิร์ฟเวอร์คลาวด์ที่สร้างขึ้นเอง) โดยพื้นฐานแล้วสิ่งที่คุณเช่าคือ "พลังการประมวลผล" คุณต้องเดาว่าคุณควรซื้อ GPU กี่ตัวตามปริมาณการทำงานพร้อมกัน

และ Amazon Bedrock กำลังเล่นอยู่

Serverless (ไม่มีเซิร์ฟเวอร์)

ตรรกะ:

ด้วย Bedrock คุณไม่จำเป็นต้องเผชิญกับฮาร์ดแวร์ GPU ใดๆ AWS สร้างโมเดลระดับบนสุดทั้งหมดนี้

พูลสาธารณะแบ็คเอนด์ที่โฮสต์อย่างสมบูรณ์

。

การโทรตามความต้องการการเรียกเก็บเงินตามปริมาณ: ระบบธุรกิจของคุณส่งคำขอ (เช่นคำใบ้การเพิ่มประสิทธิภาพโค้ด) Bedrock คายผลลัพธ์ออกมาและ AWS จะเรียกเก็บเงินไม่กี่เซ็นต์หรือหลายพันดอลลาร์ตาม Input/Output Token ที่คุณบริโภคเมื่อไม่มีการร้องขอค่าใช้จ่ายจะถูกรีเซ็ตเป็นศูนย์โดยตรง

การขยายตัวไม่จำกัด: ไม่ว่าแอปของคุณจะมีการใช้งานพร้อมกัน10ครั้งในวันนี้หรือการระเบิดอย่างกะทันหันถึง100,000ครั้งในวันพรุ่งนี้ความยืดหยุ่นของพลังการประมวลผลพื้นฐานทั้งหมดจะได้รับการจัดอันดับโดยอัตโนมัติโดย AWS ในพื้นหลังด้วยทรัพยากรขนาดใหญ่ในห้องคอมพิวเตอร์ทั่วโลกคุณไม่จำเป็นต้องเขียนบรรทัดเดียวของการขยายอัตโนมัติสคริปต์

รูปแบบ API แบบรวม: การเปลี่ยนโมเดลก็เหมือนกับการเปลี่ยนสกินวันนี้คุณใช้ Claude 3.5 Sonnet พรุ่งนี้คุณต้องการเปลี่ยนเป็น DeepSeek-R1เพื่อลองใช้ความสามารถในการใช้เหตุผลเพียงแค่เปลี่ยน mo ในรหัส

พารามิเตอร์สตริงของ delId สถาปัตยกรรมธุรกิจโดยรวมและโครงสร้างข้อมูลไม่จำเป็นต้องเปลี่ยนเครื่องหมายวรรคตอน

การรวมกันที่แข็งแกร่ง: ประสิทธิภาพที่ยอดเยี่ยมของ DeepSeek-R1และ Claude 3.5บน Bedrock

ทำไมถึงเป็นสิ่งประดิษฐ์ที่ดีที่สุดของช่วงเวลา? เนื่องจาก Bedrock วาง "King of Engineering/Code" ที่แข็งแกร่งที่สุดในปัจจุบันและ "King of Deep Reasoning" ที่แข็งแกร่งที่สุดภายใต้หลังคาเดียวกัน

DeepSeek-R1 (เวอร์ชันเลือดเต็ม): Bedrock โฮสต์ DeepSeek-R1เวอร์ชันเลือดเต็มอย่างเป็นทางการมันน่าทึ่งมากในคณิตศาสตร์ตรรกะที่ซับซ้อนและการออกแบบอัลกอริทึมโค้ดและ "กระบวนการคิดเชิงลึก" ที่เป็นเอกลักษณ์จะถูกส่งออกไปอย่างสมบูรณ์การเรียกมันบน Bedrock เป็นการอำลาปัญหาหน่วยความจำวิดีโอที่ใช้งานในเครื่อง (OOM) โดยสิ้นเชิง

Claude 3.5 Family Bucket (Sonnet / Haiku): ได้รับการยอมรับในอุตสาหกรรมว่าเข้าใจรูปแบบภาษาของนักพัฒนาได้ดีที่สุดไม่ว่าจะเป็นการสร้างส่วนหน้าของ Artifacts ความเข้าใจบริบทที่ซับซ้อนอย่างยิ่งหรือการทำงานอัตโนมัติแบบหลายขั้นตอนที่มีประสิทธิภาพสูง Claude 3.5เป็นตัวเลือกแรกสำหรับการเชื่อมโยงไปถึงเชิงพาณิชย์ระดับองค์กร

บน Bedrock คุณสามารถบรรลุทั้งสองอย่างได้อย่างง่ายดาย

การกำหนดเส้นทางหลายรูปแบบ (Router)

。ตัวอย่างเช่นการสนทนาการบริการลูกค้าแบบง่ายๆจะมอบให้กับการตอบสนองที่รวดเร็วและมีต้นทุนต่ำ

Claude 3.5 Haiku

; เมื่อพบการปรับโครงสร้างสถาปัตยกรรมโค้ดที่ซับซ้อนกำหนดเส้นทางโดยตรงไปยัง

Claude 3.5 Sonnet

; และเมื่อพบตรรกะอัลกอริทึมที่เผาผลาญสมองอย่างมากหรือการวิเคราะห์การตรวจสอบทางการเงินการโทรด้วยคลิกเดียว

DeepSeek-R1

ให้มัน "คิด" ทางออกที่ดีที่สุด

เริ่มต้นการต่อสู้จริง: ปลดล็อกโมเดล Bedrock ของคุณในสามขั้นตอน

หลายทีมคิดว่าต้องมีขั้นตอนที่ยุ่งยากมากในการเข้าถึง AWS อันที่จริงเกณฑ์ของ Bedrock นั้นต่ำมาก

ขั้นตอนที่1: เปิดการเข้าถึงโมเดล (Model Access)

เนื่องจากการปฏิบัติตามข้อกำหนดและความจุของห้องคอมพิวเตอร์ในภูมิภาคต่างๆทั่วโลกบัญชี AWS ที่เพิ่งเปิดใหม่จะไม่ปลดล็อกโมเดลของบุคคลที่สามตามค่าเริ่มต้น

เข้าสู่คอนโซลการจัดการ AWS ของคุณและป้อน Amazon Bedrock ในแถบค้นหาด้านบน

หลังจากเข้าสู่คอนโซล Bedrock แล้วให้เลื่อนเมนูด้านซ้ายไปที่ด้านล่างเพื่อค้นหาการเข้าถึงแบบจำลอง

คลิกการเข้าถึงแบบจำลองการจัดการที่มุมขวาบนของหน้า

เลือกรูปแบบที่คุณต้องการในรายการ (เช่น Anthropic -> Claude 3.5 Sonnet และ DeepSeek -> DeepSeek-R1)

คลิกตกลงเพื่อส่งโดยปกติภายในไม่กี่นาทีสถานะการอนุญาตของโมเดลเหล่านี้จะกลายเป็นสีเขียว (ได้รับอนุญาต)

ขั้นตอนที่2: ใช้คอนโซล Playground การทดสอบรหัสศูนย์

ก่อนที่จะเขียนโค้ดคุณสามารถลองใช้ความลึกในคอนโซล:

ในเมนูด้านซ้ายคลิก Playgrounds -> Chat (แชทคอนโซล)

คลิก Select model เพื่อเลือก DeepSeek-R1ที่คุณเพิ่งปลดล็อค

ป้อนปริศนาเผาสมองของคุณโดยตรงคุณจะพบว่าด้วยโครงสร้างพื้นฐานขนาดใหญ่ของ AWS ความเร็วในการตอบสนองและประสิทธิภาพความเสถียรของ R1เวอร์ชันเลือดเต็มสามารถเรียกได้ว่าเป็นระดับอุตสาหกรรม

ขั้นตอนที่3: โทรโดยตรงด้วยรหัสงูหลามในคลิกเดียว

เมื่อคุณต้องการรวมเข้ากับ Python backend หรือ Agent Framework ของคุณคุณจะต้องใช้ SDK อย่างเป็นทางการของ AWS เท่านั้น

Boto3

。ดูรหัสการโทรแบบรวมที่เรียบง่าย:

ดูสิไม่มีการเริ่มต้นพลังคอมพิวเตอร์ที่ซับซ้อนไม่มีการอัปเกรดไดรเวอร์กราฟิกด้วยโค้ดน้อยกว่า30บรรทัดนี้คุณจะใช้ "AI beast" สองอันดับแรกของโลกเป็นของคุณเอง

อุปสรรคด้านความปลอดภัยหลัก: เหตุใดบริษัทขนาดใหญ่จึงเต็มใจที่จะใช้โมเดลขนาดใหญ่บน Bedrock

สำหรับองค์กรโดยเฉพาะผู้ใช้ที่ต้องจัดการกับธุรกิจที่ละเอียดอ่อนและเกี่ยวข้องกับการปฏิบัติตามข้อกำหนดในต่างประเทศ (เช่น GDPR, HIPAA) ความปลอดภัยของข้อมูลเป็นเส้นสีแดงที่ไม่สามารถแตะต้องได้หากคุณปรับอินเทอร์เฟซของบุคคลที่สามของเครือข่ายสาธารณะโดยตรงความเสี่ยงที่ข้อมูลจะถูกนำไปใช้สำหรับการฝึกอบรมครั้งที่สองนั้นสูงมาก

และ Amazon Bedrock ให้

กลไกความปลอดภัยข้อมูลที่ดีที่สุดระดับองค์กร

:

การแยกข้อมูลแบบสัมบูรณ์: คำใบ้ทั้งหมดของคุณ (Prompt) คำตอบที่สร้างโดยโมเดลและข้อมูลการปรับแต่งใดๆที่ได้รับการฝึกฝนโดย Bedrock จะถูกล็อคไว้ใน VPC (Virtual Private Cloud) เฉพาะของคุณใน AWS เสมอ

ไม่เคยใช้สำหรับการฝึกอบรมสาธารณะ: Amazon Cloud สัญญาอย่างเป็นทางการเป็นขาวดำว่าข้อมูลใดๆที่คุณเข้าและออกจาก Bedrock จะไม่ถูกใช้โดย AWS, Anthropic หรือ DeepSeek เป็นวัสดุการฝึกอบรมซ้ำสำหรับโมเดลฐาน

การเชื่อมต่ออินทราเน็ตขององค์กรโดยตรง (AWS PrivateLink): เซิร์ฟเวอร์ธุรกิจของคุณและโมเดล Bedrock ไม่สามารถใช้เครือข่ายสาธารณะทางอินเทอร์เน็ตได้เลยและการสื่อสารผ่านสายเฉพาะของเครือข่ายกระดูกสันหลังภายในของ AWS จะตัดความเป็นไปได้ที่ข้อมูลจะถูกดักฟังกลางคันโดยสิ้นเชิง

สรุป

Amazon Bedrock ล้มล้างกระบวนทัศน์ทางวิศวกรรมประจำวันของโมเดลขนาดใหญ่โดยสิ้นเชิงมันทำลายตรรกะแบบเดิมๆของ "การซื้อบริการสำหรับโมเดลขนาดใหญ่แบบโอเพนซอร์สและโมเดลขนาดใหญ่เพื่อซื้อกราฟิกการ์ด" และทำให้โซลูชันที่เหมาะสมที่สุดของเครือข่ายทั้งหมดสดชื่นมาก

น้ำประปาสาธารณะระดับโครงสร้างพื้นฐาน

。

คุณไม่ต้องกังวลเกี่ยวกับการขาดแคลนฮาร์ดแวร์อีกต่อไปและไม่ต้องเสียค่ากราฟิกการ์ดที่สูงด้วยการโทรแบบไม่ใช้เซิร์ฟเวอร์เพียงครั้งเดียวของ Bedrock คุณสามารถทุ่มเทพลังงาน100% ให้กับการออกแบบกระบวนการทางธุรกิจตัวแทนที่ซับซ้อนยิ่งขึ้นและนวัตกรรมผลิตภัณฑ์

ตอนนี้ไปที่คอนโซล AWS ของคุณแล้วคลิก Be

ดรอคดี่เป็นสิ่งสุดท้ายที่คุณไม่อยากพลาดเมื่อคุณไปทะเลหรือสร้างแอปพลิเคชัน AI เนทีฟในปีนี้