حساب AWS: ما هو Amazon Bedrock ؟ بدون خادم ، نقرة واحدة لاستدعاء DeepSeek-R1 مع قطعة أثرية كلود 3.5 في نهاية المطاف

تكنولوجيا النماذج الكبيرة تتغير مع مرور كل يوم. القدم الأمامية فقط

كلود 3.5

إن قدرة البرمجة والمنطق المذهلة للغاية في السلسلة مروعة ، ونموذج التفكير المفتوح والدم ذو أهمية تاريخية للقدم الخلفية

DeepSeek-R1

اشتعلت فيها النيران في جميع أنحاء العالم.

بالنسبة للمطورين وفرق الشركات ، فإن نقاط الألم واضحة جدًا لتوصيل هذه النماذج العليا في أنظمة الأعمال الخاصة بهم:

استخدم نماذج مفتوحة المصدر (مثل DeepSeek-R1): تحتاج إلى شراء خادم رسومات A100/H100 باهظ الثمن بنفسك ، ولكن أيضًا إرم العديد من أطر التفكيك المنطقي المعقدة ، وتوسيع القدرة الحسابية ، وتحسين التزامن العالي ، وتكاليف التشغيل والصيانة مرتفعة.

استخدام واجهات برمجة التطبيقات التجارية (مثل Anthropic Official): على الرغم من أنه يتجنب مشاكل الخادم ، إلا أنه يواجه حفرًا واقعية مثل عدم استقرار الشبكة ، وعتبة دفع الفواتير العالية ، وأمن البيانات الأساسية (غير قادر على اجتياز تدقيق الامتثال للإنترانت) في الصين.

إذا كنت تواجه هذه المعضلات أيضًا ، فقد حان الوقت للتعرف على قطعة أثرية الاستضافة هذه-

Amazon Bedrock

.

بعبارات بسيطة ، تم إطلاق Amazon Bedrock بواسطة Amazon Cloud (AWS)

توليد AI خدمات مستضافة بالكامل

. القاتل الأكبر هو:

ألغي الخادم تمامًا ، فقط واجهة برمجة تطبيقات موحدة ، يمكنك استدعاء أقوى تشكيلة على الشبكة بما في ذلك DeepSeek-R1 Full Blood Edition و Claude 3.5 و Amazon Nova و Llama 3 وما إلى ذلك بنقرة واحدة.

المبدأ الأساسي: ما مدى برودة Amazon Bedrock "بدون خادم" ؟

عمليات نشر النماذج السحابية التقليدية (مثل استخدام SageMaker أو الخوادم السحابية المبنية ذاتيًا) ، فأنت تستأجر أساسًا "قوة حسابية". تحتاج إلى تخمين عدد وحدات معالجة الرسومات التي يجب عليك شراؤها بناءً على مقدار التزامن.

و Amazon Bedrock يلعب

Serverless (بدون خادم)

المنطق:

مع Bedrock ، لم تعد بحاجة إلى مواجهة أي أجهزة GPU محددة. لقد صنعت AWS كل هذه النماذج العليا

بركة عامة خلفية مستضافة بالكامل

.

الاتصال عند الطلب ، الفوترة حسب الكمية: يرسل نظام عملك طلبًا (مثل مطالبة تحسين الكود) ، ويبصق Bedrock النتيجة ، وتتقاضى AWS بضعة سنتات أو بضعة آلاف من الدولارات بناءً على Input/Output Token الذي تستهلكه. في حالة عدم وجود طلب ، يتم إرجاع الرسوم مباشرة إلى الصفر.

التوسع اللانهائي: بغض النظر عما إذا كان التطبيق الخاص بك هو 10 التزامن اليوم أو انفجار مفاجئ إلى 100000 التزامن غدًا ، فإن المرونة الحسابية الأساسية يتم وضعها تلقائيًا بواسطة AWS في الخلفية باستخدام الموارد الضخمة لغرفة الكمبيوتر العالمية. لست بحاجة إلى كتابة سطر من التوسيع التلقائي.

تنسيق API الموحد: تغيير النموذج يشبه تغيير الجلد. اليوم تستخدم Claude 3.5 Sonnet ، وغدًا تريد التغيير إلى DeepSeek-R1 لتجربة القدرة على التفكير ، تحتاج فقط إلى تغيير رمز

لا تحتاج معلمات سلسلة delId وهيكل الأعمال العام وهيكل البيانات حتى إلى تغيير علامة الترقيم.

تعاون قوي: أداء ممتاز لـ DeepSeek-R1 و Claude 3.5 على Bedrock

لماذا هو القطع الأثرية في نهاية المطاف في الوقت الراهن ؟ لأن Bedrock يضع أقوى مصدر مغلق حاليًا "ملك الهندسة/الكود" وأقوى مصدر مفتوح المصدر "ملك التفكير العميق" تحت نفس السقف.

DeepSeek-R1 (نسخة الدم الكامل): استضافت Bedrock رسميًا DeepSeek-R1 إصدار الدم الكامل. إنه مذهل للغاية في تصميم الرياضيات والمنطق المعقد وخوارزميات الكود ، وسيتم إخراج "التفكير العميق" الفريد بالكامل. تم استدعاؤه على Bedrock لتوديع مشكلة انفجار ذاكرة الفيديو (OOM) التي تم نشرها محليًا.

كلود 3.5 دلو العائلة (Sonnet / Haiku): نموذج اللغة المعترف به في الصناعة هو المطور الأكثر شهرة. سواء كان إنشاء الواجهة الأمامية للمقالات ، أو فهم السياق المعقد للغاية ، أو أتمتة سير العمل متعدد الخطوات عالية الكفاءة ، فإن Claude 3.5 هو الخيار الأول للهبوط التجاري على مستوى المؤسسة.

على Bedrock ، يمكنك بسهولة تحقيق كليهما

تصميم التوجيه متعدد النماذج (Router)

. على سبيل المثال: يتم تسليم حوار خدمة العملاء البسيط إلى استجابة منخفضة التكلفة

كلود 3.5 هايكو

؛ مواجهة إعادة بناء بنية الكود المعقدة ، يتم توجيهها مباشرة إلى

كلود 3.5 Sonnet

؛ عند مواجهة منطق الخوارزمية أو تحليل التدقيق المالي الذي يحترق الدماغ ، يتم استدعاء مفتاح واحد

ديب سكي-آر1

دعها "تفكر" في الحل الأمثل.

بدء القتال: ثلاث خطوات لفتح نموذج Bedrock الخاص بك

تعتقد العديد من الفرق أن الوصول إلى AWS يجب أن يكون له عملية مرهقة للغاية ، في الواقع ، عتبة Bedrock منخفضة للغاية.

الخطوة الأولى: فتح الوصول إلى النموذج (Model Access)

نظرًا للامتثال والنظر في سعة غرفة الكمبيوتر في مختلف المناطق حول العالم ، فإن حساب AWS الذي تم فتحه حديثًا لا يفتح نموذج الطرف الثالث افتراضيًا.

قم بتسجيل الدخول إلى وحدة التحكم في إدارة AWS ، أدخل Amazon Bedrock في شريط البحث العلوي.

بعد الدخول إلى وحدة التحكم Bedrock ، قم بالتمرير من خلال القائمة اليسرى إلى أسفل للعثور على موديل الوصول (الوصول إلى النموذج).

انقر على Manage model في الزاوية اليمنى العليا من الصفحة (إدارة الوصول إلى النموذج).

ضع علامة على النموذج الذي تحتاجه في القائمة (مثل Anthropic -> Claude 3.5 Sonnet و DeepSeek -> DeepSeek-R1).

انقر على "موافق" للتقديم ، وعادة في غضون بضع دقائق ، ستصبح حالة إذن هذه النماذج خضراء Granted (مصرح بها).

الخطوة الثانية: الاستفادة من وحدة التحكم Playground صفر رمز اختبار

قبل كتابة التعليمات البرمجية ، يمكنك تجربة عمقها في وحدة التحكم:

في القائمة اليسرى ، انقر على Playgrounds -> Chat (وحدة التحكم في الدردشة).

انقر على Select model واختر DeepSeek-R1 التي تم فتحها للتو.

أدخل مباشرة لغز حرق الدماغ. ستجد أنه بفضل البنية التحتية الضخمة لـ AWS ، يمكن تسمية سرعة الاستجابة واستقرار النسخة الكاملة من R1 بمستوى صناعي.

الخطوة الثالثة: استدعاء مباشرة مع مفتاح واحد من رمز Python

عندما تريد دمجها في الإطار الخلفي أو Agent الخاص بك Python ، ما عليك سوى استخدام SDK الرسمي لـ AWS

Boto3

. ألقِ نظرة على رمز الاتصال الموحد البسيط:

انظر ، لا توجد تهيئة معقدة للقوة الحسابية ، ولا توجد ترقية مدفوعة ببطاقة الرسومات. فقط باستخدام هذا الرمز الذي يقل عن 30 سطرًا ، يمكنك استخدام أفضل "وحوش الذكاء الاصطناعي" في العالم لاستخدامه الخاص.

حاجز الأمان الأساسي: لماذا تفضل الشركات الكبرى تشغيل النماذج الكبيرة على Bedrock ؟

بالنسبة للمؤسسات ، وخاصة المستخدمين الذين يحتاجون إلى التعامل مع الأعمال الحساسة والامتثال في الخارج (مثل GDPR و HIPAA) ، فإن أمن البيانات هو خط أحمر لا يمكن المساس به على الإطلاق. إذا قمت بتعديل واجهة الطرف الثالث للشبكة العامة مباشرة ، فإن خطر استخدام البيانات للتدريب الثانوي مرتفع للغاية.

و Amazon Bedrock يعطي

آلية خزنة البيانات النهائية على مستوى المؤسسة

:

عزل البيانات المطلق: جميع كلمات التلميح (Prompt) ، والإجابات التي تم إنشاؤها بواسطة النموذج ، وأي بيانات دقيقة تم تدريبها من خلال Bedrock ، مقفلة دائمًا في أراضي VPC الحصرية (السحابة الخاصة الافتراضية) في AWS.

لا تستخدم أبدًا للتدريب العام: وعد Amazon Cloud الرسمي بالأبيض والأسود بأن أي بيانات تدخل وتخرج منها من Bedrock لن يتم استخدامها رسميًا كمواد تدريب تكرارية لنموذج القاعدة بواسطة AWS أو Anthropic أو DeepSeek.

AWS PrivateLink (AWS PrivateLink): يمكن لخادم الأعمال الخاص بك ونموذج Bedrock عدم استخدام شبكة الإنترنت العامة على الإطلاق ، وكل ذلك من خلال الاتصال بالخط الخاص بالشبكة الداخلية الأساسية لـ AWS ، مما يقطع تمامًا إمكانية اعتراض البيانات في منتصف الطريق.

الخلاصة

لقد قلبت Amazon Bedrock تمامًا النموذج الهندسي اليومي للنموذج الكبير. إنه يكسر المنطق التقليدي المتمثل في "شراء خدمات ذات مصدر مغلق ونماذج كبيرة مفتوحة المصدر لشراء بطاقات رسومات" ، ويحول الحل الأمثل للشبكة بأكملها إلى نوع منعش للغاية

مياه الصنبور العامة على مستوى البنية التحتية

.

لم تعد مضطرًا للقلق بشأن نفاد الأجهزة أو فقدان شعرك مقابل رسوم الخمول المرتفعة لبطاقة الرسومات. من خلال الاتصال بنقرة واحدة بدون خادم من Bedrock ، يمكنك استثمار 100 ٪ من طاقتك في تصميم عمليات تجارية أكثر دقة وابتكارات المنتج.

الآن ، اذهب إلى وحدة التحكم الخاصة بك ، اضغط على (بي)

Drock ، هذا بالتأكيد هو أفضل ما تريد تفويته عند الذهاب إلى البحر هذا العام أو بناء تطبيق محلي لمنظمة العفو الدولية.