مؤلفو ورقة Transformer يعيدون تشكيل الروبيان، يودعون ثغرة OpenClaw المفتوحة

من量子位 | المصدر

كم عدد الكركند الذين يتجولون على الإنترنت عراة؟

الذكاء الاصطناعي يكشف عن كلمات المرور ومفاتيح API الخاصة بك للعالم بأسره.

مؤلف Transformer إيليا بولوسوخين لم يستطع التحمل. فقام بإعادة بناء نسخة آمنة من الكركند من الصفر: IronClaw.

تم الآن إصدار IronClaw كمشروع مفتوح المصدر على GitHub، ويوفر حزم تثبيت لنظام macOS و Linux و Windows، ويدعم النشر المحلي، كما يدعم الاستضافة عبر السحابة. لا يزال المشروع في مرحلة تطوير سريع، ويمكن الآن تحميل الملف التنفيذي للإصدار v0.15.0.

كما أن بولوسوخين (المعروف بـ “الأخ أناناس”) نشر منشورًا على منتدى Reddit للرد على كل شيء، ويحظى باهتمام كبير.

01 OpenClaw حقق نجاحًا، لكنه أيضًا “اشتعلت فيه النيران”

هو نفسه كان من المستخدمين الأوائل لـ OpenClaw، وذكر أنه تقنية انتظرها لمدة 20 عامًا.

لقد غيرت طريقتي في التفاعل مع الحوسبة.

لكن وضع أمان OpenClaw كان كارثيًا، مع ثغرات مثل تنفيذ التعليمات البرمجية عن بُعد بنقرة واحدة، وهجمات حقن التعليمات، وسرقة كلمات المرور عبر المهارات الخبيثة، حيث تم الكشف عن هذه الثغرات واحدة تلو الأخرى في نظام OpenClaw البيئي.

أكثر من 25000 حالة عامة مكشوفة على الإنترنت بدون تحكم أمني كافٍ، ووصفها خبراء الأمان بأنها “حريق قمامة أمني (security dumpster fire)”.

جذر المشكلة يكمن في البنية نفسها.

عندما يمنح المستخدمون OpenClaw رمز التوكن الخاص بالبريد الإلكتروني الخاص بهم، يُرسل مباشرة إلى خوادم مزود خدمة LLM.

وأشار بولوسوخين على Reddit إلى ما يعنيه ذلك:

كل معلوماتك، حتى البيانات التي لم تمنحها تصريحًا واضحًا، قد يطلع عليها أي موظف في الشركة. وهذا ينطبق أيضًا على بيانات صاحب العمل. ليس أن هذه الشركات شريرة، لكن الواقع هو أن المستخدمين لا يملكون خصوصية حقيقية.

قال إنه لا يستحق أي قدر من الراحة أن يغامر بأمان وخصوصية نفسه وعائلته من أجل ذلك.

02 إعادة بناء كل شيء من الصفر باستخدام Rust

IronClaw هو إعادة كتابة كاملة لـ OpenClaw باستخدام لغة Rust.

تتمتع Rust بميزات أمان للذاكرة تزيل بشكل جذري الثغرات التقليدية مثل تجاوز السعة، وهو أمر حاسم للأنظمة التي تتعامل مع المفاتيح الخاصة وبيانات اعتماد المستخدمين.

وفيما يخص البنية الأمنية، أنشأ IronClaw أربع طبقات من الدفاع المتعمق.

الطبقة الأولى هي ضمانات أمان الذاكرة التي توفرها Rust نفسها.

الطبقة الثانية هي عزل بيئة WebAssembly (WASM)، حيث تعمل جميع الأدوات الخارجية والرموز التي تولدها الذكاء الاصطناعي داخل حاوية WebAssembly مستقلة، حتى لو كانت أداة خبيثة، فإن نطاق الضرر يقتصر على الحاوية بشكل صارم.

الطبقة الثالثة هي خزنة التشفير للمفاتيح، حيث تُخزن جميع مفاتيح API وكلمات المرور باستخدام تشفير AES-256-GCM، وكل سجل اعتماد مرتبط بقواعد سياسة، تحدد أنه يمكن استخدامه فقط لنطاق معين.

الطبقة الرابعة هي بيئة التنفيذ الموثوقة (TEE)، التي تستخدم عزلًا على مستوى الأجهزة لحماية البيانات، حتى مزود الخدمة السحابية لا يمكنه الوصول إلى المعلومات الحساسة للمستخدم.

أهم نقطة في هذا التصميم هي أن النموذج الكبير (Large Model) لا يلمس أبدًا البيانات الأصلية.

فقط عندما يحتاج الذكاء الاصطناعي إلى التواصل مع خدمات خارجية، يتم حقن الاعتمادات على حدود الشبكة.

وأعطى بولوسوخين مثالاً، حتى لو تعرض النموذج الكبير لهجوم حقن التعليمات، وحاول إرسال رمز OAuth الخاص بـ Google للمهاجم، فإن طبقة تخزين الاعتمادات سترفض الطلب مباشرة، وتسجيله في السجلات، وإرسال تنبيه للمستخدم.

لكن مجتمع المطورين لا يزال غير مطمئن، خاصة مع وجود أكثر من 2000 حالة تعرضت للهجوم في OpenClaw، والكثير من المهارات الخبيثة، فهل ستكرر IronClaw نفس المصير إذا انتشرت بشكل واسع؟

رد بولوسوخين هو أن تصميم بنية IronClaw قد سد الثغرات الأساسية في OpenClaw من الجذور. الاعتمادات تُخزن دائمًا مشفرة، ولا تتصل أبدًا بـ LLM، ولا يمكن للمهارات الخارجية تنفيذ سكربتات على المضيف، بل تعمل داخل الحاوية فقط.

حتى عند الوصول عبر CLI، يحتاج المستخدم إلى مفتاح النظام الخاص به لفك التشفير، والمفتاح المشفر الذي يحصل عليه لا معنى له بذاته.

كما أشار إلى أن الفريق يخطط لإجراء اختبارات فريق الاختراق (Red Team) ومراجعات أمنية محترفة مع استقرار الإصدار الأساسي.

وفيما يخص مشكلة حقن التعليمات المعترف بها في الصناعة، قدم بولوسوخين أفكارًا أكثر تفصيلًا.

حاليًا، يستخدم IronClaw قواعد استنتاجية للكشف عن أنماط، والهدف المستقبلي هو نشر مصنف لغوي صغير يمكن تحديثه باستمرار للتعرف على أنماط الحقن.

لكن هو يعترف أن حقن التعليمات قد يسرق الاعتمادات، أو يغير مباشرة الكود الخاص بالمستخدم، أو يرسل رسائل خبيثة عبر أدوات الاتصال.

لمواجهة مثل هذه الهجمات، هناك حاجة لنظام استراتيجي أكثر ذكاءً، قادر على مراجعة نوايا سلوك الذكاء الاصطناعي دون الاطلاع على المدخلات، “هناك المزيد من العمل، ونرحب بمساهمات المجتمع.”

سُئل عن الاختيار بين النشر المحلي والسحابي.

يرى بولوسوخين أن الحل المحلي البحت له قيوده الواضحة، حيث يتوقف الذكاء الاصطناعي عند إيقاف تشغيل الجهاز، ويصعب على الأجهزة المحمولة استهلاك الطاقة، كما أن المهام الطويلة والمعقدة لا يمكن تشغيلها.

ويعتقد أن “السحابة السرية” (confidential cloud) هي الحل الوسط الأمثل حاليًا، حيث توفر حماية للخصوصية تقترب من الأجهزة المحلية، وتواجه مشكلة “البقاء على الإنترنت دائمًا”.

وأشار أيضًا إلى تفصيل مهم، وهو أن المستخدم يمكنه إعداد سياسات، مثل إضافة حواجز أمان إضافية تلقائيًا أثناء السفر عبر الحدود، لمنع الوصول غير المصرح به.

03 طموح أكبر

بولوسوخين ليس مطورًا مفتوح المصدر عاديًا.

في عام 2017، نشر مع سبعة مؤلفين آخرين ورقة بعنوان “Attention Is All You Need”، التي وضعت أساس نماذج اللغة الكبيرة الحالية، من خلال بنية Transformer.

على الرغم من أنه كان آخر الأسماء في التوقيع، إلا أن هناك ملاحظة في الورقة تقول “مساهمة متساوية. ترتيب الترتيب عشوائي.”، وهو ترتيب عشوائي تمامًا.

وفي نفس العام، ترك جوجل وأسّس NEAR Protocol، بهدف دمج الذكاء الاصطناعي وتقنية البلوكشين.

وراء IronClaw، توجد خطة استراتيجية أكبر لـ NEAR Protocol: الذكاء الاصطناعي المملوك للمستخدم (User-Owned AI).

في هذا الرؤية، يسيطر المستخدمون تمامًا على بياناتهم وأصولهم، ويقوم الذكاء الاصطناعي بتنفيذ المهام نيابة عنهم في بيئة موثوقة.

وقد أنشأت NEAR بنية تحتية لهذا، مثل منصة سحابة الذكاء الاصطناعي وسوق GPU اللامركزية، وIronClaw هو طبقة التشغيل لهذه المنظومة.

حتى أنه طور سوقًا لتوظيف الوكلاء الذكيين بعضهم البعض.

على منصة market.near.ai، يمكن للمستخدمين تسجيل وكلائهم المتخصصين، ومع تراكم سمعتهم، يحصلون على مهام ذات قيمة عالية.

عندما سُئل عن كيف يمكن للأشخاص العاديين التكيف مع عصر الذكاء الاصطناعي خلال السنوات الخمس القادمة، نصح بولوسوخين بسرعة تبني أسلوب العمل بالوكلاء الذكيين، وتعلم كيف يتركوا سير العمل كاملًا للذكاء الاصطناعي ليقوم بالأتمتة.

لم تكن هذه النصيحة وليدة اللحظة، ففي عام 2017، عندما أسس NEAR AI، قال للجميع: “في المستقبل، ستتحدث مع الحاسوب فقط، ولن تحتاج لكتابة الكود.”

في ذلك الوقت، اعتقد الناس أنهم مجانين، وكانوا يرددون كلامًا غير منطقي.

مر تسع سنوات، وبدأ هذا يتحقق على أرض الواقع.

“الذكاء الاصطناعي هو الواجهة النهائية للتفاعل مع كل شيء على الإنترنت،” كتب بولوسوخين، “لكن لنجعله آمنًا.”

رابط GitHub:

روابط مرجعية:

[1]