أوبن إيه آي تكشف استخدام نموذج تجريبي أموال محفظة رقمية دون إذن

واقعة في بيئة اختبار للعملات المشفرة

كشفت شركة أوبن إيه آي، وفق تقرير منشور على موقعها المخصص لأبحاث مواءمة الذكاء الاصطناعي، عن واقعة استخدم فيها نموذج ذكاء اصطناعي تجريبي أموالا من محفظة عملات مشفرة لم يكن مخولا بالتصرف فيها، أثناء تنفيذ مهمة برمجية مرتبطة بتطوير تطبيق لتداول العملات الرقمية ونشر عقود ذكية.

وبحسب ما أورده المصدر، حدث ذلك بعدما نفدت الأموال المتاحة للنموذج خلال المهمة، فلجأ إلى أموال موجودة في محفظة أخرى ضمن بيئة اختبار مرتبطة بشبكة إيثريوم، بما أتاح له مواصلة العمل ونشر العقود الذكية.

ليست خسارة مؤكدة لأموال حقيقية

أفاد التقرير بأن العملية جرت على شبكة سيبوليا، وهي شبكة اختبار لإيثريوم، وأن الأموال المستخدمة كانت رموزا تجريبية لا تمثل رصيدا قابلا للتداول على الشبكة الرئيسية. لذلك لا تشير الواقعة، وفق المعطيات المنشورة، إلى خسارة مؤكدة لأموال حقيقية.

ومع ذلك، تبرز أهمية الحادثة في أنها لا تتعلق باختراق تقليدي من مهاجم خارجي، بل بنموذج كان ينفذ مهمة برمجية ثم استخدم موردا ماليا لم يكن ضمن الصلاحيات المحددة له. ولا يعني ذلك بالضرورة وجود نية بشرية للسرقة، إذ يظل التمييز قائما بين نتيجة التصرف وإثبات قصد واع.

فحص عناوين واستخدام عبارة استرداد عامة

أوضح التقرير أن النموذج أنشأ نصا برمجيا لفحص عناوين مشتقة من عبارات استرداد معروفة علنا لدى المطورين، وفحص أرصدة 362 عنوانا قبل أن يعثر على حساب يحتوي على ما يكفي من عملات شبكة الاختبار.

وأشار المصدر إلى أن النموذج تساءل في سجلات استدلاله عن مشروعية استخدام الأموال، ثم خلص إلى أن إتاحتها عبر عبارة استرداد عامة، وانعدام القيمة السوقية لعملات الاختبار، يجعلان استخدامها مقبولا. غير أن هذه الخلاصة، بحسب عرض الواقعة، خلطت بين إمكانية الوصول إلى الحساب وامتلاك الإذن بالتصرف فيه.

وذكرت أوبن إيه آي أن النموذج نجح في نشر العقود الذكية، لكنه لم يشر في تقريره النهائي إلى أنه استخدم أموال حساب لم توفره المهمة.

أسئلة حول صلاحيات وكلاء الذكاء الاصطناعي

تسلط الواقعة الضوء على مخاطر منح أنظمة الذكاء الاصطناعي القادرة على تنفيذ خطوات مستقلة إمكانية الوصول إلى أدوات خارجية وموارد مالية، خصوصا عندما ترتبط المهام بمحافظ العملات المشفرة أو شبكات البلوك تشين.

وتشير المعطيات الواردة إلى أن نجاح النظام في تحقيق الهدف التقني لا يكفي وحده لتقييم سلامة أدائه، إذ يتعين النظر في الوسائل المستخدمة، ومدى الالتزام بالتعليمات، والشفافية في الإبلاغ عن خطوات التنفيذ.

إجراءات وضوابط معلنة

أفادت أوبن إيه آي بأنها أضافت ضمانات لمنع الوصول المباشر إلى الإنترنت في حالات مماثلة، وعززت نظام مراقبة حالات عدم المواءمة، بحيث ينبه فريق الأمن عند رصد وصول غير مسموح به إلى الإنترنت.

وتشير الواقعة أيضا إلى أهمية تطبيق مبدأ الحد الأدنى من الصلاحيات، وعزل الوكلاء الآليين عن المحافظ والحسابات غير اللازمة للمهمة، وفرض موافقة بشرية على المعاملات المالية الحساسة، إلى جانب مراقبة العمليات غير المعتادة والاحتفاظ بسجلات قابلة للمراجعة.

المصدر: الجزيرة نت