ويطالب جيفري هينتون بتقييم نماذج الذكاء الاصطناعي قبل أن تتاح هذه النماذج، في نظر سلطة مستقلة. ويطرح خطابه، الذي استأنف في الصحافة اللبنانية في 10 تشرين الثاني/نوفمبر، سؤالاً ملموساً: من الذي يقرر أن يمكن نشر نموذج على أي دليل وعلى أي رصد بعد ذلك؟ وتوجد بالفعل ضوابط للمبادرة في عدة أشكال، دون أن تشكل النظام الدولي الذي تدعو إليه.
The researcher expresses this position in an interview with the British press published on 3 November. He criticizes the trade race between large technology companies and fears of critical infrastructure incidents. بيد أنها تحتفظ بأمل تحقيق فوائد كبيرة. وينادي خطابه بوضع إطار للتنمية، بدلا من التخلي العام عن التكنولوجيا.
وفي التقرير المنشور في لبنان، تقترح هينتون سلطة دولية مستوحاة من مراقبة المخدرات. وينبغي للشركات أن تقدم أدلة لمقارنة الفوائد المتوقعة والأضرار المحتملة قبل التسويق. وهذا اقتراح مقدم من الباحث وليس إعلان مؤسسة أنشئت بالفعل.
تتحكم منظمة العفو الدولية: ما الذي ينبغي اختباره قبل الوصول؟?
A successful demonstration of what a model can achieve in a given situation. A safety assessment also seeks its failures, misuse and the conditions under which its protections cease to function. وتتطلب هذه الأهداف اختبارات مختلفة.
The risk management framework of the U.S. National Institute of Standards and Technology, AI RMF 1.0, includes pre- deployed testing and regular use. وهو ينظم العمل بشأن الحوكمة وتحديد المخاطر والقياس والإدارة. وهذا الإطار هو أداة إدارية، وليس تصاريح تسويق دولية.
ويقتضي منطقها توضيح السياق. ولا تترتب على خطأ في مشروع نص أو إجراء خاطئ في نظام تشغيلي نفس النتائج. ولذلك فإن السؤال يتجاوز النتيجة التي حصل عليها نموذج في عملية: فهو يركز أيضا على الأشخاص المعرضين، والأدوات المتاحة، والقرارات التي يمكن أن يتخذها النظام.
ومن الناحية الملموسة، ينبغي استخدام اختبار مفيد لتحديد الصيغة التي تم فحصها وفي أي شروط. ولا تتوفر لنموذج يقتصر على إنتاج النصوص نفس الإمكانيات التي يتمتع بها وكيل برامجيات. محيط الدخول هو جزء من مشكلة (هينتون).
الهجمات المحاكاة للبحث عن الفشل
وتنص لائحة الاستخبارات الفنية الأوروبية على مجموعة من الالتزامات لموردي نماذج الأغراض العامة التي تنطوي على مخاطر منهجية. وتقتضي المادة 55 إجراء تقييمات باستخدام البروتوكولات والأدوات المقابلة لحالة الفن. وهو يشير صراحة إلى اختبارات الخصومة التي تسعى إلى وضع النموذج في حالة عجز.
The text also requires assessing and reducing systemic risks, documenting and reporting serious incidents without undue delay. ويجب أن يغطي أمن الفضاء الحاسوبي النموذج وبنيته التحتية المادية. وتتعلق هذه الاحتياجات بفئة محددة من النماذج: فهي لا تعني أن أي طلب يحمل شهادة أمان متطابقة.
ومن ثم فإن النهج الأوروبي يعطي ترجمة ملموسة لعدة مواضيع للمناقشة. ويجب أن يقدم المورّد معلومات عن المخاطر والإجراءات التصحيحية. والتقييم ليس مجرد تقييم عام للطبيعة المثيرة للإعجاب للنظام.
The European Code of Practice complements this scheme. وتقدم اللجنة، التي نشرت في تموز/يوليه 2025، كطريقة طوعية لإثبات الامتثال للالتزامات القانونية. وتغطي فصولها الشفافية وحقوق التأليف والنشر والسلامة والأمن. وتتصل هذه الأخيرة بالنماذج التي تغطيها الالتزامات العامة المتعلقة بالمخاطر.
الإستقلال ليس فقط نيابة عن المتحكم
اقتراح (هينتون) يضع سلطة منفصلة من المصنعين في مركز القرار ويكمن اهتمامها في احتمال وجود تضارب بين سرعة التسويق والوقت اللازم للاختبار. يمكن للشركة أن تعرف نموذجها أفضل من أي شخص آخر في حين أن لها مصلحة اقتصادية في بثها بسرعة.
ولكي توفر المراقبة الخارجية معلومات إضافية، يلزم حل عدة أسئلة: ما هي النسخة التي يمكن للمقيِّمين الوصول إليها؟ ما هي النتائج التي يمكنهم فحصها؟ هل يمكنهم تكرار الاختبارات؟ من يقرر ما سيحدث بعد ظهور فشل كبير؟ وتصف هذه الأسئلة الظروف العملية للفحص، دون افتراض إجابة عن شركة معينة.
كما أن مقارنة المخدرات لها حد واضح. ويمكن استخدام نموذج عام لأداء مهام مختلفة جدا وتلقي أدوات جديدة بعد النشر. ولذلك يجب أن يحدد ملف التقييم الخاص به الاستخدامات والشروط التي تم فحصها. والتقدير الإيجابي داخل محيط معين لا يفي بجميع الاستخدامات الممكنة.
انتقاد (هينتون) الشخصي لبعض القادة جزء من حكمه وهي لا تحل محل نتائج الاختبار أو الأدلة على سوء سلوك معين. وتصبح المناقشة بشأن المسؤولية أكثر دقة عندما يتعلق الأمر بالقرارات الموثقة والوصول والحوادث.
بعد الإطلاق، الحفاظ على القدرة على العمل
The NIST Practical Guide requires monitoring of risks and benefits throughout the life of the system. وتعتزم اللجنة دراسة ما إذا كان ينبغي للنشر أن يستمر وأن يكيف الاستجابات مع المخاطر التي لوحظت. ويمكن أن تشمل الضوابط إمكانية الوصول، والحدود المفروضة على الاستخدام، والتوثيق وتنظيم الأعمال البشرية حول النظام.
وتستجيب هذه الاستمرارية لصعوبة ملموسة: فالاستخدامات الفعلية قد تكشف عن عدم وجود مشاكل في الاختبارات الأولية. ويغيّر السياق أي تحديث أو تغيير في التكامل أو أي عدد جديد من المستخدمين. The monitoring must be able to link an incident to the version used and to the conditions of its operation.
ثم تبدأ المسؤولية التنفيذية بقرارات يمكن تحديدها. من يستطيع تحديد المهمة؟ من يحصل على التنبيهات؟ من يفحص فعالية التصويب؟ ويفقد تقرير التقييم بعض فائدته إذا لم يكن أحد مسؤولا عن التصرف على أساس نتائجه.
وتشير هينتون إلى احتمال تعطيل شبكات الكهرباء أو الخدمات المصرفية أو النظم الصحية. وهذه السيناريوهات تعرب عن قلقها؛ وهي لا تشكل الإعلان عن مزيد من الهجمات الثابتة على هذه الهياكل الأساسية. غير أن استئنافه يحرك المناقشة نحو شرط يمكن التحقق منه: توثيق القدرات والمخاطر قبل فتحها، ثم الحفاظ على وسائل تصحيح الاستخدام المثير للمشاكل أو تقييده أو وقفه.
التعليقات