نشر نماذج الذكاء الاصطناعي
ONNX والنشر في بيئة الإنتاج
ONNX and Production Deployment
تبادل النماذج بين MATLAB وPyTorch وTensorFlow عبر ONNX، وقائمة تحقق قبل الإنتاج، ومراقبة انجراف البيانات بمؤشر PSI، وإعادة التدريب.
ستتعلم في هذا الدرس
- تصدير شبكة إلى ONNX واستيراد نموذج منه
- التحقق من تطابق المخرجات بعد التحويل
- حساب مؤشر استقرار المجتمع PSI لمراقبة الانجراف
- إعداد قائمة تحقق للإنتاج
التصدير والاستيراد
exportONNXNetwork(net, 'model.onnx', 'OpsetVersion', 13);
net2 = importNetworkFromONNX('model.onnx'); % R2023b+؛ الأقدم: importONNXNetwork
X = rand(224, 224, 3, 4, 'single');
y1 = predict(net, X); y2 = predict(net2, X);
fprintf('max abs diff = %.2e\n', max(abs(y1(:) - y2(:))));
% في Python: import onnxruntime as ort; ort.InferenceSession('model.onnx')يتطلب هذا الكود: Deep Learning Toolbox. لم يُشغَّل في بيئة إعداد الدرس لعدم توفر الـ Toolbox، لذلك لا نعرض أرقاماً من عندنا؛ شغّله في MATLAB لديك وقارن النتائج.
يحتاج حزمة Deep Learning Toolbox Converter for ONNX Model Format. ترتيب أبعاد الصورة يختلف بين الأطر (HWCN مقابل NCHW)؛ تحقق منه عند الاستيراد في Python.
مراقبة الانجراف بـ PSI
edges = [-inf 20 30 40 50 inf]; % فئات العمر
train = [12 25 33 41 47 22 28 35 52 19 31 44 38 27 23 36 29 48 55 32];
live = [45 52 48 61 39 55 58 42 47 50 33 49 57 44 53 60 41 46 38 51];
pT = histc(train, edges); pT = pT(1:end-1) / numel(train);
pL = histc(live, edges); pL = pL(1:end-1) / numel(live);
pT = max(pT, 1e-4); pL = max(pL, 1e-4); % تجنب log(0)
psi = sum((pL - pT) .* log(pL ./ pT));
fprintf('train dist = %s\n', mat2str(pT, 3));
fprintf('live dist = %s\n', mat2str(pL, 3));
fprintf('PSI = %.4f\n', psi);
if psi > 0.25, fprintf('significant shift: investigate and consider retraining\n'); endtrain dist = [0.1 0.3 0.3 0.2 0.1] live dist = [0.0001 0.0001 0.15 0.4 0.45] PSI = 3.8602 significant shift: investigate and consider retraining
استخدمنا histc لتعمل في MATLAB وOctave؛ في MATLAB الحديث histcounts. حدود PSI قواعد عملية من صناعة النماذج الائتمانية وليست قانوناً إحصائياً.
قائمة تحقق قبل الإنتاج
- نسخة النموذج والبيانات والكود موثقة ويمكن إعادة إنتاجها.
- اختبارات وحدة لدالة التنبؤ تشمل مدخلات خاطئة.
- المعالجة المسبقة داخل الحزمة المنشورة لا في كود منفصل.
- زمن الاستجابة والذاكرة مقيسان على العتاد الهدف.
- تسجيل المدخلات (مع احترام الخصوصية) والمخرجات والأخطاء.
- مراقبة الانجراف والأداء، وعتبات للتنبيه.
- خطة رجوع لنسخة سابقة وخطة إعادة تدريب.
لا تنشر نموذجاً على بيانات أشخاص حقيقيين دون مراجعة الخصوصية والعدالة؛ راجع درس «التحيز والعدالة والشفافية».
خلاصة الدرس
- ONNX صيغة مفتوحة لتمثيل الشبكات تدعمها أطر كثيرة.
- exportONNXNetwork وimportNetworkFromONNX في Deep Learning Toolbox مع حزمة دعم ONNX.
- بعد التحويل قارن المخرجات على عينات نفسها بتسامح صغير.
- PSI < 0.1 استقرار، و0.1–0.25 تغير متوسط، وأكبر من 0.25 تغير كبير (قواعد عملية شائعة).
- الإنتاج يحتاج نسخاً للنماذج وتسجيلاً ومراقبة وخطة رجوع.
شُغّل psi_drift.m في GNU Octave 8.4. مثال ONNX يحتاج Deep Learning Toolbox ولم يُشغّل.
المتطلبات البرمجية
- MATLAB
- Deep Learning Toolbox
بعض هذه الأدوات (Toolboxes) تُرخَّص منفصلة عن MATLAB. تحقق من توفرها بالأمر ver في Command Window.
