مختبر الرؤية الحاسوبية النماذج DeiT-Tiny (ViT-Ti/16)
DeiT-Tiny (ViT-Ti/16)
Vision Transformer, 12 layers × 3 heads, patch 16
محوّل رؤية صغير مدرب على ImageNet وحده. يُخرج مصفوفات الانتباه لكل الطبقات، فيُستخدم لـ Attention Rollout. يستخدم المختبر استيفاءً ثنائياً خطياً بدل التكعيبي.
| المعمارية | Vision Transformer, 12 layers × 3 heads, patch 16 |
|---|---|
| المهمة | تصنيف |
| بيانات التدريب | ImageNet-1K |
| عدد المعلمات | ≈5.7M |
| الإطار | Hugging Face Transformers → ONNX (fp16) |
| حجم الملف | 11.1 MB |
| الترخيص | Apache-2.0 |
| مكان التشغيل | المتصفح (ONNX Runtime Web) |
| المصدر الرسمي | huggingface.co |
| الأوزان الرسمية | huggingface.co |
مؤشرات منشورة (من المصدر الرسمي، وليست قياساً من هذا الموقع)
| المؤشر | القيمة | بيانات التقييم | المصدر |
|---|---|---|---|
| Top-1 | 72.2% | ImageNet-1K val | المصدر |
الاستخدامات
التصنيف وخرائط الانتباه.
متطلبات التشغيل
حزمة «DeiT».
طريقة التحميل
حزمة اختيارية.
المراجع
- H. Touvron et al. (2020).Training data-efficient image transformers & distillation through attention. arXiv:2012.12877 (ICML 2021). doi:10.48550/arXiv.2012.12877
- A. Dosovitskiy et al. (2020).An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale. arXiv:2010.11929 (ICLR 2021). doi:10.48550/arXiv.2010.11929
- Facebook AI / Hugging Face (2021).facebook/deit-tiny-patch16-224 model card. huggingface.co. huggingface.co
