تخفيض الأبعاد

تقوم التقنية الخطية الرئيسية لتخفيض الأبعاد، وهي التحليل الأساسي للمكونات، بإجراء تعيين خطي للبيانات إلى حيز ذي أبعاد أقل بحيث يتم تعظيم تباين البيانات في التمثيل المنخفض الأبعاد. في الممارسة العملية، يتم إنشاء مصفوفة التغاير (وأحيانًا الارتباط ) للبيانات ويتم حساب المتجهات الذاتية في هذه المصفوفة. يمكن الآن استخدام المفاعلات الذاتية التي تتوافق مع أكبر القيم الذاتية (المكونات الرئيسية) لإعادة بناء جزء كبير من تباين البيانات الأصلية. علاوة على ذلك، غالبًا ما يمكن تفسير المحفزات القليلة الأولى من حيث السلوك المادي على نطاق واسع للنظام، لأنها تساهم غالبًا في الغالبية العظمى من طاقة النظام، وخاصة في الأنظمة منخفضة الأبعاد. ومع ذلك، يجب إثبات ذلك على أساس كل حالة على حدة، حيث لا تظهر جميع الأنظمة هذا السلوك. تم تقليل المساحة الأصلية (مع بُعد عدد النقاط) (مع فقد البيانات، ولكن نأمل الاحتفاظ بالتباين الأكثر أهمية) إلى المساحة التي يمتد بها عدد قليل من المتجهات الذاتية.

تحلل NMF مصفوفة غير سالبة لمنتجين غير سلبيين، والتي كانت أداة واعدة في المجالات التي توجد فيها فقط إشارات غير سلبية.مثل علم الفلك. NMF معروف جيدًا منذ قاعدة التحديث المضاعف من قِبل Lee & Seung، والتي تم تطويرها بشكل مستمر: إدراج أوجه عدم اليقين، والنظر في البيانات المفقودة والحساب الموازي، والبناء المتسلسل الذي يؤدي لاستقرار وخطي NMF ، وكذلك التحديثات الأخرى.

مع أساس ثابت للمكون أثناء البناء، وعملية النمذجة الخطية، فإن NMF التسلسلي قادر على الحفاظ على التدفق في التصوير المباشر للهياكل المحيطة بالقمر في علم الفلك، كواحدة من طرق اكتشاف الكواكب الخارجية ، خاصة بالنسبة للكتلة المباشرة التصوير من الاقراص النجميه الدوارة . بالمقارنة مع PCA ، لا يزيل NMF متوسط المصفوفات مما يؤدي إلى تدفقات غير سلبية غير مادية، وبالتالي فإن NMF قادر على الحفاظ على مزيد من المعلومات أكثر من PCA كما هو موضح من قبل Ren et al .

يمكن استخدام تحليل المكون الرئيسي بطريقة غير خطية عن طريق خدعة kernel . التقنية الناتجة قادرة على إنشاء تعيينات غير خطية تعمل على زيادة التباين في البيانات. التقنية الناتجة بعنوان kernel PCA .

تشمل التقنيات الأخرى غير الخطية البارزة تقنيات التعلم المتعددة مثل Isomap ، والتضمين الخطي محليًا (LLE) ، و Hessian LLE ، و eigenmaps لصور الجينات، وأساليب تعتمد على تحليل مساحة الظل. تقوم هذه التقنيات بإنشاء تمثيل بيانات منخفض الأبعاد باستخدام دالة تكلفة تحتفظ بالخصائص المحلية للبيانات، ويمكن عرضها على أنها تعريف kernel المستندة إلى الرسم البياني لـ Kernel PCA.

في الآونة الأخيرة، تم اقتراح تقنيات، بدلاً من تحديد نواة ثابتة، حاول أن تتعلم النواة باستخدام البرمجة شبه النهائية . وأبرز مثال على هذه التقنية هو التباين الأقصى الذي يتكشف (MVU). الفكرة الأساسية لـ MVU هي الحفاظ على جميع المسافات الزوجية بين أقرب الجيران (في مساحة المنتج الداخلية) ، مع زيادة المسافات بين النقاط التي ليست أقرب جيران.

يتمثل النهج البديل للحفاظ على الحي في تقليل دالة التكلفة التي تقيس المسافات بين مسافات المدخلات والمخرجات. ومن الأمثلة المهمة لهذه التقنيات ما يلي: القياس الكلاسيكي متعدد الأبعاد، والذي يماثل PCA ؛ Isomap ، الذي يستخدم المسافات الجيوديسية في مساحة البيانات ؛ خرائط النشر، التي تستخدم مسافات الانتشار في مساحة البيانات ؛ تضمين الجار العشوائي t الموزع (t-SNE) ، والذي يقلل من الاختلاف بين التوزيعات على أزواج من النقاط ؛ والتحليل الخطي للمكون.

هناك طريقة مختلفة للحد من الأبعاد غير الخطية من خلال استخدام أجهزة التشفير التلقائي، وهو نوع خاص من الشبكات العصبية ذات التغذية التلقائية مع طبقة مخفية عنق الزجاجة. عادة ما يتم تنفيذ برامج التشفير العميقة باستخدام التدريب المسبق الجشع للطبقة الحكيمة (على سبيل المثال، باستخدام كومة من آلات Boltzmann المقيدة ) التي تليها مرحلة التجهيز النهائي القائمة على التعرية الخلفية .

يعد التحليل التمييزي الخطي (LDA) تعميمًا لمميّز فيشر الخطي، وهي طريقة مستخدمة في الإحصاء والتعرف على الأنماط والتعلم الآلي لإيجاد مزيج خطي من الميزات التي تميز أو تفصل بين فئتين أو أكثر من الكائنات أو الأحداث.

تتعامل GDA مع التحليل التمييزي غير الخطي باستخدام مشغل دالة kernel. النظرية الأساسية قريبة من آلات ناقلات الدعم (SVM) بقدر ما توفر طريقة GDA تعيينًا لمتجهات الإدخال في مساحة الميزة عالية الأبعاد.على غرار LDA ، يتمثل هدف GDA في العثور على إسقاط للميزات في مساحة أقل بعدًا عن طريق زيادة نسبة الانتثار بين الطبقة إلى الانتثار داخل الطبقة.

يمكن استخدام برامج الترميز التلقائي لتعلم وظائف وترميزات الحد من الأبعاد غير الخطية مع وظيفة عكسية من الترميز إلى التمثيل الأصلي.

إن تضمين Stochastic Neighbor Embedding (t-SNE) هو تقنية لتقليل الأبعاد غير الخطية المفيدة لتصور مجموعات البيانات عالية الأبعاد.

التقريب الموحد المتشعب والإسقاط (UMAP) هو أسلوب لتقليل الأبعاد غير الخطية. مرئيًا، يشبه t-SNE ، لكنه يفترض أن البيانات موزعة بشكل موحد على مشعب ريمانيان متصلاً محليًا وأن مقياس ريمانيان ثابت محليًا أو ثابت محليًا تقريبًا.