الرياضيات في التعلم العميق - الجزء السادس

 

سوف نستمر إنشاء ألله تعالى في هذا الجزء في التطرق إلى موضوع الجبر الخطي حيث سنتناول الطرق المختلفة في إيجاد الحلول للمعادلات الخطية التي تكوَن النظام الخطي وكيفية معرفة فيما لو كان هناك حل فريد لهذه المعادلات أو هناك عدد غير محدد من الحلول أو لاتوجد لها حلول, كذلك سوف نتطرق إلى بعض المصطلحات والمفاهيم ودلالاتها.

الرياضيات في التعلم العميق

Mathematics for deep learning

الجزء السادس     (Part Six)

إعداد

المهندس حسن فنجان عداي

مقدمة:

بسم إلله الرحمـن الرحيـم

سوف نستمر إنشاء ألله تعالى في هذا الجزء في التطرق إلى موضوع الجبر الخطي حيث سنتناول الطرق المختلفة في إيجاد الحلول للمعادلات الخطية التي تكوَن النظام الخطي وكيفية معرفة فيما لو كان هناك حل فريد لهذه المعادلات أو هناك عدد غير محدد من الحلول أو لاتوجد لها حلول, كذلك سوف نتطرق إلى بعض المصطلحات والمفاهيم ودلالاتها.

الإعتمادية والإستقلالية في النظام الخطي

(Linear Dependence and Independence)

ذكرنا في الجزء الخامس من هذه المقالات بأنَّ النظام الخطي (Linear System) الذي يتكون من معادلة واحدة أو مجموعة معادلات خطية (Linear Equations), هذا النظام يمكننا أن نعبر عنه بصيغة المصفوفات كما في المعادلة التالية:

حيث إنَّ الطرف الأيسر يتكون من المصفوفة (A) التي تمثل المعاملات أو الأوزان (Weights), وكذلك من المتجه (x) الذي يمثل المتغيرات أو المجاهيل (Unknowns), أما الطرف الأيمن للمعادلات أو للنظام فيمثله المتجه (b).

إنَّ عملية حل هذه المعادلات تعني إيجاد قيم المتغيرات التي يحتويها المتجه (x).

عدد الحلول للنظام الخطي (Number of solutions)

لو فرضنا أننا لدينا نظام خطي يتكون من معادلتين ويشتركان بمجهولين, فإنَّ كل واحدة منهما تمثل معادلة مستقيم, ونحن نعلم بأن َّ المستقيمان إما أن يكونا متوازيين أي أنهما لايتقاطعان أبداًّ مهما إمتدت أطوالهما, وأما أن يكونا متقاطعين, فإذا كانا كذلك فإنهما لايتقاطعان إلا مرةً واحدة فقط, وأما الإحتمال الثالث فهو أن يكونا متطابقين تماماً وفي هذه الحالة فإنَّ نقاط تقاطعهما لاتعد ولاتحصى (عدد لانهائي من النقاط).

إنَّ نقاط التقاطع هنا تمثل الحلول للمعادلتين أي إنه في الحالة الأولى (المستقيمين متوازيان) لاتوجد حلول لهذين المعادلتين (No Solutions), أما في الحالة الثانية فإنه يوجد حل واحد فريد (1 Solution), وأخيراً ففي الحالة الثالثة فإنَّ هناك عدد لانهائي من الحلول (An infinite number of solutions).

إنَّ نقطة التقاطع (في مثالنا الذي يتكون من مجهولين فقط) يعبر عنها بعددين الأول يمثل المحور السيني وهو قيمة الحل للمتغير الأول, والثاني يمثل المحور الصادي وهو قيمة الحل للمتغير الثاني.

الشكل التالي يمثل ثلاثة أنظمة خطية يتكون كل واحد من معادلتين تشتركان بمجهولين, حيث إنَّ النظام الأول لايوجد له حل والثاني يوجد له حلاً واحداً والنظام الثالث يوجد له عدد لانهائي من الحلول:

طرق تمثيل النظام الخطي بواسطة المصفوفات

(Matrix representation of the linear system)

مثلما ذكرنا سابقاً بأننا نستطيع تمثيل النظام الخطي الذي يحتوي على عدد (m) من المعادلات الخطية (Linear equations) والتي تشترك بمتغيرات أو مجاهيل (Unknowns) عددها (n), وهذا التمثيل هو على الهيئة التالية:

وذكرنا سابقاً بأن المصفوفة (A) هي مصفوفة ذات حجم (m x n) تحتوي على معاملات المتغيرات أو الأوزان لتلك المتغيرات (weights), وذكرنا أنَّ المتجه (x) هو متجه ذات حجم (n x 1) يحتوي على المتغيرات أو المجاهيل (Unknowns), وأنَّ المتجه (b) يمثل قيم الأطراف اليمنى من المعادلات, فيكون التمثيل الصريح للنظام الخطي بواسطة المصفوفات هو كما يلي:

وهذا التمثيل يناظر مجموعة المعادلات الخطية للنظام الخطي بعد التهيئة وكما هي موضحة أدناه:

نستطيع من خلال هذا التمثيل للنظام الخطي بأنَّ نجعل عدد الأعمدة (Columns) للمصفوفة (A) تمثل عدد الأبعاد (Dimensions) للفضاء الذي ترسم فيه المتجهات (Vector space), أي إنَّ هذه الأبعاد (n)  تمثل الإتجاهات التي يمكننا السير فيهما, أما عدد الحلول للمعادلات فهي عدد الطرق التي يمكننا الوصول بها إلى النقطة (b) من خلال السير في هذه الإتجاهات.

لفهم هذا المعنى أي كيفية معرفة ماإذا كان هناك حل أو حلول للمعادلات أو لا من خلال النظام الخطي الممثل بواسطة المصفوفات يجب أن نذكر بأن هناك شكلين من أشكال التمثيل بواسطة المصفوفات هما:

1 – شكل الصفوف (Row figure).

2 – شكل الأعمدة (Column figure).

حيث نقوم برسم المعادلات الخطية بعد تحديد شكل التمثيل لها. 

رسم المعادلات الخطية

(Graphical views of linear equations)

عندما ننظر إلى المتجه (A) التالي:

يمكننا أن نتصور صفوفه الواحد تلو الآخر وبشكل منفصل وكذلك أعمدته, ويجب أن نتذكر بأن هذه العناصر من القيم المكونة لكل صف أو لكل عمود هي الأوزان (Weights) للمتغيرات أو المجاهيل (Unknowns).

كل صف يمثل الأوزان للمتغيرات أو المجاهيل في معادلة واحدة.

كل عمود يمثل الأوزان لمتغير أو مجهول واحد من متغيرات أو مجاهيل النظام الخطي.

لذلك من الممكن أن نقوم برسم المعادلات الخطية للنظام وحسب نظرتنا للمصفوفة (A) من حيث إعتبار صفوفها أو أعمدتها:

1 – رسم المعادلات الخطية بإعتبار الصفوف

(Graphical view 1: the row figure)

هذا النوع من تمثيل النظام الخطي بواسطة المصفوفات أكثر واقعية لأنه من الممكن إستخدامه حتى في الأنظمة الخطية التي تحتوي على معادلة واحدة, ويمكننا أن نتوسع في إستخدامه في الأنظمة الخطية التي تحتوي على أي عدد من المعادلات الخطية وأي عدد من المجاهيل (Unknowns).

ذكرنا بأن المقصود بإيجاد الحل للمعادلات هو إيجاد قيم مجموعة المجاهيل التي يحويها المتجه(x), أي:

حيث إنَّ عدد المجاهيل (n) يمثل عدد الأبعاد (Dimensions), فإذا كان لدينا نظام خطي يحتوي على معادلتين فقط ويشتركان بمجهولين, معنى هذا أنَّ هاتين المعادلتين يمثلان خطان (Two lines) في فضاء ذو بعدين (2-dimensional space) ويكون الحل للنظام هو نقطة التقاطع لهذين الخطين.

الأنظمة الخطية مفرطة التحديد والأنظمة الغير محددة

(Overdetermined and underdetermined systems)

إنَّ أي نظام خطي يمكن وصفه من خلال عدد معادلاته الخطية (Linear equations) والذي نرمز له بالحرف (m) وعدد المجاهيل فيه (Unknowns) والذي نرمز له بالحرف (n), وأنَّ الأنظمة الخطية المستوفية للشروط يجب أن تتكون من عدد من المعادلات الخطية مساوياً إلى عدد المجاهيل أي:

m = n

1 - إذا كان عدد المعادلات الخطية (m) أكبر من عدد المجاهيل (n) في أي نظام خطي فإنَّ هذا النظام يسمى بالنظام المفرط التحديد (Overdetermined system).

والشكل التالي يمثل نظام خطي ذو ثلاث معادلات ولكن عدد المجاهيل فيه إثنان فقط, وقد تم تمثيل هذه المعادلات الثلاثة بثلاثة خطوط (بعدد المعادلات), وقد تم رسم هذه الخطوط الثلاثة في فضاء ذو بعدين فقط (بعدد المجاهيل):

من خلال الرسم أعلاه نلاحظ بأنَّ هناك ثلاث نقاط للتقاطع ولاتوجد من بينهن واحدة تنتمي إلى جميع الخطوط وبالتالي نستنتج بأنه ليس هناك حل لهذا النظام الخطي.

2 – إذا كان عدد المعادلات الخطية (m) أصغر من عدد المجاهيل (n) في أي نظام خطي فإنَّ هذا النظام يسمى بالنظام الغير محدد (underdetermined system).

والشكل التالي يمثل نظام خطي ذو معادلة واحدة ولكن عدد المجاهيل فيه إثنان, وقد تم تمثيل هذه المعادلة بخط واحد في فضاء ذو بعدين (بعدد المجاهيل):

في هذه الحالة تكون أية نقطة في الخط تمثل حلاً للمعادلة الخطية وبالتالي يكون هناك عدد لانهائي من الحلول.

 

قبل الذهاب إلى النوع الثاني من رسم المعادلات الخطية يلزمنا التعريف ببعض المفاهيم ودلالاتها والتي لابد منها لفهم المطالب الموجودة في ذلك الموضوع, وهذه المواضيع هي:

1 – التركيبات الخطية (Linear combinations).

2 – المدى (Span). 

 

التركيبات الخطية (Linear combinations)

إنَّ المركب الخطي هو المتجه (Vector) الناتج من مجموع متجهين بعد ضرب كل واحد منهما بمعامل معين (weighted sum of two vectors). ولتوضيح المطلب سوف نأخذ المثال التالي:

لنفترض بأنَّ لدينا متجهان هما:

هذين المتجهين يمتلك كل منهما بعدين (2-dimensions) وبالتالي يمثلان إحداثيات في فضاء ذو بعدين.

يمكننا توليد مركب خطي من هذين المتجهين كما يلي:

حيث قمنا بضرب المتجه الأول بالمعامل (a) والمتجه الثاني بالمعامل (b), ثم قمنا بالجمع.

إنَّ الغاية من هذا الجمع هو للوصول إلى نقطة معينة في الفضاء الخاص بالمتجهين, فإذا أعطينا المعامل

a = 2

b = 1

فإننا سوف نحصل النتيجة التالية والتي تمثل النقطة في الفضاء التي سوف نصل إليها:

إنَّ المتجه الذي يصل بين نقطة الأصل والنقطة (4, 7) الموجودة في فضاء النظام الخطي, هو ذلك المتجه المتولد من عملية الجمع الموزونه (weighted) بين المتجهين (u) و (v).

المدى (Span)

المقصود بالمدى (Span) في النظام الخطي هو عدد النقاط في الفضاء الخاص بذلك النظام والتي يمكن الحصول عليها من خلال الجمع الموزون للمتجهات (Weighted sum) الموجودة في ذلك الفضاء, وكما مر بنا في المثال السابق, حيث تسمى المدى (Span) لتلك المتجهات.

الفضاءات والفضاءات الثانوية

(spaces and subspaces)

إنَّ الفضاء الخاص بالمتجه يمثل جميع القيم التي من الممكن أن يأخذها ذلك المتجه.

إنَّ المتجه يجب أن تكون جميع قيم عناصره حقيقية (Real numbers), لذلك يرمز لفضاء المتجه بالرمز:

إذا كان فضاء المتجه ذات أبعاد متعددة فسوف يرمز لهذا الفضاء بالرمز:

حيث إنَّ الحرف (n) يرمز إلى عدد الأبعاد (Dimensions), فعلى سبيل المثال فإنَّ:

يمثل فضاءاً ذو بعدين مثل المستوي الذي يمثل العلاقة بين (x) و (y) في المستويات الإعتيادية, حيث إنَّ كلاً من (x) و (y) أعداد حقيقية.

أما إذا أخذنا مستوي ذو بعدين (dimensional plane2) داخل فضاء ذو ثلاثة أبعاد أي:

فإنَّ هذا المستوي الذي أخذناه يسمى الفضاء الثانوي (subspace) مأخوذاً من الفضاء الأصلي

وعلى نفس القاعدة فيم لو كنا نعمل في فضاء ذو بعدين  

وأخذنا خط (أي بعد واحد) في داخل هذا الفضاء, فإنَّ هذا الخط سوف يمثل الفضاء الثانوي بالنسبة للفضاء الأصلي.

إنَّ عملية التركيبات الخطية (Linear combinations) للمتجهات سوف تعطينا متجهات واقعة في الفضاء الأصلي, وإنَّ جميع المتجهات التي نحصل عليها من خلال عملية (Linear combinations) في فضاء معين سوف تبقى في ذلك الفضاء, فعلى سبيل المثال لو أخذنا خطان مستقيمان في فضاء ذو بعدين

فإنَّ أي عملية تركيب خطي (Linear combinations) سوف تعطينا متجه يكون داخل نفس الفضاء.

2 – رسم المعادلات الخطية بإعتبار الأعمدة

(Graphical view 1: the column figure)

يمكن تمثيل المعادلات الخاصة في النظام الخطي بواسطة المصفوفات بأسلوب ثاني عن طريق إعتبار الطرف الأيمن من النظام الخطي أي المتجه (b) كأنه ناتج من عملية تركيب خطي (Linear combinations) لكل عمود (Column) من المصفوفة (A) مضروباً بوزنه (Weight), والأوزان هنا هي المتغيرات أو المجاهيل (Unknowns)  وكما موضح في الشكل التالي:

فإذا كان لدينا النظام الخطي الآتي:

يمكن إعادة ترتيبه وفق التمثيل بإعتبار الأعمدة (Columns figure) وكما يلي:

فنلاحظ من خلال هذا الترتيب أنَّ المجاهيل (Unknowns) قد أصبحت أوزان (Weights) للأعمدة التي أصبحت متجهات منفصلة.

في حالة رسم هذا النظام بأسلوب إعتبار الأعمدة (column figure) فإننا نبدأ الرسم من نقطة الأصل ونحاول السير إلى أن نصل إلى النقطة (b), حيث إنَّ العمود الأول والذي هو المتجه الأول يعطينا الإتجاه الذي سوف نسير به وقيمة المتغير (x1) تعطينا المسافة التي سوف نقطعها في ذلك الإتجاه, بعدها نغير الإتجاه تبعاً للعمود الثاني أي المتجه الثاني والمسافة التي نقطعها تبعاً لقيمة المتغير (x2) وبعد الإنتهاء نبدأ بالإتجاه الثالث حسب العمود الثالث وقيمة المتغير (x3), إلى أن نصل إلى النقطة (b), فإذا إستطعنا الوصول إلى النقطة (b) بواسطة هذه العملية معنى ذلك إن هذه النقطة تقع ضمن المدى (Span) لتلك المتجهات وهذا يدل على وجود حل فريد للنظام الخطي.

إنَّ الفضاء المتولد من المتجهات (Columns) التي هي أعمدة المتجه (A) يسمى فضاء العمود (column space) أو النطاق للمتجه (A).

حل المعادلات الخطية في الأنظمة الغير محددة

(Solutions of Undetermined systems)

ذكرنا بأنَّ المقصود بالنظام الخطي الغير محدد (Undetermined system) هو النظام الذي يكون فيه عدد المجاهيل (n) أكبر من عدد المعادلات الخطية (m), وذكرنا بأنَّ النظام الخطي لكي يكون له حلاً فريداً فإنَّ من أولى المتطلبات أن لا يكون عدد المجاهيل (n) أكبر من عدد المعادلات (m), فلو فرضنا بأنَّ لدينا النظام التالي المتكون من معادلتين (m = 2) وثلاثة مجاهيل (n = 3):

وعند تمثيل النظام بواسطة المصفوفات تتكون لدينا المصفوفة (A) ذات صفين وثلاثة أعمدة (2 x 3), وبعد الترتيب على هيئة (Column figure) يصبح النظام على الشكل التالي:

ولو قمنا برسم المعادلتين في فضاء ذو ثلاثة أبعاد بالإستعانة بهذا الموقع نحصل على الشكل التالي:

نلاحظ من الشكل أعلاه بأنَّ كل معادلة ظهرت على شكل مستوي, وهذان المستويان غير متوازيين وهذا يدل على أنَّ هناك حل أو حلول لهذا النظام أي أنَّ هناك نقاط مشتركة بين المستويين تشكل مجموعة الحلول, ولكن عند التمعن في الشكل نلاحظ بأنَّ هناك خط مشترك بينهما وهذا الخط يتكون من عدد لايحصى من النقاط, لذلك ولكي نحصل على حلاً فريداً لهذا النظام فإننا حتماً نحتاج إلى مستوى ثالث يتقاطع مع هذا الخط في نقطة واحدة, أي أننا نحتاج إلى معادلة ثالثة لكي نحصل على هذا الحل الفريد.

حل المعادلات الخطية في الأنظمة مفرطة التحديد

(Solutions of Overdetermined systems)

ذكرنا بأنَّ المقصود بالنظام الخطي ذو التحديد المفرط (Overdetermined system) هو النظام الذي يكون فيه عدد المجاهيل (n) أصغر من عدد المعادلات الخطية (m), فلو فرضنا أنَّ لدينا نظاماً خطيّاً يتكون من من ثلاث معادلات (m = 3) يشتركان بمجهولين فقط (n = 2) وكما موضح بالشكل التالي:

وعند تمثيل النظام بواسطة المصفوفات تصبح لدينا المصفوفة (A) تتكون من ثلاثة صفوف وعمودان, وبعد الترتيب على هيئة (Column figure) يصبح النظام على الشكل التالي:

ذكرنا سابقاً بأن عدد الأبعاد (Dimensions) لفضاء النظام يحدده عدد المجاهيل (Unknowns) في ذلك النظام, وبما أنَّ نظامنا هذا فيه عدد المجاهيل (n = 2), فسوف يكون الفضاء للنظام ذو بعدين (2-dimensions) فقط, فإذا قمنا برسم معادلات النظام الثلاثة في فضاء ذو بعدين فسوف تظهر لنا بالشكل التالي:

ومن الشكل أعلاه نلاحظ عدم وجود نقطة تشترك فيها الخطوط الثلاثة وبالتالي نستنتج بأنه ليس هناك حل لهذا النظام.

عدم الإستقلالية الخطية (Linear dependence)

عندما نقوم بتمثيل النظام الخطي بواسطة المصفوفات وعندما يكون شكل التمثيل على هيئة الأعمدة (Columns figure), يظهر لنا في بعض الحالات بأنَّ أحد هذه الأعمدة هوعبارة عن مركب خطي (Linear combination) ناتج من الأعمدة الأخرى, أي أنَّ أحد هذه الأعمدة غير مستقل (Dependent) وبذلك يسمى النظام بأكمله بأنه غير مستقل (Dependence), ويكون هذا العمود الغير مستقل غير مؤثر في فضاء النظام.

نستنتج من هذا إنَّ النظام الخطي لكي يكون له حل يجب أن تكون أعمدة المصفوفة (A) مستقلة (Linearly independent).

المصفوفة المربعة (Square matrix)

من أجل أن يكون للنظام الخطي حلاً واحداً فريداً لكل عنصر من عناصر المتجه (x) يجب أن يكون عدد المعادلات الخطية (m) مساوياً لعدد المجاهيل (n), بمعنى آخر فإنَّ النظام الخطي بحاجة إلى أن تكون مصفوفة الأوزان له (A) مربعة (Square matrix) وتكون أعمدتها من نوع (Linearly independent).

لقد ذكرنا في الجزء الخامس من هذه المقالة بأنه يمكننا إيجاد الحل للمعادلات التي يحويها أي نظام خطي وذلك بإستخدام معكوس المصفوفة (A) وكما موضح بالمعادلة التالية:

ومن شروط الحصول على معكوس المصفوفة (A) بالإضافة إلى أنها يجب أن تكون مصفوفة مربعة هو يجب أن يكون هناك حلاً واحداً وفريداً للنظام الخطي.

 

وبهذا نكون قد إنتهينا من هذا الجزء من مقالتنا ونرجو أن نكون قد وفقنا في توضيح المطلوب ومن ألله تعالى نستمد العون والسداد.

 

المهندس حســـــن فنجــــــان عــــــداي