צורת ז'ורדן, התכל'ס

מבוא ובו סיפור חיים מרגש ומטריצות, הרבה מטריצות

בזמנו כתבתי סדרת פוסטים על אלגברה לינארית, ששיאה היה אמור להיות פוסט על צורת ז'ורדן. בפועל הגעתי עד למשפט הפירוק הפרימרי (גם זה סוג של שיא) ושם נתקעתי, כי את צורת ז'ורדן לא הצלחתי להציג בצורה משביעת רצון, אפילו לא לעצמי, ולמרות שזה נושא שכבר הכרתי מכמה נקודות התבוננות שונות. כיום אני חושב שאני יודע להצביע על הבעיה המרכזית שלי; הדרך ה"נכונה" להציג את צורת ז'ורדן, זו שכוללת את כל התיאוריה שמובילה אליה, היא מאוד עמוסה ברעיונות שנראים קצת לא קשורים בהתחלה ופתאום הכל מסתדר. זה יפה בצורה בלתי רגילה. זה גם לא בדיוק פרקטי לקרוא את זה כשכל מה שרוצים באותו הרגע הוא להבין איך מוצאים את צורת ז'ורדן הארורה הזו ו"מה האלגוריתם". אז בואו נעשה את הדבר הבא: אתחיל מהצגה של התכל'ס – מה זה, מה התכונות הבסיסיות של זה, איך מוצאים את זה, וזהו. ארמוז קצת לגבי למה זה עובד ומאיפה דברים מגיעים, אבל לא אכנס לפרטים. אחר כך, כשהרעיון הכללי כבר יושב לנו טוב, נוכל ללכת ולהסתכל על התיאוריה הכללית שמסביב, ולהתלהב מכמה שזה יפה.

נתחיל עם תיאור של מה זה בכלל. ההקשר הכללי שלנו הוא אלגברה לינארית, שאני מניח שכולכם מכירים; ההקשר הפרטני יותר הוא זה של צורות קנוניות של מטריצות/טרנספורמציות לינאריות, שגם אותו אני מניח שאתם מכירים. לכל הפחות, צריך להכיר את הנושא של לכסון מטריצות, כי זה בדיוק מה שצורת ז'ורדן באה להכליל. השורה התחתונה של מהי צורת ז'ורדן היא פשוטה להדהים. בלכסון מטריצות, הרעיון היה שאפשר למצוא עבור מטריצות $latex A$ מסויימות מטריצה $latex D$ אלכסונית ומטריצה $latex P$ הפיכה, כך ש-$latex D=P^{-1}AP$. בניסוח אחר: לטרנספורמציות לינאריות מסויימות היה אפשר למצוא בסיס שבו הן מיוצגות על ידי מטריצה $latex D$ אלכסונית. הדגש היה על מסויימות; לא כל מטריצה/טרנספורמציה הייתה "לכסינה" בצורה הזו. צורת ז'ורדן באה לתת משהו שמתקיים לכל מטריצה או טרנספורמציה, בתנאי אחד: שהשדה שמעליו אנחנו עובדים הוא סגור אלגברית (אסביר את זה בהמשך). התוצאה היא כמעט אותה תוצאה, רק שבמקום $latex D$ אלכסונית יש לנו $latex J$ שהיא "כמעט אלכסונית" – פרט לאיברים על האלכסון, עשויים להופיע 1-ים במקומות שונים ומשונים על גבי האלכסון המשני שמעל האלכסון הראשי. זה הכל.

בשביל שתהיה לנו כל הזמן דוגמה כלשהי מול העיניים, הנה משהו קונקרטי:

$latex A=\left(\begin{array}{rrrrrr}3 & 0 & 0 & 0 & 0 & 0\\0 & 2 & 0 & 0 & -1 & 0\\0 & 0 & 2 & 0 & 1 & 0\\0 & 0 & 0 & 2 & 0 & 1\\0 & 1 & 1 & 0 & 2 & 0\\0 & 0 & 0 & 0 & 0 & 2\end{array}\right)$

$latex J=\left(\begin{array}{rrrrrr}3 & 0 & 0 & 0 & 0 & 0\\0 & 2 & 1 & 0 & 0 & 0\\0 & 0 & 2 & 1 & 0 & 0\\0 & 0 & 0 & 2 & 0 & 0\\0 & 0 & 0 & 0 & 2 & 1\\0 & 0 & 0 & 0 & 0 & 2\end{array}\right)$

$latex P=\left(\begin{array}{rrrrrr}1 & 0 & 0 & 0 & 0 & 0\\0 & -1 & 0 & 1 & 0 & 0\\0 & 1 & 0 & 0 & 0 & 0\\0 & 0 & 0 & 0 & 1 & 0\\0 & 0 & 1 & 0 & 0 & 0\\0 & 0 & 0 & 0 & 0 & 1\end{array}\right)$

שימו לב לצורה של $latex J$. זה מה שנקרא מטריצת בלוקים. רובה אפסים, פרט לשלוש תת-מטריצות שהאלכסון הראשי שלהן נח על האלכסון הראשי של המטריצה: המטריצה $latex \left(\begin{array}{c}3\end{array}\right)$ (מטריצה מסדר $latex 1\times1$), המטריצה $latex \left(\begin{array}{ccc}2 & 1 & 0\\0 & 2 & 1\\0 & 0 & 2\end{array}\right)$ והמטריצה $latex \left(\begin{array}{cc}2 & 1\\0 & 2\end{array}\right)$. על מטריצה כזו אומרים שהיא מורכבת משלושה בלוקי ז'ורדן, שאחד מהם הוא מגודל 1 ומתאים לערך העצמי 3, השני הוא מגודל 3 ומתאים לערך העצמי 2, והשלישי הוא מגודל 2 ומתאים לערך העצמי 2. כלומר, בלוק ז'ורדן הוא בסך הכל מטריצה סקלרית (כלומר, כזו שבה על האלכסון הראשי יש ערך סקלרי קבוע כלשהו) ועוד מטריצה שבה על האלכסון המשני העליון יש 1-ים. כל צורת ז'ורדן היא משהו כזה: מטריצת בלוקים שבה הבלוקים הם בלוקי ז'ורדן. לב הרעיון הוא שכל מטריצה דומה למטריצת ז'ורדן יחידה, עד כדי זה שאפשר לשחק עם הסדר של העמודות. כלומר, אם נמיין את הבלוקים (למשל) על פי גודל הערך העצמי ואז על פי גדלי הבלוקים, נקבל ייצוג יחיד.

השאלה שלנו, אם כן, היא זו: בהינתן $latex A$ כמו זו, איך מוצאים את $latex J$? ואיך מוצאים את $latex P$? זה מה שנטפל בו בפוסט הזה. לא ניכנס להוכחות של קיום ויחידות צורת ז'ורדן או כל דבר דומה.

פרק ראשון, ובו נוסטלגיה מהימים הטובים שבהם פולינומים היו פולינומים, ריבוי אלגברי היה ריבוי גאומטרי, ומטריצות היו לכסינות

נתחיל מלהזכיר את המושגים שרלוונטיים לנו. צורת ז'ורדן היא סוג של הכללה של לכסון מטריצות, ולכן לא פלא שהמושגים שצצו בלכסון מטריצות הם בעלי תפקיד מרכזי גם כאן, אז נזכיר אותם. המושג הבסיסי הוא ערך עצמי של $latex A$: $latex \lambda$ הוא ערך עצמי אם קיים וקטור $latex v\ne0$ כך ש-$latex Av=\lambda v$. על $latex v$ אומרים שהוא וקטור עצמי של $latex A$.

מציאת ערכים עצמיים זה עניין פשוט יחסית. נניח ש-$latex A$ היא מטריצה מסדר $latex n\times n$ מעל שדה $latex \mathbb{F}$. אם $latex Av=\lambda v$ אז על ידי העברת אגפים מקבלים ש-$latex \left(A-\lambda I\right)v=0$, כלומר $latex v\in\ker\left(A-\lambda I\right)$. בפרט, זה אומר שהגרעין של המטריצה $latex A-\lambda I$ אינו טריוויאלי, ולכן המטריצה הזו אינה הפיכה, ולכן הדטרמיננטה שלה היא אפס: $latex \det\left(A-\lambda I\right)=0$. זה מוביל להגדרה הבאה של הפולינום האופייני של מטריצה $latex A$: $latex p_{A}\left(x\right)=\det\left(xI-A\right)$. כאן $latex xI-A$ היא מטריצה שהכניסות שלה לא שייכות סתם לאיזה שדה $latex \mathbb{F}$ אלא ל-$latex \mathbb{F}\left[x\right]$ – חוג הפולינומים מעל $latex \mathbb{F}$. חישוב הדטרמיננטה עדיין מתבצע באותו האופן. מקבלים תמיד פולינום מתוקן (כלומר, כזה שבו המקדם המוביל הוא 1; זו הסיבה שלוקחים דטרמיננטה של $latex xI-A$ ולא של $latex A-xI$) ממעלה $latex n$. למשל, עבור המטריצה $latex A$ בדוגמה שלנו, חישוב ישיר נותן $latex p_{A}\left(x\right)=\left(x-3\right)\left(x-2\right)^{5}$. הפואנטה בפולינום האופייני הוא שהערכים העצמיים של $latex A$ הם בדיוק השורשים של הפולינום הזה.

בדוגמה שלנו, הפולינום התפרק למכפלה של גורמים לינאריים, כלומר גורמים מהצורה $latex \left(x-\lambda\right)$. חלק מהגורמים חזרו על עצמם – $latex \left(x-2\right)$ הופיע 5 פעמים – אבל זו לא בעיה. מתי יש בעיה? אם יש לנו גורם שאנחנו לא יכולים לפרק יותר מעל השדה הנוכחי שלנו. נראה את הדוגמה הקלאסית לכך. נניח שאנחנו מעל השדה $latex \mathbb{R}$ ונתבונן על המטריצה $latex \left(\begin{array}{cc}0 & 1\\-1 & 0\end{array}\right)$. הפולינום האופייני שלה הוא $latex \det\left(\begin{array}{cc}x & -1\\1 & x\end{array}\right)=x^{2}+1$. מעל $latex \mathbb{R}$ אי אפשר לפרק את הפולינום הזה לגורמים לינאריים. אם נעבור אל $latex \mathbb{C}$ הפולינום יתפרק ל-$latex \left(x-i\right)\left(x+i\right)$, ואלו אכן הערכים העצמיים של המטריצה הזו; אבל מעל $latex \mathbb{R}$ אנחנו "תקועים". כאן זה החיסרון היחיד של צורת ז'ורדן: אם הפולינום האופייני לא מתפרק לגורמים לינאריים, צורת ז'ורדן לא עובדת. אם נרחיב את השדה שמעליו אנחנו עובדים לשדה שבו הפולינום הזה מתפרק לגורמים לינאריים, אז מעל השדה המורחב הזה נוכל למצוא צורת ז'ורדן והכל יהיה טוב ויפה, אבל בלי זה אין על מה לדבר. לכן בכל הדיון על צורות ז'ורדן מניחים שהפולינום האופייני של המטריצה שלנו כן מתפרק לגורמים לינאריים (לפעמים פשוט מניחים שעובדים מעל השדה $latex \mathbb{C}$ שכל פולינום מעליו מתפרק לגורמים לינאריים וחסל; זהו המשפט היסודי של האלגברה).

לכל שורש $latex \lambda$ של הפולינום האופייני מגדירים את הריבוי האלגברי שלו להיות מספר הפעמים שבהן הגורם $latex x-\lambda$ מופיע בפולינום האופייני. בדוגמה שלנו הריבוי האלגברי של 3 הוא 1 והריבוי האלגברי של 2 הוא 5. כמו כן, מגדירים את הריבוי הגאומטרי של $latex \lambda$ בתור $latex \dim\ker\left(A-\lambda I\right)$, שזו דרך אחרת לומר "המימד של תת-המרחב של הוקטורים העצמיים שמתאימים לערך $latex \lambda$".

לבסוף, המשפט הבסיסי על לכסון מטריצות אומר שמטריצה היא לכסינה אם ורק אם הריבוי האלגברי של כל ערך עצמי שווה לריבוי הגיאומטרי שלו (אפשר לראות שתמיד הריבוי האלגברי גדול או שווה). במקרה הזה, אפשר למצוא למרחב כולו בסיס שכולו בנוי מוקטורים עצמיים של $latex A$. כעת הטרנספורמציה הלינארית ש-$latex A$ מייצג תהיה מיוצגת על ידי מטריצה אלכסונית בבסיס הזה; ואם נגדיר את $latex P$ להיות המטריצה שעמודותיה הם הוקטורים העצמיים הללו, אז נקבל ש-$latex P^{-1}AP=D$ כאשר $latex D$ אלכסונית ועל האלכסון שלה מופיעים הערכים העצמיים של $latex A$.

צורת ז'ורדן באה לטפל בסיטואציה שבה הריבוי הגיאומטרי קטן מהריבוי האלגברי. במצב הזה, אין לנו "מספיק" וקטורים עצמיים כדי לקבל בסיס, אז אנחנו מתחילים לחפש וקטורים במקומות נוספים. הנה הרעיון: אם עבור וקטורים עצמיים עבור $latex \lambda$ חיפשנו איברים של $latex \ker\left(A-\lambda I\right)$, הרי שעכשיו אנחנו נחפש איברים של $latex \ker\left(A-\lambda I\right)^{k}$ עבור $latex k\ge1$. אבל לא מספיק לבחור "סתם" איברים של המרחבים הללו; צריך לבצע את הבחירה הזו בצורה זהירה למדי כדי לוודא שאנחנו אכן תופסים את כל מה שצריך לתפוס. אני אתן כבר עכשיו את הרעיון על קצה המזלג:

  1. בכל שלב, אנחנו מחפשים וקטורים ב-$latex \ker\left(A-\lambda I\right)^{k}$ שאינם שייכים ל-$latex \ker\left(A-\lambda I\right)^{k-1}$ (ועוד תכונה יותר מסובכת שאסביר בהמשך, אל תחשבו שהתיאור הזה שלם).
  2. בכל שלב, אם בחרנו וקטור $latex v$ כלשהו, אנחנו צריכים לקחת את כל השרשרת שהוא יוצר על ידי הפעלות חוזרות ונשנות של $latex \left(A-\lambda I\right)$ עליו. דהיינו, אם לקחנו את $latex v$ לקבוצת הוקטורים שאנחנו בונים, ניקח גם את $latex \left(A-\lambda I\right)v$, גם את $latex \left(A-\lambda I\right)^{2}v$ וכן הלאה עד אשר מגיעים אל 0.

זה, על רגל אחת, האלגוריתם שלנו. הוא לא שונה כל כך ממה שקרה בסיטואציה של לכסון מטריצות: שם התחלנו מ-$latex k=1$, ולכן בסך הכל חיפשנו כמה שיותר וקטורים ב-$latex \ker\left(A-\lambda I\right)$ כאשר תנאי ה"אינם שייכים" היה בדיוק התנאי שהוקטורים העצמיים שונים מ-0.

פרק שני, שבו הפולינום המינימלי מראה שאת מה שהוא הספיק לשכוח על בלוקי ז'ורדן אנחנו עוד לא למדנו

דבר אחד עדיין בבירור חסר ב"אלגוריתם" שאני מציע כאן – איך יודעים מאיזה $latex k$ להתחיל את החיפוש? בשביל זה נכניס לתמונה עוד מושג מוכר מהעבר: פולינום מינימלי.

בהינתן מטריצה $latex A$, הפולינום המינימלי $latex m_{A}\left(x\right)$ שלה הוא פולינום מתוקן שמקיים $latex m_{A}\left(A\right)=0$ והוא מחלק כל פולינום אחד שמאפס את $latex A$ – במילים יותר פורמליות, $latex m_{A}\left(x\right)$ הוא היוצר של אידאל הפולינומים שמאפסים את $latex A$ בחוג $latex \mathbb{F}\left[x\right]$. העובדה שקיים כזה פולינום מובטחת מכך ש-$latex \mathbb{F}\left[x\right]$ הוא תחום ראשי; לא אכנס כאן לפרטים. כלי מועיל מאוד בדרך למציאת הפולינום המינימלי הוא משפט קיילי המילטון שאומר ש-$latex p_{A}\left(A\right)=0$, כלומר הפולינום האופייני של מטריצה מאפס אותה, ולכן הפולינום המינימלי מחלק אותו; אפשר להראות שהפולינום המינימלי הוא בעל אותם גורמים לינאריים בדיוק כמו הפולינום האופייני, רק שהריבוי שלהם עשוי להיות קטן יותר (כלומר, מקטינים חלק מהחזקות, אבל לא מורידים חזקה כלשהי ל-0). לכן אפשר פשוט להציב את $latex A$ בכל מני מועמדים אפשריים ולראות מה קורה (בהמשך נראה שיש דרך חכמה יותר למצוא את הפולינום המינימלי). בדוגמה שלנו, $latex m_{A}\left(x\right)=\left(x-3\right)\left(x-2\right)^{3}$, כלומר הגורם $latex \left(x-3\right)$ לא נעלם (אסור לו להיעלם) והגורם $latex \left(x-2\right)^{5}$ איבד 2 ממעריך החזקה שלו והפך להיות $latex \left(x-2\right)^{3}$.

מה שיפה הוא שהפולינומים האופייני והמינימלי של $latex A$ מספקים לנו המון מידע על צורת ז'ורדן של המטריצה. לפעמים מספיק מידע כדי לקבוע מהי בצורה יחידה (אבל לא תמיד). הנה סיכום זריז:

  • לכל ערך עצמי $latex \lambda$, הריבוי האלגברי של $latex \lambda$ (הדרגה של $latex \left(x-\lambda\right)$ בפולינום האופייני) שווה לסכום גדלי בלוקי ז'ורדן המתאימים ל-$latex \lambda$.
  • לכל ערך עצמי $latex \lambda$, הריבוי הגאומטרי של $latex \lambda$ שווה למספר בלוקי ז'ורדן המתאימים ל-$latex \lambda$.
  • לכל ערך עצמי $latex \lambda$, הריבוי של $latex \lambda$ בפולינום המינימלי שווה לגודל בלוק הז'ורדן הגדול ביותר המתאים ל-$latex \lambda$.

בואו נראה מה שלושת אלו אומרים בדוגמה שלנו. עבור $latex \lambda=3$ קיים בפולינום האופייני הגורם $latex \left(x-3\right)$ שהוא ממעלה 1, כלומר הריבוי האלגברי הוא 1 ולכן גם הריבוי הגאומטרי הוא 1. המסקנה היא שב-$latex J$ יהיה בלוק ז'ורדן יחיד שמתאים ל-$latex \lambda=3$ ושהגודל שלו יהיה 1. זה אכן מה שקורה.

לגבי הערך העצמי $latex \lambda=2$, הריבוי האלגברי שלו הוא 5, ולכן סכום גדלי כל הבלוקים שלו יהיה 5. כמה בלוקים כאלו יהיו? בשביל זה צריך להפשיל שרוולים ולמצוא את הריבוי הגיאומטרי, כלומר לחשב את $latex \dim\ker\left(A-2I\right)$, מה שאפשר לעשות על ידי דירוג מטריצות סטנדרטי. מקבלים ריבוי גיאומטרי 2, ולכן יהיו שני בלוקי ז'ורדן. זה זמן לא רע לעצור ולחשוב מה הם יכולים להיות. סכום הגדלים שלהם יהיה 5; בכמה דרכים אפשר לכתוב את 5 בתור סכום של שני מספרים טבעיים חיוביים? או $latex 5=1+4$ או $latex 5=2+3$. אלא שהמקרה הראשון נפסל בשל הפולינום המינימלי; הריבוי של $latex \lambda=2$ בפולינום המינימלי הוא 3 ולכן לא ייתכן שיש בלוק מגודל 4. לכן בהכרח האפשרות הנוספת היא הנכונה – יהיה לנו בלוק אחד מגודל 3 ובלוק אחר מגודל 2, וזה בדיוק מה שיש לנו. הנה כי כן, רק מהיכרות עם הפולינום האופייני והמינימלי של $latex A$ כבר הבנו בדיוק איך צורת ז'ורדן שלה תיראה. אם אנחנו רוצים למצוא את $latex P$ המז'רדנת, נצטרך לעבוד עוד קצת.

האם המידע שכתבתי למעלה זה כל המידע שאפשר לחלץ על צורת ז'ורדן מבלי לחשב את $latex P$ במפורש? ובכן, לא. שמרתי את הדבר המסובך ביותר לסוף:

  • לכל ערך עצמי $latex \lambda$, מספר בלוקי ז'ורדן המתאימים ל-$latex \lambda$ מגודל $latex k$ לפחות הוא ההפרש $latex \dim\ker\left(A-\lambda I\right)^{k}-\dim\ker\left(A-\lambda I\right)^{k-1}$.

עוד רגע אסביר את ההגיון מאחורי התכונה הזו, ויש בהחלט הגיון, אבל לפני כן בואו נעזור קצת למי שה"לפחות" הזה מציק לו ורוצה לדעת מה המספר בדיוק. הטיעון הוא קצת חמקמק, אז הנה דוגמה: נניח שאני יודע שיש בדיוק 5 בלוקים מגודל שהוא לפחות 3, ואני יודע שיש 2 בלוקים מגודל שהוא לפחות 4, כמה בלוקים מגודל בדיוק 3 יש? אני מקווה שאתם צועקים עלי "שלושה!". איך ידעתם? כי אפשר לראות שבמעבר בין בלוקים מגודל לפחות 3 אל גודל לפחות 4 "איבדנו" 3 בלוקים; אלו חייבים להיות הבלוקים שגודלם הוא בדיוק 3.

מכאן שכדי לקבל את מספר הבלוקים מגודל $latex k$ בדיוק אנחנו צריכים לחשב את מספר הבלוקים מגודל $latex k$ לפחות, פחות מספר הבלוקים מגודל $latex k+1$ לפחות. אפשר לעשות את זה על ידי שתי הפעלות של הנוסחה לעיל. נקבל:

  • לכל ערך עצמי $latex \lambda$, מספר בלוקי ז'ורדן המתאימים ל-$latex \lambda$ מגודל $latex k$ בדיוק הוא ההפרש $latex 2\dim\ker\left(A-\lambda I\right)^{k}-\dim\ker\left(A-\lambda I\right)^{k+1}-\dim\ker\left(A-\lambda I\right)^{k-1}$.

תעשו לעצמכם את החשבון ותראו שאכן זה מה שיוצא.

פרק שלישי, שבו אנחנו מז'רדנים סוף סוף בעזרת וקטורים ציקליים שזה סוג מיוחד של וקטור עצמי מוכלל וזה לא נשמע גס בכלל

עכשיו אני רוצה לעבור לדבר על האופן שבו מוצאים את $latex P$, מה שישתלב יפה עם הסבר לגבי המקום שממנו כל התכונות הללו מגיעות מלכתחילה. כשמדברים על $latex P$ קצת יותר קל לדעתי לחשוב על $latex A$ לא בתור מטריצה שרוצים למצוא אחת שדומה לה, אלא בתור טרנספורמציה לינארית שאנחנו מחפשים בסיס $latex P$ למרחב שבו היא מיוצגת על ידי מטריצה נחמדה – מטריצת בלוקים. מה הרעיון של מטריצת בלוקים שמייצגת טרנספורמציה לינארית? שכל בלוק מייצג תת-מרחב אינוריאנטי של הטרנספורמציה. אם $latex T:V\to V$ היא טרנספורמציה ו-$latex W$ הוא תת-מרחב של $latex V$, אז $latex W$ הוא $latex T$-אינוריאנטי אם $latex T\left(W\right)\subseteq W$. זה אומר שאם כחלק מהבסיס $latex P$ שלנו יש בסיס ל-$latex W$, ושאר אברי $latex P$ לא שייכים ל-$latex W$, אז כשמייצגים את $latex T$ באמצעות $latex P$ נקבל בלוק שמתאים בדיוק ל-$latex W$. בואו נראה את זה עם דוגמה פשוטה. נניח ש-$latex V=W\oplus U$ כך ש-$latex W,U$ הם $latex T$-אינוריאנטים, וניקח בסיס $latex P=\left\{ w_{1},w_{2},u_{1},u_{2}\right\} $ שמורכב מאיחוד בסיסים של $latex W,U$. לצורך הקונקרטיות נניח ש-$latex T\left(w_{1}\right)=w_{1}+w_{2}$ ו-$latex T\left(w_{2}\right)=2w_{1}-w_{2}$, וש-$latex T\left(u_{1}\right)=3u_{2}$, $latex T\left(u_{2}\right)=u_{1}-u_{2}$. אם נשב ונחשב את המטריצה המייצגת של $latex T$ על פי $latex P$ נקבל את המטריצה הבאה:

$latex \left(\begin{array}{cccc}1 & 2 & 0 & 0\\1 & -1 & 0 & 0\\0 & 0 & 0 & 1\\0 & 0 & 3 & -1\end{array}\right)$

האינטואיציה: כל וקטור עמודה במטריצה המייצגת שווה לתוצאת ההפעלה של $latex T$ על אחד מאברי הבסיס, כשמה שנכתב בעמודה הוא וקטור הקואורדינטות שלו על פי הבסיס. העמודה הראשונה היא וקטור ששייך ל-$latex W$ ולכן גם הפלט שלו יהיה ב-$latex W$ ולכן וקטור הקואורדינטות שלו יתאפס על השורות שמתאימות לאברי בסיס שאינם ב-$latex W$, וכדומה.

אם כן, זה מה שקורה גם בצורת ז'ורדן. איכשהו מצליחים לפרק את $latex V$ לתת-מרחבים אינוריאנטים, שכל אחד מהם מתאים לבלוק ז'ורדן מסויים. לב-לבו של הרעיון בצורת ז'ורדן הוא שכל תת-מרחב כזה הוא ציקלי: הוא מתקבל מכך שלוקחים וקטור בודד ב-$latex V$, שנקרא לו וקטור ציקלי, ואז מפעילים עליו את כל החזקות האפשריות של $latex T$ (כולל 0) ולוקחים את כל הצירופים הלינאריים האפשריים. אבל הרעיון הזה לבדו לא מספיק – כדי שנקבל בלוק ז'ורדן צריך לבחור בצורה זהירה את הוקטורים שיהיו בבסיס. בואו ננסה לעשות הינדוס לאחור כדי להבין מה צריך. ניקח בלוק ז'ורדן תמים, נאמר מסדר $latex 3\times3$:

$latex \left(\begin{array}{ccc}\lambda & 1 & 0\\0 & \lambda & 1\\0 & 0 & \lambda\end{array}\right)$

בואו נאמר שהבסיס שיצר אותו הוא $latex \left\{ w_{1},w_{2},w_{3}\right\} $. עכשיו אנחנו מבינים את המשמעות של בלוק כזה – הוא אומר שהטרנספורמציה פועלת באופן הבא:

$latex T\left(w_{1}\right)=\lambda w_{1}$

$latex T\left(w_{2}\right)=w_{1}+\lambda w_{2}$

$latex T\left(w_{3}\right)=w_{2}+\lambda w_{3}$

נסתכל למשל על המשוואה האחרונה. אפשר לכתוב אותה גם בתור $latex T\left(w_{3}\right)=w_{2}+\lambda I\left(w_{3}\right)$ כאשר $latex I$ היא פונקצית הזהות. העברת אגפים תיתן $latex w_{2}=\left(T-\lambda I\right)w_{3}$ (כן, אני קצת משנה את תפקידי הסוגריים, אתם חזקים, תתמודדו). באופן דומה, $latex w_{1}=\left(T-\lambda I\right)w_{2}$ ואילו $latex \left(T-\lambda I\right)w_{1}=0$. מה שזה אומר בפועל הוא שתת-המרחב האינוריאנטי שנותן לו את בלוק הז'ורדן הזה נבנה מתוך וקטור $latex w_{3}$ שאנחנו מוצאים בדרך קסם כלשהי (שעוד מעט תוסבר), ועליו אנחנו מפעילים שוב ושוב את $latex \left(T-\lambda I\right)$ עד שלבסוף אנחנו מגיעים אל 0 (או, אם תרצו, עד שאנחנו מגיעים אל וקטור עצמי של $latex T$ המתאים לערך העצמי $latex \lambda$). $latex w_{3}$ הוא אותו וקטור ציקלי שהזכרתי קודם. שימו לב שכדי שהצורה היפה של בלוק ז'ורדן תתקבל אנחנו צריכים להקפיד על הסדר שבו הוקטורים מופיעים בבסיס: הוקטור הציקלי מופיע אחרון, והוקטורים שמתקבלים ממנו מופיעים לפניו, כשהסדר הוא מההפעלה האחרונה אל ההפעלה הראשונה.

זה מה שתיארתי קודם במה שקראתי לו "הרעיון על קצה המזלג"; עכשיו אנחנו גם מבינים למה צריך לעשות את זה. רק נשאר להבין איפה מוצאים את הוקטורים הציקליים המדוברים. ובכן, בואו נמשיך עוד קצת עם הדוגמה הנוכחית שלנו. ראינו ש-$latex \left(T-\lambda I\right)w_{1}=0$. דרך אחרת לכתוב את זה היא $latex w_{1}\in\ker\left(T-\lambda I\right)$. ראינו גם ש-$latex w_{1}=\left(T-\lambda I\right)w_{2}$, ולכן אם נפעיל את $latex \left(T-\lambda I\right)$ על שני האגפים נקבל ש-$latex \left(T-\lambda I\right)^{2}w_{2}=0$, כלומר $latex w_{2}\in\ker\left(T-\lambda I\right)^{2}$. בדומה $latex w_{3}\in\ker\left(T-\lambda I\right)^{3}$. העיקרון הזה נכון באופן כללי: לכל ערך עצמי $latex \lambda$ של $latex T$, וקטור ציקלי שיוצר תת-מרחב מגודל $latex k$ עשוי להסתתר לנו בתוך $latex \ker\left(T-\lambda I\right)^{k}$. אז אלו המקומות שבהם אנחנו מחפשים את הוקטורים הציקליים שלנו. בואו נדבר שניה טרמינולוגיה: וקטור עצמי היה וקטור $latex w\in\ker\left(T-\lambda I\right)$; לכן שם סביר לוקטור $latex w\in\ker\left(T-\lambda I\right)^{k}$ הוא וקטור עצמי מוכלל. אם כדי ללכסן מטריצה חיפשנו בסיס שמורכב מוקטורים עצמיים שלה, כאן אנחנו מחפשים בסיס שמורכב מוקטורים עצמיים מוכללים שלה. הקושי הוא שלא כל "סתם" בסיס של וקטורים עצמיים מוכללים יעבוד; חייבים כזה שנבנה מתוך וקטורים עצמיים מוכללים ציקליים.

מבחינה חישובית, בינתיים הכל מאוד קל: למצוא איברים ב-$latex \ker\left(T-\lambda I\right)^{k}$ זה בפועל לחשב חזקה של מטריצה סקלרית ולדרג אותה. להפעיל את $latex \left(T-\lambda I\right)$ על וקטורים זה קל מאוד. אבל עדיין יש דברים לא ברורים. בתור התחלה, מאיפה מתחילים? נניח שאני יודע ש-$latex \lambda$ הוא ערך עצמי של $latex T$, אז אני הולך לחפש וקטור ציקלי ב-$latex \ker\left(T-\lambda I\right)^{k}$. אבל עבור איזה $latex k$? שאני אקח באקראי $latex k=1,000$? ובכן, כמובן שלא. ככל שמגדילים את $latex k$, כך גם המרחב $latex \ker\left(T-\lambda I\right)^{k}$ גדל, עד שמגיעים לנקודת שבת. אפשר להתחיל את החיפושים ממנה. לא קשה לראות שה-$latex k$ שמתאים לנקודת השבת הזו הוא בדיוק החזקה $latex k$ של הגורם $latex \left(x-\lambda\right)$ בפולינום המינימלי של $latex T$, מה שמחזיר אותנו לתכונות שראינו קודם. וקטור ציקלי שנמצא ב-$latex \ker\left(T-\lambda I\right)^{k}$ יוצר בלוק מגודל לכל היותר $latex k$; לכל היותר, כי הוא עשוי להיות שייך גם ל-$latex \ker\left(T-\lambda I\right)^{k-1}$ ואז הסדרה שהוא ייצור תהיה מאורך קטן מ-$latex k$. לעומת זאת, אם הוא שייך ל-$latex \ker\left(T-\lambda I\right)^{k}$ אבל לא שייך ל-$latex \ker\left(T-\lambda I\right)^{k-1}$ מובטח לנו שגודל הבלוק שהוא ייצור הוא בדיוק $latex k$. זה מסביר לנו באופן מלא את התכונה של "גודל הבלוק המקסימלי שווה לחזקה של הגורם בפולינום המינימלי" וגם את התכונות המסובכות אחר כך שהתבססו על המימדים של $latex \ker\left(T-\lambda I\right)^{k}$. כמו כן, מכיוון שהסדרה שיוצר וקטור ציקלי מסתיימת תמיד בוקטור עצמי, הרי שמספר הסדרות של וקטורים ציקליים בלתי תלויים – שהוא בדיוק מספר הבלוקים – יהיה שווה למספר הוקטורים העצמיים הבלתי תלויים, כלומר לריבוי הגיאומטרי של $latex \lambda$. הכל מתחבר!

נשאר רק להבין מה זה אומר למצוא וקטורים ציקליים "בלתי תלויים". לצורך כך בואו ניקח דוגמת צעצוע. נניח שאנחנו מחפשים וקטורים ציקליים עבור המטריצה

$latex \left(\begin{array}{ccccc}2 & 1 & 0 & 0 & 0\\0 & 2 & 0 & 0 & 0\\0 & 0 & 2 & 1 & 0\\0 & 0 & 0 & 2 & 0\\0 & 0 & 0 & 0 & 2\end{array}\right)$

זה אווילי, כי המטריצה הזו כבר נמצאת בצורת ז'ורדן. יש לנו שלושה בלוקים שכולם מתאימים לערך העצמי 2: שניים מגודל 2 ואחד מגודל 1. עדיין, בואו נראה מה קורה כשלוקחים את הפרוצדורה ומפעילים אותה על המקרה הזה. לא קשה לבדוק ולראות ש-$latex \left(A-2I\right)^{2}$ היא מטריצת האפס, ולכן $latex \ker\left(A-2I\right)^{2}=\mathbb{C}^{5}$ – המרחב כולו. יש לנו לכאורה חופש בחירה מוחלט לוקטורים שמתחשק לנו לקחת. אבל בפועל יש לנו שתי מגבלות. ראשית, אנחנו רוצים וקטורים שלא שייכים ל-$latex \ker\left(A-2I\right)$, כי וקטורים כאלו יוצרים לנו בלוק מגודל 1 (כלומר, הסדרה שהם יוצרים תהיה מאורך 1 ותכיל רק את עצמם). זה מצמצם את חופש הבחירה שלנו: $latex \ker\left(A-2I\right)=\left\{ \left(x,0,y,0,z\right)\ |\ x,y,z\in\mathbb{C}\right\} $ ולכן כל וקטור שניקח יהיה חייב להיות מהצורה $latex \left(a_{1},a_{2},a_{3},a_{4},a_{5}\right)$ כך ש-$latex a_{2}\ne0$ או $latex a_{4}\ne0$.

יודעים מה? זה לא נשמע כמו מגבלה כל כך רצינית. לכאורה עדיין יש לנו המון וקטורים שאפשר לקחת. אבל האתגר הוא לקחת וקטורים שהשרשראות שהם יוצרים לא "יתנגשו". בואו נראה מקרה שבו זה כן קורה. בתור וקטור אחד ניקח את $latex v=\left(0,1,0,0,0\right)$, אבל בתור הוקטור השני, במקום לקחת את $latex \left(0,0,0,1,0\right)$ המתבקש, אני אקח לצורך הדוגמה דווקא את $latex u=\left(1,1,0,0,0\right)$. למה לא? שני הוקטורים הללו, $latex v,u$, הם בלתי תלויים לינארית; המרחב שהם פורשים הוא ממימד 2. מה אמור לרמוז לנו ש"אסור" לקחת את $latex u$?

ובכן, בואו נסתכל על השרשרת ששני אלו מייצרים: $latex \left(A-2I\right)v=\left(A-2I\right)u=\left(1,0,0,0,0\right)$. קיבלנו התנגשות באיבר השני בשרשרת. מה שזה אומר לנו בפועל הוא ששני הוקטורים הציקליים $latex u,v$ מתאימים שניהם לאותו הבלוק. אני יכול להחליף את אחד מהם בשני ובסופו של דבר עדיין נקבל בסיס שנותן לנו את אותה צורת ז'ורדן. אבל אני לא יכול לדחוף ל-$latex P$ את שניהם ביחד. כי כזכור, כדי שהעסק יעבוד אנחנו צריכים לדחוף כל וקטור ציקלי ואת כל מי שהוא יוצר. אז מה נעשה עם $latex \left(1,0,0,0,0\right)$? נדחוף אותו פעמיים? ככה נקבל מטריצה $latex P$ לא הפיכה; "בסיס" $latex P$ שהוא תלוי לינארית כי אותו איבר מופיע בו פעמיים. אז אולי נוסיף את $latex \left(1,0,0,0,0\right)$ רק פעם אחת? אבל אז נקבל מעט מדי וקטורים עצמיים מוכללים מכדי לקבל בסיס. בקיצור, אסור באיסור חמור לקבל התנגשות. האופןש בו יכלנו לזהות ש-$latex u$ הוא רע הוא על ידי כך שהיינו מזהים שאי שם בהמשך הוא ייתן לנו התנגשות עם $latex v$.

מה הסיבה שבגללה קיבלנו התנגשות שכזו? ובכן, אם תחשבו על זה רגע, $latex u=v+\left(1,0,0,0,0\right)$. כלומר, אפשר לחשוב על $latex u$ הרע שלנו בתור $latex v$ הטוב ועוד "תוספת". עכשיו, אם נפעיל את $latex \left(A-\lambda I\right)$ על $latex u$, אז בזכות הלינאריות של טרנספורמציות לינאריות נקבל ש-$latex \left(A-\lambda I\right)u=\left(A-\lambda I\right)v+\left(A-\lambda I\right)\left(1,0,0,0,0\right)$. אלא ש-$latex \left(1,0,0,0,0\right)\in\ker\left(A-\lambda I\right)$ ולכן התוספת "תתבטל". ונקבל התנגשות.

זה הרעיון שמתאר את הבעיה באופן כללי: שני וקטורים $latex u,v\in\ker\left(A-\lambda I\right)^{k}$ הם "בעייתיים" אם מתקיים ש-$latex u-v\in\ker\left(A-\lambda I\right)^{k-1}$. פירוש הדבר הוא שאם נפעיל את $latex \left(A-\lambda I\right)$ עליהם $latex k-1$ פעמים, מתישהו נקבל התנגשות – לכן לא נצליח לקבל $latex k$ וקטורים שונים. לתכונה הזו של ה"בעייתיות" יש טרמינולוגיה מאוד סטנדרטית במתמטיקה שבאה לתאר אותה, אם כי ייתכן שלרובכם היא לא מוכרת בהקשר של מרחבים וקטוריים: אומרים ש-$latex u,v$ הם שקולים מודולו $latex \ker\left(A-\lambda I\right)^{k-1}$. הטרמינולוגיה הזו מאפשרת לנו לנסח מאוד באלגנטיות את מה שצריך לעשות כדי למצוא את הוקטורים הציקליים של $latex \ker\left(A-\lambda I\right)^{k}$: אנחנו צריכים למצוא בסיס עבור מרחב המנה $latex \ker\left(A-\lambda I\right)^{k}/\ker\left(A-\lambda I\right)^{k-1}$, ואז להעביר את הבסיס הזה לקבוצת וקטורים ב-$latex \ker\left(A-\lambda I\right)^{k}$. אני אסביר את הטרמינולוגיה הזו בהמשך, כי לטעמי זו הדרך הנכונה לתאר את מה שצריך לעשות, אבל כדי לא לכפות אותה עליכם אני אציג קודם כל את האלגוריתם הכללי עם הניסוחים המסורבלים שכופה עלינו ההתעלמות מהטרמינולוגיה הזו.

בואו רק נשלים את דוגמת הצעצוע שלנו. אני מניח שאנחנו מסכימים ששני הוקטורים הציקליים שעלינו לבחור ב-$latex \ker\left(A-2I\right)^{2}$ הם הוקטורים $latex v_{2}=\left(0,1,0,0,0,0\right)$ ו-$latex u_{2}=\left(0,0,0,1,0\right)$. סימנתי אותם עם אינדקס 2, כי כזכור, בבסיס הסדור $latex P$ שאני בונה הם מופיעים אחרי מי שמתקבלים מהם. ומי מתקבלים מהם?

$latex v_{1}=\left(A-2I\right)v_{2}=\left(1,0,0,0,0\right)$

$latex u_{1}=\left(A-2I\right)u_{2}=\left(0,0,1,0,0\right)$

אם כן, כרגע הבסיס הסדור שלי כולל את האיברים $latex \left\{ v_{1},v_{2},u_{1},u_{2}\right\} $. עדיין חסר לי וקטור עצמי מוכלל אחד. האם פספסתי מישהו ב-$latex \ker\left(A-2I\right)^{2}$? התשובה היא לא. דרך פשוטה להיות בטוחים בכך: $latex \dim\ker\left(A-2I\right)^{2}-\dim\ker\left(A-2I\right)=2$ ולכן אני מצפה למצוא רק 2 וקטורים ציקליים "בלתי תלויים" שם. אם כן, מה נשאר? כרגע יש לי שני וקטורים בלתי תלויים ב-$latex \ker\left(A-2I\right)$, אבל $latex \dim\ker\left(A-2I\right)=3$, כך שחסר לי וקטור. אז מה שאני אעשה הוא לקחת את הקבוצה $latex \left\{ u_{1},v_{1}\right\} $, ולהשלים אותה לבסיס של $latex \ker\left(A-2I\right)$. זה יניב לי את הוקטור $latex \left(0,0,0,0,1\right)$, וכך קיבלנו לבסוף את $latex P$ שלנו, שהיא פשוט הבסיס הסטנדרטי (מה שהוא לחלוטין לא מפתיע, כמובן, שהרי המטריצה שהתחלתי ממנה כבר הייתה בצורת ז'ורדן). ומה היה קורה אם הייתי בוחר, למשל, $latex v_{2}=\left(1,1,0,0,0\right)$? הייתי מקבל $latex v_{1}=\left(1,0,0,0,0\right)$ ולכן שאר הבסיס שלי לא היה משתנה. אז הייתי מקבל בסיס קצת שונה, אבל הייצוג של המטריצה בבסיס הזה היה עדיין אותו ייצוג. באופן כללי בהינתן מטריצה $latex A$, יש הרבה מטריצות מז'רדנות $latex P$, כלומר הרבה מטריצות $latex P$ שונות שעבורן $latex P^{-1}AP=J$ כאשר $latex J$ היא אותה צורת ז'ורדן של $latex A$. אין עם זה בעיה.

פרק רביעי, ובו אלגוריתם שהוא התכל'ס של התכל'ס ודוגמה שהיא התכל'ס של התכל'ס של התכל'ס

מה שנעשה עכשיו הוא זה: ראשית אציג את האלגוריתם המלא למציאת צורת ז'ורדן של מטריצה כללית $latex A$; שנית אראה איך הוא עובד במקרה של ה-$latex A$ שהצגתי בתחילת הפוסט, בתור דוגמה; ולבסוף אנסח מחדש את האלגוריתם בטרמינולוגיה שאני אוהב של מרחבי מנה, אחרי שאסביר מהם בכלל.

נתחיל עם האלגוריתם הכללי. נתונה מטריצה $latex A$ ואנחנו רוצים למצוא את צורת ז'ורדן שלה ומטריצה מז'רדנת. מה עושים?

  1. נחשב את הפולינום האופייני $latex p_{A}\left(x\right)=\det\left(xI-A\right)$ ונפרק אותו לגורמים לינאריים $latex p_{A}\left(x\right)=\left(x-\lambda_{1}\right)^{k_{1}}\cdots\left(x-\lambda_{n}\right)^{k_{n}}$. אם הפולינום לא מתפרק לגורמים לינאריים מעל השדה אפשר לשכוח מצורת ז'ורדן. השורשים של הפולינום האופייני נקראים ערכים עצמיים של $latex A$.
  2. לכל ערך עצמי $latex \lambda$ נסמן לצורך נוחות ב-$latex B_{\lambda}$ את המטריצה $latex B_{\lambda}\triangleq A-\lambda I$, וכעת:
    1. נחשב את $latex \dim\ker B_{\lambda}^{k}$ עבור $latex k=1,2,\dots$ עד אשר נמצא $latex k$ כך ש-$latex \dim\ker B_{\lambda}^{k+1}=\dim\ker B_{\lambda}^{k}$ (באופן שקול, אפשר למצוא את הפולינום המינימלי של $latex A$ בדרך אחרת; $latex k$ המבוקש היא החזקה של הגורם $latex \left(x-\lambda\right)$).
    2. נבנה באופן אינדוקטיבי סדרה של קבוצות $latex P_{k}^{\lambda},P_{k-1}^{\lambda},P_{k-2}^{\lambda},\dots,P_{1}^{\lambda}$ באופן הבא: בתחילה, $latex P_{k}^{\lambda}=\emptyset$. כעת, לכל $latex t=k,k-1,\dots,1$:
      1. נוסיף ל-$latex P_{t}^{\lambda}$ איברים עד שיהיו בה $latex \dim\ker B_{\lambda}^{t}-\dim\ker B_{\lambda}^{t-1}$ איברים בסך הכל, כך שאין שני איברים שונים $latex v,u\in P_{t}^{\lambda}$ עבורם $latex v-u\in\ker B_{\lambda}^{t-1}$. לאיברים שמתווספים בשלב הזה נקרא וקטורים ציקליים.
      2. לכל $latex v\in P_{t}^{\lambda}$ נוסיף ל-$latex P_{t-1}^{\lambda}$ את $latex B_{\lambda}\cdot v$ (לוקטורים הללו לא נקרא וקטורים ציקליים).
    3. נגדיר $latex P^{\lambda}=\bigcup_{t=1}^{k}P_{t}^{\lambda}$.
  3. נגדיר $latex P=\bigcup_{\lambda}P^{\lambda}$.
  4. נסדר את איברי ב-$latex P$ באופן הבא: נגדיר סדר כלשהו על הערכים העצמיים וכל הוקטורים שהתקבלו מערך עצמי $latex \lambda$ יופיעו ביחד בהתאם לסדר הזה, ונגדיר סדר כלשהו על הוקטורים הציקליים שהתגלו במהלך האלגוריתם. אם $latex v$ הוא וקטור ציקלי ששייך ל-$latex P_{t}^{\lambda}$ אז נסדר את האיברים $latex B^{t}v,B^{t-1}v,\dots,Bv,v$ בסדר הזה (כך ש-$latex B^{t}v$ ראשון ו-$latex v$ אחרון).

זה האופן הכי טוב שבו אני מסוגל לכתוב את האלגוריתם. נתקלתי בשלל ניסוחים שונים ומשונים שלו במקומות שונים ומשונים ואת כולם היה לי קשה מאוד להבין. אני מקווה שהניסוח הזה בהיר למדי. מה שכנראה לא ברור הוא איך מבצעים חלק מהשלבים של האלגוריתם. הרי מה שכתבתי לעיל הוא עדיין לא משהו שאפשר לתת למחשב לעשות. בעיה אחת, שקיימת כבר בלכסון מטריצות, היא איך לפרק את הפולינום האופייני לגורמים לינאריים – או באופן שקול, איך למצוא את השורשים שלו. מה אני אגיד לכם, זה עניין בעייתי. יש אלגוריתמים כמו ניוטון-רפסון שמוצאים שורשים של פולינומים (לפחות באופן מקורב) וכדומה, אבל באופן כללי זה יכול להיות מסובך. זה נושא ששייך לאנליזה נומרית ובדרך כלל לא רלוונטי לסטודנטים שלומדים את הנושא, כי עבורם יש תרגילים פשוטים שבהם לרוב אפשר לנחש בצורה חכמה את השורשים או שהם נתונים במפורש.

החלק היותר מעניין הוא זה שבו צריך לקחת את $latex P_{t}^{\lambda}$, שאולי כבר יש בה כמה וקטורים שהגיעו מהשלב הקודם, ולהרחיב אותה כך שיהיו בה $latex \dim\ker B_{\lambda}^{t}-\dim\ker B_{\lambda}^{t-1}$ וקטורים שהם "בלתי תלויים, במובן שאמרתי קודם – לא מתקיים $latex v-u\in\ker B_{\lambda}^{t-1}$ לאף זוג וקטורים בתוכה. התשובה הפשוטה ביותר שאני מכיר היא זו: קחו בסיס ל-$latex \ker B_{\lambda}^{t-1}$. הוסיפו לו את איברי $latex P_{t}^{\lambda}$ הנוכחיים. קיבלתם קבוצה של וקטורים ב-$latex \ker B_{\lambda}^{t}$ ואפשר להוכיח שהם תמיד יהיו בלתי תלויים לינארית. הרחיבו אותה לבסיס של $latex \ker B_{\lambda}^{t}$. אברי הבסיס החדשים הם בדיוק האיברים שאתם רוצים להוסיף ל-$latex P_{t}^{\lambda}$. כמובן, אני מניח שאתם כבר יודעים לפתור את בעיית ה"השלמה של קבוצת וקטורים לבסיס" – אבל זו בעיה הרבה יותר סטנדרטית באלגברה לינארית ולא אדבר עליה כאן.

למה זה עובד? פשוט מאוד: כי אם עבור $latex v,u\in P_{t}^{\lambda}$ מתקיים ש-$latex v-u\in\ker B_{\lambda}^{t-1}$, אז אפשר לכתוב את $latex v-u$ כצירוף לינארי של הבסיס של $latex \ker B_{\lambda}^{t-1}$, כלומר $latex v-u=\sum\rho_{i}b_{i}$. נעביר אגפים והופס, $latex v-u-\sum\rho_{i}b_{i}=0$, קיבלנו צירוף לינארי של אברי בסיס של $latex \ker B_{\lambda}^{t}$ שנותן 0. זה אפשרי רק אם כל המקדמים בצירוף הלינארי הזה הם 0, כלומר בפרט $latex v-u=0$, כלומר $latex v=u$. אז רק רגע, אם זה כל כך פשוט, למה לא כתבתי את זה באלגוריתם מלכתחילה? ובכן, בגלל שאם אני הייתי קורא את זה באלגוריתם מלכתחילה, לא הייתי מבין מה לעזאזל הרעיון שמאחורי השלב הזה. אני מעדיף שהאלגוריתם יציג את הרעיון ולא את הפרטים של הביצוע הטכני שלו. פרט לכך, אל תדאגו – בניסוח עם מרחבי מנה, יופיע שם בדיוק הדבר הזה.

בואו נעבור, אם כן, לפתרון של הדוגמה מתחילת הפוסט. אקפוץ על השלב של חישוב הפולינום האופייני של $latex A$: כפי שאמרתי קודם, מקבלים $latex p_{A}\left(x\right)=\left(x-3\right)\left(x-2\right)^{5}$. סביר להתחיל עם הערך העצמי 3. עבורו, המטריצה $latex B=\left(A-3I\right)$ יוצאת

$latex B=\left(\begin{array}{rrrrrr}0 & 0 & 0 & 0 & 0 & 0\\0 & -1 & 0 & 0 & -1 & 0\\0 & 0 & -1 & 0 & 1 & 0\\0 & 0 & 0 & -1 & 0 & 1\\0 & 1 & 1 & 0 & -1 & 0\\0 & 0 & 0 & 0 & 0 & -1\end{array}\right)$

דירוג מטריצות סטנדרטי יעביר אותנו למטריצה הבאה:

$latex \left(\begin{array}{rrrrrr}0 & 0 & 0 & 0 & 0 & 0\\0 & 1 & 0 & 0 & 0 & 0\\0 & 0 & 1 & 0 & 0 & 0\\0 & 0 & 0 & 1 & 0 & 0\\0 & 0 & 0 & 0 & 1 & 0\\0 & 0 & 0 & 0 & 0 & 1\end{array}\right)$

ולכן $latex \ker B=\mbox{span}\left\{ e_{1}\right\} $ כאשר $latex e_{1}=\left(1,0,0,0,0,0\right)$ הוא וקטור של הבסיס הסטנדרטי. אם נחזור על התעלול עבור $latex B^{2}$ נגלה שנקבל את אותו הדבר בדיוק – $latex \ker B^{2}=\ker B^{1}$. זה כמובן לא אמור להפתיע אותנו בשום צורה – אנחנו יודעים שהגורם של $latex \left(x-3\right)$ בפולינום האופייני הוא 1, ולכן זה גם הגורם בפולינום המינימלי, ולכן המרחב $latex \ker B^{2}$ ממילא לא רלוונטי עבורנו. אם כן, אין לנו כמעט מה לעשות כאן: ב-$latex P$ הסופי שלנו יהיה את $latex e_{1}$, ואפשר לעבור לטפל בערך העצמי האחר, $latex \lambda=2$.

נגדיר אם כן $latex B=\left(A-2I\right)$, נחשב חזקות של $latex B$ ונקבל את המטריצות

$latex B=\left(\begin{array}{rrrrrr}1 & 0 & 0 & 0 & 0 & 0\\0 & 0 & 0 & 0 & -1 & 0\\0 & 0 & 0 & 0 & 1 & 0\\0 & 0 & 0 & 0 & 0 & 1\\0 & 1 & 1 & 0 & 0 & 0\\0 & 0 & 0 & 0 & 0 & 0\end{array}\right),B^{2}=\left(\begin{array}{rrrrrr}1 & 0 & 0 & 0 & 0 & 0\\0 & -1 & -1 & 0 & 0 & 0\\0 & 1 & 1 & 0 & 0 & 0\\0 & 0 & 0 & 0 & 0 & 0\\0 & 0 & 0 & 0 & 0 & 0\\0 & 0 & 0 & 0 & 0 & 0\end{array}\right),B^{3}=\left(\begin{array}{rrrrrr}1 & 0 & 0 & 0 & 0 & 0\\0 & 0 & 0 & 0 & 0 & 0\\0 & 0 & 0 & 0 & 0 & 0\\0 & 0 & 0 & 0 & 0 & 0\\0 & 0 & 0 & 0 & 0 & 0\\0 & 0 & 0 & 0 & 0 & 0\end{array}\right)$

ובבירור $latex B^{4}=B^{3}$ ולכן הסיפור ייתקע ב-$latex B^{3}$ ומשם אנחנו צריכים להתחיל לחפש את הוקטורים הציקליים שלנו.

נפתח, אם כן, במציאת וקטורים ציקליים ב-$latex \ker B^{3}$. אמרנו שהדרך לעשות זאת בפועל היא למצוא בסיס ל-$latex \ker B^{2}$ ואז להשלים אותו לבסיס של $latex \ker B^{3}$. מה יניב לנו דירוג מטריצות של $latex B^{2}$? את המטריצה הבאה:

$latex \left(\begin{array}{rrrrrr}1 & 0 & 0 & 0 & 0 & 0\\0 & 1 & 1 & 0 & 0 & 0\\0 & 0 & 0 & 0 & 0 & 0\\0 & 0 & 0 & 0 & 0 & 0\\0 & 0 & 0 & 0 & 0 & 0\\0 & 0 & 0 & 0 & 0 & 0\end{array}\right)$

כלומר, $latex \ker B^{2}=\left\{ \left(0,a,-a,b,c,d\right)\ |\ a,b,c,d\in\mathbb{C}\right\} $ – מרחב 4-ממדי. בתור בסיס שלו אפשר לקחת למשל את $latex \left\{ e_{2}-e_{3},e_{4},e_{5},e_{6}\right\} $.

את $latex B^{3}$ אין צורך לדרג – היא כבר מדורגת, ובבירור $latex \ker B^{3}=\left\{ \left(0,a,f,b,c,d\right)\ |\ a,b,c,d,f\in\mathbb{C}\right\} $. כלומר, הוסרה המגבלה על הקואורדינטה השלישית להיות נגדית של השניה. אם כן, את מי אפשר להוסיף לבסיס $latex \left\{ e_{2}-e_{3},e_{4},e_{5},e_{6}\right\} $? אפשר להוסיף את $latex e_{2}$ בלי לדאוג יותר מדי. קל לבדוק שהוא אכן בלתי תלוי בשאר הוקטורים. אם כן, $latex e_{2}$ יהיה הוקטור הציקלי הראשון שלנו, זה שיצור בלוק ז'ורדן מסדר 3. בסימונים שלי, $latex P_{3}=\left\{ e_{2}\right\} $.

עכשיו, נחשב את $latex B\cdot e_{2}=e_{5}$ (זכרו – מטריצה כפול וקטור בסיס סטנדרטי זה פשוט לקחת את העמודה המתאימה). רעיונית אני יכול להמשיך עם זה, לחשב גם את $latex B^{2}\cdot e_{2}=-e_{2}+e_{3}$ וכבר להגיד שאני מוסיף לבסיס שאני בונה את שלושת הוקטורים הללו, אבל בואו נרגיע רגע עם זה ונעבוד על פי האלגוריתם שלי. בסימונים שלי, $latex P_{2}=\left\{ e_{5}\right\} $ בשלב הזה ואני צריך להרחיב אותה עוד קצת. מתחילים בלמצוא את $latex \ker B$ על ידי דירוג של $latex B$. מקבלים את המטריצה המדורגת

$latex \left(\begin{array}{rrrrrr}1 & 0 & 0 & 0 & 0 & 0\\0 & 1 & 1 & 0 & 0 & 0\\0 & 0 & 0 & 0 & 1 & 0\\0 & 0 & 0 & 0 & 0 & 1\\0 & 0 & 0 & 0 & 0 & 0\\0 & 0 & 0 & 0 & 0 & 0\end{array}\right)$

כלומר, $latex \ker B=\left\{ \left(0,a,-a,b,0,0\right)\ |\ a,b\in\mathbb{C}\right\} $ וזהו בבירור מרחב ממימד 2. לכן אנחנו רוצים להרחיב את $latex P_{2}$ כך שיהיו בה $latex \dim\ker B^{2}-\dim\ker B=4-2=2$ וקטורים. נפעל כמו קודם: ניקח בסיס ל-$latex \ker B$, נוסיף אליו את מי שכבר ב-$latex P_{2}$, ואז נרחיב לבסיס של $latex \ker B^{2}$. בסיס ל-$latex \ker B$ הוא $latex \left\{ e_{2}-e_{3},e_{4}\right\} $, ולכן אנחנו רוצים להרחיב את הקבוצה $latex \left\{ e_{2}-e_{3},e_{4},e_{5}\right\} $ לבסיס עבור $latex \ker B^{2}$. היי, זה בדיוק כמו הבסיס של $latex \ker B^{2}$ שכבר מצאנו קודם חוץ מ-$latex e_{6}$ שלא בפנים! איזה יופי, גילינו ש-$latex e_{6}$ הוא הוקטור הציקלי השני שלנו. בסך הכל, $latex P_{2}=\left\{ e_{5},e_{6}\right\} $ בסוף השלב הזה.

כעת אנו מחשבים את $latex B\cdot e_{5}=-e_{2}+e_{3}$ ואת $latex B\cdot e_{6}=e_{4}$ ומקבלים $latex P_{1}=\left\{ -e_{2}+e_{3},e_{4}\right\} $. מכיוון ש-$latex \dim\ker B=2$ אין לנו עוד וקטורים שאנחנו רוצים להוסיף לקבוצה הזו – סיימנו. על ידי איחוד כל ה-$latex P$-ים שמצאנו וסידור על פי שיטת הסידור שבחרתי קודם, אני מקבל בסוף את הבסיס הסדור $latex P=\left\{ e_{1},-e_{2}+e_{3},e_{5},e_{2},e_{4},e_{6}\right\} $. אם תסתכלו על המטריצה מתחילת הפוסט, זו בדיוק המטריצה הזו. סיימנו!

כמובן, מה שהיה פה הוא קסם. איך קרה הנס הזה שהיו קיימים לנו וקטורים ציקליים, ושקיבלנו קבוצה בלתי תלויה של וקטורים? מה שמבטיח לנו את זה הוא משפט עמוק שלא הוכחתי ולא הראיתי במפורש, אבל זה, כאמור, יהיה שייך לפוסט אחר.

פרק חמישי ואחרון שבו האלגוריתם מקבל מנה אחת אפיים ואוי ואבוי טוב שזה נגמר נשבר לי מבדיחות הקרש הללו

הבטחתי להציג את הטרמינולוגיה שלטעמי היא הנכונה ביותר לתיאור כל הסיפור הזה – מרחבי מנה. מרחבי מנה באלגברה הם נושא נפוץ ביותר – בהקשר של חבורות וחוגים אנחנו רואים אותם כל הזמן. איכשהו יצא שעבור מרחבים וקטוריים אותו מושג הוא הרבה פחות פופולרי ושימושי, אבל כאן הוא בהחלט מתאים. אז אני אתאר את ההגדרות הבסיסיות – שוב, תחת הנחה שאתם יודעים קצת אלגברה.

ובכן, יהא $latex V$ מרחב וקטורי ו-$latex W\subseteq V$ תת-מרחב שלו. נגדיר יחס שקילות על הוקטורים של $latex V$: $latex v\equiv_{W}u$ אם ורק אם $latex v-u\in W$. זה בבירור יחס שקילות בגלל תכונות סטנדרטיות של תת-מרחבים וקטוריים: $latex 0\in W$ ולכן רפלקסיביות; אם $latex v\in W$ גם $latex -v\in W$ ולכן סימטריה; ו-$latex W$ סגור לחיבור ולכן טרנזיטיביות ($latex \left(v-w\right)=\left(v-u\right)+\left(u-w\right)$). מחלקת השקילות של $latex v$ היא אוסף כל האיברים השקולים לו: $latex \left[v\right]_{W}\triangleq\left\{ u\in V\ |\ v\equiv_{W}u\right\} =\left\{ v+w\ |\ w\in W\right\} $. השוויון האחרון מצדיק את הסימון המקובל יותר, $latex v+W$, עבור מחלקת השקילות הזו, שגם נקראת לפעמים קוסט של $latex W$. כעת אנחנו מגדירים את מרחב המנה $latex V/W$ בתור מרחב המנה של היחס – אוסף הקוסטים שלו. דהיינו, $latex V/W\triangleq\left\{ v+W\ |\ v\in V\right\} $.

שימו לב לכך ש-$latex V/W$ הוא לא תת-מרחב של $latex V$. זה לא ייתכן כבר ברמה הסינטקטית: אברי $latex V/W$ הם לא איברים של $latex V$ אלא קבוצות של איברים של $latex V$. אז איך נכון לחשוב על $latex V/W$? בתור מרחב שמתקבל מכך ש"מדביקים ביחד" איברים שונים של $latex V$. הדוגמה הקלאסית היא עבור $latex V=\mathbb{R}^{2}$ ו-$latex W$ שהוא תת-מרחב ממימד 1, כלומר קו ישר ב-$latex \mathbb{R}^{2}$. במקרה הזה, מחלקות השקילות של $latex V/W$ יהיו בדיוק הישרים שמקבילים ל-$latex V/W$. המרחב הזה איזומורפי ל-$latex \mathbb{R}^{1}$ – תחשבו, למשל, שמעבירים כל ישר ב-$latex V/W$ לנקודה שהוא חותך על ציר $latex x$ (או, אם $latex W$ הוא ציר $latex x$, לנקודה שהוא חותך על ציר $latex y$).

דרך קצת יותר כללית להבין מרחבי מנה היא באמצעות משפט האיזומורפיזם הראשון, כשהוא מנוסח עבור מרחבים וקטוריים: אם $latex T:V\to U$ היא טרנספורמציה לינארית כלשהי, אז $latex V/\ker T\cong\mbox{Im}T$. כלומר, כדי להבין מרחב מנה $latex V/W$ אפשר לחשוב על טרנספורמציה לינארית שמעבירה את אברי $latex V$ למרחב כלשהו שנוח לנו לדמיין כך שהגרעין יוצא בדיוק $latex W$. בעזרת המשפט הזה קל לראות שלמשל, אם $latex V=W\oplus U$ אז $latex V/W\cong U$ (עם ההעתקה $latex T\left(v\right)=T\left(w+u\right)=u$, כאשר $latex v=w+u$ היא ההצגה היחידה של $latex v$ כצירוף לינארי של איבר מ-$latex W$ ואיבר מ-$latex U$). באופן מפורש, האיזומורפיזם שולח את $latex u\in U$ אל $latex u+W\in V/W$ (ולהיפך: משפט האיזומורפיזם הראשון מראה שכל קוסט של $latex W$ ניתן לכתיבה באופן יחיד בתור $latex u+W$ עם $latex u\in W$ ואז האיזומורפיזם מעביר את הקוסט אל $latex u$).

התוצאה האחרונה הזו גם מראה לנו כיצד ניתן למצוא בסיס ל-$latex V/W$: אם נתון לנו כבר בסיס $latex \left\{ w_{1},\dots,w_{k}\right\} $ עבור $latex W$, אנחנו משלימים אותו לבסיס עבור $latex V$, שנסמן $latex \left\{ w_{1},\dots,w_{k},u_{1},\dots,u_{t}\right\} $. כעת נגדיר $latex U=\mbox{span}\left\{ u_{1},\dots,u_{t}\right\} $ וקיבלנו ש-$latex V=W\oplus U$. לכן $latex U\cong V/W$, ולכן $latex u_{1}+W,\dots,u_{t}+W$ הוא בסיס של $latex V/W$ (התמונה של בסיס על ידי איזומורפיזם היא בסיס).

עכשיו, עם הטרמינולוגיה החדשה הזו, הנה ניסוח מחודש של האלגוריתם למציאת צורת ז'ורדן של $latex A$:

  1. נחשב את הפולינום האופייני $latex p_{A}\left(x\right)=\det\left(xI-A\right)$ ונפרק אותו לגורמים לינאריים $latex p_{A}\left(x\right)=\left(x-\lambda_{1}\right)^{k_{1}}\cdots\left(x-\lambda_{n}\right)^{k_{n}}$. אם הפולינום לא מתפרק לגורמים לינאריים מעל השדה אפשר לשכוח מצורת ז'ורדן. השורשים של הפולינום האופייני נקראים ערכים עצמיים של $latex A$.
  2. לכל ערך עצמי $latex \lambda$ נסמן לצורך נוחות ב-$latex B_{\lambda}$ את המטריצה $latex B_{\lambda}\triangleq A-\lambda I$, ונסמן ב-$latex V_{\lambda}^{k}$ את תת-המרחב $latex V_{\lambda}^{k}\triangleq\ker B_{\lambda}^{k}$. כעת:
    1. נחשב את $latex \dim\left(V_{\lambda}^{k+1}/V_{\lambda}^{k}\right)$ עבור $latex k=1,2,\dots$ עד אשר נמצא $latex k$ שהמימד שווה ל-0 עבורו.
    2. נבנה באופן אינדוקטיבי סדרה של קבוצות $latex P_{k}^{\lambda},P_{k-1}^{\lambda},P_{k-2}^{\lambda},\dots,P_{1}^{\lambda}$ באופן הבא: בתחילה, $latex P_{k}^{\lambda}=\emptyset$. כעת, לכל $latex t=k,k-1,\dots,1$:
      1. ניקח את קבוצת הקוסטים $latex \left\{ v+V_{\lambda}^{t-1}\ |\ v\in P_{t}^{\lambda}\right\} $ ונרחיב אותה לבסיס של $latex V_{\lambda}^{t}/V_{\lambda}^{t-1}$.
      2. נוסיף ל-$latex P_{t}^{\lambda}$ את הנציגים של הקוסטים שהתווספו בשלב ההרחבה הזה. לאיברים הללו נקרא וקטורים ציקליים.
      3. לכל $latex v\in P_{t}^{\lambda}$ נוסיף ל-$latex P_{t-1}^{\lambda}$ את $latex B_{\lambda}\cdot v$ (לוקטורים הללו לא נקרא וקטורים ציקליים).
    3. נגדיר $latex P^{\lambda}=\bigcup_{t=1}^{k}P_{t}^{\lambda}$.
  3. נגדיר $latex P=\bigcup_{\lambda}P^{\lambda}$.
  4. נסדר את איברי ב-$latex P$ באופן הבא: נגדיר סדר כלשהו על הערכים העצמיים וכל הוקטורים שהתקבלו מערך עצמי $latex \lambda$ יופיעו ביחד בהתאם לסדר הזה, ונגדיר סדר כלשהו על הוקטורים הציקליים שהתגלו במהלך האלגוריתם. אם $latex v$ הוא וקטור ציקלי ששייך ל-$latex P_{t}^{\lambda}$ אז נסדר את האיברים $latex B^{t}v,B^{t-1}v,\dots,Bv,v$ בסדר הזה (כך ש-$latex B^{t}v$ ראשון ו-$latex v$ אחרון).

זו הגרסה הפשוטה ביותר של האלגוריתם שאני מסוגל לתאר. האם תוכלו לתת ניסוח טוב יותר? אשמח לשמוע.

12 תגובות על הפוסט “צורת ז'ורדן, התכל'ס

  1. לא קראתי את כל הפוסט, (כי הוא ארוך, ואני זוכר ג'רדון מטריצות בעזרת ערכים עצמיים לא רע), אבל רציתי להגיד את זה, בתורת המודולים יש תיאור מלא למחלקות צמידות של מטריצות, וכחלק מהתיאור הזה מתקבלת דרך אחרת לג'רדון מטריצה, שלפחות להבנה והסברה יותר פשוטה.

    בלי להכנס לפרטים, אתה מסתכל על המטריצה Ix-A, ומדרג אותה כמטריצה מעל F[x], (כמו דירוג מטריצות רגיל, רק שאי-אפשר לחלק במה שרוצים), כך שבסוף מגיעים למטריצה אלכסונית, כך שאיברי האלכסון מחלקים אחד את השני, משם קל להגיע לצורת ג'ורדן, ואם עקבת אחרי הדירוג גם למטריצות הג'רדון.

  2. שווה לציין שאף על פי שצורת ג'ורדן היא מאוד שימושית לצורך הוכחות פורמליות היא בד"כ מאוד לא שימושית בפרקטיקה מאחר שבניגוד לאלגוריתמים טובים ללכסון (כאשר ניתן ללכסן) אין אלגוריתם "יציב נומרית" שמחשב את צורת גו'רדן. בגלל זה בעולם הנומרי בד"כ משתמשים בפירוק Schur או פירוק SVD במקום (גם הם מספקים כלים מצוינים להוכחות פורמליות).

  3. אני חושב שהתיאור של האלגוריתם קצת מסורבל (ויכול להיות שאני טועה). אני לא משוכנע שחייבים לעבוד עם מרחבי מנה. אני מניח שראית את הפוסט הרלוונטי של טרי טאו; הוא מתאר אלגוריתם פשוט למדי שמבצע צמצום, כל עוד אפשר, של סדרות פורשות הבנויות ממסלולים. זה נראה לי מאוד קונקרטי ומאוד קל להבנה, אבל כאמור יכול להיות שנקודת המבט שלי אינה משקפת את דעתם של אחרים.

    אין שום דבר רע, ויש הרבה טוב, בללמד על מרחבי מנה. אני רק חושב שהצגה נהירה של צורת ז׳ורדן לא נזקקת להם.

  4. סליחה על "חטיפת שרשור"
    קראתי את הפוסט על גדל, שאלה :
    הבנתי שהמשפט G שגדל בנה אומר "אני לא יכיח".
    האם אפשר גם לכתוב משפט שאומר "אני לא נכון" ?

  5. גדל הוכיח שהמערכת או לא שלמה או לא עקבית – אחד מהם.
    למשל, מה אם אני כותב G = ¬G ?

  6. כאשר G הוא המשפט עצמו? כלומר G אומר G שווה ללא G?
    כך או כך, המשפט שכתבת הוא שגוי תמיד, אם אתה רוצה שזה יהיה פסוק חוקי אתה צריך למצוא דרך מחוכמת(כמו של גדל) לכתוב אותו באופן סופי – וזה יהיה קשה, ולדעתי גם בלתי אפשרי אם המערכת עקבית.

  7. פינגבאק: משפט הפירוק הציקלי | לא מדויק

  8. פוסט נהדר.
    אולי פספסתי משהו, אבל כשכתבת איך מוצאים ע"ע, ציינת שברור שהגרעין של המטריצה איננו טריוויאלי ולכן דטרמיננטה שלו היא 0.
    הברור הזה מסתמך על העובדה (שלא צוינה, כנראה בטעות) שהוקטור שהמטריצה כופלת שונה מאפס.

  9. תודה על הפוסט.

    בפסקה השניה בפרק השני יש typo:
    ״ והוא מחלק כל פולינום אחד ״ – > ״ והוא מחלק כל פולינום אחר ״

כתיבת תגובה

האימייל לא יוצג באתר.