Skip to article frontmatterSkip to article content
Site not loading correctly?

This may be due to an incorrect BASE_URL configuration. See the MyST Documentation for reference.

زیرفضاها و نگاشت‌ها به فضاهای دیگر

English · فارسی

زیرفضاها و نگاشت‌ها به فضاهای دیگر

وضعیت: صفحهٔ پل میان نوت‌بوک‌های پوشش/وابستگی و فصل‌های مقادیر ویژه/SVD.

صفحه‌های پیش از این به پرسش‌هایی درون Rn\mathbb{R}^n پاسخ می‌دادند: ترکیب خطی چیست، بردارها کِی مستقل‌اند، پوشش چیست. این صفحه دو بار دیدگاه را عوض می‌کند: نخست ماتریس دیگر جدول اعداد نیست بلکه نگاشت خطی میان دو فضاست، و بعد زیرفضا دیگر مجموعه‌ای از پیکان‌ها نیست بلکه تصویر یا هستهٔ چنین نگاشتی است. هر دو دید در هر فصل بعدی به کار می‌آیند — تصویرسازی در PCA، فضای پوچ در کمترین مربعات، نگاشت ویژگی در صفحهٔ کرنل.

۱. زیرفضاها، هر کدام در یک بند

زیرمجموعهٔ V⊆RnV\subseteq\mathbb{R}^n یک زیرفضا است اگر 0 را در بر داشته باشد و نسبت به جمع و ضرب اسکالر بسته باشد. سه پیامد که پیوسته به کار می‌بریم:

مثال داده‌ای: مجموعهٔ همهٔ تصویرهای یک مجموعه‌داده، پس از تخت‌کردن، زیرفضایی از Rd\mathbb{R}^{d} را می‌پوشاند که بُعدش حداکثر تعداد تصویرهاست — اغلب بسیار کمتر، و همین تمام فرض تقریب رتبه پایین است.

۲. ماتریس یک نگاشت است

A∈Rm×nA\in\mathbb{R}^{m\times n} را ثابت بگیرید و ستون‌به‌ستون بخوانید: A=[a1,…,an]A = [a_1,\dots,a_n]. آن‌گاه AxAx ترکیب خطی ستون‌ها با ضرایب x1,…,xnx_1,\dots,x_n است. پس ضرب در AA همان نگاشت

TA:Rn→Rm,TA(x)=Ax,T_A:\mathbb{R}^n\to\mathbb{R}^m,\qquad T_A(x) = Ax,

است و خطی است: TA(αx+βy)=αTA(x)+βTA(y)T_A(\alpha x+\beta y) = \alpha T_A(x)+\beta T_A(y). برعکس، هر نگاشت خطی میان این فضاها برای دقیقاً یک ماتریس این شکل است: ستون jjام AA تصویر بردار پایهٔ jjام است. همین است که این دو شیء را جایگزین یکدیگر می‌کند.

دو زیرفضا با AA سفر می‌کنند:

Col(A)={Ax:x∈Rn}⏟تصویر، در Rm⊆Rm,Null(A)={x:Ax=0}⏟هسته، در Rn⊆Rn.\underbrace{\mathrm{Col}(A) = \{Ax : x\in\mathbb{R}^n\}}_{\text{تصویر، در }\mathbb{R}^m} \subseteq \mathbb{R}^m, \qquad \underbrace{\mathrm{Null}(A) = \{x : Ax = 0\}}_{\text{هسته، در }\mathbb{R}^n} \subseteq \mathbb{R}^n .

Col(A)\mathrm{Col}(A) مجموعهٔ هدف‌هایی است که نگاشت می‌تواند بزند؛ Null(A)\mathrm{Null}(A) مجموعهٔ ورودی‌هایی است که به صفر فرو می‌ریزند. رتبه برابر dim⁡Col(A)\dim\mathrm{Col}(A) است، تعداد ستون‌های مستقل؛ پوچی برابر dim⁡Null(A)\dim\mathrm{Null}(A)؛ و این دو با هم بسته‌اند:

  rank(A)+nullity(A)=n  \boxed{\;\mathrm{rank}(A) + \mathrm{nullity}(A) = n\;}

که همان گزارهٔ این است که هر جهت مستقل ورودی یا به تصویر می‌رسد یا در هسته گم می‌شود، هرگز هر دو. در رگرسیون خطی، Null(X)\mathrm{Null}(X) دقیقاً همان ابهام ضرایب است: اگر Xw=yXw = y جواب داشته باشد، مجموعهٔ خطی w+Null(X)w + \mathrm{Null}(X) جواب دارد، و شبه‌معکوس کوتاه‌ترین را برمی‌گزیند.

۳. هندسهٔ سه خانواده

نگاشتشکل ماتریسیچه می‌کندهسته
مقیاس در جهت محورهاdiag(s1,…,sn)\mathrm{diag}(s_1,\dots,s_n)کشیدن به‌اندازهٔ sis_iمحورهایی که si=0s_i=0 دارند
دوران به‌اندازهٔ θ\theta(cos⁡θ−sin⁡θsin⁡θcos⁡θ)\begin{pmatrix}\cos\theta&-\sin\theta\\ \sin\theta&\cos\theta\end{pmatrix}چرخاندن صفحه{0}\{0\}
تصویر روی یک زیرفضاP=UU⊤P = UU^\top با U⊤U=IU^\top U = Iبخش UU را نگه می‌دارد، بقیه را دور می‌ریزدU⊥U^{\perp}
نگاشت رتبه یکuv⊤uv^\topهمه‌چیز را روی خط uu فرو می‌ریزدv⊥v^{\perp}

سطر تصویرسازی همان است که در PCA بازمی‌گردد: PP خودتوان است (P2=PP^2=P) و متقارن، و rank(P)=dim⁡Col(U)\mathrm{rank}(P) = \dim\mathrm{Col}(U) — تعداد مؤلفه‌های نگه‌داشته‌شده.

۴. ترکیب، معکوس، تغییر پایه

۵. دید داده‌ای: نگاشتی به فضای دیگر

همهٔ نوشته‌های بالا برای Rn→Rm\mathbb{R}^n\to\mathbb{R}^m بود، ولی همان کلمات گامی را توصیف می‌کنند که یادگیری امروز را ممکن کرده است: یک نگاشت ویژگی ϕ:X→F\phi:\mathcal{X}\to\mathcal{F} هر نقطهٔ داده را به فضای دیگری می‌فرستد که در آن یک مدل خطی شاید کافی باشد. دو مثال از این درس:

اشاره‌های آزمایشگاهی

این نوت‌بوک‌ها را در کنار این صفحه بخوانید؛ نیمهٔ محاسباتی‌اش همین‌هاست: Linear-Dependence-and-Span، Projection، Multiplying-Matrices-and-Vectors، و بعد Eigendecomposition برای گزارهٔ تغییر پایه در بخش ۴.

تمرین‌ها

  1. یک ماتریس 2×32\times3 بگیرید، فضای ستونی‌اش را هندسی توصیف کنید و پایه‌ای برایش بدهید.

  2. یک نگاشت خطی ناوارون‌پذیر بدهید، هسته‌اش را توصیف کنید و بررسی کنید که بُعدها در رتبه به‌علاوهٔ پوچی برابر ۳ صدق می‌کنند.

  3. توضیح دهید چرا یک نگاشت خطی با تصویر بردارهای یک پایه معین می‌شود، و با آن یک ماتریس 2×22\times2 را از دو بردار تصویر بازسازی کنید.

  4. برای A=(123246)A=\begin{pmatrix}1&2&3\\2&4&6\end{pmatrix} پایه‌هایی برای Col(A)\mathrm{Col}(A) و Null(A)\mathrm{Null}(A) بیابید و بررسی کنید رتبه به‌علاوهٔ پوچی برابر ۳ است. چرا دستگاه Ax=bAx=b فقط برای برخی bb جواب دارد، و آن bbها را چگونه می‌شناسید؟

  5. نشان دهید P=UU⊤P=UU^\top با U⊤U=IU^\top U=I در P2=PP^2=P و P⊤=PP^\top=P صدق می‌کند و rank(P)\mathrm{rank}(P) تعداد ستون‌های UU است. هر دو واقعیت را هندسی تفسیر کنید.

  6. BB را ماتریسی بگیرید که ستون‌هایش (1,1)(1,1) و (1,−1)(1,-1) است. برای یک AA متقارن 2×22\times2 به انتخاب خودتان B−1ABB^{-1}AB را حساب کنید و بررسی کنید مقدارهای ویژه تغییر نکرده‌اند. بردارهای ویژهٔ B−1ABB^{-1}AB برحسب بردارهای ویژهٔ AA چه هستند؟

  7. یک نگاشت ویژگی ϕ:R2→R3\phi:\mathbb{R}^2\to\mathbb{R}^3 بدهید که برچسب‌گذاری XOR با آن خطی جداپذیر شود، و سه مختصه را صریح بنویسید.

منابع