Statistics · real student question

對資料點 (10, 2.9)、(20, 4.0) 與 (30, 4.9) 求二次迴歸方程式,並計算判定係數 R 平方,並寫出推導過程。

Question

對資料

(10,2.9),(20,4.0),(30,4.9)(10,\,2.9),\qquad(20,\,4.0),\qquad(30,\,4.9)

求二次迴歸方程式 y=ax2+bx+cy=ax^2+bx+c 與判定係數 R2R^2,並寫出推導過程。

Step-by-step solution

  1. 先看出根本用不到最小平方法那一套機器。 二次式有三個自由參數 aabbcc,而資料點恰好有三個。xx 值相異的三個點決定唯一一條拋物線,所以最小平方配適就是那條內插拋物線:殘差平方和的最小可能值是 00,而且真的達得到。這就是為什麼整題可以化約成解一個 3×33\times3 的線性方程組。

  2. 把每個點代入 y=ax2+bx+cy=ax^2+bx+c

    100a+10b+c=2.9(1)100a+10b+c=2.9\qquad(1)

    400a+20b+c=4.0(2)400a+20b+c=4.0\qquad(2)

    900a+30b+c=4.9(3)900a+30b+c=4.9\qquad(3)

  3. 相鄰兩式相減消去 cc 因為 cc 的係數在三式中都相同,相減立刻把它消掉:

    (2)(1):300a+10b=1.1    30a+b=0.11(A)(2)-(1):\quad300a+10b=1.1\;\Longrightarrow\;30a+b=0.11\qquad(A)

    (3)(2):500a+10b=0.9    50a+b=0.09(B)(3)-(2):\quad500a+10b=0.9\;\Longrightarrow\;50a+b=0.09\qquad(B)

  4. 再減一次求出 aa,然後回代。

    (B)(A):20a=0.02    a=0.001(B)-(A):\quad20a=-0.02\;\Longrightarrow\;a=-0.001

    from (A):  30(0.001)+b=0.11    b=0.14\text{from }(A):\;30(-0.001)+b=0.11\;\Longrightarrow\;b=0.14

    from (1):  0.1+1.4+c=2.9    c=1.6\text{from }(1):\;-0.1+1.4+c=2.9\;\Longrightarrow\;c=1.6

    迴歸方程式為

    y=0.001x2+0.14x+1.6y=-0.001x^2+0.14x+1.6

    連減兩次其實就是資料的二階差分(每隔 10100.91.1=0.20.9-1.1=-0.2),這也解釋了 aa 為什麼是負的:增量正在縮小,所以曲線向下彎。

  5. 算出配適值與殘差平方和。

    y^(10)=0.1+1.4+1.6=2.9,y^(20)=0.4+2.8+1.6=4.0,y^(30)=0.9+4.2+1.6=4.9\hat y(10)=-0.1+1.4+1.6=2.9,\quad \hat y(20)=-0.4+2.8+1.6=4.0,\quad \hat y(30)=-0.9+4.2+1.6=4.9

    每個配適值都等於觀測值,所以

    SSres=(yiy^i)2=0SS_{\text{res}}=\sum(y_i-\hat y_i)^2=0

  6. 收尾算 R2R^2 —— 順便確認分母不是零。yˉ=2.9+4.0+4.93=3.9333\bar y=\frac{2.9+4.0+4.9}{3}=3.9333

    SStot=(yiyˉ)2=(1.0333)2+(0.0667)2+(0.9667)2=2.00670SS_{\text{tot}}=\sum(y_i-\bar y)^2=(-1.0333)^2+(0.0667)^2+(0.9667)^2=2.0067\neq0

    所以 R2R^2 有定義,且

    R2=1SSresSStot=102.0067=1R^2=1-\frac{SS_{\text{res}}}{SS_{\text{tot}}}=1-\frac{0}{2.0067}=1

  7. 用適當的懷疑態度解讀結果。 這裡的 R2=1R^2=1 是結構上的必然,不是二次模型好的證據。任何三個點(不論多雜訊)配二次式都會得到 R2=1R^2=1,就像任何兩個點配直線都會得到 R2=1R^2=1 一樣。要知道模型好不好,資料點必須多於參數個數 —— n=3n=333 個參數時殘差自由度是零,調整後 R2R^2 也沒有定義。

Answer

y=0.001x2+0.14x+1.6,R2=1y=-0.001x^2+0.14x+1.6,\qquad R^2=1

Need to solve a different problem like this? Open the solver →