解: A=1 0 10 2 01 0 1|A-λE|=-λ(2-λ)^2A的特征值为 2,2,0(A-2E)X=0 的基础解系为 a1=(0,1,0)', a2=(1,0,1)' --已正交AX=0 的基础解系为 a3=(1,0,-1)'.单位化得: b1=(0,1,0)', b2=(1/√2,0,1/√2)', b3=(1/√2,0,-1/√2)'令 P=(b1,b2,b3), 则P为正交矩阵, X=PY 为正交变换f = 2y1^2+2y2^2.