解:首先其次解y''-2y'+y=0的解为y=(Cx+D)*e^x
下面求一个特解即y''-2y'+y=e^x -----(1)
令y=z*e^x
代入(1)有(z*e^x)''-2(z*e^x)'+z*e^x=e^x
即z''e^x+2*z'e^x+z*e^x-2z*e^x-2z'*e^x+z*e^x=e^x
即z''=1 =>z=x^2/2+m*x+n 取z=x^2/2即可
故最后通解=(x^2/2+Cx+D)*e^x
C,D为全体数
证毕
∵齐次方程y"-2y`+y=0的特征方程是r²-2r+1=0,则r=1(二重根)
∴此齐次方程的通解是y=(C1x+C2)e^x
(C1,C2是任意常数)
∵y=x(lnx-1)e^x是原方程的一个解
∴原方程的通解是y=(C1x+C2)e^x+x(lnx-1)e^x
(C1,C2是任意常数)
即y=(C1x+C2+xlnx-x)e^x
(C1,C2是任意常数).