解:∵微分方程为y''-3y'+2y=xe^x
∴设方程的特征值为a,有
a²-3a+2=0,(a-1)(a-2)=0,
得:a=1或2
∴方程的特征根为e^x、e^2x
∵方程的右式为xe^x,含有因式e^x
∴设方程的特解为y=(bx²+cx)e^x
(b、c为常数),有y'=(bx²+cx)e^x+
(2bx+c)e^x,y''=(bx²+cx)e^x+
2(2bx+c)e^x+2be^x
∴有-(2bx+c)e^x+2be^x=xe^x,
得:-2b=1,c-2b=0;b=-0.5,
c=-1
∴方程的通解为y=Ae^(-0.5x²-x+C)+
Be^2x(A、B为任意常数)
简单计算一下即可,答案如图所示