解:∵齐次方程y"-2y'+5y=0的特征方程是r²-2r+5=0,则r=1±2i (i是虚数单位)
∴此齐次方程的通解是y=(C1sin(2x)+C2cos(2x))e^x (C1,C2是积分常数)
于是,设原方程的解为y=x(Asin(2x)+Bcos(2x))e^x
代入原方程,化简得
e^x(4Acos(2x)-4Bsin(2x))=e^xsin(2x)
==>4A=0,-4B=1
==>A=0,B=-1/4
则原方程的一个特解是y=-xe^xcos(2x)/4
故原方程的通解是y=(C1sin(2x)+C2cos(2x))e^x-xe^xcos(2x)/4 (C1,C2是积分常数)。