先算齐次方程y″-6y′+9y=0的通解。特征根方程为λ^2-6λ+9=0,得λ1=λ2=3,所以通解为y=(C1+C2x)e^(3x)。
再解y″-6y′+9y=(e^2x)(x+1)的特解y'。利用微分算子D(D=d/dx),有(D^2-6D+9)y'=(e^2x)(x+1)。
y'=[1/(D^2-6D+9)](e^2x)(x+1)=[1/(D-3)^2](e^2x)(x+1)=e^(2x)[1/(D-3+2)^2](x+1)=e^(2x)[1/(D-1)^2](x+1)=e^(2x)(1+2D)(x+1)=(x+3)e^(2x)
所以,微分方程的通解y(x)=y+y'=(C1+C2x)e^(3x)+(x+3)e^(2x)。