Aloha :)$$(1+t^2)y''+2ty'=t^3$$Wir folgen dem Tipp und lösen die homogene DGL mittels der Substitution \(u_0:=y'\):$$\left.(1+t^2)u'_0+2t\,u_0=0\quad\right|\quad \cdot\frac{1}{u_0\cdot(1+t^2)}$$$$\left.\frac{u'_0}{u_0}+\frac{2t}{1+t^2}=0\quad\right|\quad\text{integrieren mit \(c_1=\)const}$$$$\left.\ln|u_0|+\ln(1+t^2)+c_1=0\quad\right|\quad -\ln(1+t^2)-c_1$$$$\left.\ln|u_0|=-\ln(1+t^2)-c_1\quad\right|\quad e^{\cdots}$$$$\left.u_0=e^{-\ln(1+t^2)-c_1}=\frac{1}{e^{\ln(1+t^2)}}\,e^{-c_1}=\frac{c_2}{1+t^2}\quad\right|\quad c_2:=e^{-c_1}>0\;;\;c_2=\text{const}$$
Wir variieren die "Konstante" \(c_2=c_2(t)\), um die inhomogene Gleichung zu lösen:$$t^3\stackrel{!}{=}(1+t^2)\cdot\left(\frac{c_2(t)}{1+t^2}\right)'+2t\,\frac{c_2(t)}{1+t^2}$$$$\phantom{t^3}=(1+t^2)\cdot\left(\frac{c_2'(t)\cdot(1+t^2)-c_2(t)\cdot2t}{(1+t^2)^2}\right)+2t\,\frac{c_2(t)}{1+t^2}=c_2'(t)$$$$\Rightarrow\quad c_2(t)=\frac{t^4}{4}+c_3\quad;\quad c_3=\text{const}$$Damit lautet die Lösung der inhomognen DGL:$$u(t)=\frac{c_2(t)}{1+t^2}=\frac{\frac{t^4}{4}+c_3}{1+t^2}=\frac{-1}{4}\cdot\frac{-t^4}{1+t^2}+\frac{c_3}{1+t^2}$$$$\phantom{u(t)}=-\frac{1}{4}\left(\frac{1-t^4}{1+t^2}-\frac{1}{1+t^2}\right)+\frac{c_3}{1+t^2}$$$$\phantom{u(t)}=-\frac{1}{4}\left(\frac{(1-t^2)(1+t^2)}{1+t^2}-\frac{1}{1+t^2}\right)+\frac{c_3}{1+t^2}$$$$\phantom{u(t)}=-\frac{1}{4}\left(1-t^2-\frac{1}{1+t^2}\right)+\frac{c_3}{1+t^2}=\frac{t^2-1}{4}+\frac{1}{1+t^2}\left(c_3+\frac{1}{4}\right)$$Das können wir nun leicht zur gesuchten Lösung integrieren:
$$y(t)=\int u(t)\,dt=\frac{\frac{t^3}{3}-t}{4}+\left(c_3+\frac{1}{4}\right)\arctan (t)+c_4$$$$\phantom{y(t)}=\frac{t^3}{12}-\frac{t}{4}+\left(c_3+\frac{1}{4}\right)\arctan (t)+c_4$$Die beiden Konstanten \(c_3\) und \(c_4\) müssen aus den Randbedingungen bestimmt werden.