Đáp án: $f(x)=-x^3-x$
Giải thích các bước giải:
Ta có:
$(f(x)-x)f(x)=x^6+3x^4+2x^2$
$\to f^2(x)-xf(x)=(x^6+2x^4+x^2)+(x^4+x^2)$
$\to f^2(x)-xf(x)=(x^3+x)^2+x(x^3+x)$
$\to (f^2(x)-(x^3+x)^2)-(xf(x)+x(x^3+x))=0$
$\to (f(x)-(x^3+x))(f(x)+(x^3+x))-x(f(x)+(x^3+x))=0$
$\to (f(x)-(x^3+x)-x)(f(x)+(x^3+x))=0$
$\to (f(x)-(x^3+2x))(f(x)+(x^3+x))=0$
$\to f(x)=x^3+2x$ hoặc $f(x)=-x^3-x$
Vì $f(1)<0\to f(x)=-x^3-x$
