Xét đa thức hệ số thực $P(x)$ thỏa mãn $P(1)=\sqrt{2},P(-1)=-\sqrt{2}$ và
$$(P(x){)}^2\le x^6+1,\forall x\in \mathbb{R}.$$
a) Chứng minh rằng đa thức $P(x)$ có nghiệm thực và có bậc nhỏ hơn 4.
b) Tìm tất cả các đa thức $P(x)$ thỏa mãn đề bài.

a) Để ý $P(1)P(-1)<0$ nên $P(x)$ có nghiệm thực thuộc $(-1,1)$.

Xét $Q(x)=(x^6+1)-P(x{)}^2$ với $x\in \mathbb{R}$.

Giả sử $\mathrm{deg}P\ge 4$ thì $\mathrm{deg}Q\ge 8$, hệ số bậc cao nhất của $Q$ là âm nên ${\lim }_{x\to \infty }Q(x)=-\infty$ nên tồn tại $M$ sao cho $Q(M)<0$, khi đó $(P(M){)}^2>(M^6+1)$, vô lý.

Vậy $\mathrm{deg}P<4$, điều phải chứng minh.

b) Viết $P(x)=a{x}^3+b{x}^2+cx+d$ với $a,b,c,d$ thực.

Từ $P(1)=\sqrt{2}$ và $P(-1)=-\sqrt{2}$ nên $a+b+c+d=\sqrt{2}$ và $-a+b-c+d=-\sqrt{2}$.

Suy ra $b+d=0$ và $a+c=\sqrt{2}$ nên $P(x)=a{x}^3+b{x}^2+(\sqrt{2}-a)x-b$.

Ta có $Q(x)\ge 0$ với mọi $x\in \mathbb{R}$ và $Q(1)=Q(-1)=0$.

Viết $Q(x)=(x-1{)}^{t}R(x)$, $R(1)\ne 0$, $t$ nguyên dương. Giả sử $t$ là số lẻ.

Vì $R(1)\ne 0$ nên tồn tại $\delta$ sao cho $R(x)$ cùng dấu với $R(1)$ với mọi $x\in (1-\delta ,1+\delta )$.

Lấy $0<h<\delta$ thì $Q(1+h)=h^{t}R(1+h)$, và $Q(1-h)=-h^{t}R(1-h)$, do đó $Q(1+h)$ và $Q(1-h)$ trái dấu với nhau, nên có 1 số là âm, vô lý do $Q(x)\ge 0$ với mọi $x\in \mathbb{R}$.

Vì vậy $t$ chẵn, suy ra $Q(1)=Q^{\prime }(1)=0$, tương tự $Q(-1)=Q^{\prime }(-1)=0$.

Ta có $Q^{\prime }(x)=6x^5-2P(x)P^{\prime }(x)$ nên $0=Q^{\prime }(1)=6-2P(1)P^{\prime }(1)=6-2\sqrt{2}{P}^{\prime }(1)$.

Vì thế $P^{\prime }(1)=\frac{3\sqrt{2}}{2}$, tương tự $P^{\prime }(-1)=\frac{3\sqrt{2}}{2}$.

Từ $P(x)=a{x}^3+b{x}^2+(\sqrt{2}-a)x-b$ suy ra $P^{\prime }(x)=3a{x}^2+2bx+(\sqrt{2}-a)$.

Khi đó $3a+2b+\sqrt{2}-a=\frac{3\sqrt{2}}{2}$ và $3a-2b+\sqrt{2}-a=\frac{3\sqrt{2}}{2}$ nên $b=0$, $a=\frac{\sqrt{2}}{4}$.

Vì vậy $P(x)=\frac{\sqrt{2}}{4}{x}^3+\frac{3\sqrt{2}}{4}x$ với mọi $x\in \mathbb{R}$.

Thử lại để có được $x^6+1-P(x{)}^2=\frac{1}{8}(x^2-1{)}^2(7x^2+8)\ge 0$ với mọi $x\in \mathbb{R}$ nên đây là đa thức duy nhất thoả mãn yêu cầu đề bài.

Nhận xét: Ngoài ra có thể sử dụng bổ đề sau để giải quyết bài toán: Bổ đề Fermat: Nếu hàm số $f$ có đạo hàm tại $x_0$ và đạt cực trị tại $x_0$ thì $f^{\prime }(x_0)=0$.