Tìm tất cả các hàm số $f(x)=a{x}^2+bx+c$ $(a\ne 0)$ thỏa mãn đồng thời hai điều kiện sau đây:
$$f(1)\ne f(0)\text{ vaˋ }f(f(1))=f(f(0))=f(f(-1))$$

Ta có: +) $f(0)=c$, $f(1)=a+b+c$, $f(-1)=a-b+c$.

+) $f(\alpha )=f(\beta )\Rightarrow a({\alpha }^2-{\beta }^2)+b(\alpha -\beta )=0\Rightarrow (\alpha -\beta )(a(\alpha +\beta )+b)=0\iff \{\begin{array}{l}\alpha =\beta \\ \alpha +\beta =\frac{-b}{a}\end{array}$

+) $f(x)$ là một tam thức bậc hai, nên với mỗi số $k$ cố định, tồn tại nhiều nhất hai số thực phân biệt $x$ để $f(x)=k$.

Từ đây suy ra, do $f(f(1))=f(f(0))=f(f(-1))$ nên tập $\{f(1),f(0),f(-1)\}$ chứa nhiều nhất hai phần tử phân biệt. Kết hợp $f(1)\ne f(0)$ ta có 2 trường hợp sau:

Trường hợp 1: $f(1)=f(-1)$, $f(1)\ne f(0)$

Từ $f(1)=f(-1)\Rightarrow (a+b+c)=(a-b+c)\Rightarrow b=0$.

Khi đó $f(x)=a{x}^2+c$.

Điều kiện bài toán trở thành: $f(f(1))=f(f(0))\Rightarrow f(a+c)=f(c)$.

Vì $f(1)\ne f(0)$ nên $a+c\ne c$ (luôn đúng do $a\ne 0$).

Áp dụng tính chất hàm bậc hai với $b=0$: $(a+c)+c=0\Rightarrow a+2c=0\Rightarrow c=-\frac{a}{2}$

Vậy $f(x)=a{x}^2-\frac{a}{2}$. Thử lại thỏa mãn bài toán

Trường hợp 2: $f(0)=f(-1)$ và $f(1)\ne f(0)$

Từ $f(0)=f(-1)\Rightarrow c=a-b+c\Rightarrow a=b$. Khi đó $f(x)=a{x}^2+ax+c$.

Điều kiện còn lại: $f(f(1))=f(f(0))\Rightarrow f(2a+c)=f(c)$.

Vì $f(1)\ne f(0)$ nên $2a+c\ne c$ (đúng do $a\ne 0$).

Theo tính chất đối xứng: $(2a+c)+c=-\frac{b}{a}=-\frac{a}{a}=-1\Rightarrow 2a+2c=-1\Rightarrow c=\frac{-1-2a}{2}$

Vậy $f(x)=a{x}^2+ax-\frac{2a+1}{2}$. Thử lại thỏa mãn

Vậy tất cả các hàm thỏa mãn bài toán là $f(x)=a{x}^2-\frac{a}{2}$, $f(x)=a{x}^2+ax-\frac{2a+1}{2}$