Xét hàm số $f:\mathbb{R}\to \mathbb{R}$ thỏa mãn $f(1)>0$ và
$$f(a)f(d)-f(b)f(c)=1$$
với mọi số thực $a,b,c,d$ thỏa mãn $ad-bc=1$.
a) Chứng minh $f(xy)=f(x)f(y)$ với mọi số thực $x$ và $y$.
b) Chứng minh $f(x)=x$ với mọi số thực $x$.

a) Cho $a=d=1$, $b=0$ và $c$ tùy ý. Ta được $f(1{)}^2-f(0)f(c)=1$.

Thay tiếp $c=0$ ta được $f(0)(f(c)-f(0))=0$ với mọi $c\in \mathbb{R}$. Nếu $f(0)\ne 0$ thì $f$ là hàm hằng, trái với giả thiết. Vậy $f(0)=0$, do đó $f(1{)}^2=1$. Vì $f(1)>0$ nên $f(1)=1$.

Với $t\in \mathbb{R}$, thay $(a,b,c,d)=(t+1,t,1,1)$ ta được $f(t+1)-f(t)=1$.

Bây giờ, với $x,y\in \mathbb{R}$, thay $(a,b,c,d)=(x,xy-1,1,y)$ ta có

$$f(x)f(y)-f(xy-1)=1⟺f(xy)=f(xy-1)+1=f(x)f(y).$$

Từ đây ta có điều phải chứng minh.

b) Nếu $t>0$ thì $f(t)=f{\left(\sqrt{t}\right)}^2\ge 0$. Mặt khác, $1=f(1)=f(t)f(1/t)$, nên thực chất $f(t)>0$.

Cho $0<x<y$ và đặt $u=y/x-1>0$. Từ câu trên và đẳng thức $f(u+1)=f(u)+1$, ta có được $f(y)=f(x)(1+f(u))>f(x)$. Vậy $f$ tăng nghiêm ngặt trên $(0,+\infty )$.

Ta có $f(n)=n$ với mọi $n\in {\mathbb{N}}^{\ast }$, rồi $f(1/n)=1/n$ và $f(p/q)=p/q$ với mọi $p,q\in {\mathbb{N}}^{\ast }$.

Do $f$ tăng trên $(0,+\infty )$ và tập ${\mathbb{Q}}^{+}$ trù mật trong tập ${\mathbb{R}}^{+}$, suy ra $f(x)=x$ với mọi $x>0$.

Cuối cùng, $f(0)=0$ và $f(-1)=f(0)-1=-1$. Với $x<0$, câu trên cho $f(x)=f(-1)f(-x)=x$.

Vậy $f(x)=x$ với mọi $x\in \mathbb{R}$.