Giải hệ phương trình $\{\begin{array}{l}(y-2).\sqrt{x+2}-x\sqrt{y}=0\\ \sqrt{x+1}.\left(\sqrt{y}+1\right)=(y-3)\left(1+\sqrt{x^2+y-3x}\right)\end{array}$ với $x,y\in \mathbb{R}$.

Giải hệ phương trình:

$\{\begin{array}{ll}(y-2).\sqrt{x+2}-x\sqrt{y}=0& (1)\\ \sqrt{x+1}.\left(\sqrt{y}+1\right)=(y-3)\left(1+\sqrt{x^2+y-3x}\right)& (2)\end{array}$

Điều kiện: $\{\begin{array}{l}x\ge -1\\ y\ge 0\\ x^2+y-3x\ge 0\end{array}$.

Đặt $\{\begin{array}{l}a=\sqrt{x+2}\ge 1\\ b=\sqrt{y}\ge 0\end{array}\Rightarrow \{\begin{array}{l}x=a^2-2\\ y=b^2\end{array}$.

Khi đó (1) trở thành:

$\left(b^2-2\right)a-b\left(a^2-2\right)=0\iff ab(b-a)+2(b-a)=0$

$\iff (b-a)(ab+2)=0\iff a=b$ (do $ab+2>0$)

$\Rightarrow \sqrt{x+2}=\sqrt{y}\iff y=x+2$. [0.5]

Thay vào phương trình (2) ta được phương trình:

$\sqrt{x+1}.\left(\sqrt{x+2}+1\right)=(x-1).\left(1+\sqrt{x^2-2x+2}\right)$

$\iff \sqrt{x+1}.\left(1+\sqrt{(x+1)+1}\right)=(x-1).\left(1+\sqrt{(x-1{)}^2+1}\right)$ (3).

Nếu $x<1$ thì (3) vô nghiệm. [0.5] [0.5]

Với $x\ge 1$, xét hàm số: $f(t)=t\left(1+\sqrt{1+t^2}\right)$ trên $[0;+\infty )$.

Có: $f^{\prime }(t)=1+\sqrt{1+t^2}+\frac{t^2}{\sqrt{1+t^2}}>0,\forall t\in [0;+\infty )$, do đó hàm số $f(t)$ đồng biến trên $[0;+\infty )$

$\Rightarrow (3)\iff f\left(\sqrt{x+1}\right)=f(x-1)\iff \sqrt{x+1}=x-1\iff x^2-3x=0\iff \left[\begin{array}{c}x=0\\ x=3\end{array}\right]$ (do $x\ge 1$)

Vậy hệ có nghiệm duy nhất $(x;y)=(3;5)$. (0.5 điểm)