a) Giải phương trình $\sqrt{(x-3)(x+5)}+\sqrt{x-3}+\sqrt{x+5}=\frac{10-x}{2}+\sqrt{x+12}$.

b) Giải hệ phương trình
$$\{\begin{array}{l}{x}^3-x^{2}y=x^2-x+y+1\\ 5\sqrt{x+2}+\sqrt{y+3}=3x^2-y+1\end{array}$$

a) Điều kiện xác định: $x\ge 3$. Để ý $x\ge 3$ không thoả mãn, xét $x>3$, đặt
$$f(x)=\sqrt{(x-3)(x+5)}+\sqrt{x-3}+\sqrt{x+5},g(x)=\frac{10-x}{2}+\sqrt{x+12}.$$
Với $x>3$, ta có $f^{\prime }(x)=\frac{x+1}{\sqrt{(x-3)(x+5)}}+\frac{1}{2\sqrt{x-3}}+\frac{1}{2\sqrt{x+5}}>0$ nên $f$ đồng biến trên $(3,+\infty )$.
Hơn nữa $g^{\prime }(x)=-\frac{1}{2}+\frac{1}{2\sqrt{x+12}}=\frac{1}{2}\left(\frac{1}{\sqrt{x+12}}-1\right)<0$ nên $g$ nghịch biến trên $(3,+\infty )$.
Vì vậy phương trình $f(x)=g(x)$ có nhiều nhất một nghiệm trên $(3,+\infty )$.
Để ý $f(4)=g(4)$ nên $x=4$ là nghiệm duy nhất của phương trình.

b) Phương trình thứ nhất tương đương $x^3-x^2+x-1=y(x^2+1)$ hay $(x-1)(x^2+1)=y(x^2+1)$.
Do $x^2+1>0$, ta được $y=x-1$. Thay vào phương trình thứ hai, ta có
$$6\sqrt{x+2}=3x^2-x+2(x\ge -2)$$
Đặt $t=\sqrt{x+2}\ge 0$, tức là $x=t^2-2$. Phương trình trở thành
$$3t^4-13t^2-6t+16=0$$
hay $(t-1)(t-2)(3t^2+9t+8)=0$. Vì $3t^2+9t+8>0$ với $t\ge 0$, nên $t=1$ hoặc $t=2$.
Thử lại để suy ra tất cả các nghiệm cần tìm là:
$$(x,y)=(-1,-2)\text{hoặc}(x,y)=(2,1).$$