Câu 2 (4,00 điểm). Giải hệ phương trình $$\{\begin{array}{l}{y}^4-16y^2+15=2x\left(3y^2-4x-17\right)\\ \left(y^2+2x-15\right)\left(\sqrt{5x+1}-\sqrt{y^2+x+3}\right)=14\end{array}$$ với $x,y\in \mathbb{R}$.

(AI giải đề cho tôi)
Điều kiện: $5x+1\ge 0\iff x\ge -\frac{1}{5}$ và $y^2+x+3\ge 0$.

**Bước 1. Biến đổi phương trình thứ nhất.**
Đặt $t=y^2\ge 0$, phương trình $t^2-16t+15=2x(3t-4x-17)$ viết lại thành
$$t^2-(6x+16)t+(8x^2+34x+15)=0.$$
Biệt thức: $\Delta =(6x+16{)}^2-4(8x^2+34x+15)=4(x+7{)}^2$.
Suy ra $t=\frac{6x+16\pm 2(x+7)}{2}$, tức $t=4x+15$ hoặc $t=2x+1$ (kiểm tra: tổng $6x+16$, tích $8x^2+34x+15$ — đúng).

**Bước 2. Trường hợp $y^2=4x+15$.**
Khi đó $y^2+2x-15=6x$ và $y^2+x+3=5x+18$, phương trình thứ hai thành
$$6x\left(\sqrt{5x+1}-\sqrt{5x+18}\right)=14.$$
Vì $\sqrt{5x+1}<\sqrt{5x+18}$ nên cần $x<0$. Khử mẫu:
$$6x\cdot \frac{-17}{\sqrt{5x+1}+\sqrt{5x+18}}=14\Rightarrow \sqrt{5x+1}+\sqrt{5x+18}=\frac{-51x}{7}.$$
Đặt $u=\sqrt{5x+1}\in [0;1)$ (do $x<0$), khi đó $-\frac{51x}{7}=\frac{51(1-u^2)}{35}\le \frac{51}{35}<\sqrt{17}\le u+\sqrt{u^2+17}$.
Vậy vế trái luôn lớn hơn vế phải: trường hợp này vô nghiệm.

**Bước 3. Trường hợp $y^2=2x+1$.**
Khi đó $y^2+2x-15=4x-14$, $y^2+x+3=3x+4$, và
$$\sqrt{5x+1}-\sqrt{3x+4}=\frac{2x-3}{\sqrt{5x+1}+\sqrt{3x+4}}.$$
Phương trình thứ hai trở thành
$$(4x-14)(2x-3)=14\left(\sqrt{5x+1}+\sqrt{3x+4}\right)⟺(2x-7)(2x-3)=7\left(\sqrt{5x+1}+\sqrt{3x+4}\right).$$
Vế phải dương nên cần $(2x-7)(2x-3)>0$, tức $x<\frac{3}{2}$ hoặc $x>\frac{7}{2}$ (kết hợp $x\ge -\frac{1}{5}$).

• **Với $x\in \left[-\frac{1}{5};\frac{3}{2}\right)$:** đặt $f(x)=(7-2x)(3-2x)-7\left(\sqrt{5x+1}+\sqrt{3x+4}\right)$. Hai nhân tử $7-2x,3-2x$ dương và nghịch biến nên $(7-2x)(3-2x)$ nghịch biến, còn $7(\sqrt{5x+1}+\sqrt{3x+4})$ đồng biến. Do đó $f$ nghịch biến, phương trình có nhiều nhất một nghiệm. Thử $x=0$: $7\cdot 3=21=7(1+2)$ — thỏa mãn. Vậy $x=0$, $y^2=1$, cho $(0;1)$ và $(0;-1)$.

• **Với $x>\frac{7}{2}$:** đặt $g(x)=(2x-7)(2x-3)-7\left(\sqrt{5x+1}+\sqrt{3x+4}\right)$. Ta có
$$g^{\prime }(x)=8x-20-7\left(\frac{5}{2\sqrt{5x+1}}+\frac{3}{2\sqrt{3x+4}}\right).$$
Với $x>\frac{7}{2}$: $8x-20>8$ còn $7\left(\frac{5}{2\sqrt{18,5}}+\frac{3}{2\sqrt{14,5}}\right)\approx 6,83<8$. Vậy $g^{\prime }(x)>0$, $g$ đồng biến trên $\left(\frac{7}{2};+\infty \right)$, phương trình có nhiều nhất một nghiệm. Thử $x=7$: $7\cdot 11=77=7(6+5)$ — thỏa mãn. Vậy $x=7$, $y^2=15$, cho $(7;\sqrt{15})$ và $(7;-\sqrt{15})$.

**Bước 4. Thử lại.**
Với $x=0,y^2=1$: PT1: $1-16+15=0=2\cdot 0(\dots )$; PT2: $(1+0-15)(1-2)=(-14)(-1)=14$. ✓
Với $x=7,y^2=15$: PT1: $225-240+15=0=14(45-28-17)$; PT2: $(15+14-15)(6-5)=14\cdot 1=14$. ✓

**Kết luận.** Hệ có nghiệm
$$(x;y)\in \left\{(0;1),(0;-1),(7;\sqrt{15}),(7;-\sqrt{15})\right\}.$$