Câu 3 (4,00 điểm):
a) Giải bất phương trình $\sqrt{\log x+1}+\sqrt{\log x^2-3}+\sqrt{17-\log x^3}\ge 3\sqrt{5}$.
b) Cho $x,y,z$ là các số thực dương thỏa mãn
$$\{\begin{array}{l}{x}^2+3y^2=27\\ y^2+yz+z^2=16\\ x^2+3xz+3z^2=75\end{array}$$
Tính giá trị của biểu thức $P=2xy+3yz+zx$.

(AI giải đề cho tôi)
Câu 3a) Điều kiện: $\log x+1\ge 0$, $\log x^2-3=2\log x-3\ge 0$, $17-\log x^3=17-3\log x\ge 0$. Đặt $t=\log x$ thì $t\in \left[\frac{3}{2},\frac{17}{3}\right]$. Bất phương trình trở thành $f(t)=\sqrt{t+1}+\sqrt{2t-3}+\sqrt{17-3t}\ge 3\sqrt{5}$. Hàm $f$ là tổng các hàm lõm nên đạt cực đại duy nhất tại điểm duy nhất $f^{\prime }(t)=0$. Ta thấy tại $t=4$: $t+1=2t-3=17-3t=5$ nên $f(4)=3\sqrt{5}$, và $f^{\prime }(4)=\frac{1}{2\sqrt{5}}+\frac{1}{\sqrt{5}}-\frac{3}{2\sqrt{5}}=0$. Do $f$ lõm trên $\left[\frac{3}{2},\frac{17}{3}\right]$, $f(t)\le f(4)=3\sqrt{5}$ với dấu bằng chỉ khi $t=4$. Vậy bất phương trình $\ge 3\sqrt{5}$ có nghiệm duy nhất $\log x=4\Rightarrow x=10^4=10000$.

Câu 3b) Trừ phương trình (3) cho (1): $3xz+3z^2-3y^2=48\Rightarrow xz+z^2-y^2=16$. Kết hợp $y^2+yz+z^2=16$ suy ra $xz=2y^2+yz$, tức $z(x-y)=2y^2>0\Rightarrow x>y$. Đặt $r=\frac{y}{z}>0$ thì $x=y+\frac{2y^2}{z}=y(1+2r)$, $z=\frac{y}{r}$. Thay vào (1): $y^2\left[(1+2r{)}^2+3\right]=27$, mà $(1+2r{)}^2+3=4(r^2+r+1)$. Từ (2): $z^2(r^2+r+1)=16\Rightarrow y^2=\frac{16r^2}{r^2+r+1}$. Suy ra $\frac{64r^2(r^2+r+1)}{r^2+r+1}=27\Rightarrow r^2=\frac{27}{64}\Rightarrow r=\frac{3\sqrt{3}}{8}$ (do $r>0$). Tính $P=2xy+3yz+zx=y^2\left[2(1+2r)+\frac{3}{r}+\frac{1+2r}{r}\right]=4y^2\left(1+r+\frac{1}{r}\right)=\frac{64r^2(r^2+r+1)}{r(r^2+r+1)}=64r=64\cdot \frac{3\sqrt{3}}{8}=24\sqrt{3}$.