Câu 1 (4,0 điểm). Giải các phương trình sau:

a) $\cos \left(4x-\frac{\pi }{6}\right)+{\sin }^{2}x={\cos }^{2}x$.

b) $3{\log }_3\left(x-1\right)-{\log }_{\frac{1}{3}}{\left(x-5\right)}^3=3$.

(AI giải đề cho tôi)
a) Điều kiện: $x\in \mathbb{R}$. Phương trình tương đương $\cos \left(4x-\frac{\pi }{6}\right)={\cos }^{2}x-{\sin }^{2}x=\cos 2x$. Khi đó $\cos \left(4x-\frac{\pi }{6}\right)-\cos 2x=0$. Dùng công thức biến đổi tổng thành tích: $-2\sin \frac{\left(4x-\frac{\pi }{6}\right)+2x}{2}\sin \frac{\left(4x-\frac{\pi }{6}\right)-2x}{2}=0$, tức $-2\sin \left(3x-\frac{\pi }{12}\right)\sin \left(x-\frac{\pi }{12}\right)=0$.
Trường hợp 1: $\sin \left(3x-\frac{\pi }{12}\right)=0\Rightarrow 3x-\frac{\pi }{12}=k\pi \Rightarrow x=\frac{\pi }{36}+\frac{k\pi }{3},k\in \mathbb{Z}$.
Trường hợp 2: $\sin \left(x-\frac{\pi }{12}\right)=0\Rightarrow x=\frac{\pi }{12}+k\pi ,k\in \mathbb{Z}$.
Kiểm tra lại: với $x=\frac{\pi }{12}$, $4x-\frac{\pi }{6}=\frac{\pi }{6}$, $\cos \frac{\pi }{6}=\frac{\sqrt{3}}{2}=\cos \frac{\pi }{6}=\cos 2x$ ✓.

b) Điều kiện: $x-1>0$ và $(x-5{)}^3>0\Rightarrow x>5$.
Ta có ${\log }_{\frac{1}{3}}(x-5{)}^3=3{\log }_{\frac{1}{3}}(x-5)=-3{\log }_3(x-5)$. Phương trình trở thành:
$$3{\log }_3(x-1)+3{\log }_3(x-5)=3\Rightarrow {\log }_3[(x-1)(x-5)]=1.$$
Suy ra $(x-1)(x-5)=3\Rightarrow x^2-6x+5=3\Rightarrow x^2-6x+2=0\Rightarrow x=3\pm \sqrt{7}$.
Vì $x>5$ nên chỉ nhận $x=3+\sqrt{7}$ (thỏa mãn vì $3+\sqrt{7}\approx 5,65>5$; còn $3-\sqrt{7}\approx 0,35<5$ bị loại).
Vậy $S=\left\{\frac{\pi }{36}+\frac{k\pi }{3},\frac{\pi }{12}+k\pi (k\in \mathbb{Z});3+\sqrt{7}\right\}$.