Tính $\cos \left(\vec{a},\vec{b}\right)$ biết rằng: $$\{\begin{array}{l}\left(3\vec{a}-5\vec{b}\right)\left(2\vec{a}+\vec{b}\right)=0\\ \left(\vec{a}+4\vec{b}\right)\left(\vec{a}-\vec{b}\right)=0\end{array}$$

(AI giải đề cho tôi)
Đặt $A={\vec{a}}^2$, $B={\vec{b}}^2$, $x=\vec{a}\cdot \vec{b}$ (với $\vec{a},\vec{b}\ne \vec{0}$ nên $A,B>0$). Khai triển hai điều kiện:
$(3\vec{a}-5\vec{b})(2\vec{a}+\vec{b})=6A+3x-10x-5B=6A-7x-5B=0$.
$(\vec{a}+4\vec{b})(\vec{a}-\vec{b})=A-x+4x-4B=A+3x-4B=0$, suy ra $A=4B-3x$.
Thế vào phương trình đầu: $6(4B-3x)-7x-5B=0\Rightarrow 19B-25x=0\Rightarrow x=\frac{19B}{25}$.
Suy ra $A=4B-\frac{57B}{25}=\frac{43B}{25}$.
Do đó $\cos \left(\vec{a},\vec{b}\right)=\frac{x}{\sqrt{AB}}=\frac{\frac{19B}{25}}{\sqrt{\frac{43B}{25}\cdot B}}=\frac{19/25}{\sqrt{43}/5}=\frac{19}{5\sqrt{43}}=\frac{19\sqrt{43}}{215}\approx 0,580$.
Giá trị này nằm trong $[-1;1]$ nên thỏa mãn, và vì $A,B>0$ nên hai vectơ đều khác vectơ không.