Cho lăng trụ đều $ABC.A^{\prime }{B}^{\prime }{C}^{\prime }$ có $A{A}^{\prime }=3a$, $AB=a$. Khi đó, cosin của góc giữa hai vectơ $\overrightarrow{A{B}^{\prime }}$ và $\overrightarrow{A^{\prime }C}$ bằng

(AI giải đề cho tôi)
Lăng trụ đều nên tam giác ABC đều cạnh $a$, cạnh bên $A{A}^{\prime }=3a$ và $A{A}^{\prime }\perp (ABC)$, góc $\widehat{BAC}=60^{\circ }$.

Ta có:
$$\overrightarrow{A{B}^{\prime }}=\overrightarrow{AB}+\overrightarrow{A{A}^{\prime }},\overrightarrow{A^{\prime }C}=\overrightarrow{AC}-\overrightarrow{A{A}^{\prime }}.$$

Tích vô hướng:
$$\overrightarrow{A{B}^{\prime }}\cdot \overrightarrow{A^{\prime }C}=\overrightarrow{AB}\cdot \overrightarrow{AC}-\overrightarrow{AB}\cdot \overrightarrow{A{A}^{\prime }}+\overrightarrow{A{A}^{\prime }}\cdot \overrightarrow{AC}-|\overrightarrow{A{A}^{\prime }}{|}^2.$$

Vì $\overrightarrow{A{A}^{\prime }}\perp \overrightarrow{AB}$ và $\overrightarrow{A{A}^{\prime }}\perp \overrightarrow{AC}$ nên hai tích giữa bằng $0$, còn $\overrightarrow{AB}\cdot \overrightarrow{AC}=a\cdot a\cos 60^{\circ }=\frac{a^2}{2}$. Do đó:
$$\overrightarrow{A{B}^{\prime }}\cdot \overrightarrow{A^{\prime }C}=\frac{a^2}{2}-9a^2=-\frac{17a^2}{2}.$$

Độ dài:
$$|\overrightarrow{A{B}^{\prime }}|=\sqrt{a^2+9a^2}=a\sqrt{10},|\overrightarrow{A^{\prime }C}|=\sqrt{a^2+9a^2}=a\sqrt{10}.$$

Vậy:
$$\cos \left(\overrightarrow{A{B}^{\prime }},\overrightarrow{A^{\prime }C}\right)=\frac{-\frac{17a^2}{2}}{10a^2}=-\frac{17}{20}.$$

Đáp án C.