Cho hình lăng trụ tam giác $ABC.A^{\prime }{B}^{\prime }{C}^{\prime }$ có đáy là tam giác vuông tại $A$, $AB=2$, $AC=\sqrt{3}$. Góc $CA{A}^{\prime }=90°$, $BA{A}^{\prime }=120°$. Gọi $M$ là trung điểm cạnh $B{B}^{\prime }$ (tham khảo hình vẽ). Biết $CM$ vuông góc với $A^{\prime }B$, tính thể tích khối lăng trụ đã cho.

(AI giải đề cho tôi)
Chọn hệ trục: $A(0;0;0)$, $B(2;0;0)$, $C(0;\sqrt{3};0)$ (tam giác $ABC$ vuông tại $A$). Gọi $A{A}^{\prime }=h$, vectơ $\vec{u}=\overrightarrow{A{A}^{\prime }}$ với $|\vec{u}|=h$. Vì $CA{A}^{\prime }=90^{\circ }$ nên $\vec{u}\cdot \overrightarrow{AC}=0\Rightarrow u_y=0$; vì $BA{A}^{\prime }=120^{\circ }$ nên $\vec{u}\cdot \overrightarrow{AB}=2h\cos 120^{\circ }=-h\Rightarrow u_x=-h/2$; suy ra $u_z=\frac{h\sqrt{3}}{2}$ (đây chính là chiều cao của lăng trụ nghiêng, vì khoảng cách giữa hai mặt đáy bằng thành phần vuông góc của $\vec{u}$ với mặt đáy: $h_{\text{cao}}=\frac{h\sqrt{3}}{2}$). Khi đó $A^{\prime }=\vec{u}$, $B^{\prime }=B+\vec{u}$, $M=B+\frac{\vec{u}}{2}=\left(2-\frac{h}{4};0;\frac{h\sqrt{3}}{4}\right)$. Ta có $\overrightarrow{CM}=\left(2-\frac{h}{4};-\sqrt{3};\frac{h\sqrt{3}}{4}\right)$ và $\overrightarrow{A^{\prime }B}=\left(2+\frac{h}{2};0;-\frac{h\sqrt{3}}{2}\right)$. Điều kiện $CM\perp A^{\prime }B$: $\overrightarrow{CM}\cdot \overrightarrow{A^{\prime }B}=\left(2-\frac{h}{4}\right)\left(2+\frac{h}{2}\right)-\frac{3h^2}{8}=4+\frac{h}{2}-\frac{h^2}{2}=0$, tức $h^2-h-8=0\Rightarrow h=\frac{1+\sqrt{33}}{2}$. Thể tích: $V=S_{ABC}\cdot h_{\text{cao}}=\sqrt{3}\cdot \frac{h\sqrt{3}}{2}=\frac{3h}{2}=\frac{3(1+\sqrt{33})}{4}$. Vậy đáp án A.