Tính tổng bình phương tất cả các giá trị của tham số $m$ để đường thẳng $d:y=1-x$ cắt đồ thị hàm số $(C):y=x^3+m{x}^2+1$ tại ba điểm phân biệt $A(0;1),B,C$ sao cho tiếp tuyến với $(C)$ tại $B$ và $C$ vuông góc với nhau.

Phương trình hoành độ giao điểm: $x^3+m{x}^2+x=0\iff x(x^2+mx+1)=0$.
Để cắt tại 3 điểm phân biệt thì $x^2+mx+1=0$ có 2 nghiệm phân biệt khác 0, tức $m^2-4>0$.
Theo Vi-ét: $x_1+x_2=-m$ và $x_1{x}_2=1$.
Tiếp tuyến tại $B$ và $C$ vuông góc $\iff f^{\prime }(x_1)\cdot f^{\prime }(x_2)=-1\iff (3x_1^2+2m{x}_1)(3x_2^2+2m{x}_2)=-1$.
Khai triển và thay Vi-ét ta được: $9-6m^2+4m^2=-1\iff -2m^2=-10\iff m^2=5\iff m=\pm \sqrt{5}$.
Tổng bình phương các giá trị của $m$ là $(\sqrt{5}{)}^2+(-\sqrt{5}{)}^2=10$.