(2,0 điểm) Xét hàm số $y=x^3+6ax+b$, với $a,b$ là các số thực, có đồ thị $(C)$. Xét $M,N$ là hai điểm phân biệt thuộc $(C)$ sao cho các tiếp tuyến với $(C)$ tại $M$ và $N$ đều có hệ số góc bằng 3. Biết khoảng cách từ gốc tọa độ $O(0;0)$ đến đường thẳng $MN$ bằng 1, tìm giá trị nhỏ nhất của biểu thức
$$P=2a^2+b^2+\frac{4}{17a^2+8a+2}$$

Điều kiện tồn tại hai điểm $M,N$: Ta có $y^{\prime }=3x^2+6a$. Tiếp tuyến tại điểm thuộc $(C)$ có hoành độ $x_0$ có hệ số góc bằng 3 khi và chỉ khi $$3x_0^2+6a=3⟺x_0^2=1-2a.$$ Để có hai điểm phân biệt $M,N$ thì phương trình trên phải có hai nghiệm phân biệt, tức là $1-2a>0$, hay $a<\frac{1}{2}$. Đặt $t=\sqrt{1-2a}>0$, khi đó $M(-t;-t^3-6at+b)$ và $N(t;t^3+6at+b)$. Phương trình đường thẳng $MN$: Hệ số góc của $MN$ bằng $$\frac{y_N-y_M}{x_N-x_M}=\frac{2t^3+12at}{2t}=t^2+6a=(1-2a)+6a=1+4a.$$ Vì $x_M+x_N=0$ và $y_M+y_N=2b$ nên điểm $(0;b)$ là trung điểm của $MN$, do đó $$MN:y=(1+4a)x+b\text{hay}(1+4a)x-y+b=0.$$ Khai thác giả thiết về khoảng cách: $$d(O,MN)=\frac{|b|}{\sqrt{(1+4a{)}^2+1}}=1⟹b^2=(1+4a{)}^2+1=16a^2+8a+2.$$ Từ đó $$a^2+b^2=17a^2+8a+2.$$ Viết lại biểu thức $P$: Đặt $u=a^2+b^2>0$. Theo đẳng thức vừa thu được, $17a^2+8a+2=u$, đồng thời $2a^2+b^2=a^2+(a^2+b^2)=a^2+u$. Do đó $$P=a^2+u+\frac{4}{u}.$$ Đánh giá: Theo bất đẳng thức giữa trung bình cộng và trung bình nhân, $$u+\frac{4}{u}\ge 2\sqrt{u\cdot \frac{4}{u}}=4,\text{daˆˊu ba˘ˋng khi }u=2.$$ Mặt khác $a^2\ge 0$, dấu bằng khi $a=0$. Vậy $P\ge 4$. Điều kiện xảy ra dấu bằng: Với $a=0$ ta có $b^2=16\cdot 0+8\cdot 0+2=2$, suy ra $u=a^2+b^2=2$. Như vậy hai dấu bằng xảy ra đồng thời. Khi đó $a=0<\frac{1}{2}$ nên hai điểm $M,N$ tồn tại và phân biệt, ứng với $b=\pm \sqrt{2}$. Đáp số: $\min P=4$, đạt được khi $a=0$ và $b=\pm \sqrt{2}$.