(5,0 điểm)
1. Có một vòng quay gồm 40 cabin cách đều nhau, các cabin được coi như là các đỉnh của một đa giác đều. Ba bạn An, Bình và Chi lên ngẫu nhiên 3 cabin khác nhau. Tính xác suất để ba bạn lên 3 cabin tạo thành tam giác không cân, không vuông và không có cạnh của đa giác đều.
2. Tìm hệ số của số hạng chứa $x^5$ trong khai triển biểu thức $P(x)={\left(3+x-x^3\right)}^n$ với $n$ là số nguyên dương thỏa mãn $2C_n^2-3A_n^2+144=0$.

1. Tính xác suất:
Số phần tử của không gian mẫu: $n(\Omega )=C_{40}^3=9880$
Gọi $A$ là tập hợp các tam giác cân, $B$ là tập hợp các tam giác vuông, $C$ là tập hợp các tam giác có ít nhất một cạnh là cạnh của đa giác đều
Số tam giác cân: $n(A)=40\times \left(\frac{40-2}{2}\right)=760$ (không có tam giác đều vì 40 không chia hết cho 3)
Số tam giác vuông: $n(B)=20\times (40-2)=760$ (cạnh huyền là đường kính)
Số tam giác có ít nhất một cạnh của đa giác: $n(C)=C_{40}^3-\frac{40(40-4)(40-5)}{6}=9880-8400=1480$
Sử dụng nguyên lý bù trừ cho các tập hợp:
$n(A\cap B)=40\times 1=40$ (tam giác vuông cân tại mỗi đỉnh)
$n(B\cap C)=20\times 4=80$ (mỗi đường kính kết hợp với 4 đỉnh kề 2 đầu đường kính)
$n(C\cap A)=40\times 1=40$ (tam giác cân có đáy là cạnh đa giác)
$n(A\cap B\cap C)=0$
Số tam giác không thỏa mãn điều kiện đề bài là:
$n(A\cup B\cup C)=760+760+1480-(40+80+40)+0=2840$
Xác suất cần tìm: $P=1-\frac{2840}{9880}=\frac{176}{247}$

2. Tìm hệ số $x^5$
Điều kiện: $n\ge 2$
Phương trình tương đương:
$$2\cdot \frac{n(n-1)}{2}-3\cdot n(n-1)+144=0\iff -2n(n-1)=-144\iff n^2-n-72=0$$
Vì $n$ nguyên dương nên $n=9$
Khai triển: $P(x)=(3+x-x^2{)}^9={\sum }_{k=0}^9{C}_9^k\cdot 3^{9-k}\cdot (x-x^2{)}^k={\sum }_{k=0}^9{\sum }_{j=0}^k{C}_9^k\cdot C_k^j\cdot 3^{9-k}\cdot x^{k-j}\cdot (-x^2{)}^j$
Số hạng tổng quát: $C_9^k\cdot C_k^j\cdot 3^{9-k}\cdot (-1{)}^j\cdot x^{k+j}$
Yêu cầu $k+j=5$ với $0\le j\le k\le 9$, các cặp $(k,j)$ thỏa mãn:
Trường hợp 1: $j=0,k=5\Rightarrow C_9^5\cdot C_5^0\cdot 3^4\cdot (-1{)}^0=10206$
Trường hợp 2: $j=1,k=4\Rightarrow C_9^4\cdot C_4^1\cdot 3^5\cdot (-1{)}^1=-122472$
Trường hợp 3: $j=2,k=3\Rightarrow C_9^3\cdot C_3^2\cdot 3^6\cdot (-1{)}^2=183708$
Hệ số của $x^5$ là: $10206-122472+183708=71442$

(Lưu ý: bản lời giải trang 5 ghi biểu thức $P(x)=(3+x-x^2{)}^n$, khác với đề gốc trang 1 ghi $P(x)=(3+x-x^3{)}^n$; xem mục issues.)