Câu 5 (7,0 điểm). Tìm tất cả các cặp số nguyên dương $(n,t)$ thỏa mãn $\frac{n^2+1}{t}=[\sqrt{n}{]}^2+2$, trong đó $[r]$ ký hiệu số nguyên lớn nhất không vượt quá $r$.

(AI giải đề cho tôi)
Đặt $k=[\sqrt{n}]\ge 1$, khi đó $k^2\le n\le k^2+2k$, viết $n=k^2+m$ với $0\le m\le 2k$. Phương trình tương đương $t=\frac{n^2+1}{k^2+2}$, nên cần $(k^2+2)\mid (n^2+1)$. Vì $k^2\equiv -2(\mathrm{mod}{k}^2+2)$ nên $n\equiv m-2(\mathrm{mod}{k}^2+2)$, do đó điều kiện là $(k^2+2)\mid (m-2{)}^2+1$.

Trường hợp $k=1$: $n\in \{1,2,3\}$, $n^2+1\in \{2,5,10\}$, không chia hết cho $3$: vô nghiệm.

Trường hợp $k\ge 2$: do $|m-2|\le 2k$ nên $1\le (m-2{)}^2+1\le 4k^2+1<4(k^2+2)$, vậy $(m-2{)}^2+1=j(k^2+2)$ với $j\in \{1,2,3\}$.
- $j=1$: $(m-2{)}^2=k^2+1$, mà $k^2<k^2+1<(k+1{)}^2$ nên không là số chính phương.
- $j=2$: $(m-2{)}^2=2k^2+3$. Nếu $k$ lẻ thì $\equiv 5(\mathrm{mod}8)$; nếu $k$ chẵn thì $\equiv 3(\mathrm{mod}8)$; số chính phương mod 8 chỉ thuộc $\{0,1,4\}$: vô nghiệm.
- $j=3$: $(m-2{)}^2=3k^2+5\equiv 2(\mathrm{mod}3)$, không thể là số chính phương.

Vậy không tồn tại cặp số nguyên dương $(n,t)$ nào thỏa mãn. Kiểm tra trực tiếp với $k=1,\dots ,6$ xác nhận không có nghiệm.