Với mỗi cặp số nguyên dương $a$ và $b$, ký hiệu $f(a,b)=11a+6b+8ab$.

(1) Chứng minh rằng với $a,b,c,d\in {\mathbb{Z}}^{+}$ và $m>1$ là lũy thừa của 2, nếu:

$$f(a,b)\equiv f(c,d)(\mathrm{mod}m)\text{vaˋ}f(b,a)\equiv f(d,c)(\mathrm{mod}m)$$

thì $a-c$ và $b-d$ đều chia hết cho $m$.

Hỏi kết luận có còn đúng không nếu $m$ có ước nguyên tố lẻ?

(2) Chứng minh rằng $k=2$ là số tự nhiên nhỏ nhất sao cho $f(a,b)+k$ không là số chính phương $\forall a,b\in {\mathbb{Z}}^{+}$.

(1) Giả sử $m>1$ là một lũy thừa của 2 và $f(a,b)\equiv f(c,d)(\mathrm{mod}m)$, $f(b,a)\equiv f(d,c)(\mathrm{mod}m)$.

Ta cần chứng minh $a\equiv c(\mathrm{mod}m)$ và $b\equiv d(\mathrm{mod}m)$. Đặt $P=a-c$, $Q=b-d$.

Vì $f(a,b)-f(b,a)=5(a-b)$ nên từ $f(a,b)-f(b,a)\equiv f(c,d)-f(d,c)(\mathrm{mod}m)$ hay

$$5(P-Q)\equiv 0(\mathrm{mod}m)$$

Do $m$ là lũy thừa của 2 nên $\gcd (5,m)=1$, suy ra $P\equiv Q(\mathrm{mod}m)$.

Mặt khác $0\equiv f(a,b)-f(c,d)=11P+6Q+8(ab-cd)(\mathrm{mod}m)$.

Ta có $ab-cd=a(b-d)+d(a-c)=aQ+dP$.

Từ $P\equiv Q(\mathrm{mod}m)$, suy ra $ab-cd\equiv (a+d)P(\mathrm{mod}m)$. Do đó $(17+8(a+d))P\equiv 0(\mathrm{mod}m)$.

Số $17+8(a+d)$ là số lẻ nên nguyên tố cùng nhau với $m$. Vì vậy $P\equiv 0(\mathrm{mod}m)$.

Kết hợp với $P\equiv Q(\mathrm{mod}m)$ nên $P\equiv Q\equiv 0(\mathrm{mod}m)$.

Vậy $a\equiv c(\mathrm{mod}m)$ và $b\equiv d(\mathrm{mod}m)$.

(2) Bây giờ giả sử $m$ có một ước nguyên tố lẻ $p$. Đặt $t=\frac{m}{p}$ và xét

$$a=1,d=\frac{p(p+8t+8)-25}{8},b=d-t,c=1+t.$$

Vì $p$ lẻ nên $p^2\equiv 1(\mathrm{mod}8)$, do đó $b,d$ là các số nguyên. Hơn nữa,

$$b=d-t=(p-1)t+p+\frac{p^2-25}{8}>0,$$

Do đó $a,b,c,d$ là các số nguyên dương.

Ta có $c=a+t$ và $d=b+t$. Do đó

$$f(c,d)-f(a,b)=t(17+8(a+b+t))=t(25+8b+8t)=tp(p+8N)=m(p+8N)$$

nên $f(c,d)\equiv f(a,b)(\mathrm{mod}m)$. Tương tự $f(d,c)\equiv f(b,a)(\mathrm{mod}m)$.

Tuy nhiên $c-a=t=\frac{m}{p}$ không chia hết cho $m$, nên $a\not\equiv c(\mathrm{mod}m)$.

Vậy kết luận trên không còn đúng khi $m$ có một ước nguyên tố lẻ.

(3) Với $k=0$ thì $f(1,1)=25$ là số chính phương.

Với $k=1$ thì $f(2,19)+1=441$ là số chính phương.

Vì vậy $k\ge 2$, ta sẽ chứng minh $f(a,b)+2$ không là số chính phương với mọi $a,b\in {\mathbb{Z}}^{+}$.

Để ý $4f(a,b)+33=(4a+3)(8b+11)$.

Giả sử tồn tại $a,b\in {\mathbb{Z}}^{+}$ sao cho $f(a,b)+2=x^2$.

Khi đó $(4a+3)(8b+11)=4x^2+25=(2x{)}^2+5^2$.

Vì $4a+3\equiv 3(\mathrm{mod}4)$ nên tồn tại ước nguyên tố $p$ của $4a+3$ sao cho $p\equiv 3(\mathrm{mod}4)$.

Ta có bổ đề quen thuộc sau, bạn đọc tự chứng minh bằng định lí Fermat nhỏ:

Bổ đề 0.1. Cho $p\equiv 3(\mathrm{mod}4)$ là số nguyên tố và $x,y$ là hai số nguyên thoả mãn $p\mid x^2+y^2$. Chứng minh rằng $p\mid x$ và $p\mid y$.

Khi đó $p\mid (2x{)}^2+5^2$ nên theo bổ đề quen thuộc ta có $p\mid 5$ hay $p=5$, vô lí với $p\equiv 3(\mathrm{mod}4)$.

Do đó không tồn tại các số nguyên dương $a,b$ thoả mãn $f(a,b)+2$ là số chính phương.

Vì vậy số tự nhiên $k$ nhỏ nhất thoả mãn yêu cầu là $k_{\min }=2$.