Cho hàm số $f(x)=\ln (x+\sqrt{x^2+1})$ và hai số thực dương $a,b$ thỏa mãn $f(a)+f(b-2)\le 0$ và $4ab+\frac{1}{ab}=2(a+b)$. Giá trị của biểu thức $a^3+b^3$ bằng

Chọn A.
Xét hàm số $f(x)=\ln (x+\sqrt{x^2+1})$ trên $\mathbb{R}$:
Ta có $f(-x)=\ln (-x+\sqrt{x^2+1})=\ln \left(\frac{1}{x+\sqrt{x^2+1}}\right)=-\ln (x+\sqrt{x^2+1})=-f(x)$, do đó $f(x)$ là hàm số lẻ.
Đồng thời $f^{\prime }(x)=\frac{1}{\sqrt{x^2+1}}>0,\forall x\in \mathbb{R}$, suy ra $f(x)$ đồng biến trên $\mathbb{R}$.
Điều kiện thứ nhất: $f(a)+f(b-2)\le 0⟺f(a)\le -f(b-2)=f(2-b)⟺a\le 2-b⟺a+b\le 2$.
Điều kiện thứ hai:
$4ab+\frac{1}{ab}=2(a+b)\ge 4ab+\frac{1}{ab}.$
Áp dụng bất đẳng thức AM-GM: $a+b\ge 2\sqrt{ab}⟹ab\le {\left(\frac{a+b}{2}\right)}^2\le 1$.
Lại có $4ab+\frac{1}{ab}=4ab+\frac{1}{4ab}+\frac{3}{4ab}\ge 2\sqrt{4ab\cdot \frac{1}{4ab}}+\frac{3}{4\cdot 1}=2+\frac{3}{4}=\frac{11}{4}$?
Để $4ab+\frac{1}{ab}=2(a+b)\le 4$, dấu bằng xảy ra khi $a+b=2$ và $ab=\frac{1}{2}$.
Khi đó:
$a^3+b^3=(a+b{)}^3-3ab(a+b)=2^3-3\cdot \frac{1}{2}\cdot 2=8-3=5.$
Vậy $a^3+b^3=5$.