Không mất tính tổng quát giả sử a=max{a;b;c} ta có:$\frac{a^2+1}{b^2+1}=a^2+1-\frac{b^2(a^2+1)}{b^2+1}\leq a^2+1-\frac{b^2(a^2+1)}{2}$
Tương tự rồi cộng lại ta có:
$VT\leq a^2+b^2+c^2+3-\frac{a^2(b^2+1)+b^2(c^2+1)+c^2(a^2+1)}{2}\leq \frac{a^2+b^2+c^2+2(ab+bc+ac)}{2}+3$
Vậy $max=\frac{7}{2}$ khi (a,b,c) là một hoán vị của (1,0,0)
Bài toán tổng quát:
Với mọi số thực không âm có tổng =1 và với mọi $k\geq1$ ta đều có:
$\frac{a^k+1}{b^k+1}+\frac{b^k+1}{c^k+1}+\frac{c^k+1}{a^k+1}\leq \frac{7}{2}$