Không mất tính tổng quát, giả sử $a\leq b\leq c$.
Nếu $b=0$ thì
$\sqrt{1-ab}+\sqrt{1-bc}+\sqrt{1-ca}=2+\sqrt{1-ca}$.
Ta có $ca\leq \frac{a^2+c^2}{2}=\frac{1}{2}$ suy ra:
$2+\sqrt{1-ca}\geq 2+\frac{\sqrt{2}}{2}>\sqrt{6}$.
Vậy bài toán đúng với trường hợp $b=0$.
Xét trường hợp $b>0$. Ta sẽ chứng minh bài toán bằng phản
chứng.
Giả sử $\sqrt{1-ab}+\sqrt{1-bc}+\sqrt{1-ca}<\sqrt{6}$ ta
có:
$\sqrt{1-ac}+\sqrt{1-bc}<\sqrt{6}-\sqrt{1-ab}$.
Ta sẽ chứng minh tồn tại số $t_0$ sao cho:
$\sqrt{1-at_0}+\sqrt{1-bt_0}=\sqrt{6}-\sqrt{1-ab}$.
Thật vậy, xét hàm số $f(t)=\sqrt{1-at}+\sqrt{1-bt}$ trên
$D=\left[ 0,\frac{1}{b}\right]$. Ta có:
$f’(t)=-\frac{1}{2}\left(
\frac{a}{\sqrt{1-at}}+\frac{b}{\sqrt{1-bt}}\right)<0,\forall t \in D$.
Do đó hàm số $f(t)$ nghịch biến trên $D$.
Với giả thiết $a\leq b\leq c$ ta có $c^2\geq \frac{1}{3}$
hay $a^2+b^2\leq \frac{2}{3}$. Từ đó suy ra: $ab\leq \frac{1}{3} \Rightarrow
\sqrt{6}-\sqrt{1-ab}<2$.
Như vậy $f(0)=2>\sqrt{6}-\sqrt{1-ab}$.
Để ý rằng $bc\leq c^2\leq 1$ nên $c\in D$. Mà $f(c)<\sqrt{6}-\sqrt{1-ab}$
nên tồn tại $t_0 \in (0,c)$ sao cho $f(t_0)=\sqrt{6}-\sqrt{1-ab}$, nghĩa là:
$\sqrt{1-ab}+\sqrt{1-at_0}+\sqrt{1-bt_0}=\sqrt{6}$.
Ta suy ra $6=(\sqrt{1-ab}+\sqrt{1-at_0}+\sqrt{1-bt_0})^2\leq
3(3-ab-at_0-bt_0)$, dẫn đến $ab+at_0+bt_0\geq 1$, suy ra $a^2+b^2+t_{0}^{2}\geq
1$.
Vì $t_0<c$ nên $a^2+b^2+c^2>1$ (mâu thuẫn với điều kiện
ban đầu).
Vậy giả thiết phản chứng là sai, bài toán được chứng minh.