Có $S=\sqrt{p(p-a)(p-b)(p-c)}$ (công thức Hê-rông)$\Leftrightarrow 4\sqrt3S=4\sqrt{3p(p-a)(p-b)(p-c)}$
Áp dụng BĐT cô-si, ta có
$(p-a)(p-b)(p-c) \leq \frac{(3p-a-b-c)^3}{27}=\frac{p^3}{27}$
$\Rightarrow 4\sqrt3S \leq 4\sqrt{3p.\frac{p^3}{27}}=4.\frac{p^2}3$
Theo bunhia $\Rightarrow (a+b+c)^2 \leq 3(a^2+b^2+c^2)$
$\Rightarrow 4p^2 \leq 3(a^2+b^2+c^2)$
$\Rightarrow \frac{4p^2}3 \leq a^2+b^2+c^2$
$\Rightarrow 4\sqrt3S \leq a^2+b^2+c^2$
$\Rightarrow S \leq \frac{\sqrt3}{12}(a^2+b^2+c^2)$
Dấu "=" xảy ra khi $a=b=c \Leftrightarrow \triangle ABC$ đều