Giả sử c≥b≥a
VT=[(a+b)3−3ab(a+b)].[a3b3+(a3+b3)c3+c6]⇔[(a+b)3−3ab(a+b)].[a3b3+[(a+b)3−3ab]c3+c6]
⇔(x3−3xy)(y3+(x3−3xy)c3+c6)
Với a+b=x,ab=y,y∈[0;x24]
Xét f(y)=(x3−3xy)(y3+(x3−3xy)c3+c6) với y∈[0;x24]
f′(y)=−3x[c6+2c3x(x2−3y)+y2(4y−x2)]
≤−3x[c6+2c3x(x2−4y)+y2(4y−x2)]
=−3x[c6+(x2−4y)(2c3x−y2)]
Do c2≥y,xc≥y⇒2c3x−y2≥0⇒f′(y)≤0
⇒f(y)≤f(0)=x3(x3c3+c6)=x3c3(x3+c3)
=f(x)=(k−x)3x3((k−x)3+x3)
Khảo sát hàm 1 biến f(x) trên [0;2k3] ta thu được kết quả trên.