Xét:
A=(a2+b2+c2)(a+b+c)−3(a2.b+b2.c+c2.a)=a3+b3+c3+a.b2+b.c2+c.a2−2a2.b−2b2.c−2c2.a
=a2(a−b)+b2(b−c)+c2(c−a)+(b−a).c2+(a−c).b2+(c−b).a2
=(a−b)2.(a+b)+(b−c)2.(b+c)+(c−a)2.(c+a)≥0
Vì a,b,c là các số dương nên A≥0
Hay, (a2+b2+c2)(a+b+c)≥3.(a2.b+b2.c+c2.a)
Hay, a2b+b2c+c2aa2+b2+c2≤a+b+c3
Nên, P≤a+b+c3−a2+b2+c23
⇔12P≤4a+4b+4c−4a2−4b2−4c2
⇔12P≤4a−4a2−1+4b−4b2−1+4c−4c2−1+3
⇔12P≤−(2a−1)2−(2b−1)2−(2c−1)2+3
⇔12P≤3
⇔P≤14
Dấu bằng xảy ra khi và chỉ khi a=b=c=12