Cần chứng minh bất đẳng thức phụ: Với mọi số thực dương x,y,z ta luôn có:
x2+y2+z2+2abc+1≥2(xy+yz+zx)
Áp dụng nguyên lí Dirichlet: Luôn có 2 số nhỏ hơn hoặc lớn hơn 1. Giả sử đó là x và y
Ta có: (x−1)(y−1)≥0
⇔xy+1≥x+y
⇔xyz+z≥xz+yz
Nên x2+y2+z2+2xyz+1=x2+y2+z2+2xz+2yz−2z+1
Ta có: x2+y2+z2+2xyz+1−2(xy+yz+zx)=x2+y2+z2−2xy−2z+1=(x−y)2+(z−1)2≥0
Hay, x2+y2+z2+2xyz+1≥2(xy+yz+zx)
Dấu = xảy ra ⇔x=y=z=1
Trở lại bài toán, ta có: 2P≥a2+b2+c2+2ab+2bc+2ca−1=(a+b+c)2−1=8
⇔P≥4
Dấu = xảy ra ⇔a=b=c=1
Có: P=a2+b2+c2+2ab+2bc+2ca−2ab−2bc−2ca+abc=9−2ab−2ca−2bc+abc
Ta xét 2 trường hợp:
Th1: Có ít nhất 1 trong 3 số = 0. Giả sử đó là a.
⇒P=9−2bc≤9
Th2: Cả 3 số đều lớn hơn 0.
⇒2ab+2ca+2bc≥63√abc
Mà a+b+c≥33√abc⇔abc≤1
Nên, 2ab+2bc+2ca≥63√abc≥abc
Từ đó, P≤9−5abc<9
Vậy, PMax=9⇔a=0 và b=0hoặcc=0
Trong trường hợp b=0 thì c=3 nên vô lí.
Vậy PMin=4⇔a=b=c=1
P Max = 9 \Leftrightarrow a=0;c=0 và b=3 và các hoán vị của a và b