Áp dụng bất đẳng thức 1a2+1b2≥8(a+b)2, ta có: P=1(x+1)2+1(y2+2)2+8(z+3)2≥8(x+y2+3)3+8(z+3)2
≥64(x+y2+z+5) (1)
Áp dụng bất đẳng thức AM−GM, ta có:
3y+6≥(x2+1)+(y2+4)+(z+1)2≥2x+4y+2z⇔3≥x+y2+z. (2)
Từ (1) và (2) ta có GTNN của P là 1.
Đẳng thức xảy ra khi x=z=1;y=2.