Nếu ta giả sử y nằm giữa x và zsuy ra xy(y−z)(y−x)≤0⇔xy3+x2yz≤xy2z+x2z2
⇒xy3≤xy2z+x2z2
xy3+yz3+zx3≤xy2z+x2z2+yz3+zx3
Ta xét 2 TH
x≥y≥z
⇒P≤x2yz+x2yz+yz3+yx3=y(x3+z3+2x2z)≤y(x+z)3
x≤y≤z
⇒P≤xyz2+xyz2+yz3+x2yz=y(z3+2xz2+zx2)≤y(x+z)3
Vậy suy ra P≤y(x+z)3
Đến đây ta có thể áp dụng BĐT Cauchy theo điểm rơi (0;1;3) hoặc tìm max của hàm 1 biến
có P≤y(4−y)3=−y4+12y3−48y2+64y=−(y−1)2(y2−10y+27)+27≤27
hoặcP≤27y(x+z3)3≤27(x+y+z4)4=27
Dấu bằng xảy ra tại (x;y;z)∈ {(0;1;3);(3;0;1);(1;3;0)}