Ta có: $\pi.$ $1=x+y \ge 2\sqrt{xy}\Rightarrow 0 \le xy \le \frac{1}{4}$
$P=16x^2y^2+12(x^3+y^3)+9xy+25xy$
$=16x^2y^2+12[(x+y)^3-3xy(x+y)]+34xy$
$=16x^2y^2-2xy+12$ (vì $x+y=1$)
$= 16t^2-2t+12=f(t)$ (với $t=xy, 0 \le t \le \frac{1}{4}$ )
Xét hàm số $f(t),$ ta được: $f(t) \le \frac{25}{2}.$
Do đó: GTLN của $P$ là $\frac{25}{2}$ đạt được tại $x=y=\frac{1}{2}.$
Nếu chưa học 12 thì chứng minh $16x^2y^2-2xy+12 \le \frac{25}{2}.$ bằng phép biến đổi tương đương..