Ta có các đánh giá sau:$\frac{x^2+4y^2}{2}=\frac{1}{4}(x+2y)^2+\frac{1}{4}(x-2y)^2\geq \frac{1}{4}(x+2y)^2$
$\frac{x^2+2xy+4y^2}{3}=\frac{1}{4}(x+2y)^2+\frac{1}{12}(x-2y)^2\geq \frac{1}{4}(x+2y)^2$
Khi khai căn gọi vế phải của PT(2) trong hệ là A thì $A\geq \left| {\frac{1}{2}(x+2y)} \right|+\left| {\frac{1}{2}(x+2y)} \right|$
Ta đã biết $\left| {a} \right|+\left| {b} \right|\geq \left| {a+b} \right|$ nên $A\geq \left| {x+2y} \right|$
Mà $\left| {x+2y} \right|\geq x+2y$ nên $VT\geq VP$ dấu bằng khi $x=2y\geq 0$ thay vào pt đầu thì đc:
$x^4-x^3+3x^2-2x-1=0\Leftrightarrow (x-1)(x^3+3x+1)=0$
PT $x^3+3x+1$ không có nghiệm với $x\geq0$.Vậy hệ có nghiệm $x=1;y=\frac{1}{2}$