Ta có:
$(x^2-y^2+1)^2+4x^2y^2-x^2-y^2=0$
$\Leftrightarrow x^4+y^4+1+2x^2-2y^2-2x^2y^2+4x^2y^2-x^2-y^2=0$
$\Leftrightarrow (x^2+y^2)^2+x^2-3y^2+1=0$
$\Leftrightarrow (x^2+y^2)^2-3(x^2+y^2)+1=-4x^2$
$\Rightarrow (x^2+y^2)^2-3(x^2+y^2)+1\le0$
$\Leftrightarrow \dfrac{3-\sqrt5}{2}\le x^2+y^2\le\dfrac{3+\sqrt5}{2}$
$\min P=\dfrac{3-\sqrt5}{2} \Leftrightarrow x=0;y=\pm\sqrt{\dfrac{3-\sqrt5}{2}}$
$\max P=\dfrac{3+\sqrt5}{2} \Leftrightarrow x=0;y=\pm\sqrt{\dfrac{3+\sqrt5}{2}}$