Đặt $t=\frac{x}{y}+\frac{y}{x}\Rightarrow t^2=\frac{x^2}{y^2}+\frac{y^2}{x^2}+2$. Mặt khác dễ thấy $|t| \ge 2.$
Suy ra
$P = 3(t^2-2)-8t=3t^2-8t-6=f(t)$.
Khảo sát hàm $f(t)$ trên $t \in (-\infty,-2) \cup(2,+\infty)$ ta tìm được $\min P=\min f(t)=-10$ đạt được $\iff t=2 \iff x=y.$