này thì ẩn phụ :))
nhận thấy $x =y=0$ không là nghiệm của hệ, chia pt 1 và pt 2 lần lượt cho $x^2$ và $x^3$ ta có hệ
$\begin{cases} 5-3\dfrac{y}{x} . \dfrac{1}{x}=\dfrac{1}{x}-3\dfrac{y}{x} \\ 1 -\dfrac{1}{x}=(\dfrac{y}{x})^2 .\dfrac{1}{x}-3(\dfrac{y}{x})^3 \end{cases}$ đặt $\dfrac{1}{x}=a;\ \dfrac{y}{x}=b$ ta có hệ
$\begin{cases} 5-3ab=a-3b \\ 1 -a = ab^2 -3b^3 \end{cases}$ trông chả đẹp mắt gì, tôi làm cách khác nhé
Hệ viết thành
$\begin{cases} 5{x^2} + 3xy = x + 3y\\ {x^3} + 3{y^3} = {x^2} + {y^2} \end{cases} $
Từ hệ ta suy ra: $( x^3 + 3y^3)(x + 3y) = ( x^2+ y^2)( {5{x^2} + 3xy} )$
$ \Leftrightarrow 4{x^4} + 5{x^2}{y^2} - 9{y^4} = 0 $
$\Leftrightarrow ( x^2- y^2 )( 4x^2 + 9y^2) = 0$ Dễ rồi nhé