Cách 1:   Đây là hệ phương trình có vế trái đẳng cấp bậc hai.
Đặt $y=kx$   ta được hệ:
      $\begin{cases}3k^2x^2-2kx^2=160 \\k^2x^2-3kx^2-2x^2=8 \end{cases}       \Rightarrow           \begin{cases}x^2(3k^2-2k)=160        (1')\\x^2(k^2-3k-2)=8        (2') \end{cases} $
Vì  $x\neq 0$, chia $(1')$ cho $(2')$  vế với vế, ta được:
        $\frac{3k^2-2k}{k^2-3k-2}=20                        \Rightarrow     17k^2-58k-40=0      \Rightarrow        k_1=4;  k_2 =-\frac{10}{17} $.
* Với $k_1=4                             \Rightarrow     y=4x$. Thay vào $(1)$ ta đưa về phương trình bậc hai đối với $x$:
        $48x^2-8x^2=160     \Rightarrow    x_1=-2;   x_2=2$.
   Với           $x_1=-2                    \Rightarrow    y_1=-8;         x_2=2      \Rightarrow         y_2=8$.
* Với $k_2=-\frac{10}{17}                               \Rightarrow     x_3=-8,5;    x_4=8,5  $.
   Với            $x_3=-8,5           \Rightarrow     y_3=5;              x_4=8,5     \Rightarrow         y_4=-5$.
Kết quả:   Hệ phương trình có bốn nghiệm     $(-2; -8), (2; 8), (-8,5; 5), (8,5; -5)$.
Cách 2:  Từ phương trình  $(1)$, rút $x$ theo $y$  ta được:   $x=\frac{3y^2-160}{2y} $.
Đem thế vào phương trình $(2)$   ta được  phương trình trùng phương với ẩn $y$:
                                       $y^4-89y^2+1600=0$.
Phương trình trùng phương này có $4$ nghiệm:
                                $y_1=8;   y_2=-8;  y_3=  5;  y_4=-5$.
Ta tính được các giá trị tương ứng của $x$.
                            $x_1=2;  x_2=-2;  x_3=-8,5;  x_4=8,5$.
 Kết quả:   Hệ phương trình có bốn nghiệm     $(-2; -8), (2; 8), (-8,5; 5), (8,5; -5)$.

$(2x+3y-z)(x-2y-z)=10$                    (*)

         $\Delta =1-8<0     \Rightarrow  $   Phương trình vô nghiệm.