Hệ $\Leftrightarrow \begin{cases}x+y=5-z\\ xy+(x+y)z=8 \end{cases}$Đặt $\begin{cases}x+y=S \\ xy=P \end{cases},S^2\geq 4P (1)$ với $x,y$ là nghiệm của pt $X^2-SX+P=0$ $(2)$
Ta có hệ :$\begin{cases}S=5-z \\ P+Sz=8\end{cases}\Rightarrow P=z^2-5x+8$
Hệ có nghiệm $\Leftrightarrow (2)$ có nghiệm
Suy ra $(1)\Leftrightarrow (5-z)^2-4(z^2-5z+8)\geq 0\Leftrightarrow -3z^2+10z-7\geq 0$
$\Leftrightarrow (z-1)(-3z+7)\geq 0\Leftrightarrow \left[ {\begin{matrix} \begin{cases}z-1\geq 0\\ 7-3z\geq 0\end{cases}\\ \begin{cases}z-1\leq 0\\ 7-3z\leq 0\end{cases} \end{matrix}} \right.\Leftrightarrow \left[ {\begin{matrix} 1\leq z\leq \frac{7}{3}\\\begin{cases}z\leq 1\\ z\geq \frac{7}{3} (VN)\end{cases} \end{matrix}} \right.\Rightarrow z=${$1;2$}
Với $z=1\Rightarrow \begin{cases}S=4 \\ P=4 \end{cases}\Rightarrow \begin{cases}x+y=4 \\ xy=4 \end{cases}\Rightarrow \begin{cases}x=2 \\ y= 2\end{cases}$
Với $z=2\Rightarrow \begin{cases}S=3 \\ P=2\end{cases}\Rightarrow \begin{cases}x+y=3 \\ xy=2 \end{cases}\Rightarrow \left[ {\begin{matrix} \begin{cases}x=1 \\ y=2 \end{cases}\\\begin{cases}x=2 \\ y=1 \end{cases} \end{matrix}} \right.$
$(x;y;z)=(2;2;1),(1;2;2),(2;1;2)$