Ta có:ĐKC: giả sử hệ có nghiệm (x_0;y_0) -2.(1)+(2)\Leftrightarrow (x_0+3y_0)^2\leq\frac{-4}{a+1}\Rightarrow a+1,0\Leftrightarrow a<-1(Vì
\frac{-4}{a+1}\geq(x_0+3y_0)^2\geq 0ĐKĐ: Giả sử a<-1
\Rightarrow \frac{1-a}{1+a}=-1+\frac{2}{a+1}>-1 (Vì a<-1\Rightarrow \frac{2}{1+a}<0)
Xét hệ \begin{cases}x^2+2xy-7y^2=-1 \\ 3x^2+10xy-5y^2=-2 \end{cases} (II)
Hệ (II) có nghiệm thì hệ (I) cũng có nghiệm vì S_I\supset S_{II}
Tương tự điều kiện cần ta được: \begin{cases}(x+3y)^2=0 \\ x^2+2xy-7y^2=-1 \end{cases}\Leftrightarrow \begin{cases}x=-\frac{3}{2} \\ y=\frac{1}{2} \end{cases} hoặc \begin{cases}x\frac{3}{2}= \\ y=-\frac{1}{2} \end{cases}
Vậy điều kiện cần và đủ để hệ có nghiệm là a<-1