Hệ phương trình đã cho tương đương:
{xy(x+y+xy)(x+y)=30xy(x+y)+xy+x+y=11
⇒xy(x+y),xy+x+y là nghiệm của phương trình:t2−11t+30=0⇔[t=5t=6]
Nếu:
{xy(x+y)=6xy+x+y=5⇒{xy=3x+y=2(vô nghiệm) hoặc {xy=2x+y=3⇒{x=1y=2 hoặc {x=2y=1
Nếu:
{xy(x+y)=5xy+x+y=6⇒{xy=5x+y=1(vô nghiệm) hoặc {xy=1x+y=5⇒{x=5−√212y=5+√212 hoặc {x=5+√212y=5−√212
Hệ phương trình đã cho có nghiệm:(1,2);(2,1);(5−√212,5+√212);(5−√212,5+√212)