Nhận xét rằng y=0 không là nghiệm nên ta viết lại hệ:{x+3y+7y−8=√3xy+6√x+7y+1=5−√3y+1
Tiếp đó đặt a=√x+1+7y;b=√3y+1
Hệ sẽ trở thành:
{a2+b2−10=√a2b2−a2−b2−14a+b=5
⇔{(a+b)2−2ab−10=√a2b2+2ab−(a+b)2−14a+b=5
Từ đó ta quy về giải PT:15−2ab=√(ab)2+2ab−39
Với ĐK a,b không âm ta tìm được ab=6 kết hợp với a+b=5 thì có a=3,b=2 và các hoán vị.
Từ đó hệ có nghiệm: (x;y)=(1;1) và (\frac{3}{8},\frac{8}{3})