Điều kiện x≠0,x≥−3,y>0. Kí hiệu (1) và (2) là phương trình đầu và cuối của hệ. Khi đó có
(1) ⇔(2x2+y)2=3xy(x+√y)
⇔4x4+x2y−3xy√y+y2=0
⇔4(x√y)4+(x√y)2−3(x√y)−1=0
⇔(2x√y−1)2[(x√y)2+x√y+1]=0
⇔x√y=12.
Suy ra x>0 và y=4x2 (3).
Từ kết quả (3) suy ra
(2) ⇔8x=√2x+6−4x2
⇔4x2+8x=√2x+6
⇔(2x+2)2−4=√2x+6
⇔[(2x+2)2−(2x+6)]+[(2x+2)−√2x+6]=0
⇔[2x+2−√2x+6][2x+2+√2x+6+1]=0
⇔2x+2−√2x+6=0 (vì x>0 nên 2x+2+√2x+6+1>0)
⇔2x+2=√2x+6
⇔2x2+3x−1=0
⇔x=−3+√174∨x=−3−√174.
Vì x>0 nên chỉ lấy x=−3+√174, suy ra y=13−3√172. Các giá trị này thỏa mãn điều kiện hệ phương trình.