đk: (bạn tự tính nha)
pt(2) $<=>x+1+y+1+2\sqrt{(x+1)(y+1)}=16$
$<=> x+y+2\sqrt{xy+x+y+1}=14$
đặt $x+y=a$ và $\sqrt{xy}=b$ đk:$b\geq0$
hệ $<=>\begin{cases}a-b=3 \\ a+2\sqrt{b^2+a+1}=14 \end{cases}$
bạn giải ra $a=3;b=0 hoặc $$a=\frac{-35}{3};b=\frac{-44}{3}$(loại vì b<0)
$=> \begin{cases}x+y=3 \\ \sqrt{xy}=0 \end{cases}$
giải hệ này bạn sẽ ra 2 nghiệm $(x;y)=(0;3);(3;0)$