3/ $tanx.tan(x + \frac{\pi }{3}).tan(x - \frac{\pi }{3})$
$= tanx.\frac{{tanx - \sqrt 3 }}{{1 + \sqrt 3 tanx}}.\frac{{tanx + \sqrt 3 }}{{1 - \sqrt 3 tanx}}$
$= tanx.\frac{{ta{n^2}x - 3}}{{1 - 3ta{n^2}x}}$
$= \frac{{\sin x}}{{\cos x}}\frac{{{{\sin }^2}x - 3{{\cos }^2}x}}{{{{\cos }^2}x - 3{{\sin }^2}x}}$
$ = \frac{{\sin x}}{{\cos x}}.\frac{{4{{\sin }^2}x - 3}}{{4{{\cos }^2}x - 3}}$
$= \frac{{4{{\sin }^3}x - 3\sin x}}{{4{{\cos }^3}x - 3\cos x}} = \frac{{ - \sin 3x}}{{\cos 3x}} = - \tan 3x$
$\Rightarrow \int\limits_0^{\pi /4} t anxtan(x + \frac{\pi }{3})tan(x - \frac{\pi }{3})dx = - \int\limits_0^{\pi /4} {\tan 3xdx} $
Do tan3x không xác định tại $x = \frac{\pi }{6} \in \left[ {0;\frac{\pi }{4}} \right]$ nên tích phân này không tồn tại.
***Chú ý: Nếu sửa cận trên thành $\frac{\pi }{9}$ hay $\frac{\pi }{12}$
gì đó thì đặt $t = \cos 3x$ là xong.