Giả sử $\Delta ABC$ cân tại $A$. i/ Vẽ tia $AO$ cắt $BC$ và $(O;R)$ tại $D$ và $E$. Khi đó $D$ là trung điểm của $BC$, $AD$ vuông góc với $BC$ và $\widehat{ABE} = 90^0$. Từ hệ thức lượng trong tam giác vuông suy ra $AD=\frac{AB^2}{AE} = \frac{b^2}{2R}$. Từ định lí Pythagoras suy ra $BD=\sqrt{AB^2-AD^2}=\frac{b\sqrt{4R^2-b^2}}{2R}$.Từ đó có$cosB=cosC=\frac{BD}{AB}=\frac{\sqrt{4R^2-b^2}}{2R}$;
$cosA=cos(180^0-2B)=-cos2B=1-2cos^2B=1-2.\frac{4R^2-b^2}{4R^2}=\frac{b^2-2R^2}{2R^2}$.
ii/ Với các kết quả $AD=\frac{b^2}{2R}$,$BC=2BD=\frac{b\sqrt{4R^2-b^2}}{R}$ thì có
$S_{\Delta ABC}=\frac{1}{2}AD.BC=\frac{b^3\sqrt{4R^2-b^2}}{4R^2}=\frac{\sqrt{b^6(4R^2-b^2)}}{4R^2}$.
Áp dụng bất đẳng thức AM-GM thì được
$b^6(4R^2-b^2)=27.\frac{b^2}{3}. \frac{b^2}{3}. \frac{b^2}{3}. (4R^2-b^2)\leq \frac{(\frac{b^2}{3}+\frac{b^2}{3}+\frac{b^2}{3}+4R^2-b^2)^4}{256}=27R^8$.
Do đó $S_{\Delta ABC}\leq \frac{3R^2\sqrt{3}}{4}$. Dấu bằng xảy ra khi $\frac{b^2}{3}=4R^2-b^2$, hay $b=R\sqrt{3}$ (khi đó $ABC$ là tam giác đều).