Bất đẳng thức cần chứng minh tương đương với
$(b^2+1)\ln a<(a^2+1)\ln b\Leftrightarrow \dfrac{\ln a}{a^2+1}< \dfrac{\ln b}{b^2+1}$
Xét hàm số $f(t)=\dfrac{\ln t}{t^2+1}, t\in (0;1)$.
Ta có $f'(t)=\dfrac{\dfrac{1}{t}(t^2+1)-2t\ln t}{(t^2+1)^2}=\dfrac{t^2(2-\ln t)+1}{t(t^2+1)^2}>0, \forall t\in (0;1).$
Do đó $f(t)$ đồng biến trên khoảng $(0;1).$
Mà $0<a<b<1$, nên $f(a)<f(b) \Leftrightarrow \dfrac{\ln a}{a^2+1}<\dfrac{\ln b}{b^2+1}$