Bất đẳng thức cần chứng minh tương đương với
(b2+1)lna<(a2+1)lnb⇔lnaa2+1<lnbb2+1
Xét hàm số f(t)=lntt2+1,t∈(0;1).
Ta có f′(t)=1t(t2+1)−2tlnt(t2+1)2=t2(2−lnt)+1t(t2+1)2>0,∀t∈(0;1).
Do đó f(t) đồng biến trên khoảng (0;1).
Mà 0<a<b<1, nên f(a)<f(b)⇔lnaa2+1<lnbb2+1