Cách hơi cùn, tính toán nhiều kiểm tra lại giùm nhé
Không mất tính tổng quát, giả sử min{a,b,c}=c
Trên OA,OB lấy A′,B′ sao cho OA′=OB′=c
Khi đó ta có đẳng thức VOA′B′CVOABC=OA′OA.OB′OB=c2ab
⇒VOABC=abc2.VOA′B′C
Dễ thấy OA′B′C là tứ diện đều. Gọi I là tâm của △A′B′C đều, kẻ CH⊥A′B
Áp dụng định lí cosin trong △OA′B′, ta có A′B′2=OA′2+OB′2−2OA′OB′.cosα
⇔A′B′2=2c2(1−cosα)
Ta có OI=√OC2−CI2=√c2−A′B′23=c√1+2cosα3
⇒VOA′B′C=13OI.SA′B′C=13OI.A′B′2.√34=c3(1−cosα)√1+2cosα6
⇒VOABC=abc6(1−cosα)√1+2cosα
=abc6.√(1−cosα)(1−cosα)(1+2cosα)
AM−GM≤abc6.√(1−cosα+1−cosα+1+2cosα3)3=abc6
Khi α=π2 thì thể tích đạt giá trị lớn nhất là abc6