Ta có:
y′=6x2−6(m+1)x+6m
y′=0⇔{x=1x=m
Để hàm số có 2 điểm cực trị thì phương trình y′=0 có 2 nghiệm phân biệt ⇔m≠1
Hàm số có 2 điểm cực trị là: A(1;3m−1);B(m;−m3+3m2)
Ta có: →AB=(m−1;−(m−1)3)
Để đường thẳng qua hai điểm cực trị vuông góc với đường thẳng y=x+2 thì:
(m−1)−(m−1)3=0
⇔(m−1)2=1
⇔[m=2m=0