y′=−x2+2(m−1)x+(m+3)Δ′=(m−1)2+(m+3)=m2−m+4>0
Nên y′ luôn có hai nghiệm phân biệt x1<x2
Khi đó y′>0 khi x∈(−∞,x1) và (x2,+∞)
y′≤0 khi x∈[x1,x2]
Vì vậy nếu y′(0)≤0,y′(3)≤0⇒(0,3)∈[x1,x2] và ta có thể kết luận y′≤0 với mọi x thuộc (0,3)
{y′(0)=m+3≤0y′(3)=−9+6(m−1)+m+3≤0
⇔{m+3≤07m−12≤0⇔m≤−3