解:
由f(-1)=0得a-b+c=0.①
对任意实数x,都有f(x)-x≥0,则有f(1)≥1.且方程ax^2+bx+c=x的判别式△=(b-1)^2-4ac≤0.③
当x∈(0,2)时,都有f(x)≤((x+1)/2)^2,则有f(1)≤((1+1)/2)^2=1.
于是必有f(1)=1.
则a+b+c=1.②
联立①和②得
b=1/2及a+c=1/2.
将b=1/2代入式③,可得ac≥1/16。结合a+c=1/2,可知a>0,c>0,而ac≤[(a+c)/2]^2]=1/16,则必有ac=1/16且a=c>0.解得a=c=1/4.
于是a=1/4,b=1/2,c=1/4.
二次函数g(x)=f(x)-mx=1/4*x^2+(1/2-m)x+1/4=1/4*[x^2+(2-4m)x+1]的对称轴是x=-(2-4m)/2=2m-1,要是g(x)在x∈[-1,1]上为单调函数,只需2m-1≤-1或2m-1≥1,得m的取值范围为m≤0或m≥1。
用图像法来解是最直观的了。