例4求函数f(x,y)=x3-y3+3x2+3y2-9x的极值.
解方程组,
求得x=1,-3;y=0,2.于是得驻点为(1,0)、(1,2)、(-3,0)、(-3,2).
再求出二阶偏导数
fxx(x,y)=6x+6,fxy(x,y)=0,fyy(x,y)=-6y+6.
在点(1,0)处,AC-B2=12×6>0,又A>0,所以函数在(1,0)处有极小值f(1,0)=-5;
在点(1,2)处,AC-B2=12×(-6)