(1)
f=x3+y3−3xy
fx=3x2−3yfy=3y2−3xfxx=6xfyy=6yfxy=−3
fx=fy=0 のとき (x,y)=(0,0),(1,1)
H(x,y)=36xy−9
H(0,0)<0
H(1,1)>0
fxx(1,1)>0 極小
よって(1,1)のとき極小値−1
(2)
・AB上(y=1のまま) よって x3+1−3x
・BC上(x=−1のまま) よって −1+y3+3y
・CD上(y=−1のまま) よって x3−1+3x
・DA上(x=1のまま) よって 1+y3−3y
(3)
∣x∣≤1、∣y∣≤1から (2)のA,B,C,Dで考える
A(1,1)のとき f=−1 B(−1,1)のとき f=3
C(−1,−1)のとき f=−5 D(1,−1)のとき f=3
よって(±1,∓1)のとき最大値3 (−1,−1)のとき最小値−5 (複合同順)