(1)
a=0 のとき
∣A−λI∣=1−λaaa1−λaaa1−λ=(1−λ)3+2a3−3a2(1−λ)=−λ3+3λ2+3(a2−1)λ+2a3−3a2+1
=−λ3+3λ2+3(a2−1)λ−(1−a)2(1+2a)=−{λ−(1−a)}2{λ−(1+2a)}=0
∴λ=1+2a,1−a(重解)
λ=1+2a のとき
−2aaaa−2aaaa−2a⇒−2a2a2aa−4a2aa2a−4a⇒−2a00a−3a3aa3a−3a⇒−2a00a10a−10
⇒−2a000102a−10⇒100010−1−10
∴P1=111
単位ベクトルにすると P1′=31111
λ=1−a のとき
aaaaaaaaa⇒100100100
∴P2=−110,P3=−101
単位ベクトルにすると P2′=21−110,P3′=21−101
これからP=313131−21210−21021
P−1AP=1+2a0001−a0001−a
a=0 のとき
∣A−λE∣=1−λ0001−λ0001−λ=(1−λ)3=0
∴λ=1(三重解)
λ=1 のとき
000000000
よって任意の直交行列でよい
(2)
txAx=(xyz)1aaa1aaa1xyz=(x+ay+azax+y+azax+ay+z)xyz
=(x+ay+az)(x+y+z)+(ax+y+az)(x+y+z)+(ax+ay+z)(x+y+z)
=(x+y+z){(1+2a)x+(1+2a)y+(1+2a)z}=(1+2a)(x+y+z)2>0
(x+y+z)2>0 から 1+2a>0 であればよいので −21<a