直行行列なので tA=A−1 となる
∣A∣=cosαx20sinαcosαx3x101=cos2α+x1x2x3−x2sinα
∣a11∣=cosαx301=cosα
∣a12∣=x2001=x2
∣a13∣=x20cosαx3=x2x3
∣a21∣=sinαx3x11=sinα−x1x3
∣a22∣=cosα0x11=cosα
∣a23∣=cosα0sinαx3=x3cosα
∣a31∣=sinαcosαx10=−x1cosα
∣a32∣=cosαx2x10=−x1x2
∣a33∣=cosαx2sinαcosα=cos2α−x2sinα
これから
A−1=cos2α+x1x2x3−x2sinα1cosα−x2x2x3−sinα+x1x3cosα−x3cosα−x1cosαx1x2−cos2α+x2sinα
tA=cosαsinαx1x2cosα00x31
A22−1=tA22 から、cos2α+x1x2x3−x2sinα1=1 となり
cosα−x2x2x3−sinα+x1x3cosα−x3cosα−x1cosαx1x2−cos2α+x2sinα=cosαsinαx1x2cosα00x31
A21−1=tA21 から x2=−sinα
A13−1=tA13 から x1=0
A32−1=tA32 から x3=0