1. A와 B의 역행렬이 존재하고 n이 1이 아닌 홀수일 때

[eqn: AB ^{n} =B ^{n} A]이면, AB=BA가 성립하나요?

<풀이>[eqn: AB ^{5} =B ^{5} A=B ^{2} (B ^{3} A)=B ^{2} (AB ^{3} )=B ^{2} AB ^{3}]…①

[eqn: B]의 역행렬이 존재하므로, 다음과 같이 ①의 양변에 [eqn: (B ^{3} ) ^{-1}]을 곱하면,

[eqn: (AB ^{5} )(B ^{3} ) ^{-1} =(B ^{2} AB ^{3} )(B ^{3} ) ^{-1}] 따라서 [eqn: AB ^{2} =B ^{2} A].

따라서 [eqn: AB ^{3} =B ^{3} A=B(B ^{2} A)=B(AB ^{2} )=BAB ^{2}]…②

다음과 같이 ②의 양변에 [eqn: (B ^{2} ) ^{-1}]을 곱하면,

[eqn: (AB ^{3} )(B ^{2} ) ^{-1} =(BAB ^{2} )(B ^{2} ) ^{-1}] 따라서 [eqn: AB=BA].

2. A와 B의 역행렬이 존재하고 n이 3이상의 자연수일 때

[eqn: (AB) ^{n} =A ^{n} B ^{n}]이면 AB=BA가 성립하나요?

<풀이> [eqn: n GEQ 3]인 자연수 [eqn: n]에 대하여 [eqn: A ^{n+1} B ^{n+1} =(AB) ^{n+1} =(AB)(AB)…(AB)] 이므로,

[eqn: A ^{-1} (A ^{n+1} B ^{n+1} )B ^{-1} =A ^{-1} ｛(AB)(AB)…(AB)｝B ^{-1}]

따라서 [eqn: A ^{n} B ^{n} =(BA)(BA)…(BA)=(BA) ^{n}]. 따라서, [eqn: (AB) ^{n} =(BA) ^{n}].

따라서 [eqn: ｛(AB) ^{n} ｝ ^{-1} =｛(BA) ^{n} ｝ ^{-1}]

따라서 [eqn: (AB) ^{n+1} ｛(AB) ^{n} ｝ ^{-1} =(BA) ^{n+1} ｛(BA) ^{n} ｝ ^{-1}]

한편, [eqn: (AB) ^{n+1} ｛(AB) ^{n} ｝ ^{-1} =(AB)(AB) ^{n} ｛(AB) ^{n} ｝ ^{-1} =AB],

[eqn: (BA) ^{n+1} ｛(BA) ^{n} ｝ ^{-1} =(BA)(BA) ^{n} ｛(BA) ^{n} ｝ ^{-1} =BA].

따라서, [eqn: AB=BA].