풀이3

이 문제에는 선형변환 $A,B$가 정의되어 있는 벡터공간에 대한 언급이 없다. 이 벡터공간이 유한차원 공간이라는 조건이 없으므로 이 변환을 행렬로 바꾸어 쓸 수도 없고, rank나 determinant를 쓸 수도 없다. 할 수 없이 invertible의 정의나 이와 동치인 isomorphism이라는 사실을 보인다.

즉, (\(\Rightarrow\))는 간단히 \((B^{-1}A^{-1})(AB)=Id\) 임을 확인하는 식으로 끝나지만, (두 개씩 두 번 확인해야 함. $AB$와 $BA$에 대하여 각각 좌, 우로\ldots)

(\(\Leftarrow\))는 $AB$와 $BA$가 one-to-one, onto라는 가정 아래서 \(A\), $B$가 각각 one-to-one, onto임을 보인다.

(\(A\) is one-to-one): $Ax=Ay$라 하자. 그러면 $BAx=BAy$이다. $BA$가 one-to-one이므로 $x=y$이다.

(\(A\) is onto): 임의의 $z$에 대하여 $AB$가 onto 이므로 $z=ABy$인 $y$가 존재한다. $x=By$라 하면 이 벡터에 대하여 $z=Ax$가 된다. 따라서 $z$는 $A$의 range에 포함된다. 즉 $A$는 onto 이다.

이 문제에서는 벡터공간이 유한차원이라는 가정을 하고 있고, 이 때는 \(AB\) 하나만 $I$임을 알아도 충분하며, $BA$에 대한 가정을 하지 않아도 $A,B$가 각각 invertible임을 보일 수 있다. 이를 위하여는 차원이 관련된 개념을 써야 한다.(왜? 이런 개념이 없이 증명된다면 이 증명은 그대로 위의 문제에 사용될 수 있을 것이고, 위의 문제도 $AB$만 invertible임을 가정하고 증명 가능해야 할 것이기 때문이다.) \\[5mm] 사용할 수 있는 개념은 rank 등 많이 있겠지만 이 문제에서 가장 간편한 것은 determinant이다. basis를 하나 고정하면 $1=det(AB)=det(A)det(B)$이므로 $det(A)≠0$이다. 따라서 $A$는 invertible이다. 마찬가지로 $B$도 invertible이다.

$A$는 단 하나만의 right inverse $B$를 가진다고 하므로 \(AB=I\) 이다. 이제 힌트의 $BA+B-I$를 $A$의 오른쪽에 곱해 보면, \[ A(BA+B-I)=ABA+AB-A=IA+I-A=I \] 이다. 따라서 \(BA+B-I\) 도 $A$의 right inverse이다. 그런데 $A$의 right inverse는 단 하나뿐이라고 했으므로 \(BA+B-I=B\) 이다. 즉 \(BA=I\) 이다. 그러므로 $B$는 $A$의 left inverse이기도 하다. 즉 $B$는 $A$의 inverse가 되고 $A$는 invertible이다.

직접 계산해서 확인해 볼 것.

조교 선생님의 답이 옳음. 단지 (1)의 증명에서 시작부분에 $ u_1≠ u_2 $ 라는 가정은 안 하는 것이 옳다.