부산대학교 도서관

제목: 가볍게 다룰 수 없는 인공지능
학과: 기계공학부, 이름: 김*휘, 선정연도: 2021
내용: 나는 인공지능이라는 것에 처음으로 관심을 가져서 직접 찾아보게 된 계기는 세계를 뜨겁게 달군 사건 중 하나인 2016년 이세돌과 구글의 딥 마인드에서 개발한 바둑 인공지능인 알파고(AlphaGo)의 대국이 있었던 때이다. 우리는 이 사건 이전에도 인간과 컴퓨터의 대결을 한 적이 있다. 일례로 세계 체스 챔피언 가리 카스파로프와 딥 블루의 대결이 대표적이다. 하지만 이 사건이 유독 나에게 관심을 갖게 한 이유는 이전까지 대부분의 사람들이 한 입 모아 ‘바둑과 같이 너무 변수가 많은 게임에서는 인공지능이 사람을 이기긴 힘들 것이다.’라고 말해왔고 이러한 의견이 지배적이었다. 그러나 나는 내 두 눈을 통해서 직접 이세돌이 패배하는 장면들을 보며 더 이상 내가 믿던 것이 사실이 아니라는 것이 밝혀진 순간 신선한 충격에 휩싸이게 되었다.
이러한 경험 이후로 나는 인공지능에 대해서 어떻게 생각하는지에 대한 주위 사람들의 질문을 받으면 항상 다음과 같이 답해왔다.“분명 우리의 삶을 편리하게 해주고 있는 것은 분명하다. 그러나 언제 우리의 삶 마저 앗아갈진 모른다”이러한 대답의 이유는 바로 내가 기술적 특이점에 대한 두려움 때문이었다.
저자가 책을 집필하게 된 이유는 ‘노버트 위너’가 쓴 다양한 저서와 그가 새로 만들어낸 사이버네틱스 혹은 인공두뇌학이라고 불리는 것에 상당한 감명을 받아서이다. 노버트 위너가 쓴 책 중 하나인 <인간의 인간적 활용>에서 제기한 문제 중 하나는 인류의 운명을 기계에 양도해버릴 가능성에 대한 것이다. 나는 이러한 점이 정말로 기술의 발전에 있어서 중요하게 생각되어야 할 점이라고 생각한다.

주디아 펄과 같은 과학자들은 인공지능은 분명히 인간을 닮아갈 순 있지만 어딘가에 항상 한계가 있다고, 이 한계를 계속 돌파하는 것에 초점을 맞추고 인간이 인공지능에 추월당할 걱정을 크게 할 필요가 없다는 관점을 가진 과학자들도 여럿 있다. 이런 관점이라면 분명 우리가 인공지능에 대해 경계할 필요는 없을 것이다. 실제로 수십 년이 지났지만, 똑바로 걸을 수 있는 로봇도 아직 쉽게 제작하지 못 하는 판국이니 어떻게 보면 당연한 의견이라고 생각한다. 또 한편으로 나와 비슷하게 인공지능의 발전에 대해서 위험성이 있다고 생각하는 관계자들이 여럿 있다. 대표적으로 스튜어트 러셀, 스티븐 호킹, 일론 머스크, 빌 게이츠 등은 초지능 인공지능에 대한 위험성을 계속하여 지적하였다.
인간이 만든 인공지능과 기계가 가진 가장 큰 특징이라면 입력한 것만 실행한다는 것이다. 여기엔 감정이나 다른 잡념은 존재하지 않는다. 여기서 하나의 문제점이 발생한다. 인간이 시키는 대로 행동한다면 인간에게 어떠한 위험도 존재하지 않는다고 생각하기 쉽다. 하지만 실제는 이와 다르다. 올바른 목적을 입력하는 ‘가치정렬’이 기계의 입장에서 사람처럼 융통성 있게 잘 수행되지 않는다. 우리는 교육을 통해서 자동차 면허를 취득하고 운전을 한다면 당연히 보행자를 차로 쳐서는 안 된다는 사실을 굳이 가르치지 않아도 알고 있다. 반면 기계는 무엇이 올바른 행동이 모르기 때문에 자율주행을 하더라도 사람을 다치게 하면 안 되므로 피해간다는 내용을 직접 입력해 주어야 한다. 이처럼 우리가 당연하게 기계가 이렇게 행동할 것이라는 생각하는 것 자체가 위험한 경우가 많음을 시사한다.
가치정렬 문제 이외에도 자기 복제, 제어와 같은 다양한 문제도 도사리고 있다. 그중에서 인공지능의 정수라고 할 수 있지만, 아직 현실에서 존재하지 않아서 SF영화에서나 볼 수 있는 강한 인공지능 또한 큰 문제가 될 수도 있다. 그 반대인 IBM의 왓슨이나 알파고 같은 것들은 약한 인공지능으로 불리며 단순히 한 분야에서의 전문가 수준이라고 볼 수 있다. 그러나 강한 인공지능의 경우 스스로 사고도 하고 다양한 데이터를 통신을 통해 직접적으로 접근할 수 있는 아주 강력한 존재라고 볼 수 있다. 우리가 이를 통제할 수 있다는 보장이 없을뿐더러 낙관적으로 이런 존재가 사람과 사이좋게 지낼 수 있다는 것 또한 보장할 수 없다. 그렇다고 문제가 생겼을 시에 이것을 파괴할 수 있는가에 대한 질문에 대해서 대다수의 과학자, 철학자들은 힘들다고 대답한다. 그 이유는 하드웨어적인 것을 파괴하더라도 소프트웨어, 데이터의 형태로 충분히 남을 수 있으며 이것은 거의 제거하기가 불가능하다고 여겨지기 때문이다. 따라서 인공지능의 개발에 있어 더욱 고지능, 자율적인 사고를 추구할수록 이런 기술 개발에 있어서 더욱 엄중하게 관리되고 조절될 필요가 있다.

인공지능에 위와 같이 무서운 문제점들만 존재하는 것은 아니다. 인공지능은 인간이 해낼 수 없거나 직접 하기에 너무 효율이 나쁜 것들을 빠르게 해결해줄 수 있다. 예를 들어 수치적 해석 같은 경우는 인간이 하는 것이 불가능한 영역이다. 따라서 이러한 분야에서 우리는 계산에 대한 큰 틀을 세우면 컴퓨터가 반복적인 계산을 통하여 결과를 나타내게 된다. 이보다 더 나아가 우리가 설계조차 하기 힘든 문제를 해결하고 그 결과를 알려줄 수 있는 인공지능을 만들게 된다면 인류의 발전에 엄청난 도움이 될 것이다. 특히 우리가 지구를 넘어 우주로 나아가게 된다면 우리의 능력 밖에 존재하는 문제들을 인공지능의 도움을 받아 해결한다는 긍정적인 미래를 꿈꿀 수도 있다.

나는 분명 사이버네틱스의 도움을 받아 내가 가지고 있는 사진과 비슷한 사진을 인터넷에서 쉽게 찾고, 대중교통을 이용하려고 지도 앱을 열어서 최단거리와 환승 방법을 알아서 삶을 편리하게 살고 있다. 그 외에도 교육, 문화, 서비스, 의료 할 것 없이 분명 알게 모르게 도움을 받아 편리한 삶을 영위할 수 있다는 것을 잘 알고 있다. 그런데 아직 스스로 생각하긴 커녕 우리가 원하는 단순한 일조차 제대로 처리하지 못하는 경우가 많은데 벌써 너무 두려움의 존재로만 생각하는 것이 아니냐고 여길 수도 있다. 이전에 나는 ‘공학윤리’라는 강의를 들은 적이 있다. 거기서 배운 공학의 정의는 ‘과학과 기술을 이용하여 인간에게 유용하고 편리한 것을 개발하는 것’이라고 배웠던 것이 아직 어렴풋이 기억난다. 하지만 인공지능의 개발이 우리 삶에 지금까지 편리함을 주었던 것은 맞지만 어느 한순간에 이 모든 것을 다 앗아간다면 무슨 의미가 있겠는가?
인류의 존속에 대한 기회는 단 한 번뿐이다. 나도 한 명의 공학도로서 기술의 개발은 중요하고 이것이 우리의 삶을 이전보다 편리하게 해주었다는 사실에 적극적으로 공감하지만, 인공지능의 연구와 개발에 대한 것은 냉전시대 때 개발된 대량살상무기(핵무기)와 현재의 지구 온난화 문제 다음으로 전 지구적으로 진지하게 토론되어야 할 주제라고 생각한다.

나는 사실 누구보다 스티브 오모르 훈드가 말한 ‘지능을 갖춘 독립 개체는 항상 자신의 존재를 보존하려 한다’라는 말에 충실한 존재인 듯하다. 이러한 나의 걱정은 전혀 이르지 않다고 생각한다. 미래는 언제나 예상하지 못한 순간에 코앞까지 닥쳐왔으니까. 매년 새로운 전자기기를 구매하는 것을 즐기고 최신 기술을 자주 찾아보며 애초에 기계공학을 전공으로 배우는 입장으로써 일방적으로 인공지능에 있어서 러다이트 운동을 하는 것도 아니다. 그냥 진심 어린 걱정이다. 며칠 전에 길을 가다 공사현장에 ‘일에는 베테랑이 있어도 안전에는 베테랑이 없다’라는 문구를 보았다. 이는 인간의 존속 여부와 크게 다르지 않은 말이라고 생각한다. 아직은 우리가 지구에서 군림하고 있을지 몰라도 우리가 만든 문화에 우리가 사라질 수 있다는 사실은 충분히 예상 가능한 사실이다. 우리는 우리의 미래를 아직 스스로 결정할 수 있고 올바른 선택을 내릴 수 있는 시간이 남아있다. 늦었다는 것을 눈치채기 전에 많은 사람이 인공지능 기술 개발에 대한 적극적인 관심을 가지고 지켜보아야 할 차례라고 생각한다. 아직은 낙관적으로 볼 수 있겠지만 언제까지나 아직은 미숙하다는 이유만으로 낙관적으로 볼 수 없지 않겠는가?