[448호/기획] 인공지능, 인간의 빛으로 바라보다
‘대전 비엔날레 2020 인공지능: 햇살은 유리창을 잃고’를 다녀와서
한국교원대신문은 대전시립미술관에서 열리는 ‘대전 비엔날레 2020 인공지능: 햇살은 유리창을 잃고’에 다녀왔다. 대전 비엔날레는 2년마다 열리는 과학과 예술의 융복합 전시 프로젝트다. 이번 전시의 주제는 ‘인공지능’으로, 인공지능을 새 시대의 예술적 도구로 적극적으로 활용해 표현의 확장을 추구한 작품들을 선보인다. 이번 기획에서는 인공지능과 예술의 융합을 통해 바라본 인간과 인공지능, 이 둘의 관계를 철학적으로 조망해보고자 한다.
◇ 인간만이 가진 특별한 무언가
신승백과 김용훈의 <넌페이셜 포트레이트>(2018-2019)는 “인공지능이 완성된 초상화를 인식할 수 없어야 한다”는 전제조건 아래 인간과 기계 사이에 존재하는 의식과 무의식을 보여주는 작품이다. 화가의 작업대에 설치된 카메라는 그림을 지켜보며 모니터에 얼굴검출 여부를 표시해준다. 화가는 이를 참고하며 인공지능에 의해 인식되지 않는 초상화를 그려나가지만, 이는 쉽지 않다. 인물과 가깝게 그리면 쉽게 얼굴인식이 될 것이고, 얼굴인식이 되지 않게 할수록 그림은 실제 모습에서 멀어져 초상화라고 말하기 어려워지기 때문이다. 여기서 인공지능은 얼굴로 인식하지 못하지만 인간은 인식할 수 있는, 인간만의 시각적 영역을 찾아볼 수 있다. 그 영역이 바로 ‘무의식’이다. 우리는 무의식적으로 희미하게 그려진 얼굴을 인식할 수 있다. 하지만 인공지능은 이를 인식하지 못했다. 인공지능에게는 무의식이 없기 때문이다. 인공지능은 모든 것을 ‘의식’한다. 원칙적으로 모든 데이터를 종합하고 분석하여 하나의 결론을 내린다. 그러나 인간은 모든 것을 의식하지 않으며, 때로는 아날로그적인 감성과 지성으로 판단을 한다. 인공지능이 발전을 하더라도 ‘공상할 권리’, ‘몽상할 권리’, ‘상상할 권리’, ‘꿈을 꿀 권리’처럼, 무의식이 주인공인 영역은 언제나 인간만이 가질 것이라 생각한다. 비엔날레의 부제 ‘햇살은 유리창을 잃고’는 마이크로소프트사의 AI 로봇 ‘샤오빙’이 중국 시 수천 편을 학습한 뒤 세계 최초로 펴낸 시집 이름이다. 인간만의 영역이라고 생각해왔던 창조의 영역, 예술마저 인공지능이 위협한다고 생각할 수도 있다. 그렇지만 인간과 인공지능 사이에는 ‘무의식’이라는 차이가 분명히 있다. 인간은 무의식을 바탕으로 무궁무진하게 뻗어나갈 수 있다. 무의식은 뜻밖의 발견, 우연한 계기를 가능하게 하고, 창조적인 것을 만들어 낸다. 어떠한 의도성 없이도 자유롭게 무엇이든 할 수 있고, 어디든 갈 수 있는 존재가 바로 인간이다.
◇ 기계 도입의 빛과 그림자에 대하여
박경근의 <1.6초>(2016)는 자동차 공장 조립 라인의 생산 시간을 1.6초로 단축하는 데서 벌어진 노사 간의 갈등에서 시작한다. 짧은 1.6초이지만, 로봇과 달리 인간이 빨라진 속도를 따라잡는 데에는 많은 노력과 고통이 뒤따른다. ‘생명 없는 기계’ 대 ‘유기체로서의 인간’이라는 선입견과 달리, 공장에서 가장 생동감이 넘치는 것은 로봇이고 생기 없는 회색빛을 띠는 것은 인간이다. 과연 인간은 로봇보다 더 창조적인 존재일까? 인간은 그저 조직과 사회에 속해 기계적으로 움직이는 존재인 것일까? 이 작품은 두 화면이 마주보는 형태로 전시되어 있었다. 빨간 기계가 움직이는 모습과 회색빛의 정적인 화면을 번갈아 보다 보니, 기계에 일자리를 빼앗긴 노동자가 된 듯했다. 기계의 도입은 분명 생산성 향상에 획기적인 결과를 가져온다. 덕분에 자본가는 많은 이윤을 창출할 수 있다. 하지만 노동자 계급은 일자리를 빼앗기면서 몰락하고, 빈부격차는 더욱 심해진다. 기계 도입이 지니는 양면성, 그리고 인간 존재에 대한 의문. 여기에 대한 답은 무엇일까?
염지혜의 <미래열병>(2018)에서 그에 대한 실마리를 찾을 수 있었다. <미래열병>(2018)에서는 기술에 의한 발전의 중요성을 부정하는 것은 아니지만, 기술에 인간의 모든 미래가 달려있다는 기술 중심 미래상과, 이에 발맞추어 우리의 신체와 정신을 개조하여 신인류로 거듭나야 한다는 사회 분위기에 비판을 던진다. ‘미래적이다’라는 말은 무슨 뜻일까? 우리는 10년, 20년 뒤에도 여전히 인간으로 살아가고 있을까? 미래의 나는 은하철도 999의 기계인간처럼 되어버리는 것은 아닐까? 우리는 기계와 기술의 도입이 사회구조, 가치관, 인간상 등에 어떤 변화를 가져오는지 알아야 한다. 기계 도입은 인간에게 빛이자 그림자다. 그리고 우리는 그림자에 주목할 필요가 있다. 사회에서 소외된 이들, 기술에 대한 윤리적 가치관, 인간성의 본질은 무엇인지에 대하여. 우리는 인공지능을 낙관적으로 받아들이면 안 된다. 인간은 인공지능을 주체적으로 수용해야 한다.
◇ 인공지능의 합리성과 인간의 합리성
테이블 위, 정해진 범위 내에서 활동하는 로봇 하나. 이 로봇의 일정한 움직임은 ‘합리적’으로 보인다. 하지만 로봇의 제한적인 활동을 보고 있으면 인간의 제한적 사고와 행동이 연상된다. 편견이나 선입견의 굴레에 얽매여 있는 우리가 연상된다. 이는 작품의 의도와 연결된다. 인공지능이 합리적으로 움직이도록 설계된 알고리즘은 작품을 통해 인간의 비합리적인 부분을 가시적으로 나타낸다. 인간의 사고가 가지는 한계를, 알고리즘에 얽매인 로봇의 움직임으로 느낄 수 있는 것이다.
‘인간이 합리적이어야 한다’, 그리고 ‘인공지능이 합리적이어야 한다’, 이때 ‘합리적’이라는 단어를 같은 선상에 놓고 생각할 수 있는 것인가? 기계는 알고리즘에 맞춰 움직이는 것이 합리성이다. 하지만 이를 인간에게 동일하게 적용하면, 위 작품과 같이 비합리성이 드러난다. 즉, 알고리즘에 얽매여 편파적인 사고와 행동을 보인다. 그렇기에 인간의 합리성은 인공지능의 합리성과 동등하게 생각할 수는 없다. 기계의 합리성을 기준으로 비교하면 당연히 인간은 지극히 비합리적이다. 기계와 인간의 합리성에 차이가 있는 것을 인지한다면, 인간은 인공지능보다 비합리적이고, 따라서 인공지능이 인간보다 완벽하다는 것은 성립하기 어렵다는 것을 알 수 있다. 그렇다면 인간적 차원의 합리성은 무엇인가. 인공지능은 알고리즘에 따라 행동하고, 알고리즘을 기반으로 학습하는 모습이 합리적이다. 하지만 이와는 다른, 인간의 영역이 가지는 고유한 합리성이 무엇인지 고민할 필요가 있다.
인공지능 기술이 비합리적이라는 문제가 있을 때, 이는 말 그대로 ‘기술’의 문제이다. 우리가 생각해야 하는 것은, 인공지능의 순수한 기술은 합리적임에도 불구하고, 인간의 ‘활용’으로 인공지능이 비합리성을 띨 수 있다는 것이다. 대표적으로, ‘차별’이라는 비합리적인 결과를 낳는다. 인공지능이 인간을 차별하기 위해 사용되는 현상은 우리의 일상과 그리 멀리 있지 않다. 안면인식 기술을 떠올려 보자. 안면인식 기술은 우리에게 편의를 주는 유용한 기술이지만, 한편으로 부조리한 활용을 가능하게 한다.
이 마스크는 ‘무정형’의 마스크이다. 얼핏 보기에도 사람의 얼굴이라고 판단되지 않는다. 이 무정형의 마스크는 형태가 없는 마스크인 동시에, 안면인식 기술로부터 자유로운 마스크이기도 하다. 정확히 말하면, 앞서 언급했던 안면인식 기술의 부조리함을 피하고, 그에 대항하는 마스크이다. 작품의 이름이 ‘얼굴무기화 세트’인 것도 그 때문이다. 무정형 마스크를 통해 맞서고자 했던 안면인식 기술의 문제점, 비합리성은 무엇이었을까.
바로 안면인식 기술을 활용해 사람들을 낙인찍는 것이다. 안면인식 기술을 포함한 생체 인식 디바이스(Biometric devices)는 국경 감시 및 치안 유지 등 다양한 공공영역에서도 활용되고 있다. 기업은 젠더, 인종 등의 정체성 표지들을 표준화된 알고리즘으로 처리하여, 마케팅에 활용하기도 한다. 국민, 혹은 고객들의 정체성을 인공지능 기술을 이용해 파악하는 것이 핵심이다. 하지만, 생체인식 기술은 특정 정체성에 대한 인간의 오래된 고정관념에 크게 의존하고 있으며, 고정관념을 강화하는 방향으로 활용될 수 있다. 자크 블라소는 이러한 기술이 결국 특정 인종, 계급, 젠더 등에 불리하게 적용되는 부조리를 지적한다. 예를 들어, 아시아 여성들의 지문을 잘 읽어내지 못하는 지문인식 장치, 백내장을 앓는 눈을 제대로 인식하지 못하는 홍채스캐너 등 생체인식장치의 오작동이 있다. 이는 소수의 사람들에 대한 대중의 편견을 반영한 결과이다. 자크 블라소에 따르면, 다양한 신체 인식 기술 중 안면인식 장치는 생물학적 감시를 위해 보편적으로 채택되는 대중적인 도구이다. 기업뿐만 아니라, 국가적 차원에서 폭넓게 활용되고 있으며, 사람들의 일상에도 거부감 없이 스며들어있다. 자크 블라소는 그렇기에 안면인식 기술이 특정 정체성에 대한 대중들의 고정관념을 강화하고, 특정 정체성의 사람들에게 불리하게 작용하도록 함을 지적한다. 가장 대표적인 예로, 안면인식 기술이 성소수자들의 카테고리를 더욱 고착화하는 것이 있다. 안면인식 기술은 사람들의 얼굴을 수집하여 데이터베이스에 저장하고, 이를 향후 활용하는 원리로 움직인다. 동성애자의 안면인식 데이터를 수집해 성적 지향을 확정하는 과학 연구들, 혹은 가시적인 동성애자의 정보를 기반으로 한 성소수자 정책들은 결국 대중이 가진 ‘성소수자’라는 카테고리를 고착화한다. 그것은 결국 성소수자들에게 불리하게 작용하게 되는 것이다. 성소수자들에 대한 고정관념을 강화하고 분류하는 것 외에도, 성소수자들의 데이터를 통제와 감시의 수단으로 사용할 수 있기 때문이다.
“그것이 제공하는 우리의 가시성은 우리를 통제하고 감시하는데 사용될 것이다”
이 문제의식을 기반으로 무정형의 마스크가 생성되었다. 자크 블라소는 지역 워크숍에서 참가자들의 얼굴 데이터를 수집하여 ‘집단마스크’를 제작하였다. 이는 안면인식 기술이 탐지할 수 없는 마스크이다. 다양한 집단의 얼굴이 섞여 만들어진 ‘얼굴무기화 세트’라는 작품은 결국 인공지능의 불합리한 활용을 직접적으로 드러낸다. 그에 대한 저항으로 생성된 마스크를 통해, 인공지능 기술의 비합리성에 맞서는 인공지능 기술을 볼 수 있다. 이로써, 인공지능의 가치는 무엇을 통해 평가해야 하는지 한 번 더 생각해보게 된다. 알고리즘에 따라 정확히 움직이는 것은 인공지능이 당연히 추구해야 하는 바이다. 이런 알고리즘을 어떻게 설계할 것인지, 즉 인공지능의 활동에 가치를 부여하는 것은 결국 인간의 일이다. 인간이 인공지능을 통해 추구하는 가치에 주목해야 한다.
◇ 인공지능에서 인간의 빛을 찾는다는 것
현재 전 세계적으로 다양한 분야에서 인공지능을 채택하여 혁신을 꿈꾸고 있다. 인공지능은 인간의 모습이 담긴 동시에 기술적 우월성을 가지고 있기 때문이다. 인공지능은 우리 사회에 어쩌면 인간과 동등한 위치에 설 가능성이 충분하다. 사회구성원으로 보기는 아직 어렵더라도, 사회를 구성하는 지분은 상당하다는 것이다. 이에 따라, 인공지능에 반영되는 인간 가치의 중요성은 더욱 커진다. 우리가 인공지능을 바라보는 태도와, 그에 따라 활용하는 방식은 가치와 연결된다. 인간의 가치는 인공지능이 인간의 적이 될지, 긍정적인 도구가 될지를 결정한다.
사회 전반에 그 영향력이 점차 커지고 있는 만큼, 교육도 인공지능의 영향에서 자유로울 수 없다. 현재 인공지능은 교육과 점차 맞닿아 가고 있다. 인공지능 기술을 이용하여 학습을 지원하는 애플리케이션이 몇 년 전부터 인기를 끌고 있다. 교육부에서도 인공지능 기술이 활용된 수학 학습 프로그램을 개발하고 배포하였다. 단순한 기술의 활용이 끝은 아니다. 교육부는 고등학교 내 인공지능 과목 개설을 추진하고 있다. 또한, 올해부터 5년간 인공지능 융합교육 전문교사 5000명을 양성할 계획임을 밝히기도 하였다. 미래의 학생들은 인공지능에 익숙해지고, 그 기술을 활용할 역량이 필요함을 국가적 차원에서 보여준 것이다. 미래 교육은 인공지능 기술을 받아들일 준비를 하고 있다. 하지만 명심해야 할 것은, 인공지능의 방향과 가치에 대한 명확하고 바람직한 판단이 이에 포함되어야 한다는 것이다.
인공지능 활용 역량이 강화된 미래의 학생들이 만들어가는 미래사회는, 인공지능에 지배되지 않을까? 답은 인공지능과 인간에 대한 숙고에 달려있다. 인공지능을 이해하고 활용하는 역량은 중요하다. 하지만, 이때 인공지능과 관련된 가치는 무시하지 않는다는 조건이 선행되어야 한다. 인공지능은 여느 다른 기술과는 달리, 인간을 반영하고 있다. 인간의 고정관념, 한계, 오류 등이 인공지능에도 발생한다. 또한, 인공지능의 참된 가치는 인간의 가치에 의해 결정된다. 결국 중요한 것은 인간의 가치이다. 이를 인지한다면, 미래 세대에게는 인공지능 활용 역량과 더불어 가치 판단의 교육도 필수적임을 알 수 있다.
인공지능의 파괴적이고 극단적인 위협, 혹은 무조건적인 찬양보다 주목해야 하는 것이 있다. 인공지능은 현재 진행형이고, 결코 막을 수는 없다. 인공지능을 활용하는 인간의 판단과 가치, 그것이 우리가 앞으로 계속적으로 숙고해야 할 부분이다. 나아가, 인공지능에 투영된 인간의 모습을 발견하는 것은, 그 고민의 첫 발걸음이 될 것이다.