[이세계 민주주의 교실⑤] AI 에포컬리즘과 민주주의
지구가 아닌 이세계에서 눈을 뜬 당신 앞에 주어진 과제는 '마법으로 드래곤 사냥하기'가 아닌, 평범한 사람들이 모여 공동의 문제를 해결할 '도구'로서의 정치체제를 만드는 것이었다. (☞연재 ①편 보기 : 트럭에 치여 이세계에서 눈뜬 당신의 정치적 선택은?)
'포스트 민주주의' 시대를 살아가는 지금의 청년들에게 민주주의는 어떤 의미인지, 세계의 청년들은 지금의 민주주의에 대해 어떻게 생각하고 있는지 알아보기 위한 일종의 사고실험이었다.
한 학기 동안 연세대 정치외교학과의 '민주주의론' 강의를 통해 이런 토론식 수업에 참여한 대학생들 중 일부는, 그 경험을 기반으로 현재 지구의 민주주의 상황에 대해 독특한 관점과 아이디어를 제기하기 시작했다.
네덜란드 라이덴 대학(Universiteit Leiden)의 교환학생인 레온 데 로 산토스 베립(León de los Santos Verrijp)와 연세대 정치외교학과의 박가영은 사회·기술적 진보와 발전을 긍정하며 도모하는 시대정신으로서 'AI 에포컬리즘'을 경계하면서, AI가 현대 민주주의 사회 발전에 기여할 수 있는 동시에 민주주의의 핵심적 가치를 위협할 수 있다고 지적한다.
특히 AI 준비도 국가 순위 7위에 해당하는 우리나라가 디지털 기술 요융 문제를 해결하기 위한 국제 표준 마련에 중요한 역할을 해야한다고 주장한다.
이는 <민주주의론> 수업에서 시대의 변화와 기술의 발전에 따른 민주주의의 변화를 고민했던 것과 연관된다.
대한민국 정치에서의 AI 개척: 전자민주주의를 향해서
AI (Artificial Intelligence. 인공지능)는 산업 자동화, 금융권에서의 사기 감지, 심지어는 대학에서 사용하는 프로그래밍 모듈에서의 ChatGPT(챗지피티) 의존성의 증가 등 다양한 방면에 있어 현대의 삶에 빠른 변혁을 불러왔다. 요는 최근의 기술 발달로 말미암아 비약적으로 성장한 컴퓨터 성능과 머신 러닝 등이 최근 정치, 사회, 경제 및 문화 부문에서의 AI 수행성에 편의를 부여했다는 사실에 있다.
지금의 우리는 AI 에포컬리즘(epochalism, 사회·기술적 진보와 발전을 긍정하며 도모하는 정신)에 사로잡혀 있다. AI 에포컬리즘은 가속화된 디지털화와 이에 대한 끊이지 않는 세간의 관심이 특징적인 것으로 알려져 있다. 다만 이와 같은 명제는 이 시대를 살아가고 있는 사람들이 향유하는 기술 중심적인 삶이 근시안적 사고방식을 유발하여 과거, 현재, 미래의 시간성에 대한 우리의 지각을 손상하는 가능성 또한 내재한다.
AI 에포컬리즘으로 인한 근시안적 사고방식은 과거 오랜 기간 동안 지속되어 현대의 민주주의적 가치관에 파급력을 가하는 차별, 불평등, 편견 등의 확산 양상을 은폐하는데, 이는 현대 민주주의적 삶에 대해 사회-기술적인 맥락에서 영향을 미칠 수 있다. AI의 긍정적 역량을 진정 활용하면서도 민주주의적 가치관을 지키기 위해, 우리는 AI 에포컬리즘의 제약을 초월하고 사회와 기술 사이의 정교한 관계성에 대한 세심한 검시에 임해야 한다.
이러한 AI와 민주주의의 교차점에 대해 끊이지 않는 관심을 보이는 것은 매우 중요한데, 현재 정치적으로 악용될 수 있는 딥페이크나 허위정보를 만들고 유포할 수 있는 AI에 대한 국제적 통제가 부족한 상황이기 때문이다.
AI와 민주주의의 연결점
AI의 현저성은 현대 민주주의 사회의 발전에 기여할 수 있는 동시 민주주의의 핵심적 가치에 위협을 가하는 양날의 검과 같은 영향을 미친다. AI는 유권자의 의견을 보다 접근 가능한 방식으로 수합해 대의 민주주의제의단점을 보완하는 방식으로 사회 참여에 대한 생산적인 기회를 부여한다. 또한, AI는 정치 추천시스템이나 소셜미디어 분석을 통해 민주주의적 삶의 가치에 대한 시민교육을 제공, 정치에 대한 이해를 돕는 데 용이하게 활용된다.
반면 AI는 선거와 관계된 갈등이나 폭력으로 이어질 수 있는 정치적 긴장을 유도하는 잘못된 정보를 생산해내는 도구로 이용될 가능성 또한 지닌다. 정치인들은 AI 네트워크 분석을 동원해 정치 마이크로-타겟킹의 방식으로 특정 청중에 접근해 투표를 유도 및 조작할 수 있다.
그러나 정치인들은 AI 생성기술에 취약하다. 정치인들이야말로, 딥페이크 이미지로 인한 스캔들로 정치 캠페인에 치명적 악영향을 입을 수 있는 잠재적 피해자들임에도 말이다. 이 허위 정보와 AI 언어 모델의 합성은 사기 행위를 유발하고, 결과적으로 민주적 기관에 대한 국가의 통치력에 대한 불신으로 이어진다. 마찬가지로, ChatGPT와 같은 생성 AI에 대한 높아진 의존도는 민주주의 원칙이 수호하는 직관, 자유의지, 그리고 자율성에 대한 시민의 자유를 침해하지 않는지 의문을 제시하는 것이 중요하다.
따라서 AI가 민주주의와 공존하기 위해서는 인간의 존엄성과 자율성을 유지하고 딥페이크 이미지와 허위 정보에 대한 규제가 우선시되어야 한다.
AI에 대한 한국의 접근 방침 프로토타입
뉴욕대학교에서 개최된 뉴욕 디지털 비전 포럼에서의 최근 기조연설에서, 윤석열 대통령은 AI의 탈정보화를 통한 AI의 악용 사례 확산를 자유민주주의에 대한 위협, 즉 민주적 시장 경제의 안정성을 해치고 나아가 민주사회의 미래를 위험에 빠뜨리는 현상으로 정의했다.
옥스포드 인사이트에 의하면 한국은 2023년 AI 준비도 국가 순위 설문에서 7위에 등극했는데, 이는 한국이 AI에 대한 규제와 행정 서비스에서의 AI 활용을 병행하고 있다는 사실을 의미한다.
실제로 한국의 과학기술정보통신부는 국무회의에서 ‘디지털권리장전에서 AI 규제 진척’을 보고했는데, 이때 궁극적인 목표인 AI 관련 국가 법률 제정을 위해 디지털 질서의 보편적 방향성에 대한 성문화된 헌장을 수반했다.
그러나 이처럼 적극적인 한국의 AI규제가 현시점에서 처음 탄력을 얻은 것은 아니다. 2019년 12월, 한국은 AI 전략 접근 방식을 개발하였으며 곧 AI 원칙에 대한 OECD와의 협상에 착수했다. 또한 코로나19 감염병 재난상황과 만연하던 경기 침체를 극복하고 디지털 전환을 가속화하기 위해 정부는 2020년 '디지털 뉴딜' 정책을 시작했다. 이때 한국은 유네스코가 2021년 하반기에 채택하게 될 AI 윤리 권고안의 발전에 기여하게된다.
그러나 가장 주목할 만한 한국의 혁신적인 전략은 ‘디지털 플랫폼 정부’로, 정부 산하의 많은 기관을 시민 주도의 운영 방식으로 전환해 AI 규제의 방법을 개척했다는 의의가 있다. ‘디지털 플랫폼 정부’는 본질적으로 투명하고 과학적인 정부로 거듭났으며, 빠르게 발전하는 디지털 기술이 제공하는 가능성을 온전히 동원하여 민간 부문의 성장을 빠르게 촉진할 수 있었다.
AI의 미래
시민 참여, 정치 문해력, 그리고 기술 혁신의 잠재적 촉진자로서의 AI는 허위정보의 동원 가능성에 의해 이중성을 띄게 되고, 이에 따라 강력한 AI 규제의 틀을 요구하게 된다. 국제사회는 한국의 AI 규제 접근 방식 프로토타입에서 배워야 하며, 이후의 기술 발전에 합응하는 지속적인 적응의 필요성 또한 인식해야 한다.
AI와 민주주의의 교차점에 대해 지속되고 있는 담론은 정책 입안자, 학자, 그리고 기술자 등에게 지대한 영향을 미치며, 기술 진보의 변혁적인 시류 속에서 민주적 가치를 수호하고자 하는 공동의 헌신을 요구한다.
우리는 중요한 시점에 놓여 있다. AI는 반영적이고 혁신적이며 민주적인 공공기관을 주도하는 힘이 될 수 있다. 하지만 우선 통치 기관들이 영구적인 AI 규제의 필요성을 강조하고, 디지털 기술 오용 문제를 해결하기 위한 국제 표준 마련에 협력하며 지속적으로 AI와 민주주의의 교차성에 대해 숙고하는 노력을 보여야 할 것이다.
송경호 박사는 정치사상 전공자이자 개념사 연구자로, 연세대학교 정치학과 BK21 '혁신 과학기술 시대의 정치적 문제 해결 교육연구단'에서 박사후연구원으로 재직하고 있다. 인공지능 빅뱅 시대에 대응하기 위한 인문학자들의 모임인 'AI Five'의 창립 멤버이기도 하다. 최근에는 인권, 민주주의, 기후위기, 인공지능, 정치(학)의 변화 등을 키워드로, 다양한 연구 및 집필활동을 이어가고 있다.
댓글 없음:
댓글 쓰기