양날의 칼 AI, 진짜 민주적으로 통제하고 소유하는 법

AI는 하나의 앱이나 서비스가 아니다. AI는 거대한 산업으로 규정해야 한다. 이 앱과 서비스는 너무나 특별해서 전용의 특수한 알고리즘, 어머어마한 양의 학습데이터, 전력, 첨단 반도체칩, 발전소, 이 모두를 위한 새로운 산업단지와 건설부지, 그리고 돈이 있어야만 존재할 수 있다. 그래서 비유하자면 ‘카카오톡’ 이 아니라, 전용의 하드웨어, 배터리, 터치스크린 등등이 모두 하나로 집약된 ‘스마트폰’ 이라 부르는 게 더 적절하다.

또한 AI는 양날의 칼과도 같다. 우리가 매일 체감하는 놀라운 효율과 마법같은 새 기능들, 그 뒤에서 전 산업과 사회구조를 재편하고 빠르게 지구환경을 망가뜨리면서 자원과 인재, 공공 투자예산을 빨아들이고 있기 때문이다. 그래서, 지난해 서구권 5개 나라 1만명 대상 설문조사(Seismic report 2025)에서 무려 100%의 사람들은 이런 인식을 갖고 있다고 답했다. “우리 보다 후손은 AI로 인해 미래에 더 비관적인 세상을 살 것이다” 라고.

때문에, 우리시대 가장 중요한 화두는 이런 AI를 ‘어떻게 민주적으로 통제하고 소유할 것인가’ 이다. 지금은 구체적이고 적확한 해법이, 그리고 시민사회의 연대와 참여와 행동이 필요한 때이다.

미국에는 청소년들이 직접 모여 만든 <인코드(Encode)>라는 단체가 있다. 이들은 여러 AI 합리적규제와 법제도 캠페인을 성공적으로 전개 중이다. 가장 최근에는 <오픈AI 감시연대>를 만들어, AI 구루들과 노벨상 수상자 등을 모아, 공익소송을 제기했다. 최초에 비영리법인으로 설립된 <오픈AI>는 처음의 공익적 미션을 잊지 말고, 인류난제 해결에만 집중하라고. 성인대상 19금 챗지피도 만들지 말고, 불법적으로 학습데이터도 끌어오지 말고, 무엇보다 비영리 모법인을 절대로 영리법인으로 전환하려 하지 말라고. 실제로 이 모든 그릇된 행동을 했고, 법인격을 영리로 전환하려는 움직임이 있었으나, 소송 결과, 샘 알트먼 CEO는 마침내 ‘전환시도를 포기하고 공익적인 지배구조와 미션을 변함없이 유지해 나가겠노라’ 성명을 발표했다.

민주당 주지사들이 버티고 있는 뉴욕과 캘리포니아 주는 여기서 한 발 더 나아가는 중이다. 이들은 놀랍게도 지역의 자체 AI클러스터를 새로 구축하면서, 주립대학과 주정부, 그리고 비영리 공익재단 공동소유 컨소시엄으로 구축하기로 결정했다. 주정부 AI컴퓨팅자원 사용과 학습데이터셋 및 알고리즘 투명성, 환경영향 모두가 ‘공익성’ 을 최우선으로 향하게 하기 위해서다. 가장 먼저 구축돼 운영중인 뉴욕의 <엠파이어 AI>는 뉴욕주립대 버팔로캠퍼스에 있는데, 가까이 나이아가라 폭포로부터 재생에너지를 끌어와 구동된다. 그리고 발생하는 폐열도 캠퍼스 내에서 재사용될 수 있는 시스템을 도입 중이다. 뉴욕 주정부는 법으로 AI학습데이터셋의 출처와 종류를 투명하게 공개토록 규제했으며, AI 컴퓨팅 리소스도 시민을 위한 생명공학과 의학, 그리고 금융시스템 연구개발과 혁신, 시민 교육에 최우선적으로 쓰일 수 있도록 했다. 실질적인 소유주이자 이사회 구성원이 주립대학 및 비영리 공익재단이기에 가능한 결과다.

그러나 우리나라는 AI기본사회, AI민주주의, 인간중심AI 라는 담론과 방향을 설득설파하는 목소리가 높은 데 반해, 이러한 구체적 행동과 소유를 통한 AI 민주적통제는 법으로 금지되어 있거나, 정책으로 뒷받침 하지 않고 있다.
<인코드> 못지 않게 민주주의에 진심인, 우리 동네 은평구 예일여고 학생들은 내란을 반대하는 대자보를 게시했다는 이유로 학교로부터 제지와 징계를 받았고, 같은 동네 중학교 학생들이 직접 만든 풀뿌리언론 <토끼풀>은 학교측으로부터 불온문서 유포로 징계를 받았다. 불과 최근 2024년, 2025년에 일어난 일이다.
우리정부가 야심차게 추진중인 AI 대표 정책사업 <국가AI컴퓨팅센터>는 최근 낙찰자와 건설지가 확정됐는데, 지분율이 클라우드기업7 : 정부3 의 위태로운 영리기업 지배주주 중심 특수목적법인(SPC)로 설립됐다. 과연 공익성이 잘 지켜질 수 있을지 깊은 우려를 낳는다. 이는 이전 시대 스마트시티들이 모두 그렇게 시민사회와 비영리의 소유경영 참여가 배제된 채 구축됐던 결과의 영향이다. 스마트시티들은 대부분 기업 8: 정부2 혹은 10:0 으로 거의 모두가 민간 위탁처럼 구축되었다.

문제 해결은 늘 문제를 바로 보는 데서부터 출발해야 한다. 첫 단추를 잘 꿰고, 주춧돌을 단단히 놓지 않으면, 공든 탑은 늘 무너지게 마련이다. AI전환기는 이제 시작이다. 양날의 칼이 우리를 베고, 우리 후손들의 미래를 싹부터 없애기 전에, AI를 직접 시민과 공공이 소유하고 실질적으로 통제할 수 있는 정책과 법을 제안하고, 목소리를 모아내야만 한다. 그래야 비로소 AI는 멋진 공구, 맛있는 요리를 뚝딱 만들어 내는 명검으로 기능하게 될 것이다. 모두, 우리의 선택, 지금 당장의 생각과 작은 실천에 달려있다.

✍🏻 이재흥 | 시민기술네트워크 상임이사 · 국가인공지능전략위원회 위원
시민기술 활동가입니다. 7살 아들의 아빠이기도 합니다. 그런 나로, 그런 마음으로 하루하루를 살아가는 중입니다.

📚 칼럼과 함께 읽을 추천도서 바로가기
권력과 진보