AI 시대의 인간 선언: 기술의 풍요를 앞서는 인간성의 의지
권오현 사회적협동조합 빠띠 이사장
10년 전, 한 비영리 컨퍼런스의 말미에서 저는 “자본과 기술의 쌍 태풍이 곧 몰려 온다”며 “겨울을 준비하자”는 이야기를 했었습니다. 당시 비영리 생태계의 기술 격차를 해소하려는 사회적 기업을 운영하면서 동시에 시민 민주주의를 확장하는 디지털 민주주의 활동을 시작한 입장에서 느꼈던 가장 큰 위기감은 자본과 기술이 가져 올 충격이었습니다. 인공지능 시대의 초입에 선 지금은 그 때의 위기감이 실현이 되었다는 감각을 넘어, 그 누구도 예측하지 못하는 문명적 전환기를 마주한 느낌입니다. 이는 우리가 지금 다음 네 가지의 본질적인 위기를 겪고 있기 때문입니다.
첫째는 탈진실의 위기입니다. 생성형 인공지능이 쏟아내는 생성물은 사실의 토대와 함께 사회적 신뢰자본을 무너뜨립니다.
둘째는 비의존성의 위기입니다. 기술 시스템이 인간의 필요를 즉각 해결해 주면서, 인간은 서로에게 기대는 상호 의존을 해체하고 시스템에 예속되며 고립되고 있습니다.
셋째는 다양성의 상실입니다. 단 몇 가지의 생성형 인공지능이 인간의 창작물이 아닌 스스로의 생성물을 반복 학습하며 정보의 외연이 좁아지고 소수자의 목소리는 지워지며 모델이 붕괴하는 현상은 인류가 축적해 온 지식마저 잠식하고 있습니다.
마지막으로 독점과 배제, 그리고 무기력입니다. 독점을 달성한 기술 권력은 자신 외의 모두를 배제하며, 유권자, 소비자, 노동자로서의 힘이 줄어든 대중은 거대한 기술 권력 앞에 스스로 변화를 만들 수 없다는 깊은 무기력에 빠져 피할 수 없는 문제를 해결할 가능성을 소멸시킵니다.
이 위기 앞에서 우리는 변화에 대한 적응을 넘어 새로운 사회를 상상하는 인간 선언이 필요합니다. 그리고 이 과정에 공익 활동가들의 역할은 매우 중요합니다.
먼저 우리는 인간의 욕망을 통제 불가능한 상수로 간주하는 테크노크라트의 관점을 경계해야 합니다. 테크노크라트들은 압도적인 기술적 풍요만이 욕망하는 인간이 야기하는 갈등과 위기를 해소할 수 있다고 주장합니다. 그러나 인간은 욕망하는 기계가 아닙니다. 인류는 풍요롭지 않은 시기에도 서로 의존하는 선한 의지를 통해 스스로의 지속가능성을 증명해 왔습니다. 첨예한 갈등의 빈자리를 메우고 개개인을 압도하는 위기를 극복하는 비결은 압도적인 생산물이 아니라 인간 집단 사이의 신뢰와 협력이었고 소수 인간의 헌신이었습니다.
1. 내실의 재구성 – 디지털 주권과 상호의존성의 복원
새로운 사회는 인간이 상호 의존하는 선한 존재라는 믿음에서 출발합니다. 이를 위해 공익 활동가들은 우선 다음 두가지 내실을 확보해야 합니다.
첫째, 디지털 주권의 확보입니다. 인공지능이 기계적인 데이터 복제로 지식의 다양성을 훼손할 때, 공익 활동가가 기록하는 ‘현장의 진실’과 ‘소수자의 목소리’는 이를 구원할 오리지널리티가 됩니다. 정제된 데이터가 놓치는 고통의 기록과 소수자의 경험을 누구의 소유도 아닌 모두의 자산인 디지털 커먼즈로 만들어 사회에 환원해야 합니다. 이를 통해 우리는 기술 권력에 저항할 지식의 주권을 가질 수 있습니다.
둘째, 상호의존성의 회복입니다. 기술적 자립보다 ‘불편하지만 서로를 돕는’ 인간적 신뢰망을 우리 사회의 핵심 원리로 설정해야 합니다. 이는 활동가의 일터에서부터 증명되어야 합니다. 혁신적인 기술 도입으로 확보한 여유의 시간은 더 많은 일이 아닌, 동료와의 대화나 시민과의 만남에 재투자해야 합니다. 기술에 잠식되지 않고 활동가가 주도권을 쥐는 인간 중심의 업무 환경은 우리가 지향해야 할 존엄한 노동의 모델이 될 것입니다.
2. 구조의 전환 – 디지털 시민권과 전 사회적 연대
내실을 바탕으로 공익 활동가들은 이제 사회 구조에 대해 개입해야 합니다. 우리는 기술을 주어진 환경으로 수용하지 않고, 설계 단계부터 공익성을 관철하는 디지털 시민권을 행사해야 합니다. 알고리즘의 편향성을 감시하고 윤리적 영향을 통제하는 민주적 거버넌스를 만들고, 기술의 생애주기 전반을 시민과 당사자가 통제하고 결정하고 소유하는 민주적 AI를 구현해야 합니다.
민주적 AI를 통해 데이터 수집부터 모델 설계, 이익 배분에 이르는 전반에 시민의 통제와 소유가 확립될 때 기술과 기술로 인한 혜택을 모두가 누릴 수 있게 됩니다. 공익활동가들의 연대는 이러한 민주적 AI 운동을 포함해 디지털 기술이 해체하고 고립시킨 인간을 연결하고 사회 전반의 포용력을 복원하는 사회 통합 운동으로 확장되어야 합니다. 테크노크라트가 간과한 ‘인간의 선한 의지’를 조직화하고, 효율성 너머의 ‘인간 존엄’을 최우선 가치로 설정하는 활동가들이 새로운 시대를 여는 운동에 앞장 서야 합니다.
결론: AI 시대, 선한 인간들이 만드는 지속가능한 풍요
우리가 기술을 통해 궁극적으로 만들려는 사회는 누구도 배제되지 않으며, 서로 협력하고 신뢰하는, 풍요롭고 지속가능한 공동체입니다. 기술 시스템이 고도화될수록 그 안을 채우고 움직이는 영혼은 타인의 고통에 공감하고 공동체적 가치를 실천하려는 ‘선한 인간’의 의지입니다.
지식의 뭉개짐 속에서도 진실을 가려내고, 보이지 않는 존재를 찾아내는 감각을 지닌 주체들이 더 많이 필요합니다. 공익 활동가는 단순히 기술 변화에 적응하는데 매몰되어서는 안 됩니다. 지금까지도 공익 활동가는 인간의 상호의존성을 믿고 ‘인간의 길’을 내어온 설계자이자 개척가입니다. 커다란 기술 변화 앞에서도 인간 존엄을 향한 공익 활동가들의 인간 선언이 기술이 가져올 풍요가 모두가 함께 행복한 미래로 이어지도록 이끄는 이정표가 될 것입니다.
[개념 정리]
● 모델 붕괴 (Model Collapse): 생성형 AI가 자체 생성한 데이터를 학습하며 정보 다양성이 사라지고 지식의 질적 저하가 발생하는 현상.
● 테크노크라트 (Technocrat): 사회 문제를 과학 기술과 전문 지식으로 관리할 수 있다고 믿는 기술 관료. 기술적 풍요가 인간의 본질적 문제를 해결할 수 있다고 가정함.
● 디지털 주권 (Digital Sovereignty): 데이터 및 기술 인프라에 대한 개인과 공동체의 자기 결정권.
● 디지털 커먼즈 (Digital Commons): 공익을 위해 누구나 접근하고 기여할 수 있으며, 공동으로 관리되는 데이터 및 기술 자산.
● 디지털 시민권 (Digital Citizenship): 기술적 의사결정 과정에 시민이 참여하고 책임을 묻는 권리.
● 민주적 AI (Democratic AI): AI의 설계, 데이터 수집, 배포 및 이익 배분 전 과정에 시민적 숙의와 민주적 거버넌스를 적용하는 체계.
✍🏻 권오현 | 사회적협동조합 빠띠 이사장
시민들이 대화하고 행동하는 디지털 시민 광장 빠띠의 대표이자, 코로나19 시절 공적 마스크 앱을 제안하고 구현한 시민 개발자들의 커뮤니티 코드포코리아의 오거나이저다. 비영리 기술 격차를 해소하기 위해 만든 UFOfactory는 슬로워크와 합병하여 오렌지레터와 스티비를 만들었고, 지금은 다시 독립하여 원스톱 디지털 전환 솔루션 믹스온을 보급하며 더 나은 디지털 전환(사회적 가치를 실현하고, 적정 수준의 기술을 활용하며, 정의로운) 캠페인을 벌이고 있다. 국가인공지능전략위원회의 AI 민주주의 분과와 행정안전부 사회연대경제민간자문단 위원으로도 활동 중이다.
📚 칼럼과 함께 읽을 추천도서 바로가기
대량살상 수학무기
공유의 비극을 넘어
AI 제국
수도승과 로봇 시리즈