가자, AI와 알고리즘이 데려다주지 않는 세계로

돌이켜보니 지난 몇달 사이 일하는 방식이 많이 바뀌었다. 기획의 시작 단계는 팀의 미션과 비전, 커뮤니케이션 원칙, 주요 사업계획과 마일스톤을 학습 시켜둔 커스터마이즈 봇과의 대화로 열어간다. 샘플을 만들 때는 레퍼런스를 일일이 찾기보다 최대한 구체적인 프롬프팅으로 풀어내고 AI로 출력하여 보여준다. 코드 한 줄 스스로 쓰지 않고도 필요한 업무 도구를 때마다 간단히 개발하여 사용할 수 있게 되었다. 우리같이 빠른 실험과 성장을 지향하는 소규모 팀에게는 반가운 변화다. 한편 주변에서 걱정과 불안, 또는 자조가 담긴 목소리를 듣는 일도 더욱 잦아졌다. 우리 이러다 전부 AI한테 대체되는 거 아니야? 모두의 마음 한 켠에 이 질문이 불편하게 자리 잡았음을 증명하듯 소셜미디어 피드와 대형서점 매대에서는 연일 ‘AI에게 대체되지 않는 일자리 TOP10’, ‘AI시대 인간다움이란 무엇인가’와 같은 제목의 컨텐츠들이 줄줄이 떠오르고 있다.

스스로 같은 질문을 던져본 적이야 있지만, 솔직히 크게 불안한 적은 한 번도 없었다. 그 이유의 중심축 중 하나는 비영리 생태계의 DNA에 있다고 생각한다. 엥, 뜬금없이 무슨 소리지? 싶다면 잘 찾아오셨다. AI와 알고리즘을 자세히 들여다보고, 배우고, 익힐수록 거듭 새롭게 발견하게 된 우리의 비밀 무기에 대해 알려드리고 싶었던 참이다. 놀랍게도 우리에게는… AI와 알고리즘이 데려다주지 않는 세계를 볼 수 있는 힘, 그리고 기꺼이 그 곳으로 향할 수 있는 힘이 있다.

AI 추천 알고리즘은 본질적으로 인게이지먼트 최적화(engagement optimization) 메커니즘에 의해 작동한다. 체류시간, 클릭률, 좋아요·공유 등 반응지표를 비롯한 유저의 행동 신호를 바탕으로 성향을 추론하고, 실시간으로 유사 콘텐츠를 큐레이션 및 노출하는 구조다. 같은 방향성 안에서도 더욱 자극적인 콘텐츠일수록 더 강한 반응을 이끌어내는데, 알고리즘은 이런 콘텐츠에 보상을 주는 방식으로 작동한다. 문제는 유저가 이러한 보상 루프 속에서 자신도 모르는 사이 조금씩 동질한 세계관에 갇히게 되고, 다른 시각과 의견을 접하기 어려운 무균실형 공간에 의존하게 될 가능성이 커진다는 점이다. LLMs(대규모 언어모델)에 기반한 대화형 AI도 마찬가지다. 별다른 장치가 없는 한, 유저가 특정한 의도와 방향성을 가지고 질문하면 긍정하는 방향으로 수렴되는 답변을 내놓는다. 유저가 보고 싶어하고, 듣고 싶어하는 세계관에 철저히 순응하는 논리와 메세지를 구성하여 제안하는 것이다. ‘감히’ 부정하거나 거절하지 않는다.

이러한 정보환경과 소통방식에 서서히 의존도가 높아진다면 어떤 일들이 벌어질까. 서로의 다름을 이해하거나 오해를 풀어가는 연습을 해볼 기회도, 다양한 사회적 갈등과 거절을 견뎌내는 내성도 확연히 줄어들 것이다. 자연히 나와 다른 배경이나 의견에 대한 면역력도 취약해진다. 무기력한 시민이 탄생하기 쉬운 구조가 만들어지는 것이다. 그러나 비영리 생태계의 문법은 정반대의 방식으로 작동해왔다. 다름을 탐구하고 이해하며 다양성을 포용하려는 의지, 우리 가운데 누군가 소외되거나 배제된 이는 없는지 점검하는 습관, 현재의 질서가 과연 최선인지 끊임없이 질문하며, 미처 발견하지 못했던 오류 가능성을 점검하고 수정하는 태도. 우리가 지향해왔던 일하는 방식과 고유한 가치는 AI와 알고리즘이 구성하는 세계에 쉽게 갇히지 않을 수 있는 기초적인 틀을 제공한다. 숙련이 빠른 사람, 정답을 잘 맞추는 사람에서 유효한 질문을 던질 수 있는 사람으로 인재상이 변화하고 있는 시대다. 그 가운데 우리는 비교적 좋은 질문과 상상력을 숙성시킬 수 있는 토대를 딛고 서 있다.

한편 AI시대에서는 생산성과 효율성이 최대의 덕목으로 기능한다. 어떻게 더 적은 비용으로 더 빠르게, 더 높은 효율을 낼 수 있는지가 모든 수행의 기본값이 된다. 기술 낙관주의자들은 이러한 발전이 점차 고된 노동으로부터 우리를 해방시키고 풍요로운 사회를 건설할 것이라고 말한다. 하지만 뭔가 이상하다. 기술이 압도적인 속도와 퍼포먼스로 업무 시간을 단축해주었다면, 지금 우리는 어느 정도 삶의 자유로움과 여유를 감각할 수 있어야 한다. 그런데 나날이 과부화와 번아웃을 호소하는 이들이 늘어가고 있다. 왜 그럴까. 절약한 시간을 또 다시 생산성 높은 일을 수행하는데 쓰면서, 사실은 우리 스스로를 충실히 기계화 하는데 동참해왔던 건 아닐까. 어쩌면 우리를 가장 인간답게 만드는 특성은, 기술의 효율이 벌어준 시간을 가장 ‘비효율적’이라고 여겨지는 일을 수행하는데에 씀으로써 발현될 수 있지 않을까 생각한다. 오랜 시간이 걸려도 몸으로 직접 부딪혀보며 터득하고, 틀리더라도 직접 판단해보고, 일부러 낯선 감각과 경험을 선택해보는 일.이 또한 비영리 생태계가 꾸준하고 끈기있게 추구해왔던 길과 맞닿아 있다. 수익과 비용만으로 측정되지 않는 사회적 가치를 감각하고 발굴하며, 더 널리 확산하기 위해 ‘왜 굳이 그렇게까지’ 하는지 묻게 되는 일을 기꺼이 수행하는 이들. 더디고 오래 걸리더라도 나란히 손잡고 함께 걷는 것의 본질적 힘을 알고 있는 이들. 그렇기에 좋은 삶, 좋은 시민, 좋은 공동체란 무엇인가라는 질문을 자주 숙고하고 토론하며 상상력을 잃지 않는 이들이야말로 생산성과 효율이라는 기준에 지배당하지 않고 진정 자유로운 주체로 살아남을 수 있을 것이라 생각한다.

세상이 0과 1만으로 굴러가는 것 같은 때에도, 0과 1사이 무한한 세계의 스펙트럼이 존재함을 볼 수 있고 이해할 수 있는 능력이 곧 우리가 가진 힘이다. 시장과 효율의 언어만으로 설명하기 어려웠던, 그럼에도 포기할 수 없었던 가치는 다른 차원의 세계를 구성하는 풍부한 감각과 상상력으로 연결될 잠재력을 가지고 있다. 과도기적 AI시대, 혼란 속에 부유하는 이들 앞에 비영리 생태계가 더욱 적극적으로 손 내밀고 말을 걸 수 있길 바란다. 가자, AI와 알고리즘에 데려다 주지 않는 세계로.

✍🏻 양소희 | 유난무브먼트 파운더
좋은 어른을 꿈꾸는 가능주의자. 정치와 민주주의란 최선의 사랑을 실천하는 도구라 여기고 있습니다. 지난 10년 간 전 세계 47개국을 오가며 기회 불평등 해소, 청년·여성 정치대표성 강화, 디지털민주주의를 주제로 다양한 국제협의체에 활발히 참여해왔습니다. 각자도생이 우리의 시대정신일 수는 없으니까, 서로를 좋은 어른이자 시민으로 키워가는 공동체를 만들고자 유난무브먼트를 설립했습니다. 요즘은 AI시대 주체적 시민성 강화, 테크노크라시에 대항하는 디지털권리 담론 설계, 민주주의 회복탄력성의 글로벌 확산에 관심이 많습니다. 현재 대통령 직속 국가인공지능전략위원회 자문위원, 잘츠부르크글로벌 아시아정책리더십포럼 테크·소셜부문 초대 펠로우를 역임하고 있습니다.

📚 칼럼과 함께 읽을 추천도서 바로가기
감시자본주의 시대