21세기를 위한 21가지 제언 1, 알고리즘에 넘어간 인간의 권위, 되찾을 수 있을 것인가?

에이코 승인 2021.03.25 21:27 의견 0

[에이코(Ai Economy)=민경미 기자] 코로나19로 4차산업혁명시대, 인공지능시대가 5년은 앞당겨졌다고 전문가들은 이야기한다.

이제 언택트, 비대면이라는 말은 너무나 식상한 혹은 진부한 표현이 된지 오래다.

메타버스나 뉴노멀이라는 말도 심심찮게 들린다.

언택트란 접촉하지 않는다는 말이다.

기술의 발전을 통해 점원과의 접촉 없이 물건을 구매하는 등의 새로운 소비 경향을 말하기도 한다.

비대면도 마찬가지다.

서로 얼굴을 마주 보고 대하지 않는다는 의미다.

메타버스는 웹상에서 아바타를 이용해 사회, 경제, 문화적 활동을 하는 것을 말한다.

가상 세계와 현실 세계의 경계가 허물어지는 것을 뜻한다.

뉴노멀은 시대변화에 따라 새롭게 부상하는 표준이다.

경제 위기 이후 5∼10년간의 세계경제를 특징짓는 현상을 말한다.

불과 2019년까지만 해도 이런 단어는 낯설었다.

그러나 이제는 세상이 바뀌었다는 걸 인정해야 살아남는다.

그렇다면 우리는 달라진 세상에서 무엇을 준비해야 할까? 4차산업혁명과 인공지능에 대해 장미빛 미래를 예언하는 사람들도 있다.

하지만 빛이 있으면 그늘도 있는 법이다.

세계적인 석학으로 떠오른 유발하라리는 '21세기를 위한 21가지 제언'을 통해 미래의 어두운 면을 조망했다.

아무도 드러내놓고 말하고 싶지 않은 부정적인 것을 양지로 이끌어내야 우리는 그것에 대해 논의할 수 있다.

어둠이 꼭 부정적인 것만은 아니다.

어둠 속에서 우리는 휴식을 취하고 내일을 향해 나아갈 수 있기 때문이다.

우리가 처한 상황은 정보기술과 생명기술 분야의 혁명이 빠르게 이뤄지고 있는 시대다.

이런 시점에서 자유주의는 신뢰를 잃고 있다.

'21세기를 위한 21가지 제언'에서 저자 유발 하라리는 빅데이터 알고리즘은 모든 권력이 소수 엘리트의 수중에 집중되는 디지털 독재를 만들어낼 수 있다고 경고한다.

정보기술과 생명기술을 합친 힘은 수십 억 사람들을 고용시장에서 밀어내고 자유와 평등까지 위협할 수 있다.

우리 앞에 놓인 새로운 도전들을 검토하면서 자유민주주의의 한계를 이해하고, 어떻게하면 지금 상황에 맞게 개선할 수 있을지 탐구할 필요가 있다.

산업혁명의 격동이 20세기의 이데올로기를 낳은 것처럼 생명기술과 정보기술 혁명을 맞이해서도 새로운 청사진이 필요하다.

앞으로 10년은 자아성찰과 새로운 사회-정치 모델 구상이 두드러지는 시기가 될 것이다.

실직의 위협은 정보기술과 생명기술이 합쳐지면서 증폭된다.

우리가 보호해야 할 궁금의 목표는 사람이지 일자리가 아니다.

사람을 돌보는 능력과 창의성은 자동화가 넘기 힘든 장애물이다.

높은 실업률과 숙련 노동력의 부족이 동시에 닥칠 수 있다.

많은 사람이 19세기 마차 몰이꾼이 아닌 말의 운명을 맞을 수 있다.

새 일자리가 사라진 일자리를 메워줄 거라고 가정하는 것은 위험하다.

정부가 개입해 평생 교육 분야를 보조하고, 전직 기간에 사회 안전망을 제공해야 한다.

인류의 상당 비중이 고용 시장에서 밀려난다면 사회, 경제, 정치를 위한 새로운 무대를 탐구해야 할 것이다.

컴퓨터와 알고리즘은 생산자일 뿐만 아니라 고객으로도 작동하고 있다. 광고사업에서 중요한 고객은 사람이 아닌 구글검색 알고리즘이다.

우리가 집중해야 할 것은 사람들의 기본적인 필요를 충족시키고 사회적 지휘와 자존감을 보호하는 일이다.

보편 기본 지원은 자국에나 가능하다. 개도국에게까지 갈까? 보편 기본 지원이 주관적으로 만족하거나 사회적 불만을 막으려면 스포츠에서 종교에 이르기까지 다른 의미 있는 추구에 의해 보완돼야 할 것이다.

유발 하라리의 말처럼 우리는 키워드에 신경을 쓰면서 블로글나 인스타에 글을 올린다.

구글이나 네이버가 혹은 다음이 자사의 알고리즘으로 알아서 한다고 하는데 글쎄

플랫폼 회사들이 알고리즘에게 핑계를 대면 얼마나 편한가

고객들은 항의할 수도 없다.

이미 우리는 알고리즘에 길들여지고 있는 것 같다.

​보편 기본 지원에 대해서 말이 많이 나오고 있다. 빌 게이츠가 맨 처음 제안한 것이라고 하는데 지금 우리나라에서도 정부지원금이 나온다.

보편 기본 지원과 비슷하다고 보면 될까? 사람은 절대적 빈곤보다 상대적 빈곤에 더 좌절 한다는데 보편 기본 지원을 받더라도 소득의 양극화가 생기면 사람들은 분노하지 않을까?

1980년대 전두환 대통령 시절 3S를 밀었다. 3S는 스포츠, 섹스, 스크린이다. 그 당시 TV는 지금보다 더 재밌었던 기억이 난다.

MBC청룡 야구단 옷을 입은 아이들이 동네에 꽤 많았었다. 독재 정권은 그렇게 국민들의 시선을 다른 곳으로 돌린 것이다. 보편 기본 지원 시대가 된다면 또 다시 국민의 불만을 다른 곳으로 돌릴만한 무언가가 나올 것 같다.

​인간의 권위가 알고리즘으로 옮겨가는 것을 걱정해야 한다. 국민투표와 선거는 인간의 느낌에 관한 것이지 이성적 판단에 관한 것이 아니다.

마음에 대한 의존은 자유민주주의의 아킬레스건으로 드러날지 모른다. 인간의 마음을 해킹해서 조작하는 기술을 얻게 되면, 민주 정치는 감정의 인형극으로 돌발할 것이다.


컴퓨터 알고리즘은 감정, 직감이 없다. 위기의 순간에도 윤리적 지침을 인간보다 더 따를 수 있을 것이다.

인간은 위기의 순간에 처하면 철학적 견해는 잊고 자신의 감정과 직감에 따르기 일수였다. 자율주행차가 처한 가장 큰 문제는 기술일까?

아니다. 윤리문제다.

위기의 순간에 나를 구할 것인지 아니면 상대방을 구할 것인지가 문제인 것이다. 유발 하라리는 명쾌한 해답을 내놨다. 테슬라 박애주의자와 테슬라 에고이스트를 놓고 선택은 소비자가 하라는 것이다. 자율주행차의 트롤리 문제를 소비자에게 떠넘긴 것이다.

로봇의 문제는 인간 주인의 본성에서 비롯하는 어리석음과 잔혹이다. 빅데이터 알고리즘이 미래 빅브라더의 힘으로 사용될 수 있다. 모든 개인이 끊임없이 관찰 당하는 오웰적인 감시체계에서 살게 될 수도 있다.

AI(인공지능) 덕분에 막대한 양의 정보를 중앙에서 모두 처리할 수 있다. 알고리즘이 우리를 잘 알게 되면 권위주의 정부는 시민들에게 절대적 통치권을 행사할 수 있을 것이다.

민주주의는 새로운 형태로 재탄생하지 않으면 인간은 디지털독재 안에서 살게 될 것이다. 여성이나 흑인같은 특정 집단을 차별했을 때 해당 집단은 조직화해서 항의할 수 있다. 하지만 알고리즘은 당신을 개인적으로 차별할 수 있고 이유조차 알 수 없다.

총리와 CEO가 내리는 결정은 AI가 작성할 것이다. 인공지능이 의식을 얻을 거라고 가정할 이유는 없다. 해커들은 개인 유권자의 데이터를 분석해 기존 선입견을 악용해 조종하는 법을 알아냈다.

그런 결과를 피하려면 인공지능 개선에 투자하는 돈과 시간만큼 인간의식을 증진하는 데 돈과 시간을 투자하는 것이 현명하다.

우리는 인간적 잠재력이 무엇인지 모른다. 인간 부유층이 자신의 능력으로 부를 더 늘리고, 육체와 두뇌까지 증강할 수 있게 되면, 시간이 갈수록 빈부격차는 더 커질 것이다. AI의 부상과 생명공학이 결합되면 인류는 소규모의 슈퍼 휴먼 계층과 쓸모없는 호모 사피엔스 대중의 하위 계층으로 양분될 수 있다.


모든 부와 권력이 소수 엘리트의 수중에 집중되는 것을 막고 싶다면, 데이터 소유를 규제하면 된다. 구글, 페이스북, 바이두, 텐센트 같은 데이터 거인들은 우리의 '주의'를 사로잡아 우리에 관한 막대한 양의 데이터를 모으는 게 목표다.

인기 많은 앱이 사업 모델로는 부적격이고 단기적으로 손실을 초래할 수 있지만, 데이터를 받아들이는 것으로 보면 그 가치는 수십억 달러에 이를 수 있다. 이상과 같이 우리 시대가 당면한 기술적 도전에 대해 알아봤다.

'데이터 소유를 어떻게 규제할 것인가?'는 우리 시대의 가장 중요한 정치적 질문이 될 수 있다. 2부에서 이를 살펴보도록 하겠다.

저작권자 ⓒ 에이코, 무단 전재 및 재배포 금지