AI의 영향력과 인류의 과제 진단

1부 강연은 정치학자 김지윤 박사가 유발 하라리와 대화를 나누는 방식이었다. 먼저 김 박사는 AI가 인류에게 어떤 방식으로 영향력을 행사하고 있다고 보는지 상세한 설명을 요청했다. 질문을 받은 유발 하라리는 먼저 “권력이 사람에서 AI로 옮겨가고 있다.”라고 말했다. 이유는 권력이 ‘편집’에서 기인하기 때문인데 그는 “사람들에게 어떤 정보를 전달할 것인지를 결정하는 것이 편집자의 역할인데, 이렇게 공론을 정하는 역할을 이제 AI가 맡고 있다.”라고 말했다. AI로 만들어진 알고리즘이 온라인에서 분노, 탐욕, 공포, 증오 등이 담긴 특정 콘텐츠를 우선적으로 노출하는 것은 편집자로서 대중에게 큰 영향력을 행사하는 것과 유사하다는 시선에서다. 그러면서 그는 인간 사회는 서로 이야기를 진지하게 주고받는 ‘대화’를 통해 쌓이는 신뢰에 기반하는데, 이처럼 중요한 대화가 불가능으로 치닫고 있고, 점차 사람들이 공동체보다 AI를 신뢰하는 것에 큰 우려를 표했다. 아울러 유발 하라리는 여러 기업가, 정치가, AI 기술 선도자가 자신에게 ‘여러 규제를 고려하면 경쟁에서 뒤처지기에, 설령 위험하다고 하더라도 나만 멈춰있을 수는 없다’라고 말한 일화를 들려줬다. 유관해서 그는 “AI가 무엇인지, 역사적으로 인류에게 어떤 영향력을 행사할 것인지 깊이 생각해봐야 한다.”라고 강조했고, AI는 다른 기술과 다르다고 짚었다. 이유는 AI가 ‘자기주도적인 에이전트’라는 데 있었다. 인쇄술, 산업혁명, 핵폭탄을 보면 인간이 개발했고, 추진했고, 떨어뜨렸다. 반면, AI는 개발, 추진, 발사라는 ‘목표’에 도달하기 위한 과정을 스스로 결정한다. 가령 AI에게 거짓말을 하라고 명령하지 않아도, 목표를 달성하는 데 있어서 거짓말이 필요하다면 AI는 그 선택을 스스로 한다. 여기에 ‘창조’까지 더해진 것이 바로 유발 하라리가 보는 AI다.

"AI는 사람들에게 어떤 정보를 전달할 것인지

‘결정’하는 편집자로서 영향력을 확장하고 있다.

이렇게 공론을 결정하고 있는 AI를 보며 사람은

‘인간의 길’을 걸어가기 위한 역량을 개발해야 한다."

다음으로 김 박사는 우리가 정보를 받아들이는 태도는 어때야 하는지, 어느 정도의 검열이 필요한 것인지 물었다. 이에 관해 유발 하라리는 “정보가 진실은 아니며 우리가 접하는 정보 중 진실은 극히 일부.”라고 말했다. 진실은 근거를 확보해야 해서 만드는 데 돈이 많이 들고 복잡하고 고통을 주며, 그렇기에 쾌락적 허구를 만드는 게 더 쉽다는 이유에서다. 이어서 그는 인간의 표현의 자유를 침해하는 것은 옳지 않고, 우리가 제어해야 할 것은 알고리즘이니 이 알고리즘을 만든 기업에 책임을 묻는 것으로 정보를 검열해야 한다고 말했다.

추가로 김 박사는 미래를 살아가기 위해 청년들은 무엇을 준비해야 하는지 물었다. 질문을 경청한 뒤 유발 하라리는 “AI는 미래를 예상하는 것을 불가능하게 하며 이는 미래에 우리가 어떤 능력이 있어야 생존할 수 있는지를 가늠하지 못하게 한다.”라고 진단했다. 따라서 그는 끊임없이 배움을 추구하는 태도와 이것을 가능하게 만드는 유연성을 갈고 닦아야 한다고 제언했다. 그리고 그는 “인간의 역량을 세 가지로 구분하면 글을 읽고 쓰는 ‘지적인 역량’, 사람들과 관계를 맺는 ‘사회적 역량’, 몸을 움직이는 ‘운동역량’이다.”라며 청년들이 언급한 역량을 습득하길 희망했다. 연장선에서 그는 사례를 공유했는데 단순히 의료 기록만을 보고 환자를 진단하는 의료인들은 AI에 대체될 수 있다. 그러나 의료 지식을 가지고 있으면서 환자와 사회적인 관계를 잘 맺을 줄 알고, 각종 의료기기를 막힘 없이 다룰 수 있는 의료인들은 AI가 대체하기 어렵다. 후자가 바로 유발 하라리가 보는 AI시대를 살아가기 위한 인재의 자격이었다.

AI시대, 교육의 역할과 사람다움

2부에선 전병근 북클럽 오리진 대표와 강연아 연세대학교 융합인문사회과학부 교수가 패널로 참여해 유발 하라리와 다양한 관점에서 대담을 나눴다. 먼저 강 교수는 변화의 속도가 빨라지는 가운데, 교육은 미래 사회를 위해 어떤 역할을 해야 하는지 물었다. 이에 관해 유발 하라리는 “인간의 적응력은 높지만 무기체인 AI와의 경쟁에선 뒤처질 수밖에 없고, 이런 상황에서 젊은 세대는 더 빠르게 나아가려고 할 것.”이라며 “교육의 역할은 사람들이 쉬어야 할 때 쉴 수 있게 해주는 것.”이라고 답했다. 그가 말한 쉼은 잠을 자고 소화하는 생존의 시간과 더불어 타인과 감정을 나누고, 대화하고, 현재를 의식하는 것을 포함했다. 전 대표는 미국과 중국의 AI 패권 경쟁이 어떤 결과를 맞아야 미래 사회에 유리할지 물었는데 이 질문에 유발 하라리는 “우리가 개발해야 하는 것은 ‘선의의 AI’이며, 역사적으로 엄청난 기술적 장점을 누군가가 독점하면 끝이 좋지 못했다.”라고 말했다. 따라서 그는 “앞으로 AI 역량이 높은 나라와 그렇지 않은 나라의 간극은 그 전의 기술 역량 간극보다 더 클 것이기에 일부 국가의 독점을 막기 위해 작은 국가들이 힘을 합쳐야 한다.”라고 진단했다. 추가로 전 대표는 인간은 글을 통해 다른 사람들과의 공감을 확대했는데, AI가 글을 쓰게 되면 어떤 영향이 생겨날지 물었다. 질문을 받은 유발 하라리는 “그동안 우리는 책에 직접 자신의 고민을 담은 질문을 건넬 수 없었고, 그렇기에 그 책을 쓴 전문가를 찾아가 질문했는데 이것이 전문가라는 존재에게 힘을 실어준 배경이다.”라고 말했다. 따라서 유발 하라리는 “AI가 글을 쓰면 AI에게 권위가 옮겨간다고 보면 될 것이다.”라고 정리했다.

계속해서 강 교수는 AI 시대에서 인간다운 삶의 핵심은 무엇이라고 생각하는지 물었다. 질문을 들은 하라리는 우선 “관계가 가장 중요할 것.”이라고 말했다. 이유에 관해서는 “우리는 언어를 통해 상대방에게서 의식의 존재를 인식했는데 AI는 언어를 잘 구사한다는 측면에서 온라인에서는 AI와 사람을 정확히 구분하기가 매우 힘들다.”라고 말했다. 그러므로 그는 “의식이라는 고차원적인 지능을 우리가 체감하고 파악하는 것이 더 중요해질 것.”이라고 내다봤다. 이 대답을 들은 전 대표는 사람들이 오히려 오프라인과 아날로그를 추구하는 경향이 커질 것이라고 예상하는지 물었다. 이에 관해 유발 하라리는 “앞으로의 일을 정확히 예측할 순 없지만, 인간의 의식은 전신에 퍼져 있고, 그 의식은 육체적인 경험에서 인식할 수 있다.”라면서 자신의 경험을 털어놨다. 유발 하라리는 명상을 즐기는데 명상의 기초는 호흡에 집중하는 것이다. 유관해서 그는 “작은 순간에도 과거의 일은 물론 미래의 걱정이 끼어들어서 몰입하기가 참 어렵다.”라고 털어놓으며 “현재를 느끼려면 오프라인에서의 육체적인 감각과 경험이 필수적이고 그것이 우리의 근본적 감각.”이라는 통찰을 전했다.

여느 기술과 마찬가지로 AI는 명과 암이 공존한다. 그렇기에 사람은 AI와 공존하며 살아갈 수 있는 ‘지속 가능성’ 확보에 집중해야 한다. 이때 나침반이 되어 줄 유발 하라리의 당부는 “인간이 진실을 좇고, 더 나은 인간이 되고자 노력하면 AI도 더 나은 AI가 될 것.”이다. 그야말로 이번 강연은 사람은 어느 시대든 더욱 사람다워지기 위해 노력해야 함을 알려준 시간이었다.