프로메테우스는 그리스 신화에서 인간에게 불을 주어 문명을 시작하게 해 준 상징적 존재이다. 경제학자 밀턴 프리드먼은 지금 이 시기가 인쇄기의 발명, 과학 혁명, 인터넷의 등장과 같은 시기라 말하며, 이런 프로메테우스의 시기에 인간은 새로운 기술을 이용해 자신의 능력을 증폭시킬 수 있고, 신기술이 제공하는 낮은 비용으로 인해 누구나 그 기술을 사용할 수 있게 되면서 민주화, 곧 인간의 상향 평준화가 일어난다고 말한다.

이는 인쇄기, 과학학명, 인터넷, 챗GPT에 모두 적용되는 적절한 통찰로 보인다.

그러나 문제는, 이런 강력한 기술은 끔찍한 무기가 될 수 있다는 점이다. 프리드먼은 이를 원자력 기술에 비하며 기업과 정부, 학자들이 모두 모여 이 문제를 위한 연대를 만들어야 된다고 말한다. 

역사학자이자, 사피엔십(Sapienship-사회적 영향력을 목표로 하는 회사)의 창립자인 유발 하라리가 뉴욕타임즈에 실은 ‘파란 약과 빨간 약을 여전히 고를 수 있다는 착각’이라는 칼럼을 통해 챗GPT의 문제점을 이야기 하고 있다. 다음은 칼럼에서 인용한 내용중 일부이다.

당신이 비행기에 타려는데, 그 비행기를 설계한 엔지니어 가운데 절반이 그 비행기가 추락해 탑승객 전원이 숨질 확률이 10%라고 알려준다면, 당신은 그래도 비행기를 타겠는가?
지난해 인공지능을 개발하는 주요 회사의 과학자, 연구진 700명 이상을 대상으로 미래에 인공지능이 초래할 위험에 관한 설문조사가 있었다. 조사에 참여한 응답자 가운데 절반은 미래의 인공지능 시스템 때문에 인류가 멸망하거나 그와 비슷하게 영원히 힘을 잃게 될 가능성이 10% 혹은 그 이상이라고 답했다. 지금 이 순간 거대언어모델(LLM)에 매달린 테크 기업들은 추락할 확률이 10%인 비행기에 인류를 전부 다 태우려 하고 있다.
제약회사들은 엄격한 안전 검사를 이중, 삼중으로 거치지 않고서는 신약을 절대로 사람들에게 팔 수 없다. 챗GPT-4에 탑재된 인공지능 시스템과 그 기반 기술도 마찬가지여야 한다. 우리 문화가 기술을 받아들이고 그로 인한 변화에 적응하기도 전에 이 기술이 수십억 명의 목숨과 얽히는 일은 막아야 한다. 시장을 선점, 장악하기 위해 벌이는 치열한 경쟁의 속도에 맞춰 이 기술이 아무런 제약도 없이 배포돼선 안 된다. 
인공지능이라는 유령은 잠재적으로 인류를 위협할 수 있는 존재로 그 위협은 어디까지나 공상과학 소설에 나올 법한 먼 미래의 일이었다. 이 문제를 진지하게 논의하는 과학자나 정치인은 많지 않았다. 인간의 지성으로는 GPT-4나 비슷한 인공지능 시스템의 역량을 정확히 파악하기도 쉽지 않다. 더구나 인공지능은 빠르게 더 강력한 능력을 갖춰 나가는데, 이 개발 속도를 따라잡기는 더 힘들다.
이야기와 멜로디, 이미지, 법, 정책을 비롯해 온갖 도구 대부분을 인간이 아닌 지능이 만들어놓은 세상에서 인간으로 산다는 건 무슨 의미가 있을까? 인공지능은 인간보다 뛰어난 효율성을 발휘해 편견과 중독에 취약한 인간 지성의 약점을 공략해 우리를 손쉽게 뛰어넘을 것이다. 이미 인간은 체스와 같은 게임에서 컴퓨터를 이기지 못한다. 그런데 만약 체스에 그치지 않고, 예술, 정치, 종교에서도 인간이 기계를 넘지 못하면 어떻게 될까?
인공지능은 우리가 지난 수천 년간 만들어낸 인간의 문화를 순식간에, 통째로 집어삼킬지 모른다. 집어삼킨 문화를 빠르게 소화하고 학습하고 나면 수많은 ‘유사 문화’를 마구 쏟아낼 수도 있다. 학교 숙제로 내야 하는 글쓰기뿐 아니라 정치 연설, 이데올로기 선언문, 새로운 종교에 필요한 성서까지도 어렵잖게 만들어낼 거다. 2028년 미국 대선은 인간이 직접 관리하지 않는 첫 번째 미국 대선이 될지 모른다.
인공지능과 인류가 처음으로 나눈 대대적인 접촉은 소셜미디어였다. 이 싸움에서 인간은 졌다. 소셜미디어는 원시적인 수준의 인공지능을 활용했다. 인공지능은 직접 콘텐츠를 만드는 대신 이용자가 만든 콘텐츠를 가공하고 다듬는 데 쓰였다. 지금 우리가 보는 뉴스피드의 바탕에 있는 인공지능은 우리의 눈과 귀를 사로잡을 단어, 소리, 이미지를 고르고 있다. 

‘유발 하라리’의 말처럼 우리의 정치, 경제를 비롯한 일상의 모든 영역이 인공지능에 기대고 의존하기 전에 지금이야말로 서둘러 인공지능에 대해 고민하고 의견을 모을 때다. 민주주의는 곧 대화와 토론이고, 대화와 토론의 핵심 재료는 언어다. 누구든 언어를 장악하는 이는 어렵잖게 대화와 토론을 통제하게 되고, 민주주의를 무너뜨릴 수 있다.

아직 우리는 인공지능을 어떻게 사용할지, 어떻게 인공지능과 공존할지 고를 수 있다. 인공지능이 신과 같은 능력을 발휘하되, 그에 따르는 책임을 질 수 있도록 적절히 제어할 수 있는 권한을 인간이 놓지 않는다면, 그때는 인공지능이 약속하는 밝은 미래의 혜택을 누릴 토대가 완성됐다고 할 수 있다.

지금 우리는 외계인의 지능을 소환한 상황이다. 인공지능의 등장으로 제기된 과제의 해법을 찾기 위해 전 세계 지도자들이 당장 머리를 맞대고 논의해야 한다. 인공지능이 인간을 완전히 파악하기 전에 우리도 부지런히 인공지능을 배우고 공부해야 한다.

인용:You Can Have the Blue Pill or the Red Pill, and We’re Out of Blue Pills
 by New York Times
조은별 기자