[이경전의 행복한 AI 읽기](4)인공지능 사회, 예측이 아니라 설계·실행할 때다

카리사 벨리즈와 그의 저서 표지 / 출처: https://ewada.ox.ac.uk/people 캡처

카리사 벨리즈(Carissa Veliz) 옥스퍼드대학 철학 교수는 지난해 11월 워커힐에서 열린 글로벌 리더스 포럼에서 참신한 주장을 했다. 우리 인간이 콩팥(신장)·간 등의 장기(Organs)를 사고팔지 않고, 투표권 역시 사고팔지 않는 것처럼 인간의 데이터도 거래를 금지해야 한다는 것이다. 이 주장은 그의 2020년 저서 <프라이버시는 권력이다: 왜 그리고 어떻게 당신은 당신의 데이터의 통제권을 가지고 와야 하는가?>(Privacy is Power: Why and How You Should Take Back Control of Your Data)라는 책에서 자세히 소개된다.

필자도 비슷한 주장을 한 적이 있어서 매우 반가웠다. 2021년 3월 한국경제에 쓴 글에서 필자는 다음과 같이 썼다.

“인공지능 산업의 연료가 분명 데이터인 것은 맞다. 그러나 기존 산업 혁명의 연료로 동물의 기름은 일부 썼어도 사람의 기름은 쓰지 않았던 것과 마찬가지로, 4차 산업혁명의 중심 기술인 인공지능 엔진의 연료로 개인 데이터의 사용은 최소화하는 것이 바람직하다. 개인 데이터의 사용을 최소화하고 개인 데이터 활용에 대해 해당 개인에게 철저한 보상을 제공하는 사용자 중심의 인공지능 구조가 결국 지속가능성을 가질 것이다.”

반가운 마음에 강연을 끝내고 연단에서 내려온 카리사 벨리즈에게 가서 인사하며 질문했다. 혹시 연합학습 기술에 대해 아느냐고. 연합학습 기술을 사용하면, 당신의 주장대로 개인의 데이터를 거래하지 않고도, 인공지능을 개발할 수 있다고. 프라이버시의 보호와 인공지능의 발전이라는 두 마리 토끼를 같이 잡는 방법이라고. 안타깝게도 그는 연합학습 기술이 무엇인지 모르고 있었다. 뭐, 그럴 수 있다. 철학자니까, 인공지능의 기법은 모를 수 있다. 철학자는 무엇이 바람직한 사회인지 자기 생각을 발언할 수 있고, 필자와 같은 인공지능학자는 그러한 철학자의 의미 있는 주장을 구현할 수 있는 기술의 존재를 인식하고, 그것을 사회에 적용하는 형태로 사회에 이바지할 수 있으면 된다고 생각한다.

인공지능은 도구다. 목표가 아니다. 도구가 가치를 훼손하면 안 된다. 인공지능이 개인의 프라이버시를 훼손하면 안 된다. 인공지능은 개인의 프라이버시에 대한 침해가 없는 선에서만 그 발전이 의미가 있다. 저작권도 마찬가지다. 인공지능의 발전을 위해서 저작권을 조금 희생시켜야 한다는 주장이 있다. 하지만 그런 논쟁이 있을 때면 필자는 저작권자의 입장에 서 보라고 이야기한다. 그리고 장기적으로 생각해보라고 권한다. 지난해 연말 여기저기서 크리스마스캐럴이 울려 퍼졌다. 어떤 분들은 “연말에 백화점 등 매장에서 캐럴을 틀면 좀 어떠냐? 너무 저작권을 강조하지 않으면 좋겠다. 저작권을 강조하니, 연말이 캐럴 없는 크리스마스가 되고 있지 않느냐?”라고 안타까움을 표시한다. 필자는 그러나 반대라고 주장한다. 만약 연말에 크리스마스캐럴을 트는 것에 대해 저작권자에게 수익이 제대로 돌아가지 않는 구조가 된다면, 앞으로 음악가들은 크리스마스캐럴을 더 이상 작곡하거나 녹음하거나 연주하지 않을 것이고, 그래서 우리의 연말은 더욱 썰렁한, 캐럴 없는 크리스마스가 되리라 생각한다. 음악 소비자들이나 유통업자들이 음악 저작권자에게 적절한 보상을 제공하지 않으면, 당장은 좋을 것 같지만, 음악창작자들은 의욕을 잃고 더 이상 좋은 음악을 만들려고 애쓰지 않게 되고 만다.

왼쪽은 게티이미지가 소유하고 있는 원본 사진이고, 오른쪽은 Stability.AI로 생성한 이미지(게티이미지의 워터마크까지 생성돼 있다)이다.

이렇게 저작권은 우리 사회의 문화적 수준을 높이고 유지하기 위한 매우 중요한 가치다. 인공지능의 발전이 저작권을 희생시켜서는 안 된다. 게티 이미지는 스태빌리티AI사를 자사 콘텐츠의 저작권 침해를 이유로 1조8000억달러(약 2000조원) 규모의 소송을 걸었고, 영국에서 재판이 진행 중인데, 현재로서는 스태빌리티AI가 이기지 못하리라는 전망이 우세하다. 빼도 박도 못 하는 증거가 있기 때문이다. 스태빌리티AI의 이미지 생성 소프트웨어를 사용해 생성한 이미지에 게티이미지 그림에 들어가는 워터마크까지 나온 사례가 발견됐기 때문이다. 지금 세계를 강타하고 있는 생성형 AI의 큰 한 축이 이미지 생성 AI이고, 오픈AI의 달리 3와 더불어 이미지 생성 AI 분야의 발전에 큰 획을 그은 스테이블 디퓨전(Stable Duffusion) 모델의 발명과 보급에 결정적인 기여를 한 기업이 저작권 소송으로 한순간에 파산할 위기에 몰려 있는 상황이다.

유사한 사례로 2000년대 초반 8000만명의 사용자가 MP3 음악 파일을 무료로 공유할 수 있었던 P2P(Peer-to-Peer) 파일 공유 서비스 냅스터가 있다. 냅스터는 메탈리카, Dr. Dre 등 음악가들에게 소송을 당했고, 결국 미국음반산업협회에 패소해 파산했다. 필자는 당시 냅스터를 응원했으나, 지나고 보니 미국 법원의 판결이 옳았다고 생각하게 됐다. 그때 만약 냅스터가 승소했다면 전 세계의 음악은 20년 후 오늘 이렇게까지 또 발전하지는 못했을 것이다.

냅스터 로고 이미지 /이경전 제공

예를 들어, 지금 정상적인 경제주체들이 은행 계좌를 가지고 있는 것처럼, 앞으로는 모든 주체가 자신의 데이터 계좌를 가지는 시대가 올 수 있다. 어떤 사람이 태어나 자기의 은행 계좌를 가지기 전까지는 경제적 노예 상태를 면할 수가 없다. 부모나 다른 사람이 주는 돈이나 배려에 의존할 수밖에 없다. 데이터도 마찬가지일 수 있다. 현재는 많은 사람이 자신의 데이터가 어디서 발생해 어디로 가는지 알지 못하는, 즉 자신의 데이터 계좌 자체가 없는 데이터 시대 노예의 삶을 살고 있다.

모든 사람에게 데이터 계좌를 부여하고, 이 계좌에 데이터를 축적함으로써 자신의 자산이 되게 하는 체제를 설계해볼 필요가 있다. 개인과 기업 등 조직이 은행 계좌를 가지듯이 모든 개인과 기업, 정부기관이 데이터 계좌를 가지고 자신의 데이터를 잘 축적하고 가꾼다고 상정해보자. 이들은 연합학습 기술로 AI를 만드는 주체들이 자신의 데이터로 AI를 학습시키는 것을 허용하는 대가로 이자 받듯이 금전적·비금전적 이익을 얻을 수 있게 될 것이다. 이러한 계좌를 관리하는 데이터 뱅크들은 AI 회사와 데이터 소유자(개인·법인) 간의 계약을 중개하는 역할을 수행한다. 마치 현재의 은행이 예금 고객의 돈을 여신 고객에게 빌려주면서 영업을 전개하는 형태와 유사하다.

이경전의 행복한 AI 읽기 구독

인공지능 시대의 새로운 사회는 지금 우리가, 어떤 가치에 주목하면서, 어떠한 기술을 적용하며, 어떤 제도적 장치와 기구를 통해 설계하는가에 따라 달라진다. 예측할 것이 아니라 설계하고 실행해 나가야 할 때다.

<이경전 경희대 경영학과·빅데이터 응용학과·첨단기술 비즈니스 학과 교수>