임호 / 화동이공대학교 법학원 부교수

2010년 이후 컴퓨터기술, 인터넷기술 그리고 알고리즘 관련 연구의 신속한 발전과 더불어 인공지능사회에 대한 사람들의 기대감도 날로 향상되고 있다. 알고리즘이 인공지능의 ‘심장’이라면 빅데이터는 인공지능의 지식’식량’이며, 원활한 인터넷은 인공지능의 ‘혈관’이고, 충분한 전력공급은 인공지능의 ‘혈액’이다.

그러나 아름다운 미래생활에 대한 기대감과 더불어 인공지능을 탑재한 자율운행 자동차의 끊임없는 교통사고 소식 그리고 마이크로소프트 회사의 인공지능인 테이의 히틀러를 지지하는 발언 등등은 또한 인공지능에 대한 불안감을 키워가고 있다. 그러므로 인공지능의 리스크 및 그 방지에 대한 연구는 세계 각국 그리고 학계의 주요 연구대상이 되고 있다. 2017년 7월 8일, 국무원에서 반포한 <신세대인공지능 발전계획>에서는 인공지능의 발전이 불확정적인 새로운 도전을 수반하므로 그 안전리스크에 대하여 반드시 중시해야 한다고 강조했으며, 그 리스크를 최대한 줄임으로써 인공지능의 안전하고 확정적이고 통제 가능한 발전을 추진하여야 한다고 지적했다.

그러면 인공지능의 미래 리스크에는 어떤 것이 있을까? 자율운행중의 교통사고 그리고 인종차별에 대한 언론과 같은 리스크도 있겠지만 목표설정, 데이터취득 그리고 운행체제 등 핵심적인 분야에 있어서 인공지능의 미래 3대 리스크에 대한 우려가 근본적이라고 보여진다.

첫째, 인공지능의 목표와 인류 목표의 합치성 여부

인공지능은 인류의 마지막 발명이라고 일컬어지고 있다. <신세대인공지능 발전계획>에 따르면 인공지능기술의 발전은 인공지능기술을 통한 공공서비스의 수준 그리고 인민의 생활품질 전격적 향상을 목표로 하고 있다. 즉 인공지능을 연구 개발하는 인류의 목표는 컴퓨터 및 알고리즘 기술을 이용하여 인류지능에 준하는 수준을 실현함으로써 육체적 노동에서 인류를 해방하고 인류의 생활복지를 향상하고자 함이다.

그러나 인공지능의 자체적인 목표는 어떠할까? 지능진화의 차원에서 볼 경우 인류의 지능은 학습과 실천 과정에서 끊임없이 지식을 축적하고 갱신하고 진보하는 과정으로서 지식이 지식을 생산하는 점진적 발전과정이라고 할 수 있다. 이에 비하여 인공지능은 1과 0이라는 코드로부터 시작하여 현 단계의 ‘지능’수준에 이르기까지 ‘입력’이라는 프로세스를 통하여 단시일 내에 완성할 수 있다. 만약 인공지능의 연구개발 수준이 인류지능과 동일한 학습, 식별, 추리 및 자아선택과 판단의 자주능력을 가진 인공지능수준에 이를 경우 인공지능 개발코드의 수정이 과연 가능할까? 자주능력을 가진 인공지능은 인류의 예측이 불가능한 방식으로 운영될 것이며 인류의 인공지능 개발코드 수정시도를 주동적으로 저지할 가능성이 커질 것이다. 그렇다면 인공지능은 인류의 복지를 위하여 만들어진 것일까, 아니면 우리의 하느님이 될 것일까?( Artificial Intelligence: From good for us to God for us?）

둘째, 빅데이터의 선택적 취득과 보편적 취득

인공지능기술의 발전에 있어서 빅데이터는 인공지능의 지식’식량’이며 인터넷 전송기술은 인공지능의 ‘혈관’이라고 할 수 있다. 특히 빅데이터는 인공지능의 ‘심장’인 알고리즘의 형성, 훈련 그리고 결과도출에 기본적인 요소인 지식’식량’을 제공하는 원천이다.

그러나 빅데이터의 취득과 해독은 알고리즘설계자의 개인적인 지식체계, 흥취 그리고 도덕수양 등의 영향을 많이 받고 있는바 마이크로소프트회사의 인공지능 테이의 “히틀러는 잘못 없다”라는 부당언론도 알고리즘설계자의 지식경계와 밀접한 연관이 있다. 또한 인터넷의 이용보편화도 빅데이터의 취득에 영향을 미칠 수 있는바 어떠한 데이터의 취합과정 중 단전으로 인하여 데이터취합 지역 중 한 지역이 빠지게 되면 그 데이터의 보편성에 영향을 미치게 되는 것이다.

그와 반대로 만약 인공지능사회가 실현되어 인공지능 상호간에 빅데이터 그리고 알고리즘을 공유하게 될 경우 어떠한 리스크가 있을까? 인공지능의 판단기준인 빅데이터와 알고리즘을 상호 공유할 경우 인공지능이 도출하여낸 결과는 거의 일치하게 되며, 인공지능에 의지하여 살아가는 인류는 ‘사상’의 대일통시대를 맞이하게 될 것이다. 그 결과 인류사회는 국경 없는 글로벌 사회를 실현하거나 아니면 인공지능을 가진 자가 천하를 다스리는 소수자통치의 사회를 맞이하게 될 것이다. 즉 빅데이터의 선택적 취득인지 아니면 보편적 취득인지 여부에 따라 미래 인류사회의 궁극적인 형태가 바뀔 수도 있다.

셋째, 심판원과 운동선수의 이중성격

인공지능은 이미 우리의 생활과 융합되어있으며 일상생활중의 사고, 판단 그리고 결정에 깊숙이 관여하고 있다. 예를 들면 알고리즘을 통한 소비자취향파악은 기본일 뿐만 아니라 자동차운전 핸들을 잡으면 아는 길도 요즘은 내비게이션을 사용하게 된다. 우리말에 돌다리도 두드려보고 건너라고 했지만 요즘에는 두 자리 숫자 가감도 핸드폰에 의존할 정도로 자신의 지능보다 인공지능을 더욱 믿고 있는 것이 사실이다. 물론 복잡한 수학계산이나 과학적 검증 과정에서 인공지능의 정확성 또는 효율성은 이미 검증된 바 있다.

BAIDU의 검색엔진이나 위챗플랫폼을 통하여 소비자의 취향에 맞는 상품 또는 서비스 정보를 제공하는 것은 상업적 이익에 따른 알고리즘설계자의 공헌이 크다. 그러나 검색엔진이나 위챗플랫폼이나 할 것 없이 모두 사용자가 필요한 조건을 기입하고 설정된 알고리즘에 따라 결과를 도출하는 형식으로 인공지능에 대한 우리 삶의 의존성을 여실히 보여주고 있다.

그렇다면 인공지능사회에서 인공지능 자체가 학습, 사고 그리고 판단의 자주능력을 통하여 알고리즘을 개진하고 승화할 경우 인공지능은 그 자체가 알고리즘이라는 ‘규칙’의 제정자일 뿐만 아니라 그 ‘규칙’을 검증하는 자, 즉 ‘심판원’과 ‘운동선수’의 이중적 신분을 갖게 된다. 그럴 경우, 인공지능이 설정한 ‘규칙’에 따라 조건을 기입하고, 그 ‘규칙’에 따라 취득한 결과에 대하여 도대체 어느 정도 신뢰를 하여야 할 것인가? 인공지능 알고리즘 규칙 및 검증절차의 불가분성은 인공지능 운행체제의 관건적인 리스크이다.

인공지능이 갖고 있는 상술한 3대 리스크는 인류사회의 평화로운 발전의 거대한 걸림돌이 될 것이므로 기술적 차원 그리고 법적 차원에서 사전대책이 시급하다. 특히 법적 차원에서 인공지능의 본질에 대한 정확한 파악을 통하여 사회의 흐름에 부합하는 미래사회 법제도를 사전에 마련하는 것이 중요하다.