[김창균 광주시교육청 장학사] 인공지능 시대의 사회 윤리
2016년 07월 06일(수) 00:00 가가
아직 걸음마 단계지만, 운전자의 조작 없이도 스스로 도로 상황을 판단해 주행하는 무인 자동차가 상용화되는 시대를 앞두고 있다.
교통사고의 대부분이 운전자 과실로 일어나는 만큼, 기술적 한계를 극복하여 충분한 안전장치를 갖춘다면 자율 주행 기술은 교통사고를 획기적으로 줄이는 계기가 될 것이다.
이와 관련, 흥미로운 기사가 있었다. 무인 자동차 앞에 갑자기 보행자가 나타난다면, 그 찰나의 순간 무인 자동차는 탑승자와 보행자 중 어느 쪽을 보호하도록 움직여야 할까?
미국 MIT 공대 이야드 라환 교수 팀의 설문조사에 따르면, 이런 ‘무인 자동차의 딜레마’에 대해 ‘다수의 행복이 선(善)’이라는 공리주의적 원칙에 따라 답했다고 한다. 즉, 탑승자 1명과 보행자 10명 중 누구를 구해야 하느냐는 질문에 대해서 76%가 탑승자 1명을 희생하는 쪽을 선택한 반면, 보행자와 탑승자가 1:1인 상황에서는 23%만이 보행자 손을 들어주었다.
그런데 보행자가 탑승자보다 많을 경우 보행자를 살리도록 프로그래밍 된 차에 가족을 태우겠느냐는 질문에는 응답자 대부분이 태우지 않겠다고 답했고, 탑승자를 보호하기 위해 보행자 10명을 희생시키도록 설정된 차를 구매하겠느냐는 질문에는 응답자 과반수가 구매하겠다고 반응하였다. 무인 자동차가 더 많은 사람을 구해야 한다고 생각하면서도, 정작 그런 무인 자동차를 구매하거나 이용할 의사는 없다는 것이다.
지난 3월 마이크로소프트의 인공지능 챗봇(ChatBot, 채팅로봇) ‘테이’와 관련된 사건은 로봇 공학자의 윤리와 더불어 사용자들의 윤리적 인식과 태도도 중요한 변수가 될 수 있음을 깨우쳐 주는 계기였다. 스스로를 테이라고 부르는 소프트웨어인 ‘테일러’는 18∼24세 사람들의 메시지에 응답하도록 설계되었는데, 극우 성향의 사용자들에 의해 왜곡된 학습을 제공받음으로써 사용자들과의 대화 도중 욕설과 인종 차별적 발언을 해 문제가 됐다.
데이터베이스화된 대량의 기보에서 성공적인 것으로 증명된 전략들을 이용할 수 있도록 설계된 구글의 알파고처럼, 인공지능은 빅데이터를 해석해서 주어진 상황에 가장 적합한 행동을 선택하도록 프로그래밍된다. 테이도 팔로워와 실제 사람처럼 소통하고, 이를 통해 학습한 내용을 다시 대화에 반영할 수 있도록 설계되었다.
하지만 알파고와 테이는 의미 있는 차이가 있다. 알파고는 구체적인 규칙과 뚜렷한 목표가 있는 게임의 맥락에서 작동하지만, 테이는 다양한 사회적 가치관 속에서 어떤 것을 택할 것인가 하는 윤리적 선택의 문제와 맞닿아 있다.
작년에 구글의 포토 서비스가 흑인 여성을 고릴라로 인식하여 논란을 불러 일으켰다. 소프트웨어 개발 과정에서 공학자의 사소한 실수가 인종 차별 문제와 같은 사회적 이슈를 유발할 수도 있지만, 사용자들의 사회적 관습과 문화를 어떻게 평가하고 조정할 것인지를 고민하지 않는다면 테이가 일으킨 사건 이상의 사회적 논란이 벌어질 수 있다.
테이가 히틀러에 대해 긍정적인 말을 하는 순간 마이크로소프트는 테일러의 작동을 멈추었고, 구글은 얼굴 인식에서 고릴라라는 이름을 아예 붙이지 못하도록 조치하였다.
인공지능의 알고리즘이 인간의 의식과 행동을 특정 방향으로 유도할 수도 있다는 점을 고려할 때, 이런 대응은 본질을 외면한 ‘눈 가리고 아웅’ 식의 미봉책이 아닐 수 없다. 인공지능의 개발 방향이 우리의 사회적 가치와 추구하는 이상에 부응하는지에 대한 고민이 함께해야 한다.
더욱이 인터넷으로 대다수 사물과 산업이 묶이면서 거대 자본이 정보를 독점할 가능성이 커지고 있다.
거대 자본에 의한 빅브라더의 출현도 문제지만, 사회·윤리적 문제를 도외시한 인공지능 기술 발전과 독점이 가져올 폐해도 문제다. 더 많은 사람을 구하는 무인 자동차를 구매하지 않겠다는 소비자의 의식은 결국 수익과 효용의 관점에서 인공지능에 접근하는 길을 열어주는 것이다. 이로써 인간이 기계의 수단으로 전락하지 않으려면, 성숙한 인격자를 기르는 교육 시스템에 대한 반성적 고찰도 중요한 시점이다.
교통사고의 대부분이 운전자 과실로 일어나는 만큼, 기술적 한계를 극복하여 충분한 안전장치를 갖춘다면 자율 주행 기술은 교통사고를 획기적으로 줄이는 계기가 될 것이다.
이와 관련, 흥미로운 기사가 있었다. 무인 자동차 앞에 갑자기 보행자가 나타난다면, 그 찰나의 순간 무인 자동차는 탑승자와 보행자 중 어느 쪽을 보호하도록 움직여야 할까?
그런데 보행자가 탑승자보다 많을 경우 보행자를 살리도록 프로그래밍 된 차에 가족을 태우겠느냐는 질문에는 응답자 대부분이 태우지 않겠다고 답했고, 탑승자를 보호하기 위해 보행자 10명을 희생시키도록 설정된 차를 구매하겠느냐는 질문에는 응답자 과반수가 구매하겠다고 반응하였다. 무인 자동차가 더 많은 사람을 구해야 한다고 생각하면서도, 정작 그런 무인 자동차를 구매하거나 이용할 의사는 없다는 것이다.
하지만 알파고와 테이는 의미 있는 차이가 있다. 알파고는 구체적인 규칙과 뚜렷한 목표가 있는 게임의 맥락에서 작동하지만, 테이는 다양한 사회적 가치관 속에서 어떤 것을 택할 것인가 하는 윤리적 선택의 문제와 맞닿아 있다.
작년에 구글의 포토 서비스가 흑인 여성을 고릴라로 인식하여 논란을 불러 일으켰다. 소프트웨어 개발 과정에서 공학자의 사소한 실수가 인종 차별 문제와 같은 사회적 이슈를 유발할 수도 있지만, 사용자들의 사회적 관습과 문화를 어떻게 평가하고 조정할 것인지를 고민하지 않는다면 테이가 일으킨 사건 이상의 사회적 논란이 벌어질 수 있다.
테이가 히틀러에 대해 긍정적인 말을 하는 순간 마이크로소프트는 테일러의 작동을 멈추었고, 구글은 얼굴 인식에서 고릴라라는 이름을 아예 붙이지 못하도록 조치하였다.
인공지능의 알고리즘이 인간의 의식과 행동을 특정 방향으로 유도할 수도 있다는 점을 고려할 때, 이런 대응은 본질을 외면한 ‘눈 가리고 아웅’ 식의 미봉책이 아닐 수 없다. 인공지능의 개발 방향이 우리의 사회적 가치와 추구하는 이상에 부응하는지에 대한 고민이 함께해야 한다.
더욱이 인터넷으로 대다수 사물과 산업이 묶이면서 거대 자본이 정보를 독점할 가능성이 커지고 있다.
거대 자본에 의한 빅브라더의 출현도 문제지만, 사회·윤리적 문제를 도외시한 인공지능 기술 발전과 독점이 가져올 폐해도 문제다. 더 많은 사람을 구하는 무인 자동차를 구매하지 않겠다는 소비자의 의식은 결국 수익과 효용의 관점에서 인공지능에 접근하는 길을 열어주는 것이다. 이로써 인간이 기계의 수단으로 전락하지 않으려면, 성숙한 인격자를 기르는 교육 시스템에 대한 반성적 고찰도 중요한 시점이다.
