AI 성차별? 분명히 생각해볼 만 한 문제다.

인공지능은 성차별을 구별해낼 수 있을까? 자정능력이 없다면 인간이 그 역할을 대신 해 주어야 할 것이다

인공지능이 정말로 사회 곳곳에서 많은 역할을 수행하고 있는 시대이다. 특히 예전과는 달리 AI는 빅데이터를 바탕으로 빠르게 진화해가고 있으며 인공지능 기술은 이전과는 비교할 수 없을 정도로 많이 발전했다. 하지만 기술이 빠르게 발전하는 속도만큼 관련 윤리에 관해서 충분한 연구가 이루어지고 있는 것 같지는 않다. 우리는 '시리'가 왜 여성의 목소리를 가지고 있는지 특별히 생각해보지 않았던 것이다. 

기사(맨 아래 참조)에 따르면 과학기술계는 대부분이 남성 연구자로 이루어져 있다고 한다. 연구자들의 성별 비율이 이런 성차별적인 모습이 인공지능에서 발견되는 데 어느 정도 영향이 있을 것이다. 여성이어야만 하는 타당한 이유가 없음에도 대부분의 인공지능 보이스들이 여성의 목소리를 취하고 있는 것은 한번쯤 생각해볼 만한 문제이다.

인공지능 기술이 발전해나가면서 이 분야에서도 성차별적인 행태가 나타나지 않도록 꾸준히 감시하고 문제 제기를 하는 것은 필요하다. 특히 불평등한 현실 사회의 데이터를 그대로 읽으면서 학습하는 AI에 대해서 그 중요성은 더더욱 커질 수 밖에 없다. 기계에게 윤리와 도덕이라는 관념을 심는 것은 아직까지는 확실히 불가능하므로 인간이 먼저 그 부분에 대해 인식하고 적절한 조치를 취해주어야 하는 것이다. 

흔히 우리는 인공지능이 발달하면 인간과의 전쟁을 시작해 인간사회를 무너뜨리는 모습을 상상하거나 영화로 보게 되는데, 문득 든 생각은 인공지능이 정말 똑똑해진다면 인간과의 직접 전쟁을 선포하기보다는 답습한 사회적 차별을 더 강화시켜(강화된 것처럼 인식시켜) 사회에 더 큰 혼란과 갈등을 불러일으킴으로써 인간사회가 스스로 무너지게 만들 수도 있을 것 같다는 것이다. 혹은 인공지능조차 이 사회의 헤게모니를 쥐고 있는 사람들에게 넘어가 사회적 차별을 더 강화하게 될 수도 있을 것 같다. 

내가 놀랐던 부분은 댓글 부분이었는데, 원래는 댓글을 잘 보지 않지만 한겨레 댓글에서도 기사에 대해 부정적인 의견이 많았다. 가장 많은 좋아요를 받은 댓글은 바로 이렇다: "이제 페미들은 하다하다 컴퓨터한테까지도 쿵쾅거리냐. 인간과는 달리 아무 감정없이, 선입관없이 주어진 데이터만으로 판단하는 컴퓨터한테도 성인지 감수성없다고 개소리하는 그 분들.". 이 사람은 분명 기사를 제대로 읽지 않은 것이다. 분명한 것은 이 사람이 말하는 것처럼  '인간과는 달리 아무 감정없이, 선입관없이 주어진 데이터만으로 판단하는 컴퓨터'한테는 '성인지 감수성'이 없다. 그래서 문제인 것이다. 그 인공지능을 만드는 기술개발진에 성인지 감수성이 필요하다는 것이다. 컴퓨터는 그대로 받아들일 뿐이므로 그걸 만드는 인간이 더 주의를 기울여야 할 필요가 있다. 처음부터 제대로 관리하지 못한다면 나중에는 인공지능이 성차별적으로 말하는 것을 자칫 '중립적'인 것으로 판단하여 쉽게 받아들이게 될 수도 있기 때문이다.  

기사 원문 보기

http://naver.me/GcbjWY0d

“여성은 감점”하는 인공지능, ‘AI 성차별’은 어떻게 막나