최근 생성AI 서비스들이 성별과 인종에 대한 차별과 편견을 키운다는 논란이 끊이지 않았다. 많은 전문가들이 AI가 편향된 정보를 학습한 결과라고 지적하자, 주요 기업들은 이에 대한 오류를 바로잡고자 다양성에 대한 지침을 적용하는 등의 노력을 기울여왔다. 하지만 그럼에도 여전히 AI의 편견이 개선되지 않자 지난 2월에 구글은 이미지 생성 ‘AI 제미나이’의 인물 이미지 생성 서비스를 중단하고 새로운 버전을 재출시할 예정이라고 밝혔다.

알려진 대로 이미지 생성AI는 대규모 이미지 데이터 세트에서 패턴을 학습해 결과를 내놓는다. 따라서 그 결과물이 윤리적, 편향적 오류가 있다는 것은 원소스, 즉 인터넷에서 쉽게 접할 수 있는 이미지 자체의 문제를 시사한다. 그렇다면 이러한 ‘기울어진’ 이미지에 매일 노출돼 있는 사람은 어떤 영향을 받게 될까. 대표적으로 시각적 성 고정관념에 자주 노출될수록 사람들의 성 편견에도 더 강하게 영향을 미친다는 연구결과가 국제 학술지 네이처(Nature)에 발표됐다.

이미지로 소통하는 사람들

본격적인 디지털 시대가 시작되면서 이미지, 영상 등 비주얼 언어가 핵심적인 소통 요소로 자리 잡았다. 어린 시절부터 디지털 환경에서 성장한 세대가 사회 중심으로 들어오면서 이미 SNS를 비롯한 인터넷 매체에는 텍스트보다 이미지로 소통하는 모습이 두드러진다. 특히 급변하는 디지털 비즈니스 환경에서 이미지는 ‘백 마디 말’보다 강력한 힘을 가지며 그 영향력과 의존도가 높아졌다.

“미래의 문맹은 글을 못 읽는 사람이 아니라 이미지를 해석하지 못하는 사람이다.”라고 한 헝가리의 예술가 라슬로 모호이너지(Laszlo Moholy-Nagy)의 말처럼 이미지는 이 시대의 또 다른 언어가 됐다.

실제로 온라인 검색 엔진의 이미지 수는 불과 20년 만에 수천 개에서 수십억 개로 늘어났다. 매일 수백만 명의 사람들이 포털 플랫폼에서 이미지를 보고 다운로드하며, 이미지를 기반으로 하는 인스타그램 및 틱톡 등의 하이퍼비주얼 플랫폼을 통해 소통한다. 하지만 인터넷을 통해 대규모로 쉽게 배포되는 이미지들은 잠재적으로 영향력을 강화해 왔다.

온라인 이미지의 ‘조용한’ 영향력?

‘이미지 우월 효과(Picture superiority effect)’ 측면에서 보면 이미지는 텍스트보다 더 빠르게 인식되고, 더 강하게 각인된다. SNS와 온라인 광고 및 뉴스 등에 이미지 소비가 확산하는 이유다. 하지만 온라인 이미지의 증가가 성별 편견을 통계적, 심리적으로 크게 악화시킨다는 연구결과가 발표됐다.

미국 캘리포니아 버클리대, 컬럼비아대, 서던 캘리포니아대, 영국의 공공정책연구소로 구성된 공동 연구팀은 온라인 이미지가 텍스트보다 더 강한 성 편견을 보이며, 시각적 성 고정관념에 자주 노출될수록 성 편견에 더 강하게 영향을 미친다는 연구결과를 ‘네이처’에 발표했다.

연구팀은 구글과 위키피디아, IMDB(인터넷 영화 데이터베이스)에서 100만 개 이상의 이미지와 텍스트를 수집한 후 직업 및 사회적 역할을 비롯해 3,495개의 사회적 범주와 관련된 성별 연관성을 분석했다.

그 결과 이미지에서 62%가 남성 편향성이 드러난 것으로 나타났다. 대표적으로 배관공, 경찰서장, 목수를 검색하면 남성이 더 많이 표시되고 댄서, 간호사, 헤어 스타일리스트 등은 여성의 모습으로 묘사된 이미지가 더 많이 나타나는 식이다.

연구팀은 온라인 이미지의 편견이 사용자에게 어떤 영향을 미치는지 확인하기 위한 실험을 수행했다. 미국 전역에서 모집한 총 423명의 참가자에게 과학, 기술, 예술 등 총 54개 직업 세트에 대한 검색을 하도록 한 후 특정 직업과 가장 연관성이 높은 성별이 무엇인지 묻는 실험으로, 이 테스트는 심리학 표준 방법인 암묵적 연관성 테스트(IAT)이다.

실험 참가자들은 세 그룹으로 나뉘어 직업에 대한 설명을 각각 구글 뉴스(텍스트)와 구글 이미지를 검색하고, 나머지 한 그룹은 무작위로 검색했다. 그 결과 이미지를 검색한 그룹이 텍스트 검색이나 무작위 검색한 그룹보다 성별 편견이 강하게 나타났으며 그 편견의 지속 시간도 긴 것으로 나타났다.

이미지는 성별 편견을 증폭시킨다

논문에 따르면 이미지는 인구통계학적 정보를 제공한다는 점에서 성별 중립을 벗어날 가능성이 높다. 예컨대 ‘의사가 검사를 실시했다.’는 문장에서는 의사의 성별을 언급하지 않지만, 이 상황을 이미지로 표현하면 의사의 성별에 대한 인식을 직접적으로 전달하게 된다. 연구팀은 이미지가 이러한 방식으로 사회적 범주에 대한 성별 중요성을 강화하고, 이것이 인터넷으로 유통되면서 사용자에 대한 성별 편견을 증폭시킨다고 주장했다.

특히 연구진은 이미지 기반 SNS 플랫폼이 인기를 끌면서 이미지의 대량 생산과 유통의 가속을 우려했다. 구글과 같은 검색엔진이 이미지 검색을 핵심 기능으로 내세우면서, 점차 텍스트 기반 검색의 중립성을 통합시키는 것과 같은 추이가 나타날 수 있다는 이유에서다. 관련 연구가 진행되어야 확언할 수 있겠지만, 이러한 현상이 지속된다면 생성AI 모델 역시 성별 편견에서 자유로울 수 없다는 것이 연구팀의 의견이다.