안녕하세요,

지난 6월 18일에 있었던 미래포럼의 30%클럽 1차 기획포럼에 다녀온 셰도우 핀즈의 테오즈(김정현)입니다.

이번 포럼은 총 3회차 중 첫번째로서 <AI 시대의 성평등 리스크와 과제>라는 타이틀로 열렸는데요, 저는 평소 AI의 성별편향성(Bias)과 환각 오류(Hallucination)가 민관 사업에 끼치는 영향에 대해 고민이 많아 이번 행사를 통해 양질의 정보와 현 트렌드의 진단, 네트워킹, 새로운 문제의식을 얻을 수 있었습니다. 한국사회는 AI 산업의 전세계적 부흥과 함께 국내 반도체산업의 호황, KOSPI상승으로 이어지면서 거의 모든 산업 분야에서 AI가 이룰 혁신에 대한 기대가 여전히 높습니다. 그와 동시에 AI 기본법의 세계 최초 시행국이라는 타이틀도 갖고 있는 특징이 있어요. 이런 배경에서 AI의 리스크와 보안 강화를 위한 대응을 고찰한다는 것은 어떤 의미일까요? 이번 포럼이 뜻깊었던 것은 균형있는 관점으로 법, 산업, 공공기관, 시민사회가 이 문제를 다중적으로 다루고 있음에 있었습니다. 저는 시민사회에 속한 활동가로서 생각하고 질문하며 2시간 반을 꽉 채운 열기에 참여할 수 있었습니다.

“유럽형 규제 모델에서 배우고 한국의 특수성을 톺아보는 AI시대의 위기관리 실무”

[발제 1] 국내외 AI 규제 통합과 우리 기업의 대응 전략 -강혜경 박사님

챗GPT의 오픈 AI, 제미나이의 구글, 같은 AI 분야 빅테크 회사는 모두 미국에서 시작했죠. 클로드의 엔트로픽 같은 회사가 거버넌스와 윤리 준수 면에서 다른 행보를 보이고 있지만, 경영진에 오픈 AI 출신 인물들이 있어 이 역시 완전히 유럽이 오리지널하게 보유한 AI 테크 기업이라고 보기는 어렵습니다. 그러면 왜 유럽은 미국에 비해 적용과 확산보다는 AI 규제에 더 많은 담론과 자원이 집중되어 있을까요? 강혜경 박사님의 설명에 비하면 여기에는 전략적인 이유가 있다고 합니다. 유럽은 자신들이 후발주자라는 자기인식을 바탕으로 기술을 새롭게 키우기보다, 전세계 AI 시장 소비자 순위 2위 지역으로서, 미국을 견제해서 높은 수준의 스탠다드를 준수하게끔 유도하고 하는 태도가 있다고 해요. 또, 역사적인 배경으로 유럽은 홀로코스트 역사를 자기고 있어 개인의 이름, 출신지, 인종같은 개인정보가 악용되는 것에 민감한 인권 감수성과 경계심이 있어 개인의 데이터 주권침해에 대한 경계심이 두텁습니다. 이런 사회적 배경이 EU가 전세계에서 가장 먼저 AI 관련 법을 만들고 포괄적 수평규제를 가능하게 했습니다. 다만, ‘아직 일어나지 않은 일’에 대한 예방 조치를 요구하는 엄격함이 기업들의 활동을 지나치게 억압할 수 있어, 현실적인 실제 법 준수를 유도하기 위해 문턱을 낮추는 조건부 규제 방안들도 같이 병행중이라고 합니다.

새로운 기술의 탄생과 눈부시게 빠른 발전속도에 열광하고 국가가 나서 관련 산업을 적극적으로 지원하는 한국과는 사뭇 다른 분위기라고 할 수 있습니다. 특히 규모가 크지 않은 회사들에게 이 AI 위기관리와 책임있는 공공성 준수는 현실적으로 지키기가 너무 난해하고 모호한 법이 되기 쉽습니다. 오히려 유럽보다는 미국모델의 변형된 방식으로 AI 산업이 확장하고 있는 것 같다는 생각도 들었습니다. 박사님께서 소개해주신 ‘인공지능 기본법 지원데스크’, ‘AI 규제 샌드박스’의 접근법들은 오히려 현장에서 AI 비즈니스에 뛰어들고 있는 업계 관계자들에게 규제가 필요한 이유에 대해 이해도부터 높이고, 오히려 이 사업을 계속 하기 위해서 조직 밖에서 전문가들의 법률적이고 보안적인 실무 지원과 자문을 제공하는 것에 가깝습니다. 그렇다면, 저같이 시민사회에서 활동을 하며 인권 침해 요소에 민감한 사람들은 이런 질문이 들 수 있습니다. 빠른 적용을 더 좋아하는 한국사회에서, 이렇게 복잡하고 수고로운 규제의 선제적 적용에 진지한 관심을 가진 업계는 어디 있을까? 어디부터 설득할 수 있을까? 같은 것이죠. 관련해서 후에 플로어 질문 시간에 박사님께 직접 질문했을 때, 대출심사, 신용평가 같은 서비스를 제공하는 금융, 채용 알고리즘을 만드는 고용, 디지털 문해력 상승이라는 목표를 가진 교육계가 관심이 많을 수 있다고 답변해주셨습니다. 또 현재 한국의 AI 기본법은 관련부처의 특별법이 없을 때 발의된다는 한계도 짚어주셨어요. 교육부나 재정경제부, 금융감독위가 이 기본법 침해사실 감독에 대한 조치를 취해주는 것이 필수적인 상황인 것이죠. 자연스럽게 그러면 정부 부처중 하나인 성평등가족부는 어떤 플랜을 가지고 있을지 궁금해집니다.

“고용과 교육 분야부터 시작하는 정부의 AX 공공성 기준 제시”

[발제 2] AI 전환의 시대, 성평등 AI정책 추진 방향 -이경숙 성평등가족부 성평등정책실장님  

이경숙 실장님께서는 AI의 성별편향성이 실제 여성들의 권리 침해로 이어지지 않도록 2026년부터 2027년까지 어떤 로드맵을 가지고 정책적 논의를 진행중인지 소개해주셨습니다. 그 중 저는 성평등가족부 내부에는 최근 공공의 AI 거버넌스 구현을 위해서 ‘성별 편향 방지 벤치마크 데이터셋 구축’ 프로젝트를 KAIST와 협업해 진행중이란 소식이 가장 기억에 남았습니다. ‘성별 편향’이란 표현이 조금 낯설게 느껴질 수 있을 것 같아 사례를 몇가지 들어보겠습니다.

첫 번째는 전자상거래 기업 아마존이 인공지능 기반 채용시스템을 개발했다가 지원자의 성별이 남성일때 더 높은 점수를 주는 편향오류가 발생해, 프로그램 자체를 2015년 폐기한 사건이 있습니다. 해외 외신 로이터에 따르면, AI가 추천한 적합 지원자는 대부분 남성이고, 이력서에 ‘여성’이라는 단어가 포함되면 감점을 주었다고 합니다. 아마존은 이에 대해 개선하고 보다 중립적인 평가를 시도했지만 동일문제 발생 방지에 대한 확신을 주지 못해 프로젝트 자체가 무산되었다고 합니다. 이 사례의 위험성은 한국의 저희도 일상에서 국내 유명 구인구직 사이트에서 AI알고리즘 맞춤 추천을 이미 쓰고 있는 것을 떠올리면 쉽게 느낄 수 있습니다. 만약 여성이고, 나이가 많다는 이유로 동일한 나이대의 남성보다 임금이 낮고 비전문적이며 노동환경이 열악하고, 임시적인 일자리만 추천해준다면 저희는 그 시스템을 신뢰할 수 있을까요? 또, 보다 나은 일자리를 위해 여성 구직자가 특정 회사에 지원했을때 서류상에서 여성이라는 이유로 자동탈락하는 일이 있다면 어떨까요? 편향을 바로잡는 일의 중요성은 이런 고용시장에서의 성차별이 일어나지 않도록, 불필요한 평가 기준을 제거하고 구직자들간에 공정한 경합 환경을 만들어 주는 것과 같다고 볼 수 있습니다.

두 번째는 제가 2025년 대만에서 열린 디지털 시대의 인권을 다루는 컨퍼런스 RigtsCon(www.rightscon.org)에 참석했 을 당시, Bukola Adesokan의 온라인 세션, ‘편향의 대가: 데이터 기반 개인화 알고리즘 가격 책정에서의 성별 차별 폭로 (The price of bias: exposing gender discrimination in data-driven personalised algorithm pricing)’에서 얻은 성찰과 문제의식이었어요. 부콜라님에 의하면 애플의 결제 시스템 알고리즘은 여성이 남성에 비해 충분한 재정적 자원을 갖고 있지 않을것이라는 단정짓는 편견을 갖고 있어서, 여성 이용자가 한도 상향을 하는것에 제약을 둔다고 합니다. 즉, 처음부터 남자가 더 많은 부를 축적할 수 있다고 정해져있고, 더 많은양의 한도를 올릴 수 있게 그 한계가 정해져있다고 하네요. 뿐만 아니라 여성이 남성보다 언제나 더 나쁜 건강상태를 겪기 쉽다는 고정관념은 보험업계에서 여성이 통계적으로 더 높은 수치의 보험료를 지불하게 만들고, 여성만 쓰고 구매하는 상품 품종에는 여전히 핑크 택스(Pink Tax)가 더 웃돈처럼 붙어 있는 차별이 존재합니다. 세션 마무리에 부콜라님은 이러한 사회적 편견을 제거한 클린한 데이터를 얻으려면 긴 시간을 들인 접근이 필요한데, 스타트업을 비롯한 대다수의 테크 기업들은 시간에 쫒기면서 빠르게 자신들의 제품을 만들고 성장시키고 싶어하기 때문에, 그들은 시간과 돈을 이 작업에 기꺼이 쓰려고 굳이 노력하지 않고 있습니다. 여기서 저는 성평등가족부같은 공공 부처의 역할이 중요해진다고 생각합니다. 기업들에게 준수할 수 있는 기준이 되는 데이터셋을 시범적으로 보여주고 강하게 권고할 수 있습니다. 당신의 비즈니스가 특정 성별의 사회구성원, 여성의 사회적 활동과 노동권을 침해하지 않도록 따라서 벤치마킹해야할 데이터셋의 형태는 이것이고, 그를 기반으로 AI를 보다 중립적으로 만들 수 있다는 가이드를 주는 것이죠. 이 작업은 그리고 다분히 비기술적이고, 로컬적이고 문화적인 맥락을 가지고 꾸준히 진행되어야 합니다. 성차별은 문화권, 언어마다 그 양상이 차이가 있고 또 시대상을 반영하고 있기 때문입니다. 이미 남초 사회인 엔지니어들끼리만 이 문제를 해결할 수 없음은 자명하며, 시민사회는 물론 공공 부처, 학계 모두의 협업이 필요합니다.

성평등 가족부는 현재 AI 산업 내 성별편향이 일어나고 있는 많은 분야 중에서 고용과 교육에 먼저 집중하고자 하고 있습니다. 이는 좋은 출발이라고 생각합니다. 위 사례에 소개한 고용분야의 문제, 그리고 소개하진 않았지만, 디지털 네이티브로서  최신 기술과 친밀하게 자라나고 있는 아동과 청소년은 물론 성인지감수성이 부족한 성인들 대상의 교육에 있어 편견으로 얼룩진 데이터를 먹고 자란 AI에게 윤리적 판단을 의존하고 있는 문제는 공공에서 먼저 책임있게 중심을 잡아줘야 하는 중요 분야입니다. 청소년들의 경우는 캐릭터 챗봇 산업의 주 고객이기도 한데, 이에 대한 규제 대응이 미국, 중국보다도 한국은 뒤쳐져 있기도 하다고 마지막 자유토론 시간의 도토리랩스 조경숙 대표님도 짚어주셨어요. 저는 여기서 더 나아가 성평등 가족부가 교육부나 재정경제부, 금융감독위, 과학기술정보통신부에 적극적 협조를 요청하고 모니터링 감독까지 할 수 있는 권한과 충분한 관련 예산을 확보했으면 좋겠다는 강력한 바램을 갖고 있습니다. 이렇게 중대하고 전문적이며 많은 시간과 자원이 드는 일을 성평등 가족부가 전담하기보다는 여러 부처간의 오케스트라 협업이 절실하다고 생각합니다. 앞으로 이런 성격의 포럼 자리에 더 많은 관계 부처 분들이 함께해주시면 어떨까 희망해봅니다. 이것으로 후기글을 마치겠습니다.

 포럼 후기 글

이재흥 시민기술네트워크 상임이사

(국가인공지능전략위원회 위원)