‘사람 중심’의 신뢰성 있는 시스템 설계 필요

[보안뉴스 박미영 기자] 박선숙 의원은 정부의 행정서비스(이하 전자정부 서비스)에 사용되는 자동화 및 지능형 시스템의 기술적 안정성과 투명성 제고를 위해 행정기관에 대해 대국민 설명·공개 의무를 부여하는 ‘전자정부법’ 일부개정법률안을 대표 발의했다.


이번 개정안은 전자정부에 도입되는 자동화 시스템과 지능형 시스템에 대해 정의하고, 새롭게 도입되는 자동화 시스템 등에 대해 설명하도록 하는 규정을 신설한다. 또한 개정안에 의하면 행정기관은 자동화 시스템의 안정성·공정성·정확성 등을 주기적으로 점검하고, 점검 결과에 따라 시스템을 개선해야 한다. 인공지능 등을 사용한 ‘지능형 시스템’이 도출한 판단·결정·평가 또는 자문 등의 내용은 기록·보존돼야 하며, 주기적으로 영향평가를 실시하도록 하는 조항도 신설된다. 아울러 자동화 지능형 전자정부 서비스 제공에 따른 책임 문제 해결을 위해 자동화·지능형 시스템의 총괄관리자를 지정한다.

공공 분야의 지능화는 현재 세계적으로 주목받고 있으며, 우리 정부 또한 이러한 변화에 맞춰 최근 ‘지능형 정부 선포(2019.06.24)’ 등을 통해 노후화된 전자정부 시스템의 고도화를 준비하고, 행정안전부는 2020년 약 6,515억원을 지능형 전자정부 구축에 투입할 예정이다.

인공지능과 같은 지능형·자동화 기술이 도입되면 공공서비스의 비효율성을 제거할 수 있고, 행정 업무의 신속성도 높아질 것이다. 한편 기술 고도화에 따라 기술에 대한 엄격한 관리가 요구되며, 이용자 보호 방안도 설계돼야 한다. 그러나 현행법은 자동화 및 지능형 시스템을 효과적으로 관리할 수 있는 내용이 포함돼 있지 않아, 새로운 시스템의 안전성과 이용자 보호에 공백이 발생할 수 있다. 특히 인공지능 시스템은 과거의 정보화 시스템과 달리 사회적 파급력이 크고 왜곡된 결과로 인해 피해를 일으킬 가능성이 있는 기술로, 특별한 관리 조치가 요구된다.

한국과학기술한림원에서 발표한 ‘새로운 정보기술과 인권’ 보고서(2018)에 따르면 데이터와 알고리즘의 의해 작동하는 자동화·지능형 시스템은 프라이버시 침해·개인정보 남용을 넘어 소수자에 대한 차별 문제를 일으킬 수 있다고 지적하고 있다. 또 보고서는 특히 “규제행정 알고리즘의 결과에 대해 이의를 제기하기 힘들어, 이에 대한 알권리를 강하게 보장해야 한다”고 강조한 바 있다.

올해 4월 23일 채택된 OECD의 ‘AI 권고안’은 ‘신뢰할 수 있는 인공지능 구현을 위한 5가지 원칙과 5가지 국가 정책’을 제시하고 있다. 권고안이 제시하는 신뢰 가능한 AI 원칙과 이를 구현하기 위한 국가 정책의 기조를 따라 본 개정안은 지능형 시스템을 도입하기 전에 행정기관이 자동화·지능형 시스템 구축에 사용된 데이터와 알고리즘 그리고 공정성·안전성·정확성에 대한 기술적 점검을 이행하고, 시스템에 크게 영향받을 국민에게 시스템의 사용 여부·목적 그리고 기본 사항에 대해 설명하도록 규정하고 있다.

기술을 가장 효과적으로 쓰기 위해서는 적합한 안전체계와 확실한 기술 검증, 도입과 사용에 대한 기준, 그리고 책임감이 수반돼야 한다. 개정 법안은 일반인이 이해하기 어렵고 접근하기도 어려운 자동화·지능형 시스템에 대한 사회적 신뢰를 확보하고 데이터화 시대에 인권을 보호하기 위해서는 이러한 시스템 도입에 따른 사회적 문제와 차별가능성에 대한 검토, 그리고 시민사회의 알권리·설명 요구 권리를 강화해야 한다는 점을 강조한다.
[박미영 기자(mypark@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>