정부가 안전하고 신뢰할 수 있는 인공지능(AI) 기본사회 구현을 위한 AI 윤리원칙을 마련했다. 

이 윤리원칙은 ▲인간의 존엄성 ▲사회의 공공선 ▲인류의 지속가능성 등 3대 가치와 ▲인간중심성 ▲프라이버시 보호 ▲공정성·포용성 ▲책임성 ▲안전성 ▲신뢰성 ▲투명성 등 7대 원칙을 담고 있다.

과학기술정보통신부와 정보통신정책연구원(KISDI)은 제12회 과학기술관계장관회의에서 관계부처 합동으로 마련한 '대한민국 인공지능 윤리원칙'을 심의·의결했다고 24일 밝혔다. 

윤리원칙은 AI의 건전한 활용과 사회의 지속적인 발전을 위해 AI를 개발·제공하고 이용하는 다양한 주체와 사회 전체가 함께 지켜나가야 할 공통의 가치와 원칙을 우리 사회의 맥락에서 밝힌 것이다.

이번 윤리원칙은 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제27조에 따라 제정했으며, 사회 전 영역에 적용해 각 분야 윤리기준과 지침의 토대가 된다. AI를 둘러싼 물음에 일률적인 답을 정하기보다 판단과정에서 살펴야 할 사항을 밝혀, 각 주체가 갈등을 줄이고 함께 답을 찾아가는 데 필요한 자율적 실천의 방향을 제시한다.

윤리원칙의 3대 가치는 ▲AI 시대에 인간과 사회, 인류 차원에서 추구해야 할 근본적 지향으로, 모든 사람이 수단이 아닌 목적 그 자체로 존중받으며 존엄과 인권을 온전히 누리는 인간의 존엄성 ▲AI의 편익이 개인의 삶을 넘어 사회적 신뢰와 공동의 이익으로 이어지는 사회의 공공선 ▲그 편익을 현재와 미래 세대가 함께 누리며 환경과 사회의 기반이 지속되는 인류의 지속가능성이다.

7대 원칙은 인간중심성, 프라이버시 보호, 공정성·포용성, 책임성, 안전성, 신뢰성, 투명성으로, 이러한 가치를 실현하기 위해 모든 주체가 AI 전 생애주기에서 실천해야 할 공통의 기준이다. 

☞ 대한민국 인공지능 윤리원칙 

이와 함께 각 원칙별로 구체적인 설명과 공급자, 이용자, 정부·사회 등 주체별 역할을 제시해 실제 AI 개발·제공·이용 과정에서 참고할 수 있게 했다.

이번 윤리원칙의 제정 배경에는 AI 확산이 가져온 기회와 과제가 있다.

AI는 산업의 생산성을 높이고 새로운 서비스를 창출하며, 기후변화, 고령화, 지역 격차 등 사회적 과제 해결에도 활용하고 있다.

또한, AI가 트롤리 딜레마, 노동 감시, 과의존 등 개인에게 실제로 유익하게 작용하는지, AI 도입으로 노동·일자리 변화, 저작권 및 AI 표절 등 기존 역학관계가 어떻게 달라지는지, 사람의 삶에 영향을 미치는 판단을 AI에게 어디까지 맡길 것인지에 대한 우려와 고민도 커지고 있다.

AI의 역량이 고도화되면서 개발부터 이용까지 전 과정에 걸쳐 안전과 신뢰를 확보하는 일도 더욱 중요해지고 있다.

이에 정부는 모든 주체가 참고할 공통의 기준으로서 2020년 '인공지능(AI) 윤리기준'을 계승하되 기술 발전과 '인공지능기본법' 시행 등 달라진 여건을 반영한 새 윤리원칙을 마련한 것이다.

과기정통부와 KISDI는 지난해 12월부터 윤리원칙 제정을 추진해 왔으며, 작업반과 자문단에서 초안을 마련해 지난 5월 29일 공개했다.

이후 산업계·시민사회·학계·관계부처와 일반 국민으로부터 153건의 의견을 접수했으며, 지난 14일 대토론회를 거쳐 윤리원칙을 보완하고 최종안을 마련했다.

이 과정에서 정부가 일방적으로 기준을 정하기보다 국민과 각계의 의견을 충실히 담아내는 데 중점을 두고, 공통으로 제기된 내용을 정제하되 의견이 상충하는 경우에는 가능한 대안을 제시하고자 했다.

이번 윤리원칙의 특징은 세 가지로, 먼저 AI의 활용이 이미 선택이 아니라 '어떻게 잘 활용할 것인가'의 문제가 된 만큼, 사회의 지속가능성을 위해 각 주체가 지켜야 할 원칙을 담았다.

이어서, AI를 개발·제공하는 공급자뿐만 아니라 이를 활용하는 이용자도 책임 있는 AI 활용의 주체로 보고 이용자의 윤리와 역할도 함께 강조했다.

또한, AI 역량과 자원을 많이 가진 국가와 기업이 그 영향력에 걸맞은 책임을 다하고, AI의 혜택이 특정 국가·지역·집단에 치우치지 않아야 한다는 국제사회를 향한 메시지도 담았다.

과기정통부는 윤리원칙을 현장에서 잘 실천할 수 있게 후속 조치도 추진해 사례 중심의 해설서와 분야별 자율점검표, 대상별 윤리교육 교재 등을 마련해 보급하고 윤리원칙을 점검·보완할 예정이다. 아울러, 국제사회에도 공유해 AI의 혜택이 인류 전체에 고루 돌아갈 수 있게 국제사회와 적극 협력해 나갈 계획이다.

인공지능 윤리원칙 전문은 과기정통부 누리집(https://www.msit.go.kr/)과 과기정통부·KISDI 인공지능 윤리 소통채널 누리집(https://ai.kisdi.re.kr/aieth/main/main.do)에서 확인할 수 있다.

배경훈 부총리 겸 과기정통부 장관은 "AI 혁신을 가속하는 것과 안전하고 신뢰할 수 있는 AI 환경을 조성하는 것은 서로 대립하는 과제가 아니다"라고 강조하면서 "인공지능 윤리원칙이 AI에 대한 사회적 신뢰를 높이고 바람직한 개발·활용과 그 혜택의 확산을 돕는 실천의 기준으로 자리 잡도록 뒷받침하겠다"고 밝혔다.