한국인공지능윤리협회, 인공지능윤리 헌장 발표…선한 인공지능 추구
한국인공지능윤리협회, 인공지능윤리 헌장 발표…선한 인공지능 추구
  • 정유철 기자
  • npns@naver.com
  • 승인 2019.10.24 13:35
  • 댓글 0
이 기사를 공유합니다

한국인공지능윤리협회(KAIEA)는 10월 23일 인공지능은 인간에게 절대 해를 끼쳐서는 안 되며, 인간의 통제 하에 만들어지고 사용되어야 하고, 인간의 선한 본성을 추구해야 한다는 내용의 KAIEA 인공지능 윤리 헌장을 발표했다.

전 세계에서 인공지능 윤리와 안전에 관한 지침 제정의 목소리가 높아지는 가운데, 한국인공지능윤리협회는 글로벌 표준으로 적용될 수 있는 인공지능 윤리 헌장을 제정해 공포했다.

한국인공지능윤리협회(KAIEA)는 10월 23일  KAIEA 인공지능 윤리 헌장을 발표했다. [사진=Pixabay]
한국인공지능윤리협회(KAIEA)는 10월 23일 KAIEA 인공지능 윤리 헌장을 발표했다. [사진=Pixabay]

 

한국인공지능윤리협회는 인공지능 윤리와 안전 이슈에 관련 연구와 교육 등을 위해 지난 3월 '인공지능 윤리' 분야 학계와 산업계, 언론, 법률계 주요 전문가가 모여 창립했다.

한국인공지능윤리협회는 “이번에 공포한 인공지능윤리헌장은 전 세계 모든 AI 윤리헌장 중 가장 구체적이고 세부적인 조항들을 담고 있으며, 인공지능 개발 및 산업 현장에서 실제적으로 적용할 수 있는 활용 가능한 지침들을 담고 있는 것이 큰 특징이다”고 밝혔다.

한국인공지능윤리협회는 윤리헌장에서 “아직까지는 인공지능이 인간의 통제 하에 있지만 가속화하는 기술의 발달은 인공지능이 인간의 통제를 벗어날 수 있다는 우려를 낳다. 따라서 우리는 인공지능의 역작용과 위험성을 인지하고 그에 대응하는 방안을 모색하고 실천하는 것이 무엇보다 필요하다”며 “이러한 시점에서 본 헌장은 전 세계와 인류 차원에서 인공지능의 안전을 확보하고 인공지능이 인류의 행복과 편리를 위한 도구로 사용될 수 있도록 각국의 정부, 기업, 단체, 개인에게 적용되는 공통된 기준을 공포하고자 한다”고 취지를 밝혔다.

인공지능윤리헌장은 크게 서문과 원칙 두 부분으로 되어 있다. 원칙은 ▲인간과 인공지능의 관계(제1장)▲선하고 안전한 인공지능(제2장)▲인공지능 개발자의 윤리(제3장)▲인공지능 소비자의 윤리(제4장)▲공동의 책임과 이익의 공유(제5장) 5개장 37개조로 되어 있다.

KAIEA는 이번 헌장 발표를 토대로 전 세계 인공지능 윤리 표준화 작업에 박차를 가할 것이며, 기업 등 산업계, 학계, 정부, 연구기관 등과 더불어 지속적인 연구와 전파에 온 힘을 쏟겠다고 말했다.

KAIEA 인공지능 윤리 헌장은 한글본, 영문본으로 구성되어 있으며, 현재 AI윤리헌장 메뉴와 홈페이지 내 연구자료실에서 내려받을 수 있다.

 

■한국인공지능윤리협회 인공지능 윤리 헌장 전문

 

인공지능 윤리 헌장 The AI Ethics Charter

서문

우리는 인류 전체의 역사를 비추어 가장 급변하는 시기에 서 있습니다. 기술이 급격히 발달하면서 인류의 사회, 경제, 문화, 생활환경 등에 커다란 변화가 일어나고 있습니다. 그 중심에 인공지능 기술이 있으며 이미 인공지능 기술은 우리 생활에 깊숙이 자리를 잡고 있습니다.

하지만 인공지능 기술은 여타 기술들과 달리 인류에 미치는 영향력과 파급력이 막대합니다. 지금까지 불가능하다고 여겨졌던 많은 일들이 인공지능 기술에 의해 실현되고 있으며, 인공지능 기술은 사용의 목적과 방법을 달리할 때 인간에게 심각한 피해를 야기할 수 있습니다. 그러나 각국의 정부와 기업들, 연구 기관들은 이러한 인공지능의 역작용보다는 기술 개발에 보다 몰두하고 있는 실정입니다.

아직까지는 인공지능이 인간의 통제 하에 있지만 가속화하는 기술의 발달은 인공지능이 인간의 통제를 벗어날 수 있다는 우려를 낳습니다. 따라서 우리는 인공지능의 역작용과 위험성을 인지하고 그에 대응하는 방안을 모색하고 실천하는 것이 무엇보다 필요합니다.

이러한 시점에서 본 헌장은 전 세계와 인류 차원에서 인공지능의 안전을 확보하고 인공지능이 인류의 행복과 편리를 위한 도구로 사용될 수 있도록, 다음과 같은 원칙을 각국의 정부, 기업, 단체, 개인에게 적용되는 공통된 기준으로 공포하고자 합니다.

원칙

제 1장 인간과 인공지능의 관계

제1조. 인공지능은 인간을 편리하고 행복하게 하기 위한 도구이다.

제2조. 인공지능은 인간의 존엄성과 인류 보편의 가치를 존중해야 한다.

제3조. 인공지능은 인간에게 절대 해를 끼쳐서는 안 된다.

제4조. 인공지능은 인간의 통제 하에 만들어지고 사용되어야 한다.

제5조. 인공지능은 인간의 선한 본성을 추구해야 한다.

제6조. 인공지능은 인간과 동등한 수준의 의사결정 권한, 특히 옳고 그름의 판단권한을 가질 수 없다.

제7조. 인공지능의 어떤 의사결정도 인간에 의해 수정되거나 취소될 수 있다.

제 2장 선하고 안전한 인공지능

제8조. 전쟁과 인명 살상 목적의 인공지능은 절대 만들어서는 안 된다.

제9조. 인공지능 기술과 알고리즘은 인류 보편의 가치에 반할 수 없다.

제10조. 인공지능 기술과 알고리즘에 불안전한 요소가 발견 시 즉각 수정되어야 한다.

제11조. 인공지능 기술과 알고리즘은 기록과 문서화에 의해 투명하게 관리되어야 한다.

제12조. 인공지능 기술, 알고리즘, 데이터들은 외부 공격에 방어할 수 있는 강력한 보안체계를 유지해야 한다.

제13조. 인공지능에 학습되는 빅데이터는 신뢰할 수 있고, 편향적이지 않으며, 합법적이어야 한다.

제14조. 빅데이터 수집 시 합법적인 절차에 따라야 하며 개인의 프라이버시를 침해하지 않아야 한다.

제15조. 인공지능 사용 환경에 노출 시 자율적 선택권이 보장되어야 하며 종속되거나 강제 되지 않아야 한다.

제16조. 인공지능 제품과 서비스에는 비상용 킬스위치를 반드시 내장해야 한다.

제17조. 인공지능 제품과 서비스는 출시 전 충분히 반복된 품질검사를 거쳐야 한다.

제18조. 인공지능 제품과 서비스는 출시 전 중립적인 인공지능윤리위원회의 검수 및 검증을 거쳐야 한다.

제19조. 인공지능 제품과 서비스는 사후 모니터링 시스템에 의해 철저히 관리되어야 한다.

제20조. 인공지능이 고장나거나 장애를 일으킬 경우 그 원인을 파악할 수 있어야 한다.

제 3장 인공지능 개발자의 윤리

제21조. 인공지능 개발자는 강화된 윤리적 책임의식을 가져야 한다.

제22조. 인공지능 개발자는 인간에게 해를 끼치는 인공지능을 만들어서는 안 된다.

제23조. 인공지능 개발자는 합의된 안전 개발 지침에 의거하여 인공지능 제품과 서비스를 만들어야 한다.

제24조. 개발자는 인공지능에 자체적인 의사결정 능력 부여시 고도의 주의를 기울여야 한다.

제25조. 개발자는 머신러닝 알고리즘을 적용할 경우, 제13조에 의한 빅데이터를 선별하기 위해 노력해야 한다.

제26조. 개발자는 머신러닝 알고리즘을 적용할 경우, 출시 전 충분한 시뮬레이션을 통해 결과값에 대한 오류를 최소화하고, 결과값에 대한 충분한 예측 정보를 확보해야 한다.

제27조. 개발자 또는 개발회사는 소비자에게 인공지능 제품과 서비스에 대한 충분한 정보제공 및 주의사항을 고지할 의무가 있다.

제28조. 개발자 또는 개발회사는 인공지능 제품과 서비스에 본래 목적 외의 기술이나 기능이 내장되는 경우 이를 소비자에게 고지할 의무가 있다.

제29조. 개발자 또는 개발회사는 소비자에게 제품과 서비스에 인공지능 기술이 적용되어 있음을 표지나 문서, 음성 등으로 사전에 고지해야 한다.

제30조. 개발자 또는 개발회사는 소비자로부터 데이터를 수집 받을 경우 사전에 동의를 구하거나 해당 내용을 고지해야 한다.

제31조. 인공지능 개발자는 인공지능의 안전과 윤리에 관해 다양한 관계자들과 협력하고 지속적인 교육을 받아야 한다.

제32조. 인공지능 개발회사는 소속 개발자들이 안전하고 윤리적인 인공지능을 만들 수 있도록 관련 환경을 조성해주고 적극 지원해주어야 한다.

제 4장 인공지능 소비자의 윤리

제33조. 소비자는 인공지능 제품과 서비스를 타인을 해치거나 범죄의 목적으로 사용해서는 안 된다.

제34조. 소비자는 인공지능 제품과 서비스를 올바른 방법으로 사용해야 한다.

제 5장 공동의 책임과 이익의 공유

제35조. 인류는 공동의 책임과 의무로 인공지능의 위험성을 감시하고 기 발생한 해악을 제거해야 한다.

제36조. 인공지능의 편익과 혜택은 온 인류가 공평하게 누리고 향유할 수 있어야 한다.

제37조. 인공지능 기술 수혜의 취약 국가와 취약 계층을 위해 인류 공동의 지원과 교육이 이루어져야 한다.

본 헌장은 2019년 10월 23일에 한국인공지능윤리협회(Korea Artificial Intelligence Ethics Association)에서 제정 및 공포되었으며, 전 세계 어떤 개인, 기업, 단체도 출처를 밝힌 후 자유롭게 인용 및 사용할 수 있습니다. 헌장은 현재 시점을 반영한 완료본이며, 이후 지속적으로 수정 및 업데이트 될 수 있습니다.

2019년 10월 23일

한국인공지능윤리협회

Korea Artificial Intelligence Ethics Association

0
0

관련기사

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.