과기정통부, 인공지능 윤리정책 토론회 개최
과기정통부, 인공지능 윤리정책 토론회 개최
  • 김문구 기자
  • 승인 2022.08.26 17:12
  • 댓글 0
이 기사를 공유합니다

인공지능 윤리 확보 위한 기업의 자율적 활동 사례 공유

[아이티비즈 김문구 기자] 과학기술정보통신부(장관 이종호)는 인공지능 윤리를 확산하기 위한 기업의 자율적 활동 방안을 논의하고자 정보통신정책연구원(KISDI, 원장 권호열)과 한국정보통신기술협회(TTA, 회장 최영해)와 함께 26일 제3차 윤리정책 포럼(포럼위원장 고학수 서울대 법학전문대학원 교수)을 개최했다.

인공지능 윤리정책 포럼은 인공지능의 윤리적 개발과 활용을 위한 논의를 촉진하기 위해 올해 2월 처음 출범하였다. 산업계를 비롯하여 인공지능, 윤리, 교육, 법제도, 공공 등 다양한 분야의 전문가 30명이 제1기 포럼위원으로 활동하고 있다.

이번 포럼은 인공지능 스타트업이 인공지능 윤리를 어떻게 실천하고 있는지 엿볼 수 있는 자리였다. 인공지능 챗봇 ‘이루다’를 개발한 ‘스캐터랩(대표 김종윤)’, 인공지능 기반 영상인식 솔루션 등을 개발한 ‘알체라(대표 황영규)’, 인공지능 기반 글쓰기 솔루션 등을 제공하는 ‘뤼튼테크놀로지스(대표 이세영)’가 인공지능 서비스를 개발하는 과정에서 어떠한 고민을 가지고, 어떻게 노력하였는지 그 경험을 공유하였다.

먼저, 스캐터랩의 김종윤 대표가 ‘스캐터랩 인공지능 챗봇 윤리점검표’ 최종안을 발표하며 논의의 장을 열었다. 스캐터랩은 친구처럼 일상적인 대화를 나눌 수 있는 관계 지향형 인공지능 챗봇 ‘이루다 2.0’의 오픈 베타 테스트를 진행하고 있다.

‘스캐터랩 인공지능 챗봇 윤리점검표’는 인공지능 챗봇 ‘이루다’를 기획·개발·운영하는 전 과정에서 기업 윤리를 실현할 수 있도록 점검 항목을 제공한다. 스캐터랩의 '인공지능 챗봇 윤리 준칙'을 과기정통부의 '인공지능 윤리기준(’20.12)' 10대 핵심 요건에 따라 구체화한 질문을 제시하고 있다.

스캐터랩은 지난 3월에 '인공지능 챗봇 윤리 준칙'을 발표하며, 사람을 위한 인공지능 개발, 다양한 삶의 가치 존중, 사생활 보호 등 인공지능 챗봇 ‘이루다’에 어떤 가치를 담아냈는지 공개한 바 있다.

알체라의 조민국 연구소장은 인공지능 기반 산불 감지 솔루션의 기술적 신뢰성 검증 결과를 발표했다. 알체라는 영상인식 기술 등을 활용해 이상 상황 감지 솔루션, 신원 인식 솔루션 등을 개발·제공하고 있다.

알체라의 기술적 신뢰성 검증은 ‘신뢰할 수 있는 인공지능 개발안내서’를 알체라의 특성에 맞게 변형하여 현장 적용하는 방식으로 이루어졌다. 개발안내서는 개발자가 인공지능 제품·서비스 개발 과정에서 신뢰성 확보 여부를 확인해 볼 수 있도록 기술적 검증 항목 후보군을 제공하는 것으로, 기업이 제품·서비스 분야에 맞게 검증 항목을 자율적으로 선택·변형하여 내부지침으로 활용할 수 있다.

알체라는 개발안내서에서 제시하는 요구사항 중 이상 상황 감지 분야에 필요한 신뢰성 요구사항을 선별하고, 신뢰성 확보 여부를 점검하여 점검 결과 및 개선사항을 도출하였다.

뤼튼테크놀로지스 이세영 대표는 ‘뤼튼 인공지능 작문 도구 윤리점검표’ 개발 취지와 초안을 발표했다. 뤼튼테크놀로지스는 자연어 처리 기술 및 초거대 인공지능 기반으로 작문 보조 솔루션 ‘뤼튼(WRTN)’을 제공하고 있다.

‘뤼튼 인공지능 작문 도구 윤리점검표’ 초안은 올해 2월 포럼 출범식에서 공개한 ‘인공지능 윤리 자율점검표’를 뤼튼테크놀로지스의 조직 특성에 맞게 변형하는 방식으로 개발되었다. ‘윤리점검표’의 점검항목 후보군을 참고하여, 작문 보조 분야에 적합한 점검 항목을 만들어 내부지침으로 활용하는 것이 목적이다.

과기정통부는 지난 2월, 포럼 출범식에서 민간이 인공지능 제품·서비스를 기획하고 개발하는 과정에서 윤리 실천 및 신뢰성 검증을 위해 참고할 수 있는 ‘인공지능 윤리 자율점검표’와 ‘신뢰할 수 있는 인공지능 개발안내서’를 공개하였다. 이는 인공지능 활용 목적과 조직의 특수성에 따라 점검항목을 선별·재구성하여 활용할 수 있도록 산업 부문 등을 특정하지 않은 범용성 있는 점검항목 후보군을 제공한다.

이번 포럼은 스캐터랩, 알체라, 뤼튼테크놀로지스는 ‘인공지능 윤리 자율점검표’를 자사 서비스 특징에 맞게 내부지침으로 변형하거나 ‘신뢰할 수 있는 인공지능 개발안내서’를 자사 서비스의 신뢰성 검증을 위해 활용하는 등 인공지능 윤리 확보를 위한 기업의 자율적 활동 사례를 공유하는 자리였다. 

과기정통부는 이번 포럼의 결과물, 기업의 애로사항 등을 종합하여 챗봇, 위기상황 감지, 작문 등 해당 서비스 분야의 다른 기업들이 일반적으로 활용할 수 있는 분야별 점검항목 후보군을 공개할 예정이다. 

과기정통부 엄열 국장은 “혁신을 저해하지 않으면서 국민이 믿고 이용할 수 있는 인공지능 제품·서비스를 개발하기 위해서는 기업 스스로의 인공지능 윤리를 실천하고자 하는 노력이 중요하다”며, “인공지능 기술 수준, 인공지능 윤리 관련 국내외 동향, 이해관계자의 목소리 등을 종합적으로 고려하여 현장에서 공감할 수 있는 자율 규제 환경을 조성하기 위해 적극 지원하겠다”고 말했다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.