정부, ‘AI 안전연구소’ 11월 출범…AI 위험 관리

ETRI 산하 30명 규모 조직으로 꾸려
아태 글로벌 AI안전 거점연구소 목표

정부가 ‘AI(인공지능)안전연구소’를 내달 설립한다. /과학기술정보통신부

[마이데일리 = 박성규 기자] 정부가 ‘AI(인공지능)안전연구소’를 내달 설립한다. AI 기술 급속한 발전에 따른 위험에 대비하기 위한 조직으로, AI 안전성을 평가·연구하고, 주요국 관련 기관과 협력을 전담하는 역할을 맡는다.

20일 과학기술정보통신부는 서울 중구 국가과학기술자문회의 대회의실에서 제17차 정보통신전략위원회(전략위)를 열어 이 같은 내용이 담긴 AI 안전연구소 설립·운영 계획을 공유하고 의견을 수렴했다고 밝혔다.

정부는 지난 5월 열린 AI서울정상회의 개최국으로서 서울선언 후속조치로 AI안전연구소 설립을 추진한다. AI서울정상회의에서는 국가 차원 AI 안전연구와 글로벌 협력 중요성이 강조되며, AI 안전연구소 설립이 핵심의제로 논의됐다. 당시 윤석열 대통령은 “대한민국도 AI 안전연구소 설립을 추진해 글로벌 AI 안전성 강화를 위한 네트워크에 동참하겠다”고 밝힌 바 있다.

정부는 11월 AI 안전연구소를 개소할 예정이다. AI 안전연구소 운영을 통해 안전한 AI 개발·활용을 확산하고, AI안전에 대한 국제적 연대 강화와 규범 정립을 수행하며, 중장기적으로 세계적 AI안전 연구를 선도하는 기관으로 발전시켜 나갈 계획이다.

AI 안전연구소는 ETRI에 소속된 신규 연구소 조직으로 설치한다. 연구소 초대소장으로 AI분야 전문성과 국제적 감각을 보유한 전문가를 채용하기 위한 절차를 진행 중이며, 총 30여명 연구인력을 점진적으로 확보해 나갈 계획이다. 사무실은 우수인력 채용과 AI기업·유관기관과의 용이한 협력을 위해 판교 글로벌 R&D센터에 설치한다.

연구소는 아태지역을 대표하는 글로벌 AI안전 거점연구소 구현을 비전으로 하며, 3대 핵심 미션으로 △AI안전에 대한 과학적 이해 증진 △AI안전정책 고도화 및 안전제도 확립 △국내 AI기업 안전 확보 지원을 추진한다.

3대 미션을 완수하기 위해 연구소는 우선 국가 차원에서 관리해야 할 주요 AI위험을 정의하고, AI안전 평가방법론 개발과 위험완화 방안을 마련한다. 아울러, AI안전 평가데이터셋 구축 및 평가도구 개발 등 AI안전 평가인프라를 구축하고, 기업의 활용을 지원할 계획이다.

또 AI안전 정책을 연구하며, AI안전 대내·외 협력을 수행한다. 이와 함께 AI 통제력 상실 대응, AI모델의 보안·강건성 강화, AI 딥페이크 탐지 등 고도화되고 있는 AI위험에 대비하여 안전을 확보할 수 있는 연구개발(R&D)을 추진한다.

AI안전연구소는 오는 11일 20일부터 미국 샌프란시스코에서 개최될 국제 AI안전연구소 네트워크 행사 참여를 시작으로 본격적인 역할을 수행해 나갈 계획이다.

송상훈 과기정통부 정보통신정책실장은 “우리 정부도 AI 안전연구소를 설치해 안전한 AI 개발 활용을 확산하고 AI 안전 확보를 위한 국제적 연대를 강화해 나가겠다”고 말했다.

박성규 기자 psk@mydaily.co.kr
- ⓒ마이데일리(www.mydaily.co.kr). 무단전재&재배포 금지 -