구글, 인공지능 반란 방지 위해 ‘킬 스위치’ 개발

구글이 강력한 인공지능 시스템의 반란을 방지키 위해 딥마인드(DeepMind)와 ‘킬 스위치( kill switch)’를 개발하고 있는 것으로 알려졌다. 

3일(현지시간) 과학기술 사이트 퓨처리즘(www.futurism.com)은 IT 전문 매체 기즈모도(Gizmodo) 기사를 인용, 구글 딥마인드 AI 연구소와 옥스퍼드대학에서 수행한 연구 논문 자료를 인용해 이같이 보도했다.

본래 ‘킬 스위치’는 분실한 정보기기 내의 정보를 원격으로 삭제하거나 그 기기를 사용할 수 없도록 하는 기술이다. 구글은 이 같은 개념을 도입해 인공지능이 인간에게 해로운 행위를 할 경우를 대비해 ‘킬 스위치’를 적용한다는 것이다.

구글 딥마인드의 로랑 오르소(Laurent Orseau)와 영국 옥스퍼드대 인류미래연구소(FHI, Future of Humanity Institute)의 스튜어트 암스트롱(Stuart Armstrong)은 최근 인공지능 관련 논문 '인간이 안전하게 개입해 중지시킬 수 있는 인공지능(Safely Interruptible Agents)'라는 논문에서 "인공지능이 인간에게 해로운 행위를 하려 들 때 강제로 멈출 수 있는 킬 스위치가 필요하다"고 밝혔다.

terminator
▲ 영화 터미네이터 한 장면

그간 빌 게이츠(Bill Gates), 엘론 머스크(Elon Musk), 스티븐 호킹(Stephen Hawking) 등이 한 목소리로 인공지능이 뜻하지(unintended) 않은 방향으로 발전한다면 인간은 파국(disastrous)을 맞을 것이라고 경고를 해왔다.

이에 따라 역시 발 빠르게 움직이는 나라가 미국이다. 미국 보스톤 소재 비영리 연구단체인 퓨처 오브 라이프 인스티튜트(FLI, Future of Life Institute, www.futureoflife.org)는 현재 떠 오르고 있는 제4차 산업혁명인 인공지능(AI)과 생명공학(Biotech), 그리고 핵(Nuclear)과 기후(Climate)를 연구하는 단체이다. 

특히 인공지능을 보면 FLI의 연구 우선순위와 목적은 간단하다. 가능한 파국(avoiding potential pitfalls)을 막고, 인간에게 선(善)하고 혜택을 줄 수 있는 그러한 인공지능을 개발하는데(keeping AI robust and beneficial) 필요한 연구를 하자는 것이다. 지금 연구하는 것이 매우 중요하고 시기가 적절하다는 것이다. 그리고 이러한 취지의 공개서한을 만들고, 많은 사람들에게 오픈하여 동참을 유도하고 있다. 

또 2015년 12월 11일, 와이 컴비네이터(Y Combinator) 샘 알트만(Sam Altman)과 테슬라와 스페이스엑스(SpaceX)엘론 머스크(Elon Musk)가 총 10억 달러를 후원하여 오픈AI (OpenAi.com)를 설립했다. 

오픈AI의 장기 목표는 인간이 의지와 사고력으로 할 수 있는 일이면 뭐든지 할 수 있는 범용 인공지능을 만드는 것이다. 다만 인간을 대체하는 것이 아니라 인간의 모자라는 점을 보충할 수 있는 이타적 기술을 개발하는데 주력할 방침이다. 또한 AI의 파국(A.I. apocalypse)을 사전에 막는 솔루션도 연구한다.

차원용 국가학기술심의회 전문위원은 ‘인공지능의 오해와 진실’이라는 보고서에서 “인공지능을 부정적이 아닌 긍정적인 관점으로 보아야 한다. 그간 인공지능에 반대입장을 표명했던 엘론 머스크도 작년 말에 오픈에아이(OpenAi)를 설립해서, 인공지능이 일자리를 대체하는 것이 아니라 일자리를 더욱 많이 창출하는 방법을 연구하기 시작했다. 인공지능이 사람을 도와 보다 창의적인 아이디어를 만들어주고, 사람이 꿀 수 없는 꿈을 대신 꿔서 그 꿈의 비전과 전략을 그려주며, 아이들과 함께 놀고 학습하는 그러한 인공지능을 개발해야 한다. 세계경제포럼의 보고서가 다소 과장된 부분이 없지 않지만, 우리에게 주는 경고라는 메시지로 받아들여, 이제부터 시작한다는 출발점에서, 미국의 FLI처럼 ELSI 사전연구를 통한 정책과 전략을 수립해 집중 연구개발해야 할 것이다”라고 강조했다.

구글의 이러한 노력이 인류의 과학기술 발전에 중요한 역할을 할 것으로 기대된다.


[김들풀 기자  itnews@itnews.or.kr]