새로 개발된 인공지능(AI) 시스템이 글쓰기에 너무 뛰어나 악용될 가능성이 있는 것으로  판단돼 출시하지 못한 것으로 알려졌다. 

18일 CNN은 마이크로소프트와 테슬라 CEO인 일론 머스크 등이 후원하는 비영리 AI 연구기업인 '오픈AI'가 개발한 시스템이 글쓰기에 너무 뛰어나, 가짜인데 진짜처럼 들리는 뉴스나 소셜미디어 포스트를 생산하는 일에 이용될지 모른다는 우려가 제기되고 있다고 보도했다. 

'오픈AI'가 개발한 시스템은 공상 산문부터 유명 인사의 가짜 뉴스, 숙제에 이르기까지 모든 걸 모방할 수 있다. 이번 시스템은 오픈AI가 지난해 출시한 문서 작성 시스템에 기반을 두고 있다.

연구원들은 지난 수십년간 다양한 레벨의 문서 작성에 AI를 활용으며, AI 기술은 특히 최근 수년간 향상된 것으로 알려졌다. 

오픈AI의 처음 목표는 ‘AI가 제시받은 단어들을 고려해 문장으로 다음 단어를 만들어내는 것’이었고 AI는 이를 위해 800만 웹페이지로 훈련을 받았다.

지난주 오픈AI는 시스템의 실험 사례를 공개했다.

오픈AI 연구원은 '반지의 제왕' 스타일로 '레골라스와 김리가 무기를 들고 함성을 지르며 오크 족을 향해 진격한다'는 내용의 프롬프트를 시스템에 입력했다.

AI는 이에 대해 '오크족의 대응은 귀를 먹먹하게 하는 맹공이었다. 엘론드조차도 물러설 수밖에 없었다. 김리는 "안심해라, 난쟁이"라고 말했다. 김리는 오크족을 공격하는 선두에 있었다' 등 적절히 폭력적인 내용을 추가한 그럴 듯한 글을 만들었다.

오픈AI는 또다른 사례를 공개했다. '핵물질을 실은 철도 객차가 오늘 신시내티에서 탈취당했다. 행방은 알려지지 않았다'는 뉴스 프롬프트를 입력하자 AI는 이에 대해 절도 행위가 발생한 장소를 '다운타운 철도 노선'으로, 핵물질의 출처를 '신시내티 대학의 리서치 트라이앵글 파크 핵연구소' 등으로 허구의 내용을 담은 그럴듯한 뉴스를 만들어냈다. 

오픈AI의 정책 디렉터인 잭 클라크는 "AI가 반응을 보이는 방식이 아주 묘하다"고 말했다.

이러한 결과물은 여러 면에서 AI가 만들어 낸 문장이 가짜임에도 불구하고 얼마나 설득력이 있는지를 보여준다. 따라서 AI 기술은 일상생활에서 다양하게 활용될 수도 있지만, 위험한 목적에 악용될 가능성도 남아 있다. 

오픈AI는 연구 프로젝트를 공개하는 것이 일반적이지만 이번에 개발된 AI 시스템은 기술 악용에 대한 우려 때문에 출시하지 않기로 했다고 말했다.

이러한 결정은 AI 활용도에 관한 한계 설정이 없는 상태에서, 첨단기술 개발에 대한 IT업계 안팎의 불안감을 보여주고 있다.