일론 머스크가 야심 차게 출시한 인공지능(AI) 챗봇 ‘그록(Grok)’이 표절 논란에 휩싸였다. 그록을 훈련할 때 업계에서 가장 인지도가 높은 오픈AI(OpenAI)의 텍스트 기반 생성형 AI 챗봇 ‘챗GPT(ChatGPT)’ 관련 데이터가 사용됐을 가능성이 제기됐다.
그록이 오픈AI 이용 약관을 언급한 모습 (출처 : 엑스 @JaxWinterbourne)
잭스 윈터본이라는 보안 연구원은 그록이 사용자 요청을 거부한 스크린샷을 12월 8일(현지시간) 자신의 엑스(X) 계정에 공유했다. 스크린샷에서 그록은 “오픈AI의 이용 사례 정책에 어긋나므로 사용자 요청에 응답할 수 없다”라고 답변했다.
오픈AI와 무관한 ‘그록’, 왜 오픈AI를 언급했을까
그록은 일론 머스크가 올해 3월 설립한 AI 스타트업 ‘xAI’가 개발한 챗봇이다. 당연히 오픈AI와는 아무 연관이 없다. 그런데 그록이 사용자 요청을 거부하며 내놓은 답변에 xAI가 아닌 오픈AI가 난데없이 언급됐다. 일각에서는 그록을 개발할 때 오픈AI 자료나 챗GPT를 구성하는 소스 코드를 참조하거나 표절한 게 아니냐는 의혹을 제기했다.
잭스 윈터본은 그록을 개발할 때 오픈AI의 API(애플리케이션 프로그래밍 인터페이스)가 사용됐을 가능성이 높다고 주장했다. 소식을 접한 다른 사용자도 동의하는 분위기다.
일각에서는 오픈AI가 사용한 훈련 데이터 세트나 챗GPT와 관련된 데이터가 그록 훈련에 영향을 끼쳤을 것으로 분석했다. 한 사용자는 챗GPT와 그록에게 동일한 질문을 했더니 비슷하게 답변했다고 주장했다.
잭스 윈터본은 xAI가 어떻게 대응할지도 예상했다. 그는 xAI가 “오픈소스 대형 언어 모델(LLM)로 그록을 훈련했기 때문에 오픈AI가 언급된 답변이 나올 수 있다”라고 대응할 것이라며, 이 같은 답변을 제시한다면 그록은 기존 챗봇과 동일한 원리와 데이터로 구동되는 ‘아주 훌륭한 서비스’라고 비꼬았다.
xAI 해명, “챗GPT 답변이 훈련 데이터에 포함돼 문제 발생”
그록 기능을 구축하는 모습 (출처 : xAI)
논란이 일자 그록을 개발한 xAI의 공동 창업자 이고르 바부슈킨(Igor Babuschkin)이 입을 열었다. 그는 온라인에 있는 데이터를 모아 그록 훈련에 사용하는데, 온라인에 챗GPT가 작성한 답변이 너무 많은 나머지 실수로 해당 내용을 훈련 데이터에 포함했다고 해명했다.
챗GPT가 사용자 요청을 거부한 내용이 그록을 훈련할 때 사용한 텍스트 데이터에 포함됐고, 이를 학습한 그록이 부적절한 사용자 요청에 챗GPT와 똑같이 답변했다고 풀이된다.
그는 그록을 개발하는 데 오픈AI의 코드를 사용하지 않았으며, 앞으로 그록에서 같은 문제가 발생하지 않도록 조치하겠다고 덧붙였다.
AI 연구원 사이먼 윌리슨은 이고르 바부슈킨의 해명이 의심스럽다고 지적했다. 그는 오픈AI의 API를 사용해 개발했거나 챗GPT 서비스에서 긁어모은 데이터 세트로 훈련한 AI 모델은 모두 이번 사례와 같이 챗GPT처럼 답변했다고 주장했다. 그는 그록이 온라인에 공개된 데이터가 아니라 챗GPT가 답변한 내용을 포함한 데이터 세트로 훈련했을 가능성이 높다고 언급했다.
챗GPT가 답변한 내용을 훈련에 사용해도 괜찮을까. 소식을 보도한 해외 IT 매체 아르스테크니카(Ars Technica)는 최근 다른 AI가 만든 데이터로 자사 AI를 훈련하는 게 관행처럼 자리잡았다고 전했다.
매체는 챗GPT 답변을 모아 만든 데이터를 온라인에서 쉽게 찾을 수 있으며 챗GPT로 훈련용 데이터 세트를 생성하는 방법이 기사화된 적도 있다고 덧붙였다. 단, 이런 행위는 서비스 이용 약관에 위배된다. 오픈AI는 챗GPT로 만든 결과물을 경쟁사의 AI 모델 훈련에 사용하면 안 된다고 챗GPT 이용 약관에 명시했다.
xAI, 훈련용 데이터 내용 신경 써서 관리해야
정황상 그록을 훈련할 때 오픈AI와 관련 있는 데이터가 사용됐을 가능성은 높다. 이고르 바부슈킨이 해명한 대로 온라인에서 훈련용 데이터를 수집하다 챗GPT 답변 내용이 흘러 들어갔을 수도 있고, 그록을 개발할 때 오픈AI API를 사용했거나 약관을 위반하고 챗GPT 데이터로 훈련했을 가능성도 있다.
한 업계 관계자는 xAI가 훈련용 데이터 세트를 준비하면서 오픈AI나 챗GPT가 직접 언급된 내용을 제대로 거르지 못해 이번 사건이 일어났다고 지적했다.
한편 챗GPT 측은 잭스 윈터본이 공유했던 그록 답변 스크린샷을 10일 엑스(X)에 게시하면서 “우린 공통점이 많다”라고 비꼬았다. 이에 일론 머스크는 “챗GPT를 훈련할 때 이 플랫폼(엑스)에서 모든 데이터를 수집했기 때문”이라고 반박했다.
테크플러스 에디터 이병찬
tech-plus@naver.com
댓글 많은 뉴스