(출처: 구글)
구글 AI(인공지능) 검색 기능 ‘AI 오버뷰(Overview)’가 황당한 답변을 내놓으며 논란에 휩싸였다. 구글 연례 개발자 회의 I/O 2024에서 처음 선보인 기능인데, IT 전문 매체 더 버지(The Verge)를 포함한 여러 외신에서는 5월 25일(현지시간) 소셜미디어에 잇따라 올라온 사례를 조명했다.
AI 오버뷰는 ‘생성 AI’를 활용한 구글 검색 기능이다. 최신 AI 모델 ‘제미나이(Gemini)를 사용한다. 기존 검색 기능과의 차이는 크게 2가지다. 우선, 단어 대신 ‘문장’으로 검색할 수 있다. 지금까지는 검색창에 단어를 입력해야 원하는 결과를 얻을 수 있었다. 사과의 효능이 궁금하면 ‘사과 효능’을 검색해 답변을 얻는 식이다. 그러나 AI 오버뷰는 ‘사과가 우리 몸에 얼마나 좋은지 알려줘’라고 검색해도 적절한 답변을 내놓는다.
검색 결과를 요약해 준다는 점도 다르다. 기존 검색은 관련 링크만 찾아준다. 원하는 답변을 얻으려면 웹사이트를 직접 클릭하는 수밖에 없다. AI 오버뷰는 핵심 내용만 담은 요약본을 제공한다.
피자에 접착제를 넣어야 한다는 AI 오버뷰 (출처: @GBarEscapee 엑스 계정)
하루에 돌멩이 하나씩 섭취하라는 AI 오버뷰 (출처: icreatelife)
그러나 출시 직후부터 엉뚱한 답변을 내놓고 있어 논란이다. ‘피자에 치즈가 달라붙지 않는다’는 질문에 ‘무독성 접착제 8분의 1컵을 추가하라’는 답변이 나왔으며, ‘사람은 하루에 얼마나 많은 돌을 먹어야 할까?’라는 질문에는 ‘작은 돌멩이 1개 이상을 섭취하라’는 답변을 내놓았다.
구글 경쟁사 오픈 AI가 만든 챗GPT에 같은 질문을 입력하면 차이는 더욱 두드러진다. 챗GPT는 피자에서 치즈가 분리되지 않게 하는 방법을 몇 가지 소개해 준다. 치즈 조합, 양, 온도, 굽는 시간 등을 조절해 보라는 조언을 남긴다. 돌 섭취에 관한 질문도 마찬가지다. 사람이라면 기본적으로 돌을 먹어서는 안 된다고 답한다.
(출처: 더버지)
외신에서는 AI가 잘못된 답변을 내놓는 환각(할루시네이션) 현상이 나타나는 것 같다고 지적했다. 환각 증상의 원인은 다양하다. 머신러닝에 사용된 데이터 자체가 문제일 수 있다. 답변을 도출하는 알고리즘에 오류가 발생했을 가능성도 배제하긴 어렵다. 질문의 맥락을 파악하는 훈련이 부족했을 가능성도 존재한다.
구글이 정확히 어떤 데이터를 활용했는지는 알려진 바 없다. 외신에서는 11년 전 미국 커뮤니티 레딧(Reddit)에서 유행했던 농담을 인용한 것으로 추정하고 있다. 3년 전 미국 풍자 전문 매체 디 오니언(The Onion)에 올라온 기사도 참고한 것으로 보인다.
(출처: 로이터통신)
논란을 잠재우긴 쉽지 않아 보인다. 구글은 약 1년 동안 SGE(Search Generative Experience) 검색 서비스를 시범 운영해 왔다. AI 오버뷰를 테스트할 시간은 충분했다는 이야기다.
구글 최고경영자(CEO) 순다르 피차이는 지난해 베타 버전을 공개하며 10억 개가 넘는 쿼리를 처리했다고 밝힌 바 있다. 현재는 더 많은 쿼리를 처리한 것으로 예상된다. IT 전문 매체 더 버지(The Verge)는 흔하지 않은 질문을 남겨 오류가 발생했다는 해명에 설득력이 떨어진다고 설명했다.
(출처: 구글)
일각에서는 시기상조였다는 지적도 나온다. AI 전문가이자 뉴욕대 신경과학 명예 교수인 게리 마커스(Gary Marcus)는 ‘많은 AI 기업이 사용자를 속이고 있다’고 강조했다. 목표의 80%만 달성한 기술력을 100%로 속인다는 이야기다.
80%까지는 대규모 데이터를 학습하는 단계다. 구글 같은 거대 기업에서는 비교적 쉽게 성공할 수 있다고 한다. 나머지 20%는 학습한 데이터를 바탕으로 추론하는 단계다. 논리적 오류는 없는지, 출처는 정확한지 판단하는 과정이다. 마커스 교수는 이 과정이 가장 어렵다고 강조했다.
업계에선 100% 완성품이 아니어도 경쟁사를 따라잡기 위해 제품 출시를 서두르는 경우가 많다고 설명한다. 구글 분석가 토마스 몬테이로는 뉴욕타임스(NYT)와의 인터뷰에서 ‘구글은 당장 선택의 여지가 없다’고 밝혔다. 오픈 AI 같은 경쟁사에 뒤처지지 않기 위해서는 빠르게 움직일 수밖에 없다는 분석이다.
(출처: 더 테크 리포트)
그렇다고 허위 정보를 제공해서는 안 된다. AI 오버뷰는 ‘미국에 몇 명의 무슬림 대통령이 있었는가’라는 질문에 ‘버락 오바마는 미국 최초의 무슬림 대통령’이라는 답변을 내놓았다. 버락 오바마의 종교는 기독교로 알려져 있다. 무슬림은 재임 시절 반대파들이 퍼트렸던 허위 정보다. 전 세계 검색엔진 점유율의 약 86%를 차지하고 있는 구글이 계속해서 오류를 범한다면 큰 사회적 파장을 불러올 수 있다.
논란이 커지자 구글은 즉각 해명했다. 구글 대변인 라라 레빈은 성명문에서 사용자가 흔하지 않은 질문을 남겼다고 밝혔다. 일부는 조작된 사례도 있다고 덧붙였다. 구글은 회사 정책에 따라 신속한 조치를 취하겠다고 약속했다.
테크플러스 에디터 김하영
tech-plus@naver.com
댓글 많은 뉴스