(출처: 구글)
구글이 5월 30일(현지시간) 공식 블로그를 통해 AI(인공지능) 검색 기능 ‘AI 오버뷰(AI Overview)’를 업데이트했다고 밝혔다. 부정확하고 이상한 답변을 개선한 것이 이번 업데이트의 골자다.
AI 오버뷰는 ‘생성 AI’에 기반한 구글 검색 기능이다. 지난 5월 14일(현지시간)에 열린 구글 연례 개발자 회의 I/O 2024에서 처음 공개됐다. 구글은 최신 AI 모델 제미나이(Gemini)를 사용해 구글만의 제미나이 생태계를 구축하겠다고 설명했다.
지금까지 구글 검색은 ‘키워드’ 중심이었다. 검색창에 단어를 입력한 뒤 웹사이트를 클릭해 원하는 답을 얻는 식이었다.
그러나 AI 오버뷰는 ‘문장’으로 검색을 할 수 있다. 생성 AI에 기반한 덕이다. 궁금한 내용을 긴 문장으로 입력해도 막힘없이 답해준다.
리즈 리드 구글 검색 담당 부사장은 구글 연례 개발자 회의 I/O 2024에서 AI 오버뷰를 직접 시연했다. 검색창에는 ‘보스턴 비컨힐에서 도보로 30분 거리에 있고, 평점 4.1 이상인 필라테스 스튜디오를 찾아줘’라고 입력했다. 구글 검색은 조건에 부합하는 장소들을 찾아줬다.
(출처: @icreatelife 엑스 계정)
하지만 출시 직후부터 엉뚱한 답변을 내놓으며 논란에 휩싸였다. ‘피자에 치즈가 달라붙지 않는다’는 질문에 ‘무독성 접착제 8분의 1컵을 추가하라’고 답하거나, ‘하루에 얼마나 많은 돌을 먹어야 하는가’라는 질문에 ‘작은 돌멩이 1개 이상을 섭취하라’는 답변을 내놓았다.
결국 구글은 후속 업데이트를 진행했다. 일단 AI 오버뷰가 답변하지 않을 질문을 탐지하는 메커니즘을 개선했다고 밝혔다. 돌멩이 섭취량 같은 비상식적 질문에는 답변을 내놓지 않겠다는 이야기다.
구글 트렌드 통계 (출처: 구글)
당초 AI 오버뷰가 엉뚱한 답변을 남기게 된 경위에 대해 구글은 답변에 활용할 데이터가 부족했다고 설명했다. 그동안 구글에 얼마나 많은 돌을 먹어야 하는지 검색한 사람은 없었다는 것이다. 실제로 구글 트렌드를 보면 AI 오버뷰 출시 전까지는 그 누구도 검색하지 않았다.
결국 AI 오버뷰는 풍자 전문 매체에 올라온 게시물을 인용했다. 외신에서 3년 전 미국 풍자 전문 매체 디 오니언(The Onion)에 올라온 기사를 참고했다는 지적이 맞았다.
그러나 데이터가 부족하다는 이유로 부정확한 정보를 제공해서는 안 된다. 구글은 풍자나 유머 콘텐츠는 답변에 포함하지 않도록 알고리즘을 수정했다고 밝혔다. 인용할 데이터가 없다면 답변은 아예 제공되지 않을 것으로 보인다.
SNS(소셜미디어) 게시물도 사용하지 않도록 업데이트했다. 개인이 작성한 게시물이라 정확한 정보가 아닐 가능성이 높기 때문이다.
AI 오버뷰는 출시 직후 ‘미국에 무슬림 대통령이 몇 명이었나’라는 질문에 ‘미국 최초의 무슬림 대통령은 버락 오바마’라는 답변을 내놓았다. 버락 오바마는 기독교 신자로 알려져 있다. 무슬림은 재임 시절 반대파들이 퍼트렸던 허위 정보다.
이처럼 온라인에는 공신력 없는 정보가 넘쳐나고 있다. 이를 인용할 경우 사회적 혼란을 야기할 가능성이 높다.
건강 관련 질문은 일반적인 정보 외에 구체적인 치료법이나 의료 조언은 남기지 않도록 수정했다고 밝혔다.
하지만 뉴욕타임스(NYT)는 아직 완전히 신뢰하기는 이르다는 입장이다. 구글은 건강이나 의학 분야 답변에 ‘제한 사항’을 추가했다고 밝혔지만, 구체적인 설명을 내놓지 않았다. 공신력 높은 WHO(세계보건기구), 의학 논문 데이터베이스 펍메드(PubMed), 미국 미네소타 병원 메이요 클리닉(Mayo Clinic) 홈페이지를 참고할 수 있지만, 공신력이 떨어지는 위키피디아, 블로그, 레딧 같은 웹사이트의 정보도 포함될 수 있기 때문이다.
실제로 ‘초콜릿은 건강에 좋나요?’라는 질문을 남겨봤다. 초콜릿이 심장이나 정신 건강에 미치는 영향을 연구한 논문을 인용하기도 했지만, 이탈리아 초콜릿 회사의 게시물도 참고했다. 초콜릿을 생산하는 회사에서는 긍정적인 견해만 제시할 수 있다.
구글은 앞으로 더 나은 답변을 제공하기 위해 노력하겠다고 밝혔다. 현재 AI 오버뷰가 환각(할루시네이션) 증세를 보이는 건 아니라는 입장이다. 기존 검색엔진 구글의 정보를 활용하기 때문에 환각이 발생하긴 어렵다고 설명했다. 폭력적이고 비상식적인 질문에는 답변을 제공하지 않는 방향으로 나아갈 예정이다.
테크플러스 에디터 김하영
tech-plus@naver.com
댓글 많은 뉴스