정말로 믿을 수 있어? 구글도 속인 AI _ AI 환각증세와 광고 신뢰성

안녕하세요? 협성대학교에서 <AI와 광고PR> 강의를 수강중인 미디어영상광고학과 22학번 이수정입니다. 🦊

 

---

 

방대한 정보의 바다 속에서 간편하게 원하는 정보를 찾을 수 있는 생성형 AI.

빠르고 편리하다는 장점에 소비자는 물론 기업들도 AI를 자주 활용하고 있습니다. 

 

챗GPT를 비롯한 여러 생성형 AI가 실생활에 자연스럽게 녹아들고 난 이후에는

광고와 마케팅을 진행하는 걸 심심치 않게 볼 수 있게 되었죠.

 

AI를 활용한 "실시간 데이터 분석”이나 "초개인화 마케팅"등 자료로서 활용하거나

“AI로만 제작한 광고"를 선보이는 등 기업들은 적극적으로 AI를 활용하는데요.

그런데,  이런 AI 얼마나 믿고 있으신가요?

 

---

AI의 거짓말, AI환각

 

혹시 조선왕조실록에 <세종대왕 맥북 프로 던짐 사건>이 기록되어있는 걸 알고 계신가요?

말도 안되는 이 정보는 실제로 큰 논란을 일었던 AI의 답변입니다.

 

이처럼 실제로 사실이 아니거나, 없는 정보를 사실인 것처럼 말하는 현상을 "AI 환각현상"이라고 합니다.

 

 생성형 AI는 존재하지 않는 역사적 사건이나
인물, 책, 신문기사까지도 언급하면서 사용자들의 질문에 답한다. 
오류와 허위 정보, 불완전하고 왜곡된 이미지로 가득 찬 결과물을 드물지 않게 생성한다.
이에 일부 사람들은 AI환각이 아니라 ‘말 지어내기' 라 불러야 한다고 주장한다.

- [과학특집 / AI는 생성하는가] 에서  김상민 / 『문화/과학』 편집위원

 

꾸준히 거론되어온  AI의 신뢰성 문제. 그렇다면 왜 AI 환각증세는 왜 일어나는 걸까요?

 

---

AI환각의 발생

AI환각 발생의 원인을 알기 위해선 생성형AI의 정보처리 과정에 대해 알아야합니다.

 

쳇GPT같은 언어모델 AI (LLM)의 처리과정은 다음과 같습니다.

1.  여러 텍스트 데이터를 수집

2. 수집한 다량의 데이터의 <단어의 토큰화>, <어근 추출> 등의 압축하는 과정

3. 압축된 데이터의 오픈 AI로 공유, AI학습

4. 사용자의 명령에 통계적으로 단어를 예측하여 가장 가능성이 높은 답변을 제공

 

전문가들은 AI환각 증세가 일어나는 이유로 2번 과정과 4번 과정

즉,  압축된 파일과 통계적 예측에서 발생한다고 말합니다.

 

압축으로 일부 정보가 손상된 파일을 재 확장하며 환각이 발생한다는 것입니다.

 

AI는 특정 단어들의 연쇄를 통계학적으로 구성하여 답하는 것 뿐, AI환각 발생은 잘못된 정보 학습의 문제가 아니라 그럴 듯한 답을 생성해야 한다는 강박에 있다. 진위의 문제를 떠나 사람처럼 답하는데 최적화된 기계적 메커니즘이다. 
- [과학특집 / AI는 생성하는가] 에서  김상민 / 『문화/과학』 편집위원

 

또 AI는 지식범위를 벗어나도 대답하려 하는 특성이 있다고 합니다. 또 사용자의 질문에 잘못된 사실이 포함되어 있어도 사용자 의견에 동의하려는 경향을 가진다고 합니다. 이런 AI의 특성들도 AI 환각을 일으키는 원인 중 하나로 손꼽히고 있습니다. 

---

 

신뢰성의 중요도

마케팅에서 신뢰는 중요한 요소이죠? 

소비자의 믿음을 얻을 수 있는 메세지 전달은 제품과 서비스의 인지도를 높이는 걸 넘어 브랜드의 명성에 지대한 영항을 줍니다.

속임수, 조작과 관련된 마케팅전략을 사용했을 때 설득지식이 활성화 되어 결국 제품 평가에 부정적 결과를 초래하기도 합니다.

 

[모금 광고의 효과성 분석] 에서 비영리광고 효과성을 신뢰도, 명성, 설득지식 차이로 실험한 결과를 보자. 
설득지식 접근의 고저와 높은 브랜드 명성의 요인과 관계없이 메세지 신뢰성이 높을 수록 호의적임을 확인할 수 있다. 

 

AI 역시 이런 신뢰성이 중요하게 적용될 수밖에 없습니다. AI의 사용빈도는 신뢰성과 비례한다고 합니다. 

AI가 제공하는 정보의 신뢰성이 높을수록 소비자는 AI를 더 많이 사용합니다.

이런 지속적인 신뢰 형성은, 해당 서비스의 충성고객을 얻을 수 있습니다.

하지만 반대로 AI의 신뢰성이 떨어지는 경우, 소비자들은 AI 를 활용할 이유가 없을 겁니다.
아무리 빠르고 편리한 검색경험을 할 수 있어도, 결국 정보를 신뢰할 수 없어 재검토가 필요해지기에 효율성이 떨어지기 때문이죠.

 

앞서 말한 것처럼 AI는 개인뿐 아니라 기업 차원에서도 자주 사용되고 있습니다.

 

하.지.만.

신뢰를 파괴하는 AI의 거짓말을 무시하고 마케팅을 진행한다면

기업차원의 불이익을 얻을 수도 있습니다.

그 예시를 알아볼까요?

---

 

구글도 속은 AI환각

 

https://www.youtube.com/watch?v=nBXuFExqrm4

 

최근 구글은 슈퍼볼 경기를 맞아 미국 50개주의 중소기업을 홍보하는 공익캠페인을 진행하였습니다. 

자사 생성형 AI, GEMINI를 활용해서 말이죠.

구글은 홍보메세지 작성이 필요한 사람들에게 홈페이지의 설명란과 디자인 시안 제작을 AI를 활용해서 돕는 내용으로 광고를 진행했습니다. 그리고 해당 광고는 공개 초기, 제작의 좋은 취지를 인정받고 긍정적인 호평을 받았죠.

 

하지만, 이후 위스콘신주에 공개된 광고에서 문제가 발생했습니다. 해당 광고에서 Gemini가 위스콘신주의 특산물인 고다(Gouda) 치즈의 홍보글을 작성해달라는 입력에 대해 고다 치즈가 전 세계 치즈 소비량의 50~60%를 차지한다는 거짓말을 한 것이 들통난 것입니다.  즉 Gemini의 AI 환각 증세가 고스란히 광고에 기록되어 송출된 것입니다.

 

이후 구글은 해당부분을 삭제하여 재 업로드 하였으나, AI가 작성한 내용을 검토 없이 광고로 제작하여 내보낸 것에 대한 비판을 피할 수 없었습니다.

 

단 하나의 AI환각으로 구글은 자사 AI의 신뢰성을 물론이고,
구글 기업 자체의 신뢰성에 큰 타격을 입었습니다 

 

 

---

AI를 활용할 땐

자 이제 다시 물어보겠습니다. 여러분은 AI를 얼마나 신뢰하시나요?

 

생성형 AI의 도입으로 소비자외 기업 모두 편리함 등의 여러 이점을 얻는 것은 부정할 수 없는 사실입니다.

하지만 AI의 환각 증세가 존재하는 한 우리는 방심해서는 안 됩니다.

 

특히 기업의 경우,

광고에 신뢰성이 광고 효과와 명성을 좌우할 수 있음을 반드시 기억하고, AI환각을 방지하기 위해 노력해야 합니다.

---

오늘의 포스팅은 여기까지입니다 !

블로그에 흥미로운 다른 글들도 한번 구경하시면 좋을 것 같습니다.

저는 다음에 AI환각증세 완화방법으로 다시 찾아뵙겠습니다!

 

---

참고자료

도서 :

[ AI가 바꾸는 광고PR – 김나경 외 11인]

(전문잡지 DBpia )[환각 생성과 창의성 추출의 자동화된 기계 : 생성형 AI 뒤집어 보기 ( 2023.06 ) / 김상민]

 

논문 /DBpia

[모금 광고의 효과성 분석 : 메시지 신뢰, 설득지식, 브랜드 명성을 중심으로 (2020.06.28) / 오준호, 김명진]

[생성형AI의 환각현상 최소화를 위한 요인탐색연구 - 소비자의 감성·경험 분석을 중심으로- (2024.03.18) / 안진호⋅정욱환]

 

뉴스 :

[구글 Gemini, 슈퍼볼 광고서 AI 환각 논란... 신뢰성 위기 직면 (2025.02.18) / 소비자평가원]

구글 Gemini, 슈퍼볼 광고서 AI 환각 논란... 신뢰성 위기 직면 < 뉴스24 < 기사본문 - 소비자평가

구글 Gemini, 슈퍼볼 광고서 AI 환각 논란... 신뢰성 위기 직면 - 소비자평가

 

["진짜 확실해?"…AI 신뢰도 낮추는 'AI 환각'을 잡아라 -(2025.01.28) / 동아사이언스]

"진짜 확실해?"…AI 신뢰도 낮추는 'AI 환각'을 잡아라 : 동아사이언스

"진짜 확실해?"…AI 신뢰도 낮추는 'AI 환각'을 잡아라

* 사진자료 - ["세종대왕 맥북 던짐 사건 알려줘" 물었더니... 챗GPT의 엉뚱 답변 '밈'으로 유행 중 (2023.02.23) / 한국일보 ]

"세종대왕 맥북 던짐 사건 알려줘" 물었더니... 챗GPT의 엉뚱 답변 '밈'으로 유행 중

 

기타 :

[방송통신위원회 공식 블로그 : 생성형 AI 환각현상이란 무엇일까요? 환각현상 사례 및 주의할 점 알아보기]

생성형 AI 환각현상이란 무엇일까요? 환각현상.. : 네이버블로그

생성형 AI 환각현상이란 무엇일까요? 환각현상 사례 및 주의할 점 알아보기

 

[광고전문 유튜브 WLDO : AI의 허점을 스스로 알리며 자폭한 구글]

https://www.youtube.com/watch?v=nBXuFExqrm4