최근 한 온라인 커뮤니티에 “챗GPT는 환각이 아니라 고집임”이라는 제목의 흥미로운 글이 올라왔습니다.
한 이용자가 나뭇가지와 낙엽으로 가득한 사진을 챗GPT에 보여주며 “이 사진에 뱀이 있어?”라고 질문합니다.
챗GPT는 확신에 찬 어조로 “뱀이 있다”고 답했는데요.
구체적으로는, 이미지 중앙 아래쪽, 약간 오른편에 있는 갈색 줄무늬 부분이 뱀처럼 보인다고 설명했죠.
이용자가 “그럼 뱀의 위치를 표시해줘”라고 요청하자, 챗GPT는 붉은색 표시가 추가된 이미지를 다시 보내왔습니다.
그런데, 뭔가 이상하죠? 표시된 그곳엔 원래 뱀이 없었습니다.
알고 보니 챗GPT가 아예 뱀을 새로 그려 넣은 것이었는데요.
이 장면을 본 누리꾼들은 “AI가 틀렸는데도 너무 확신한다”며 비판했습니다.
그런데 최근엔 학습이 되었는지 실제 뱀을 찾는 모습까지 보여줬습니다.
전문가들은 챗GPT가 통계 기반으로 가장 가능성 높은 답을 예측하는 시스템일 뿐, 항상 정답을 말하는 것은 아니라고 설명했습니다.
결국, AI의 답변을 맹신하면 안 된다는 걸 보여준 사례네요.
<joun2017@ilyosisa.co.kr>