누군가 한 사람만 확인만 해 보았더라면

<전라남도 담양군,<strong> "전국에서 가장 아름답다는 담양 메타세쿼이아길"</strong>>  김광부 기자

“미국의 유력 일간지인《시카고 선타임스》와《필라델피아 인콰이어러》
는 2025년 5월, 여름 추천 도서목록을 발표했다. 그런데 독자들이 막상
찾아보니 실제로는 존재하지 않는 책이 많았다(중략). 진짜로 존재하는
책은 5권뿐이었고 나머지 10권은 ‘가짜 책’이었다. 해당 언론의 신
뢰는 곤두박질쳤다. 이 특집 기사를 작성한 프리랜서 기자는 해당 콘텐
츠를 생성형 AI로 만들었으며, 별도의 사실 확인 절차를 거치지 않았
다고 밝혔다. 이 사건은 AI가 만들어낸 그럴듯한 거짓 정보， 즉
‘환각hallucination’이 공신력 있는 매체의 명성을 얼마나 쉽게 무너
뜨릴 수 있는지 여실히 보여주었다.”

김난도 외 다수 공저(共著) 《트렌드 코리아 2026》 (미래의 창,
135-136쪽) 중에 나오는 구절입니다.

“누군가 한 사람만 확인만 해 보았더라면.” 그 언론의 명성은 무너
지지 않았을 것입니다. 과거에는 ‘오보’가 취재 과정의 착오나 정보의
부족에서 비롯되었다면, 오늘날은 확인하지 않은 AI의 말을 인간이 무
비판적으로 받아들일 때 생기는 경우가 많습니다. 문제의 본질은 기술
자체가 아니라 기술을 대하는 우리의 태도입니다. AI는 수천 권의 책을
아는 도서관 사서처럼 보이지만, 사실은 “지식을 흉내 내는 이야기꾼”
에 가깝습니다.

존재하지 않는 학자나 출처를 제멋대로 꾸며내는 ‘환
각(hallucination)’은 이미 널리 알려진 위험입니다. 사실 확인은 더
이상 기자에게만 요구되는 윤리가 아니라, AI 시대를 살아가는 모든 사
람의 기본 소양입니다. AI와 동행하는 시대이지만, 반드시 AI가 수행하
는 과정에 ‘사람이 개입’해야 한다는 것입니다.