How do Generative AI and Hype Machines Create and Disseminate Fake News?

본 연구는 사회적 관계망 서비스(SNS)가 대중화된 초연결 사회에서 진실과 허구, 현 실과 가상의 경계가 해체되어 가짜 뉴스 및 정보가 만연되고 있는 원인을 생성형 AI(GenAI)과 하이프 머신(Hype machine)의 작동방식을 통해 분석하고자 한다. 특히, 하이프 머신을 기반으로 AI 알고리즘이 어떻게 인간의 감정과 사회적 관계망을 조작하 여 가짜 정보 및 뉴스를 생성 및 확산시키며, 대중을 소비 기계이자 디지털 마케터로 전 락시키고 있는지를 논의한다. 본 연구의 핵심 결과는 다음 세 가지이다. 첫째, 생성형 AI는 실제와 구별하기 어려운 언어, 이미지, 영상을 쉽게 제작하게 하여 진실성 담보가 어려운 초실재성을 양산하고, 소셜 봇은 자동화된 방식으로 감정을 조작하고 여론을 형성하고 있다. 둘째, 하이프 머신은 AI 알고리즘을 기반으로 사용자 데이터와 감정 상 태에 따라 콘텐츠를 선별하고 정보 흐름을 조작하여 최적화된 피드백 루프를 통해 가 짜 정보의 생성과 확산을 주도한다. 셋째, 하이프 머신은 경제적 이익, AI 알고리즘, 사 회적 규범, 정부 규제라는 네 가지 동력에 의해 움직이며, 특히 경제적 이익을 위해 AI 기반 심리 프로파일링을 통한 맞춤형 설득과 트렌드 생성을 이끌어간다. 결론적으로 하이프 머신에 의해 구동되는 가짜 뉴스의 생성-확산 루프는 사회적 진실성 훼손, 개인 의 독립적 사고 및 판단 침해, 비합리적 소비 문화 확산 등을 유발함으로써, 소셜 미디 어 플랫폼 속에서의 건전한 사회적 관계성 형성에 영향을 미칠 수 있다는 것이다.