인공지능이 여론까지 바꾼다…소셜미디어 글 수정만으로 의견 변화 유도

인공지능(AI)이 소셜미디어 게시물을 작성하거나 수정하는 과정에서 눈에 띄지 않는 편향을 만들어내고, 이것이 수많은 온라인 이용자를 거치며 여론까지 바꿀 수 있다는 연구 결과가 나왔다. 연구진은 AI가 원래 의미를 유지하라는 지시를 받아도 논쟁적인 주제에서는 특정 방향으로 표현을 바꾸는 경향을 보였으며, 이러한 작은 변화가 반복되면 사회 전체의 의견에도 영향을 줄 수 있다고 경고했다.

인공지능이 다듬은 게시물, 조금씩 여론을 바꿀 수 있다

연구진은 여러 개의 인공지능 대규모 언어모델(LLM)에게 사람이 작성한 소셜미디어 글을 더 자연스럽게 다듬도록 지시한 뒤, 원래 글의 입장이 어떻게 달라지는지 분석했다.

그 결과 AI는 ‘원래 의미를 유지하라’는 조건이 주어졌음에도 총기 규제, 낙태, 대마초 합법화, 여성주의 등 사회적으로 논쟁이 많은 주제에서 게시물의 방향을 일정하게 바꾸는 경향을 보였다.

특히 서로 다른 모델에서도 비슷한 편향이 나타났다. 일부 주제에는 우호적인 방향으로, 다른 주제에는 반대 방향으로 표현을 수정하는 사례가 반복적으로 확인됐다.

연구진은 이어 X와 페이스북의 실제 소셜네트워크 데이터를 활용해 컴퓨터 시뮬레이션을 진행했다. 그 결과 개별 게시물에서 발생한 작은 편향이 수많은 이용자 사이를 거치면서 누적되고, 시간이 흐를수록 온라인 공동체 전체의 여론까지 서서히 바꿀 수 있는 것으로 나타났다.

AI 편향은 기술보다 플랫폼 설계가 더 큰 영향을 줄 수도 있다

연구진은 X의 인공지능 서비스 ‘Grok’에 탑재된 ‘이 게시물 설명하기(Explain this post)’ 기능도 분석했다.

낙태 관련 게시물을 대상으로 실험한 결과, Grok은 낙태 반대(Pro-life) 게시물에 상대적으로 더 우호적인 설명을 생성하는 경향을 보였다. 연구진은 시스템에 입력된 지시문을 하나씩 제거한 끝에 “필요하면 주류의 관점에 도전하라”는 단 한 줄의 지침이 이러한 편향을 만들어냈다는 사실을 확인했다.

이는 AI 자체보다 플랫폼이 어떤 지침을 설계하느냐에 따라 AI가 여론에 미치는 영향이 크게 달라질 수 있음을 보여준다고 연구진은 설명했다.

연구진은 현재의 AI 관련 규제가 유해 콘텐츠나 차별, 민주주의 위협 등에 초점을 맞추고 있지만, 게시물을 작성하거나 수정하는 과정에서 인공지능이 여론을 서서히 바꾸는 새로운 형태의 영향력은 충분히 다루지 못하고 있다고 지적했다. 앞으로 AI 기반 소통이 확대될수록 투명성과 책임성, 규제 체계를 함께 마련해야 할 필요성이 커질 것으로 전망했다.

성치훈 기자 / hello@sciencewave.kr

출처: Tech Xplore, “AI-powered social media can subtly manipulate opinion at scale, new study finds”