[비즈한국] 가짜뉴스는 더 이상 단순한 ‘말의 문제’가 아니다. 한 사람의 평판을 무너뜨리고, 특정 집단에 대한 혐오를 부추기며, 선거와 공론장을 흔들고, 때로는 실제 폭력과 사회적 갈등으로 이어진다. 과거에는 허위정보를 언론 윤리나 개인의 명예훼손 문제로 다루는 경향이 강했다. 그러나 디지털 플랫폼과 생성형 AI가 결합한 지금, 가짜뉴스는 훨씬 더 빠르고 정교하며, 때로는 확인이 불가능할 정도로 복잡한 형태로 확산된다.
최근 유튜브 채널 가로세로연구소 김세의 대표가 법정구속 되었다. 그는 배우인 고 김새론 씨와 김수현 씨를 둘러싼 허위사실 유포 및 명예훼손 혐의 등을 받았고, 법원은 증거인멸과 도주 우려를 이유로 구속영장을 발부했다. 이 사건을 단순히 한 유튜버의 일탈로만 볼 수 있을까. 유럽 관점에서 보면 핵심 질문은 이렇다. 개인이 무엇을 말했는가뿐 아니라, 그 말이 어떤 플랫폼 구조를 통해 증폭되었고, 어떤 알고리즘과 수익 구조 속에서 반복 소비되었는가.
EU는 2018년 허위정보 대응 행동계획(Action Plan against Disinformation)에서 허위정보를 민주주의에 대한 위협으로 규정했다. 허위정보가 공론장의 신뢰를 훼손하고, 선거를 왜곡하며, 사회적 분열을 키운다는 인식 때문이다. 그래서 유럽의 접근은 ‘가짜뉴스를 누가 만들었는가’에서 멈추지 않는다. ‘누가 그것을 증폭시켰는가’, ‘어떤 추천 시스템이 그것을 더 많은 사람에게 밀어넣었는가’, ‘플랫폼은 그 위험을 알고도 방치했는가’로 나아간다.
#플랫폼 통한 가짜뉴스 확산 막는 최전방 ‘DSA’
그 중심에 있는 법이 유럽연합의 디지털서비스법(DSA, Digital Service Act)다. DSA는 온라인 플랫폼에 불법 콘텐츠와 사회적 위험을 줄여야 하는 책임을 부과한다. DSA를 준수하기 위해 유튜브, X, 페이스북, 인스타그램, 틱톡과 같은 초대형 온라인 플랫폼은 허위정보, 선거 조작, 혐오 표현, 아동 보호, 소비자 피해 등 시스템 차원의 위험을 정기적으로 평가하고 완화해야 한다.
중요한 점은 DSA가 모든 문제 콘텐츠를 국가가 직접 삭제하는 방식의 검열 모델이 아니라는 점이다. 유럽식 접근의 핵심은 플랫폼의 시스템 책임이다. 알고리즘이 무엇을 더 많이 보여주는지, 광고 시스템이 어떤 정치적·상업적 메시지를 확산시키는지, 연구자와 시민사회가 플랫폼 데이터를 검증할 수 있는지에 초점이 맞춰져 있다.
유럽연합은 이미 이 법을 실제로 집행하기 시작했다. X는 2025년 12월 5일 DSA의 투명성 의무 위반으로 1억 2000만 유로(2094억 원)의 과징금을 부과받았다. 이는 상징적 사건이다. 표현의 자유를 이유로 플랫폼이 책임을 회피하기 어려워졌다는 신호이기 때문이다. DSA 위반에 대해서는 전 세계 연 매출의 최대 6%까지 과징금을 부과할 수 있다. 빅테크 기업 입장에서는 유럽 규제를 더 이상 ‘평판 리스크’ 정도로 취급할 수 없는 중요한 사건이 되었다. 이제는 법적·재무적 리스크가 된 것이다.
#AI가 위험신호 찾고, 인간이 판단
여기서 흥미로운 지점은 기술의 역할이다. 유럽은 가짜뉴스 문제를 법으로만 해결하려 하지 않는다. 오히려 법과 기술, 시민사회, 언론, 연구기관이 함께 움직이는 구조를 만들고 있다. 가짜뉴스 대응 기술은 이제 단순한 콘텐츠 필터링을 넘어선다. AI 생성 이미지와 음성, 딥페이크 영상, 조작된 캡처 이미지, 악의적 편집, 봇 네트워크, 반복적 서사 조작까지 추적해야 한다. 문제는 인간 팩트체커만으로는 이 속도를 따라갈 수 없다는 점이다. 그래서 유럽의 기술적 대응은 ‘AI가 판단하고 삭제한다’가 아니라 ‘AI가 위험신호를 찾아내고, 인간 전문가가 판단한다’는 휴먼-AI 협업 모델로 발전하고 있다.
대표적인 프로젝트가 베라AI(vera.ai)다. vera.ai는 온라인 허위정보와 조작 콘텐츠를 탐지하기 위한 EU 지원 연구개발 프로젝트다. 이 프로젝트는 텍스트, 이미지, 영상, 오디오 등 다양한 형식의 콘텐츠를 분석하고, 딥페이크 탐지와 다국어 검증을 목표로 한다. 중요한 것은 이 기술이 언론인과 팩트체커를 대체하는 것이 아니라, 그들의 검증 업무를 돕도록 설계되어 있다는 점이다. AI는 의심스러운 콘텐츠를 빠르게 포착하고, 인간 검증자는 맥락과 의도를 판단한다. 이 프로젝트는 2025년 10월 31일에 공식적으로 종료됐지만, 이 결과물이 각 유럽 국가에 중요한 기준점을 제공해주었다.
AI4TRUST도 비슷한 방향을 가진다. 이 프로젝트는 소셜미디어와 뉴스미디어를 거의 실시간으로 모니터링하고, 허위정보 가능성이 높은 콘텐츠를 선별해 전문가 검토로 연결하는 시스템을 개발한다. 허위정보는 사람의 속도로 만들어지지 않는다. 봇, 자동화 계정, 생성형 AI, 조직적 캠페인이 결합되면 인간이 수동으로 확인하기 어려운 속도로 확산된다. AI4TRUST가 겨냥하는 것은 바로 이 ‘속도의 격차’다. 사람이 모든 정보를 확인할 수 없다면, AI가 먼저 신호를 걸러내고 인간이 최종 판단하는 체계가 필요하다.
타이탄(TITAN)은 또 다른 방향을 보여준다. TITAN은 팩트체크 결과를 정답처럼 제공하는 서비스가 아니라, 사용자가 스스로 질문하고 의심하고 판단하는 능력을 키우도록 돕는 AI 기반 소크라테스식 코칭 도구다. 이는 유럽의 가짜뉴스 대응 철학을 잘 보여준다. 허위정보 문제는 삭제만으로 해결되지 않는다. 한 번 삭제된 콘텐츠는 다른 플랫폼에서 다시 등장하고, 음모론은 반박될수록 더 강한 믿음으로 굳어지기도 한다. 결국 시민이 정보를 받아들이는 방식 자체를 바꾸지 않으면 문제는 반복된다. TITAN이 교육, 시민사회, 공공기관과 연결되는 이유가 여기에 있다.
이러한 흐름은 스타트업 시장에서도 나타난다. 노르웨이의 팩티버스(Factiverse)는 AI 기반 팩트체킹 및 정보 검증 솔루션을 제공하는 스타트업이다. 북유럽 공영방송과 언론사는 선거, 정치 토론, 유튜브 영상처럼 방대한 콘텐츠를 사람이 전부 확인하기 어려운 상황에서 팩티버스의 기술을 활용하고 있다. 예를 들어 정치 관련 유튜브 영상이 하루에도 수십, 수백 시간씩 생산될 때, AI는 발언을 추출하고, 주장 단위를 분리하고, 검증 가능한 문장과 출처를 연결한다. 언론사 입장에서는 모든 영상을 보는 대신 위험도가 높거나 검증이 필요한 발언에 집중할 수 있다.
이탈리아의 아이덴티파이(IdentifAI)는 딥페이크와 생성형 AI 콘텐츠 탐지에 초점을 맞춘 스타트업이다. 생성형 AI가 만든 이미지, 영상, 음성 녹음이 실제 인간이 만든 것인지, 조작된 것인지 판별하는 기술을 개발한다. 2025년에는 500만 유로(87억 원) 규모의 투자를 유치하며 유럽과 미국 시장 진출을 추진한다고 알려졌다. 이는 가짜뉴스 대응 시장이 더 이상 공공 프로젝트나 시민단체 활동에만 머물지 않고, 사이버보안과 미디어 신뢰 인프라 시장으로 확장되고 있음을 보여준다.
유럽에서 이 분야가 스타트업 기회로 부상하는 이유는 명확하다. 첫째, 규제가 시장을 만들고 있기 때문이다. DSA는 초대형 온라인 플랫폼과 검색엔진에 단순히 콘텐츠 삭제 의무를 넘어 시스템 리스크 평가, 알고리즘 투명성, 광고 저장소 공개, 연구자 데이터 접근, 콘텐츠 신고·조치 체계 구축을 요구한다. 이는 플랫폼이 허위정보를 ‘몰랐다’거나 ‘이용자가 올린 것’이라고만 주장하기 어려운 구조를 만든다. 유럽위원회가 X에 과징금을 부과한 사례에서 알 수 있듯, 허위정보 대응은 더 이상 윤리적 권고가 아니라 규제 준수와 재무 리스크의 문제가 되었다. 이 과정에서 컴플라이언스 솔루션, 리스크 모니터링, 알고리즘 감사, 광고 투명성 관리, 콘텐츠 출처 인증, 딥페이크 탐지, 팩트체킹 자동화 같은 새로운 시장이 형성되고 있다.
둘째, 언론과 공공기관의 수요가 커지고 있기 때문이다. 선거, 전쟁, 보건 위기, 이민, 기후변화처럼 사회적 갈등이 큰 주제일수록 허위정보가 빠르게 확산된다. 특히 러시아의 우크라이나 침공, 코로나19 팬데믹, 유럽의회 선거, 난민·이민 논쟁은 허위정보가 단순한 온라인 소문을 넘어 안보, 공중보건, 선거 신뢰, 사회통합의 문제로 이어질 수 있음을 보여주었다. 유럽디지털미디어관측소(EDMO) 같은 기관이 팩트체커, 연구자, 언론, 미디어 리터러시 전문가를 연결하는 이유도 여기에 있다. 언론사는 방대한 소셜미디어 콘텐츠를 모두 수작업으로 검증하기 어렵고, 공공기관은 위기 상황에서 허위정보의 확산 경로와 영향 범위를 빠르게 파악해야 한다. 따라서 자동 모니터링, 다국어 팩트체킹 지원, 허위정보 네트워크 분석, 선거·위기 대응 대시보드에 대한 기술적 수요가 커질 수밖에 없다.
셋째, 기업도 허위정보의 직접적 피해자가 되고 있기 때문이다. 허위 루머, 조작 영상, 가짜 리뷰, 브랜드 사칭, 경쟁사를 겨냥한 정보 조작은 기업 평판과 소비자 신뢰를 직접 훼손한다. 생성형 AI의 확산으로 기업 CEO의 가짜 음성, 조작된 인터뷰 영상, 허위 보도자료, 가짜 고객 후기마저 적은 비용으로 만들 수 있게 되면서, 기업의 커뮤니케이션 리스크는 훨씬 커졌다. 기업에게는 허위정보 대응이 홍보팀의 사후 해명 업무가 아니라 브랜드 보호, 사이버보안, 투자자 관계, 소비자 신뢰 관리와 연결된 리스크 관리 영역이 되고 있다. 이 때문에 평판 모니터링, 딥페이크 탐지, 가짜 리뷰 분석, 브랜드 사칭 탐지, 위기 커뮤니케이션 지원 기술에 대한 수요도 함께 커지고 있다.
#진실에는 ‘신뢰의 인프라’가 필요하다
한국에도 시사점이 크다. 한국의 가짜뉴스 논쟁은 종종 ‘처벌할 것인가, 말 것인가’의 구도로 좁혀진다. 이에 비해 유럽의 논의는 조금 더 구조적이다. 개별 발화자만이 아니라 허위정보가 돈이 되고, 분노가 클릭이 되고, 알고리즘이 자극적 콘텐츠를 반복적으로 추천하는 구조다. 그렇다면 해결책도 개인 처벌에만 머물 수 없다. 플랫폼의 추천 시스템, 수익화 구조, 광고 투명성, 연구자 접근권, 시민 교육, 기술 기반 검증 시스템이 함께 논의되어야 한다.
김세의 구속 사건을 유럽 시각으로 바라보면, 질문은 결국 하나로 모인다. 한국 사회는 허위정보를 사후 처벌의 문제로만 다룰 것인가, 아니면 정보 생태계의 구조적 위험으로 다룰 것인가. 유럽은 이미 후자의 방향으로 이동하고 있다. 플랫폼에 책임을 묻고, 기술로 확산 경로를 추적하며, 시민이 스스로 정보를 판단할 수 있도록 돕는 방식이다.
가짜뉴스의 시대에 진실은 저절로 살아남지 않는다. 진실도 인프라가 필요하다. 법, 기술, 언론, 시민사회, 교육, 스타트업이 함께 만드는 신뢰의 인프라 말이다. 유럽의 가짜뉴스 대응 스타트업들이 보여주는 것은 바로 이 지점이다. 미래의 민주주의는 단지 좋은 언론만으로 지켜지지 않는다. 허위정보가 만들어지고 증폭되고 소비되는 전 과정을 감시하고, 검증하고, 설명하는 새로운 기술 생태계가 필요하다.
한국에서도 이제 질문을 바꿀 때다. 누가 거짓말을 했는가를 묻는 것에서 한 걸음 더 나아가야 한다. 왜 그 거짓말은 그렇게 빨리 퍼졌는가. 누가 그것으로 돈을 벌었는가. 어떤 플랫폼 구조가 그것을 가능하게 했는가. 그리고 우리는 그 구조를 어떻게 바꿀 것인가. 이 질문에 답하는 곳에서, 가짜뉴스 대응 기술과 스타트업의 새로운 시장도 열릴 것이다.
필자 이은서는 한국에서 법학을 전공했고, 베를린에서 연극을 공부했다. 예술의 도시이자 유럽 스타트업 허브인 베를린에 자리 잡고 도시와 함께 성장하며 한국과 독일의 스타트업 생태계를 잇는 123Factory를 이끌고 있다.
이은서 칼럼니스트
writer@bizhankook.com[핫클릭]
·
[유럽스타트업열전] "뭐 먹어?" '모모고' K푸드로 유럽 MZ 사로잡다
·
[유럽스타트업열전] 드론 다음은 미사일? 유럽 방산 스타트업의 새 전장
·
[유럽스타트업열전] 유럽 VC의 지갑이 열리는 곳…헬싱, 미스트랄 다음은?
·
[유럽스타트업열전] 전환기 맞은 독일 자동차산업 생존법, BMW 'AI 펀드'
·
[유럽스타트업열전] "SaaS 버리고 AI로" 10년 일군 브랜드 스스로 없앤 이 남자
