ByteDance의 최신 AI 모델 'OmniHuman-1' 발표, 혁신과 우려

중국 기술 대기업 ByteDance가 TikTok과 관련된 고급 AI 모델을 조용히 발표했다. 'OmniHuman-1'로 명명된 이 모델은 단일 정지 이미지에서 실제와 같은 움직이고 말하는 인간 비디오를 생성할 수 있는 혁신적인 기술을 보유하고 있다. 하지만 이러한 기술의 발전은 동시에 새로운 윤리적 문제와 보안 위협을 불러일으키고 있다.

OmniHuman-1의 주요 기능

ByteDance가 개발한 OmniHuman-1 모델은 AI 비디오 생성 분야에서 획기적인 성과를 이루었다.

• 고품질 비디오 생성: 단일 정지 이미지만으로 자연스럽게 움직이고 말하는 인간 비디오를 생성 가능.
• 딥페이크 탐지 회피 가능성: 기존의 인공 생성 징후(손 움직임 이상, 입술 동기화 문제 등)를 최소화.
• 방대한 데이터 학습: 18,700시간 이상의 인간 비디오 학습을 통해 사실적인 표현 구현.
• 개인화 최적화: 사용자가 원하는 스타일과 특징을 반영한 맞춤형 비디오 제작 가능.

이 기술은 기존 AI 생성 영상보다 한층 높은 수준의 사실감을 제공하며, 인간의 행동과 감정을 정밀하게 모방할 수 있도록 설계되었다.

전문가들의 우려

AI 및 보안 전문가들은 OmniHuman-1이 악용될 가능성에 대해 경고하고 있다. 특히, 단일 이미지만으로 사실적인 비디오를 생성할 수 있다는 점에서 프라이버시 침해 및 허위 정보 확산의 우려가 제기된다.

• 허위 정보 및 정치적 조작 위험: 가짜 뉴스, 선거 개입, 정치적 프로파간다 등에 악용될 가능성 증가.
• 개인 정보 침해: 단일 이미지를 활용한 사기, 명예 훼손, 비동의 포르노 제작 등의 범죄 가능성.
• 국가 안보 위협: 악의적인 AI 활용으로 사회적 혼란 조장 가능.

AI 윤리 전문가 Henry Ajder는 "단 한 장의 이미지만으로도 누군가를 타겟팅하는 것이 훨씬 쉬워진다"며 이 기술의 남용 가능성을 우려했다.

TikTok과 ByteDance의 대응

ByteDance는 OmniHuman-1의 공개 배포 시점에 대해 명확한 입장을 밝히지 않았지만, AI 생성 콘텐츠에 대한 안전 장치를 포함할 것이라고 밝혔다. 또한, TikTok은 AI 생성 콘텐츠 자동 라벨링 및 AI 리터러시 교육 프로그램을 강화하고 있다고 발표했다.

그러나 전문가들은 이러한 조치가 AI 기술의 빠른 발전 속도를 따라잡기에는 부족할 수 있다고 경고한다. 미국 국토안보부 자문위원 John Cohen은 "AI 기반 고품질 비디오 생성 기술이 발전함에 따라 허위 정보의 위협이 기하급수적으로 증가할 것"이라고 지적했다.

AI 기술의 정치적 활용 사례

AI 기반 미디어 조작 사례는 이미 여러 국가에서 발생하고 있다.

• 방글라데시: AI 기술이 정치인의 스캔들을 조작하는 데 사용됨.
• 몰도바: 서방 지향 대통령을 공격하는 가짜 비디오 제작.
• 미국 뉴햄프셔: 조 바이든 대통령의 음성을 모방한 가짜 전화 메시지가 유권자들에게 발송됨.
• 러시아: AI 기반 선전 비디오를 활용해 유권자 간 불화를 조장.

이처럼 AI 기술은 정치적 목적의 정보 조작에 활용될 가능성이 크며, 이에 대한 규제 및 대응책 마련이 시급하다.

ByteDance의 미래 전망과 글로벌 대응

OmniHuman-1은 아직 공개적으로 사용되지 않았지만, 전문가들은 TikTok을 비롯한 ByteDance의 플랫폼에서 조만간 적용될 가능성이 높다고 보고 있다. 이는 중국과 서방 국가 간 기술 경쟁을 더욱 심화시키고, AI 윤리 및 규제에 대한 글로벌 논의를 촉진할 것으로 예상된다.

미국은 AI 기술 개발에 대규모 투자를 단행하고 있으며, 중국의 ByteDance와 같은 기업들의 기술 발전을 견제하는 법적, 기술적 대응을 강화하고 있다. 전문가들은 향후 AI 기술의 사용 범위를 명확히 규제하고, 악용 가능성을 최소화하는 노력이 필요하다고 강조한다.

결론

OmniHuman-1의 출시는 AI 기술의 진보를 보여주는 중요한 이정표이지만, 동시에 윤리적 문제와 보안 위협을 동반한다. AI 기술이 사회에 미치는 영향을 면밀히 검토하고, 기술 남용을 방지하기 위한 제도적 장치 마련이 필수적이다. AI 기반 허위 정보 및 딥페이크 확산을 막기 위한 국제적 협력이 절실히 요구된다.