인공지능의 등장은 인간의 표현과 콘텐츠 제작 능력에 새로운 가능성을 열어주었습니다. 동시에 디지털 AI 생성 ID를 사용하여 거의 모든 작업을 수행할 수 있는 능력으로 인해 해결해야 할 새로운 문제가 발생했습니다.
Sumsub의 데이터에 따르면 딥 페이크에서 비롯된 사기의 비율은 두 배로 2022년부터 2023년 1분기까지 미국은 0.2%에서 2.6%로 증가하기도 했습니다.
최근 몇 달 동안 배우 톰 행크스(Tom Hanks), 제니퍼 애니스톤(Jennifer Aniston)과 같은 유명인과 유튜브 유명인 미스터 비스트(Mr. Beast)가 자신의 디지털 가짜를 사용해 제품을 판매하는 딥 페이크를 비난하는 사례가 여러 차례 있었습니다.
이러한 상황에 대응하여 캘리포니아에 본사를 둔 Hollo.AI는 11월 16일에 출시되었습니다. 이 플랫폼을 통해 사용자는 자신의 AI ID 또는 “페르소나”를 주장할 수 있으며 사용자가 AI 작업으로 수익을 창출하고 확인할 수 있도록 돕는 개인화된 챗봇을 제공합니다.
Hollo.AI는 이러한 ‘AI의 윤리적 사용’이 블록체인 기술 검증을 통해 가능하다고 말합니다. 플랫폼의 CEO인 Rex Wong은 창작자와 개인이 플랫폼의 검증된 AI 레지스트리를 통해 AI의 “주권적 소유권”을 가질 수 있을 것이라고 코인텔레그래프에 말했습니다.
“등록부는 Hollo.AI가 확인한 후 모든 사람이 볼 수 있도록 블록체인에 기록되는 AI ID를 제공하는 공개 등록 원장 역할을 합니다.”
크리에이터는 확인된 신원에 대해 파란색 체크 표시를 받게 되며, 이를 통해 이 신원을 언제, 어디서, 어떻게 사용할 수 있는지 제어할 수 있습니다. 그런 다음 해당 ID의 라이선스를 통해 수익을 얻을 수 있습니다.
Wong은 Cointelegraph에 이 서비스가 신용 신원 도용 보호와 유사하게 작동하지만 AI 신원을 보호하는 데 맞춰져 있다고 말했습니다.
“디지털 페르소나의 무단 사용을 모니터링하고 사용자에게 경고하여 딥 페이크의 확산과 영향을 방지하는 데 도움이 됩니다.”
무단 사용을 모니터링하는 것 외에도 Wong은 Hollo.AI가 이러한 사용이 감지된 후 사기 사건 해결을 돕기 위해 사용자를 도울 계획이라고 설명했습니다.
그는 “디지털 신원이 쉽게 복제되고 무단 사용을 위해 남용될 수 있는” 시대에는 이 분야의 “권한 부여”가 매우 중요하다고 말했습니다.
사용자가 플랫폼에서 AI “디지털 트윈”을 생성하면 보다 정확한 디지털 신원을 생성하기 위해 제공된 사용자의 소셜 링크를 기반으로 “계속 학습”합니다.
Hollo.AI는 창작자와 시청자를 위한 AI의 투명성과 윤리적 사용 문제를 해결하려고 노력하고 있지만 이러한 주제는 다른 기관 및 플랫폼 내에서도 논의되고 있습니다. YouTube는 최근 더 많은 AI 투명성 조치를 포함하도록 커뮤니티 가이드라인을 업데이트했습니다.
연예계 노조인 SAG-AFTRA는 AI를 주제로 한 118일간의 파업에 이어 현재 배우들에게 AI가 생성한 ‘디지털 트윈’을 사용하는 것에 대해 주요 할리우드 스튜디오와 최종 조건을 협상하고 있습니다.