AI 생성 콘텐츠, 워터마크 국내 도입 결정 [엔씨소프트, 국내 첫 AI 언어모델 'VARCO LLM' 공개]

AI 생성 콘텐츠, 워터마크 국내 도입 결정

AI 생성 콘텐츠 워터마크 도입, 산업과 사회에 미치는 깊은 파장

 

 

• ▲ 미국, 글로벌 AI 빅테크 회사, 워터마크 도입 합의
• ▲ 딥페이크 악용 방지
• ▲ AI 콘텐츠 저작권 보호

세계적으로 주목받는 AI 기술의 발전 속에서, AI 빅테크 회사들이 AI가 생성한 콘텐츠에 'AI가 만들었다'는 워터마크를 도입하기로 한 합의는 그 의미가 크다. 이러한 국제적 합의에 발맞춰 한국의 정보기술(IT) 당국 역시 워터마크 도입 방침을 확정하며, AI 산업의 투명성과 신뢰성 확보를 위한 첫 발을 내디뎠다.

 

워터마크의 도입 배경에는 딥페이크 기술의 악용, 인권 침해, 가짜 뉴스 확산 등 AI 기술의 부작용을 최소화하고자 하는 목적이 크게 작용하였다. 또한, AI 생성에 사용된 원본 콘텐츠의 저작권 보호와 이를 통한 콘텐츠 제작자의 권리를 확보하는 것 역시 중요한 고려 사항 중 하나였다.

 

현재 워터마크의 표시 방식에 대한 기술적인 부분은 과학기술정보통신부와 업계와의 협의 중에 있다. 이 중에서도 특히 주목받는 것은 기계가 AI 생성물임을 자동으로 인식할 수 있는 '비시각적 워터마크'의 도입이다. 이 기술은 AI 생성물의 투명성을 높이는 동시에, 사용자들에게 AI 콘텐츠의 출처와 진위를 명확하게 인식할 수 있는 기회를 제공한다.

 

AI 당국 관계자는 "워터마크 도입은 단순히 기술적인 문제를 넘어, AI 산업의 건강한 발전과 사회적 신뢰 구축에 기여할 것"이라고 주장하였다. 세계적인 AI 석학 앤드류 응 교수 역시 워터마크 도입이 사회에 긍정적인 영향을 미칠 것이라고 평가하며, 이러한 움직임의 중요성을 강조하였다.

 

한편, 정부는 AI 기술의 부작용과 관련된 다양한 문제에 대응하기 위한 기술적인 보완 대책을 다음 달 안에 발표할 계획이다. 이를 통해 AI 산업의 지속 가능한 성장과 사회적 책임을 동시에 추구하는 방향을 제시할 예정이다.

 

엔씨소프트, 국내 첫 AI 언어모델 'VARCO LLM' 공개

VARCO, 한 달 무료 이용

 

 

• ▲ 엔씨소프트의 'VARCO LLM' 전략
• ▲ 아마존 세이지메이커와 협업, 'VARCO LLM' 배포
• ▲ 이미지부터 디지털휴먼까지, 'VARCO'의 AI 플랫폼 

국내 게임 기업 엔씨소프트(NC)가 국내 게임사 최초로 자체 개발한 AI 언어모델 'VARCO LLM'을 공개하며, AI 분야에서의 리더십을 강화하고 있다. 'VARCO'는 엔씨(NC)의 AI 언어모델 통합 브랜드로, "AI를 통해 당신의 독창성을 실현하세요"라는 의미를 담고 있다.

 

이번에 공개된 'VARCO LLM'은 기초 모델부터 생성형 모델까지 다양한 구성을 갖추고 있으며, 고품질의 데이터를 중심으로 학습되었다. 특히, 아마존 세이지메이커 점프스타트를 통해 배포되며, 사용자들은 한 달 동안 무료로 이용할 수 있다.

 

또한, 엔씨소프트는 'VARCO LLM'을 기반으로 한 다양한 AI 플랫폼을 추가로 소개하였다. 이미지 생성툴 'VARCO Art', 텍스트 생성 및 관리툴 'VARCO Text', 디지털휴먼 생성 및 편집, 운영툴 'VARCO Human' 등이 그것이다.

 

엔씨소프트의 CRO 이제희는 'VARCO'의 성능과 가능성을 극찬하며, 다양한 도메인에서 새로운 가치와 경험을 제공할 계획이라고 밝혔다.

네이버, 초거대 AI '하이퍼크로버 X' 공개

네이버의 두 번째 초거대 AI 모델 공개

 

 

• ▲ AI 기반 추천 기술 고도화 전략
• ▲ 스타트업과의 AI 생태계 조성 논의
• ▲ AI 혁신으로 IT 업계 리더십 강화

네이버가 최근 '하이퍼크로버 X'라는 초거대 AI 모델을 선보였다. 이는 IT 업계에서 주목받는 중요한 발표로, 네이버의 두 번째 초거대 AI 모델이자, 다양한 목적으로 활용 가능한 혁신적인 인프라로 평가받고 있다.

 

'하이퍼크로버 X'는 기존 데이터를 넘어서는 '생성형 AI'로의 활용 가능성을 보유하고 있다. 특히, 이 모델은 대화형 AI 서비스인 '크로버 X'와 복잡한 질의에 대한 답변을 제공하는 '큐(CUE)'의 핵심 기반이 될 것으로 예상된다.

 

네이버 대표인 최수연은 "네이버는 한국인의 마음을 가장 잘 아는 회사"라며, "생성형 AI 시대에도 네이버의 본질과 경쟁력은 변하지 않을 것"이라고 강조했다. 이러한 발표와 함께, 네이버는 아시아 최대 규모의 하이퍼스케일 데이터센터 '각 세종'의 개소 계획을 밝혔다.

 

이외에도, 네이버는 AI 기반의 추천 기술을 고도화하는 방향으로 전략을 세우고 있으며, 다양한 파트너 전략을 통해 IT 업계에서의 리더십을 강화하려는 계획이다.

 

이번 발표는 IT에 관심 있는 모든 이들에게 중요한 정보로 평가받고 있으며, 네이버의 미래 전략과 기술력에 대한 전문가들의 높은 기대감을 확인할 수 있다.

 

AI 모델 중 가장 터무니없는 거짓말을 하는 모델은?

GPT-4 vs 라마 2: 환각 현상 비교

 

 

• ▲ GPT-4, 이전 버전보다 환각 현상 감소
• ▲ 2024년 대통령 선거와 AI 정보의 중요성
• ▲ AI의 정보 제공 문제점

19일(현지시간) 학습 모니터링 플랫폼인 아서 AI가 분석한 대형언어모델(LLM)들의 AI 환각에 대해 CNBC 등 외신이 보도했다.

 

인공지능(AI) 기술의 발전은 혁신적인 변화를 가져왔지만, 동시에 그 정확성과 신뢰성에 대한 논의가 활발히 이루어지고 있다. 2024년 미국 대통령 선거를 앞두고, AI가 제공하는 정보의 신뢰성 문제는 점점 더 중요한 이슈로 부상하고 있다. 이러한 배경 속에서, 주요 LLM 모델들의 성능과 정보 제공 능력에 대한 분석이 실시되었다.

 

환각 현상은 LLM이 완전히 조작된 정보나 부정확한 정보를 사실처럼 제공하는 현상을 의미한다. 이 현상은 사용자들로 하여금 잘못된 판단을 하게 만들 수 있으므로, 그 심각성은 무시할 수 없다. 본 연구에서는 이러한 환각 현상을 극대화하는 주요 요인과 그에 따른 AI 모델의 성능을 평가하였다.

 

테스트 결과, GPT-4는 전반적으로 가장 우수한 성능을 보였으며, 특히 수학, 미국 대통령, 모로코정치 부문에서 뛰어난 결과를 보였다. 반면, 라마 2는 환각 현상이 더 심하게 나타나, 정보의 정확성 면에서는 다소 문제점이 있었다.

 

또한, AI 모델이 확실치 않은 정보 제공을 피하려고 얼버무리는 정도를 테스트한 결과, GPT-4에서는 이러한 얼버무림 현상이 증가하였다. 반면, 클로드 2는 이러한 얼버무림 없이 정보를 제공하는 것으로 평가되어, 사용자로부터 높은 신뢰도를 얻었다.

 

애덤 웬젤 아서 AI CEO는 이번 연구에 대해 "이번 보고서는 LLM의 환각 비율과 정보 제공 능력을 포괄적으로 조사한 첫 번째 연구"라며 그 중요성을 강조하였다. 그는 또한, AI 기술의 발전과 함께 그 신뢰성 확보가 미래의 주요 과제로 부각될 것이라고 전망하였다.

 

 

 

 

 

 

태그

#AI, #인공지능, #AI뉴스, #워터마크, #AI 워터마크, #콘텐츠, #저작권 보호, #딥페이크방지, #AI투명성, #TECH뉴스, #과학#기술정보통신부, #엔씨소프트, #VARCO, #AI언어모델, #세이지메이커, #디지털휴먼, #AI 인공지능, #AI뉴스, #TECH뉴스, AI 플랫폼,  #네이버, #네이버 AI, #하이퍼크로버 X, #크로버 X, #큐 CUE, #AI 인공지능, #AI뉴스, #AI혁신, #IT,  #AImodel, #GPT4, #라마 2, #환각현상, #오픈 AI, #클로드 2, #코히어 AI, #LLM분석, #AI정보왜곡, #AI거짓말