)
인공지능(AI) 기업들이 AI 이미지·영상 프로그램에서 성인 콘텐츠를 허용하는 경우가 늘어나고 있다. 이에 실존 인물이나 아동을 대상으로 한 이미지를 금지해야한다는 목소리도 커지는 가운데 검열과 성능이 양립할 수 없다는 문제점도 발견됐다.
8월5일 선공개되고 8월17일 무료 공개된 그록 이매진은 혁신적인 성능으로 큰 관심을 받았다. 고성능의 이미지 생성과 이미지를 넣으면 짧은 영상을 만들어주는 기능이 많은 관심을 받았다. 특히 10월6일 그록 이매진 v0.9에서 향상된 기능을 보여주면서 더 주목받았다.
특히 그록 이매진은 뛰어난 접근성으로 호평 받았다. 이전 AI 이미지 생성 프로그램으로 움직이는 이미지를 만들기 위해서는 복잡한 작업이 필요했으나 그록 이매진은 사진만 넣으면 자연스러운 구도를 잡아주기 때문이다.
그록 이매진은 검열이 약해 선정적인 이미지를 만들어낼 수 있다는 이슈가 됐다. 실제로 그록 이매진 v0.9가 나오고 나서 애니메이션이나 게임 캐릭터를 대상으로 노출 수위가 높은 영상을 만들어내는 경우를 쉽게 찾을 수 있었다.
또한 샘 올트먼 오픈 AI 최고경영자(CEO)는 14일 생성형 AI 챗GPT에 성인용 콘텐츠를 허용하겠다고 밝혔다. 올트먼 CEO는 성인용 콘텐츠 허용이 성인 사용자를 성인답게 대하려는 노력의 일환이라고 설명했다.
생성형 AI로 성인용 이미지 또는 영상을 만들고 싶어하는 이용자층이 있는 만큼 오픈 AI 역시 맞춰가려는 노력으로 평가된다. 그록과 오픈 AI가 성인용 콘텐츠 제작을 허용한다면 다른 AI 기업 역시 성인용 콘텐츠 도입을 검토할 것으로 보인다.
다만 AI 이미지·영상 생성 프로그램의 오랜 논란거리인 실존 인물이나 아동 대상 이미지 생성 우려는 계속되고 있다.
그록 또한 유명인이 아동의 사진을 선정적인 사진으로 바꿀 수 있다고 달려져 논란이 된 바 있다. 그록은 실존 인물이나 아동을 대상으로 한 성적 이미지 생성을 막았다고 명시했으나 프롬프트를 우회해 검열을 피하는 사례가 발견됐기 때문이다.
AI 열풍으로 AI 규제가 필요하다는 목소리도 커진 만큼 그록 이매진이 이러한 문제를 방치할 경우 강도 높은 제재가 들어올 수 있다는 우려가 나왔다.
이에 10월16일을 기점으로 인터넷 커뮤니티를 중심으로 그록 이매진의 검열이 강화됐다는 주장이 나왔다. 선정적인 이미지를 만들어내려고 해도 예전처럼 나오지 않는다는 것이다.
이 과정에서 그록 이매진 성능이 저하됐다는 지적도 다수 발견됐다. 선정적 이미지가 나오지 않게 된 것과 맞물려 선정적 이미지를 만들지 않아도 이전보다 성능이 떨어진다는 주장이다.
AI 업계 관계자는 “사람도 이런 말은 하지 말아야 한다고 제약을 걸면 말을 잘 못 하게 되는 것처럼 AI 역시 금지 사항이 늘어나면 성능이 저하된다”며 “성능과 윤리 사이에서 AI 기업들이 균형을 잘 잡아야 한다”고 말했다.
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요0
슬퍼요0
기사제보 
