오픈AI, 이미지 생성 제한 완화… 창의성과 윤리의 경계는?

CHAT AI

 

오픈AI, 민감 이미지 생성 제한 완화 선언

최근 오픈AI가 자사 이미지 생성 인공지능 모델의 콘텐츠 정책을 대폭 수정하면서, AI 윤리와 표현의 자유를 둘러싼 논쟁이 다시 불붙고 있습니다. 오픈AI의 모델 행동 책임자 조앤 장은 3월 27일 블로그와 SNS를 통해 “우리는 포괄적 차단에서 벗어나, 실제 피해를 방지하는 방향으로 접근법을 조정하고 있다”고 밝혔습니다.

정책 변화의 핵심: 금지보다는 ‘정교한 거부’

기존에는 AI에게 민감하거나 논란의 여지가 있는 이미지를 요청하면 자동으로 차단되었지만, 이제는 맥락을 고려해 판단하는 정밀한 방식으로 전환됩니다. 예를 들어, ‘아시아인처럼 보이게 해달라’거나 ‘더 뚱뚱하게 해달라’는 요청도 이제는 일괄적으로 차단하지 않습니다. 물론 차별적 의도가 있을 경우 여전히 제한됩니다.

공인 이미지 생성도 마찬가지입니다. 이제 유명인에 대한 이미지 생성이 가능해졌고, 본인이 원하지 않는 경우에만 옵트아웃 방식으로 거부할 수 있도록 설계되었습니다.

논란의 지점: 혐오 표현과 저작권 이슈

특히 논란이 되는 부분은 나치 상징과 같은 극단적 혐오 표현도 교육적 맥락이라면 생성 가능하다는 점입니다. 오픈AI는 “완전한 금지는 오히려 의미 있는 대화를 차단할 수 있다”고 설명하지만, 일각에서는 이를 악용할 가능성에 대한 우려도 커지고 있습니다.

또 하나의 쟁점은 **저작권 문제**입니다. 새로 출시된 ChatGPT-4o 이미지 생성 모델은 디즈니, 심슨가족, 스튜디오 지브리 등 유명 화풍을 쉽게 모방할 수 있습니다. 특히 지브리 스타일의 인기는 폭발적이었고, 서버 과부하까지 초래했지만, 저작권 침해 소지로 지브리 측이 오픈AI를 고소할 가능성도 제기되고 있습니다.

사용자가 주의해야 할 점

• ✔️ 생성 가능한 콘텐츠의 범위가 넓어졌지만, 여전히 커뮤니티 가이드라인은 존재합니다.
• ✔️ 유명인 이미지 생성 시, **명예훼손**이나 **허위정보 조작**에 주의해야 합니다.
• ✔️ 저작권이 명확한 캐릭터, 화풍은 **상업적 이용 금지**가 원칙입니다.
• ✔️ 개인적인 감정 표현이나 외모 변화 요청도, 상대를 모욕할 수 있는 표현은 자제해야 합니다.

결론: 창의성과 책임 사이의 균형

오픈AI의 이번 정책 변화는 AI 이미지 생성 기술의 자유와 책임 사이에서 새로운 균형점을 찾기 위한 시도입니다. 사용자의 창의적인 표현은 더욱 넓어졌지만, 그만큼 윤리적 판단과 사회적 책임도 함께 요구됩니다.

앞으로 AI가 어디까지 사람의 상상력을 담아낼 수 있을지, 그리고 어떤 규범이 함께 따라야 할지 계속 지켜봐야 할 시점입니다.