최종 이미지만 보면 편향이 생긴 위치를 알 수 없다
국제 연구진은 9월 10일 텍스트-이미지 시스템의 프롬프트 재작성 계층을 분석한 WORLDVIEW 연구를 공개했습니다. 상용 서비스는 사용자가 쓴 문장을 모델에 그대로 보내지 않고 더 자세한 내부 프롬프트로 바꾸기도 하지만, 사용자는 그 내용을 보거나 끌 수 없는 경우가 많습니다. 연구는 15개 언어와 31개 언어·문화 맥락 조합에서 8,960개 프롬프트를 만들고 DALL‑E 3, Imagen 4와 GPT‑Image‑1.5의 수정 결과를 조사했습니다.
저자들은 미국 맥락이 기준 영어보다 가장 적게 표시되는 반면 비서구·비영어 맥락은 문화 표시가 더 많이 추가됐다고 보고합니다. 다양한 주제가 반복되는 좁은 어휘로 평준화되고, 쉽게 알아볼 수 있는 전통 의상·장소·상징 같은 고정관념으로 수렴하는 경향도 측정했습니다. 재작성 기능이 없는 모델에 원문과 수정문을 각각 넣은 비교에서는 수정 계층 자체가 이미지 차이의 원인이 될 수 있다고 분석했습니다.
세 시스템의 실험을 모든 서비스에 일반화할 수는 없다
논문은 동료평가 전 프리프린트이며 시스템 버전, 안전 정책, 언어 번역과 비공개 내부 처리 변화에 따라 결과가 달라질 수 있습니다. 문화의 다양성을 몇 개 지표로 완전히 표현할 수도 없고, 재작성은 안전성과 지시 명확성을 높이는 역할도 할 수 있습니다.
정책과 제품 설계의 실질적 시사점은 재작성을 무조건 제거하는 것이 아니라 감사 가능하게 만드는 것입니다. 서비스는 원문과 모델 입력의 차이를 설명하고, 창작자가 문화 표현을 검토·수정할 선택권을 제공하며, 실제 배포 파이프라인 전체를 언어별로 평가해야 합니다.