ㅇ 최근 AI로 만든 가짜 전문가나 유명인 딥페이크 등을 활용한 허위ㆍ과장 광고가 식ㆍ의약품 분야를 중심으로 범람하고 있다. 이러한 광고는 노년층 등 소비자들의 피해를 야기하고 시장 질서를 교란하고 있다. 특히 디지털 정보의 특성상 SNS 등을 통해 빠른 속도로 유포되고 있어 신속한 대응이 필요한 상황이다.

□ 이에 정부는 AI 허위ㆍ과장광고의 생성과 확산을 신속히 차단하고, 위법 행위자를 엄단함으로써 시장 질서를 정상화할 수 있도록 다음과 같은 대책을 추진한다.

① AI 허위·과장 광고 유통前 사전 방지

ㅇ 방미통위는 AI 생성물이 실제가 아니라는 점을 소비자가 정확히 알 수 있도록 돕기 위해 플랫폼 등에 대한 AI 생성물 표시제를 도입한다.

- ▲앞으로 AI 생성물을 제작·편집해 게시하는 자(=‘직접 정보제공자’)는 해당 사진·영상 등을 AI로 만들었다는 사실을 표시하여야 하며, ▲플랫폼 이용자가 AI 생성물 표시를 제거하거나 훼손하는 행위는 금지된다. ▲플랫폼社는 ‘직접 정보제공자’가 표시 의무를 준수하는지 관리(표시 방법 제공, 표시 의무 고지)하도록 한다.

ㅇ 또한, 과기정통부는 AI 사업자의 AI 생성물 표시 의무(AI 기본법 ’26.1월 시행 예정) 이행과 AI 생성물의 투명한 사용을 돕기 위한 가이드라인을 마련한다.

② AI 허위·과장 광고 유통時 신속한 차단

ㅇ 방미통위·방미심위는 식·의약품, 화장품, 의약외품, 의료기기 등 AI 허위·과장광고가 빈발하는 영역을 서면심의 대상에 추가하도록 추진*한다. 앞으로 해당 영역의 허위ㆍ과장광고에 대해서는 심의 요청 후 24시간 이내 신속한 심의가 이뤄질 수 있을 것으로 기대된다.

* ｢방송미디어통신위원회법｣ 개정 추진

- 식약처 전용 방미심위 심의신청 시스템(패스트트랙)도 이들 품목까지 확대 적용(현재는 마약류만 적용)해 안건 상정 시간도 단축할 계획이다.

ㅇ 또한 국민의 생명·재산 피해 우려가 커 시급한 조치가 필요한 경우에는, 방미통위의 플랫폼社에 대한 긴급 시정요청 절차를 도입하여 방미심위 심의 완료 전에 차단조치가 이뤄질 수 있도록 한다.

* [절차(안)] 관계당국이 방미통위에 요청 → 방미통위는 플랫폼社에 임시 시정 요청 → 플랫폼社는 시정조치 이행 → 방미심위 심의결과에 따라 차단확정 or 원상복귀

ㅇ 아울러 정부 차원 뿐 아니라 플랫폼 사업자 차원에서도 허위·과장광고 관련 자율규제가 확대·강화될 수 있도록 유도할 예정이다.

③ 위법행위자에 대한 금전제재 강화 및 단속역량 확충

ㅇ 공정위와 식약처는 AI로 만든 전문가가 제품을 추천하는 광고에 대한 위법성 판단 기준을 명확화*함으로써 예측가능성을 제고하고 허위·과장 광고에 대한 신속한 제재조치가 이뤄질 수 있도록 한다.

* ① [AI 사용광고 일반] AI가 제품을 추천하는 광고의 경우 추천자가 ‘가상인간’임을 표시하지 않으면 “부당한 표시광고“에 해당

② [식ㆍ의약품 분야] AI가 생성한 의사 등 전문가가 식ㆍ의약품을 추천하는 광고행위는 ”소비자를 기만하는 광고“에 해당

ㅇ 또한, 방미통위와 공정위는 위법행위자에 대한 금전 제재를 강화함으로써 위법 행위 유인을 약화시키고 적발시에는 엄중히 제재한다.

- 이를 위해 ▲정보통신망 등에서의 악의적인 허위·조작정보 유통 행위에 대한 징벌적 손해배상(손해액의 최대 5배)을 도입하고, ▲표시·광고법상 허위·과장 광고에 대한 과징금 수준도 대폭 상향한다.

ㅇ 한편, 식약처와 소비자원은 AI 허위·과장 광고에 대한 신속한 차단을 위해 관계 부처 협의 등을 통해 감시·적발 기능 강화를 추진한다.

□ 김민석 국무총리는 이번 대책을 통해 신기술의 부작용을 최소화하는 동시에, AI 시대에 걸맞는 시장 질서를 확립해나갈 것이라고 했다.

ㅇ 정부는 대책에 포함된 법령·제도개선 등을 조속히 추진할 계획이며, 플랫폼 업계, 소비자 단체 등 이해관계자와도 긴밀하게 소통할 예정이다.