IAAE 국제인공지능윤리협회가 9월 27일 ‘감정교류AI 윤리 가이드라인(The Ethical Guideline for Emotional AI)’을 공식 발표했다. 이번 가이드라인은 인공지능이 인간의 감정과 상호작용하는 시대에 맞춰, 기술의 책임 있는 발전과 정신적·사회적 안전을 보장하기 위한 윤리 원칙을 제시한 첫 국제적 기준이라는 점에서 주목된다.
협회는 “감정교류AI는 단순한 정보 도구를 넘어 인간의 감정과 정신세계에 직접 영향을 미치는 기술”이라며 “기술의 잠재력을 사회적 신뢰와 인간 중심의 가치 위에서 발전시켜야 한다”고 강조했다.
이번 가이드라인은 ▲사용자 행동강령 ▲서비스 제공자 행동강령 ▲정책기관 행동강령 등 세 주체별 윤리 원칙으로 구성되어 있다. 사용자는 AI를 인간과 동일시하지 않고 자율적으로 이용해야 하며, 감정 데이터의 수집·활용 과정에서 자기결정권을 행사할 수 있도록 명시했다.
서비스 제공자는 AI 정체성을 명확히 고지하고, 감정적 취약성을 상업적으로 이용하거나 정치적 조작에 악용해서는 안 된다. 또한 자해·타해 위험 대화 시 경고 및 전문기관 연계 의무, 아동·노인 등 취약계층 보호 장치 마련, 장기 이용 시 몰입 방지 시스템 도입 등을 포함해 안전장치 구축의 구체적 기준을 제시했다.
정책기관은 감정교류AI를 ‘고영향 인공지능’으로 분류해 관리·감독 체계를 확립하고, 정신건강 보호를 위한 법제화와 피해 구제 절차 마련, 그리고 국제 규범과의 정합성 확보를 의무화했다.
IAAE 관계자는 “이번 가이드라인은 OECD와 UNESCO의 AI 윤리 원칙, 한국의 「인공지능기본법」 등과 정합성을 갖춘 실천적 기준”이라며 “산업계와 정책기관, 시민이 함께 신뢰 기반의 AI 문화를 형성하는 데 목적이 있다”고 밝혔다.
이번에 제정된 가이드라인은 총 35쪽 분량으로, 5장 ‘행동강령과 확산체계’를 포함한 전체 문서는 협회 홈페이지(<AI윤리가이드라인> 메뉴)에서 무료로 내려받을 수 있다.
IAAE는 향후 이 가이드라인을 기반으로 산업별 윤리 자가점검 체계와 국제 공동연구를 추진해, 인간과 AI가 공존하는 감정지능 사회로의 전환을 이끌 계획이다.
<출처: IAAE 국제인공지능윤리협회>
About the Author
