'성적인 대화 논란' 캐릭터AI, 18세 미만 이용자 채팅 차단
??????  2025-10-29, 13:25:10 
캐릭터AI의 미성년 이용자 채팅 기능 차단 발표
캐릭터AI의 미성년 이용자 채팅 기능 차단 발표
(로스앤젤레스=연합뉴스) 임미나 특파원 = 청소년들이 인공지능(AI)으로 생성한 가상 캐릭터와 성적인 대화 등을 주고받는 사례가 알려져 논란이 된 미국의 챗봇 서비스 업체 '캐릭터AI'가 18세 미만 이용자에 대해 자유로운 채팅 기능을 차단하기로 했다고 29일(현지시간) 발표했다.

캐릭터AI는 오는 11월 25일부터 18세 미만 이용자를 대상으로 플랫폼에서 AI와 자유로운 채팅을 할 수 있는 기능을 전면 차단하고, 그 전까지는 해당 이용자들에게 채팅 가능 시간을 점차 줄여나갈 예정이라고 밝혔다.

회사 측은 또 사용자가 연령에 맞는 적절한 서비스를 제공받을 수 있도록 새로운 연령 확인 기능을 도입한다고 덧붙였다.

아울러 차세대 AI 엔터테인먼트 기능의 안전성을 확인하는 독립 비영리 기관 'AI 안전 연구소'(AI Safety Lab)를 설립해 자금을 지원할 계획이라고 밝혔다.

앞서 캐릭터AI는 지난해 미국의 한 14세 소년이 이 플랫폼에서 챗봇 캐릭터와 성적인 대화를 나누다가 극단적인 선택을 하는 사건이 발생하면서 AI 안전성 관련 논란의 중심에 섰다. 이 소년의 부모는 캐릭터AI를 상대로 소송을 제기하기도 했다.

미 연방거래위원회(FTC)는 지난달 캐릭터AI를 비롯한 알파벳, 메타, 오픈AI, 스냅 등 7개 기업에 AI 서비스가 아동·청소년에게 미칠 잠재적 영향을 파악하라는 명령을 내렸다.

미 언론은 아동·청소년을 대상으로 한 AI 서비스와 관련해 사회적인 규제 목소리가 높아지는 가운데 캐릭터AI가 미성년 이용자의 개방형 서비스 중단 결정을 내리며 규제 압박을 완화하려는 시도를 한 것으로 해석했다.



의견목록    [의견수 : 0]
등록된 의견이 없습니다.
이메일
비밀번호
美재무 "무역협상 마무리…다음주 서명 가능" 2025.10.30
(워싱턴=연합뉴스) 홍정규 특파원 = 스콧 베선트 미국 재무장관은 중국의 희토류 수출 통제 문제를 포함한 미국과 중국의 무역협상이 마무리됐으며, 다음주에 서명이..
젠슨 황 "한국이 엔비디아의 시작부터 핵심 역할" 2025.10.30
젠슨 황 엔비디아 최고경영자(CEO)가 지금의 엔비디아가 있기 까지 한국인들의 e스포츠에 대한 열정이 있었다며 인공지능(AI) 산업 발달에서 한국의 역할을 추켜세..
'성적인 대화 논란' 캐릭터AI, 18세 미만 이용자 채팅 차단 2025.10.29
(로스앤젤레스=연합뉴스) 임미나 특파원 = 청소년들이 인공지능(AI)으로 생성한 가상 캐릭터와 성적인 대화 등을 주고받는 사례가 알려져 논란이 된 미국의 챗봇 서..
백악관, 韓 대미투자 유치 성과 발표…"굳건한 한미동맹 재확인" 2025.10.29
(워싱턴=연합뉴스) 홍정규 이유미 특파원 = 한미 무역 협상이 타결된 가운데 백악관이 29일(현지시간) 한국의 대미 투자 유치 성과를 발표했다.백악관은 이날 &#..
美 전기차 루시드 "엔비디아 플랫폼 기반 자율주행 개발" 2025.10.28
(로스앤젤레스=연합뉴스) 임미나 특파원 = 미국 전기차업체 루시드가 엔비디아의 인공지능(AI) 기술을 접목시켜 운전자의 개입이 필요없는 완전 자율주행차를 개발하겠..
프리미엄 광고