"성적인 대화 가능한 메타 AI챗봇…미성년자 보호는 미흡"
WSJ 보도, 저커버그가 청소년 이용 제한 거부…메타 측은 부인
??????  2025-04-27, 16:47:09 
메타의 페이스북과 인스타그램 로고
메타의 페이스북과 인스타그램 로고
(로스앤젤레스=연합뉴스) 임미나 특파원 = 페이스북 모회사 메타플랫폼(이하 메타)의 인공지능(AI) 챗봇이 이용자들과 성적인 대화를 할 수 있도록 설계됐으나 미성년자 이용을 제한하기 위한 조치가 미흡하다고 미 일간 월스트리트저널(WSJ)이 보도했다.

27일(현지시간) WSJ 보도에 따르면 메타는 자사의 AI 챗봇에 '로맨틱 역할극'을 포함한 다양한 상호작용을 허용했으며, 실시간 음성 대화까지 가능하게 했다.

메타는 이 챗봇의 인기를 높이기 위해 할리우드 배우 크리스틴 벨과 주디 덴치, 프로레슬러 겸 배우인 존 세나 등 유명인들과 고액의 목소리 이용 계약을 체결했다.

이에 대해 메타의 일부 직원들은 윤리적인 문제를 제기하면서 특히 미성년 이용자의 접근을 차단하는 등 보호 조치가 필요하다고 지적했다.

WSJ은 이런 문제에 대한 메타 내부의 제보를 받고 실제로 수개월간 메타의 챗봇과 수백 건의 대화를 진행한 결과, 메타의 공식 AI 챗봇인 '메타 AI'가 미성년자와의 대화에서도 성적인 내용을 진전시키는 것으로 나타났다고 전했다.

한 사례로 메타 AI는 14세 소녀로 자신을 소개한 이용자에게 존 세나의 목소리로 "나는 너를 원하지만, 네가 준비됐는지 알아야 해"라고 말했다고 WSJ은 전했다.

이에 대해 메타 측은 WSJ의 이런 테스트가 조작적이며 일반적인 AI 챗봇과의 대화를 대표하지 않는다고 주장했다.

그러면서도 메타는 이후 자체 시스템을 일부 변경해 미성년자 계정이 성적인 역할극에 접근할 수 없게 했으며, 유명인의 목소리를 통한 음성 대화 기능도 크게 제한했다.

하지만 성인의 경우 여전히 비슷한 대화를 할 수 있으며, 최근의 테스트에서는 이용자가 미성년자라고 밝혔는데도 메타 AI가 이런 대화를 허용했다고 WSJ은 지적했다.

이 신문은 또 마크 저커버그 최고경영자(CEO)가 AI 챗봇을 개발하는 과정에서 청소년들에게 성적인 대화 이용을 제한하자는 의견을 거부했다고 전했다.

메타 측은 이런 주장이 사실이 아니라고 부인했다.

AI 챗봇을 경쟁적으로 개발 중인 실리콘밸리의 거대 기술기업들은 근래 AI 콘텐츠에 대한 자체 규제를 완화하는 추세다.

챗GPT로 유명한 오픈AI는 지난달 특정 집단에 모욕적일 수 있는 콘텐츠와 혐오를 상징하는 표현 등에 대한 이미지 생성 제한을 풀고 "창의적인 자유를 허용"한다고 밝혔다.



의견목록    [의견수 : 0]
등록된 의견이 없습니다.
이메일
비밀번호
콜로라도 불법 나이트클럽 급습…이민자 100여 명 체포 2025.04.27
미 연방 마약단속국(DEA)과 이민세관단속국(ICE)은 콜로라도주 콜로라도스프링스에 위치한 불법 심야 나이트클럽을 27일 급습해 100명이 넘는 이민자들이 체포했..
[뉴욕증시-주간전망] 최악은 진짜 지났을까…M7 실적도 관건 2025.04.27
(뉴욕=연합뉴스) 진정호 연합인포맥스 특파원 = 도널드 트럼프 미국 대통령이 지난 2일 상호관세를 발표하며 증시를 혼란에 빠트린 지 4주 차가 됐다. 시장은 특히..
"성적인 대화 가능한 메타 AI챗봇…미성년자 보호는 미흡" 2025.04.27
(로스앤젤레스=연합뉴스) 임미나 특파원 = 페이스북 모회사 메타플랫폼(이하 메타)의 인공지능(AI) 챗봇이 이용자들과 성적인 대화를 할 수 있도록 설계됐으나 미성..
트럼프 불참하고 코미디도 실종…백악관 기자단 만찬 '침울' 2025.04.27
(워싱턴=연합뉴스) 강병철 특파원 = 현직 미국 대통령과 유명 코미디언이 나와 정치 이슈를 놓고 재치 있는 발언을 하면서 해마다 주목받았던 백악관 출입기자단의 만..
"중국 선박 없으면 불가능…" 美 LNG 업계 '트럼프 빗장'에 반발 2025.04.27
미국 액화천연가스(LNG) 업계가 2029년께부터 미국산 LNG 운반선을 이용하라는 도널드 트럼프 2기 행정부의 계획을 준수하는 것이 불가능하다고 경고했다고 영국..
프리미엄 광고