오픈AI "대화형 AI, 사용자가 감정적 의존하게 만들 우려"
??????  2024-08-09, 22:36:35 
(뉴욕=연합뉴스) 이지헌 특파원 = 챗GPT 개발사 오픈AI는 실제 사람과 대화하는 듯한 경험을 제공하는 생성형 인공지능(AI) 서비스가 사용자들을 AI에 감정적으로 의존하게 만들 수 있는 위험이 있다고 우려했다.

오픈AI는 음성 지원이 가능한 새 인공지능(AI) 모델 'GPT-4o'(GPT-포오)와 관련해 내놓은 보고서에서 이처럼 지적했다고 CNN이 9일(현지시간) 보도했다.

GPT-4o는 오픈AI가 지난 5월 공개한 최신 인공지능 모델로, 딱딱한 기계음이 아닌 자연스러운 사람 목소리를 내고 사용자와 실시간 음성 대화가 가능한 게 특징이다.

서비스 첫 공개 당시 인간이 AI 비서와 사랑에 빠지는 내용의 2013년 개봉작 영화 '허'(Her) 속 AI가 현실이 됐다는 평가를 받으며 큰 주목을 받았다.

GPT-4o에 사용된 AI 음성이 영화 '허' 속 AI 비서 목소리의 주인공인 스칼릿 조핸슨의 목소리와 비슷하다는 지적이 나오면서 논란이 되기도 했다.

오픈AI는 보고서에서 "사용자들이 챗GPT와 음성 모드로 대화하면서 공유된 유대감을 표현하는 현상이 관찰됐다"라고 우려했다.

영화 속에서 AI와 사랑에 빠진 주인공 모습이 더는 영화 속 허구가 아닐 수 있다는 점을 지적한 것이다.

오픈AI는 "사용자가 AI와 사회적 관계를 형성하면서 다른 사람과의 상호작용에 대한 필요성을 줄일 수 있다"며 "이는 외로운 개인에 잠재적으로 도움을 줄 수 있지만, 다른 사람과의 건강한 관계에도 영향을 미칠 수 있다"라고 판단했다.

또한 생성형 AI가 잘못된 정보를 알려줄 수 있음에도 AI가 마치 실제 사람처럼 말하는 것은 사용자가 AI를 더욱 신뢰하게 만들 수 있다고 지적했다.

오픈AI는 GPT-4o의 음성 모드 기능이 장기간에 걸쳐 사람들 간의 정상적인 사회적 상호작용 방식에도 영향을 미칠 수 있다고 평가했다.

GPT-4o의 음성 모드는 AI의 음성 답변이 이뤄지는 도중 사용자가 언제든지 개입해 답변을 멈추고 사용자의 음성을 입력할 수 있게 설계됐는데 이 같은 기능설계가 사람 간 상호작용 방식에 영향을 미칠 수 있다고 본 것이다.

오픈AI는 보고서에서 "AI를 '안전하게' 만들기 위해 최선을 다하고 있으며 사용자의 잠재적인 '감정적 의존'에 대해 지속해서 연구할 계획"이라고 밝혔다.

애리조나 주립대에서 기술과 인간 소통을 연구하는 리젤 샤라비 교수는 CNN 인터뷰에서 "기업은 윤리적이고 책임감 있는 방식으로 이 문제를 해결해야 할 책임이 있다"며 "지금은 모든 게 실험적인 단계에 있는 상황"이라고 강조했다.



ⓒ 보스톤코리아(http://www.bostonkorea.com), 무단전재 및 재배포 금지
의견목록    [의견수 : 0]
등록된 의견이 없습니다.
이메일
비밀번호
캐머런 감독 '아바타 3' 제목은 '불과 재'…새 캐릭터 등장 2024.08.10
(애너하임[미 캘리포니아]=연합뉴스) 임미나 특파원 = 할리우드 대작 '아바타' 시리즈의 제임스 캐머런 감독이 현재 제작 중인 속편의 제목을 공개하고 흥행에 대한..
해리스, 대선 좌우할 '블루장벽' 경합주서 트럼프에 4%p 우위 2024.08.10
(워싱턴=연합뉴스) 김동현 특파원 = 미국 민주당이 대선 승리를 위해 꼭 가져가야 할 3개 경합주에서 카멀라 해리스 부통령이 공화당 대선 후보 도널드 트럼프 전..
오픈AI "대화형 AI, 사용자가 감정적 의존하게 만들 우려" 2024.08.09
(뉴욕=연합뉴스) 이지헌 특파원 = 챗GPT 개발사 오픈AI는 실제 사람과 대화하는 듯한 경험을 제공하는 생성형 인공지능(AI) 서비스가 사용자들을 AI에 감정적..
TSMC, 7월 매출 45% 늘어 10조8천억원…"AI 수요 지속" 2024.08.09
세계 최대 파운드리(반도체 수탁생산) 기업인 대만 TSMC의 지난달 매출액이 강한 인공지능(AI) 칩 수요가 지속되면서 대폭 늘어났다.TSMC는 7월 매출을 작년..
외신,‘98% 재활용’ 한국 음식물쓰레기 처리 조명 2024.08.09
미국 일간 워싱턴포스트(WP)가 매년 쏟아져 나오는 음식물 쓰레기가 전 지구적 환경 문제로 자리 잡은 가운데, 재활용률이 98%에 달하는 한국의 음식물 쓰레기 처..