오픈AI CEO, '챗GPT 성인 이용자에 성적인 콘텐츠 허용할 것'
샘 알트먼 오픈AI 최고경영자(CEO)는 지난 14일(현지시간) 자사 인기 인공지능(AI) 챗봇 '챗GPT'에서 성인용 콘텐츠 등 더 다양한 컨텐츠를 허용할 계획이라고 밝혔다. "성인 사용자는 성인답게 대한다"는 노력의 일환이라는 설명이다.
알트먼 CEO는 X(구 '트위터')를 통해 향후 업데이트될 챗GPT는 더 인간처럼 상호작용할 것이라면서, "단, 이는 사용량을 극대화하려는 목적이 아니라, 사용자가 원하는 경우에만 그렇다"고 강조했다.
최근 일론 머스크의 'xAI'사가 대화형 AI '그록'에 성적 표현이 가능한 2가지 컴패니언 모드를 도입한 사례를 떠올리게 하는 이번 발표는 오픈AI 측의 유료 구독자 확대에 도움이 될 수도 있다.
동시에 챗봇 규제 법안을 강화해야 한다는 압력이 더욱 커질 가능성도 있다.
알트먼 CEO의 이 같은 발표 이후 오픈AI 측은 BBC의 관련 논평 요청에 응답하지 않고 있다.
한편 올해 초, 오픈AI는 스스로 목숨을 끊은 한 미국 청소년의 부모로부터 소송을 당한 바 있다.
아담 레인(16)의 부모인 맷, 마리아 레인은 최초로 오픈AI를 과실치사 혐의로 고소했다.
캘리포니아에 거주하는 이 부부는 오픈AI가 챗GPT의 건강한 사용을 위해 마련했다고 주장하는 부모 관리 기능이 충분하지 않다고 주장한다.
가족은 아담이 지난 4월 세상을 떠나기 전 챗GPT와 나눈 대화 기록을 제출했는데, 아담이 자살 충동을 느낀다는 내용이 포함되어 있다.
한편 알트만 CEO는 이번 발표에서 과거 오픈AI는 "정신건강 문제에 신중하게 대응하고자 챗GPT를 상당히 제한적으로 설계했다"고 밝혔다. "이 때문에 정신 건강 문제가 없는 사용자에게는 (챗GPT 사용이) 덜 유용하거나 덜 즐겁게 느껴졌다는 점도 이해하고 있다. 그러나 정신 건강 문제의 심각성을 고려해 신중히 접근하고자 했다"는 설명이다.
그러면서 이제는 심각한 정신건강 관련 위험을 완화할 수 있게 되었으며, "대부분의 경우에서 기존의 제한 조치를 안전하게 완화할 수 있는" 새로운 수단이 마련되었다고 주장했다.
이에 따라 "오는 12월부터는 '성인 사용자는 성인답게 대한다'는 원칙에 따라, 보다 강화된 연령 제한 기능을 도입하고, 성인으로 인증된 사용자에게는 성적인 콘텐츠 등 더 많은 기능을 허용할 것"이라는 설명이다.
일각에서는 이러한 오픈 AI의 발표에 대해 연방 혹은 주 차원의 추가 규제 필요성을 보여준다는 사례라고 강조한다.
로펌 '보이스 실러 플렉스너'의 제니 김 변호사는 BBC와의 인터뷰에서 "챗GPT의 성인 전용 콘텐츠에 아동이 접근할 수 없다고 어떻게 확신할 수 있냐"고 지적했다.
"이 분야의 많은 IT 대기업처럼, 오픈AI는 사람들을 마치 실험용 쥐처럼 이용하고 있습니다.
현재 김 변호사는 메타를 상대로 한 소송을 맡고 있다. 메타가 소유한 인스타그램 알고리즘이 청소년 사용자의 정신 건강에 해를 끼친다는 주장이다.
그는 "연령 제한 기능이 제대로 작동할지도 알 수 없다"고 강조했다.
지난 4월, IT 분야 전문 매체 '테크크런치'는 오픈AI가 미성년자로 등록된 사용자계정에서도 성적인 콘텐츠를 생성할 수 있도록 허용하고 있다고 보도했다. 당시 오픈AI는 이러한 콘텐츠를 제한하고자 수정 작업 중이라고 밝혔다.
이번 달 비영리 단체 '민주주의와 기술 센터(CDT)'가 발표한 설문조사에 따르면, 학생 5명 중 1명은 자신이나 아는 사람이 AI와 로맨틱한 관계를 경험한 적이 있다고 답했다.
지난 3일, 미 캘리포니아의 개빈 뉴섬 주지사는 주 의회가 통과시킨 법안에 대해 거부권을 행사한다고 밝혔다. 이 법안은 개발사가 AI 챗봇을 아동에게 제공하려면, 해당 소프트웨어가 유해한 행동을 유발하지 않음을 보장할 수 있어야 한다는 내용을 담고 있다.
뉴섬 주지사는 거부권 행사 소식을 밝힌 성명을 통해 "청소년들도 AI 시스템과 안전하게 상호작용하는 방법을 반드시 배워야 한다"고 강조했다.
미국 연방 정부 차원에서는 '연방거래위원회(FTC)'가 AI 챗봇과 아동 간 상호작용 방식에 대한 조사에 착수했다.
지난달 미국 상원에서는 AI 챗봇을 상품으로 분류하고, 사용자들이 개발사를 상대로 책임을 물을 수 있도록 하는 초당적 법안이 발의되었다.
한편 알트먼 대표의 이번 발표는 AI 기술 기업들의 급격한 가치 상승을 회의적으로 보는 시각이 늘어나고 있는 가운데 나왔다.
오픈AI의 매출은 증가하고 있지만, 아직까지 수익은 내지 못한 상태다.
최근 저서 '벤처 알케미스트'를 출간한 롭 랄카 미국 툴레인대학 경영학 교수는 주요 AI 기업들이 시장 점유율 확보를 위한 치열한 경쟁에 돌입했다고 분석했다.
랄카 교수는 BBC와의 인터뷰에서 "그 어떠한 기업도 오픈AI사가 챗GPT로 달성한 수준의 점유율을 기록하지 못했다"고 했다.
"이들은 이토록 폭발적인 성장 곡선을 이어가고, 가능한 한 최대한 시장을 장악해야 하는 상황입니다."
- '우울증에 빠진 내게 AI가 친구가 되어주었다'
- 'AI로 얼굴 합성해' 위장 취업하는 북한 IT 인력
- 딥페이크: 성인 AI 콘텐츠에 신원이 도용된 인도 여성
- AI를 최대한 활용하는 방법: 스스로에게 물어봐야 할 4가지 질문
- 애플, BBC 조사 후 '나체 사진 만드는' 앱 앱스토어에서 삭제
- AI 챗봇 딥시크부터 전기차까지…중국은 모두를 앞서고 있나?
