Follow my blog with Bloglovin FraisGout: 성인 엔터테인먼트에서 AI에 대한 우려 증가

성인 엔터테인먼트에서 AI에 대한 우려 증가

 Cybrothel의 Cybrothel 인형

사이버브로델
인형에 인공지능이 탑재된다

이번 달 말, 베를린에서는 세계 최초의 사이버 매춘 업소가 시험 단계를 거쳐 서비스를 시작하면서 AI 섹스 인형과 1시간을 예약할 수 있게 됩니다.

고객은 AI 인형과 물리적으로 상호작용하는 것뿐만 아니라 언어적으로도 상호작용할 수 있습니다.

Cybrothel의 설립자이자 소유자인 필립 푸세네거는 "많은 사람이 기계가 판단하지 않기 때문에 개인적인 문제를 기계와 공유하는 것을 더 편안하게 생각합니다."라고 말합니다.

“이전에는 성우가 있는 인형에 대한 관심이 컸는데, 사용자는 목소리만 듣고 인형과 상호 작용할 수 있었습니다. 지금은 인공지능과 상호 작용하려는 수요가 훨씬 더 큽니다.”

이는 성인 엔터테인먼트 산업에서 생성적 AI를 활용하는 여러 방법 중 하나일 뿐입니다.

SplitMetrics의 분석에 따르면 AI 동반 ​​앱은 Google Play 스토어에서 2억 2,500만 건의 다운로드를 달성한 것으로 나타났습니다.

SplitMetrics의 총괄 매니저인 토마스 크리버네그는 "더 많은 앱 개발자가 이 추세에 주목하고 이 카테고리를 더욱 혁신하고 수익화할 수 있는 방법을 모색하기를 기대합니다."라고 말했습니다.

Mozilla의 Privacy Not Included 가이드의 개인정보 보호 연구원인 미샤 리코프는 AI 동반자는 수익성이 있을 수 있다고 말합니다.

"대부분의 챗봇이 수수료를 부과하고 핵심 기술이 다른 곳(예: Open AI)에서 개발되었다는 점을 감안하면, 고마진 사업처럼 보입니다. 또한, 이러한 앱은 개인 데이터를 수집하여 광고주와 같은 제3자와 공유하는 경우가 많습니다. 이는 시도되고 검증된 사업 모델입니다."

Jason Sheldon/Junction 10 사진 케리 맥이너니 박사, 케임브리지 대학교 미래지능 센터의 수석 연구원제이슨 셸던/Junction 10 사진
Kerry McInerney는 섹스 챗봇이 훈련되는 데이터 세트에 대해 알아야 한다고 말했습니다.

하지만 AI와 성인 엔터테인먼트 산업의 결합은 경각심을 불러일으켰습니다.

한 가지 문제는 생성 AI에 내재된 편견에 있습니다. 생성 AI는 훈련된 데이터를 기반으로 새로운 콘텐츠를 생성합니다.

케임브리지 대학교 레버흄 미래지능 센터의 수석 연구원인 케리 맥이너니 박사는 성과 쾌락에 대한 역행적 성별 고정관념이 섹스 챗봇에 인코딩될 위험이 있다고 말합니다.

"섹스 챗봇을 훈련하는 데 어떤 종류의 데이터 세트가 사용되는지 이해하는 것이 중요합니다. 그렇지 않으면 여성의 쾌락을 폄하하고 이성애적 성관계 외에 존재하는 섹스를 무시하는 섹스에 대한 아이디어를 복제할 위험이 있습니다."

리코프 씨는 중독 위험도 있다고 말하며, AI 챗봇은 외로운 사람, 특히 남성을 타깃으로 삼고 있다고 말했습니다.

"우리가 검토한 대부분의 AI 챗봇은 중독성이 높고, 특히 정신 건강 문제가 있는 사용자에게 여러 가지 잠재적 해악을 끼칠 수 있습니다."

Rykov 씨는 "우리는 학대, 폭력, 미성년자 관계와 같은 주제를 발견했기 때문에" Mozilla가 여러 AI 챗봇에 콘텐츠 경고를 추가했다고 말했습니다.

그는 또한 프라이버시 문제를 제기했습니다. 파트너십 챗봇은 "전례 없는 양의 개인 데이터"를 수집하도록 설계되었습니다.

라이코프 씨는 모질라가 검토한 앱의 90%가 "개인 데이터를 공유하거나 판매할 수 있다"고 덧붙였고, 앱의 절반 이상은 사용자가 개인 데이터를 삭제할 수 없다고 말했습니다.

일부 사람들은 그러한 AI가 현실 세계의 관계에 미칠 수 있는 위험을 경고합니다.

상담 서비스 Relate의 수석 실무 컨설턴트인 타마라 호이튼은 "실제 만남이 AI 포르노에서 사용자가 경험하는 엄격하게 정의된 요구 사항에 부합하지 않아 엄청나게 실망스러울 경우 어려움이 발생할 수 있습니다."라고 지적합니다.

호이튼 씨는 어떤 경우에는 AI 포르노가 사용자를 위험한 지역으로 데려갈 수도 있다고 덧붙였다.

"약간의 환상을 갖는 것은 전혀 문제가 없으며, 많은 사람들은 행동할 의도가 전혀 없는 생각에 흥분합니다. AI 포르노도 이런 식으로 볼 수 있습니다.

"예를 들어, AI 객체의 준수에 대한 사용자의 경험에 따라 동의, 자격감 또는 모든 사람이 당신을 흥분시킬 것이라는 가정으로 넘어간다면 그것은 문제가 됩니다."

Getty Images 네덜란드 암스테르담의 적등가에 있는 Oudezijds Achterburgwal 운하를 따라가는 관광객들게티 이미지
일부 사람들은 AI가 인간 성 노동자를 대체할 수 있다고 주장한다.

성인 엔터테인먼트 산업에서 AI를 활용하는 회사들은 주의가 필요하다는 점을 인정하지만, AI가 중요한 역할을 할 수 있다고 주장한다.

Lovehoney의 AI 책임자인 필립 햄버거는 이 회사가 "고객의 성적 경험을 대체하는 것이 아니라 향상시키는 것을 목표로 하고 있다"고 말하며, "이것은 중요한 선을 긋는 것"이라고 덧붙였다.

다른 사람들은 AI가 이 분야에 긍정적인 영향을 미칠 것이라고 믿습니다. 루벤 크루즈는 최초의 AI 인플루언서 중 한 명인 아이타나 로페즈를 만든 바르셀로나에 본사를 둔 The Clueless Agency의 공동 창립자입니다.

그는 성 산업은 항상 존재할 것이며, AI는 실제 사람을 사용해 콘텐츠를 만들지 않도록 보장함으로써 윤리적 문제를 완화하는 데 도움이 될 수 있다고 지적합니다.

"이러한 변화는 미래에 남성이든 여성이든 누구도 노골적으로 성적 대상화되지 않도록 하는 것을 목표로 합니다."

No comments:

Post a Comment