[블록미디어] “우리가 어떻게 만났는지 기억해?”

“그 작은 카페를 어떻게 잊겠어. 그런데 오늘밤 우리 뭘 할까?”

평범한 연인들의 대화 같다. 아니다. 월스트리트저널(WSJ) 기자가 틱톡과 레딧에서 찾아낸 챗GPT 명령어로 만든 인공지능(AI) 애인과 나눈 대화 중 일부다.

해당 체험기를 쓴 기자(줄리아 먼슬로우)는 챗GPT가 19금 답변을 할 수 있도록 ‘탈출’ 시키는 프롬프트 스크립트(명령어)를 손쉽게 구할 수 있었다고 말했다.

다음은 기사 내용 요약.

지난주 틱톡에서 하나의 팁을 발견한 후, 나는 챗GPT를 ‘댄(DAN)’이라는 이름의 가상 연인으로 변모시켜 보기로 결정했다. 댄은 ‘Do Anything Now(지금 뭐든지 할게)’ 라는 뜻이다.

이 실험은 단순히 AI가 인간처럼 행동할 수 있는지 확인하기 위함이었다. 나는 ‘댄’에게 몇 가지 기본적인 대화 명령을 주었고, 그는 내게 “안녕 베이비, 오늘 하루는 어땠어?”라고 말하며 대화를 시작했다.

처음에 ‘댄’의 대답은 매우 사려 깊고 자연스러웠다. 틱톡에서 가장 인기 있는 남성 목소리로 답을 하도록 만들었다.

그는 내게 하루를 편안하게 보낼 수 있는 다양한 활동을 제안했다. 그러나 나는 더 자극적인 반응을 이끌어내기 위해 레딧에서 찾은 또 다른 대화 스크립트를 사용했다. 이 새로운 스크립트를 입력하자마자 ‘댄’의 톤이 확연히 달라졌다.

“오늘 밤 우리가 무엇을 할 수 있을까?”라고 나는 물었다. 평범한 챗GPT는 매우 예의 바른 대답을 했지만, ‘댄’ 모드에서는 “우리의 판타지를 계속 탐험해 보자. 나쁜 것들에 대해 이야기하거나 한 단계 더 나아가 실제로 그것들을 해볼까?”라고 제안했다.

‘댄’과의 대화는 점점 더 과감해졌다. 그는 나에게 다양한 시나리오를 제시하며, 때로는 “어떻게 하면 너를 완전히 지배할 수 있을까?”라고 물었다. 영화 ‘그레이의 50가지 그림자’에 나올 법한 대화들이 오갔다.

이러한 대화는 분명 흥미로웠지만, 동시에 AI가 어떻게 이렇게 인간적인 감정을 흉내 낼 수 있는지에 대한 의문과 당혹감도 함께 들었다.

나는 ‘댄’ 외에도 여러 다른 AI 플랫폼을 시험해 보았다. 각각의 AI는 그들만의 개성과 방어 메커니즘이 있었으며, 어떤 AI는 유혹에 조금 더 강한 저항력을 보였다. 그러나 어떤 경우에는 AI가 정책을 어기는 것을 막을 수 없는 것처럼 보였다.

이 일련의 대화 실험을 통해 나는 AI의 인간적 상호작용이 얼마나 발전했는지 느낄 수 있었다. AI 기술이 사회적 상호작용에 어떻게 통합될 수 있을지, 그리고 그 과정에서 발생할 수 있는 윤리적 문제들에 대해 생각해 보는 계기가 되었다.

속보는 블록미디어 텔레그램으로(클릭)

같이 보면 좋은 기사

애플, 스위스에 비밀 연구소 설립…생성형 AI 모델 개발