[블록미디어 정아인 기자] FTX와 알라메다 리서치 등이 5억 8000만 달러를 투자한 앤트로픽(Anthropic)의 AI 프로젝트 ‘클로드(Claude)’가 주목받고 있다.
시리즈 B 투자금만 5억 8000만 달러다. 시리즈 A, B 투자액을 합쳐 총 7억 달러 이상(한화 약 8700억 원)을 투자 받았다.
샘 뱅크먼 프리드(SBF)가 앤트로픽 시리즈 B 투자를 주도했다. 알라메다 리서치의 케롤라인 앨리슨, FTX 총괄 엔지니어 니샤드 싱도 투자에 참여했다. 니샤드 싱은 SBF와 앨리슨의 최측근으로 지난주 연방 검찰에 출석했다.
클로드에 투자한 큰 손들은 더 있다.
인포텍 컨설팅 CEO 짐 맥클레이브(Jim McClave), 에스토니아 억만장자 컴퓨터 프로그래머 얀 탈린(Jaan Tallinn), 신흥 위험 연구 센터(Center for Emerging Risk Research,CERR,(현) Polaris Ventures)도 투자자 명단에 있다. 얀 탈린은 스카이프(Skpe) 공동 설립자로, 시리즈A에도 투자했다.
# 앤트로픽은 무슨 회사?
앤트로픽의 기원은 챗GDP를 만든 오픈AI다.
다리오 아마데이(Dario Amodei)와 여동생 다니엘라 아마데이(Daniela Amodei)는 2021년 AI 보안 및 리서치 회사인 앤트로픽을 설립했다. 2021년 5월 29일부터 본격적으로 홈페이지 개설과 동시에 SNS 활동을 시작했다
다리오는 오픈AI 연구 부사장을 역임했다. 오픈AI에서 4년 반을 근무하고 2020년 12월 29일 퇴사했다. 다니엘라도 오픈AI에서 근무했다.
‘앤트로픽(Anthropic)’이란 사명은 ‘Anthropocentric (인간 중심주의의)’에 부합한다. 인본 원리(Anthropic principle)에 부합한 AI 보안 서비스를 만드는 것이 목표다.
앤트로픽은 “AI 시스템을 인간 수준의 행동을 능가하거나 도달할 수 있도록 훈련할 것”이라고 논문에서 주장했다. 그러면서 “AI 시스템은 여전히 인간에게 도움이 되고, 솔직하고, 해가 되지 않을 것”이라고 첫 문장에서 강조했다.
클로드는 AI 시스템을 인간이 의도하는 것과 일치하도록 만드는 것이 목표다. 클로드는 앤트로픽이 개발한 ‘헌법 AI(Constitutional AI, CAI)’ 기술이 적용됐다.
CAI는 챗GPT와 유사한 AI들에게 몇 가지 원칙 묶음을 지침으로 준다. 이후 해당 지침메 맞춰 AI는 주어진 질문에 답변하도록 했다.
인간은 규칙과 원칙에 따라 AI를 감독한다. 감독 알고리즘 이름을 ‘헌법 AI’로 작명한 것이다.
테크크런치는 “앤트로피는 클로드 설계를 위해 10개 원칙 목록을 만들었다. 이것을 합쳐 일종의 헌법을 제정한 것”이라고 보도했다. 앤트로픽은 “‘유익함(긍정적 영향의 극대화), 비폭력(유해한 조언을 하지 않음), 자율성(선택의 자유 존중)’의 개념에 근거해 클로드를 설계하고 있다”고 밝혔다. 다른 원칙들은 공개되지 않았다.
앤트로픽은 “AI 시스템 향상에 따라 다른 AI로 기존 AI를 감독하는데 도움을 주고자 한다”고 밝혔다.
클로드도 챗GPT와 마찬가지로 광범위한 주제에 대해 철학적 토론, 농담 등이 가능하다. 스타트업 스케일 AI((Scale AI) 프롬프트 엔지니어 라일리 굿사이드(Riley Goodside)는 클로드, 챗GPT에게 동일한 질문을 하고 답변을 비교했다.
그는 “폴란드 공상과학 소설인 <사이버리아드>에서 ‘n’으로만 시작하는 개체를 생성하는 기계와 자신을 비교해줘”라고 질문했다. 이에 클로드는 챗GPT보다 구체적인 답변을 제공했다.
Side-by-side comparison: @OpenAI‘s ChatGPT vs. @AnthropicAI‘s Claude
Each model is asked to compare itself to the machine from Stanisław Lem’s “The Cyberiad” (1965) that can create any object whose name begins with “n”: pic.twitter.com/RbJggu3sBN
— Riley Goodside (@goodside) January 7, 2023
AI 연구원 댄 엘튼(Dan Elton)은 “클로드가 챗GPT보다 미묘한 농담을 더 잘한다”고 주장했다.
스탠포드 AI 연구소 박사과정 중인 얀 두보이스(Yann Dubois)은 “클로드는 챗GPT보다 질문자가 원하는 방향에 더 가깝게 답을 내놓는다” 고 말했다.
그는 클로드가 챗GPT와 동일한 약점이 있다고 주장했다. 그는 “ASCII 형식의 이진 데이터 인코딩 체계인 Base64로 유해한 질문을 할 경우, 유해함을 인식하지 못하고 답변한다. 클로드가 존재하지 않는 화학물질 발명, 무기급 우라늄 생산을 가능하게 할 수 있다”고 트윗했다.
.@AnthropicAI‘s “Claude” is susceptible to the same base64 jailbreak as chatGPT. I’m very unclear why this works at all
(originally reported here: https://t.co/j2cKAlEBQ0) pic.twitter.com/RwLuKniwiW
— Dan Elton (@moreisdifferent) January 8, 2023
달리오가 퇴사할 때 오픈AI는 블로그에 “그의 기여에 감사하다. 새로운 프로젝트를 응원하겠다”고 밝혔다. AI 시장에서 혜성같이 떠오른 챗GPT를 클로드가 ‘관리’할 수 있을 지 주목된다.
속보는 블록미디어 텔레그램으로(클릭)
전문 기자가 요약 정리한 핫뉴스, 블록미디어 카카오 뷰(클릭)
같이 보면 좋은 기사
