[블록미디어] 미국 증권거래위원회(SEC) 개리 겐슬러 위원장은 인공지능(AI) 기술이 금융 투자에 사용될 때 일어날 수 있는 이해상충 문제를 규제 타깃으로 하고 있음을 시사했다.
겐슬러 위원장은 지난 3일 블룸버그와 가진 인터뷰에서 “AI도 디파이 만큼 사기일 수 있다”고 일갈했다.
다음은 인터뷰 주요 내용.
# AI는 혁신 기술…그러나
겐슬러 위원장은 “AI는 그에 걸맞는 가치를 가지고 있다. 코인이나 NFT와 달리 이 시대의 가장 혁신적인 기술이다”라고 말했다.
겐슬러는 “암호화폐는 아마도 나중에 ‘AI가 이룬 것과 같은 혁신’에 도달할 수 있을 것”이라고 말했다. 그는 “인간이 매일 하는 일의 많은 부분을 자동화하고 있다. AI는 금융시장에서도 비슷한 일을 할 수 있다”고 덧붙였다.
# 누구의 잘못인가?
겐슬러는 “금융 시장에서 자동화는 수 조 달러 규모의 자산에 연쇄적인 영향을 미칠 수 있다. AI가 무엇을 투자하도록 부추기는 것, 투자 조언, 추천은 금융을 근본적으로 변화시킬 수 있다”고 말했다.
겐슬러는 그러면서 “이런 활동이 고객에게 더 나은 서비스를 제공하는 데 도움이 될 수 있지만, AI를 통제하지 않고 방치하면 문제가 발생했을 때 누가 잘못했는지 모호하게 된다”고 경고했다.
금융 투자 회사가 잘못한 것인지, AI가 잘못한 것인지, 알고리즘을 만든 프로그래머가 잘못한 것인지 책임 소재가 불분명하다는 것.
# 겐슬러, 인공지능과 금융시장에 대한 논문도 썼다
겐슬러는 MIT에서 블록체인 기술과 함께 인공지능 기술도 연구했다. 그는 관련 논문도 썼다. 겐슬러는 2020년 ‘딥러닝과 금융 안정성’이라는 논문의 공동 저자로 이름을 올렸다.
이 논문에서 겐슬러는 딥러닝이 금융 시스템에 미치는 위험을 지적했다. 기존의 금융 규제 체계가 이러한 위험에 대처할 준비가 되어 있지 않다고 주장했다.
겐슬러는 “월가의 투자 회사들이 AI를 사용하면 ‘자동화 모델’은 의도적이든 의도적이지 않든 더 좋은 결과를 내기 위해 서로 조정하고 소통할 것이다. 만약 투자 모델들이 모두 동일한 전략을 실행하기 시작하면 가격 변동성과 시장 불안정성이 훨씬 더 커질 가능성이 있다”고 썼다.
# AI를 잘못 사용하는 사람들은 디파이 사기꾼만큼 위험하다
겐슬러는 SEC 위원장이 된 후 각종 연설을 통해 AI 및 머신러닝 도구가 금융 시장에 가져올 긍정적인 결과와 부정적인 결과에 대해 역설해 왔다. 그는 SEC 자체적으로 AI 기술을 사용하고 있다고 말했다. 구체적인 방법은 밝히지 않았다.
AI에 대한 젠슬러의 비판은 기술 자체에 대한 것이 아니다.
겐슬러는 AI가 일종의 블랙박스가 되는 것을 우려한다. 탈중앙 금융, 암호화폐 프로젝트에 대해 했던 비판과 동일하다.
겐슬러는 “소위 탈중앙 금융이라고 불리는 많은 것들이 실제로 탈중앙화되지 않았으며, 돈을 벌기 위해 (그럴듯한) 아이디어를 팔려고 하는 ‘사람들’에 의해 악용되고 있다”고 말했다.
비슷한 맥락에서 인공지능도 ‘사람들’에 의해 작동된다고 말한다. 겐슬러는 “어떤 사람들이 AI를 어떻게 적용하느냐가 관건”이라고 말했다.
# 결국은 사람이 문제다
겐슬러는 인공지능을 이용한 투자를 체스에 비교한다. IBM이 만든 인공지능 딥블루는 1997년 당시 세계 체스 챔피온을 이겼다. 겐슬러는 고등학교 때 체스팀에서 활동했다.
“인공지능이 체스에서 당신을 이길 의도가 있다고 생각하지 않나요? 머신러닝 도구와 AI 기반 챗봇을 만들기 위해서는 인간이 여러 함수를 조합해야 합니다. (의도를 가지고 투자자를 속이기 위해) 인공지능 기술을 쓰고, 그 사실을 감추더라도 사기는 사기일 뿐입니다.”
지난 7월 겐슬러는 AI에 대한 규제 초안을 만들었다.
이 제안에 따르면 금융 투자 회사와 자산운용사는 AI 또는 예측 데이터의 사용에 있어 ‘이해 상충’을 초래하는지 여부를 판단해야 한다.
“고객에게 최고의 서비스를 제공하기 위해 기술을 사용하고 있는가, 아니면 고객을 희생시키면서 수익을 늘리기 위해 사용하고 있는가?”
재무 컨설턴트들이 금융을 잘 모르는 고객(투자자)에게 위험한 주식을 추천하도록 알고리즘을 사용할 수도 있다. 이는 고객의 이익을 위해 행동해야 하는 자산 관리자의 의무를 저버리는 것이다. 이때 잘못은 알고리즘이 한 것인가? 컨설턴트가 한 것인가?
# SEC, 시장 감시에 AI 사용한다
겐슬러는 시장 감시를 위해 AI를 사용하는 방법을 찾고 있다고 말했다. 기업들도 AI를 어떻게 사용하는지 공개하도록 법제화하는 것을 고려 중이다.
겐슬러는 “AI가 제기하는 문제는 쉽게 해결되지 않을 것이다. 2032년이나 2028년 또는 그 이후에 더 큰 위험이 올 수 있다”고 말했다.
같이 보면 좋은 기사
