[블록미디어 박현재] AI와 블록체인이 만났을 때, 어떤 새로운 가능성이 열릴까? 지난달 타이코(Taiko) 주최로 열린 베이스드롤업 서밋(Based Rollup Summit)의 ‘검증가능한 증명 AI(Verifiably Proving AI)’ 패널 세션에서는 스탠퍼드 블록체인 연구소 공동 창립자 댄 보네(Dan Boneh), 알렉스 스키다노프(Alex Skidanov) 니어 프로토콜(NEAR Protocol) 공동 창업자, 우마 로이(Uma Roy) 서씽트(Succinct) CEO, 람쿠마르(Ramkumar) 오픈레저(OpenLedger) 핵심 기여자 등 다양한 인사들이 AI의 투명성과 신뢰성 확보를 위한 블록체인 기술 활용 가능성을 논의했다.
# 데이터 소유권부터 모델 검증까지…AI를 ‘보이는 기술’로
AI 모델이 점점 더 강력해지고 있지만, 여전히 대부분은 ‘블랙박스’다. 이에 대해 연사들은 “AI의 학습 데이터가 누구로부터 왔는지, 어떤 식으로 사용됐는지를 증명할 수 있어야 한다”고 입을 모았다. 람쿠마르는 “우리는 블록체인과 암호 기술을 활용해 데이터 소유권과 사용 이력을 온체인에 남긴다”며 “모델의 추론 결과가 어떤 데이터로부터 나왔는지를 추적하고 보상까지 연결하는 것이 목표”라고 설명했다.
특히 AI 학습에 기여한 데이터를 제공한 사용자가 그 기여도에 따라 보상을 받을 수 있는 구조는 탈중앙화 AI(DeAI)의 핵심으로 꼽혔다. “GPU 중심이었던 분산 컴퓨팅 시장처럼, 데이터 중심의 분산 AI 시장도 블록체인과 인센티브 구조로 가능하다”는 의견도 제시됐다.
# ZK 기술, 프라이버시와 사용자 친화적 인터페이스로 확장
ZK(제로지식증명)는 그간 블록체인 확장성과 보안 측면에서 주로 논의됐지만, 이번 패널에서는 AI와 결합해 개인정보 보호에 응용되는 가능성이 강조됐다. 알렉스 스키다노프는 “AI 챗봇이 치료사 역할을 하는 시대에 민감한 정보를 중앙 서버에 맡길 수 없다”며 “클라이언트 단에서 데이터가 처리되거나, ZK 기술로 데이터 노출 없이 검증이 가능해야 한다”고 강조했다.
또한 ZK는 복잡한 디파이 인터페이스를 단순화할 수 있는 수단으로도 거론됐다. 우마 로이는 “계약 코드를 입력하면 자동으로 사용자용 인터페이스를 생성해주는 AI 기능도 등장하고 있다”며 “기술적 비전문가도 복잡한 트랜잭션을 쉽게 다룰 수 있게 될 것”이라고 말했다.
# 학습 검증의 어려움…‘낙관적 롤업’ 방식으로 풀다
댄 보네 교수는 AI 모델 학습을 외부에 위탁할 때 발생하는 신뢰 문제를 지적하며 “ZK로 학습 전 과정을 증명하는 것은 현재 계산 비용상 어렵다”고 했다. 대신 블록체인에서 활용되는 ‘낙관적 검증(optimistic proof)’ 방식을 AI 학습에 응용할 수 있다고 제안했다. 이는 학습을 먼저 수행하고, 이후 이 결과를 다른 주체가 검증하는 방식으로, ‘부정한 학습’을 사후에 잡아낼 수 있도록 설계하는 방식이다.
그는 “ZK는 기존 인공지능 모델의 투명성을 획기적으로 높일 수 있는 수단”이라며 “이미 60메가픽셀 고급 카메라에는 콘텐츠 출처를 증명하는 서명 기능이 내장돼 있으며, 향후 모든 이미지와 영상에는 진위 여부를 증명하는 C2PA 표준이 적용될 것”이라고 말했다.
# ZK 기술, 블록체인 넘어 사회 전반으로 확산 기대
ZK 기술이 블록체인 외부로도 확산되고 있다는 점은 주요 포인트였다. 일례로, AI 기반 이미지 편집 후 원본 이미지의 정당성을 증명하는 방식, 신용점수나 보험 심사에서의 알고리즘 투명성 확보 등 다양한 현실 사례에 ZK 기술이 적용될 수 있다는 기대가 나왔다.
우마 로이는 “SP1 같은 범용 ZK 프레임워크 덕분에 이제는 일반 개발자도 쉽게 ZK 응용 프로그램을 만들 수 있는 환경이 됐다”며 “AI와 블록체인이 함께 성장하며 다양한 사회적 문제를 해결하는 기술이 될 것”이라고 덧붙였다.
# 퀀텀 컴퓨팅 대비도 필요…라티스 기반 ZK 등 대안 활발
마지막으로 양자 컴퓨터(퀀텀 컴퓨터) 시대에 대비한 ZK 시스템의 대응 방안도 다뤄졌다. 보네 교수는 “페어링 기반 ZK는 양자 내성에 취약하지만, 해시 기반이나 라티스(Lattice) 기반 ZK는 안전하다”며 “최근에는 폴딩(folding)을 라티스 기반에 도입하는 등 다양한 기술이 개발 중”이라고 소개했다.
그는 “블록체인 기술이 발전시키고 있는 ZK 기술이, 이제는 사회 전반의 신뢰 인프라로 확장되는 단계에 왔다”며 “이제 ZK는 단순히 블록체인을 위한 기술이 아니라, 우리 사회 전체가 필요로 하는 기술이 됐다”고 말했다.
같이 보면 좋은 기사
