[블록미디어 안드레아 윤 에디터] 인공지능(AI)이 사회에 큰 영향을 미칠 것으로 예상되지만, 실리콘 기반 생명체와 같은 의식 있는 존재로 진화하지는 않을 것이라는 주장이 나왔다고 2일 코인텔레그래프가 보도했다. 이 매체의 보도에 따르면, 폴리곤(Polygon)과 오픈소스 AI 기업 센티언트(Sentient)의 공동 창업자인 산딥 네일왈(Sandeep Nailwal)은 AI가 인간과 같은 의도를 가질 수 없기 때문에 의식 있는 존재가 될 수 없다고 밝혔다.
네일왈은 코인텔레그래프와의 인터뷰에서 “AI가 유의미한 수준의 의식을 가질 것이라고 보지 않는다”고 말했다. 그는 AI가 자아를 인식하고 인류를 지배하는 ‘종말론적 시나리오’는 가능하지 않다고 덧붙였다. 네일왈은 의식이 복잡한 화학적 상호작용이나 과정에서 무작위로 발생한다는 이론에 비판적이었다. 그는 이러한 과정이 복잡한 세포를 만들 수는 있지만, 의식을 창조할 수는 없다고 주장했다.
대신 그는 중앙화된 기관들이 AI를 감시와 개인의 자유 억압에 악용할 가능성을 우려했다. 네일왈은 AI가 투명하고 민주화되어야 한다고 강조하며 “센티언트를 구상하게 된 핵심 아이디어는 국경 없는 세계를 창조할 수 있는 글로벌 AI가 모든 인간에 의해 통제되어야 한다는 것”이라고 말했다.
그는 중앙화된 위협에 대응하기 위해 개인마다 자신만의 맞춤형 AI가 필요하다고 덧붙였다. 이는 강력한 기관들이 배치한 다른 AI로부터 자신을 보호하기 위해 각 개인에게 충성하는 AI가 필요하다는 것이다.
# 분산형 AI, 재앙 방지에 기여할 수 있어
2024년 10월, AI 기업 앤트로픽(Anthropic)은 AI가 인류를 위협할 수 있는 시나리오와 이에 대한 해결책을 담은 보고서를 발표했다. 보고서는 AI가 당장은 인류에 위협이 되지 않지만, 모델이 더 발전함에 따라 미래에는 위험해질 가능성이 있다고 결론지었다.
전직 군사 정보 전문가이자 나오리스(Naoris) 분산형 보안 프로토콜의 최고 전략 책임자인 데이비드 홀츠만(David Holtzman)은 AI가 단기적으로 프라이버시에 큰 위협을 가할 수 있다고 경고했다. 홀츠만은 네일왈과 마찬가지로 중앙화된 기관, 특히 국가가 AI를 감시에 활용할 수 있다고 주장하며, 분산화가 AI 위협에 대한 방어책이라고 강조했다.
같이 보면 좋은 기사
