이더리움 공동 창업자 비탈릭 부테린(Vitalik Buterin)이 인공지능(AI) 개발에 있어 신중한 접근을 촉구하며, AI가 인간을 강화하는 도구로 작용해야 한다고 주장했다.
10일(현지시간) 크립토폴리탄에 따르면 부테린은 최근 자신의 게시물을 통해 AI 개발 방향에 대해 우려를 표명하며, 잘못 설계된 AI 시스템이 인간의 통제를 벗어난 자율적 존재를 만들 수 있다고 경고했다. 그는 AI의 궁극적 목적은 인간의 사고와 창의력을 증강시키는 것이며, 이는 “메카 슈트”처럼 인간의 능력을 강화하는 방식으로 이루어져야 한다고 강조했다.
인간을 위한 AI 개발의 중요성
비탈릭 부테린은 “잘못 설계된 AI는 통제 불가능한 자기복제 지능체를 만들어낼 수 있다”며, 이는 인간의 권한을 영구적으로 약화시킬 위험이 있다고 경고했다. 반면 올바른 AI는 인간의 문명을 한 단계 더 진화시키는 수단이 될 수 있다고 주장했다.
그는 AI 개발이 △인간 사고 증진 △창의력 향상 △효율적인 의사결정 보조로 이어져야 하며, 이러한 시스템은 “고품질 인간 판단”을 모방하고 이를 보다 효율적으로 수행할 수 있어야 한다고 말했다. 이를 통해 인간은 기술의 혜택을 누리면서도 통제권을 유지할 수 있다.
통제되지 않는 AI 시스템의 위험
부테린은 특히 자율적인 AI 시스템의 위험성을 지적하며, 이러한 시스템이 인간의 영향력 없이 독립적으로 작동할 가능성을 경계했다. 그는 실시간 조작이 가능한 동적 AI 시스템이 사용자에게 더 많은 힘을 실어줄 수 있다고 강조하며, 단순히 텍스트-이미지 변환과 같은 수동적 AI 모델과는 차별화된 접근이 필요하다고 설명했다.
또한 그는 AI 도구가 인간의 사용자 경험을 대체하거나 단순화하는 방식에 대해 긍정적 의견을 밝혔다. 예를 들어, 챗봇이 기존 그래픽 사용자 인터페이스(GUI)를 대체하는 것은 사용자 친화적인 기술 발전의 좋은 사례라고 평가했다.
책임 있는 AI 개발의 필요성
결론적으로, 부테린은 AI 개발이 인간을 대체하기보다는 인간의 능력을 확장하고 증강시키는 데 초점을 맞춰야 한다고 주장했다. 그는 “책임 있는 AI 개발이 이루어진다면, 우리는 초지능적이고 번영하는 문명을 구축할 수 있을 것”이라고 말했다.
부테린의 경고는 기술 발전 속에서 인간 중심적인 개발 방향을 설정하는 것이 얼마나 중요한지를 다시 한번 상기시키고 있다.
같이 보면 좋은 기사
