【서울=뉴시스】송혜리 기자 = ‘제2의 알파고 쇼크’로 불리는 ‘챗GPT’가 미래 일자리·교육·사회를 바꿀 지각개편의 핵(核)으로 주목을 받고 있는 가운데, 사이버 범죄자들이 챗GPT를 악성코드와 다크웹 플랫폼 제작 등에 악용하고 있다.
4일 이스라엘 보안업체인 체크포인트와 보안 전문가들은 사이버 공격자들이 챗GPT를 사용해 해킹도구를 개발하고 있다고 경고했다.
챗GPT는 미국 오픈AI가 개발한 대화형 인공지능(AI) 채팅로봇. 대규모 AI모델인 ‘GPT-3.5’ 언어 기술을 사용해 이용자와 실시간으로 대화가 가능하다. 특히 일반적인 정보성 답변에 머물지 않고 인간 심리를 관통하는 답변은 물론 논문 색인이나 논문 제작까지 가능하다는 점에서 미래 사회를 바꿀 새로운 혁명을 예고한다. 지난해 12월 1일 테스트 버전이 공개 5일만에 전세계 100만명이 사용해 화제가 됐다.
◆사이버범죄 진입장벽 낮추는 챗GPT…누구나 손쉽게 악성코드 제작
체크포인트가 홈페이지에 공개한 보고서에 따르면, 최근 사이버 범죄 커뮤니티를 중심으로 해커들은 챗GPT 활용법에 이미 상당한 관심을 보이고 있으며, 악성코드 제작에 실제 챗GPT를 활용하기 시작했다.
체크포인트가 관찰한 이들의 악용사례를 보면 크게 세가지로 나뉜다. 기업정보를 훔치는 악성 코드를 제작하거나 랜섬웨어 공격에 필요한 데이터 암호화·복호화 도구를 만들거나, 새로운 다크웹 플랫폼을 만들 수 있는 코드 생성법을 공유한다는 것이다.
체크포인트는 앞으로 챗GPT 언어모델이 보다 정교해지면, 사이버 범죄자들이 간단한 명령어만으로 악성코드나 피싱메일 프로그램을 보다 쉽게 개발할 수 있을 것으로 봤다. 코딩 실력이 별로 없는 초보 해커들조자도 악성 해킹 도구를 쉽게 제작할 수 있을 것이라는 예측이다.
체크포인트 측은 “숙련되지 않은 초보 해커들이 손쉽게 피싱 범죄에 가담하는 등 사이버 범죄 지하 세계의 진입 장벽이 대폭 낮아질 것”이라고 우려했다.
이에 앞서 지난해 12월 브렌든 돌란 개빗 뉴욕대 컴퓨터 과학·공학과 조교수는 자신의 SNS에 “챗GPT가 자신이 제시한 코드에 취약점이 포함돼 있음을 찾아내고, 이 결함을 악용하는 코드를 작성했다”고 고백했다.
◆AI 기술 양날의 검…”코드 품질 알 수 없어” 신중론도
AI 기술도 양날의 검이다. 의료·과학 등에 이용될 경우 인류사회 혁신을 가속화할 수 있지만 기술이 악용될 경우 그 파장이 만만치 않다.
챗GPT 언어 및 검색 기술이 고도활 경우, 악성코드를 만들거나 피싱 메일을 만드는 수준을 넘어 시스템 취약점을 찾아내고 이를 악용한 제로데이 공격(알려지지 않은 취약점을 이용한 사이버 공격)까지 유발하는 단계로 진화될 수 있다고 보안 전문가들은 경고한다.
보안 업계에선 “‘챗GPT를 이용한 다양한 시도가 포착됐을 뿐, 실제 위협이 될 지는 지켜봐야 한다”며 신중론도 나온다.
한 보안 전문가는 “현재 해외에서 보고되는 내용으로는 실제 사이버범죄에 사용될 수 있거나 위협적인 코드를 생성했다고 판단하기는 섣부른 단계”라며 “코드 품질에 대해 알 수 없는 상황”이라고 지적했다.
◎공감언론 뉴시스 chewoo@newsis.com
속보는 블록미디어 텔레그램으로(클릭)
전문 기자가 요약 정리한 핫뉴스, 블록미디어 카카오 뷰(클릭)
같이 보면 좋은 기사
