금융사 소스코드를 AI가 검사한다…보안과 책임의 경계
-금융위, 제2차 망분리 규제 긴급완화 추진
-신청대상 49개사에서 75개사로 확대
-수백만~수천만줄 코드 수시간 분석…최종 판단 책임은 여전히 사람에게
금융회사 내부의 방대한 소스코드를 인공지능이 분석해 보안 취약점을 찾아내는 실험이 확대된다. 금융위원회는 9월 3일 제2차 망분리 규제 긴급완화 조치를 확정하고, 참여 가능 기관을 기존 49개사에서 75개사로 늘리기로 했다. 선정 규모도 10개사에서 최대 15개사로 확대된다. 신청은 9월 14일까지다.
이번 조치의 핵심은 금융권 보안업무에 외부 프런티어 AI와 보안 SaaS를 활용할 수 있도록 제한적으로 망분리 규제를 완화하는 데 있다. 금융위는 1차 테스트에서 프런티어 AI가 수백만~수천만 라인의 소스코드를 수시간 안에 분석하고 기존 취약점을 광범위하게 탐색하는 능력을 확인했다고 밝혔다.
왜 금융권은 소스코드를 AI에 맡기려 하나
금융회사의 핵심 시스템은 규모가 크고 복잡하다. 은행과 카드, 증권, 보험 시스템은 오랜 기간 기능이 추가되고 수정되면서 수많은 프로그램과 라이브러리가 결합된다.
이 과정에서 보안 취약점을 사람이 일일이 찾는 데는 상당한 시간과 인력이 필요하다. 특히 수백만줄 이상의 코드를 분석해야 하는 대형 금융회사에서는 전문 보안인력만으로 모든 취약점을 지속적으로 점검하기 어렵다.
AI는 이 지점에서 강점을 갖는다. 금융위가 진행 중인 1차 테스트에서는 프런티어 AI가 수백만에서 수천만 라인에 달하는 소스코드를 수시간 내 분석할 수 있는 것으로 나타났다. 기존 취약점을 넓은 범위에서 일관되게 탐색하는 데도 강점을 보였다고 금융위는 설명했다.
AI가 보안 전문가를 완전히 대체한다는 의미는 아니다. 사람이 먼저 확인하기 어려운 영역을 빠르게 좁혀주는 탐색 도구로 활용될 가능성이 커졌다는 의미에 가깝다.
1차 49곳에서 2차 75곳으로 확대
금융위는 지난 6월 1차 테스트를 시작했다. 당시 신청 대상은 총자산 10조원 이상이면서 상시 종업원 수 1000명 이상인 대형 금융회사 중심이었다. 대상 기관은 49개사였고 실제 선정 기관은 10개사였다.
2차 테스트에서는 문턱이 크게 낮아진다. 금융회사의 경우 총자산 2조원 이상, 상시 종업원 수 300명 이상이면 신청할 수 있다. 다만 정보보호 책임성과 독립성을 확보하기 위해 정보보호최고책임자, CISO가 다른 정보기술 부문 업무를 겸직하지 않는 회사로 한정된다. 이 기준을 충족하는 금융회사는 59개사다.
전자금융업자도 새로 포함된다. 연간 전자금융거래 금액이 2조원 이상이고, 전자금융업 관련 매출액이 전체 매출액의 10%를 넘으며, CISO가 다른 IT 업무를 겸직하지 않는 회사가 대상이다. 해당 기준을 충족하는 전자금융업자는 16개사다.
이를 합치면 신청 가능 기관은 75개사다. 최종적으로는 최대 15개사를 선정할 예정이다.
AI가 외부에서 코드를 본다는 점이 가장 큰 쟁점
금융권에서 AI 보안검증을 확대하려면 가장 먼저 해결해야 할 문제가 데이터 외부전송이다.
금융회사 소스코드에는 시스템 구조와 업무 로직, 인증방식, 데이터 처리 흐름 등 민감한 정보가 포함될 수 있다. 이 정보가 외부 AI 서비스로 전송될 경우 유출 위험이나 제3자 접근 가능성이 발생할 수 있다.
금융권이 지금까지 강한 망분리 규제를 적용해 온 이유도 이와 관련이 있다. 외부 인터넷과 내부 업무망 사이의 접점을 줄여 침해 가능성을 낮추기 위한 규제였다.
이번 조치는 이 원칙을 전면적으로 없애는 것이 아니다. 선정 기관이 보안목적으로 AI와 SaaS를 사용할 수 있도록 제한적으로 허용하되, 기존 망분리를 대신할 통제수단을 마련하도록 하는 방식이다. 금융위도 데이터 유출과 외부 침해 위험을 줄이기 위한 대체 통제수단을 필수조건으로 제시했다.
망분리를 풀었다면 대체 통제는 더 강해야 한다
규제를 완화하면 위험이 사라지는 것이 아니라 관리 방식이 바뀐다.
기존 망분리는 외부 접속 자체를 차단하는 구조였다. 반면 AI 보안검증을 위해 외부 연결을 허용하면 접근권한과 데이터 범위, 전송경로, 로그관리 등을 더 세밀하게 통제해야 한다.
예를 들어 전체 소스코드를 그대로 외부로 보내기보다 필요한 범위만 분리해 분석하는 방식이 필요할 수 있다. 민감정보 제거와 코드 비식별화, 접근권한 통제, 전송구간 암호화, 분석 이후 데이터 보존기간 관리도 중요한 요소가 된다.
어떤 데이터를 어떤 AI 서비스에 전송했는지 사후 확인할 수 있는 로그도 남겨야 한다.
즉 물리적 차단 중심의 보안에서 세밀한 접근통제와 추적관리 중심으로 보안체계가 전환되는 셈이다.
AI가 취약점을 찾았다고 곧바로 수정할 수는 없다
AI 보안검증의 또 다른 문제는 결과의 정확성이다.
AI가 특정 코드를 취약점으로 판단했다고 해서 실제 보안상 위험이 존재한다고 단정할 수는 없다. 반대로 위험한 코드를 놓칠 가능성도 있다.
금융위가 발표한 1차 중간점검 결과에서도 AI가 광범위한 취약점을 신속하게 찾아내는 가능성은 확인됐지만, AI 판단을 사람의 최종 검증 없이 적용할 수 있다고 결론내리지는 않았다.
특히 금융 시스템은 한 부분의 코드를 수정하면 다른 서비스에 영향을 줄 수 있다. 보안 취약점을 제거하기 위해 수정한 코드가 결제나 인증, 송금 기능의 장애로 이어질 수도 있다.
따라서 AI 분석 결과는 보안 전문가와 개발자가 다시 검증한 뒤 실제 수정 여부를 결정하는 절차가 필요하다.
‘오탐’보다 더 위험한 것은 잘못된 자동화
AI 보안검증에서는 오탐과 미탐 모두 발생할 수 있다.
오탐은 문제가 없는 코드를 취약하다고 판단하는 경우다. 미탐은 실제 취약점을 발견하지 못하는 경우다.
오탐이 많아지면 보안 담당자가 불필요한 경고를 반복적으로 확인해야 한다. 반대로 미탐이 반복되면 AI를 사용했다는 이유로 보안이 강화됐다고 착각할 수 있다.
문제는 이런 결과를 자동으로 수정하거나 배포할 때 더 커진다.
AI가 발견한 취약점을 다시 AI가 수정하고, 이를 자동으로 운영 시스템에 반영하는 단계까지 가면 오류가 금융서비스 장애로 바로 이어질 수 있다.
따라서 현재 단계에서는 AI가 ‘탐지’를 담당하고, 사람은 ‘판단과 승인’을 담당하는 구조가 현실적이다.
AI 분석 결과에 대한 책임은 누구에게 있나
보안검증 과정에서 AI가 취약점을 놓친 뒤 실제 해킹사고가 발생한다면 책임 주체도 중요해진다.
외부 AI 사업자가 분석 결과를 제공했더라도 금융회사의 정보보호 의무가 없어지는 것은 아니다. 최종적으로 금융 시스템을 운영하고 고객정보를 관리하는 주체는 금융회사다.
반대로 AI가 잘못된 분석을 제공해 금융서비스 장애가 발생한다면 AI 공급업체와 금융회사 사이의 책임 분담 문제가 생길 수 있다.
이 때문에 서비스 계약 단계에서 데이터 처리범위와 분석 정확성, 사고 발생 시 책임, 로그 제공, 데이터 삭제 의무 등을 명확히 할 필요가 있다.
AI 활용이 늘어날수록 기술 성능뿐 아니라 계약과 책임체계가 보안정책의 일부가 되는 이유다.
금융위도 ‘AI는 AI로 방어’하는 체계 강조
금융위는 1차 테스트 결과를 토대로 향후 AI를 활용한 공격이 본격화될 가능성에도 대비해야 한다고 보고 있다.
금융권은 현재 침입차단과 침입방지시스템 등 여러 보안조치를 적용하고 있어 이번 테스트에서 발견된 취약점이 곧바로 침해사고로 이어질 가능성은 크지 않은 것으로 분석됐다.
다만 AI 공격기술이 고도화되면 공격 속도 역시 빨라질 수 있다.
금융위는 외부에 노출된 전산자산 등 공격표면 관리와 신속한 보안패치, AI를 활용한 방어체계 강화가 필요하다고 밝혔다.
이는 AI를 업무 효율화 도구로만 보는 단계에서 벗어나 공격과 방어 양쪽에 동시에 사용되는 보안기술로 보기 시작했다는 의미다.
선정되면 1년간 비조치의견서 발급
제2차 테스트 신청기간은 9월 3일부터 14일까지다. 금융회사와 전자금융업자의 보안역량과 AI 활용능력을 민간 기술자문단 등이 평가한다.
금융위는 10월 7일을 잠정 선정일로 잡고 있다. 선정 기관에는 망분리 규제와 관련한 1년 한시 비조치의견서를 발급한다.
비조치의견서는 일정 조건 안에서 해당 행위를 하더라도 금융당국이 제재조치를 취하지 않겠다는 행정적 판단에 해당한다.
선정된 금융회사는 대체 통제수단을 마련한 뒤 프런티어 AI와 보안 SaaS 등을 이용해 취약점을 탐지하고 개선할 수 있다.
테스트 결과는 다시 금융권 전체 규칙으로 돌아간다
이번 실험은 개별 금융회사의 보안점검으로 끝나지 않는다.
참여 금융회사는 AI 보안위험의 특성과 공격용도로 활용됐을 때 예상되는 위험, 효과적인 방어방법 등을 정부에 보고해야 한다. 금융위는 이 결과를 금융분야 AI 가이드라인 개정과 보안대책 마련에 활용할 계획이다.
1차와 2차 테스트에 참여하지 않는 금융회사도 향후 결과를 공유받게 된다.
결국 일부 금융회사를 대상으로 한 실험을 통해 규제와 보안기준을 다시 설계하는 구조다.
망분리 완화는 AI 활용 확대의 전초전
이번 조치는 단순한 보안 테스트 이상의 의미도 갖는다.
금융위는 고도의 AI·보안 역량을 갖춘 금융회사부터 망분리 규제를 전면적으로 해제하는 방안도 관계기관과 논의하고 있다고 밝혔다.
금융권에서는 이미 생성형 AI 활용을 확대하기 위한 규제 개선이 진행되고 있다. 2024년부터 상용 생성형 AI 활용을 허용하는 혁신금융서비스 지정이 시작됐고, 2026년에는 금융분야 AI 가이드라인 개정과 AX 전환 정책도 이어지고 있다.
이번 보안검증 테스트는 향후 금융권의 AI 활용범위를 어디까지 넓힐 수 있는지 확인하는 시험대가 될 가능성이 크다.
속도보다 중요한 것은 ‘최종 승인 구조’
프런티어 AI가 수천만줄의 코드를 수시간 안에 분석할 수 있다는 사실은 금융보안 업무의 생산성을 크게 높일 가능성을 보여준다.
그러나 속도가 빨라질수록 최종 판단 절차가 더 중요해진다.
AI가 무엇을 분석했는지, 어떤 데이터를 외부로 전송했는지, 발견된 취약점이 실제 위험인지, 수정 결과가 시스템 안정성에 어떤 영향을 주는지를 사람이 검증할 수 있어야 한다.
AI가 취약점을 찾는 속도보다 중요한 것은 그 결과를 누가 승인하고 책임질 것인지다.
금융회사의 소스코드를 AI가 검사하는 시대가 시작되고 있지만, 보안 책임까지 AI에 넘길 수 있는 단계는 아니다.
제2차 테스트의 성패는 몇 건의 취약점을 발견했느냐보다 민감한 소스코드를 보호하면서 AI의 분석능력을 활용할 수 있는 통제체계를 실제로 만들 수 있느냐에 달려 있다.