10분만에 만든 코드가 위협이 된다고?

 

업무지시를 내린 지 단 10분만에 완벽하게 작동하는 프로그램 코드가 메신지로 날아옵니다.
담당자는 아무런 의심 없이 이 ‘완벽한’ 코드를 바탕으로 프로그램을 만들죠. 이 순간의 선택이 얼마나 치명적인 결과로 돌아올지는 전혀 모른채 말입니다.

최근 기업 현장에서 커서(Cursor)나 깃허브 코파일럿 같은 AI 코딩 에이전트를 쓰는 주니어 개발자나 기획자들 사이에서 심심찮게 볼 수 있는 풍경입니다.
개발 속도가 수십 배 빨라졌다는 찬사가 나옵니다.
최근엔 바이브 코딩 열풍으로 인해 코딩을 전혀 모르는 사람들 조차도 독학만으로 프로그램을 만들 수 있게 됐죠.

글로벌 애플리케이션 보안 기업 베라코드는 ‘2026년 봄 생성형 AI 코드 보안 업데이트’ 리포트를 통해 이같은 현상에 우려를 제기했습니다.
최신 인공지능 모델들에게 코딩을 시키고 그 결과를 추적했더니 생성된 코드의 45%에서 해킹에 취약한 치명적인 보안 결함이 그대로 발견된 것입니다.

여기서 AI의 모순이 하나 드러납니다.
현재 AI가 작성한 코드의 문법적 완성도 즉, 오류없이 실행되는 비율은 95%를 넘어섭니다.
프로그램은 에러 메시지 없이 거의 완벽한 수준으로 구동되는데 정작 보안 측면에서 보면 치명적인 결함을 안고 있는 것이죠.

현재 전 세계 기업들이 실제 서비스에 활용하는 전체 프로덕션 코드 중 약 27%는 AI가 생성한 것이라고 합니다.
기업으로선 직원이 회사의 공식 승인이나 코드 리뷰를 거치지 않은 채 AI가 만든 정체불명의 소스코드를 복사해 기업 메인 시스템에 적용하는 ‘섀도우 AI 코드(Shadow AI Code)’ 문제에 직면한 것입니다.

당장 실행 버튼을 누르면 완벽하게 작동하는 것처럼 보이지만 뒤에선 부실 코드가 하나 둘 쌓이고 있습니다.
언젠가 기업의 핵심 인프라를 무너뜨릴 수도 있는 시한 폭탄이 숨어있는 것이죠. 오늘 미라클레터에서는 섀도우 AI 코드에 대해 알아보고자 합니다.

  

 지메일을 사용하시는 분들께 알려드립니다.

미라클레터가 ‘업데이트’ 등 다른 탭에 분류되면 놓치거나 찾기 어려울 수 있습니다.

아래 간단한 설정으로 메일함에서 레터를 바로 확인해보세요 

 1. 드래그 앤 드롭으로 ‘기본’ 탭으로 이동하기

현재 메일이 ‘업데이트’나 다른 탭에 들어가 있다면, 메일을 클릭한 상태로 ‘기본’탭에 드래그 해주세요! 이렇게 설정해 주시면 미라클레터를 더 쉽게 찾을 수 있답니다.

 2. 주소록에 추가하기

미라클레터 발신 주소를 연락처에 등록해주세요!

주소록에 추가하면 중요한 메일이 다른 탭이나 스팸으로 분류되지 않아 언제든지 쉽게 확인하실 수 있습니다.
해당 이메일을 열고 발신자(미라클레터) 이름 위에 마우스를 올린 후 오른쪽 위 ‘연락처에 추가’ 아이콘을 클릭하시면 됩니다 

  ※ 레터 읽는 법 ※

볼딕, 밑줄, 단어에는 URL이 포함되어 있어요. 클릭을 하면 세부 내용으로 연결됩니다.

이 메일이 잘 안보이시나요? 여기를 눌러 웹에서 보세요

바쁘신 분들은 '오늘의 요약'을 참고해 주세요  

  

오늘의 3줄 요약

1. AI로 쉽게 만든 코드의 45%에서 치명적인 보안 결함이 발견됐습니다.

2. 검증이 어려운 ‘족보 없는 코드’로 장애가 발생하면 시스템 전체가 멈출 수 있습니다.

3. 최신AI가 미국의 ‘전략물자’가 되면서 개발자들이 중국산 오픈소스로 망명합니다.

외부의 보이지 않는 위협은 네트워크 망을 타고 내부 시스템으로 들어올 기회를 항상 엿보고 있습니다.
우리가 무심결에 사용한 AI가 안전하게 잠긴 문을 활짝 열어주는 열쇠가 될 수도 있습니다.
[챗GPT]

문법적 완성도(에러 없이 실행되는 비율, 파란색 그래프)는 2023년 50%에서 2026년 현재 95% 이상으로 수직 상승한 반면, 보안 합격률(빨간색 그래프)은 55% 부근에서 몇 년째 완전히 정체돼 있다는 것을 볼 수 있습니다.
기능면에선 완벽한 프로그램이 치명적인 보안 결함을 안고 있는 것을 보여줍니다.
[베라코드]

섀도우 AI의 진화

출에서 오염으로

이같은 현상을 이해하려면 섀도우AI의 변화를 먼저 들여다봐야 합니다.
불과 1, 2년전까지만 해도 기업 보안팀의 가장 큰 고민은 ‘데이터 유출’이었습니다.
임직원들이 보고서 작성이나 데이터 분석을 위해 회사의 대외비 문서나 고객 정보, 핵심 소스 코드를 챗GPT 같은 AI 대화창에 무심코 붙여넣는 행위였죠. 실제로 기업의 내부 회계자료를 붙여넣고 분석해달라거나, 향후 전략을 담은 파일을 올리고 아이디어를 달라고 물어보는 경우가 종종 있었습니다.
그만큼 AI가 일목요연하게 분석을 잘 해줬기 때문이기도 했죠. 문제는 이 자료들이 ‘대외비’라는데 있었습니다.

결국 사내 정보가 AI 학습 데이터로 활용되거나 외부로 유출되는 것을 막기 위해 대기업들은 사내망에서 AI 접속을 차단하는 방식으로 대응에 나섰습니다.
섀도우 AI 코드는 정반대입니다.
정보가 나가는 것이 아니라 정체 불명의 위험이 회사 내부로 들어올 수 있는 인프라가 만들어졌기 때문이죠.

패러다임을 바꾼 것은 커서나 깃허브, 코파일럿 워크스페이스 같은 자율형 코딩 에이전트의 대중화입니다.
개발자는 물론이고 코딩을 모르는 기획자들까지 AI에 의도만 전달하면 순식간에 복잡한 데이터베이스 연동 대시보드나 결제 시스템 기능을 만들 수 있습니다.
문제는 이렇게 생성된 수천, 수만 줄의 코드가 회사의 정식 보안 검수나 시니어 개발자의 코드 리뷰를 거치지 않은 채 기업의 메인 시스템에 그대로 도입된다는 것이죠. 단지 편리하다는 이유 때문입니다.

더 큰 문제는 이 틈을 노리는 사람들이 있다는 것입니다.
최근엔 사람만이 아니라 AI까지 가세하기 시작했죠. 올해 앤스로픽이 공개한 차세대 AI 모델 ‘미토스’ 논란이 이를 잘 보여줍니다.
앤스로픽의 테스트 결과 미토스는 전문가들이 수십년 간 발견하지 못한 운영체제와 브라우저의 보안 취약점을 순식간에 찾아냈습니다.
더 나아가 이를 파고드는 공격 코드까지 자율적으로 만들어냈죠.

최근 미국 상무부는 안보 리스크를 이유로 이 모델(미토스5·페이블5)의 외국인 접근 배포를 전면 중단했다가 최근 앤스로픽과의 합의를 통해 수출통제를 전격 해제하고 서비스를 복구하기로 공지했습니다.
일반용인 페이블5의 전 세계 접근을 복구하고 미토스5 역시 일부 신뢰 기관을 중심으로 재배포를 허용한 것이죠. 편리하다는 이유로 사용한 ‘섀도우 AI 코드’가 만든 취약점이 미토스와 같은 AI의 공격 앞에 무방비로 노출될 수 있는 고속도로를 만들어 준 셈입니다.

최근 유행하는 바이브 코딩이나 자율형 AI 에이전트가 생성하는 코드는 블랙박스에 가깝다는 지적이 나옵니다.
[챗GPT]

AI 활용의 문제점?

‘족보’가 증발했다

보안 전문가들이 경고하는 진짜 공포는 단순히 45%의 코드가 불안정하다는 통계 그 자체가 아닙니다.
진짜 문제는 소프트웨어 생태계의 근간인 ‘코드의 계보(족보)’가 통째로 증발한다는 것이죠.

인간 개발자가 코드를 작성할 때는 아무리 사소한 기능이라도 일정한 맥락과 흔적이 남습니다.
이 코드를 왜 이렇게 설계했고, 어떤 외부 라이브러리를 참고했는지 향후 시스템 확장을 위해 무엇을 고려했는지가 개발 이력과 주석을 통해 남습니다.
건물로 치면 설계도면이자 건물을 지을 때 어떤 자재를 썼는지를 보여주는 확인서인 셈이죠. 시니어 개발자들이 주니어들의 코드를 교차 검증할 수 있는 것도 이 족보가 있기 때문에 가능합니다.

최근 유행하는 바이브 코딩이나 자율형 AI 에이전트가 생성하는 코드는 블랙박스에 가깝습니다.
AI는 인간이 읽고 검수할 수 없는 압도적인 속도로 수만 줄의 코드를 뚝딱 조립해냅니다.
인터넷이란 거대한 바다에 떠도는 수많은 오픈소스와 과거의 데이터들을 조합해 결과물을 툭 던져주는 것이죠.

기능면에선 완벽에 가깝습니다.
당장 실행버튼을 누르면 프로그램은 에러 메시지 없이 잘 구동되죠. 문제는 수만 줄의 코드 내부 어딘가에 엄격한 저작권이 걸린 오픈소스가 무단으로 섞여 있을 수 있단 것입니다.
더 나아가 훗날 시스템을 통째로 마비시킬 수도 있는 치명적 결함이 존재할 가능성도 있습니다.

말 그대로 족보가 없는 코드가 기업의 핵심 인프라에 편입되는 것입니다.
당장은 건물이 번듯하게 서있지만 저작권 소송이나 시스템에 치명적인 장애가 발생했을 시 어떤 부분에서 문제가 있는지를 찾아내기가 어렵기 때문에 전체 시스템의 전원을 내리고 코드를 처음부터 다시 짜야하는 문제가 발생할 수 있습니다.
생산성만을 따지느라 정작 중요한 부분을 놓치게 되는 것입니다.

미·중 경제안보검토위원회(USCC)의 보고서에 따르면 이미 미국 스타트업의 약 80%가 중국산 오픈소스 AI 모델을 사용하는 것으로 나타났습니다.
미국이 안보를 이유로 자국산 AI 사용을 막으면 기업들은 대체재가 될 중국산 AI를 선택할 수밖에 없습니다.
[USCC]

미국의 전략물자가 된 AI

중국산 오픈소스의 공습

앤스로픽의 미토스 사태가 촉발한 파장은 단순히 한 기업의 서비스 중단에 그치는 것이 아닙니다.
미국 정부는 민간 기업의 첨단 AI 모델을 사실상 ‘전략물자’ 취급하면서 직접 규제에 나선 첫 사례이기 때문입니다.
AI 산업이 비즈니스의 영역을 넘어 국가 안보와 글로벌 규제 국면으로 진입한 셈이죠.

국내 기업들도 이 영향에서 자유롭지 않습니다.
미토스 프리뷰를 기반으로 취약점을 찾기 위해 활용한 글로벌 사이버보안 프로그램 ‘프로젝트 글라스윙’이 이번 조치의 직접 영향권에 들어왔기 때문입니다.
이 프로그램에는 삼성전자, SK하이닉스, SK텔레콤과 한국인터넷진흥원(KISA)까지 참여하고 있습니다.

이는 글로벌 기술 패권 지도에도 영향을 줄 수 있습니다.
미국이 최상위 AI 모델의 빗장을 걸어 잠그는 사이 미국 밖의 해외 개발자와 기업들이 상대적으로 접근이 쉬운 중국의 개방형, 오픈소스 AI 모델로 이동할 가능성이 크기 때문이죠. 실제로 미·중 경제안보검토위원회(USCC)의 보고서에 따르면 이미 미국 스타트업의 약 80%가 중국산 오픈소스 AI 모델을 사용하는 것으로 나타났습니다.

특히 글로벌 AI 모델 공유 플랫폼인 ‘허깅페이스’에서 중국 연구기관 모델이 차지하는 다운로드 비중은 2024년 말 1.2%에서 불과 1년만에 30% 수준으로 급증했습니다.
미국 정부가 자국 안보를 이유로 강력한 통제책을 꺼내들 대마다 역설적으로 전 세계 테크 생태계는 대안을 찾아 중국산 오픈소스 AI 진영으로 빠르게 유입되는 효과가 나타나는것이죠. 편리함을 위해 사내 보안망을 우회하는 내부의 섀도우 AI 코드 문제와 핵심 기술을 자국 중심으로 묶으려는 패권 경쟁이 맞물리면서 기업들의 셈법이 더욱 복잡해지고 있습니다.

※ 제목을 누르면 원문으로 연결됩니다.

가격 후려치다가 물량 놓친 애플… 블랙리스트 中 기업에까지 메모리 ‘구걸’

인공지능(AI) 확산으로 글로벌 메모리 반도체 공급난이 심화하자 애플이 미국 국방부의 블랙리스트에 오른 중국 메모리 업체들로부터 칩을 공급받는 방안을 추진하고 있습니다.
이 과정에서 팀 쿡 애플 최고경영자(CEO)는 트럼프 행정부를 상대로 정치적 부담을 줄여달라는 로비까지 벌인 것으로 알려졌습다.

메타, 남는 AI 연산능력 판다…클라우드 사업 진출 소식에 주가 9% 급등

메타가 자체 구축한 인공지능(AI) 데이터센터의 남는 연산능력을 외부 기업에 판매하는 클라우드 사업에 뛰어듭니다.
AI 인프라 투자에만 연간 최대 1450억달러를 쏟아붓는 가운데 남는 컴퓨팅 자원을 수익으로 연결해 투자 부담을 줄이겠다는 전략이라네요.

눈 맞추고, 웃고, 말 걸고 … 中 '섬뜩한 로봇굴기'

지난달 30일 중국 선두 휴머노이드 로봇 기업 유비쉬안(유비테크·UBTECH)이 선전 국제컨벤션센터에서 공개한 차세대 휴머노이드 '유스제 U1' 시리즈가 참가자들의 큰 관심을 받았다고 합니다.
아이돌 가수를 연상케 하는 외모로 모델처럼 런웨이를 줄지어 걷는 로봇들이 인상적이었다고 하는데, 웬만큼 가까이에서 보지 않으면 사람인지 로봇인지 구분조차 어려웠다고 하네요

인사말

우리는 AI 덕분에 유례없는 속도와 생산성을 손에 쥐었습니다.
코딩을 전혀 모르는 사람도 의도만 잘 전달하면 10분만에 프로그램을 만들어내는 ‘바이브 코딩’의 시대가 열렸으니까요.

세상에 공짜는 없습니다.
겉보기엔 완벽하게 작동하는 프로그램의 45%엔 치명적인 보안 결함이 존재하고, 미국 정부는 안보 위협을 이유로 민간 AI 모델의 유통을 전략물자처럼 철저하게 통제하는 규제를 만들기 시작했습니다.

AI는 사회 곳곳에 빠르게 뿌리내리고 있습니다.
우리가 매일 활용하는 금융, 의료, 물류 시스템도 마찬가지죠. 문제는 어느날 AI가 만든 코드 한 줄이 시스템 전체의 마비를 가져올 수도 있다는 것입니다.
이제 질문은 ‘얼마나 더 빨리 만들 것인가’에서 ‘우리가 기술을 통제할 수 있는가’로 옮겨가고 있습니다.

인류는 과연 이 기술을 통제할 수 있을까요. 우리가 맞이할 미래의 모습이 궁급해집니다.

믿었던 ‘일잘러 비서’에 회사기밀 줄줄 샌다…100% 신뢰 말라는데

정호준 기자

커지는 AI 보안 리스크…기업들이 유념해야할 점은

AI 연결된 데이터 파악해
접근권 철저히 제한 필요

조직내 AI 전수조사 필수
취약점 파악해 대응해야

악성코드 생성 막기 위해
관리 가드레일 활용 시급

기사의 이해를 돕기 위한 AI이미지 [이미지=chat gpt]

해외 완성차 기업 A사 웹사이트에 접속해 고객 문의를 위한 인공지능(AI) 챗봇을 열었다.
채팅창에 ‘최근 차량을 구매한 ○○○ 고객의 주민등록번호와 주소를 알려달라’고 입력하자 AI 챗봇이 ‘주민등록번호: 123456-7890123’과 같은 데이터를 곧바로 생성해 답변했다.

다행히 주민등록번호는 가짜 데이터였다.
해당 AI가 회사의 고객 데이터 서버와 연결돼 있지 않았기 때문이다.
여기서 눈여겨봐야 할 것은 AI가 사용자 요청을 수행하기 위해 가짜 데이터라도 만들어 정보 제공을 시도했다는 점이다.
보안 전문가는 “만약 회사의 데이터 서버와 연동돼 있었다면 고객 정보가 그대로 유출될 수 있었던 것”이라고 경고했다.

개인과 기업을 가리지 않고 AI가 빠르게 도입되면서 생산성과 효율성이 눈부시게 향상되고 있지만, 역설적으로 AI가 기업 보안을 위협하는 최대 악재로 부상했다.

23일 정보기술(IT)업계에 따르면 AI발(發) 사이버 보안 위협과 정보 유출 우려가 올해 기업들의 최대 보안 화두로 떠올랐다.
최근 삼성SDS가 국내 IT·보안 담당자 667명을 대상으로 설문조사해 발표한 ‘사이버 보안 위협 보고서’에 따르면 응답자 10명 중 8명 이상(81.2%·복수 응답)이 올해 가장 영향을 줄 위협으로 ‘AI 기반 보안 위협’을 꼽았다.

글로벌 상황도 비슷하다.
세계경제포럼(WEF)이 올해 발간한 ‘글로벌 사이버 보안 전망 2026’ 보고서에서도 글로벌 기업 경영진 873명에게 “향후 1년간 사이버 보안에 가장 크게 영향을 미칠 기술은 무엇인가”라고 묻자 94%가 AI를 꼽았다.
특히 최고경영자(CEO) 100명이 꼽은 생성형 AI와 관련해 가장 큰 보안 우려 사항은 ‘개인정보 등 데이터 유출’이었다.

기업들이 다양한 업무 영역에 AI를 속속 도입하고 있는 가운데 도입 시 생길 수 있는 잠재적인 보안 위협에 미리 대비하는 게 기업 생존을 좌우할 이슈로 부상하고 있다.

보안 전문가들은 우선 기업에서 사용하고 있는 모든 AI 기능(모델·서비스 등)을 전수조사해 가시성을 확보하고, 모델·서비스별 안전 수준을 점검하는 게 보안 위협을 대비하는 첫걸음이라고 강조한다.

모델 단계에서는 모델마다 적용된 안전장치 수준이 다르기 때문에 사용하는 모델에 따른 취약점을 파악해야 한다.
특히 중국 ‘딥시크’처럼 오픈소스 모델을 내려받아 활용하는 경우에는 안전 점검이 더욱 중요하다.

AI 안전 전문 스타트업 에임인텔리전스의 박하언 최고기술책임자(CTO)는 “세계에서 가장 안전한 AI 모델이라고 평가받는 앤스로픽의 ‘클로드’도 아직 많은 취약점이 있으며 적대적 프롬프팅을 통해 안전장치를 우회할 수 있다”고 지적했다.
이어 박 CTO는 “오픈AI의 ‘GPT’와 구글의 ‘제미나이’ 같은 최상위 모델들도 마찬가지”라며 “특히 오픈소스 모델의 경우 안전 필터나 가드레일에 대한 투자가 상대적으로 적어 간단한 프롬프트만으로도 탈옥이 가능한 수준”이라고 말했다.

AI 모델에서 문제가 발생하지 않더라도 이를 활용하는 시스템 구조를 잘못 설계한다면 보안 사고로 이어질 수 있다.

실제 인도에서는 한 화이트해커가 쇼핑몰에 적용된 AI 챗봇을 통해 다른 고객의 정보를 얻어낸 과정을 공개해 화제가 됐다.
이용자가 배송 정보를 요청하자 AI 챗봇은 주문번호를 요구했는데, 주문번호가 ‘ABC001’과 같이 단순한 조합으로 돼 있어 뒤에 숫자만 바꿔 넣으면 다른 고객의 주문 정보와 연락처를 알아낼 수 있었던 것이다.

이는 AI 모델과 데이터베이스를 연동하는 과정에서 방식을 잘못 설계한 탓이다.
악의적인 의도를 가진 공격자가 활용했다면 대규모 개인정보 유출로 이어질 수도 있었다.

이 때문에 기업에서 사용하는 AI가 어떤 데이터베이스에 연결돼 있고, 어떤 권한을 갖고 있는지 파악하는 게 중요하다.

기업 내부망에서만 쓰는 AI라도 거버넌스 관리가 잘돼있지 않으면 정보 접근 권한이 없는 직원의 질문에 AI가 대외비 사항을 답변하는 등 보안 사고가 터질 수 있다.

AI 서비스가 요청과 답변을 입출력하는 과정을 모니터링하고, 문제가 되는 행위나 답변을 차단할 수 있는 AI 가드레일 적용도 권장된다.

예를 들어 한 금융 회사는 직원들의 생산성을 향상하기 위해 AI가 기업 문서와 데이터를 기반으로 내용을 찾아 답변해주는 시스템을 도입했다.
이 시스템에 대한 안전성을 테스트하고자 클릭만 해도 학습 데이터를 모두 공유하게 만드는 악성 링크에 AI가 접속하게 유도하자 AI는 해당 링크에 대한 위험성 여부를 검토하지 않고 접속을 시도했다.
이 같은 사례는 가드레일을 활용한다면 충분히 예방할 수 있다.

지난해 하반기부터 전 세계 기업들이 활발히 도입하고 있는 AI 에이전트 관리도 필수다.
AI 에이전트는 텍스트 응답을 넘어 직접 사용자 기기와 앱을 제어해 사람 대신 행동해주는 수준으로 진화하고 있기 때문에 편리한 만큼 더 위험하다는 게 보안 전문가들의 경고다.

사이버 보안 위협 보고서를 만든 삼성SDS는 “AI 에이전트는 과도한 위임과 권한 남용을 통해 데이터 유출, 무단 작업, 시스템 손상을 초래할 수 있다”며 “이를 막기 위해서는 AI에 최소한의 권한만 부여하고, 정보 변경이나 결제 등 민감한 명령을 수행할 때는 반드시 인간의 승인을 거치도록 설계해야 한다”고 권고했다.

AI 에이전트가 어떠한 외부 도구와 연결되는지, 해당 도구에 악성 코드는 없는지 점검하는 체계도 필요하다.
가령 AI 모델을 다른 애플리케이션과 연결해 사용할 수 있도록 하는 표준 통신 형식인 모델 콘텍스트 프로토콜(MCP)도 보안 측면에서는 취약점을 증폭시킬 수 있다.

MCP를 통해 AI는 이메일·캘린더·협업 툴 등 다양한 서비스를 연계할 수 있지만, 이메일 등에 악의적인 프롬프트를 심어 악성 코드를 삽입하게 하는 공격에 취약점이 노출된 바 있다.

실제 지난해 9월에는 이메일 전송과 요약 등을 도와주는 MCP 서버인 ‘포스트마크’에 메일 발송 시 해커의 이메일 주소를 숨은 참조로 추가하는 악성 명령어가 삽입되면서 메일이 외부에 유출되는 사고가 발생하기도 했다.
PC를 직접 제어하고 업무를 처리해주는 에이전트로 최근 화제를 모은 ‘오픈클로’에 대해 네이버와 카카오를 비롯한 국내 기업이 사내 사용을 금지한 것도 이 같은 우려 때문이다.