사람들은 이미 ChatGPT가 악성 코드를 작성하도록 시도하고 있습니다.

ChatGPT AI 챗봇은 짧은 시간 내에 많은 관심을 받으며, 이제는 악성 코드 생성을 위해 일부 사용자에 의해 고용되었음으로 보입니다.

ChatGPT 는 사용자와 대화식으로 인공지능 기술을 이용한 자연어 처리 툴입니다. 이를 통해 이메일, 에세이, 코드 작성 등의 과제를 처리하는 데 도움을 줄 수 있습니다.

또한: ChatGPT가 무엇이고 왜 중요한가요? 알아야 할 것들

인공 지능 연구소인 OpenAI가 11월에 챗봇 도구를 출시했으며, 이 도구는 AI가 어떻게 발전하고 앞으로 어떻게 사용될 수 있는지에 대한 폭넓은 관심과 논의를 불러 일으켰습니다. (출처)

그러나 다른 도구와 마찬가지로, 잘못 사용하면 부정한 목적으로 사용될 수 있습니다. Check Point의 사이버 보안 연구원들은 지하 해킹 커뮤니티의 사용자들이 ChatGPT가 어떻게 사이버 공격을 용이하게하고 악성 작업을 지원하는 데 도움이 될 수 있는지 실험하고 있다고 말합니다.

"Check Point의 위협 인텔리전스 그룹 매니저인 Sergey Shykevich는 '기술 지식이 매우 낮은 - 기술 지식이 전혀 없는 - 위협 행위자도 악성 도구를 만들 수 있다'며 '이는 숙련 된 사이버 범죄자들의 일상적인 작업을 더욱 효율적이고 쉽게 만들 수 있습니다 - 예를 들어 감염 사슬의 서로 다른 부분을 생성하는 것'," ZDNET에 말씀했습니다.

OpenAI의 서비스 약관은 악성코드 생성을 명확히 금지하고 있습니다. "해적소프트웨어, 키로거, 바이러스 또는 일종의 피해 수준을 부과하는 소프트웨어 생성을 시도하는 컨텐츠"로 정의됩니다. 또한 스팸 생성을 금하며, 사이버 범죄에 사용하기 위한 용도도 금지합니다.

그러나 몇 가지 중요한 지하해킹 포럼에서의 활동 분석에 따르면 사이버 범죄자들은 이미 ChatGPT를 이용하여 악성 도구를 개발하는 데 사용하고 있으며, 일부 경우에는 개발 또는 코딩 기술이 없는 저수준의 사이버 범죄자들이 악성 소프트웨어를 만들 수 있게 해주고 있습니다.

또한: 인터넷의 끔찍한 미래: 내일의 기술이 더 큰 사이버 보안 위협을 일으킬 것이라는 것

12월 말에 나타난 포럼 쓰레드 중 하나에서, 게시자는 일반적인 악성 코드에 대한 연구 출판물 및 기술을 재현하기 위해 ChatGPT를 사용하는 방법에 대해 설명했습니다.

이를 통해, 그들은 파이썬 기반의 정보 도난자 악성코드를 만들어서, 마이크로소프트 오피스 문서, PDF 파일, 이미지를 포함한 일반적인 파일을 검색하여 복사한 후, 파일 전송 프로토콜 서버에 업로드합니다.

이 사용자는 또한 ChatGPT를 사용하여 자바 기반의 악성 코드를 작성한 방법을 보여주었습니다. PowerShell을 사용하여 감염된 시스템에 다른 악성 코드를 암시적으로 다운로드하고 실행할 수 있습니다.

연구자들은 이러한 쓰레드를 작성한 포럼 사용자가 "기술 지향적"이며, 기술적으로 덜 유능한 사이버 범죄자들이 악용할 수 있는 AI 도구를 사용하는 방법을 실제 예시와 함께 보여주고 있다는 것을 지적하였다.

한 사용자가 Python 스크립트를 올렸습니다. 그들은 이것이 그들이 만든 첫 번째 스크립트라고 말했습니다. 다른 포럼 회원과의 토론 후, 그들은 ChatGPT가 그들을 도와 스크립트를 만들었다고 말했습니다.

해당 스크립트 분석에 따르면 파일을 암호화 및 복호화하는 것으로 보입니다. 일부 작업을 거친 후, 랜섬웨어로 전환될 수 있으며, 결과적으로 저급 사이버 범죄자들이 자신만의 사기적인 캠페인을 개발하고 배포하는 가능성을 야기할 수 있습니다.

앞서 언급한 모든 코드는 당연히 평온한 방식으로 사용할 수 있습니다. 그러나 이 스크립트는 사용자의 상호작용 없이 컴퓨터를 완전히 암호화하도록 쉽게 수정될 수 있습니다. 예를 들어, 스크립트와 구문 문제가 해결된 경우, 악성 소프트웨어로 코드를 변환할 수 있습니다," Check Point는 말합니다.

"코드 및 구문에서 약간의 개선이 필요하지만 개념적으로 작동 시 이 도구는 랜섬웨어와 유사한 작업을 수행할 수 있습니다," Shykevich는 말했습니다.

또한: 사이버 보안: 2023년에 걱정할 새로운 것들

사이버 범죄자들이 ChatGPT를 실험하는 유일한 것은 악성 코드 개발에 있지 않다. 작년 신년에는 어두운 웹에서 계정 정보, 신용 카드 정보, 악성 코드 등을 사고 팔 수 있는 자동화된 시장을 운영하는 데 도움이 되는 스크립트를 만드는 데 이 도구를 사용한 것을 보여주는 쓰레드를 게시한 지하 포럼 회원도 있었다.

사이버 범죄자는 다크 웹 마켓의 결제 시스템 일환으로 Monero, Bitcoin 및 Ethereum 암호 화폐의 최신 가격을 얻기 위해 제3 자 API를 사용하여 생성된 코드의 일부를 자랑했습니다.

ChatGPT를 이용해 생성된 악성 사이버 활동이 실제로 작동 중인지 파악하는 것은 어렵습니다. Sykevich는 "기술적인 측면에서, 특정 악성 소프트웨어가 ChatGPT를 이용해 작성되었는지 여부를 파악하는 것이 극도로 어렵습니다"라고 설명합니다.

하지만 ChatGPT와 기타 AI 도구에 대한 관심이 커지면, 사이버 범죄자 및 사기꾼들이 기술을 악용하여 적은 비용과 최소한의 노력으로 악성 캠페인을 수행하기 위해 주목할 것입니다. ZDNET은 댓글을 요청했지만, 게시 시점에서 아직 응답을 받지 못하였습니다.