AI 기술은 수많은 산업을 혼란에 빠뜨릴 수 있지만 적어도 대부분의 경우 장기적으로 볼 때 해로운 것보다 더 유용할 것이라는 점을 알 수 있습니다. 그러나 이러한 새로운 도구는 사악한 유형에 대한 많은 새로운 기회를 열어주기도 합니다.
강력한 피싱 공격을 위한 자연어 AI
인간의 자연스러운 언어를 이해하고 생산할 수 있는 능력은 초창기부터 AI 연구의 주요 목표 중 하나였습니다. 오늘날 우리는 합성 음성 제작, 고도로 정교한 챗봇, 자연어 텍스트 생성기 및 더 많은 관련 AI 기반 기술을 보유하고 있습니다.
이러한 응용 프로그램은 해커가 사람들로부터 중요한 정보를 빼내기 위한 방법으로 합법적인 엔터티 및 대리인인 것처럼 가장하는 피싱 공격에 적합합니다. 이러한 새로운 기술을 사용하면 AI 에이전트가 이메일, 전화 통화, 인스턴트 메시징 또는 인간이 컴퓨터 시스템을 통해 서로 대화하는 모든 곳을 통해 집단으로 사람을 사칭하도록 할 수 있습니다.
우리가 알고 있는 피싱과는 달리 이것은 사기를 더욱 효과적으로 만들기 위해 특정 개인에 대한 정보를 가지고 있는 특정 개인을 대상으로 시도하는 강력한 “스피어” 피싱과 같습니다. 예를 들어, AI 소프트웨어는 CEO 사기로 알려진 피싱의 변형에서 누군가의 상사로 가장하고 계좌로 돈을 지불하도록 요청할 수 있습니다.
딥 페이크 사회 공학
사회 공학은 인간의 심리와 행동의 약점을 표적으로 삼아 강력한 기술적 보안 조치를 우회하는 해킹 내의 관행입니다. 예를 들어, 해커는 중요한 사람의 비서에게 환경미화원으로 가장하여 전화를 걸어 쓰레기가 현재 어디에 버려지고 있는지 물어볼 수 있습니다. 그런 다음 범죄자는 해당 위치로 이동하여 폐기된 문서나 익스플로잇을 만들기 위해 조합할 수 있는 기타 단서를 찾습니다.
얼굴과 음성을 복제할 수 있는 딥 러닝 시스템(딥페이크라고 함)은 실시간으로 사용할 수 있는 수준까지 발전했습니다. Podcastle의 Revoice 및 Voicebot AI와 같은 서비스에서 자신의 음성 샘플을 제출한 다음 자신과 똑같은 텍스트 음성 변환 기능을 사용할 수 있습니다. 원칙적으로 이와 같은 기술은 누군가의 목소리를 복제하는 데 사용될 수 있습니다. 그렇다면 당신이 해야 할 일은 당신이 좋아하는 사람을 사칭하는 사람에게 전화나 화상 통화를 하는 것입니다. 공인이 가장 쉬운 대상입니다.
더 스마트한 코드 크래킹 및 자동화된 취약점 검색
인간은 취약점을 수정하거나 악용하기 위해 코드 라인을 샅샅이 뒤져 취약점을 찾는 데 몇 시간이 걸립니다. 이제 우리는 ChatGPT와 같은 기계 학습 모델이 코드를 작성하고 제출된 코드의 취약성을 인식할 수 있음을 확인했습니다. 이는 AI가 머지않아 악성 코드를 작성할 가능성을 열어줍니다.
기계 학습을 통해 학습하고 적응하는 맬웨어
머신 러닝의 핵심 강점은 방대한 양의 데이터를 가져와 유용한 규칙과 통찰력을 추출할 수 있다는 것입니다. 미래의 맬웨어가 이 일반적인 개념을 활용하여 대책에 신속하게 적응할 수 있다고 예상하는 것이 합리적입니다.
이로 인해 맬웨어 및 맬웨어 방지 시스템이 효과적으로 서로를 빠르게 더 높은 수준의 정교함으로 이끄는 전쟁 기계 학습 시스템이 되는 상황이 발생할 수 있습니다.
가짜 데이터를 생성하는 생성 AI
AI 기술은 이제 허공에서 이미지, 비디오, 텍스트 및 오디오를 생성할 수 있습니다. 이러한 기술은 전문가가 (적어도 한 눈에) 가짜인지 구분할 수 없는 지점에 도달했습니다. 이것은 미래에 인터넷에서 가짜 데이터의 범람을 예상할 수 있음을 의미합니다.
예를 들어, 가짜 소셜 미디어 프로필은 현재 매우 쉽게 발견할 수 있으므로 사기 사기 또는 허위 정보를 퍼뜨리기 위한 단순한 봇 캠페인을 피하는 것이 정보에 입각한 청중에게 그리 어려운 일이 아닙니다. 그러나 이러한 새로운 AI 기술은 실제 프로필과 구별할 수 없는 가짜 프로필을 생성할 수 있습니다.
전체 가짜 삶의 생성된 사진, 독특하고 일관된 프로필 정보, 다른 가짜 사람들로 구성된 전체 친구 및 가족 네트워크가 있는 고유한 얼굴을 가진 “사람”. 모두 실제 사람처럼 서로 대화를 나눕니다. 이와 같은 가짜 온라인 에이전트 네트워크를 통해 악의적인 행위자는 다양한 사기 및 허위 정보 캠페인을 수행할 수 있습니다.
관련된: 다시는 인터넷의 어떤 것도 믿을 수 없게 만드는 5가지 기술
AI는 치료법이자 질병입니까?
일부 사람들이 악의적인 이유로 새로운 기술을 시도하고 사용하는 것은 불가피합니다. 이 차세대 AI 기술이 다른 점은 인간의 능력을 뛰어넘어 신속하게 탐지한다는 것입니다.
이것은 다소 아이러니하게도 AI로 강화된 공격 경로에 대한 우리의 최선의 방어는 불로 싸우는 다른 AI 기술이 될 것임을 의미합니다. 이것은 당신에게 선택의 여지가 없는 것처럼 보일 것입니다. 그러나 그들이 그것을 물리치는 것을 지켜보고 “좋은 사람들”이 정상에 오르기를 바랍니다. 그럼에도 불구하고 온라인에서 보호를 유지하고, 랜섬웨어를 피하고, Facebook, Facebook Marketplace, PayPal 및 LinkedIn과 같은 인기 있는 플랫폼에서 사기를 발견하기 위해 할 수 있는 몇 가지 방법이 있습니다.
2023년 최고의 바이러스 백신 소프트웨어 
비트디펜더 인터넷 시큐리티
Avira 무료 보안
Malwarebytes 프리미엄
Intego Mac 인터넷 시큐리티 X9
