출처: 원문 https://brunch.co.kr/@2lab/353 (녹취분석연구소 대표 이철형 소장 글)
[AI범죄] 딥크라임-새로운 범죄가 오고 있다!
인공지능이 우리를 속일 때는 익숙하고 아는 것으로부터 접근한다. | ✂️ 오컴의 면도날: 가장 단순한 설명이 정답일 가능성이 높다. (예시) 환자가 열과 기침을 호소할 때, 드문 희귀병보다 흔
brunch.co.kr
✂️ 오컴의 면도날: 가장 단순한 설명이 정답일 가능성이 높다.
(예시) 환자가 열과 기침을 호소할 때, 드문 희귀병보다 흔한 독감이 원인일 가능성이 더 높다고 판단한다.
⚖️ 히캄의 격언: 환자는 하나의 질병만이 아니라 여러 질병을 동시에 가질 수 있다.
(예시) 환자가 열, 기침, 피부 발진을 동시에 보일 경우, 독감 하나로 설명하기보다 독감과 알레르기 반응이 함께 있는 상황일 수도 있다고 본다.
� 휴리스틱: 완벽한 해답 대신 빠르고 실용적인 문제 해결의 경험적 규칙이다.
(예시) 쇼핑할 때 모든 제품을 비교하지 않고, “가장 많이 팔린 제품은 품질이 괜찮을 것이다”라는 경험적 규칙을 적용해 빠르게 선택한다.
위의 세 가지를 언급한 이유는 AI범죄(인공지능 활용 범죄) 속성이, 공개되거나 해킹된 우리 정보를 이용해서 익숙하고 패턴화 되며, 늘 아무런 의심 없이 해오던 사고와 행동 방식 그대로를 목적 범죄의 통로로 활용하기에, 이를 이해하는데 도움을 주기 위해서다.
인공지능이 우리를 속이는 가장 강력한 무기는
역설적이게도 '우리가 이미 알고 있는 익숙함'이다.
우리 뇌는 생각하는 것을 피곤하게 느낀다.
많은 양의 에너지를 소모하기 때문이다.
그래서 어떤 자극이 오면, 익숙한 방식대로 반응하려고 한다.
새로운 방식은 경험이 없기에 두렵고 어려워한다.
익숙한 방식이 없을 때는 순간 당황한다.
그래서 뇌가 빨리 스캔한다.
기억 속에 저장된 정보 중에 해당 자극에 반응하는 방법들을 찾는 것이다.
하지만 그 정보는 이미 널리 알려지고 예측된 데이터다.
빅데이터(성별/연령/학력/전공/직업/주거지/특기/취미/관심사/쇼핑내역 등)로
표적 피해자가 어떻게 행동할지 AI(인공지능)는 이미 알고 있다.
그래서,
AI를 활용한 범죄의 대다수는
특정 자극에 예측 가능한 반응을 이용하는
범죄일 가능성이 매우 높다.
AI(인공지능)가 패턴 분석에 최적화되어 있는 알고리즘으로 방대한 데이터를 학습하였기에 가능한 일이다.
이런 정교한 설계 앞에서 피해자는 십중팔구 꼼짝없이 당할 수밖에 없다.
통계적, 확률적으로 예측가능한 사고와 행동을 범죄자는 이미 알고 범죄를 설계하기 때문이다.
즉, 타깃(표적) 피해자에게 최적화된 범죄를 설계하는데
AI(인공지능)가 엄청난 역할을 하는 것이다.
그리고 이제는 범죄 설계뿐 아니라 수단으로 활용할 문서, 이미지, 영상, 목소리까지 모두 생성형 AI(인공지능)로 딥-페이크(Deep-Fake) 할 수 있다. 딥페이크는 딥러닝과 속임수를 합성한 신조어이지만, 말 그대로를 직역해도 문제가 없을 정도로 범죄에 악용될 가능성이 매우 높게 해당 기술은 고도화되었다.
딥러닝 알고리즘으로 탄생한 생성형 AI(인공지능) 활용 범죄를 통칭하는
'딥크라임(DeepCrime)'
필자는 이제부터 이런 범죄를 딥크라임(DeepCrime)이라고 통칭하겠다.
딥페이크, 딥페이스, 딥보이스 등 딥러닝 알고리즘을 활용한 생성형 인공지능의 결과물이 등장할 때마다 새로운 합성어가 나오지만, 이를 통해 발생되는 범죄의 우려를 지칭하는 용어는 없기에 비록 좋은 말은 아니지만, 우리들의 경각심을 하나로 집중시키고 이를 통해 단 한 명의 피해자를 줄일 수만 있다면 의미 있는 일이라고 생각하여 만들었다.
'딥크라임'을 예방하기 위해서는 어떻게 해야 할까?
처음에 언급한 세 가지를 역이용하는 사고 패턴에 익숙해져야 한다.
'오컴의 면도날'처럼 나에게 온 자극을 단순하게 모두 속임수라고 가정하고 반응해야 한다.
파란 신호등에 횡단보도를 건너는 보행자를 향해 달려오는 차를 의심하지 않고 멈출 것이라고 생각만 하는 것은 이제 위험하다는 것을 우리는 잘 알고 있다. 마찬가지로 "로그인 요청 문자는 무조건 해킹 시도다" 혹은 "모르는 번호로 온 가족의 목소리는 일단 가짜다"라고 가장 단순하고 명확하게 의심부터 하는 자세가 필요하다.
'히캄의 격언'대로 해당 자극에 따른 나의 반응 이후에 발생될 모든 피해 가능성과 복합적인 상황을 고려해야 한다.
범죄자는 단 하나의 수단만 쓰지 않는다. 검찰을 사칭한 전화(음성) 도중에 실제 내 이름이 적힌 공문(이미지)이 날아오고, 동시에 내 계좌에서 돈이 빠져나가는 알림(문자)이 뜨는 다중 입체적 공격을 펼칠 수 있다. "설마 이 모든 게 한꺼번에 조작될 리가 없다"는 확신은 금물이다. 딥페이크 영상과 목소리 변조가 동시에 쓰일 수 있음을 인지하고, "나에게는 여러 가지 일이 동시에 일어날 수 있다"는 사실을 받아들여야 한다.
'휴리스틱'으로 익숙하고 예측 가능한 반응은 자제하고, 늘 신중하게, 방어적으로 언행토록 훈련해야 한다.
우리에게 필요한 건, '휴리스틱-익숙함'의 전환이다. "늘 그래왔으니 괜찮겠지"라는 경험적 규칙을 버리고, "의심이 곧 안전이다"라는 새로운 휴리스틱을 뇌에 각인시켜야 한다. 여러 가정적 상황에서 범죄 피해에 노출되지 않도록 행동하는 시뮬레이션 사고(思考)를 역으로 익숙하도록 생활화하는 것이다.
기존의 편한 휴리스틱(익숙함)을 버리고,
'의심이 곧 안전'이라는 새로운 휴리스틱을 뇌에 각인시켜야 한다.
정치인이나 공인들은 공개된 장소에서 많은 질문을 받는 직업군에 있는 사람들이다.
이들에게 주어지는 질문들의 상당수는 예측 가능한 답변들을 예상하고 만들어진 질문이다.
한 마디로 곤란하게 만들거나 특정 프레임을 덧씌워서 목적하는 바를 이루려고 만든 질문들일 가능성이 높다.
때문에 이들은 늘 이런 시뮬레이션 사고 훈련에 익숙해져 있다.
즉, 최소한 두 수, 세 수를 넘어서 생각한다.
이런 프로세스는 AI(인공지능) 범죄의 속성과 유사하다.
이제 평범한 우리들도 이런 시뮬레이션 사고를 수없이 반복해서 머릿속으로 해봐야 한다.
여러 가정들에 어떻게 대응해야 내가 범죄 표적(Target)에서 벗어날 수 있을지 말이다.
그러려면 두 수, 세 수를 넘어서 생각하는 습관을 들여야 한다.
AI(인공지능) 시대에는, 여태껏 내가 듣지도 보지도 못한 범죄의 첫 번째 피해자가 될 수 있다.
온라인과 오프라인의 경계가 허물어지고, 아프리카에 있는 범죄자가 먼 한국 땅에 있는 생면부지의 누군가를 상대로 범죄를 저지르는 현실 속에서, 인공지능으로 설계된 범죄가 나만 피해 갈 수 있다는 생각은 애당초 무리임을 이제는 알 수 있지 않겠는가?!
AI범죄 예방의 최선책은
'나도 피해자가 될 수 있다'는 가정과
'모든 경우의 수에 대응할 수 있는 사고 훈련(시뮬레이션)'을
생활화해서, '나의 언행을 통제하는 것에 익숙해지는 것'이다.
'방심'은 AI범죄(딥크라임)에 있어서
언제든지 해킹 가능한 '백도어'임을 잊지 말자!
이 작가의 멤버십 구독자 전용 콘텐츠입니다.
작가의 명시적 동의 없이 저작물을 공유, 게재 시 법적 제재를 받을 수 있습니다.
''공신력' 언론 보도 > 기타언론방송SNS' 카테고리의 다른 글
| 뉴스1탐사보도 기사 장기미세살인사건 관련 보이스프로파일링(이철형 소장) (0) | 2024.12.30 |
|---|---|
| 중앙일보 소리 청취관련 전문가 녹취분석연구소 이철형 대표 인터뷰 (0) | 2024.12.30 |
| 공감언론 뉴시스(NEWSIS) 기사 녹취분석연구소 공신력 언급 보도 (0) | 2024.12.30 |
| 다수 언론사 '대림동 여경 사건' 관련 가짜 뉴스를 밝혀낸 녹취분석연구소 성문분석 결과 보도 (0) | 2024.12.30 |
| 오마이뉴스 대림동 여경 사건 관련 가짜뉴스 탐사기사 (0) | 2024.12.30 |