[TE머묾] AI 시대의 내적 체중

[TE머묾] AI 시대의 내적 체중
Photo by Peter Zhan / Unsplash
💡
Editor's Pick
- AI의 강력함 인정하지만, 우리의 과민 반응도 없지 않아
- 피셔들과의 장난질, 이제 그만하기로
- 기술의 발전상, 이리 저리 알아보는 게 중요

달리는 버스 안에 붙어 있는 ‘기사 실명’이라는 안냇말을 보고 1초 정도 뜨악했다. 동공이 커지고, 운전기사 쪽으로 황급히 고개를 돌렸다가, 다시 안냇말을 살피며 ‘아, 그게 아니었구나’하고 안도하기에는 - 즉, 속아넘어가기에는 - 충분한 시간이었다. 문제의 안내 밑에는 기사님의 신상 정보가 친절히 수록돼 있었다. 운수회사는 ‘개인정보 다 까고 운전하는 분이니 믿으셔도 된다’는 메시지를 승객에게 전하며 평안을 빈 모양인데, 나는 ‘실명’의 중의 때문에 찰나 동안 심장이 콩닥였다.

내리고서도 한참을 억울했다. 고객을 떠받드는 척 사실은 한 방 먹이려는 운송회사의 교묘한 조크였다는 생각이 들 정도였다. 하고 많은 말 중 ‘기사 실명’이 최선이었을까? ‘기사’라고만 적었어도 그 아래 정보들이 나열돼 있어 의미 전달이 됐을 텐데. 조금 더 친절하게 쓰고자 한다면 ‘기사 정보’라고만 했어도 될 것 같은데. ‘이름’을 강조하고 싶었다면 ‘기사 이름’이나, 우리 회사는 기사님을 존중한다는 의미에서 ‘기사 성함’도 나쁘지 않았을 텐데.

아, 불편하다고 말하는 게 아니다. 내가 생각해도 ‘기사 실명’이라는 안내 문구를 보고 시력 약하신 분이 운전하고 있다는 상황을 상상할 사람은 별로 없다. 나의 지독한 가벼움이 더 문제라면 문제일 게다. 아무 것도 아닌 것에 혼자서 속았다는 걸 깨달은 뒤의 느낌은, 유치하고 수준 낮기 짝이 없는 ‘아재 개그’에 자기도 모르게 피식 웃어버린 후의 자기 경멸감과 비슷하다. 난 운송회사 경영진에 고충 처리를 요구하는 게 아니라 내가 속았다는 걸 한탄하는 거다.

요즘 ‘속는 건’ 어째서인지 ‘지는 것’과 동일시된다. 그 같잖은 시대정신이 얼마나 강하게 배어 있는지 나 같은 경우 아이들 가벼운 장난에 넉넉히 속아주는 것조차 꺼려한다. 어쩌다 속고 나서도 ‘일부러 그랬다’는 걸 상대방(대부분 아이 1)과 주변인들(대부분 아이 2나 그 친구들)에게 반드시 주입시킨다. ‘난 안 속는다’는 분위기를 온 집안과 회사와 지인들 간 만남에서 풍긴다. 요즘 말로 ‘찌질’한 건데, 그래도 속는 것보다 낫다. 지느니 쪼잔하겠다.

이렇게 고색창연 적잖은 세월 살아왔는데도 주변인들이 ‘가장 사기 잘 당할 것 같은 사람’을 서로 꼽을 때 내가 1, 2위를 다투는 건 왜인지 알 수 없다. 시기와 질투의 발로다. 아니면 정복해보지 못한 것을 탐하는 못된 심리다. 날 속이지 못해 그렇게라도 끌어내리려는 것 아니면 설명이 불가하다. 내가 평생 무패를 기록할 깜량이 안 되는 건 잘 알지만, 그래도 승률 80% 유지할 정도는 되지 않을까. 그 정도면 훌륭한 성적이다.

이 성적은 피싱 공격을 당하는 상황에서 빛을 발한다. 내 기억으로는 승률 100%다. 심지어 난 수화기 너머 공격자를 역으로 속여 조롱한 적도 있다. 그가 다급한 상황이라고 하면 난 심장이 내려앉은 것처럼 연기하면서 장단을 맞춘다. 나 앞으로 어떻게 해야 하냐고, 절절이 그에게 구조를 요청하기까지 한다. 이 때 핵심은 연기를 ‘리얼하게’ 하는 게 아니다. 과장을 조금 섞어줘야 한다. 그래야 속은 걸 깨달은 후 공격자가 더한 패배감을 느낀다(고 생각한다). ‘넌 몰랐겠지만 난 처음부터 조롱이었어’라는 메시지를 과장된 연기로 전달하는 것이다.

한 번은 경찰을 사칭하는 녀석이 전화를 걸었다. 마침 업무 중이었기 때문에 같이 놀아줬다. 누군가 내 명의로 된 카드를 가지고 고가의 물건을 불법 구매했다는 내용이었다. 나는 세상이 무너진 듯 반응했다. 도움을 요청하고, 제발 돈을 찾아달라고 빌었다. 그는 신나게 다음 절차들을 읊었다. 마지막에는 내 다른 계좌가 무엇이며 거기에 잔고가 얼마나 있는지를 확인하려 했다. 난 반쯤 울다시피 하며 아무 은행 이름을 부르며 ‘잔고 50원’을 외쳤다. 잠시 멈춘 그는 ‘50만원이요?’라고 되물었고, 나는 ‘아뇨, 50원이요, 50원’이라고 하며 비웃었다. 그는 황급히 전화를 끊었다.

검사 사칭자도 있었다. 어떤 은행 직원이 사기 행각을 벌였는데, 내가 거기 휘말렸다고 경고했다. 내가 그 지점에서 그 직원을 통해 계좌를 신설한 기록이 있는데, 하필 그 계좌가 악용됐다며 본인이 직접 계좌를 튼 게 맞냐고 물었다. 그 직원이 내 개인정보를 가지고 무단으로 만들었을 수도 있다는 옵션도 같이 제공했다. 듣도 보도 못한 지점이었지만 당연히 나는 첫 번째 미끼를 물었다. “네, 제가 며칠 전에 만든 게 맞아요!” 그는 나도 용의선상에 오를 수 있다고 경고했다. 나의 결백을 며칠 안으로 소명해야 한다는 것이었다. 그 때 난 병원에서 차례를 한참 기다리고 있던 때라 연기 놀이에 몰두할 수 있었다. 그러다 내 차례가 다가올 때쯤 ‘검사님, 성함과 전화번호 좀 줘보세요’라고 정색했고, 역시 통화는 갑작스레 종료됐다.

보안 관점에서 권장할 만한 행동은 아니다. 그들이 나를 찾아와 복수할까봐? 가능성이 0%라 할 수는 없지만 그리 높지 않다. 더 큰 위험은 따로 있다. AI다. AI가 고도로 발전한 지금, 그들이 역으로 나의 조롱을 알아채고 대화를 질질 끈 것이라면, 그래서 내 목소리를 충분히 확보한 거라면 내 승패 기록은 뒤바뀌게 된다. 내 목소리를 합성한 그들이 그것을 가지고 어떤 공격을 누구에게 실시할지는 하늘만 안다. 내 목소리가 실제 범죄에 악용됐을 때, 진짜 검사가 전화해 결백을 소명하라 요구할 것이다.

시대가 이처럼 발전했기 때문에라도 난 더 이상 피셔들 데리고 놀지 않으려 한다. 딱히 재밌지도 않은 장난이다. 한 20년 전 ‘아들을 잡고 있으니 몸값을 내놓으라’고, 집에 홀로 계신 어머니께 전화해 반쯤 졸도케 한 그 놈이 얻어 걸리지나 않을까, 앙갚음 하고 싶어 시작한 것일 뿐이었다. 그나마도 딱 두 번 해본 게 전부이고, 설사 그 놈에게 큰 굴욕감을 준다 한들 내 편에서 그걸 알아챌 방법도 없다. 돌아가신 어머니도 크게 대견해하실 일은 아닐 듯하다. 대상 없는 복수, 리스크만 가득한 뻘짓이다. 이제 놔 줄게, 망할 피셔야.

세상 온갖 것들에 AI가 붙으면서 새로운 가치들이 만들어지는 중이다. 별거 아닌 제품이나 서비스에 마케팅 팀들은 AI를 만능 형용사로서 가져다 쓴다. 얕은 수를 앎에도 시대가 이러니 뭔가 있어 보인다. 점점 많은 소프트웨어 속에 AI 기술들이 주입되기도 한다. 이용성이 드라마틱하게 높아지기도 하지만 대부분은 실망만 잔뜩 안긴다. 그럼에도 ‘내가 사용하는 이 소프트웨어의 개발사가 놀고 있지는 않구나’하는 점에서 아주 조금 신뢰도가 높아지는 기분이다. AI가 다 발전하기도 전에 위대한 마케팅 팀들은 그 쓰임새를 터득해버렸으니, 역시 전통 있는 업계 전문가들의 가닥을 무시할 수 없다.

위대한 부류는 또 있다. 악성 행위 일삼는 사이버 사기꾼들이다. ‘해커’라고 하지 않고 ‘사이버 사기꾼’이라고 한 것에는 이유가 있다. 마케터들이 AI를 강력한 수식어로 사용하며 소비자 마음 싱숭생숭하게 만드는 것처럼, 악성 행위자들도 AI를 활용한 첨단 공격 감행보다, 얕은 속임수 통한 심리 해킹을 더 많이 시도하기 때문이다. AI로 속임수 문구를 그럴듯 하게 다듬는다든지, 이전에 건드릴 수도 없던 언어권 사용자들을 노릴 수 있게 된다든지, 사전 정보 수집을 훨씬 빠르게 한다든지, 이들에게 있어 AI는 이미 충분히 완숙한 기술이다. 프롬프트를 정교하게 다듬는 일조차 이들에겐 큰 의미를 갖지 않을 정도다.

실제 기술 발전 수준과, 그 기술이 실생활에서 발휘하는 위력은 항상 정비례하지 않는다. 전자가 지나치게 앞서간 경우도 있지만, 후자가 강력할 때가 빈번하다. 실제 발전 수준보다 더 큰 소란이 일어날 때의 장점은 그 분야에 투자자들이 몰린다는 것이고, 단점은 그 투자자들이 빠르게 빠진다는 것이다. AI가 바로 그 장점을 누리고 있다. 다행히 투자자들이 빠질 기미는 아직 없으나, ‘거품론’이라는 단어가 여기 저기 의심의 마음을 들쑤시기 시작했다는 건 좋은 징조가 아니다. AI가 망할 거라는 예측이 아니다. 우리가 AI의 수준보다 더 크게 반응한다는 거다, 좋은 쪽으로든 나쁜 쪽으로든.

무슨 반응? 평범한 카메라에 AI라는 단어 하나 박아 놓으면 판매량이 올라가는 거, ‘에이전트’가 알아서 다 하도록 구매와 결제 권한까지 의심 없이 주는 거, 실제 재판에서 낭독해야 할 변론을 AI가 쓰게 했다가 망신을 당하는 거... 사례는 얼마든지 있다. 최근에는 취약점 분석가들이 약속이라도 한듯 AI에게 버그리포트 대량으로 만들게 해 오픈소스 생태계에 큰 혼란을 가져다 주기도 하고, 급기야 일부 버그바운티 프로그램이 중단되게도 만들었다. 이 역시 그런 ‘실제보다 더한 반응’에 속한다고 본다. 음성 딥페이크가 놀랍게 발전하는데, 그 옛날 있었던 사건 떠올리며 피셔들과 시간 보내는 나도 떳떳하진 않다.

누구나 AI 같은 복잡하고 어려운 기술의 실제 수준을 명확히 이해할 수 있는 건 아니다. 하지만 누구나 알아보려 여기 저기 검색할 수는 있다. AI가 어떤 사건 사고를 일으켰는지, 혹은 어떤 방향으로 발전하고 있는지, 그 내용이 진짜인지 아니면 부풀려진 건지, 인터넷 간단히 켜서 조사하는 건 어렵지 않다. 이런 의견 가진 사람, 저런 의견 가진 사람을 다 경청해 나름의 균형을 유지하는 것도 난이도 높은 일은 아니다. 이런 뒷단의 움직임이 묵직하게 받쳐주지 않으니, 앞단에서 벌어지는 표면적 현상들에 일일이 놀라 펄쩍 뛰며 팔랑팔랑 움직일 수밖에. 

AI, 무섭다. 앞으로 더 무서워질 것이다. 모든 신기술들이 그렇다. 그런데 그 무서움을 나의 가벼움이 필요 이상으로 배가시키고 있지는 않은지 돌아보긴 해야 한다. 약간 더 알아보는 실천력, 그것이 AI 시대의 핵심 무게추다. 그런 내적 체중을 늘리지 않는다면, 주변과 맥락에 대한 관찰 없이 '기사 실명'이라는 네 글자만 보고 화들짝 놀라기를 반복하며 살게 될 확률이 높다. 🆃🆃🅔

by 문가용 기자(anotherphase@thetechedge.ai)


[TE머묾] 피해를 피해로 인식해야 개선되지
💡Editor’s Pick - 직원 정보 집중적으로 노리는 요즘 해커들, 매우 영리 - 직원 사칭하면 얻어낼 것 많아...기계 해킹보다 사람 해킹 쉬운 이유 - 단계별 공격 차분히 진행하는 게 어느 덧 디폴트 기업 노리는 해커들이 최근 직원 데이터를 집중 공략하고 있다. 얼마 전 서로 다른 해킹 그룹들이, 제각각의 수법으로 침해

Read more

[포인트 콕콕] 멀웨어와 결합하며 더 무서워진 클릭픽스

[포인트 콕콕] 멀웨어와 결합하며 더 무서워진 클릭픽스

💡Editor's Pick - 클릭픽스 확산과 진화 속도, 무시하면 큰일 - 베놈 멀웨어를 피해자가 직접 실행하도록 유도하면서 공격 속도 증가 - 앞으로도 더 진화된 클릭픽스 나올 가능성 높아 클릭픽스가 우습나? 그렇다면 오산이다. 흔한 소셜엔지니어링 기법의 변종일 뿐이라고 얕봐서는 큰코 다친다. 특히 최근 해커들은 클릭픽스 기법에 베놈 스틸러(Venom Stealer)

By 문가용 기자
크로아하트먼 曰, “AI 슬롭, 빠르게 해결되는 중”

크로아하트먼 曰, “AI 슬롭, 빠르게 해결되는 중”

💡Editor's Pick - 커널 생태계서 영향력 높은 인물, "AI가 변했다" - 얼마 전까지 AI가 만드는 쓰레기가 오픈소스에서 큰 문제였는데 - 단 1인의 소감일 뿐? 아직 뒷받침 될 만한 추가 증언은 없어 ‘AI가 쓰레기를 생성한다’는 경고의 목소리가 여기저기서 나오고 있는 가운데, 갑자기 상황이 바뀌었다는 증언이 나오기

By 문가용 기자
왜 우리나라 해커들은 제품이 아닌 사람을 팔게 되는가

왜 우리나라 해커들은 제품이 아닌 사람을 팔게 되는가

최근 Youtube를 통해 하나의 영상을 흥미롭게 끝까지 시청했다. 영상을 보면서 영상을 제작한 사람은 누구인가? 어떻게 이런 생각을 하게 되었는가? 등이 궁금했다. 그러다 문득 영상을 통해 규제 대응, 눈앞의 프로젝트 등의 논평을 들으면서 자칫 잘못하면 인재들이 잘못된 선택을 하고 있으며 그 결과 세계적인 기업에 밀리는 상황에 이르렀다고 인식할 수도 있겠다 싶었다.

By Donghwi Shin, Jin Kwak