티스토리 뷰

인공지능도 해킹 을 당한다?





인공지능, 4차 산업혁명 시대에 빼놓고 말할 수 없는 기술이죠. 인공지능의 다양한 장점 중 하나는 바로 데이터 전송 속도가 빨라서 보안 위협에도 대처할 수 있다는 점인데요. 그래서인지 대부분의 사람들은 인공지능이 해킹이나 보안으로부터 안전하다고 생각한답니다.


그러나 기술이 발전함에 따라 인공지능 해킹 기술까지 크게 발전하고 있는데요. 인공지능은 어떤 방식으로 해킹을 당할 수 있을까요? 인공지능을 해킹으로부터 보호하려면 어떻게 해야 할까요?



인공지능 스피커, 당신을 도청할 수 있다?!


요즘 인공지능 스피커가 널리 사용되고 있죠. 오늘의 날씨를 알려주거나 음악을 추천하는 등 유용한 기능을 갖추고 있어서 큰 인기를 끌고 있는데요. 하지만 인공지능 스피커 역시 해킹으로부터 안전하지 않답니다.


작년 5월, 아마존(amazon)에서 출시한 인공지능 스피커가 다른 사람의 대화 내용을 녹음하여 타인에게 전송하는 사고가 일어났습니다. 미국 오리건주의 한 가정에서 사용 중인 인공지능 스피커가 부부의 사적인 대화를 임의로 녹음하여 지인에게 전송한 건데요. 아마존에 확인한 결과 부부의 대화를 감지한 인공지능이 '메시지를 전송하라'라는 명령으로 오인해서 이런 일이 일어났다네요. 해당 사건을 계기로 인공지능 스피커 보안에 대한 우려가 커졌답니다.


게다가 현재 인공지능 스피커를 제조하는 기업들은 자사의 스피커에 녹음된 음성 데이터를 서비스 개선 목적으로 보관하고 있는데요. 이런 상황에서 자칫 보안이 허술해진다면 더 큰 유출 사고가 일어날 수 있겠죠.





더불어 최근에는 고주파를 통해 인공지능 스피커를 해킹하는 기술까지 개발됐다는군요. UC버클리대 연구팀은 사람의 귀에 들리지 않는 고주파로 인공지능 스피커에 명령을 내리는 실험을 진행했는데요. 이 고주파의 경우 사람은 듣지 못하지만 스피커나 스마트폰 등은 사람 목소리와 같은 소리로 인식한다고 해요.


연구진은 애플의 인공지능 비서인 '시리', 아마존의 '알렉사', 구글의 '구글 어시스턴트' 등 다양한 서비스를 통해 실험을 진행했는데요. 그 결과 모든 서비스에서 사용자 몰래 전화를 걸거나 문자를 보내는데 성공했다고 해요.

이를 악용해 다른 사람들의 개인 정보를 유출하거나, 온라인에서 함부로 결제를 할 수도 있겠죠?





인공지능이 인공지능을 해킹할 수 있다?!




인공지능이 인공지능을 해킹하는 기술도 있습니다. 얼굴을 인식하는 인공지능을 해킹하는 기술이 시발점인데요. 


컴퓨터나 휴대전화에 활용되고 있는 얼굴 인식 인공지능은 주인의 얼굴만 인식하기 때문에 그동안 보안에 강하다고 알려졌습니다. 그런데 지난 2월, 일본 쓰쿠바(筑波) 대학의 인공지능과학센터 연구팀이 다른 인공지능을 이용하여 얼굴인식 인공지능을 속이는 실험에 성공했어요. 이들은 특정인의 얼굴을 학습한 인공지능을 다른 인공지능으로 공격해 학습한 얼굴을 유추하도록 했는데요. 공격대상 인공지능에게 얼굴 모양을 고속으로 보여주며 학습한 얼굴과 어느 정도 닮았다고 인식하는지 파악했습니다. 이렇게 얻은 정보를 토대로 얼굴인식 인공지능이 '진짜'라고 인식하는 데이터를 재현하는데 성공했죠.


이는 제3자가 인공지능 기술을 이용해 안면인식 인공지능을 완벽히 속일 수 있음을 밝힌 실험이었답니다. 당장 악용되지는 않겠지만, 장차 안면 인증 보안체계가 뚫릴 우려를 무시할 수 없게 됐어요.





인공지능은 머신러닝(machine learning, 컴퓨터 스스로 학습하는 능력) 기술을 활용하여 사용자의 행동을 흉내 낼 수 있는데요. 그렇기 때문에 앞으로 인공지능이 해커의 역할을 대신할 수 있을 것으로 전망됩니다. 현재 인공지능 해커는 한 기업의 시스템을 교란시키는 수준까지 도달했는데요. 인공지능 해커가 지금보다 더 진화한다면, 기존의 인공지능까지 해킹할 수 있을 거라 예측되고 있습니다.



인공지능이 해킹에서 자유로워지려면?


역으로 인공지능을 해킹 방어용으로 개발하려는 움직임도 있는데요. 인공지능에게 악성코드를 분석하게 한 뒤, 이 악성코드를 탐지하면 해킹을 예방할 수 있다고 하네요. 인공지능은 24시간 쉬지 않고 분석 및 탐색이 가능하기 때문에 해킹을 지속적으로 방어할 수 있답니다.




그 밖에도 해킹방어대회를 실시하고, 인공지능으로 인한 사생활 침해 예방을 위한 취약점 신고 포상제 등의 방안이 주목받고 있는데요. 하지만 아직 인공지능 해킹을 예방하는 기술은 초기 단계에 머물러 있는 실정입니다.




구슬이 서말이라도 꿰어야 보배, 아무리 좋은 기술도 사용하기 나름


영화 『다이하드 4.0』을 본 적 있으신가요? 이 영화에서는 해킹을 이용해 국가의 중요 시스템을 마비시키는 장면이 등장하는데요. 아직 영화만큼의 대규모 사이버 테러가 일어나지는 않았지만, 철통보안이라 생각했던 인공지능이 해킹된 사례를 살펴보면 미래에는 영화와 같은 일이 일어날 가능성도 충분해 보입니다.





자율주행자동차, IoT 등 모든 물체가 통신망으로 연결될 미래 사회! 기술이 발전하는 만큼 이를 악용하는 기상천외한 방법들도 다수 생겨날 텐데요. 이를 예방하는 기술 분야 육성에도 국가적인 관심을 많이 기울였으면 하는 바람입니다~! 




댓글쓰기 폼