자율 주행 자동차, 거리 표지판에 스티커를 붙이는 것 만으로 해킹 가능해

Self-Driving Cars Can Be Hacked By Just Putting Stickers On Street Signs

<이미지 출처 : http://thehackernews.com/2017/08/self-driving-car-hacking.html>

University of Washington의 연구원들이 집에서 스티커를 프린트해서 도로 표지판에 붙여 “대부분의” 자율 주행 자동차들이 표지판을 오인식해 사고를 발생시킬 수 있는 방법을 시연했습니다.

연구원들에 따르면, 대부분의 자율 주행 자동차에 사용 되는 이미지 인식 시스템이 도로 표지판의 일부분 또는 전체에 스티커를 붙이거나 포스터로 가렸을 경우 인식하지 못하는 것으로 나타났습니다.

"Robust Physical-World Attacks on Machine Learning Models"라는 논문에서 이 연구원들은 컬러프린터와 카메라만을 사용해 자율 주행 차가 도로 표지판들을 읽고 분류하는 방식을 혼란스럽게 하는 몇 가지 방법들을 시연했습니다.

<이미지 출처 : http://thehackernews.com/2017/08/self-driving-car-hacking.html>

“STOP(정지)” 표지판에 단순히 “Love”와 “Hate” 스티커를 붙이는 것 만으로, 연구원들은 자율주행 자동차의 이미지 인식 알고리즘이 100%의 확률로 이 표지판을 “Speed Limit 45(속도 제한 45)” 표지판으로 인식하게 하는데 성공했으며,  “RIGHT TURN(우회전)” 표지판에 동일한 방법으로 자율 주행 자동차들이 2/3의 확률로 이 표지판을 “STOP(정지)” 표지판으로 인식하게 하는데도 성공했습니다. 또한 연구원들은 더 작은 크기의 스티커들을 STOP 표지판에 붙여, 자율 주행 자동차들이 100%의 확률로 표지판을 그저 거리의 예술품으로 인식하도록 했습니다.

연구원들은 “우리는 작은 혼란들을 일으킴으로써 분류기를 혼동시키기에 충분하다고 생각한다.”

“미래에, 우리는 또 다른 경고 표지판들을 오분류 하도록 만드는 공격을 실험해볼 계획이다.”고 밝혔습니다.

연구원들이 실험에 사용한 자율 주행 차량의 제조사를 밝히지는 않았지만, 이로써 우리는 자율 주행 차량에 대한 위협이 미래에도 발생할 수 있다고 생각하도록 했습니다.

출처 :

http://thehackernews.com/2017/08/self-driving-car-hacking.html