인식하고 움직이는 제품 - AI의 판단과 모터의 행동 사이에 있어야 할 설계

AI가 카메라로 보고 판단하는 제품, 그리고 모터로 무언가를 움직이는 제품을 각각 다뤄 왔습니다. 이 둘이 합쳐진 제품, 즉 "인식한 대로 움직이는" 제품이 늘고 있습니다. 반려동물을 알아보고 문을 열어주는 기기, 잡초만 골라 뽑는 장비, 손짓을 따라 방향을 바꾸는 가전까지, 피지컬 AI라 불리는 이 흐름은 이제 트렌드 소개가 아니라 개발 상담의 실제 안건이 되었습니다.

결론을 먼저 말씀드리면, 인식하고 움직이는 제품의 설계에서 가장 중요한 것은 인식의 정확도도 구동의 힘도 아니라, 그 둘 "사이"에 놓이는 층입니다. AI의 판단은 언제든 틀릴 수 있고, 모터의 움직임은 물리적 결과를 되돌릴 수 없습니다. 틀릴 수 있는 판단과 되돌릴 수 없는 행동이 직결된 제품은 언젠가 반드시 사고를 만들며, 그 사이에 판단을 거르고 행동을 제한하는 층을 세우는 것이 이 유형 제품 설계의 본체입니다.

인식과 구동이 만나는 제품의 품질은 그 둘 사이에 놓인 층이 결정합니다.

틀리는 판단과 되돌릴 수 없는 행동

화면에 알림을 띄우는 AI 제품에서 오인식의 대가는 사용자의 짜증 정도입니다. 그런데 같은 오인식이 모터에 연결되는 순간 대가의 종류가 바뀝니다. 사람의 손을 물체로 오인한 장치가 움직이고, 없는 장애물을 피하려던 장비가 실제 장애물에 부딪히는 식으로, 판단의 오류가 물리 세계의 사건이 됩니다. AI의 오답 처리 설계가 제품 신뢰성을 결정한다는 이야기를 드린 적이 있는데, 움직이는 제품에서는 신뢰성이 아니라 안전의 문제로 무게가 올라갑니다.

그래서 설계의 출발 질문은 "얼마나 정확하게 인식하는가"가 아니라 "가장 나쁜 오인식이 일어났을 때 무슨 일까지 벌어질 수 있는가"입니다. 이 질문의 답을 기능 목록의 기능마다 적어 보면, 어떤 동작은 판단 즉시 실행해도 되고, 어떤 동작은 확인을 거쳐야 하며, 어떤 동작은 AI에게 맡기면 안 된다는 구분이 저절로 나옵니다. 음성 제품에서 명령마다 "틀렸을 때의 대가"로 반응 문턱을 다르게 정했던 것과 같은 원리이며, 움직이는 제품에서는 그 구분이 훨씬 엄격해야 합니다.

사이에 세우는 층: 거르고, 제한하고, 멈춥니다

• "판단 거르기": 한 프레임의 인식 결과로 바로 움직이지 않고, 연속된 판단이 일치할 때만 행동으로 넘기는 층을 둡니다. 개인화에서 천천히 배우는 신중함이 신뢰를 만들었듯, 구동에서는 성급하지 않은 반응이 안전을 만듭니다
• "행동 제한하기": AI가 어떤 값을 내놓아도 모터가 넘을 수 없는 속도·힘·범위의 한계를 판단 층이 아니라 구동 층에 박아 둡니다. 소프트웨어 한계와 별개로, 기구적 멈춤 구조가 최후의 선을 지키면 더 안전합니다
• "독립적으로 멈추기": 과전류 감지, 끼임 감지, 비상 정지 버튼처럼 AI의 판단을 거치지 않고 작동하는 정지 수단을 둡니다. 판단이 잘못된 상황에서는 판단에게 멈춤을 맡길 수 없기 때문입니다
• "안전한 기본 상태 정하기": 전원이 끊기거나 인식이 멈추거나 통신이 끊어졌을 때 제품이 어느 상태로 돌아갈지를 정의합니다. 열리는 쪽이 안전한 제품과 닫히는 쪽이 안전한 제품은 다르며, 이 "모르면 이 상태로"의 정의가 페일 세이프 설계의 핵심입니다

움직임의 한계는 판단하는 층이 아니라 구동하는 층에 박혀 있어야 합니다.

인식과 구동은 서로를 방해하는 사이이기도 합니다

사이의 층과 함께 설계해야 할 것이 둘의 "분리"입니다. 모터와 솔레노이드가 전원에 요구하는 것을 다룬 글에서 말씀드렸듯, 구동 부품은 켜지는 순간 큰 전류를 당기며 전원을 흔들고 잡음을 뿌립니다. 그런데 이 제품에서 그 옆에 있는 것은 하필 민감한 센서와 AI 처리 회로입니다. 모터가 움직이는 순간 카메라 영상에 잡음이 끼고 센서 값이 튀면, 제품은 "움직이는 동안 눈이 흐려지는" 구조가 됩니다. 자기가 움직여 놓고 그 진동을 이상 신호로 오인하는 되먹임도 이 유형의 고전적인 함정입니다.

해법의 방향은 익숙합니다. 전원의 분리와 기판 배치의 분리라는 회로 쪽 설계, 진동원과 센서를 떼어놓는 기구 쪽 설계, 그리고 자기가 만든 움직임의 영향을 알고 그 동안의 측정을 다르게 취급하는 처리 쪽 설계가 함께 가는 것입니다. 측정형 시제품 시리즈에서 "제품 자신의 열"과 "제품 자신의 소리"가 가장 큰 방해물이었듯, 인식하고 움직이는 제품에서는 "제품 자신의 움직임"이 가장 큰 방해물입니다.

판단 기준은 한 문장입니다

"AI가 최악의 오판을 내린 순간에도, 이 제품이 물리적으로 할 수 있는 가장 나쁜 일은 무엇인가." 이 질문의 답이 "받아들일 수 있는 수준"이 되도록 거름과 제한과 독립적 멈춤을 쌓는 것이 이 유형 제품 설계의 전부라 해도 지나치지 않습니다. 인식의 정확도는 제품의 매력을 만들지만, 사이의 층은 제품의 자격을 만듭니다.

판단 회로와 구동 회로의 분리는 이 유형 제품의 기판에서 가장 먼저 그려지는 선입니다.

제언: 움직임의 자격부터 설계하십시오