RoboPocket은 로봇을 매번 실제로 움직이는 대신 스마트폰 화면에 정책의 예상 궤적을 AR로 보여주고, 사용자가 고친 경로를 온라인 파인튜닝 데이터로 되돌립니다. 이 방식은 교정 수집의 하드웨어 병목을 줄일 수 있지만 폰과 로봇 좌표, 지연, 실행 가능성 차이를 없애지는 않습니다. 새 정책은 offline 평가와 제한된 실제 로봇 시험을 통과한 뒤에만 승격해야 합니다.
스마트폰 피드백만으로 로봇 정책을 고칠 수 있나: RoboPocket
스마트폰 좌표를 로봇 경로로 어떻게 옮기나
Phone camera가 본 공간과 robot base 좌표 사이의 변환이 정확해야 합니다. 화면에서 직선으로 보이는 경로도 depth scale이 틀리면 실제로 장애물을 통과할 수 있습니다. Calibration target과 고정 기준점을 사용하고 기기 pose uncertainty를 각 trajectory에 저장해야 합니다.
사용자가 폰을 움직인 경로는 end-effector 위치만 표현할 수 있고 그리퍼 방향, 관절 configuration은 빠질 수 있습니다. Inverse kinematics로 가능한지, joint limit와 self-collision을 만족하는지 학습 전에 검사합니다. 같은 end point에도 여러 robot 자세가 가능하므로 실행 policy가 어느 해를 선택하는지도 봐야 합니다.
Network 지연은 observation과 AR prediction의 시점을 어긋나게 합니다. Frame capture, server inference, overlay와 사용자 correction timestamp를 남기고 오래된 trajectory는 경고하거나 폐기합니다. 빠르게 움직이는 물체가 있는 장면은 정적 가구보다 훨씬 엄격한 시간 정렬이 필요합니다.
교정 데이터의 품질은 어떻게 판정할까
교정이 원래 policy보다 장애물 여유를 늘리고 목표에 가까워졌는지 자동 규칙으로 먼저 봅니다. 경로 길이만 줄인 correction이 충돌 위험을 높일 수 있으므로 clearance, smoothness, 목표 pose와 실행 가능성을 함께 평가합니다. 품질이 낮은 항목은 즉시 학습하지 않고 재검토 queue에 둡니다.
여러 사용자가 같은 장면을 다르게 고치면 하나를 정답으로 평균내기 어렵습니다. 여러 안전한 경로가 존재할 수 있고 task preference도 다를 수 있습니다. Scene, 목표, robot 상태가 같은 교정을 묶고, 충돌하는 경우 다양성을 보존하거나 전문가 승인을 받습니다.
사용자 평판만으로 품질을 결정하면 초보자의 새로운 유용한 경로를 버리거나 다수의 같은 오류를 강화할 수 있습니다. 실제 robot success와 연결된 correction 성과를 뒤늦게 반영하고 device, 환경별 bias를 확인합니다.
비동기 학습은 어떤 gate를 통과해야 하나
새 correction batch는 기존 checkpoint와 분리해 학습하고 offline replay에서 충돌, 목표 도달, 일반화 성능을 비교합니다. 학습에 포함되지 않은 고정 장면과 과거에 잘하던 task를 사용해 catastrophic forgetting을 찾습니다. Loss가 줄었다는 사실은 실제 정책이 안전해졌다는 증거가 아닙니다.
Offline gate를 통과한 model은 simulation, 빈 공간의 실제 robot, 제한된 workspace 순으로 올립니다. 속도, 힘, 작업 범위를 줄인 canary에서 시작하고 emergency stop과 human supervisor를 둡니다. 실패하면 이전 policy로 routing하고 어떤 correction batch가 원인이었는지 추적합니다.
Policy version을 AR 화면에 표시해 사용자가 어느 model을 교정했는지 알 수 있어야 합니다. 오래된 prediction에 대한 correction이 새 policy에 섞이면 의도와 데이터 분포가 달라질 수 있습니다. Data, model, evaluation version을 연결해야 빠른 loop가 통제 가능한 loop가 됩니다.
Crowdsourcing에는 어떤 개인정보가 생기나
Phone 영상에는 집 내부, 얼굴, 문서와 위치 정보가 들어갈 수 있습니다. 필요한 robot workspace 영역만 crop하고 원본 영상 보관 여부와 기간을 사용자에게 설명해야 합니다. Upload 전 preview, 삭제와 training 사용 동의를 분리합니다.
여러 지역의 사용자가 보내는 data는 robot task뿐 아니라 device, 집 구조 분포도 다릅니다. 특정 환경이 과대표집돼 다른 공간의 정책을 나쁘게 만들 수 있습니다. 환경별 성능과 correction 수를 보고 학습 sampling을 조정하되 희귀 환경을 단순 제거하지 않습니다.
실제 도입에서는 무엇부터 시험할까
접촉이 없고 저속으로 움직이는 단순 reach task에서 시작합니다. Phone correction이 기존 demonstration보다 얼마나 빨리 모이고, offline 성능과 실제 성공률을 얼마나 올리는지 측정합니다. 2배 효율 주장은 자체 task에서 필요한 human minute, network, training 비용과 함께 재현해야 합니다.
Force control, 정밀 삽입, 사람 근처 작업은 screen trajectory만으로 충분하지 않을 수 있습니다. 추가 sensor와 expert demonstration을 사용하고 RoboPocket을 보조 data channel로 제한합니다. 스마트폰의 접근성이 안전 검증 책임까지 줄여 주지는 않습니다.
함께 읽으면 이해가 이어지는 글
- 실물 시행착오 없이 로봇 정책을 개선할 수 있나: RISE의 상상 롤아웃 — RISE가 동역학 모델과 진행 가치 모델을 조합해 가상 롤아웃으로 정책을 개선하는 구조, 세 조작 과제 성과와 모델 편향 위험을 분석합니다.
- 인간 1인칭 영상이 로봇 학습에 바로 쓰이지 못하는 이유: PhysBrain E2E — PhysBrain이 인간 egocentric video를 perception, intention/action, state change가 연결된 E2E 데이터로 바꾸는 과정과, 사람 손에서 robot gripper로 옮길 때 남는…
- RoboVIP은 로봇 영상을 왜 텍스트 대신 참조 이미지로 바꾸나 — 객체와 배경의 시각적 정체성을 유지한 다중 뷰 비디오로 로봇 정책 데이터를 늘리는 방법과 물리 오류 검수
자주 묻는 질문
RoboPocket이면 실제 로봇 없이 정책을 완성할 수 있나요?
스마트폰은 실패 가능성이 큰 교정 데이터 수집을 줄이는 도구입니다. 최종 궤적, 관절 한계, 접촉과 안전은 실제 로봇에서 제한된 검증을 거쳐야 합니다.
사용자가 그린 AR 경로를 바로 학습 데이터로 써도 되나요?
폰 pose, camera calibration, network 지연과 사용자의 교정 품질이 함께 들어갑니다. 실행 가능성 검사와 품질 점수, 중복, 충돌 교정 처리를 거친 뒤 학습 후보로 사용해야 합니다.
비동기 업데이트는 정책 개선을 즉시 보장하나요?
새 데이터로 빠르게 학습해도 기존 작업을 잊거나 위험 궤적이 생길 수 있습니다. 고정 평가와 실제 로봇 안전 시험을 통과한 checkpoint만 승격하고 rollback을 준비해야 합니다.
표지 1 —
←→ 키와 좌우 스와이프를 지원합니다. 읽던 페이지는 이 기기에 저장됩니다.
이 기사는 저작권자의 CC BY 4.0 라이센스를 따릅니다.