JKSPE
[ REGULAR ]
Journal of the Korean Society for Precision Engineering - Vol. 40, No. 4, pp.301-308
ISSN: 1225-9071 (Print) 2287-8769 (Online)
Print publication date 01 Apr 2023
Received 19 Sep 2022 Revised 12 Dec 2022 Accepted 26 Dec 2022
DOI: https://doi.org/10.7736/JKSPE.022.112

지자기센서를 이용하지 않는 6축 IMU 기반의 3차원 관절각 추정용 순환 신경망

이창준1 ; 김우재2 ; 이정근3, #
1한경대학교 융합시스템공학과
2한경대학교 기계공학과
3한경대학교 ICT로봇기계공학부
A Recurrent Neural Network for 3D Joint Angle Estimation based on Six-axis IMUs but without a Magnetometer
Chang June Lee1 ; Woo Jae Kim2 ; Jung Keun Lee3, #
1Department of Integrated Systems Engineering, Hankyong National University
2Department of Mechanical Engineering, Hankyong National University
3School of ICT, Robotics and Mechanical Engineering, Hankyong National University

Correspondence to: #E-mail: jklee@hknu.ac.kr, TEL: +82-31-670-5112

Copyright © The Korean Society for Precision Engineering
This is an Open-Access article distributed under the terms of the Creative Commons Attribution Non-Commercial License (http://creativecommons.org/licenses/by-nc/3.0) which permits unrestricted non-commercial use, distribution, and reproduction in any medium, provided the original work is properly cited.

Abstract

Inertial measurement unit (IMU)-based 3D joint angle estimation have a wide range of important applications, among them, in gait analysis and exoskeleton robot control. Conventionally, the joint angle was determined via the estimation of 3D orientation of each body segment using 9-axis IMUs including 3-axis magnetometers. However, a magnetometer is limited by magnetic disturbance in the vicinity of the sensor, which highly affects the accuracy of the joint angle. Accordingly, this study aims to estimate the joint angle using the 6-axis IMU signals composed of a 3-axis accelerometer and a 3-axis gyroscope without a magnetometer. This paper proposes a recurrent neural network (RNN) model, which indirectly utilizes the joint kinematic constraint and thus estimates joint angles based on 6-axis IMUs without using a magnetometer signal. The performance of the proposed model was validated for a mechanical joint and human elbow joint, under magnetically disturbed environments. Experimental results showed that the proposed RNN approach outperformed the conventional approach based on a Kalman filter (KF), i.e., RNN 3.48o vs. KF 10.01o for the mechanical joint and RNN 7.39o vs. KF 21.27o for the elbow joint.

Keywords:

Joint angle estimation, Inertial measurement unit, Magnetometer, Recurrent neural network, Joint constraint

키워드:

관절각 추정, 관성측정장치, 지자기센서, 순환 신경망, 관절 구속조건

1. 서론

3차원 관절각 추정은 보행 분석[1-3]과 외골격 로봇 제어[4,5] 등의 다양한 응용분야에서 중요한 부분을 차지한다. 기존에는 관절각을 추정하기 위해 주로 적외선 카메라를 통해 광학 마커를 추적하는 방식인 광학모션캡쳐(Optical Motion Capture, OMC) 시스템이 사용되었다. 하지만 이 시스템은 카메라가 갖춰진 실험실 내에서만 활용 가능하기 때문에, 응용분야가 매우 제한된다는 한계점을 지닌다. 최근에는 이러한 카메라 기반의 시스템 대신, 공간의 제약을 받지 않고 원격 감지가 가능한 관성측정장치(Inertial Measurement Unit, IMU)가 활발하게 활용되고 있다. 저가 및 경량의 센서 모듈인 IMU는 신체에 쉽게 부착되어 야외와 같은 환경에서도 관절각[6-12]이나 위치[13-15]와 같은 다양한 물리량들을 추정할 수 있다는 이점을 지닌다.

관절각은 해당 관절로 연결된 인접한 두 분절 간의 상대적인 자세를 나타내며, 이를 얻기 위해서는 각 분절의 3차원 자세 정보가 요구된다. 이에 따라서 기존에는 두 분절 각각의 자세를 9축 IMU를 이용하여 추정한 후에, 두 분절의 자세를 결합하여 관절각을 결정하였다. 여기서 9축 IMU는 3축 자이로스코프, 3축 가속도계, 그리고 3축 지자기센서로 구성된다. 9축 IMU를 통한 자세 추정의 기본 절차는 자이로스코프의 각속도 신호를 스트랩다운 적분하여 자세를 예측하되[16], 가속도계와 지자기센서 신호를 통해 기울기와 헤딩에 발생하는 표류오차를 지속적으로 보정하는 것이다. 즉, 3차원 자세의 추정을 위해서는 헤딩보정을 위하여 칼만필터(Kalman Filter)와 같은 융합 알고리즘 내에서 6축 IMU와 함께 지자기센서가 필수적으로 사용되고 있다[17-20]. 여기서 6축 IMU는 9축 IMU에서 지자기센서가 제외된 것이다.

지구자기장을 감지하는 지자기센서는 헤딩 정보를 추정함에 있어서 필수적이지만, 지구자기장뿐만이 아닌 외부 환경이나 자성체에 의한 자기장을 함께 감지하는 일명 자기교란(Magnetic Disturbance) 문제를 지닌다. 이러한 자기교란은 헤딩 추정에 있어서 오차를 발생시키는 요인으로, 이는 관절각의 정확도 저하 문제로 이어지게 된다. 헤딩의 정확도를 향상시키기 위해 칼만필터 내에 자기교란 보상 메커니즘이 삽입되어 사용되기도 하였지만[17-20], 자기교란으로 인한 오차 발생 문제는 여전히 발생하고 있다.

이러한 문제를 갖는 지자기센서를 사용하는 대신 관절이 갖는 구속조건을 활용하는 연구들이 진행된 바 있다. Seel 등[6]은 무릎 관절을 굴절/신전이 이뤄지는 1자유도의 경첩 관절로 가정하여 무릎의 관절각을 추정하는 방법을 제안하였다. 이 방법에서는 두 분절 좌표계에서 공통된 회전축과 관절중심점을 갖는 다는 가정을 바탕으로 한 조건식을 활용하여 무릎의 굴절/신전 각도를 추정하였다. 또한 Müller 등[7]과 Laidig 등[8]은 두 개의 회전 축을 갖는 2자유도 관절의 회전 각도를 추정함에 있어서, 각각의 회전 축이 특정 분절 좌표계에 대해서 고정되어 있다는 조건을 활용하였다. 예로 팔꿈치 관절의 경우, 굴절/신전 축은 윗팔 좌표계에, 그리고 회내/회외 축은 아랫팔의 좌표계에 고정되어 있는 것으로 가정되었다. 참고문헌[9-12]에서는 두 분절 좌표계에서 계산된 관절중심점의 가속도가 일치해야 하는 구속 조건 식을 칼만필터와 최적화 기반 스무딩 기법 등에 적용하여 3차원 관절각을 추정하였다. 두 가지 방법 모두 동적조건에서 높은 추정 성능을 보였으나, 추정에 앞서 적절한 공분산의 선정과 바이어스 제거 등의 과정이 요구된다.

최근에는 다양한 물리량의 추정 문제에 기계학습(Machine Learning) 기술이 활발하게 적용되고 있다. 기계학습은 역학에 기반한 수학적인 모델링 없이 데이터를 바탕으로 모델을 구현할 수 있으며, 학습 과정을 통하여 데이터 내에서 자동적으로 패턴을 찾아낸다는 이점을 지닌다. 이러한 기계학습 기법 중 하나인 순환 신경망(Recurrent Neural Network, RNN)은 시계열 데이터를 추정하는데 효과적으로 활용된다. 예로, Weber 등[21]은 IMU를 통해 기울기 자세 쿼터니언(Quaternion)을 추정하기 위하여 순환 신경망의 한 종류인 게이트 순환 유닛(Gated Recurrent Unit, GRU)을 적용한 방법을 개발하였다. 이 연구에서는 IMU 신호를 입력으로 자세 쿼터니언을 출력하는 모델을 구현하였으며, 다양한 데이터셋을 대상으로 한 검증 결과에서 높은 성능이 확인되었다. 순환 신경망을 활용하여 관절각을 추정하는 연구들도 진행된 바 있다. Hernandez 등[22]과 Hossain 등[23]은 합성곱 층(Convolutional Layer)과 순환 층(Recurrent Layer)을 결합한 형태의 신경망을 통하여 걷기와 달리기 등의 동작에 대한 하체 관절각을 추정하였다. Sharifi Renani 등[24]은 보행 중 고관절과 무릎의 관절각을 추정하기 위해 양방향 순환 신경망을 적용하였다. 상기 연구들은 순환 신경망을 통해 관절각을 추정하였다는 점에서 의미를 갖지만, 모두 보행과 같은 특정한 동작에 대해서만 응용 가능하다는 한계점을 지닌다. 예로 팔꿈치나 어깨 관절은 무릎 관절에 비해 더 다양한 방향의 회전이 이뤄지기 때문에, 상체의 동작에 대해서는 적용되기는 어려울 것으로 예측된다.

본 논문에서는 지자기센서를 이용하지 않고 6축 IMU만을 이용하여 3차원 관절각을 추정하는 순환 신경망 모델을 제안한다. 제안하는 신경망은 Weber 등[21]이 개발한 기울기 자세 추정용 신경망 모델을 기반으로 설계되었다. 제안방법에서는 자기교란 문제를 갖는 지자기센서를 사용하지 않고 3차원 관절각을 추정하기 위해 관절의 기구학적인 구속조건을 간접적으로 활용한다. 제안된 신경망 모델의 학습 및 검증은 기계 관절과 팔꿈치 관절을 대상으로 진행되었다.


2. 방법

2.1 관절각 추정 순환 신경망

관절각은 두 분절 좌표계 간의 상대적인 자세에 해당하며, 이를 표기하는 방법 중 하나로 쿼터니언이 있다. 예로, 고정 관성 좌표계에서 관찰된 어느 한 분절 좌표계 {i}의 자세를 나타내는 쿼터니언을 다음과 같이 표현 가능하다.

qi=q0    e(1) 

여기서, q0는 스칼라 성분이며, e(=[q1 q2 q3])는 벡터 성분이다. 이와 같은 방식으로 하나의 관절로 연결된 인접한 두 분절의 좌표계 {i}와 {j}의 자세를 표현하였을 때, 두 분절 간의 상대자세를 나타내는 쿼터니언은 다음과 같이 결정된다.

qij=qi-1qj(2) 

여기서 ⊗는 쿼터니언 곱셈 연산자이다.

본 논문에서는 시계열 데이터의 추정 문제에 적합한 순환 신경망을 활용하여 쿼터니언 qij를 추정하고자 한다. 하지만 기본적인 순환 신경망 셀은 장기 의존성 문제를 가지기 때문에, 긴 시퀀스의 관절각 추정 문제에서는 높은 성능을 기대하기 어렵다. 이에 제안방법에서는 기존의 순환 신경망 셀을 변형시킨 장단기 메모리(Long Short-Term Memory, LSTM)를 적용한다.

순환 신경망을 통하여 관절각을 높은 성능으로 추정하기 위해서는 신경망 입력 데이터의 선정이 중요하다. 기존에는 두 분절에 부착된 IMU와 지자기센서 신호를 이용하여 각 분절의 3차원 자세를 추정한 후에 관절각을 결정하였지만, 이는 자기 교란으로 인한 부정확성 문제를 지닌다. 대신, 최근 연구에서는 IMU 신호와 구면 관절이 갖는 기구학적 구속조건을 활용하여 관절각을 추정하는 기법들이 개발된 바 있다[9-12]. 이에 활용되는 구속조건 식은 두 분절로부터 전파된 관절 중심점의 가속도가 동일해야 함을 나타내는 식에 해당하며, 이는 다음과 같다.

qiiaCoJ,iqi-1=qjjaCoJ,iqj-1(3) 

여기서 iaCoJ, ijaCoJ, i는 각각 분절 ij로부터 계산된 관절중심점의 가속도 벡터에 해당한다. 예로 분절 i의 경우, 관절 중심 가속도는 다음과 같이 계산 가능하다.

iaCoJ,i=iai+iω˙i×isi+iωi×iωi×isi(4) 

여기서 iai는 선형 가속도, iωi는 회전 각속도, iω˙i는 회전 각 가속도, 그리고 isi는 분절 좌표계부터 관절중심점까지의 벡터(Segment-to-Joint Vector, S2J 벡터)에 해당한다. 이 중 선형 가속도 정보는 가속도계 신호에, 그리고 회전 각속도와 각가속도 정보는 자이로스코프 신호에 포함된다. 또한 S2J 벡터는 주로 캘리브레이션을 통하여 고정 상수의 형태로 사전에 미리 결정된다[25]. 이러한 점을 바탕으로 제안방법에서는 두 분절의 IMU 신호와 S2J 벡터를 입력 데이터로 사용할 때, 구면 관절의 구속조건을 활용하는 것과 동일한 효과를 얻을 것으로 가정하였다. 이에 따라서 두 분절의 IMU 신호와 S2J 벡터를 입력 데이터로 선정하였다.

제안하는 순환 신경망은 다음과 같은 구조로 구성된다: 18차원의 입력(두 센서의 3축 가속도계 및 3축 자이로스코프 신호, 그리고 S2J 벡터)을 받는 1개의 입력층, 각각 300차원의 은닉 유닛(Hidden Unit)을 갖는 2개의 LSTM층, 은닉 유닛을 쿼터니언의 차원수인 4차원으로 감소시키는 1개의 선형층, 그리고 출력된 쿼터니언을 크기가 1인 단위 쿼터니언으로 정규화시키는 정규화층. Fig. 1은 제안하는 신경망의 구조를 보여준다. 입력층에서 6축 IMU 신호는 평균이 0, 그리고 표준편차가 1이 되도록 표준화를 시킨다.

Fig. 1

Structure of the proposed network

관절각의 오차로는 실제 관절각 qij와 추정된 관절각 q^ij 간의 상대자세 쿼터니언, 즉 오차 쿼터니언 qerr의 회전 각도 αerr를 사용하며, 오차 쿼터니언과 회전 각도는 각각 다음과 같다.

qerr =qij-1q^ij(5) 
αerr=2arccosqerr,0(6) 

여기서 qerr,0는 오차 쿼터니언의 스칼라 성분이다. 손실함수로는 평균 제곱 오차(Mean Squared Error, MSE)를 사용하였으며, 최적화 기법으로는 PyTorch에서 제공하는 RAdam (Rectified Adaptive Moment Estimation)과 Lookahead를 결합한 Ranger가 적용되었다. 본 연구에서 다뤄지는 관절각 추정과 같이 긴 시퀀스의 추정 문제에서는 시간에 따른 역전파(Backpropagation through Time, BPTT) 과정에서 기울기가 소실되거나 폭주하는 문제가 흔히 발생하게 된다. 이를 방지하기 위하여 본 방법에서는 긴 시퀀스를 적당한 길이 단위로 잘라낸 후에, 잘려진 시퀀스에서 역전파를 수행하는 Truncated-BPTT를 적용하였다.

2.2 데이터

순환 신경망의 학습 및 검증에 필요한 데이터를 수집하기 위하여 6축 IMU와 3축 지자기센서를 포함하는 센서 모듈인 MTw (Xsens Technologies B.V, Netherlands)와 광학모션캡쳐 시스템인 OptiTrack Flex 13 (Natrual Point, USA)을 사용하였다. 이때 기계 관절과 신체 관절에 대한 학습/검증을 위하여, 구면 관절로 연결된 2링크 시스템과 팔꿈치 관절로 연결된 윗팔-아랫팔을 대상으로 진행된 실험 데이터가 사용되었다. Figs. 2(a)2(b)는 각각 기계 관절과 신체 관절에 대한 실험 설정을 보여준다. 기계 관절의 경우, 볼-소켓 관절로 연결된 두 개의 모노포드(Horusbennu, Korea)가 사용되었으며, 각 링크마다 한 개의 MTw와 세 개의 광학 마커가 고정된 삼각자를 부착하였다(Fig. 2(a) 참조). 팔꿈치 관절의 경우, 세 개의 광학 마커가 고정된 마커 클러스터 위에 MTw를 고정시킨 상태로, 벨크로 밴드를 이용하여 윗팔과 아랫팔에 부착하였다(Fig. 2(b) 참조). Fig. 2는 기계 및 팔꿈치 관절에 대한 실험 환경을 보여준다. 두 시스템의 데이터는 모두 100 Hz로 샘플링 되었으며, 두 시스템 간의 각속도 크기 비교를 통하여 시간 동기화를 진행하였다.

Fig. 2

Experimental setup for (a) mechanical and (b) elbow joint

기계 관절 데이터로는 본 연구실에서 이전에 수행되었던 실험 데이터를 사용하였다[9,12,26]. 데이터의 총 개수는 78개이며, 이는 총 6개 날짜에 대한 실험 데이터에 해당한다. 모든 실험은 180초 동안 각 링크의 말단부를 양쪽에서 손으로 잡고 임의의 다양한 방향으로 회전시켜가면서 진행되었으며, 실험 중에 주기적인 자기교란이 주어졌다. 각 날짜의 실험마다 센서의 부착 위치가 조금씩 달라졌으며, 이에 따라서 S2J 벡터 또한 다르게 결정되었다. 이 중 4개 날짜에 대한 데이터(60개)를 학습 데이터로 사용하였다.

팔꿈치 관절 실험에서는 제안 방법의 개념 검증 단계로써 3명(나이: 27.6±0.6세, 키: 1.76±0.04 m, 무게: 84.3±13.6 kg)의 건강한 남성 피험자를 대상으로 실험을 진행하였다. 실험 동작으로는 팔꿈치 관절의 다양한 회전이 나타나도록 다음과 같은 6가지 동작을 수행하였다: (Test 1) 팔꿈치 굽히기, (Test 2) 팔꿈치 굽히면서 손목 회전, (Test 3) 정면에 도형 그리기, (Test 4) 수평면 상에 도형 그리기, (Test 5) 배드민턴 동작, (Test 6) 주먹 휘두르기. 이 중 Test 1부터 4는 메트로놈을 이용하여 동작을 일정 주기(1.5초)로 반복하도록 하였으며, 자기교란을 가하지 않는 경우(Test 1부터 4-1)와 가하는 경우 (Test 1부터 4-2)로 나누어 실험을 진행하였다. 자기교란 조건에서는 실험 중 30-60초 구간에 강자성체의 드라이버를 이용하여 윗팔에 부착된 센서에 자기교란을 가하였다. Test 5와 6은 보통의 속도(Test 5, 6-1)와 빠른 속도(Test 5, 6-2)로 나누어 진행하였으며, 피험자가 원하는 자세와 속도로 동작을 수행하도록 하였다. 각 동작의 실험들은 90초 동안 진행되었다.

신경망의 학습 데이터는 Fig. 3에서 표현된 것과 같이 선정되었으며, 추가적으로 신경망 모델의 성능을 보다 더 향상시키기 위하여 다음과 같은 데이터 증강을 수행하였다: (1) 자이로스코프 신호에 임의의 바이어스 추가, (2) 센서 좌표계를 임의의 방향으로 회전, (3) 바이어스가 추가된 데이터에서 센서 좌표계를 임의의 방향으로 회전. 여기서 첫번째는 1번씩, 그리고 두번째와 세번째는 2번씩 적용되어, 원 데이터를 포함한 학습 데이터의 양이 총 6배로 증가되었다. Fig. 4는 순환 신경망의 전체적인 학습 과정을 보여준다.

Fig. 3

Training and validation data for human elbow joint tests

Fig. 4

Training procedure (CAL: calibration, OMC: optical motion capture)

2.3 검증방법

제안하는 신경망의 성능 검증을 위하여 두 가지의 관절각 추정법과 제안방법의 추정 성능을 함께 비교 분석하였다. 첫 번째 방법(Method 1)은 가속도 보상 메커니즘이 삽입된 칼만필터를 통해 각 분절의 기울기 자세를 추정한 후에, 자이로스코프 신호의 스트랩다운 적분을 통하여 두 분절의 헤딩을 추정하는 방법이다. 두번째 방법(Method 2)은 6축 IMU와 3축 지자기센서 신호를 사용하여 각 분절의 3차원 자세를 추정하는 칼만필터[18]로, Method 1에 헤딩의 보정 단계를 추가한 것에 해당한다. 이때 두가지 방법 모두 자이로스코프 신호에서 바이어스 오차를 제거한 상태로 사용되었다.

이에 더하여 신경망에서 지자기센서 신호를 사용할 때 관절각의 추정 성능에 어떠한 영향을 끼치는지 확인하기 위해, 6축 IMU 신호만을 사용하는 제안된 신경망 모델(Model 1)과 3축 지자기센서를 포함한 9축 IMU 신호를 사용하는 두 가지 모델(Models 2, 3)을 구현하고 비교 분석하였다. 이때 Model 2는 9축 IMU 신호를, 그리고 Model 3은 9축 IMU 신호와 S2J 벡터를 입력으로 사용한다.

검증 데이터로 기계 관절과 팔꿈치 관절에 대해 각각 8개와 12개 시행의 데이터를 사용하였다. 기계 관절의 경우에는 평균 가속도가 약 1.03 m/s2인 보통 속도의 실험 데이터(Normal) 4개와 평균 가속도가 약 2.28 m/s2인 빠른 속도의 실험 데이터(Fast) 4개가 사용되었다. 이때 검증 데이터는 학습에 사용된 데이터와 다른 날짜의 실험 데이터에 해당한다. 팔꿈치 관절의 경우, 6가지의 동작에 대한 데이터 중 학습에 사용되지 않은 피험자의 데이터를 검증에 사용하였다. 관절각의 추정 성능은 오차 쿼터니언의 회전 각도 αerr의 평균 제곱근 오차(Root Mean Squared Error, RMSE)를 이용하여 평가되었다.


3. 결과 및 고찰

3.1 검증 결과

Tables 12는 각각 기계 관절과 팔꿈치 관절에 대한 세 가지 비교방법의 추정 RMSE 결과를 보여준다. Table 3에서는 기계/팔꿈치 관절에 대한 3개의 신경망 모델의 평균 RMSE와 표준편차를 보여준다. Figs. 56은 각각 기계 관절과 팔꿈치 관절 데이터 중 하나에 대한 추정 결과 그래프로, 자기교란의 크기와 함께 추정 방법별 성능 비교, 그리고 모델별 성능 비교를 나타낸다.

Averaged RMSE of joint angle estimation for mechanical joint data(unit: deg)

Averaged RMSE of joint angle estimation for elbow joint data(unit: deg)

Comparison of averaged RMSE and standard deviation according to the model

Fig. 5

Result of Fast (4) in mechanical joint tests: (a) Magnitude of magnetic disturbance, (b) Estimation errors from Method 1 (Red), Method 2 (Green), and Proposed (Blue), (c) Estimation errors from Model 1 (Blue), Model 2 (Sky blue), and Model 3 (Orange)

Fig. 6

Result of Test 1-2 in elbow joint test: (a) Magnitude of magnetic disturbance, (b) Estimation errors from Method 1 (Red), Method 2 (Green), and Proposed (Blue), (c) Estimation errors from Model 1 (Blue), Model 2 (Sky blue), and Model 3 (Orange)

기계 관절 데이터의 경우, 대부분의 결과에서 제안된 신경망의 성능이 다른 두 방법에 비해서 우세하였다. 특히 고속조건의 실험 데이터에서도 추정 RMSE가 4o 이내로 나타났다. 반면에 Method 1과 2는 평균 RMSE가 각각 12.73o와 9.11o로 높은 수준의 오차가 발생한 것을 확인하였다. 이 중 Fast의 Trial 1에 대한 결과에서 Method 1은 시간의 진행에 따라서 오차가 약 20o까지 지속적으로 증가하는 모습을 보였으며, Method 2는 자기교란이 주어지는 구간에서 오차가 증가하는 경향을 보였다. 제안방법 또한 일정 수준의 추정 오차를 보였지만, 시간 진행에 따른 표류오차 발생이나 자기교란의 영향과는 무관한 모습을 보였다.

팔꿈치 관절의 결과에서는 제안방법이 기계 관절의 결과에 비해서 큰 수준의 오차를 보였다. 예로, 기계 관절 데이터에서는, 제안방법의 평균 RMSE가 3.48o인 반면, 팔꿈치 관절에서는 7.39o로 약 4o 가량 높은 오차를 보였다. 그럼에도 기존 방법인 Method 1과 2에 비해서 비교적 우세한 성능을 보였다. 이 중 Test 1-2의 경우, Fig. 5의 결과와 유사하게 Method 1과 2는 각각 표류오차와 자기교란으로 인한 오차가 발생하는 반면에 제안방법은 높은 성능으로 추정되는 모습이 확인되었다.

3.2 고찰

Method 1의 경우, 각 분절의 헤딩이 각속도 신호의 적분만을 통해 추정되기 때문에 자이로스코프 신호 내의 센서 잡음과 같은 오차 성분에 매우 취약하다. 그로 인하여, 사전에 자이로스코프 신호에서 바이어스 오차를 제거하였음에도 큰 수준의 표류 오차가 발생하는 것을 확인할 수 있었다. 다만, 일부 결과에서는 Method 1이 우수한 성능을 보였는데, 예로 Test 3과 4의 결과에서 Method 1의 RMSE가 평균 2.96o로 작은 수준의 오차를 보였다. 이는 센서 신호 내 오차 성분의 영향을 거의 받지 않았음을 나타낸다. 기계식/신체 관절에 대한 실험 시간이 각각 180초와 90초라는 점을 고려하였을 때, 센서 신호 내 오차 성분이 작은 경우에는 충분히 높은 성능을 나타낼 수 있을 것으로 추측된다. 그럼에도 Method 1은 헤딩 정보를 보정할 수 있는 수단이 없기 때문에, 표류오차가 발생하게 되면 오차를 제거하지 못한다는 한계점을 갖는다.

Method 2는 헤딩을 추정함에 있어서 지자기센서 신호를 사용하므로 헤딩 정보를 보정할 수 있지만, 자기교란으로 인한 영향의 발생이 불가피하다. 이러한 영향을 보상하기 위해 자기교란 보상 메커니즘이 칼만필터에 삽입되어 사용되지만, 이는 적절한 공분산과 파라미터 설정이 요구된다. 즉, 두 가지 비교방법의 추정 성능은 정교한 바이어스 오차 제거와 파라미터의 조정에 의존한다. 반면에 제안된 신경망은 바이어스 오차의 제거 없이 사용 가능하며, 모델이 구현되고 나면 추가적인 파라미터의 선정이 필요하지 않다는 이점을 지닌다.

6축 IMU 신호를 사용하는 제안된 신경망 모델과 지자기센서까지 포함된 9축 IMU 신호를 사용하는 두 가지 모델을 함께 비교하였을 때, 제안된 모델이 비교적 우수하였으나, 팔꿈치 관절 데이터에서는 우세폭이 작은 것을 확인하였다. 기계 관절의 경우에는 Model 2와 3 대비 제안방법의 우세폭이 5o 이상인 반면, 팔꿈치 관절에서는 2o 이내로 나타났다. Figs. 56에서는 Model 2와 3의 오차가 자기교란이 발생하는 구간에서 크게 증가하는 모습을 보였다. 특히, Fig. 5의 결과에서는 오차가 50o 이상 발생하는 것을 확인할 수 있다. 이는 지자기센서 신호를 입력 신호로 사용할 때, 매우 큰 수준의 부정확성이 발생할 수 있음을 나타낸다. 다만 팔꿈치 관절의 데이터에서는 자기교란이 주어지지 않는 구간에서 오히려 Model 2와 3이 제안된 모델에 비해서 높은 성능을 나타나는 것을 확인하였다. 그럼에도 두 모델은 자기교란이라는 오차 발생의 요소를 갖는 반면에, 제안된 모델은 지자기센서 신호를 사용하지 않고도 3차원 관절각 추정이 가능하다는 점에서 의미가 있다고 볼 수 있다.

제안방법에서는 6축 IMU 신호와 S2J 벡터를 입력 변수로 사용함으로써 관절의 기구학적 구속조건을 간접적으로 사용하였다. 다만, 식(3)의 구속조건 식은 분절이 강체이며 관절이 구면 관절이라는 가정에 기반하기 때문에, 신체 관절에서는 유효하게 적용되기 어렵다. 신체 관절은 볼-소켓 관절과 같은 기계식 구면 관절과 다르게, 근육이나 연골과 같은 연조직으로 구성되어 있기 때문에, 관절중심점이 뚜렷하게 존재하지 않는다. 이러한 요인으로 두 분절로부터 관절중심으로 전파된 가속도는 일치하지 않아, 구속조건이 명확하게 성립되지 않게 된다[10,11]. 이러한 불확실성의 요소로 인하여, 제안된 신경망 모델이 기계 관절 대비 신체 관절의 결과에서 저하된 수준의 성능을 보였을 것으로 추측된다. 또한 구속조건 식은 두 분절로부터 관절 중심점으로 전파된 가속도에 대한 식이기 때문에, 관절중심점의 가속도가 발생하는 동적 조건에서만 유효하다. 즉, 정적인 상태에서는 구속조건이 작동되지 않기 때문에 추정 성능이 저하될 수 있다는 한계점을 지닌다. 단, 본 연구의 목적은 지자기센서 없이 6축 IMU 신호만을 사용하여 3차원 관절각을 추정하는 모델의 구현 가능성을 확인하기 위한 것으로, 연구 결과를 통해 제안된 모델이 동적조건에서 효과를 보였다는 것을 확인하였다.


4. 결론

본 논문에서는 순환 신경망을 활용하여 6축 IMU를 기반으로 3차원 관절각을 추정하는 방법을 제안하였다. 제안하는 신경망 모델은 각 분절의 3차원 자세 추정에 필요한 3축 지자기센서를 사용하는 대신 관절의 기구학적인 구속조건을 간접적으로 활용하였다. 제안방법의 성능 검증은 기계 관절과 팔꿈치 관절을 대상으로 이뤄졌다. 본 연구의 결과는 제안방법이 기계 관절과 신체 관절 모두에서 기존 방법 대비 우수한 성능을 보였으며, 무엇보다 지자기센서 없이 6축 IMU 신호만으로 3차원 관절각을 도출하는 순환 신경망의 구성이 가능하다는 점을 보여준다. 제안방법의 오차가 기계 관절의 결과(평균 3.48o)에 비해 팔꿈치 관절의 결과(평균 7.39o)에서 크게 발생한 것은 연조직 변형 등에 기인한 구속조건의 불확실성에 따른 결과라 할 수 있다. 단, 본 연구에서는 제안방법의 개념검증 단계로써 3명의 피험자에 대해서만 검증이 이뤄졌다. 이에 따라서 추후 연구에서는 보다 더 다양한 피험자를 대상으로 한 실험을 통하여 신경망 모델의 성능 향상을 구현하고자 한다.

Acknowledgments

이 논문은 2018년도 정부(교육부)의 재원으로 한국연구재단 기초연구사업(No. 2018R1D1A1B07042791)의 지원을 받아 수행됨.

REFERENCES

  • El-Gohary, M., Pearson, S., McNames, J., Mancini, M., Horak, F., Mellone, S., Chiari, L., (2014), Continuous monitoring of turning in patients with movement disability, Sensors, 14(1), 356-369. [https://doi.org/10.3390/s140100356]
  • Díaz, S., Stephenson, J. B., Labrador, M. A., (2019), Use of wearable sensor technology in gait, balance, and range of motion analysis, Applied Sciences, 10(1), 234. [https://doi.org/10.3390/app10010234]
  • Lee, M., Park, S., (2020), Estimation of three-dimensional lower limb kinetics data during walking using machine learning from a single IMU attached to the sacrum, Sensors, 20(21), 6277. [https://doi.org/10.3390/s20216277]
  • Lee, T., Kim, I., Lee, S.-H., (2021), Estimation of the continuous walking angle of knee and ankle (Talocrural joint, subtalar joint) of a lower-limb exoskeleton robot using a neural network, Sensors, 21(8), 2807. [https://doi.org/10.3390/s21082807]
  • Lee, B. J., Kim, G. T., Kim, H. C., Shin, Y. J., (2019), Static and dynamic friction characteristics analysis of actuation module for friction compensation of exoskeleton robot, Journal of the Korean Society for Precision Engineering, 36(10), 929-935. [https://doi.org/10.7736/KSPE.2019.36.10.929]
  • Seel, T., Raisch, J., Schauer, T., (2014), IMU-based joint angle measurement for gait analysis, Sensors, 14(4), 6891-6909. [https://doi.org/10.3390/s140406891]
  • Müller, P., Bégin, M.-A., Schauer, T., Seel, T., (2016), Alignment-free, self-calibrating elbow angles measurement using inertial sensors, IEEE Journal of Biomedical and Health Informatics, 21(2), 312-319. [https://doi.org/10.1109/JBHI.2016.2639537]
  • Laidig, D., Lehmann, D., Bégin, M.-A., Seel, T., (2019), Magnetometer-free realtime inertial motion tracking by exploitation of kinematic constraints in 2-dof joints, Proceedings of the 2019 Annual International Conference of the IEEE Engineering in Medicine and Biology Society (EMBC), 1233-1238. [https://doi.org/10.1109/EMBC.2019.8857535]
  • Lee, J. K., Jeon, T. H., (2019), Magnetic condition-independent 3D joint angle estimation using inertial sensors and kinematic constraints, Sensors, 19(24), 5522. [https://doi.org/10.3390/s19245522]
  • Weygers, I., Kok, M., De Vroey, H., Verbeerst, T., Versteyhe, M., Hallez, H., Claeys, K., (2020), Drift-free inertial sensor-based joint kinematics for long-term arbitrary movements, IEEE Sensors Journal, 20(14), 7969-7979. [https://doi.org/10.1109/JSEN.2020.2982459]
  • Fasel, B., Spörri, J., Schütz, P., Lorenzetti, S., Aminian, K., (2017), Validation of functional calibration and strap-down joint drift correction for computing 3D joint angles of knee, hip, and trunk in alpine skiing, PloS One, 12(7), e0181446. [https://doi.org/10.1371/journal.pone.0181446]
  • Lee, C. J. and Lee, J. K., (2020), Drift reduction in IMU-based joint angle estimation for dynamic motion-involved sports applications, Journal of the Korean Society for Precision Engineering, 37(7), 539-546. [https://doi.org/10.7736/JKSPE.019.139]
  • Kuang, J., Niu, X., Chen, X., (2018), Robust pedestrian dead reckoning based on MEMS-IMU for smartphones, Sensors, 18(5), 1391. [https://doi.org/10.3390/s18051391]
  • McGrath, T., Stirling, L., (2020), Body-worn IMU human skeletal pose estimation using a factor graph-based optimization framework, Sensors, 20(23), 6887. [https://doi.org/10.3390/s20236887]
  • Lee, C. J., Lee, J. K., (2022), Wearable IMMU-based relative position estimation between body segments via time-varying segment-to-joint vectors, Sensors, 22(6), 2149. [https://doi.org/10.3390/s22062149]
  • Sabatini, A. M., (2005), Quaternion-based strap-down integration method for applications of inertial sensing to gait analysis, Medical and Biological Engineering and Computing, 43, 94-101. [https://doi.org/10.1007/BF02345128]
  • Lee, J., Lim, J., Lee, J., (2017), Compensated heading angles for outdoor mobile robots in magnetically disturbed environment, IEEE Transactions on Industrial Electronics, 65(2), 1408-1419. [https://doi.org/10.1109/TIE.2017.2726958]
  • Ligorio, G., Sabatini, A. M., (2015), A linear Kalman Filtering-based approach for 3D orientation estimation from Magnetic/Inertial sensors, Proceedings of the 2015 IEEE International Conference on Multisensor Fusion and Integration for Intelligent Systems (MFI), 77-82. [https://doi.org/10.1109/MFI.2015.7295749]
  • Lee, J. K., (2019), A parallel attitude-heading Kalman filter without state-augmentation of model-based disturbance components, IEEE Transactions on Instrumentation and Measurement, 68(7), 2668-2670. [https://doi.org/10.1109/TIM.2019.2906417]
  • Farahan, S. B., Machado, J. J., de Almeida, F. G., Tavares, J. M. R., (2022), 9-DOF IMU-based attitude and heading estimation using an extended kalman filter with bias consideration, Sensors, 22(9), 3416. [https://doi.org/10.3390/s22093416]
  • Weber, D., Gühmann, C., Seel, T., (2021), RIANN-A robust neural network outperforms attitude estimation filters, Ai, 2(3), 444-463. [https://doi.org/10.3390/ai2030028]
  • Hernandez, V., Dadkhah, D., Babakeshizadeh, V., Kulić, D., (2021), Lower body kinematics estimation from wearable sensors for walking and running: A deep learning approach, Gait & Posture, 83, 185-193. [https://doi.org/10.1016/j.gaitpost.2020.10.026]
  • Hossain, M. S. B., Dranetz, J., Choi, H., Guo, Z., (2022), Deepbbwae-net: A cnn-rnn based deep superlearner for estimating lower extremity sagittal plane joint kinematics using shoe-mounted imu sensors in daily living, IEEE Journal of Biomedical and Health Informatics, 26(8), 3906-3917. [https://doi.org/10.1109/JBHI.2022.3165383]
  • Sharifi Renani, M., Eustace, A. M., Myers, C. A., Clary, C. W., (2021), The use of synthetic imu signals in the training of deep learning models significantly improves the accuracy of joint kinematic predictions, Sensors, 21(17), 5876. [https://doi.org/10.3390/s21175876]
  • Seel, T., Schauer, T., Raisch, J., (2012), Joint axis and position estimation from inertial measurement data by exploiting kinematic constraints, Proceedings of the 2012 IEEE International Conference on Control Applications, 45-49. [https://doi.org/10.1109/CCA.2012.6402423]
  • Lee, J. K., Jeon, T. H., Jung, W. C., (2020), Constraint-augmented Kalman filter for magnetometer-free 3D joint angle determination, International Journal of Control, Automation and Systems, 18(11), 2929-2942. [https://doi.org/10.1007/s12555-019-0948-x]
Chang June Lee

Ph.D. candidate in the Department of Integrated Systems Engineering, Hankyong National University. His research interests include IMU-based human motion tracking and joint torque estimation as well as wearable robotics.

E-mail: cjlee@hknu.ac.kr

Woo Jae Kim

B.Sc. in the Department of Mechanical Engineering, Hankyong National University. His research interests include IMU-based human motion tracking.

E-mail: kwj2241@hknu.ac.kr

Jung Keun Lee

Professor in the School of ICT, Robotics and Mechanical Engineering, Hankyong National University. His research interests include inertial sensing-based human motion tracking, biomechatronics, wearable sensor applications, and data-driven estimation.

E-mail: jklee@hknu.ac.kr

Fig. 1

Fig. 1
Structure of the proposed network

Fig. 2

Fig. 2
Experimental setup for (a) mechanical and (b) elbow joint

Fig. 3

Fig. 3
Training and validation data for human elbow joint tests

Fig. 4

Fig. 4
Training procedure (CAL: calibration, OMC: optical motion capture)

Fig. 5

Fig. 5
Result of Fast (4) in mechanical joint tests: (a) Magnitude of magnetic disturbance, (b) Estimation errors from Method 1 (Red), Method 2 (Green), and Proposed (Blue), (c) Estimation errors from Model 1 (Blue), Model 2 (Sky blue), and Model 3 (Orange)

Fig. 6

Fig. 6
Result of Test 1-2 in elbow joint test: (a) Magnitude of magnetic disturbance, (b) Estimation errors from Method 1 (Red), Method 2 (Green), and Proposed (Blue), (c) Estimation errors from Model 1 (Blue), Model 2 (Sky blue), and Model 3 (Orange)

Table 1

Averaged RMSE of joint angle estimation for mechanical joint data(unit: deg)

Test (Trial) Method 1 Method 2 Proposed
Normal (1) 10.31 9.30 2.97
Normal (2) 4.46 7.55 3.50
Normal (3) 11.75 7.51 3.24
Normal (4) 4.60 9.55 4.80
Fast (1) 15.02 9.66 3.47
Fast (2) 14.02 10.06 3.45
Fast (3) 7.57 9.69 3.37
Fast (4) 12.38 11.30 3.05
Average 10.01 9.32 3.48

Table 2

Averaged RMSE of joint angle estimation for elbow joint data(unit: deg)

Test Method 1 Method 2 Proposed
Test 1-1 10.98 20.61 8.93
Test 1-2 32.38 24.94 11.08
Test 2-1 46.25 8.42 3.72
Test 2-2 41.49 15.13 3.98
Test 3-1 3.04 15.97 8.17
Test 3-2 3.82 21.46 6.61
Test 4-1 2.61 3.77 6.05
Test 4-2 2.38 34.46 6.72
Test 5-1 6.34 10.34 8.87
Test 5-2 22.12 37.21 9.29
Test 6-1 44.43 9.22 4.87
Test 6-2 39.40 16.84 10.41
Average 21.27 18.20 7.39

Table 3

Comparison of averaged RMSE and standard deviation according to the model

Model 1
(Proposed)
Model 2 Model 3
Mechanical 3.48 (0.57) 8.86 (6.60) 9.13 (7.24)
Elbow 7.39 (2.45) 9.26 (7.41) 7.93 (5.88)