Journal Search Engine
Search Advanced Search Adode Reader(link)
Download PDF Export Citaion korean bibliography PMC previewer
ISSN : 1598-6721(Print)
ISSN : 2288-0771(Online)
The Korean Society of Manufacturing Process Engineers Vol.19 No.12 pp.21-27
DOI : https://doi.org/10.14775/ksmpe.2020.19.12.021

Deep Learning Approaches to RUL Prediction of Lithium-ion Batteries

Sang-Jin Jung*, Jang-Wook Hur*#
*Department of Mechanical System Engineering(Department of Aeronautics, Mechanical and Electronic Convergence Engineering), Kumoh National Institute of Technology
#Corresponding Author : hhjw@kumoh.ac.kr Tel: +82-54-478-7399
09/06/2020 02/08/2020 07/08/2020

Abstract


Lithium-ion batteries are the heart of energy-storing devices and electric vehicles. Owing to their superior qualities, such as high capacity and energy efficiency, they have become quite popular, resulting in an increased demand for failure/damage prevention and useable life maximization. To prevent failure in Lithium-ion batteries, improve their reliability, and ensure productivity, prognosticative measures such as condition monitoring through sensors, condition assessment for failure detection, and remaining useful life prediction through data-driven prognostics and health management approaches have become important topics for research. In this study, the residual useful life of Lithium-ion batteries was predicted using two efficient artificial recurrent neural networks—long short-term memory (LSTM) and gated recurrent unit (GRU). The proposed approaches were compared for prognostics accuracy and cost-efficiency. It was determined that LSTM showed slightly higher accuracy, whereas GRUs have a computational advantage.



딥러닝을 이용한 리튬이온 배터리 잔여 유효수명 예측

정 상진*, 허 장욱*#
*금오공과대학교 기계시스템공학과(항공기계전자융합전공)

초록


    Agency for Defense Development(ADD)
    UD180018AD

    © The Korean Society of Manufacturing Process Engineers. All rights reserved.

    This is an Open-Access article distributed under the terms of the Creative Commons Attribution Non-Commercial License (http://creativecommons.org/licenses/by-nc/3.0) which permits unrestricted non-commercial use, distribution, and reproduction in any medium, provided the original work is properly cited.

    1. 서 론

    리튬이온 배터리는 1990년대부터 가볍고 높은 에 너지밀도로 고용량·고효율 구현이 가능한 장점으로 인해 대표적인 2차전지로 사용되고 있다. 대표적으 로 스마트폰, 태블릿, 노트북 등 휴대기기는 물론이 고, 전기자동차 및 에너지저장장치 등에 주요 동력 원으로 사용된다. 한편 NASA에서는 2000년 화성 탐사선이 예상치 못한 배터리 고장으로 인해 계획 된 탐사 목표를 달성하지 못하는 사고를 계기로 고 장예측의 중요성을 인식하면서 빅 데이터와 기계학 습(machine learning)을 이용한 고장 예지 및 건전성 관리(PHM)라는 새로운 분야의 연구가 활발히 진행 되었다[1~2]. 고장예지 및 건전성 관리 기술이란, 센 서를 이용하여 시스템이나 장비의 상태를 모니터링 하고 고장의 징후를 포착하는 진단(diagnostics)과 잔여 유효수명(RUL)의 예측(prognostics) 및 효과적인 관리 기술을 의미한다[3]. 고장예지 및 건전성관리 기술을 활용하여 시스템이나 장비의 잔여 유효수명 예측이 가능해지면 이를 통해 작업자의 접근이 어려운 영 역에서의 사고나 고장 등을 미리 예방하고, 보다 신속한 대응으로 고장에 의한 작동 중단을 줄일 수 있어 유지보수 비용뿐만 아니라 수리기간 동안 제 품 생산을 하지 못해 발생하는 손실기회비용을 절 감할 수 있다[4].

    최근 이러한 예측을 위해 기계학습 분야에서는 스스로 학습하여 문제의 해답을 제공해주는 인공신 경망 이론을 적용한 딥러닝을 주로 사용하고 있으 며, 이때 LSTM(Long Short-term memory)이나 GRU(Gated Recurrent Unit) 알고리즘을 많이 적용하 고 있다[5]. 그 이유는 연속적이고 길이가 긴 학습 데이터가 가지고 있는 순차적 의존성을 효과적으로 학습할 뿐만 아니라, 과거시간 단계 정보의 중요도 를 판별하여 얼마나 많은 과거 정보를 현재까지 끌 어올 것인지, 혹은 현재시간 단계의 정보를 얼마나 사용할 것인지 결정할 수 있기 때문에 긴 시간 동안 나타나는 입력 데이터의 의존성을 더욱 효과적으로 학습하는 것이 가능하기 때문이다[6].

    따라서 본 연구에서는 NASA의 open data portal에 있는 리튬이온 배터리 데이터를 기반으로 딥러닝에 LSTM과 GRU 알고리즘을 이용하여 리튬이온 배터 리 잔여 유효수명 예측을 수행하고, 오차율을 비교 분석하였다.

    2. NASA 배터리 데이터

    2.1 실험 장치 및 방법

    리튬이온 배터리 실험 데이터는 NASA Ames Prognostics Center에서 공개하고 있는 자료를 활용 하였다. 데이터 세트는 상업적으로 이용 가능한 리 튬 이온 충전식 배터리를 사용하였고, 실험 장치는 Fig. 1에 나타낸 것과 같이 전원공급장치, 부하장치, 전압계, 열전대 센서, 환경챔버, 임피던스 분석계, 스 위칭 회로, 데이터 수집장치 및 컴퓨터 등으로 구성 되었다[7].

    실험은 대기온도에서 3가지 작동 프로파일(충전, 방전 및 임피던스)을 통해 수행되었으며, 충전과 방전 형식은 Fig. 2와 같다. 충전과 방전 조건은 Table 1에 나타낸 바와 같이 배터리 전압이 4.2V에 도달할 때까지 1.5A에서 정전류 (CC:constant current) 모드로 충전하며, 전압이 4.2V가 되면 충전 전류가 20mA로 떨어질 때까지 정전압(CV:constant voltage) 모드로 계속 충전하였고, 방전은 배터리 별로 2.7V(B0005), 2.5V(B0006), 2.2V(B0007), 2.5V(B0018) 에 도달할 때까지 2.0A에서 정 전류모드로 수행하 였다.

    2.2 특성치 추출

    방전 실험 데이터는 배터리 단자 전압, 배터리 출력 전류, 배터리 온도, 배터리 용량, 충전기 측정 전류, 충전기 측정 전압 및 사이클 시간 벡터를 포 함하며, 충·방전 횟수별 배터리 단자 전압의 시간에 따른 변화를 B0005를 대상으로 Fig. 3와 같이 나타 내었다. 그리고 모든 배터리에 대해 배터리의 용량 을 충·방전 횟수에 따라 표시하면 Fig. 4과 같으며, 그에 따라 용량이 줄어드는 것을 확인할 수 있다.

    배터리는 충·방전을 거듭하면서 배터리의 초기 상태에 대비하여 용량이 점차 저하하게 된다. 배터 리의 성능과 수명을 표시하는 값으로 SoC(State of Charge)와 SoH(State of Health)가 있으며, SoC는 배 터리의 사용 가능한 잔량을 표시하고, SoH는 배터 리의 이상적인 상태와 현재 상태를 비교하여 표현 되는 상대적인 값이다. SoH는 일반적으로 배터리의 내부 저항, 임피던스, 컨덕턴스, 용량, 충·방전 횟수 를 고려하여 측정되며, 측정방법 및 기준은 배터리 의 설계 방법에 따라 다르지만, 가장 중요한 성능은 배터리 셀이 내주거나 받아들일수 있는 전하량, 특히 방전 시에 내줄 수 있는 방전 용량이다. 따라서 방 전 용량을 기준으로 SoH는 식 (1)과 같이 현재의 용 량(Caged )를 초기 용량(Cfresh)으로 나눈 값으로 정의 할 수 있고, SoH가 초기 상태의 80%가 될 때 배터 리를 사용할 수 없는 것으로 간주한다[8].

    S o H ( % ) = C a g e d C f r e s h
    (1)

    배터리의 4가지 실험조건을 대상으로 충·방전 횟 수와 SOH의 관계를 Fig. 5와 같이 나타내었다. 그림 에 나타낸 것처럼 배터리마다 용량이 줄어드는 속도 가 다르며, 배터리 번호가 B0006, B0018, B0005, B0007 순으로 빨리 용량이 줄어드는 것을 확인할 수 있다.

    3. 딥러닝을 이용한 수명예측

    3.1 LSTM 알고리즘

    LSTM은 RNN(Recurrent Neural network)의 일종으 로, Fig. 6와 같은 구조 개념을 가지며, 가장 많이 사용하는 딥러닝 기법중 하나로써, 망각 게이트 (forget gate), 입력 게이트(input gate) 및 출력 게이 트(output gate)의 3종류 게이트 유닛과 기억소자 (memory cell)로 이루어져 있다[9].

    LSTM의 첫 단계는 cell state로부터 어떤 정보를 버릴 것인가를 결정하는 것으로 이 단계의 gate를 “forget gate layer(ft )”라고 표시한다. “sigmoid layer( δ)”를 통과하여 “current cell memory”에서 얼마를 기억하 고, 얼마를 망각할 것인지를 결정하며, 식 (2)와 같 이 표시된다.

    f t = δ ( W f [ h t 1 + x t ] + b f )
    (2)

    • 여기서, W : weight vectors of each gate

    • ht-1 : hidden previous cell output

    • xt : input vector

    • b : bias of each gate

    다음 단계는 앞으로 들어오는 정보 중 어떤 정보 를 저장할지를 정하는 것으로 이 단계의 게이트를 “input gate layer (It )”라고 부르며, “sigmoid layer”가 어 떤 값을 업데이트할지 관여하고, “tanh layer”가 새로 운 후보 값들인 candidate( C ˜ t )라는 vector를 만들어 cell state에 더하는데, 이 과정을 식 (3) 및 (4)와 같이 나 타낼 수 있다.

    I t = δ ( W i [ h t 1 + x t ] + b i )
    (3)

    C ˜ t = tanh ( W c [ h t 1 + x t ] + b c )
    (4)

    과거 state인 previous cell memory(Ct-1)를 통해 Ct 를 생성하며, 식 (5)와 같이 기존 데이터에서 망각 게이트만큼 잊어버리고, 입력 게이트만큼 추가한다.

    C t = f t C t 1 + i t C ˜ t
    (5)

    • 여기서 , Ct : current cell memory

    • ⊙ : element wise multiplication

    출력 state는 sigmoid 게이트와 tanh 게이트를 사용 하여 식 (6) 및 (7)과 같이 표현할 수 있다.

    O t = δ ( W O [ h t 1 + x t ] + b O )
    (6)

    h t = O t tanh ( C t )
    (7)

    • 여기서 , Ot : output gate

    • ht : current cell output

    3.2 GRU 알고리즘

    GRU 기법은 LSTM의 변형된 형식으로 업데이트 계산을 줄여 LSTM보다 간단한 구조를 갖는다[6]. LSTM에서는 망각 게이트, 입력 게이트 및 출력 게이 트라는 3개의 게이트가 존재하지만, GRU에서는 Fig. 7과 같이 리셋 게이트와 업데이트 게이트의 2가지 게이트만 존재한다. GRU의 첫 단계는 “reset gate(rt )” 로써, 과거의 기억이 새로운 기억에 얼마나 중요한지 를 결정하고, 식 (8)과 같이 표현된다.

    r t = δ ( W r [ h t 1 + x t ] + b r )
    (8)

    업데이트 게이트는 LSTM에 망각 게이트와 입력 게이트를 포함하며, 식 (9), (10) 및 (11)처럼 zt의 값 에 따라 update gate(zt )와 candidate(gt )을 제어하여 기 억을 저장한다.

    z t = δ ( W z [ h t 1 + x t ] + b z )
    (9)

    g t = tanh ( W g [ h t 1 + x t ] + b g )
    (10)

    h t = z t h t 1 + ( 1 z t ) g t
    (11)

    3.3 딥 러닝 절차

    딥 러닝을 수행하기 위한 절차는 Fig. 8과 같으며, NASA Ames Prognostics Center의 데이터를 이용하여 capacity data set을 만들고, SoH를 계산하여 데이터를 구축하였다. 전체 데이터의 약 70% 수준인 B0005, B0006 및 B0018의 데이터를 학습용 데이터로 하고, 나 머지 30% 수준인 B0007의 데이터를 테스트용 데이터 로 LSTM과 GRU 기법을 활용한 딥 러닝을 실시하였다.

    4. 수명예측 결과

    NASA Ames Prognostics Center에서 공개하고 있 는 데이터를 이용하여, LSTM과 GRU 방법론을 대 상으로 딥러닝을 수행하였다. 학습 속도, 에포크 크 기, 각 에포크에서 반복할 수 있는 시간 단계 크기의 배치 수 및 네트워크의 뉴런 연결 밀도 등의 매개변 수를 적용하였고, B0007 배터리에 대한 잔여 유효수 명 예측 결과를 Fig. 9과 Fig. 10에 나타내었다. 2가지 방법론 모두 epoch 150, batch size 20일 때 실제 데이 터와 예측데이터에서 가장 큰 편차를 보이고 있으며, 이는 batch size의 부족이 원인으로 판단된다. 반면 Fig. 10의 epoch 150, batch size 40일 때의 경우(Fig. 9(b))가 epoch 200, batch size 40일 때(Fig. 9(c)) 보다 편차가 적었다. 이를 통해 epoch와 batch size가 무조 건 많다고 좋은 것이 아니고, 특정 구간에서 최대의 효율을 보이는 것을 알 수 있다.

    SoH의 예측 오차율을 확인하기 위해서는 일반적으 로 식 (12)와 같은 평균 제곱근 오차 (RMSE, Root Mean Square Error)를 사용하거나, 식 (13)과 같이 결 정계수(R2)가 1의 근처에 있는지 확인하여 유용성을 판단하는 방법이 주로 사용되고 있다.

    R M S E = 1 n ( y = 1 n ( R P t ) 2 ) 2
    (12)

    • 여기서, R : real data

    • P : prediction data

    R 2 = 1 ( y i y ^ i ) 2 ( y i μ ) 2
    (13)

    • 여기서, yi : true value

    • y ^ i : prediction value

    • μ : average

    LSTM과 GRU의 잔여 유효수명 오차육 비교 결과 를 Table 2에 나타내었으며, LSTM과 GRU를 이용하 여 계산한 잔여 유효수명은 모두 5% 이내의 오차를 보이고 있다. 또한 2가지 알고리즘 모두 Epoch 150, Batch size 40일 때 잔여 유효수명 오차가 약 1% 수 준으로 가장 높은 정확도를 보였다. 이때 2가지 알고 리즘의 평균 제곱근 오차와 결정계수를 비교하면, LSTM이 GRU보다 정확도가 더 높은 것을 확인할 수 있으나, 계산속도(computation time)는 GRU가 LSTM 보다 2배 정도 빠르다.

    5. 결론

    NASA Ames Prognostics Center에서 공개하고 있 는 데이터를 이용하여, LSTM과 GRU 알고리즘을 통해 리튬이온 배터리의 잔여 유효수명을 계산하였 다. 얻어진 결과를 요약하면 다음과 같다.

    • 1. LSTM과 GRU를 이용하여 잔여 유효수명을 계산 한 결과 모두 5% 이내의 오차를 보였다.

    • 2. Epoch 150, batch size 40일 때, 잔여 유효수명 정 확도가 가장 우수하였다.

    • 3. 모든 조건에서 LSTM이 GRU보다 조금 높은 정 확도를 보였지만, 계산속도는 GRU가 LSTM보다 2배 빠르다.

    후 기

    본 논문은 국방과학연구소의 지원(RAM 특화연구 실, UD180018AD)을 받아 수행된 연구 결과임.

    Figure

    KSMPE-19-12-21_F1.gif
    Test equipment of battery
    KSMPE-19-12-21_F2.gif
    Charge and discharge of battery
    KSMPE-19-12-21_F3.gif
    Discharge voltage curve of B0005
    KSMPE-19-12-21_F4.gif
    Discharge capacity curve of batteries
    KSMPE-19-12-21_F5.gif
    Relation between charge cycles and SoH
    KSMPE-19-12-21_F6.gif
    LSTM structure
    KSMPE-19-12-21_F7.gif
    GRU structure
    KSMPE-19-12-21_F8.gif
    Flowchart of deep learning
    KSMPE-19-12-21_F9.gif

    Discharge prediction using LSTM

    KSMPE-19-12-21_F10.gif

    Discharge prediction using GRU

    Table

    Test conditions of battery
    Comparison by parameters

    Reference

    1. Goebel, K., Saha, B., Saxena, A., Celaya, J. R. and Christophersen, J. P., "Prognostics in Battery Health Management," IEEE Instrumentation & Measurement Magazine, pp. 33~40, 2008.
    2. Sim, S. H., Choi, J. H., “Remaining Useful Life Prediction of Li-Ion Battery Based on Charge Voltage Characteristics”, Transactions of the Korean Society of Mechanical Engineers B, Vol. 37, No. 4, pp. 313~322, 2013.
    3. Lee, S. H., Yun, B. D., “Industry 4.0 and Direction of Failure Prediction and Health Management Technology (PHM)”, Journal of the Korean Society for Noise and Vibration Engineering, Vol. 25, No. 1, pp. 22-28, 2015.
    4. Tian, Z., Wong, L., Safaei, N., “A Neural Network Approach for Remaining Useful Life Prediction Utilizing Both Failure and Suspension Histories”, Mechanical Systems and Signal Processing, Vol. 24, No. 5, pp. 1542-1555, 2010.
    5. Cho, K., Bart van. M., Caglar, G., Dzmitry, B., Fethi, B., Holger, S., Yoshua, B., “Learning Phrase Representations using RNN Encoder-Decoder for Statistical Machine Translation”, 2014.
    6. Bechhoefer, E., Bernhard, A., He, D. and Banerjee, P., "Use of Hidden Semi-Markov Models in the Prognostics of Shaft Failure", American Helicopter Society 62th Annual Forum, Phenix, USA, 2006.
    7. Saha, B., & Goebel, K. “Battery Data Set”, NASA Ames Prognostics Data Repository, 2007.
    8. Couto, L. D., Schorsch, J., Nicotra, M. M., Kinnaert, M., “SOC and SOH Estimation for Li-ion Batteries Based on an Equivalent Hydraulic Model. Part I: SOC and Surface Concentration Estimation,” American control conference (ACC), pp. 4022–4028, 2016.
    9. Hur, J. W., Akpudo, U. E., “A Deep Learning Approach to Prognostics of Rolling Element Bearings,” International Journal of Integrated Engineering Vol. 12, No. 3, pp. 178-186, 2020.